빌 게이츠가 AI를 두려워하지 않는 이유

Bill Gates isn’t too scared about AI

빌 게이츠가 AI를 두려워하지 않는 이유(Bill Gates isn’t too scared about AI) / Will Douglas Heaven

빌 게이츠는 며칠 전 블로그를 통해 AI의 실존적 위험을 그리 두려워하지는 않는다고 말했다. 그는 이전에도 이러한 기술적 변혁을 경험한 적이 있기 때문이다.

2023년 7월 13일

빌게이츠가 인공지능의 위험성에 우려를 표명하는 기술 분야의 저명인사 대열에 동참했다. 결론부터 말하자면, 빌 게이츠는 AI의 위험을 그리 걱정하지는 않는다. 전에도 이런 일이 있었기 때문이다.

지난 몇 주 동안 이어진 파멸론 후에 찾아온 낙관론은 신선하지만, 새로운 아이디어는 거의 없다.

기술계의 억만장자이자 자선사업가인 빌 게이츠는 지난 7월 11일 개인 블로그 ‘게이츠노트(GatesNotes)’에 자신의 주장을 담은 포스트를 올렸다. 그는 “내가 가장 자주 듣고 읽는 우려에 대해 인정하고, 이를 공유하고, 이에 대해 어떻게 생각하는지를 설명하고자 한다”라고 적었다.

게이츠의 말에 따르면 AI는 “우리 일생에 보게 될 가장 변혁적인 기술(transformative technology)”이다. 그가 세상에 내놓은 인터넷, 스마트폰, PC와 같은 기술보다 AI가 더 많은 일을 해낼 수 있다는 뜻이다. (또한 그는 향후 수십 년 동안 AI에 필적하는 기술이 발명되지 않으리라 전망한다.)

게이츠는 몇 주 전 샌프란시스코에 설립된 AI 안전센터(CAIS)가 발표한 성명서에 서명한 수십 명의 고위 인사 중 한 명이다. 이 성명서에는 “AI로 인한 멸종의 위험을 완화하는 것이 감염병과 핵전쟁과 같은 사회적 규모의 위험과 함께 전 지구적 우선순위가 되어야 한다”고 적혀 있다. [*편집자 주: 이 성명서에는 딥러닝의 아버지로 불리는 제프리 힌턴, 오픈AI 샘 알트먼 대표, 데미스 허사비스 구글 딥마인드 CEO 등이 서명했다.]

그러나 어제 게이츠가 올린 블로그 포스트에는 공포감을 조성하는 내용이 없다. 사실 실존적 위험은 전혀 찾아볼 수 없다. 대신 게이츠는 ‘장기적’ 위험과 ‘즉각적’ 위험을 비교하는 논쟁 구도를 잡고, ‘이미 존재하거나 곧 존재할 위험’에 초점을 맞췄다.

영국 앨런 튜링 연구소(Alan Turing Institute)의 윤리 및 책임 혁신 연구 책임자인 데이비드 레슬리(David Leslie)는 “게이츠는 꽤 오랜 시간 같은 생각을 견지해 왔다”고 말한다. 레슬리는 게이츠가 딥러닝이 처음 등장했던 10년 전, AI의 실존적 위험에 관해 이야기했던 유명 인사 중 한 명이었다고 말한다. “그는 예전엔 초지능(superintelligence)을 더 우려했었다. 지금은 그런 우려는 다소 누그러진 것 같다”고 레슬리는 덧붙였다.

게이츠가 실존적 위험을 완전히 무시한 것은 아니다. 그가 궁금해하는 것은 우리가 흔히 범용 인공지능 또는 AGI라고 부르는 ‘어떤 주제나 작업이든 학습할 수 있는 AI를 개발할 경우’가 아닌 ‘언제’ 무슨 일이 벌어질까 하는 것이다.

게이츠는 말했다. “10년 후든, 20년 후든 (AGI가 개발되는 시점에) 도달하면 우리 사회는 심오한 질문과 마주해야 할 것이다. 슈퍼 AI가 스스로 목표를 설정하면 어떻게 될까? 그 목표가 인류의 목표와 충돌한다면 어떻게 해야 할까? 아예 슈퍼 AI를 만들지 말아야 하나? 하지만 이러한 장기적 위험을 생각하면서 더 즉각적인 위험을 간과해서는 안 된다.”

게이츠의 견해는 딥러닝의 선구자 제프리 힌턴(Geoffrey Hinton)과 메타 AI의 얀 르쿤(Yann LeCun), 조엘 피노(Joelle Pineau) 및 시그널(Signal)의 메러디스 휘터커(Meredith Whittaker)의 중간 지점쯤이다. 힌턴은 지난 5월, 구글을 그만두며 AI에 대한 우려를 공개적으로 표한 반면, 르쿤과 피노는 실존적 위험에 대한 논의가 ‘터무니없고’ ‘혼란스럽다’고 생각하며, 휘터커는 힌턴과 다른 사람들이 제기하는 우려는 ‘괴담’이라 생각한다.

레슬리는 게이츠가 지금 어떤 기여를 하고 있는지 묻는 것이 흥미롭다고 말한다. 레슬리는 “모두가 이 문제를 이야기하고 있고, 우리는 포화 상태에 이르렀다”고 말한다.

게이츠가 그렇듯 레슬리도 ‘암울한’ 시나리오를 완전히 무시하지는 않는다. 레슬리는 “악의적 행위자가 이러한 기술을 악용해 치명적인 피해를 줄 수 있다”라며 “그러나 이를 이해하기 위해 초지능, 종말론적 로봇, AGI에 대한 추측을 받아들일 필요는 없다”고 말한다.

레슬리는 “당장 우려해야 할 것은 생성형 AI의 급속한 상용화로 우리에게 당면한 위험에 대처해야 하는 것이라는 데 동의한다”고 말한다. “이러한 우려는 우리의 시야를 넓혀서 ‘그래, 자, 당장 우려되는 것이 무엇이지?’ 라고 질문해야 한다는 긍정적 효과를 준다”고 그는 덧붙였다.

1970년대와 80년대에 계산기는 학생들이 수학을 배우는 방법을 바꾸었고, 이는 기본적인 산수 능력 자체보다 게이츠가 말하는 ‘산수 뒤에 있는 사고력’에 집중하게 했다. 게이츠는 이제 챗GPT와 같은 앱이 다른 과목에서 동일한 역할을 할 것이라 보고 있다.

1980년대와 90년대에는 워드 프로세스와 스프레드시트 프로그램이 사무 업무를 변화시켰다. 이러한 변화는 게이츠의 마이크로소프트가 주도한 것이었다.

게이츠는 사람들이 어떻게 적응했었는지 되짚어 보고 우리가 다시 이렇게 할 수 있다고 주장한다. “워드 프로세스 애플리케이션은 사무 업무를 완전히 없애지는 않았지만, 업무를 완전히 바꾸어놨다”고 적었다. “AI로 인한 변화는 험난한 전환이 될 테지만, 사람들의 삶과 생계유지에 대한 혼란을 줄이기에 충분하다.”

허위 정보에 대처하는 방법과 비슷하다. 우리는 스팸에 대처하는 방법을 배웠기에 딥페이크에도 동일하게 대처할 수 있다. “결과적으로 대부분의 사람은 이메일을 두 번씩 보는 법을 배웠다”고 게이츠는 적었다. “사기의 형태가 점점 더 정교해지면서 그 대상도 넓어졌다. 딥페이크에 대응하기 위해서도 이와 같은 근육을 키워야 할 필요가 있다.”

게이츠는 목록에 적혀 있는 모든 피해를 해결하기 위해 신속하면서 신중한 조치를 취할 것을 촉구한다. 문제는 그의 제안이 새로운 것이 아니라는 점이다. 그의 제안 대부분은 진부하고, 일부는 너무 안이하다.  

지난 몇 주 동안 다른 사람들이 했던 것처럼, 게이츠 또한 국제원자력기구(IAEA)와 유사한 국제기구를 통해 AI를 규제할 것을 주장한다. 그는 이러한 방법이 AI 사이버 무기 개발을 통제할 수 있는 좋은 방안이 될 것이라 생각하지만, 어떤 규제를 축소하고 어떻게 이를 시행해야 하는지는 언급하지 않았다.

게이츠는 정부와 기업이 재교육 프로그램과 같은 지원을 제공해 사람들이 구직 시장에서 뒤처지지 않게 해야 한다고 말한다. 또한 챗GPT와 같은 앱이 표준이 되는 세상으로 바뀌는 상황에서 교사들도 지원받아야 한다고 주장한다. 그러나 게이츠는 이러한 지원이 구체적으로 어떤 모습일지는 밝히지 않았다.

또한 게이츠는 딥페이크를 더 잘 감지해 내는 도구가 필요하며, 적어도 딥페이크 감지 도구를 사용할 수 있어야 한다고 말한다. 하지만 최신 도구조차 AI가 생성한 이미지나 텍스트를 잘 감지하지 못하여 유용하지 못하다. 생성형 AI가 발전하면, AI 생성 콘텐츠 탐지기도 이를 따라잡을 수 있을까?

게이츠는 “건강한 공개 토론은 모두가 기술과 그 이점 및 위험에 대해 잘 알고 있는지에 달려 있다”는 데 동의한다. 그러나 그는 종종 AI가 AI의 문제를 해결할 것이라는, 모두가 공감하지는 않는 확신에 빠지곤 한다.

맞다. 당면한 위험이 최우선 순위가 되어야 한다. 그렇다. 우리는 이전에도 기술 격변기를 헤쳐왔고 (또는 불도저로 밀어붙였고), 다시 그렇게 할 수도 있다. 하지만 어떻게 이런 일이 가능할까?

게이츠는 “지금까지 AI의 위험성에 대한 모든 글을 볼 때, 한 가지 분명한 것은 모든 답을 가지고 있는 사람은 아무도 없다는 것이다”라고 말한다.

지금이 바로 그런 경우이다.

2023 MIT Technology Review