빌 게이츠와 샘 알트먼 대화 "이게 마지막으로 힘든일"
지난 1월 11일에 세대를 넘어 가장 영향력 있는 IT리더인 빌 게이츠와 샘 알트먼의 약 30분 짜리 인터뷰 팟캐스트와 영상이 공개되었습니다. (Unconfuse me Episode 6 Sam Altman)
주로 빌 게이츠가 질문을 하고, 샘 알트먼이 답을 하는 형식이긴 하나, 제가 더 감명을 받는 부분은 역시 질문을 잘하는 빌 게이츠의 통찰력이었습니다. 시대를 관통하는 질문이 날카롭다 보니, 오히려 샘의 대답이 두리뭉실한 느낌이 들었답니다.
개인적으로 두 사람을 너무나 존경하는 제 입장에서는 여러 번 반복해서 듣고 중요 부분을 노트로 남길 만큼 감명을 주는 대화 내용이었기에 혼자만 알고 있기엔 너무 아까워서 이곳에 중요 대화 부분을 정리를 해 봅니다. (번역은 대본을 먼저 번역툴로 돌리고, 이해를 돕기 위해 제가 약간의 설명과 의역을 덧 붙였습니다.) 밑의 정리한 질문과 대답의 순서는 진행 순서와는 상관없이 제가 가장 관심과 인사이트를 느꼈던 8가지를 골라 그 순서로 구성하였습니다.
1. 부족함에 중점을 둔 사고방식의 변화
빌 게이츠:
지금까지의 우리의 생각하는 시스템은 부족함을 기반으로 하고 있습니다. 예를 들어 교사나 의사의 희소성, 좋은 아이디어의 희소성을 중심으로 구성되어 이것을 해결하는 방법으로 발전되었기 때문에, 이런 부족함이 없이 자란 세대가 사회를 어떻게 조직하고 무엇을 해야 하는지에 대한 철학적 개념을 찾을 수 있을지 궁금합니다. 어쩌면 그들은 해결책을 내놓을지도 모르죠. 제 생각은 희소성을 중심으로 형성되어 있어서 그런 생각을 하는 것조차 힘들어요.
샘 알트먼:
그런 의미에서 우리는 여기에서 무언가를 포기하고 있지만, 어떤 의미에서는 우리보다 더 똑똑한 것들을 곧 갖게 될 것이라고 믿습니다. 우리가 이 희소성 이후의 세계에 들어갈 수 있다면 우리는 새로운 일을 찾을 수 있을 것입니다. 아주 다르게 느껴질 것입니다. 말라리아를 해결하는 대신 ('말라리아 퇴치'는 빌 게이츠의 최고 인생 목표 중 하나) 어떤 은하계가 마음에 드는지, 그 은하계에서 무엇을 할 것인지 결정하게 될지도 모릅니다.
저는 우리가 인생을 살면서 결코 문제가 없어지지 않을 것이고, 성취감을 찾고 서로를 위해 일을 할 수 있는 다양한 방법 또한 없어지지 않을 것이며, 이런 방식으로 다른 인간을 위해 문제를 해결하는 방법을 이해하는 것이 정말 중요하게 남을 것이라고 확신합니다. 분명 달라질 것이지만 유일한 탈출구는 그 과정을 통과하는 것 (이 시간을 경험하는 것) 뿐이라고 생각합니다. 우리는 이 일을 해야 합니다. 그렇게 될 겁니다. 이것은 이제 거스를 수 없는 기술의 흐름입니다. 그 가치가 너무 커요. 저는 우리가 해낼 수 있을 거라고 확신하지만, 예전과는 많이 달라질 것 같다는 느낌이 듭니다.
2. AGI, AGI+가 개발될 경우의 우려
빌 게이츠:
인공지능의 놀라운 기능인 AGI, AGI+에 도달하면 다음과 같은 것이 걱정됩니다. 하나는 나쁜 사람이 시스템을 통제하는 것입니다. 똑같이 강력한 시스템을 가진 사람이 선한 의도를 가진 사람이라면 이 문제를 최소화할 수 있겠죠. 또 하나는 시스템이 통제권을 장악할 가능성이 있습니다. 그리고 인간의 목적입니다. 기계가 모든 것을 해결하려고 하면 철학적으로 혼란스러워집니다. 사회를 어떻게 조직할 것인가요? 예, 우리는 교육을 개선할 것이지만, 이렇게 극단적인 상황에 이르면 무엇을 위한 교육이 될까요? 앞으로 20년 안에 그런 일이 일어날 가능성이 전혀 없는 것은 아닙니다.
샘 알트먼:
기술을 연구하는 데는 심리적으로 어려운 부분이 많지만, 이 일이 저에게는 가장 어려운 일입니다. 왜냐하면 저는 이 일에서 많은 만족감을 얻고 또한 실질적인 부가가치를 창출합니다. 어떤 의미에서는 이런 균형감을 갖는 일이 제가 하는 일 중 마지막으로 힘든 일이 될 수도 있습니다.
3. AI가 현대 문제를 해결할까?
빌 게이츠:
AI가 아이들에게 공부를 알려주고 동기 부여하거나 알츠하이머 치료제를 발견하는 등 현재의 특정 문제에 적용하는 방법은 꽤 명확하다고 생각합니다. 하지만, AI가 전쟁을 줄이고 양극화를 줄이는 데 도움이 될 수 있는지 여부는 AI가 발전하면 발전할수록 양극화되지 않는 것이 상식이고 전쟁을 하지 않는 것이 상식이라는 것에, 많은 사람들이 회의적일 것이라고 생각합니다. 저는 사람들이 서로 잘 지낼 수 있는지와 같은 인간의 가장 어려운 문제에 대해 연구했으면 좋겠어요. AI가 인간이 서로 잘 지내는 데 기여할 수 있다고 생각한다면 매우 긍정적이라고 생각합니다.
샘 알트먼:
저는 인공지능이 우리를 놀라게 할 것이라고 믿습니다. 이 기술이 얼마나 많은 일을 할 수 있는지에 대해 우리는 놀라게 될 것입니다. 더 두고 봐야겠지만 저는 매우 낙관적입니다. 저도 동의합니다. 기술이 얼마나 큰 기여를 할 수 있을지에 대해서요.
4. AI가 적용되어 가장 기대되는 분야
빌 게이츠:
AI는 어려운 문제를 해결하는 데 도움이 될 수 있다고 생각합니다. 현재로서는 AI를 통해 생산성이 크게 향상되는 것을 목격하고 있으며, 이는 매우 좋은 일입니다. 가장 기대되는 분야는 무엇인가요?
샘 알트먼:
우선, 우리가 길고 지속적인 곡선을 그리고 있다는 점을 기억할 필요가 있다고 생각합니다. 현재 우리는 작업을 수행할 수 있는 AI 시스템을 보유하고 있습니다. 물론 모든 일을 할 수는 없지만, 작업을 수행할 수 있고 생산성이 향상되고 있습니다. 저는 사람들에게 훨씬 더 강력한 도구를 제공하면 단순히 작업 속도가 빨라지는 것뿐만 아니라 질적으로 다른 일을 할 수 있다고 믿습니다. 프로그래머의 효율성이 3배 높아진다는 것은 단순히 작업을 3배 더 많이 할 수 있다는 것이 아니라, 더 높은 수준의 추상화에서 더 많은 두뇌 능력을 사용하여 완전히 다른 것을 생각할 수 있게 된다는 뜻입니다. 언젠가는 "가서 새로운 물리학을 발견해"라고 말할 수 있는 AI가 등장할 수도 있습니다. 지금 우리가 보고 있는 것들은 매우 흥미롭고 훌륭하지만, 적어도 향후 5년 또는 10년 동안은 이 기술이 매우 가파른 개선 곡선을 그릴 것이라는 맥락에서 생각해 볼 가치가 있다고 생각합니다. 코딩은 아마도 오늘날 우리가 가장 기대하는 생산성 향상 분야일 것입니다.
5. 정보 체계를 이해할 수 있을까?
빌 게이츠:
ChatGPT가 이렇게 발전할 줄은 몰랐습니다. 정말 놀라웠고 인코딩에 대한 이해도 부족했죠. 숫자는 알고 있고, 숫자가 늘어나는 것을 볼 수 있지만 셰익스피어가 어디에 인코딩 되어 있는지는 알 수 없으니까요. 우리가 그 표현을 이해할 수 있을까요? (이 질문은 빌 게이츠의 바로 전 에피소드에서 AI의 최고 석학인 최예진 교수님에게 한 질문과 똑같습니다. 참조 링크는 여기에 있습니다.)
샘 알트먼:
100% 가능합니다. 인간의 뇌에서 이 작업을 수행하는 것은 매우 어렵습니다. 비슷한 문제라고 할 수 있는데, 뉴런과 뉴런이 연결되어 있다는 것입니다. 연결은 움직이고 있고 우리는 뇌를 잘라서 어떻게 진화하는지 볼 수는 없지만 이것은 엑스레이로 촬영할 수 있습니다. 해석 가능성에 대한 매우 훌륭한 연구가 진행되어 왔으며, 앞으로 더 많은 연구가 이루어질 것이라고 생각합니다. 이러한 네트워크를 언젠가는 이해할 수 있을 것이라고 생각하지만 현재 우리의 이해도는 낮습니다. 우리가 이해한 작은 부분들은 이것들을 개선하는 데 큰 도움이 되었습니다. 우리 모두는 정말 이해하고 싶은 의욕이 있지만, 그 규모가 너무 방대합니다. 셰익스피어는 뇌의 어느 부분에 부호화되어 있으며, 어떻게 표현되는가 하는 질문에 대해서는 우리도 모릅니다. 정말 모르지만, 우리가 원하는 모든 검사를 완벽하게 엑스레이로 촬영하고 관찰하고 수행할 수 있어야 하는 상황이라 아직 모른다고 말하는 것은 왠지 모르게 만족스럽지 않습니다.
6. AI와 로봇이 만드는 노동시장의 변화
빌 게이츠:
AI가 적용된 한 측면은 인간 수준의 능력을 갖춘 손과 발을 가진 로봇이고 이것은 블루칼라 일자리입니다. 하드웨어 전문가들이 그 비용을 비싸지 않게 제공한다면, 블루칼라 유형의 많은 일자리 시장이 빠르게 변화할 수 있을 것입니다. 이 변화는 어떤 것일까요?
샘 알트먼:
생각을 7년 또는 10년을 되돌리면 이런 변화는 블루칼라 업무가 먼저 영향을 받고, 화이트칼라 업무가 두 번째, 창의성은 마지막에 영향을 받을 것이라는 예측이 지배적이었습니다. 하지만 지금은 정반대의 방향으로 흘러가고 있습니다. 왜 그런 일이 일어났는지에 대한 흥미로운 시사점이 많이 있다고 생각합니다. 창의적인 작업, GPT 모델의 환각은 버그가 아니라 기능입니다. 새로운 것을 발견할 수 있게 해 주죠. 선입견이 있지만 때로는 과학이 그런 식으로 가고 싶지 않을 때도 있지만, 기술이 어디로 가는지 따라가야 하는 사례라고 생각합니다. 반면 로봇이 무거운 기계를 움직이게 하려면 정말 정밀하게 움직여야 합니다. 물리적 하드웨어 측면에서는 정말 흥미로운 새로운 플랫폼이 만들어지고 있습니다. 언젠가는 아까 말씀하신 것처럼 언어 이해력과 영상 이해력을 갖춘 모델을 사용하여 "로봇으로 놀라운 일을 해보자"라고 말할 수 있게 될 것입니다.
7. AI의 규제 방법
빌 게이츠:
소셜 미디어에 대해 효과적으로 대처하지 못한 경험이 있는데, AI에 대한 규제에 대해 이야기할 때 어떤 종류의 규제가 만들어질지 명확하게 알 수 있을까요?
샘 알트먼:
이 분야에 너무 많은 규제를 가하는 것은 매우 쉬운 일입니다. 이전에 그런 일이 벌어졌던 많은 사례를 살펴볼 수 있습니다. 하지만 만약 우리가 맞고 이 기술이 우리가 생각하는 만큼 발전한다면 사회, 지정학적 힘의 균형 등 많은 부분에 영향을 미칠 것이기 때문에 아직은 가상이지만 우리는 이러한 초강력 시스템 -GPT4와 같은 것이 아니라 그보다 10만 배 또는 100만 배의 컴퓨팅 성능을 가진 시스템-을 검토하는 글로벌 규제 기관에 대한 아이디어를 제안해 왔습니다. 우리가 이야기하는 모델 중 하나는 IAEA와 같은 것입니다. 원자력 에너지에 대해서도 같은 것이죠. 전 세계에 영향을 미칠 수 있기 때문에 일종의 글로벌 기관이 필요합니다. 그게 합리적이라고 생각합니다. 단기적인 문제, 즉 이 모델들이 무엇을 말하고 무엇을 말하지 말아야 하는지에 대한 문제가 많이 있을 것입니다. 저작권에 대해서는 어떻게 생각하나요? 국가마다 다르게 생각하겠지만 그건 큰 문제가 아니라고 생각합니다.
8. AI의 차기 마일스톤
빌 게이츠:
향후 2년을 내다볼 때 중요한 AI의 다음 이정표는 무엇이라고 생각하시나요?
샘 알트먼:
멀티모달리티가 확실히 중요해질 것입니다. 음성 입력, 음성 출력. 이미지. 결국에는 비디오. 확실히 사람들은 그런 기능을 원합니다. 이미지와 오디오를 출시했는데 예상보다 훨씬 더 큰 호응을 얻었습니다.
앞으로 더 많은 기능을 추가할 수 있겠지만, 가장 중요한 발전 영역은 추론 능력일 것입니다. 현재 GPT-4는 극히 제한된 방식으로만 추론할 수 있습니다. 신뢰성도 마찬가지입니다. GPT-4에게 대부분의 질문을 10,000번 던진다면 그 10,000번 중 하나는 꽤 괜찮은 질문일 수 있지만, 어떤 질문인지 항상 알 수는 없으며, 매번 10,000번 중 가장 좋은 답변을 얻고 싶기 때문에 신뢰도를 높이는 것이 중요할 것입니다.
커스터마이징과 개인화 또한 매우 중요합니다. 사람들은 각기 다른 스타일, 각기 다른 가정에 따라 GPT-4에서 매우 다른 것을 원합니다. 우리는 이 모든 것을 가능하게 할 것이며, 자신의 데이터를 사용할 수 있는 기능도 제공할 것입니다.
