일론 머스크와 마윈의 인공지능 토론
일론 머스크와 마윈의 인공지능 토론 해석과 그에 대한 생각
World Artificial Intelligence Conference 2019
일론 머스크와 마윈의 인공지능 토론 해석과 그에 대한 생각.
이것은 마치, 침팬지가 인간을 제대로 이해할 수 없는 것과 같다.
그들에게 우리는이상한 외계인처럼 보일 것이다.
그들은 다른 침팬지들만 신경쓰며 산다.
-World Artificial Intelligence Conference 2019,
Elon musk.
Elon musk :
사람들이 주로 인공지능의 능력을 과소평가 한다.
그들은 똑똑한 사람의 지능 정도를 상상한다.
하지만 인공지능은 그보다 훨씬 똑똑하다.
가장 똑똑한 인간과는 비교도 안되게.
인공지능 연구자들이 저지르는 가장 큰 실수는,
자신들이 똑똑하다고 생각하는 것이다.
보통 자신보다 똑똑한 무언가를 상상하기는 힘들다.
하지만 인공지능은, 그 상상보다 훨씬 똑똑하다.
그 상상이 현실이 된다면, 어떻게 해야할까?
이런 말이 있다.
'당신이 이길 수 없는 적이라면, 거기에 합류해라.'
이것이 뉴럴링크에 대한 이야기이다.
우리가 인간이 아닌, 인공지능이라는 열차를 타고
함께 갈 수 있지 않을까?
우리가 스마트폰에 정보를 입력하는 것은
엄지 손가락으로 굉장히 느리게 진행되는데,
컴퓨터 끼리의 상호작용은 이것과 비교도 안되게 굉장히 빠르다.
인간도 그에 맞춰 빨리질 수 있다는 이야기다.
(인공지능과 결합된 인간 되(뉴럴링크)가 필요하다)
스마트폰은 이미 우리의 일부가 되어서,
우리는 이미 사이보그 같은 생활을 하고 있다.
컴퓨터 입장에서는 사람이 말하는 게 굉장히 느리게, 비효율적으로 들릴 것이다.
마치 우리가 듣는 고래 소리처럼.
마윈 :
인공지능에 대해 걱정하는 사람들은, 더욱 자기 자신에 대한 자신감을 가져라!
나는 인공지능이 위협이 될 것이라고 생각하지 않는다.
기계가 사람보다 훨씬 영리해질 것이라는 것을 확신한다.
컴퓨터가 뭐든 우리보다 빨리 할 수 있으니까 인류는 자신감을 가질 수 있어야 한다.
(자신감을 가지고 스스로를 개발시켜야 한다는 의미)
더 창의적, 건설적이 되어야 한다.
그럼 우리 애들을 어떻게 교육시켜야 할까,
바로 그림이나 노래 춤 같은 크리에이티브한 것에 시간을 투자한다고 생각한다.
우리도 마찬가지고, 사람을 사람답게 만들어주는 이런 크리에이티브한 것들에.
하나만 기억하자.
사람은 절대 다른 사람을 만들 수 없다. 컴퓨터는 컴퓨터다.
컴퓨터는 장난감일 뿐이다.
사람은 모기 하나 만들어 낼 수 없다.
그러니 우리는 더 자신감을 가져야 한다.
컴퓨터는 칩 뿐이다. 우리에겐 심장이 있다.
그 심장에서, 인간의 지혜가 나오는 것이다.
10년, 20년 안에는, 교육제도를 바꾸어야만 한다.
우리 아이들이 직업을 가질 수 있도록 해주고,
그게 내 입장이다. 걱정하지 않아도 된다.
우리가 바꿀 것이니까.
일론 :
미래를 예측하는 가장 최고의 방법은,
미래를 만드는 것이다.
당신이 배우고 있는 것이
미래 예측을 가능하게 해주는지,아닌지 평가해 보라.
그나마 덜 틀릴 예측으로.
미래를 완벽하게 예측할 수는 없지만,
예측 후 에러의 수를 계속 줄여 나가는 노력을 해야한다.
시도는 해야한다. 그리고 이전 예측에서 나온 에러들을 조정해 나가야 한다.
마윈:
시도하는 것은 아주 좋은 것이다.
우리는 항상 자신감을 가지고 미래를 위해 시도해야 한다.
그리고 나는 에러같은 건 절대 걱정하지 않는다.
에러나 실수가 인생 최고의 요소들이기 때문에.
사람들이 인공지능이 불러올 재앙에 대해 걱정할 때,
나는 그것이 재앙이라 생각하지 않는다.
그건 사람이 만든 실수지. 그리고 믿어라.
인류는 그런 실수들을 바로잡고 스스로를 발전시킬 수 있을 것이다.
그래서 우리에게 교육이 필요한 것이다.
(중략)
사람들은 인공지능이 사람들을 조종하는 것에 대한 우려를 하는데,
나는 절대 그런 생각을 하지 않는다.
그것은 불가능 하다. 인류는 다르다. 기계는 인류에 의해 발명된 것이다.
과학에 따르면, 인간은 자기보다 더 똑똑한 동물을 만들어 낼 수 없다.
특히 당신이 아주 똑똑한 사람들을 가졌다면 다른 똑똑한 사람을 만들어내는 것은 불가능 하다.
일론:
발언에 대해 완전히 동의하지 않는다.
우선, 우리는 굉장히 멍청하고,
당연히 우리보다 똑똑한 것을 만들어 낼 수 있다.
그것들은 사람일 필요도 없었다. (처음 인류 문명이 생긴 때부터의 역사 이야기를 설명함)
원시시대를 생각해보면,
우리는 그냥 여기저기 뛰어다니며 잡아먹히지 않기를 바라야 하는 존재였다.
똑똑한 사람들이 저지르는 가장 큰 실수는, 그들 스스로 똑똑하다고 생각하는 것이다.
마윈: 사람보다 똑똑한 것의 사례를 말해 달라.
일론 : 컴퓨터와 딥러닝의 역사를 설명. 이세돌 이야기도 함.
우리는 곧 컴퓨터에게 엄청나게 추월당해 버릴 것이다. 이는 확정된 사실이다.
모든 문명은 멸망하거나 이주하거나..
마윈 : 아, 컴퓨터는 영리할 수 있다. 그치만 인류는 더 똑똑하다.
일론 : 완전히 아니라고 생각한다.
마윈 : 영리함은 아주 아카데믹한 것이고 지식에서 나온 것이다.
스마트는 경험에서 나온 것이다.
컴퓨터가 똑똑할지 몰라도, 우리가 컴퓨터를 만들었다! 컴퓨터가 인간을 만들지는 않는다.
그게 내 첫번째 포인트고,
두번째는 체스나 바둑에 대한 것인데,
이거 진짜 멍청하다.
컴퓨터와 바둑을 둔다니..
100년 전, 인류가 자동차를 만들었을 때,
인간은 말했다. 내가 차보다 빨리 달릴 수 있다고.
그건 불가능 하다. 멍청한 사람들이나 자동차랑 달리기 시합을 하지..
바둑이나 체스는 사람과 사람이 경기하기 위한 용도로 만들어 진 것인데,
왜 인간이 컴퓨터랑 싸워야 하지?
나는 컴퓨터랑 컴퓨터가 싸우는 것을 보고 싶은데, 난 컴퓨터랑 경쟁하는 것에는 관심 없다.
그래서 난 컴퓨터가 사람보다 똑똑해 질 것이라고 슬퍼하는 사람들에게 이렇게 말한다.
"컴퓨터랑 경쟁을 한다고? 너 진짜 멍청하다.
하지마!!"
일론 : 그럼 어떤 것이 사람이 컴퓨터보다 나은지 사례를 말해 줄 수 있나?
그리고 그것이 정말 가능한지 보자.
마윈 : 인간의 컴퓨터는 인간이 만들어낸 똑똑한 것들 중 하나일 뿐이다.
컴퓨터는 영리하지만, 미래에는 인간들이 만들어낼 더 많은 똑똑한 도구들이 있을 것이다.
일론 : 내가 설명해 보겠다.
인공지능의 발전이라는 것은, 얼마나 자유도가 높은 문제를 풀 수 있는가에 요점이 있다.
가장 자유도가 높은(우리 생각에 경우의 수가 많은)
환경은 무엇일까? 바로 우리가 살고 있는 현실이다.
하지만 인공지능은 더 자유도가 높은 환경에서의 문제들을 해결하면서 꾸준히 발전해왔고, 체스, 바둑처럼 자유도(경우의 수) 차이에 따라 인공지능이 발전해 왔다.
자유도 규모를 단계쩍으로 넓혀온 것, 이것이 내가 바라보는 인공지능의 발달이다.
그리고 곧 인간의 모든 면을 굉장히 유사하게 따라하는 상태가 될 것이다.
아니, 아예 많은 사람들을 한꺼번에.
우리가 아예 지금 시뮬레이션 안에 있다는 주장도 있다.
(우리 환경은 다 어떤 식으로 하도록 셋업된 것이라는 관점에서)
이 주장은 나에게 한 농담을 떠올리게 한다.
"만약 인생이 비디오 게임이었다면, 리뷰는 어떻게 될까?"
"음.. 그래픽은 믿기지 않게 멋지고, 줄거리는 혼란스럽고,
재시작은 아주 오랜시간이 걸리겠지."
재 시작은 20년이 걸린다. (아이가 자라서 성인이 되는 것을 의미)
난 출산율도 걱정된다. 대부분의 사람들은 지구에 너무 많은 사람들이 살고 있다고 생각한다.
하지만 그 생각은 굉장히 오래 전 시각이다.
지금은 인구가 기하급수적으로 줄어들고 있다.
인공지능은 문제가 없다고 가정해 보자.
인공지능에 장밋빛 미래가 있다고 치자.
앞으로 20년간 인류가 맞닥뜨릴 가장 큰 문제는 인구 붕괴다. 인구 감소가 아니라.
향후 20년간 세상이 어떻게 되어 있을지 예측하기는 쉽다..
개인적으로 이 후 토론은 어딘가 막혀있는, 한 동안 같은 자리를 맴도는 느낌이 들었다.
이 후 토론 중 기억에 남는 주제가 있다면
계속되는 일론 머스크의 스페이스 X, 우주 여행에 대한 주장에 대해 마윈은
'화성으로 갈 생각을 하기 전에, 지금 바닷속에 있는 쓰레기부터 건져 올려라.
미래? 지금으로 부터 100년, 지금 세상을 살아가는 사람들을 먼저 생각해야 한다.'
라고 답한 것 정도가 있겠다.
토론은 자신의 생각을 이야기를 대중과 더불어 페널로 나온 상대에게 이야기를 하는 것이다.
따라서 토론의 주제가 자신의 전문 분야일 때 훨씬 자연스럽게 이야기를 이끌어 나갈수 있다.
하지만 토론 주제가 자신의 전문 분야가 아니라면? 왠지 위축 되면서 자연스럽게 상대방을 압도할 만큼의 이야기를 전달하기가 힘들 것이다.
AI 주제의 토론이 어느쪽에 유리할까 생각해보면,
머스크는 어려서 부터 컴퓨터에 능했다.
비교적 젊은 나이에 PayPal 시스템을 통해 부자가 되었던 사람이다.
그에게 AI는 너무나 익숙하고 삶 자체였던것에 반해 마윈은?
AI에 기본이라고 하는 수학도 머스크와는 비교도 안될 만큼의 실력이다.
그가 알리바바를 시작할때도 사실 컴퓨터에 대해서 아는 것이 없는 무지에서 시작을 했다.
그는 대중에게 “똑똑하고 재능이 있는 인재들에게는 그들을 이끌 바보가 필요하다’고 이야기를 할 정도다.
또 이들이 토론에서 사용한 언어는 바로 영어다.
영어권에서 태어나지 않고, 생활 언어를 쓰는 자리도 아닌, 세계인들 앞에서 강연을 하거나 할 수 있는 사람이 몇이나 있을까?
반면 머스크는 영어만 할줄 아는 사람이다.
마윈은 중국어에 영어를 조금 잘 하는 사람.
만약 토론이 중국어로 진행 되었더라면
누가 더 유창하게 자신의 생각을 잘 표현하고 이야기를 할수 있었을까?
사실 마윈은 영어를 한국에 있는 사람들보다 더 늦게 시작을 한 사람이다.
나는, 내가 영어권에서 자란 사람과 자신의 전문 주제도 아닌것을 가지고 세계를 향해서 설득하는 대결을 했다고 한다면 이길 자신이 없었을 것 같다.
과연 영어를 사용해서- 상대방 보다 더 잘 설득시킬수 있었을까?
마윈은 이 토론에서 졌다고 본다.
인터넷에서 조롱의 대상으로 화자되고 있다.
하지만 그는 이러한 이슈에 대해
"그래서 뭐? 나는 이것 말고도 휠씬 많은 것들에서 도전하고 졌는데!" 라고 할 것이다.
그러면서 또 도전 하라고 말 할 것이다.
그래서 나는 이 토론에서의 일론 머스크의 주장에 동의하며,
마윈의 주장또한 존중한다.
