컴퓨터가 인류보다 똑똑해진다면?
What happens when our computers get...?
TED 읽어주는 남자 #5
- 닉 보스트롬(Nick Bostrom)의 '컴퓨터가 인류보다 똑똑해진다면 무슨 일이 벌어질까?(What happens when our computers get smarter than we are?)'
구글의 인공지능 알파고와 이세돌의 바둑 대결 ⓒ한국기원 바둑TV몇 년 전, 구글 알파고와 이세돌 9단이 벌인 세기의 대결이 바둑계, IT업계뿐만 아니라 전 세계를 온통 뜨겁게 달궜습니다. 단순한 바둑의 대결을 넘어, 인류와 기계(인공지능)의 대결로 화제를 모았지요. 사람들은 인류와 기계의 전쟁을 다룬 소설과 영화를 다시 찾아보게 되었고, 인공지능 자체에 대한 충격을 넘어 두려움까지 갖게 되었습니다. 과연 인공지능은 인류에게 있어 약일까요, 독일까요?
구글의 인동지능 무인자동차 '웨이모' ⓒgoogle인공지능은 현재진행형입니다. 이제 컴퓨터는 인간의 두뇌와 유사한 신경망 인공지능으로 발전하고 있지요. 몇 년 전, 화제가 된 구글의 무인자동차 등은 인공지능을 활용한 경우입니다. 당장은 편리하고 유용해서 인간의 삶에 많은 도움이 될 거라고 낙관하는 의견도 있지만, 한편에서는 인공지능 컴퓨터에게 빼앗길 일자리, 그리고 인간이 인공지능과의 경쟁에서 살아남을 수 있을지를 걱정하기도 합니다. 실제로, 세계경제포럼(WEF)은 2016년 1월 발표한 보고서에서 인공지능의 영향으로 2020년까지 선진국에서 500만 개의 일자리가 사라질 것이라고 전망했습니다. 앞으로 5년 동안 200만 개의 일자리가 생겨나는 반면, 700만 개의 일자리가 없어진다는 것이지요.
닉 보스트롬 교수의 강연 ⓒTED인공지능의 위험을 경고해온 닉 보스트롬 영국 옥스포드대 교수는 2015년 TED 컨퍼런스에서 ‘컴퓨터가 우리보다 똑똑해지면 무슨 일이 일어날까’라는 질문을 던졌습니다. 그는 “인공지능은 주어진 목표를 극도의 효율성으로 달성하는 기계다. 따라서 처음에 목표를 잘못 설정하면 무서운 결과로 이어질 수 있다”고 지적했습니다.
예를 들어 ‘인간을 웃게 만들어라’라는 목표를 설정할 경우, 초월적인 인공지능은 사람 얼굴에 전극을 꽂고 웃게 만드는 것이 가장 효과적인 방법이라고 판단해 이를 실제로 실행할 수 있다는 것입니다(마치 ‘지구를 보호하라’라는 명령을 인공지능 컴퓨터에 입력한다면, 환경을 파괴하는 가장 큰 주범인 인간을 멸종시킬 것이라는 우스갯소리가 농담처럼 들리지 않는 것과 같지요).
또한, 보스트롬 교수는 다음과 같이 강조했습니다.
“윤리와 도덕 같이 인간이 소중하게 여기는 가치들을 정교하게 정의해서
기계에 가르치는 방법을 준비해야 한다”
의식을 지닌 인공지능의 출현에 대해 스티븐 호킹 박사나 마이크로소프트의 빌 게이츠, 테슬라의 일론 머스크 등이 인류의 파멸까지 가져올 수 있는 위험으로 지적하는 견해와 달리, 보스트롬 교수는 새로운 관점을 제시합니다. 인공지능의 등장이 바로 결정할 핵심은 우리가 기계에 ‘무엇을 가르치느냐’에 달려 있다는 것입니다.
닉 보스트롬 교수의 강연 ⓒTED인공지능의 출현에 대해 찬반이 엇갈리고 있지만, 아무도 장담할 수 없습니다. 중요한 점은 인간은 스스로의 능력을 과신해선 안 된다는 점이지요. 인간이 만든 인공지능 컴퓨터가 언제까지나 인간의 통제 아래 있으리라는 보장이 없기 때문입니다. 다르게 보면, 인공지능의 기술적 고도화를 통해 인간은 이를 자양분으로 삼아 그보다 더 빠르게 발전할 수 있을 것이라 전망할 수 있습니다.
즉, 인간이 중요하게 생각하는 가치들, 탐구심과 호기심, 도전정신과 인류애 등을 개발하고 보전하게 될 것입니다. 마치 인간보다 몇 백배나 더 빠른 자동차가 개발되었어도 여전히 육상 단거리 선수 우사인 볼트의 경기를 즐기는 것처럼 말이지요.
제프 베조스 아마존 CEO ⓒBusiness Insider아마존의 창업자 제프 베조스는 오히려 ‘변하지 않는 것에 주목하라’고 말합니다. 인공지능의 시대를 살고 있는 우리, 변하는 것 보다 시간이 지나도 변하지 않는 것에 주목해야 하지 않을까요?
닉 보스트롬(Nick Bostrom) : 옥스포드대 교수이자 철학자, TED2015 연사. 2005년 부터 수학자, 철학자, 과학자들의 연구 그룹인 인류미래연구소(Future of Humanity Institute)를 이끌어 왔으며, Foreign Policy의 2015년 Global Thinkers의 한 명으로 선정되었다. 홈페이지1, 홈페이지2
*구독하기를 눌러, TED 읽어주는 남자를 가장 먼저 읽어보세요!
*TED2018 연사 및 일정이 발표되었습니다. 'TED 읽어주는 남자'에서 곧 연재될 예정입니다.
