누가 인공지능을 두려워하나?
Who's Afraid of AI?
과학기술 전문 저널리스트 Thomas Ramge의 'Who's Afraid of AI?: Fear and Promise in the Age of Thinking Machines' 원서를 카이스트 인공지능 연구소장 이수영 박사님께서 번역하신 책입니다. 번역서의 제목은 '누가 인공지능을 두려워하나? 생각하는 기계 시대의 두려움과 희망'인데, 원서의 제목을 단순하게 번역한 것 같지만, 내용을 왜곡해가면서 원래 책의 내용과 연관성이 떨어지는 자극적인 제목을 뽑는 다른 번역서보다 훨씬 책의 내용을 담고 있다고 생각합니다. 원 저자가 고민해서 만든 제목을 굳이 다른 용어를 추가해가면서 바꾸는 이유는 사실 잘 이해가 되지 않습니다.
200페이지도 채 되지 않는 아주 간략한 책입니다. 원서가 2019년, 번역서가 2020년에 발간되었으니, 알파고-이세돌 대국 이후 전 세계를 강타한 AI 물결을 타고 나온 책이라는 생각이 드네요. 그 이후로 2021년 지금까지 많은 발전이 있었지만, 알파고 때만큼 사람들이 인공지능에 대해 가지고 있는 인식을 완전히 바꿀만한 이슈는 없었으니 일반인들의 큰 맥락에서는 지금 읽더라도 많은 부분에서 중요한 의미를 끄집어낼 수 있을 만한 책입니다.
AI 기술 쟁이들을 위한 책이 아닙니다. 지금까지 AI가 어떻게 흘러왔고, 지금 어디까지 와 있고, 앞으로 어떻게 될 수 있고, 이에 따른 당면과제는 어떠한 것들이 있다는 식의 Executive Summary 같은 글입니다. 엔터프라이즈를 경영하고 있다거나, 특정 분야나 조직에서 중대한 의사결정권을 가지고 있는 분들을 대상으로 적은 '아주 잘 요약된 AI 안내서' 같은 느낌입니다. 그런데 기술을 다룬 글이 아무래도 인문 서적보다는 좀 그렇지만, 이 정도 글을 읽을만한 분들이 시라면 원서로 후다닥 읽는 것이 나으실 수도 있습니다. 이렇게 번역서가 나와서 국어가 편한 일반 대중이나 어린 학생들도 이러한 내용을 읽어볼 수 있다면, 다가올 미래를 새롭게 준비할 수 있는 국가적 역량이 더 높아지지 않을까 내심 기대해봅니다.
다른 인공지능 관련 서적에서 다루고 있는 이슈들과 크게 다른 내용을 다루고 있지 않습니다. 하지만 핵심적인 개념들과 쟁점 위주로 잘 정리를 해 놓고 있기 때문에, 인공지능을 둘러싸고 있는 담론 차원에서는 이 책 한 권을 먼저 읽는 것이 다른 지엽적인 분야를 전문적으로 다룬 책이나, 두꺼운 총론을 읽는 것보다 더 효과적일 것 같습니다.
9. 세계 최대의 헤지 펀드인 브리지워터에서는 알고리즘이 단순히 투자를 결정하는 것 이상의 일을 하고 있다. 직원들에 대한 방대한 데이터를 가진 인공지능 시스템이 임원 역할을 한다. 인공지능 임원은 가장 바람직한 영업 전략이 무엇이며 최고의 팀을 우구로 구성할지 알고 있고, 승진할 사람을 추천하고 정리해고를 위한 권고도 한다. (중략) 그러나 인공지능 덕분에 이제 기계는 인간만이 할 수 있다고 믿었던 복잡한 결정을 할 수 있게 되었다. 좀 더 정확히 말하면, 충분한 데이터를 확보한 인공지능 시스템은 오랜 경험과 지식을 갖춘 전문가, 이를테면 트럭 기사, 비서, 판매원, 의사, 투자 은행가, 인사 관리자보다 더 빠르고 더 적은 비용으로 더 나은 의사결정을 내릴 것이다.
26. 인공지능은 대개 어떤 문제의 수학적인 해답을 자율적으로 찾고, 주어진 알고리즘을 스스로 개선하며, 심지어 새로운 알고리즘을 독자적으로 개발할 수 있는 능력을 가지고 있다. 그래서 기계는 인간보다 더 빨고 저렴하고 능숙하게 업무를 처리한다. 결과적으로 문제 해결 능력에 있어 기계가 인간을 압도할수록 인공지능은 빠르게 보급될 것이다.
34. 놀랍게도 인공지능의 약점은 인간을 꼭 닮았다. 예를 들어 인공 신경망이 마치 사람처럼 편견을 가지기도 하는데, 이는 소프트웨어 개발자가 프로그래밍한 것이 아니라 학습한 데이터로부터 암묵적으로 배운 것이다.
37. 신경망의 학습 과정은 수많은 신경세포들 사이의 연결, 즉 시냅스 값 변화의 결과이며, 이 시냅스 하나하나가 신경망의 총체적 학습 결과에, 더 정확하게는 의사결정에 조금씩 영향을 미친다. 따라서 의사결정 과정이 너무 복잡하여, '믿을 만한' 결정에 도달한 이유를 인간에게 설명하거나 보여줄 수 없다. (중략) 이는 결과적으로 인공지능 시스템이 저지르는 실수를 인간이 발견하더라도 그 실수를 고칠 방법이 없음을 의미한다. 기계는 자신의 실수 자체를 모르기 때문에, 그 실수가 어디서 발생했는지 알려줄 수 없다.
45. 1936년에 이미 앨런 튜링은 알고리즘으로 풀 수 있는 모든 문제를 계산 기계가 풀 수 있음을 증명했다. 이에 대한 그의 이론적 모델은 나중에 튜링 머신으로 불렸다. 다소 혼란스러울 수도 있지만, 튜링 머신은 물리적인 장치가 아니라 수학적인 개념이다.
55. 그러나 엄밀한 의미에서 딥블루는 실수로부터 스스로 학습하는 인공지능 시스템이 아니라, 초당 2억 개의 체스 위치를 평가할 수 있는 매우 빠른 컴퓨터일 뿐이었다. 딥블루는 이른바 무차별적 연산능력에 기초한 알고리즘을 사용했고 그리 지능적이지는 않았지만, 지능적으로 보이는 결과를 가져왔다.
58. 당시 바둑 전문가들이 보기에 알파고는 가끔씩 매우 창의적으로 수를 두었는데, 패턴 인식, 통계 및 난수 생성의 정교한 융합을 통해 통찰력이 강화되었기 때문이다. 알파고의 승리 이후 직감과 창의성은 이제 인간 고유의 영역이 아님이 명백해졌다.
59. 기계가 포커에서 사람을 이길 수 있다면 일상적인 비즈니스 협상에서도 사람을 이길 수 있다.
73. 신경망은 예제로부터 배우고, 학습 단계가 높아질수록 일반화할 수 있는 통찰력을 갖게 된다. 주어진 문제에 대해 알고리즘이 해답을 더 자주 찾게 될수록, 다음 시도에서는 더욱 확률 높은 수행을 할 수 있다.
83. 사람은 '보고 싶은 것만 보고, 듣고 싶은 것만 듣는' 경향이 있어서 많은 분쟁이 일어난다. 인공지능은 잘 보이지 않는 것을 보거나, 잘 들리지 않는 것을 듣는 데 탁월한 성능을 발휘한다.
92. 그러나 전문가들은 서구에서 가장 큰 온라인 소매업체인 이 회사의 전체 판매량 중 3분의 1은 인공지능 시스템의 구매 추천이 이끌었다고 생각한다.
95. 2015년부터 2017년까지 2년 동안 이 로봇 변호사는 약 37만 5,000개의 벌금 통지를 막아냈다.
103. 하지만 적어도 우리는 예전처럼 경험과 직감으로 처방하는 의사가 아니라, 데이터와 근거에 기초한 처방을 하기 위해 인공지능 시스템을 사용할 줄 아는 의사를 원하게 될 것이다.
121. 프랑스 브루군디에서는 두 개의 팔을 가진 포도 재배 로봇 '월예 Wall-Ye'가 하루 최대 600개의 포도 덩굴을 가지치기하고, 이 과정에서 포도나무의 건강에 관한 데이터를 확보하여 기록한다. 농업 로봇들이 캘리포니아에서 상추를 따고, 스페인에서 딸기를 수확하며, 독일에서는 활짝 핀 사과 꽃을 솎아내서 더 많은 과일을 생산하게 한다.
129. 세계 최대의 자동차 제조업체인 폭스바겐은 동일 생산성을 기준으로 로봇은 시간당 약 4천 원에서 8천 원, 전문직 직원은 시간당 약 7만 2천 원의 비용이 든다고 계산했다.
153. 암세포에 패턴 인식을 적용하여 많은 암 환자의 생명을 구할 수 있다는 것이 명백하다면, 수입이 줄어들까 우려하는 의사들의 로비 때문에 진행을 늦출 수는 없다.
160. 프랑스의 시인이자 평론가 샤를 페기는 1914년에 "세상은 내가 처음 학교에 들어갔던 30년쯤 전부터 지금까지, 그 전 2천 년 동안보다 더 많이 변화했다"라고 말했다.
162. 어린아이가 말을 배우는 데 필요한 2년 내외의 학습 시간이 인공지능에게는 단 며칠로도 가능하다.
