『왜 AI에겐 우리가 필요한가』- 베리티 하딩 저
인공지능은 이 시대의 가장 혁신적 기술
AI 시대, 우리의 미래를 바꾸고 구할 수 있는 건,
바로 우리 자신이다.
머리말 - 9쪽
AI 전문가가 아닌 누구라도 자신의 삶과 사회가 미래에 어떤 모습, 어떤 느낌이어야 할지에 관해 타당하고 중요한 견해를 갖고 있으므로 『왜 AI에겐 우리가 필요한가』 이 책은 미래에 지분이 있는 모든 사람을 위한 책이다. 저자 베리티 하딩은 과거의 혁신 과학기술 사례(미국과 영국으로 국한) 들을 활용하여, 사회, 국가, 글로벌 공동체로서 이전에는 우리가 어떻게 변화를 관리했으며, 이제는 어떻게 관리할 수 있을지를 묻는다. 베리티 하딩은 이 시급한 질문에 답하고, 우리가 주도권을 쥐고, AI가 그 가능성을 실현하도록 하는 것이 중요하다고 주장한다. 과거에 대한 폭넓은 연구만이 과학의 미래, 그리고 인류의 미래를 밝힐 수 있다.
1 그림자 자아 - 13쪽
샌프란시스코의 황량함은 테크노 유토피아(techno-utopia)라는 꿈에 깊은 결함을 드러냈다.
오늘날 실리콘밸리의 집단적 상상력은 물론이고 거기서 영감을 받은 전 세계의 여러 기술 거점의 상상력을 사로잡은 것은 바로 인공지능(AI)이다. AI는 역사상 가장 위대한 발명품일 수도, 최악의 발명품일 수도, 아니면 마지막 발명품일 수도 있다.
제품과 목표를 차별화하기 위해 일부 업계의 내부자들은 지금 'AGI', 즉 범용 인공지능(antificial general intelligence)을 대신 거론한다. 자칫 공상과학으로 빠질 수 있는 불분명한 용어지만, 근본적으로는 상이한 과제 사이에 학습된 지식을 전달할 수 있고 전 분야에서 잠재적으로 인간의 인지 능력을 뛰어넘을 수 있는 한 층 더 똑똑한 AI 프로그램을 가리킨다. 여기서 '초지능(superintelligence)' 또는 묘하게 불길한 '신과 같은 AI' 등의 표현이 파생했다.
저자는 챗 GPT가 어떻게 작동하는지 하이쿠 형식으로 설명해 달라고 요청해 보았는데, 다음과 같은 답변을 받았다.
텍스트를 학습해(Learning form text),
다음 말을 예측하니(Predicting words in sequence),
챗 GPT 말 잘하네(ChatGPT speaks well).
위 답변에서 절대 얻지 못할 게 있는데 바로 우리가 검색어에 대한 답을 찾을 수 있는 웹사이트로 데려가 줄 파란색 링크다.
AI의 그림자 측면, 즉 비윤리적이고 교란을 일으키고 노골적으로 위험한 사용법이 불안하게 느껴진다. AI는 결국 우리이다. 연결과 치유의 방향으로 우리 사회를 진보시키기 위해 AI를 사용하려는 모든 올바른 시도에도 불구하고 분열과 상처로 향하는 상반된 길이 존재한다.
AI의 목적은 이기고, 충격을 주고, 피해를 입히는 것이어서는 안 된다. 경쟁력은 자연스럽고 건강한 것이지만, 위험한 과장법은 피해야 한다. 특히, 그 배후의 역사를 알지 못하는 자들의 과장법말이다.
역사는 우리가 AI에 심오한 의도성을, 우리의 약점을 인정하고 우리의 강점에 맞춰 조정하고, 공익에 이바지하는 의도성을 불어넣을 수 있음을 가르쳐 준다. 우리는 AI의 미래를 바꾸고 우리의 미래를 구할 수 있다. 그러나 이를 실천하려면 AI에겐 우리가 필요하다.
인공지능은 앞선 원자력과 우주 역량처럼 한 사회가 스스로를 바라보는 관점의 연장선이 된 기술이다. 실리콘밸리의 신념과 선택과 선호가 적잖이 작용한 덕에 전 세계 지도자들이 이제는 자국의 미래 번영에 매우 중요하다고 믿을 정도로 AI는 시대정신과 정치적 담론을 사로잡았다. 그러나 이 지도자들과 나머지 우리가 AI를 바라보는 프리즘은 필연적으로 현재의 가치와 경험과 정치적 분위기에 의해 형성되기 마련이다. 우리의 과제는 우리가 어떻게 여기까지 왔고, 어떤 미래를 원하며, 우리의 정치적·기술적 선택이 그 미래를 이루는 데 도움이 될지 아니면 방해가 될지 잠시 멈춰 성찰하는 것이다.
AI의 위상이 높아짐에 따라 이 기술이 정말로 무엇을, 그리고 누구를 위한 것인가? 다시 묻게 된다.
저자는 책, 『왜 AI에겐 우리가 필요한가』를 통해 20세기 혁신 기술인 우주 경쟁, 체외수정, 인터넷의 역사와 거버넌스(governance)를 통해 민주주의 사회의 수많은 시민이 인공지능의 미래를 형성하는 데 적극적인 역할을 할 수 있으며, 또 그렇게 해야 한다는 점을 분명히 보여주고 있다.
과학기술과 정치의 최전선에 선 내부자로서 자신의 시각을 공유하면서 하딩은 AI의 출현을 종종 원자폭탄의 등장에 비유하는 지배적 서사를 거부한다. 역사를 되짚어볼 때, 민주적으로 결정된 가치가 AI의 의도를 평화적으로 이끌 수 있는 길, 즉 한계를 수용하고 이익이 아닌 목적에 이바지하며 사회적 신뢰에 단단히 뿌리내린 미래로 나아갈 길이 있음을 설파한다.
2 평화와 전쟁: 우주 탐사와 유엔 우주조약 - 45쪽
대다수 대중이 이른바 '우주 경쟁'을 지지한다는 여론조사가 나온 것은 실제로 달 착륙이 있고 난 이후였다. 닐 암스트롱과 버즈 올드린은 달 표면을 떠나 용감한 지구 귀환을 위해 착륙선 이글 호로 돌아오면서 아폴로 호의 평화적인 의도의 상징을 우주에 남겼다. 2년 전 추락 사고로 사망한 소련 우주비행사 유리 가가린과 블라디미르 코마로프를 기리는 두 개의 메달, 그리고 자신들과 같은 목표를 추구하다 목숨을 잃은 미국 우주비행사들을 위한 아폴로 1호 조각이다. 금색 올리브 나뭇가지 배지는 지금까지도 달 표면에 남아 있는 패키지의 일부다.
암스트롱은 달의 빛나는 흰색 표면이 자기 뒤에 보이게 사진을 찍은 뒤 자신이 뛰어내려 역사를 창조했던 바로 그 달 착륙선에서 계단에 부착된 강철판의 나사를 조심스럽게 풀었다. 그는 이 명판을 달의 먼지 속에 놓았다. 바람이 없어 장차 그곳에 착륙할 모든 사람에게 그 명판은 그대로 노출될 터였다.
“우리는 전 인류의 평화를 위해 왔다.” 그곳에 새겨진 불멸의 말이다. 아무리 불완전하다 해도, 그 기원이 전쟁이었을지라도, 이 고귀한 생각과 그것을 지키려던 전 세계의 노력은 달 탐사선 발사의 가장 놀라운 유산이다. 우주가 '전 인류의 영토'라는 선언은 1967년 '우주의 평화적 이용에 관한 유엔 조약'에서 탄생했고, 이 짧은 문구는 "지금까지 체결된 가장 성공적인 조약 중 하나"이다. 유엔 우주조약은 우주가 핵탄두와 대량살상무기로 가득 차는 것을 막았고, 냉전 시대의 가장 노련하고, 가장 논란 많고, 가장 성공적인 행동 중 하나를 가능케 했다.
2020년 GPAI가 출범했고, 25개 국가와 EU가 회원인 중요한 조직이다. 우여곡절이 있었지만, 쳇 GPT 출시로 신기술에 대한 새로운 관심과 고민이 촉발된 이후 AI에 대한 국제 협력의 긴급성이 다시 대두되었다.
사람들은 평화를 원한다. 1967년 우주조약이 오늘날 AI에 주는 교훈들은 명확하면서도 뒤얽혀 있다. 첫째, 세상이 어떻게 달리 돌아가든 미래의 기술 방향과 인류에 영향력을 행사할 수 있는 강력한 정치적 리더십의 가치는 여전히 유의미하다. 둘째, 자국의 이익, 방어, 그리고 최악의 과도한 전쟁에 대한 한계 설정은 상호 양립할 수 없는 게 아니라는 점이다. 셋째, 지정학적 현실이 긴장 상태일지라도, 그리고 특히 그런 때일수록, 국제 협력을 장려하는 데 과학을 이용할 수 있고 그래야만 한다.
3 과학과 조사: 체외수정과 워녹 위원회 - 93쪽
지금처럼 낙태권을 둘러싼 분열로 들끓었던 1970년대 미국은 '생명'이 언제부터 시작되는지, 태아에게 권리가 있는지, 그리고 정부가 여성의 선택권과 생명 중 어디에 비중을 둬야 하는지를 놓고 혼란에 빠졌다. 로널드 레이건 대통령과 후임인 조지 H. W. 부시 대통령은 낙태를 헌법상 권리로 인정한 1973년 연방 대법원의 ‘로 대 웨이드(Roe v. Wade)’ 판결 이후 지독한 낙태 논쟁과 맞물린 반발을 우려해 인간 배아 연구라는 새로운 분야의 연방 기금 확보를 거의 불가능하게 만들었다. 1970년대 말 인간 배아 연구에 대한 연방 기금 지원 중단은 해제되었지만, 미국의 모든 태생학 연구는 민간 부문에 떠넘겨진 뒤였고, 당연히 초점은 윤리적 경계 설정보다는 이윤에 더 맞춰졌고 복잡한 도덕적·윤리적·과학적 문제는 사법제도의 해결 과제로 남았다. 과학 초강대국이 이렇게 주도권을 포기하면서 이 분야를 정립할 문은 다른 나라들에 활짝 열렸다.
체외수정과 배아 연구가 본격적으로 시작된 곳은 영국이고, 최초의 ‘시험관 아기’ 탄생으로 명성을 얻은 곳도 영국이다. 과학적 발견의 탁월함에다 당시 의회의 진지한 토론과 심의 민주주의가 뒤따랐고, 그 결과 영국은 과학 자체만이 아니라 그런 혁신을 가능케 하는 규제 환경에서도 세계의 선도국이 되었다. 사회학자이자 생식 생물학자인 사라 프랭클린(Sarah Franklin) 교수가 “엄격하지만 관대한” 제도라고 말했듯이 체외수정과 인간 배아 연구를 일반 대중의 삶과 통합한 영국의 성공 사례는 과학적 진보를 둘러싼 합리적인 공론이 얼마든지 가능함을 입증했다.
워록 위원회는 영국의 철학자 메리 워녹이 위원장을 맡아 1982년 설립된 체외수정 조사 위원회로, 인간 배아 연구의 윤리적 문제를 다루며 수정 후 14일 이내로 배아 연구 가능 기간을 제한하는 '14일 규칙'의 근거가 된 워녹 보고서를 작성했다. 이 보고서는 1990년 인간 수정 및 배아학법의 기초가 되었다.
모든 과학은 본질적으로 정치적이며, 과학이 너무나 획기적이어서 개인으로서 또 가족으로서 우리가 자싱을 바라보는 관점의 핵심을 파고들 때는 특히 그렇다. 따라서 과학이 자신들에게 얼마나 획기적인 여향을 미칠지에 관해 의견을 제시할 권리가 대중에게 있다는 점, 그리고 그것은 민주적 시스템에 맡겨져야 한다는 점을 이해한 대처 수상과 워녹에게 누구보다 공을 돌려야 한다.
4 목적과 이윤: 9·11 이전의 인터넷 - 149쪽
컴퓨터 산업, 그리고 더 나아가 지금의 인공지능 산업이 존재할 수 있었던 것은 미국 군대 덕분이었다. 그러나 오늘날 테크 문화는 거의 그의 못지않게 군부에 맞서 우후죽순으로 일어난 시위들, 반문화의 물결, 그릭 뒤이은 역풍에도 빚을 지고 있다. 청년들이 베트남전, 부정부패 및 불평등을 놓고 정부와 싸우는 동안, 좌파에서 나온 급진주의 불길은 우파에서 나온 만만치 않은 반대 세력을 만난다.
초기 인터넷 이야기는, 1960년대 자유주의의 약속을 믿으며 자란 베이비붐 세대와 거기에 배신감을 느낀 세대, 현대화된 젊은 진보 성향 정치인들과 신(新) 도금시대의 거물 기업가들, 그리고 새로 발달한 '인터넷 공동체'와 그들을 규제할 임무를 맡은 사람들이 어떻게 하나로 수렴되었는지의 과정이다. 그러는 과정에서 인터넷에 자신들의 가치관이 스며들게 했고, 인터넷 거버넌스 문제를 미국의 패권을 키우고 유지하려는 논의의 일부로 만들었다. 현재 인터넷의 문화와 성격과 특징은 미국만의 발명품이 아니었지만, 현재 인터넷의 문화와 성격과 특징은 1960년대의 국가적 트라우마에서 비롯한 미국의 가치로 형성되었다. 오늘날 우리가 쓰는 인터넷은 기술적 선택만큼이나 특정한 정치적 선택의 결과물이다.
컴퓨터 사용 초장기에는 대부분의 자금을 군사 기관들이 댔다. 그 결과는 1962년 저명한 컴퓨터 학자 J. C. R. 리클라이더가 정보처리 기술국의 첫 번째 수장으로서 "군에 필요한 것은 사업가에게 필요한 것이고 과학자에게 필요한 것"이라는 좌우명을 가지고 고등 연구 계획국에 합류했을 무렵, 이미 어는 정도 성공적이라고 판명 난 상태였다. 고등 연구 계획국(ARPA) 프로그램의 순전한 야망과 규모만으로도 아르파넷이 현대 인터넷의 기초임을 의미했다.
아르파넷(ARPANET)은 공동 연구 계획국의 예산으로 자금 지원을 후하게 받는 여러 엘리트 대학 출신의 컴퓨터과학자들의 모여 설립한 네트워크다. 1969년 미국 국방부가 핵전쟁 대비를 위해 개발한 세계 최초의 패킷 교환 네트워크로, 현재 인터넷의 원형이다. 중앙 서버 파괴 시 정보 손실을 방지하기 위해 UCLA, UCSB, 스탠퍼드 연구소, 유타대 등 4개 대학을 연결한 것이 시작이었다. 1969년 10월 29일, UCLA 연구원들은 오늘날 인터넷의 원형이 된 아르파넷에 최초의 메시지를 전송했다. '로그인(login)'을 입력하려던 중 시스템이 바로 다운되었지만 첫 메시지인 'LO'는 남았다. 아르파넷은 이메일(@ 기호 체계)과 월드 와이드 웹(WWW)의 기반이 되는 TCP/IP 프로토콜을 탄생시켰으며, 1990년대 초중반까지 10 kbps 이하의 속도로도 학술·연구 목적으로 활발히 사용되었을 때는 컴퓨터 네트워크는 초기 단계였다. 이후 성장하고 더 정교해지면서 현재의 전기나 전화 유틸리티(utility)처럼 미국 전역의 개별 가정과 사무실에 서비스를 제공할 '컴퓨터 유틸리티'의 확산이 일어난 것이다.
아르파넷은 데이터 전송 시 정보를 작은 패킷으로 분할해 전송하는 패킷 교환 방식 기술로, 네트워크 안정성과 효율성을 높였고, 초기에는 NCP(Network Control Program) 프로토콜 사용했으나, 1983년 TCP/IP로 전환되며 민간용으로 개방되었다. 군사 목적에서 학술·행정용으로 확장성을 확대해 가면서, 1983년 MILNET(군용 네트워크)와 분리되어 현재의 인터넷으로 발전했다.
5 신뢰와 테러: 9·11 이후의 인터넷 - 205쪽
2019년 9월 11일 끔찍한 참사 이후, 미국은 반세기 동안 선포했던 규범에 기반한 국제 질서의 창립자이자 옹호자의 역할에서 벗어나 예고 없는 급진적 항해에 착수했다. 관타나모만(Guantanamo Bay: 쿠바섬 동부의 관타나모 주에 위치하는 만으로 미국이 쿠바로부터 조약상 영구임대한 곳으로, 부시 대통령이 테러와의 전쟁을 선포하고 테러리스트들을 수용하기 위해 설립한 수용소)의 이례적인 송환, 고문 및 감금을 통해 미국은 "자국이 확립한 바로 그 규범들을 허물었고 포기까지 했다"라고 하버드대학 역사학자 질 르포어는 설명했다. 몇 세기 동안 자유와 공정성의 이미지를 반영해 왔던 이 나라가 마치 법치를 완전히 포기한 듯한 자세로 국가에 닥친 테레에 응수했다.
1998년, 미국 정부는 2년 안에 인터넷 루트 존 파일과 도메인 네임 시스템에 대한 통제권을 넘기겠다고 약속했지만, 거의 20년이 소요되었다. 이유는 바로 9.11이었다. 인터넷은 전대미문의 규모로 기밀 수집과 대규모 감시를 벌이는 데 사용하는 무기가 되었다. 대상은 국외와 국내, 동맹국과 적대국을 가리지 않았다. 미국이 인터넷의 근간인 프로토콜을 감독하는 자국 고유의 역할을 이용해 국제사회의 신뢰를 위반하고 있지 않느냐는 의혹이 제기되었다. 미국은 국제적 입지가 급락하면서 자유롭고 개방적인 인터넷을 유지할 수 있는 역량이 약화되었고 반민주 세력에게는 기회를 창출함에 따라, 힘들여 얻은 혁신적인 인터넷 거버넌스 시스템은 거의 허물어질 지경이었다.
오늘날 우리는 잠재적으로 인터넷만큼 획기적인 기술 변화의 전환점에 서 있다. '테레와의 전쟁'의 끝없는 요구에 힘입어 생체 인증 테이터 수집은 전 세계적으로 가속화되었다. 강력한 머신러닝 기술의 출현으로 9.11 이후 사용되었던 유형의 정교한 대규모 감시는 이미 구식이 되었다. 현재의 기술은 훨씬 더 뛰어나며, 따라서 더 빨리 퍼질 것이다. 가령, 급속히 발달 중인 AI가 지원하는 안면인식 기술은 악명 높게도 악용되기 쉽다. 그 악용 사례의 다수가 벌써 우리와 공존하고 있으며, 전 세계에서, 우리 이웃에서 일어나고 있다, 이것이 얼마나 더 멀리까지 가도록 놔둘 것인지 우리는 자문해야 한다.
지금은 잠재적 악용에 대한 두려움이 너무 커서 마이크로소프트와 페이스북 같은 대기업들도 지나친 사생활 침해를 우려해 자사의 안면인식 제품들을 사용 중단했다. 그리고 첨단 기술에 있어서 '탄광 속의 카나리아'(유해가스에 민감한 카나리아의 상태를 보고 광부들이 위험을 미리 감지했던 데서 유래한 표현)라 할 수 있는 샌프란시스코가 공공기관의 안면인식 기술 사용을 금지한 첫 번째 도시라는 점은 분명 우리에게 시사하는 바가 있다. 그러나 이상은 제한된 범위의 지엽적 해결책이다. AI 지원 감시는 대부분의 장소에서 완전히 합법이며, 만일 그것을 요구하는 정부와 개인 고객들이 많아진다면 더 많이 만들어질 것이다.
전 세계 자유를 위해 중요하다고 몸소 주창했던 도구를 가차 없이 편취한 미국과 영국은 높았던 도덕적 지위를 의도치 않게 내려놓게 되었다. 특히 중국과 러시아는 '인터넷 자유'라는 의제가 현대판 동인도 회사, 대외 정책을 가장한 술책이라고 수년간 의심해 왔다.
테러와의 전쟁으로 20년이 지난 지금, 미국이 예전만큼 공정성, 자유, 정의, 민주주의의 가치를 구현하는 강력한 본보기라고 주장하기는 어렵다. 우리 중 다수는 애초에 인터넷이 그렇게 세상을 변화시킨 이유, 신뢰와 합의와 다극 체제라는 인터넷의 토대에 안일해졌다. 오바마가 러시아의 선거 개입 시도에 관해 언급했듯, 우리도 그런 일을 예상한다. 그러나 우리가 우리 자신에게 그럴 필요는 없다. 우리에게 도덕적 권위를 부여하는 것은 바로 우리 자신의 행동, 우리 자신의 기준이다. 다른 이들이 그들의 자유를 위해 싸우도록 영감을 주는 것은 바로 우리 자신의 자유다.
AI 의사결정을 어디까지 허용할 수 있을까?
그 선을 어디에 그을지는 누가 결정할 것인가? 이는 어려운 질문들이며, 상반된 견해들이 존재한다.
인공지능 업계가 인간 발생학 논쟁 사례에서 교훈을 찾는다면, 모든 다양한 견해를 표명하게 하고 경청해야 한다. 하지만 경청이란 고개를 끄덕이고 미소 지은 채 원래 계획대로 계속 진행하는 것 그 이상을 의미한다. 민주적 과정이라면 상반된 의견들까지 존중하고 아울러야 한다. 또 참가자 모두 약간의 실망감을 느낄 규칙으로 마무리될 가능성도 높다. 이것이 진정한 타협의 본질이다.
AI 분야에서 국가적 우위를 내세우는 태도는 국제사회의 신뢰를 약화시킬 뿐이다. 민주주의 가치에 위배되는 AI 사용은 그런 신뢰를 한층 더 약화시킨다. AI를 어떻게 사용하면 안 되는지의 조건을 확립하는 작업부터 시작해야 한다.
결론: 역사의 교훈 - 257쪽
20세기 가장 위대한 도덕 철학자 중 한 명인 마틴 루서 킹(오늘날 세대, 성별, 인종, 지역, 종교를 가리지 않고 모든 미국인들에게 존경받는 인물. 미국 흑인 민권 운동의 영원한 아이콘)은 테크놀로지 진보의 한가운데서 인간다움을 유지하는 문제의 중요성을 여러 번 언급했다. 그는 노벨 평화상 수상 소감 자리를 빌려 과학적 진보와 사람들의 욕구를 좀 더 깊이 연결할 것을 촉구했다. 킹 박사는 반(反) 과학주의자가 아니었다. 또한 (그가 목숨을 바쳤던 대의를 감안할 때 너무 명확하지만) 반(反) 진보주의자도 아니었다. 그는 자신의 비극적 죽음을 몇 달 앞두고는 "과학이 우리 삶에 선사한 경이로움은 누구도 간과할 수 없다"라고 인정했다. 그러나 안전망 없이 사람들을 일자리에서 쫓아낸 자동화는 부당했다. 그리고 인간에 대한 고려가 없는 테크놀로지의 경이로움은 그저 고통만 초래할 뿐인 실수였다. "과학의 힘이 도덕의 힘을 넘어설 때, 우리는 결국 유도 미사일과 오도된 인간으로 끝난다."
인간의 독창성과 열정과 야망은 끊임없이 세상을 변화시킨다. 우리는 희망에는 잘못이 없고 빈곤한 비전에는 지혜가 없다는 것을 기억해야 한다. 결국, AI는 세계적 테크놀로지가 될 것이고, 어려운 도전과 커다란 기회에는 세계적 협력이 필요할 것이다. 신기술로 세상을 반드시 더 나은 방향으로 변화시킬 가치들에 영향을 미치는 것도 그 가치들을 선택하는 것도 모두 우리에게 달려있다. AI에겐 우리가 필요하다.
