AI: 소음과 신호
케리 마커스 & 어니스트 데이비스의 <2029 기계가 멈추는 날>
[편집자 주] 한겨레 신문에 스튜어트 러셀 UC버클리 교수 인터뷰 기사가 실렸다. 그의 저서 <어떻게 인간과 공존하는 인공지능을 만들 것인가>가 최근 국내에 번역 출간된 데 맞추어 진행된 것으로 보인다. 온갖 뉴스와 전망이 경쟁적으로 쏟아지는 AI의 실제 현황에 대해 진단한 또 다른 책이 있어 소개한다. 뉴욕 대학의 심리학/신경과학 교수인 케리 마커스와 같은 학교 컴퓨터공학 교수인 어니스트 데이비스가 함께 쓴 <2029 기계가 멈추는 날>이다. 러셀의 책 원서는 Human Compatible: Artificial Intelligence and the Problem of Control이라는 제목으로, 마커스 & 데이비스의 원서는 Rebooting AI: Building Artifical Intelligence We Can Trust라는 제목으로 모두 2019년에 출간되었다. 마커스의 책에는 AI 관련 추천 도서 목록이 수록되어 있다.
2029 기계가 멈추는 날
게리 마커스 & 어니스트 데이비스
비즈니스북스
사람들이 AI가 실제로 할 수 있는 일에 대해 과대평가하는 이유는 언론 보도가 대단치 않은 진전도 패러다임의 대전환인 양 AI의 능력을 과장하기 때문이다.(37쪽)
우리는 신뢰할 수 없고 더 심각하게는 인간에 대해 아무런 이해가 없는 기계에게 점점 더 많은 권한을 넘겨주고 있는 중이다. AI에 투자되는 엄청난 돈이 중대한 이해관계가 걸린 문제에 이용되기에는 불안정하고 애매하고 신뢰성이 너무나 낮은 해법으로 향하고 있는 것이 지금의 현실이다.(50쪽)
이 책에서 우리는 AI에 회의적인 태도를 견지하는 방법에 대해서만 이야기하지는 않는다. 그보다는 왜 AI가 아직 제 궤도에 오르지 않았는지, 견실하고 신뢰할 수 있는 AI, 즉 계속 변화하는 복잡한 세상 속에서 우리의 집, 부모, 아이, 의학적 결정, 궁극적으로는 우리의 삶까지 믿고 맡길 수 있는 AI를 얻기 위해 우리가 할 수 있는 일은 무엇인지에 대해 논의해보려 한다.(42쪽)
우리 저자 두 사람은 모두 어린 시절 SF소설이나 영화를 통해 AI를 접했고 이루어진 기술들에 경탄했으며 실현되지 않은 기술에 호기심을 가져왔다. 스마트워치에 들어간 많은 메모리와 연산력, 네트워킹 기술은 우리를 놀라게 한다. 몇 년 전만 해도 우리는 음성 인식 기술이 이렇게 빨리 보편화될 줄 예상하지 못했다. 하지만 진정한 기계 지능의 실현은 우리가 처음 AI에 대해 생각했을 때 기대했던 것보다 훨씬 더 먼 미래의 일이다.
우리가 가장 두려워하는 것은 기계가 우리 인간을 말살하거나 클립으로 만드는 것이 아니라 AI에 대한 우리의 기대가 우리의 능력을 넘어서는 것이다. 기존 AI 시스템들은 상식 비슷한 것조차 가지고 있지 않다. 그럼에도 그들에 대한 우리의 의존도는 점차 높아지고 있다. 진짜 위험은 초지능이 아니라 '힘을 가진 어리석은 하인', 즉 자신을 제어할 가치관 없는 사람들이 표적으로 삼을 수 있는 자율 무기나 장기적인 가치에 미치는 영향을 평가하지 않고 단기적인 판매만을 우선시하는 AI 주도의 뉴스피드 등이다.
지금 우리는 일종의 공백기에 있다. 네트워크화됐고 자율성을 가졌으나 힘의 결과에 대해서 추론할 진정한 지능은 거의 없는 좁은 지능의 상태에 있는 것이다. 머지않아 AI는 더욱 정교해질 것이다. 자기 행동의 결과에 대해 추론할 수 있게 될 날은 빨리 올수록 좋다.
이 모든 것이 이 책의 큰 주제와 매우 직접적으로 연관된다. 우리는 지금의 AI 연구가 대체로 잘못된 길을 가고 있다고 주장해왔다. 기존 연구와 노력의 대부분은 한정된 과제를 수행하고 우리가 딥 언더스탠딩이라고 부르는 것이 아닌 빅데이터에 주로 의존하는, 비교적 지적이지 않은 기계를 만드는 데 집중되고 있다. 우리는 그것이 큰 실수라고 생각한다. 그 방향이 일종의 '사춘기 AI'로 이어질 가능성이 크기 때문이다. 자신의 장점이 무엇인지 모르고 자기 행동의 결과를 심사숙고할 수단을 갖지 못한 기계로 말이다.
단기적인 해법은 우리가 만드는 AI에게 입마개를 씌우는 것이다. 심각한 결과가 따르는 일은 할 수 없게 하고 발견되는 개별적 오류를 수정하는 것이다. 하지만 지금까지 살펴보았듯이 이것은 장기적으로 실행할 수 없는 방법이며 단기적으로도 포괄적인 해법이 아닌 반창고를 붙이는 수준일 뿐이다.
이런 난장판을 벗어나는 유일한 방법은 상식, 인지 모델, 강력한 추론 도구들을 갖춘 기계를 만드는 일을 하루빨리 시작하는 것이다. 이 모든 것을 합치면 딥 언더스탠딩에 이를 수 있다. 딥 언더스탠딩은 자신의 행동 결과를 예측하고 평가할 수 있는 기계를 만드는 전제 조건이다. 이 프로젝트는 이 분야가 통계나 빅데이터에 대한 심각한, 그러나 피상적인 의존으로부터 탈피해야만 비로소 시작될 수 있다. 위험한 AI에 대한 치료제는 더 나은 AI이며 더 나은 AI로 가는 가장 올바른 길은 세상을 진정으로 이해하는 AI를 통해서만 가능하다. (331-332쪽)
