AI시대, 인간은 '안녕'할 수 있을까
기계는 어떻게 생각하고 학습하는가(피터노빅외6명, 한빛미디어, 2018)
진정한 위험은 인간이 질문하기를 포기할 때에 온다. (중략) 결국 인공지능의 결정은 추천이자, 수학적 확률에 불과하다. 인공지능 뒤에 신의 계시와 같은 절대적 결정이 있는 것이 아니다. (학습하는 기계, p.67/69)
자율 살상무기는 능력이 아니라 정책에 의해 제한될 것이다. (중략) 기계는 전쟁을 단순하게 만들지 않는다. 기계는 전쟁을 복잡하게 한다. 이는 인간과 닮은 점이라고 할 수 있다. (삶과 죽음의 문제, p.161/169)
기회는 준비된 사람에게 온다는 말이 있다. (중략) "뜻밖의 발견을 알고리즘에 아웃소싱하는 것." (미지의 세계로, p.181)
얼마 전 세계 최대의 가전제품 박람회인 'CES 2025'가 끝났다. 이번 CES는 AI가 인간 사회 전면에 화려하게 부상했음을 보여주는 동시에 인간의 지능을 넘어설 AI의 등장이 멀지 않았음을 느끼기에 충분한 기회였다. 과연 기계는 인간을 넘어서 새로운 세상을 열 것인가. 그 세상은 '유토피아'를 향하게 될까, '디스토피아'를 향하게 될까.
벌써 7년 전 책이다. 책 전체를 관통하는 메시지의 핵심은 날로 발전하는 기계에 대해 정책적으로, 인지적으로 견제하거나 제어하는 게 필요하다는 '경고'다. 그들의 경고는 수용되었을까. 아니면 더 큰 경고에 대응해야 할 상황일까. 주요 저자들의 최근 발언들을 살펴봤다.
"AGI 시대가 다가오면서 가까운 미래에 일상적인 사무직 일자리가 가장 위험에 처할 것이다. 인간의 노동력이 모두 불필요해진 세계에서 우리가 할 수 있는 것들을 준비해야 한다.(닉 보스트롬)"
"AI 도구가 우리 지식의 경계를 넓히는 데 도움을 주고 있지만 미래에는 기계가 우리 자리를 차지하고 인간이 보조 역할을 맡게 될 수도 있다.(넬로 크리스타아니니)"
"AI가 단순히 알고리즘 최적화에 그치지 않고 공정하고 포용적이며 사용자에게 유익해야 한다.(피터 노빅)"
"AI 기술이 긍정적 변화를 이끌어내기 위해서는 적절한 규제와 사회적 책임이 필수(토비 월시)"
책이 나온 이후 기술은 눈부시게 발전했지만 '인간 중심'의, '인간의 필요 한'에서 관련 기술이 통제되어야 한다는 인식은 더욱 강해진 게 아닌가 싶다. 어쩌면 인류의 마지막 '발명품'이 될지 모를 초지능 AI의 등장 이후에는 인간이 손 쓰려해도 손 쓸 수 없을 정도로 무한하고 불확실한 변화가 불가피할 것이기 때문이다.
기계와 AI에게 절대적 통제력을 내어주는 순간, 인간은 주연이 아닌 조연으로서 변화된 환경에 적응해 가야 할 수도 있다. 그게 적어도 끔찍하지 않으려면 합리적 이성과 적절한 통제, 그리고 합의된 정의 아래에서 준비되어 가야 한다. 그게 AI시대와 인류 역사가 조화를 이룰 수 있는 유일한 방법이다.
