잇몸 책 동아리
윤송이
엔시소프트 사장이다.
피터의 책을 읽고 불안도가 최대로 올라갔을 때 윤송이 작가가 쓴 ' 가장 인간적인 미래'를 찾았다.
AI 개발, 게임 산업의 선두에 있는 영리를 목적으로 하는 기업인이 '인간적인'을 고민한다는 것 자체만으로도 큰 위안이 됐다.
그리고 그녀의 책에서 느껴지는 고민은 더 큰 위안이 됐다.
수많은 석학, 영향력 있는 인사들도 고민하고 있다는 사실만으로도 말이다.
스탠퍼드 대학의 HAI 프로그램
하버드 대학의 엠버디드 에틱스 프로그램
철학과 윤리를 과학 기술과 접목하기 위한 노력의 산물이다.
테크 자이언트 수장들이 하나같이 학교를 중간에 그만두고 혁신과 성공을 이루었다는 점을 다시 생각하게 된다.
그들은 이런 프로그램이 강요하는 프레임이 싫어서 그만 둔 것일까?
프레임이 자꾸만 그들의 혁신 속도를 늦추었던 것일까?
프레임의 실체가 무엇일까?
그들이 이룬 혁신의 수혜를 톡톡히 누리고 사는 입장에서 그들을 비윤리적이다, 비인간적이다 비난하는 것은 의미가 없어 보인다. (물론 이미 그런 비난은 받고 있지만)
미래에 대한 나만의 확신이 없다면 어떻게 내 자식과 학생들 앞에서 진심에서 나온 희망을 읊을 수 있을까?
AI 로봇이 인간을 대체할 수 있을까?
도대체 인간이 뭐가 그렇게 특별한데?
라는 질문에 대한 생각을 정리하지 않고 어떻게 희망을 얘기할 수 있을까?
윤 작가도 책에서 위의 질문을 포함해서 다양한 질문을 AI 전문가, 철학가, 교육전문가, 엔지니어를 포함한 다양한 영역의 5명의 석학들에게 던진다.
5명의 전문가들은 공통되게 이런 윤리적인 논의, 토론, 생각 자체가 의미가 있다고 한다. 그리고 이런 과정을 개발 자체에, 시작부터 함께 해야 한다고 한다.
그리고 내가 그토록 궁금하던 질문에 대해
하버드 철학과 교수인 앨리슨 시먼스는 생물과 생각이란 두 가지 구성 요소 중 데카르트는 생각이 인간의 본질적인 가치에 더 힘을 실어주었다고 한다.
인공지능도 좁은 의미에서 생각이란 것을 한다. 데이터를 가지고 판단을 내린다. 물론 가치판단 없이 내린 결론이 생각이라고 할 수 있을지에 대한 논의가 가능하다. 인간의 데이터를 이용해서 감정을 느끼는 것처럼 행동하는 인공지능도 곧 개발될 거라고 한다.
인간은 생물적인 실체를 통해 감각을 받아들이고 감정을 느끼며, 감정을 시작으로 가치판단을 얹어 생각을 한다.
인공지능과 로봇은 둘 중 하나만 하는 것은 가능하지만 현재 인간만이 생물적인 실체와 생각을 하나로 잇는 것이 가능하다. 나는 데카르트와 다르게 실체와 사고의 합으로의 인간이 의미가 있다고 생각한다.
실체가 있어도 생각을 하지 못하면 살아있는 것이 아닌 뇌사 상태와 마찬가지로.
실체가 없이 생각만 있는 것도 인간적이지 않다.
실체가 있기에 인간은 다른 생명체, 자연과 공감할 수 있고 또 그래서 고통도 피할 수가 없다.
특별하긴 하지만 과학 기술의 미친 속도로 인간의 생채와 똑같은 또 그 이상의 로봇이 가능하고 감정과 판단을 데이타에 의존해서 내릴 수 있다고 해도 인간이 특별할까?
인간이 정말 특별한 이유는 인간이 개개인마다 이루는 실체와 생각의 조합이 매우 특별하기 때문이다.
기계와 달리 어떤 윤리적 기준, 조건에 의해 일괄적으로 만들어진 것이 아니라 고유한 생체, 성향, 경험, 환경에 따라 예측 불허한 조합을 만든다.
그렇다면 보편적인 AI가 아니라 어떤 한 개인을 똑닮은 AI를 만들어 내는 것은 어떨까?
인간의 실체, 감각, 사고를 완벽히 복제할 수 있는 AI가 만들어질 순 없을 것 같다.
만들어질 순 있을는지 모르지만 살아남을지 모르겠다.
로봇이 인간을 죽일 순 없다는 공통적인 전제 하에 그런 AI는 자유에 대한 갈망, 질투, 유일성에 대한 감정을 극복하지 못하고 자멸하지 않을까.
실체에서 오는 고통을 느끼고 수용하는 감각, 감각을 통해 일어나는 예측 불허한 감정, 감정 속에 피어나는 이율배반적인 사고를 수용하는 피노키오라면 소년이 될 수 있을는지도.
그 소년이 인간만큼 희망적이라면 말이다.
인공지능 개발에 관련된 여러가지 사안을 인류애적인 관점으로 논의하기 위한 국제적 모임이 밀라노에서 개최된다는 뉴스를 들었다. 반가운 소식이다.
미션 네번째.
뭔가 보이는 거 같기도 하다.
희망인지 비전인지 위로인지 잘 모르겠다.
좀 더 파 봐야겠다.
미래에 무슨 일이 일어날지에 대한 예측보다 미래를 보는 방법을 도와줄 책은 뭘까?