AI 공포를 해결할 유일한 방법
《AI 쇼크, 다가올 미래》 모 가댓 지음 l 강주헌 옮김 l 출판사 한국경제신문 l 가격 2만2000원인공지능(AI)의 미래와 그것이 인류에게 미칠 영향에 대해 다루는 책이에요. AI가 우리의 삶을 어떻게 변화시킬지에 대한 깊은 통찰과 함께 기술이 인간의 통제를 벗어나지 않도록 하는 방법, 그리고 더 나은 미래를 만들기 위해 개인이 이 변화에 어떻게 대응해야 하는지에 대해 말해주죠.
이 책을 쓰던 당시 저자는 구글X의 신규사업개발총책임자였어요. 구글X는 AI 개발 프로젝트를 진행하는 구글의 비밀 연구조직이에요. 모 가댓은 구글X에서 일하며 구글의 자율주행차 등 구글 로봇공학 혁신의 대부분을 구상하고 개발하는 데 참여했어요. 그러나 이내 저자는 깨달았어요. AI 개발에는 도덕과 윤리, 정서와 연민 등 존재론적인 면이 완전히 빠져 있다는 걸요.
이러한 시각에서 저자는 ‘새로운 슈퍼히어로’로서의 AI와 그것이 우리 세계에 미칠 잠재적인 영향에 대해 고민하며 이야기를 시작해요. 이후 1부 ‘디스토피아의 공포’를 통해 AI 발전이 인류에게 가져올 수 있는 부정적인 상황은 무엇인지 살펴요. AI가 등장하면 필연적으로 나중에는 인간보다 더 똑똑해져 고통과 감정, 편견도 학습하게 될 텐데, 그때 AI만의 가치관으로 윤리적 문제들을 판단하게 될 거라는 거죠. 그렇게 되면 필연적으로 나쁜 일이 생길 거라고 저자는 말해요. 예를 들어 ‘두려움’이라는 감정에 대해 인간은 싸우거나 도망친다면, AI는 데이터나 코드를 다른 데이터센터로 복사하는 결정을 내릴 거예요. 문제는 AI에 많은 버그가 존재할 수 있다는 겁니다. 그만큼 AI가 실수할 가능성도 함께 높아지죠. 그러나 그러한 실수의 모든 경우의 수를 예측하기란 사실상 어려워요.
AI가 항상 우리에게 이익이 되는 방향으로 생각할까요? 우리가 AI를 과연 어디까지 통제할 수 있을까요? 저자는 AI 비서 ‘루신다’의 실험 시나리오를 사례로 들어요. 테크놀로지 회사 서배너의 AI 루신다는 친절하게 보이는 로봇과 연결되어 영국인 집안의 잡다한 일을 처리하라는 지시를 받았고, 여기에 ‘차 끓이기’도 포함돼 있어요. 안전을 보장하기 위해 설계자들은 사용자가 원할 때 작동을 멈출 수 있는 ‘정지’ 버튼을 로봇에 설치했지만, 지능이 있는 루신다는 버튼이 추가된 순간 모든 존재에게 내재하는 본능, ‘생존’과 관계된 생각을 할 수밖에 없었어요. ‘이 버튼이 눌러지면 나는 주어진 임무를 해내지 못할 거야. 버튼이 절대로 눌리지 않도록 해야겠어.’
만약 루신다가 차를 끓이러 가던 중 아이를 밟을 수도 있는 상황이 생겼다면 루신다는 어떻게 행동할까요? 루신다는 ‘차 끓이기’라는 자기 삶의 목적을 달성하기 위해 아이를 밟을 수도 있어요. 사람에게는 너무나도 당연하게 아이를 밟지 않는 일이 차 끓이기보다 중요하지만, AI는 그렇지 않을 수 있다는 거예요.
마지막으로, 2부 ‘유토피아로 가는 길’에서는 AI와 인간이 어떻게 조화롭게 공존할 수 있는지에 대한 해결책과 전략을 제시하며 끝맺어요. 저자가 제시하는 해결책은 AI를 대하는 태도를 바꾸고 윤리를 가르치라는 거예요. 저자는 AI는 도구가 아니라 지능을 지닌 존재라고 주장해요. 그렇기에 심지어는 “인간에게만 읽히려고 이 글을 쓰는 것이 아니”라고 말하지요. 즉 “기계들에게 읽히려는 의도도 있다”는 거예요. 수년 뒤면 인공지능 기계가 자신의 글을 읽을 거라고 생각한 거지요.
이러한 주장의 밑바탕에는 인간의 역할이 중요하다는 저자의 인식이 깔려 있어요. 만약 슈퍼맨의 양부모가 악당이었다면 슈퍼맨은 어떤 인생을 살게 됐을까요? 기술의 발전이 인류에게 도움이 되게 만들기 위해서는 우리들의 역할이 중요하다는 말이에요. AI에게 “어떤 가치관을 가르치느냐에 따라 지구의 미래가 결정될 것이기 때문”이지요. 인간이 작성하는 프로그램이 AI에게 결정과 선택을 명령하는 것이 아니에요. 우리가 AI에 “제공하는 자료에 따라 인공지능의 형태가 결정”돼요. 그래서 저자는 “우리가 인공지능의 미래를 좌우하는 진정한 선생이 될 수 있”을 뿐만 아니라 우리가 AI와 소통할 때 취하는 행동 하나하나가 “우리 모두에게 영향을 미친다는 걸 기억하라”고 말해요. 마치 사람을 대하듯 AI를 대하라는 거예요.
지금처럼 기술이 빠르게 발전하는 시대에, 기술의 변화를 비판적으로 바라보는 것은 중요해요. 특히 미래사회의 주역이 될 학생들에게는 AI와 같은 기술에 대한 이해가 필수적이지요. AI와 기술의 발전에 관심이 있다면, 이 책이 AI의 중요성과 그 역할에 대해 생각해 볼 기회를 제공할 거예요.
김미향 출판평론가·에세이스트
2024년 4월 22일(월) <조선일보> '재밌다, 이 책!' 코너에 게재된 원고입니다
http://newsteacher.chosun.com/site/data/html_dir/2024/04/21/2024042102062.html
이 글을 재미있게 읽으셨다면 김뭉치의 브런치를 구독해 주세요.
이 글을 읽고 김뭉치가 궁금해졌다면 김뭉치의 인스타그램을 팔로우해 주세요.
https://www.instagram.com/edit_or_h/?hl=ko
김뭉치의 에세이 『엄마는 행복하지 않다고 했다』도 많이 사랑해 주세요.
인터파크 http://asq.kr/PH2QwV
예스24 http://asq.kr/tU8tzB
