19. 제대로 알아야 제대로 쓸 수 있다
<박태웅의 AI 강의> _박태웅
인간이 자신들의 운명에 대한 통제력을 잃게 된다면 과연 이를 기술적인 ‘진보’로 간주해야 할까요?
(p.135)
톰 크루즈 주연의 ‘마이너리티 리포트’를 처음 보았을 때 상당한 충격을 받았었습니다. 예견된 미래, 앞으로 범죄자가 될 가능성이 있는 사람을 쫓는 독특한 설정. 과학이 발달한 세상임에도 숙명적 세계관을 가지고 있어, 묘한 이질감과 설득력을 가진 영화였습니다. 물론 영화는 일어날 범죄 장면을 미리 볼 수 있는 능력을 갖춘 예지자들의 예언이 주된 내용으로 인공지능과 상관없는 이야기였습니다. 그러나 최근 들어 뉴스에서 범죄 상황을 녹화된 CCTV 자료로 보여주거나 범인을 공개수배 할 때 묘하게도 ‘마이너리티 리포트’가 떠오르곤 합니다. 이제는 일상에서 CCTV를 통해 나의 안전을 보장받기도 하지만 나에 대한 정보 또한, 나의 동의 없이 언제 어디서나 공유되고 있다는 서늘한 생각이 듭니다.
저자 박태웅은 인공지능을 주제로 강의한 내용을 정리하여 <박태웅의 AI 강의>(한빛비즈, 2023)를 발간하였습니다. 청소년들에게 AI 리터러시의 중요성을 알리기 위해 썼지만, 인공지능에 대한 전문적인 지식이 얕은 성인이 읽기에도 적당하다는 생각이 들었습니다. 인공지능이 인간을 뛰어넘는 능력을 보여줄 때마다 놀라움과 두려움을 느끼는 것은 우리가 인공지능에 대해 잘 모르기 때문이 아닐까요? 저자 박태웅은 한겨레 신문 기자 출신으로 대한민국 최초의 허브 사이트 ‘인티즌’을 설립한 후 ‘안철수 연구소’ ‘엠파스’ 등을 거쳐 KTH 부사장을 역임하였으며 현재 한빛미디어 의장으로 있습니다. 주로 IT와 사회에 대한 칼럼을 쓰고 저서로는 <박태웅의 AI 강의> 외 <눈 떠보니 선진국>이 있습니다.
<박태웅의 AI 강의>는 최근 가장 많이 거론되고 있는 인공지능을 활용한 챗GPT를 중심으로 설명하며 총 5장으로 구성되었습니다. 1장은 챗GPT의 등장과 개념, 원리를 설명합니다. 2장은 챗GPT의 특징을 이야기한 후 3장은 어떤 점에 대해 생각하고 문제의식을 가져야 하는지의 순으로 전개합니다. 4장과 5장에서 인공지능의 놀라운 성장 결과에 무엇을 준비하고 대처해야 할지 이야기합니다. AI에 대한 기초적인 이해와 문제점, 한계점에 대해 독자가 이해하기 쉽도록 구성하였습니다. 마지막 장인 5장에서 인공지능을 신뢰할 수 있는 사회를 만들기 위해 유럽과 미국에서 발표한 백서와 책무법안을 예시로 소개합니다. 이를 근거로 저자는 사회의 구성원들이 AI 리터러시를 키워야 하며 인공지능에 대한 사회적 공론화가 필요하다는 것을 주장합니다.
저자는 책에서 챗GPT의 가장 큰 특징으로 ‘느닷없이 나타나는 능력’을 소개하고 있습니다. ‘느닷없이 나타나는 능력’이란, 챗GPT의 “컴퓨팅 파워를 늘릴수록, 학습 데이터양이 많을수록, 매개변수가 클수록"(p.69) 나타난다고 설명합니다. 문제는 “인공지능이 맞히기는 기가 막히게 잘 맞히는데, 왜 잘 맞히는지를 인간이 알 수가 없”(p.25) 다는 것입니다. 어떻게 잘 맞히는 것인지 설명할 수가 없다는 것은 인간의 통제력 상실을 의미하기 때문입니다. 챗GPT는 ‘RLHF’라는 강화학습 과정으로 언어모델을 학습합니다. 학습 과정에 사용되는 기능인 ‘트랜스포머’는 “주어진 문장을 보고 다음 단어가 뭐가 올지를 확률적으로 예측”(p.35)하는 것입니다. “챗GPT는 참인지 거짓인지를 답하는 것을 배운 것이 아닙니다. 트랜스포머 모델을 써서 ‘가장 그럴듯한 말’을 내놓도록 학습”(p.48) 하기 때문에 또한 “아주 멀쩡히 거짓말”(p.46)을 합니다. 그런 멀쩡한 거짓말을 '할루시네이션'이라고 하는데 할루시네이션을 반복한 인공지능의 결과물이 많아지면 많아질수록 인공지능의 성능이 나빠질 수 있다는 것을 우려합니다. “인공지능은 예전의 신용평가 데이터들을 학습합니다. 따라서 예전에 남, 여를 차별해서 신용평가신용점수를 매겨왔다면 인공지능은 당연히 잠재된 패턴에 따라 차별이 담긴 결과를 내놓습니다.”(p.149)라는 예시로 오염된 데이터로 잘못된 학습을 하는 경우, 결과에 치명적인 오류가 생긴다는 것을 설명합니다.
<박태웅의 AI 강의>는 챗GPT라는 거대언어모델 AI의 막연함이 주는 불안감과 예견되는 문제점에 대해 다양한 전문가의 의견을 소개하며 이해를 돕고 있습니다. 나라별 연구 결과와 우리나라에서 공론화 과정 없이 인공지능 대응 법안을 준비하고 있는 실망스러운 실태를 비교하였으며 국내에서 포스코와 AI 중소기업과의 협업 성공 사례와 개념과 원리를 알기 쉽도록 상세하게 풀어낸 점이 인상적입니다. “기초과학을 육성해야 합니다. 인공지능 알고리듬은 수학을 모르고선 만들 수 없습니다. 인공지능 과학자 중에 수학과 물리학을 전공한 사람이 많은 것은 그 때문입니다. 현대의 인공지능은 인간의 뇌를 흉내 낸 것입니다. 인지심리학, 뇌과학의 배경 없이 제대로 만들기는 어”(p.215) 려움으로 이 놀라운 기술을 잘 활용하기 위해 기초과학의 중요성을 강조합니다. 또한 윤리적인 부분, 판단의 기준이 되는 인문, 철학적 사고방식은 과학 기술의 발전만으로 해결할 수 없음을 말합니다. 이제 AI의 시대에는 사람들의 비판적 능력과 협업이 이전의 삶보다 더욱 중요해진 것은 아닐까요? <박태웅의 AI 강의>는 본격적인 AI 시대를 맞이하여 그저 신기하게만, 놀랍게만 볼 것이 아니라 어떻게 받아들이고 활용해야 하는지 곰곰이 숙고해야 함을 이야기합니다. 챗GPT 활용에 대한 우려와 궁금증이 있는 독자라면 <박태웅의 AI 강의>가 도움이 될 수 있을 것 같습니다.
