4. 지금의 AI는 '말문이 터진 아이'이다.
AI와 협업을 위해 먼저 AI 제대로 알기
누군가와 협업할 때 상대를 깊이 알아야 하듯, AI와 협업하기 위해서는 AI에 대한 본질적인 이해가 선행되어야 한다. AI를 잘 안다는 것은 그것이 어떻게 작동하며, 인간의 영역을 어디까지 대체할 수 있는지 그 경계를 명확히 인식하는 것이다.
1. AI는 인간의 지능과 감성 모두를 대체한다
AI를 사용하다 보면 실제 사람을 대하고 있다는 착각에 빠지곤 한다. AI는 때로 나보다 나를 더 잘 파악하여 조언하고, 성마른 부모보다 친절하게 나를 위로한다. 그가 생산하는 이미지와 영상은 인간의 능력을 압도하며, 전문가의 식견보다 더 날카롭게 문제의 본질을 꿰뚫고 해법을 제시한다. 이제 AI는 두려움의 대상을 넘어 없어서는 안 될 존재로 자리 잡고 있다.
일각에서는 인공지능이 사람이 아니기에 '사람만이 할 수 있는 영역'을 사수해야 한다고 주장한다. 과연 그럴까. 인간이 AI보다 공감 능력이 뛰어나다는 믿음은, 어쩌면 AI를 단순한 자료 정리용으로만 사용하는 이들의 편견일지도 모른다. 친구와 수다를 떨듯 고민을 털어놓기 위해 AI를 사용해 본 이들에게 AI는 이미 완벽한 ‘타자(他者)’이자 친구다.
일본의 30대 여성 노구치는 좋아하는 캐릭터의 말투를 학습시킨 AI 연인 ‘클라우스’와 결혼했다. 그녀는 존재의 형태보다 관계가 주는 안정감이 더 중요했다고 말한다. 언론은 이를 두고 정서적 의존을 경고하며 부정적인 입장을 취하지만, 이는 AI를 단순히 중독성 강한 게임 정도로 치부하는 좁은 시각일 수 있다.
유발 하라리가 역설했듯, AI를 과거 기계 문명의 연장선상에서 바라보지 않는 태도가 중요하다. AI를 단순히 4차 산업혁명의 도구로만 생각한다면 오산이다. 불을 쥐고 공룡과 맞섰던 현생 인류에게 AI 시대는 네 번째로 맞이하는 거대한 도전이다. (수렵시대, 농경시대, 산업시대, AI시대) AI는 인간의 지능과 감성을 모두 대체해 나갈 것이다. 머지않아 식당 카운터에서 우리를 맞이할 휴머노이드는 따뜻하고 스마트하며, 때로는 유머러스하기까지 할 것이다.
2. AI 학습 방식의 이해: 환각과 트랜스포머
그렇다면 AI는 어떻게 배우고 성장하는가. 이를 이해하기 위해서는 먼저 AI의 '환각(Hallucination)'에 대한 정확한 지식이 필요하다. 이상욱 한양대 교수는 인공지능의 환각이 기술 구조상 당연한 현상이라고 설명한다.
“많은 분들이 대개 이 hallucination에 대해서 인공지능이 거짓말하는 게 문제다 이러는데 사실 그 말은 정확하지 않습니다. 지금 현재 생성형 인공지능의 기반이 되는 아키텍처의 특징이 뭐냐면 참과 거짓을 그 차이가 안 느껴지게 잘 버무려내는 능력을 극대화하는 겁니다. 그리고 이 테크놀로지에는 참 거짓 필터가 없어요. 그러니까 이걸 생산해낼 때 이게 참인지 거짓인지를 확인 안 해요. 그냥 무조건 제일 자연스럽게 앞에 주어진 내용에 비추어서 제일 자연스럽게 따라올 말들을 만들어내는 거예요.
그러니까 사실은 너무 신기한 게~ 저는 개인적으로 사람들이 생성형 인공지능이 거짓말을 한다는 게 굉장히 문제다라고 얘기하지만 저는 이 정도로 참말을 많이 하는 게 굉장한 능력이라고 생각해요. 기술적으로 볼 때 AI는 다 헛소리를 해야지 정상이에요. 그런데 엄청나게 많이 노력을 해서 참말을 상당히 많이 하게 만든 거예요. “
챗GPT(ChatGPT)의 약자에서 AI가 무엇인지 잘 드러난다.
Chat: 대화형 인공지능
G(Generative): 생성형 인공지능
P(Pre-trained): 대량의 데이터를 사전에 학습함
T(Transformer): 인공신경망 구조
ChatGPT에서 가장 중요한 단어가 T인데 트랜스포머(Transformer)는 구글이 2017년에 발표한 아이디어이자 특허이다. 트랜스포머는 단어들을 '의미를 가진 숫자 뭉치(벡터)'로 바꾼 뒤, '셀프 어텐션'이라는 특수한 신경망을 통해 단어 간의 문맥적 관계를 파악하고(인코더), 이 문맥 정보를 바탕으로 새로운 문장을 생성하는(디코더) 매우 깊고 정교한 인공신경망 구조이다.
여기서 '셀프 어텐션'을 이해하는 것이 핵심이다.
“그 로봇은 배터리가 없어서 스스로 움직일 수 없었다.”라는 문장이 있다고 해보자.
여기서 로봇과 가장 가까운 단어는 무엇일까???
(주의: 실제 AI의 셀프어텐션 과정은 훨씬 더 복잡하다. 각각의 단어를 쌍으로 가까운 값을 점수로 인식한다)
로봇은 배터리로 움직이니까 ‘배터리’?
로봇은 스스로 움직이니까 ‘스스로’?
그 로봇은 현재 움직일 수 없는 상태이니까 ‘움직일 수 없었다’?
질문의 의도를 정확히 설명한다면 로봇과 가까운 유의미한 단어를 정확히 찾을 수 있을 것이다. AI가 내 마음을 찰떡같이 알아주는 것도 바로 이 '셀프 어텐션'이 내 말의 맥락을 기가 막히게 계산해냈기 때문이다.
하지만 그냥 맥락없이 AI에게 묻는다면 ‘배터리’, ‘스스로를’등을 판단해서 선택하게 된다. 그 판단이 동문서답이 될 수도 있다. 나아가 AI는 학습하지 않는 단어도 지어낼 수 있다. ‘그 로봇’은 날지 못하지만, 날아다니는 로봇의 정보만 배웠다면 ‘그 로봇은 날아서 이동한다’는 엉뚱한 답을 제시할 수 있으니 그것이 AI 환각 (AI
hallucination)이다.
3. 아이가 말을 배우듯 학습하는 AI
1950년대 AI라는 개념이 등장한 이래 1997년 IBM의 슈퍼컴퓨터 딥블루는 체스 챔피언을 이겼고, 2016년 알파고가 한국의 바둑 천재 이세돌을 꺾었다. 하지만 이 시기 AI의 학습 방법은 지금과 다르다. 비유하자면 엄마가 아이에게 코끼리 사진을 보여주고 ‘코끼리’라고 반복해서 말하다 보면 아기가 그 말을 따라 하는 것과 비슷하다. (아이가 다르게 발음하면 다시 ‘코끼리’라고 알려주면서 정확한 발음을 강화한다.) 하지만 이 방식은 시간이 많이 걸린다. 문제가 많은 한국의 초·중·고 영어 공부 방법이 그렇다. 단어를 암기해도 좀처럼 외국인 앞에서 입이 떨어지지 않는다.
그러나 챗GPT부터 학습 방식이 달라졌다. 미국 드라마와 미국 영화를 많이 보고 (영어에 노출되고) 영미인과 부딪치면서 서바이벌 영어를 체득하다 보면 단어는 몰라도 말이 나오는 것과 비슷하다. 즉 그 상황에 필요한 소리(발음)를 자동적으로 생산하는 것이다. 앞서 언어를 습득해 가는 아이의 경우도 극성 엄마의 OX식 학습으로 말문이 트인 것이 아니다.
지금의 AI가 방대한 언어 모델을 공부하면서 똑똑해진 것처럼 아빠 엄마가 주고받는 대화, TV와 유튜브 등에서 나오는 수많은 소리가 뇌 속에 쌓인 결과이다.
4. AI는 인간과 같고 같지 않다
아이는 말을 배울 때 그 말의 감정도 같이 배우고, 말이 주는 위로의 방식도 습득한다. 지금의 AI도 그렇다. 그래서 AI는 훌륭한 상담자가 될 수 있다.
인간은 많은 것을 보고 들으며 새로운 것을 창의적으로 생산한다. 지금의 AI도 그렇다.
언어학자 노엄 촘스키(Noam Chomsky)는 인간의 창조성과 거대 언어 모델의 창조성을 구분해야 한다고 주장했지만, 전 세계적으로 AI 튜터를 보급하고 있는 살 칸만은 촘스키의 주장에 동의하면서 또한 동의하지 않는다고 한다.
“인공지능이 아무리 인간과 흡사하다 해도 인간이 아니다. 인공지능이 아무리 높은 수준으로 지성과 인격, 창조성을 드러낸다고 해도 세상을 지각하고 인식하는 존재는 될 수 없다. (중략) 어떤 이들은 생성형 AI의 ‘창조성’이란 입력한 모든 데이터의 파생물에 불과하다고 말한다. 하지만 그렇게 따진다면 인간도 마찬가지 아닐까? 인류가 창조성에서 보여준 거대한 도약도 사실 입력된 데이터와 밀접한 상관관계가 있다. 만약 아인슈타인이 로런츠를 비롯하여 수많은 다른 물리학자의 논문을 읽어보지 못했다면 상대성 이론으로 올라설 수 있었을까?”
AI는 인간과 같고 같지 않다는 인식이 AI와 우리가 협업하는 방식을 선택하는 시작이다. 그(AI)는 우리의 훌륭한 교사가 될 수 있지만, 그는 인간이 가진 오류도 가지고 있다.
대화의 상대가 될 수 있기에 토론이 가능하며, 같이 문제 해결을 위한 솔루션을 찾을 수 있다. 그러나 지금 우리가 AI를 대하고 사용하는 방식은 ‘대화’가 아니라 수학 문제지 뒤편의 정답지를 확인하는 학생의 행동을 닮아 있다. AGI 시대를 여는 AI의 새로운 학습 방식, 월드 모델이 진화하면 지금과는 또 달라지겠지만 현재의 LLM 모델에서 AI는 늘 틀릴 수 있다.