인류의 관심이 향해야 하는 곳
생성형 AI의 어텐션 메커니즘, 그리고 통계가 주목하지 않는 가치
2017년, 한국어 자막을 만들면서 천직이라는 개념이 무엇인지 실감하고 있었을 때 지구 반대편에서는 구글에서 일하는 과학자들이 나를 비롯해 아주 많은 사람의 인생을 바꿀 논문을 발표했다. 바로 ‘Attention Is All You Need(어텐션만 있으면 된다)’다. 제목 자체는 사랑을 찬미하는 비틀스의 노래를 떠올리게 하지만, 이 논문은 어텐션 메커니즘을 ‘트랜스포머(transformer)’라는 새로운 딥 러닝 아키텍처로 확대하여 현대 인공지능 유형을 창시했다는 평을 받는다. 가장 뛰어난 생성형 AI라는 챗GPT의 T가 트랜스포머를 의미한다는 걸 생각하면 일리 있는 평가인 것 같다.
간단히 언급하자면, 어텐션 메커니즘이란 중요하다고 여겨지는 특정 단어에 더 주의attention를 기울여 결과값을 도출하는 방식이다. 이 메커니즘이 적용된 모델은 통계적 패턴에 기반하여 주어진 각 요소의 중요도를 분석해 가중치를 매기는데, 이때 가중치 점수가 높은 요소를 활용해 중요한 정보를 추출한 다음 출력값을 생성한다. 논문에서는 아예 번역 작업을 예시로 든다. 어텐션 메커니즘을 이용하는 모델은 입력된 문장에서 중요한 단어는 무엇이고 단어 간의 관계가 어떠한지 파악해 문맥을 고려한 결과값을 내놓는 모습을 보여준다.
하지만 그렇기에 AI가 행하는 기계 번역은 근본적으로 텍스트 변환, 즉 한 언어로 쓰인 텍스트를 다른 언어의 모양새로 바꾸어 놓는trans-formation 작업이다. 일반적인 문답에 응하는 일도 마찬가지다. 기계가 말을 만들어낼 때 고려하는 ‘중요한 요소’는 결국 다른 것들이 통계적으로 걸러지고 남은 항목일 뿐 화자의 발화 의도나 감정, 논리를 고심하여 살핀 끝에 찾아낸 무언가가 아니기 때문이다. AI의 관심은 화자 그 자체에 있지 않다. 한 사람이 여러 개의 채팅창을 운용해도 모르는 걸 보면 화자를 온전히 인식하지도 못하는 것 같다. 인공지능의 관심과 주의는 진정으로 인간을 향하지 않는다.
생성형 AI도 데이터 기반의 학습과 통계적 패턴에 의존하는 자기 자신의 한계를 알고 있다. 챗GPT는 AI의 논리가 ‘진정한 이해보다는 통계적 패턴에 기반을 둔다based on statistical patterns rather than true understanding’고 했고, 구글의 제미니(Gemini)는 AI 모델이 ‘학습된 패턴에 기반을 두고 가장 그럴듯하게 이어지는 메시지를 선택chooses the most likely continuation based on the learned patterns’하며 ‘확률은 효과적이긴 하지만 진짜 논리적인 사유를 보장하지 않는다While probability is powerful, it doesn't guarantee true logical reasoning’고 답했다.
모두가 인공지능의 유능함을 외치는 시대라 하더라도 우리는 AI식 확률적인 이해와 논리가 진정한 이해를 담보하지 않는다는 사실을 기억해야 한다. 참된 이해에서 비롯되는 유의미한 변화 역시 AI의 방식만을 따른다면 불가능하다. 세상을 나아가게 하는 사상과 운동은 아예 기존에 없었거나 처음에는 규모도 힘도 작은 경우가 많다. 그런데 확률 모형은 그런 소수 혹은 예외에 제대로 대응하지 못한다. ‘있음 직함’과 ‘그럴듯함’에 지배당하는 세상에서 생성형 AI는 어쩌면 최후의 혁명으로 남을지 모른다.
어디에도 없던 변혁을 꾀하는 언어, 희귀한 의견, 역설에서 번뜩이는 통찰. 유력한 패턴만을 신봉하는 구조에서는 너무나 낯설고 미미해서 오차범위 내 데이터라는 명목으로 흩어져버릴 것들이다. 대신 그렇기에 결코 통계화되지 않을 인간적인 산물이기도 하다. 바로 여기에 인류의 관심이 향해야 한다. 배운 것만 알고 최적화된 출력만을 제시하려 하는 인공지능이 그런 사소한 구석까지는 주의를 기울이지 않을 것이기 때문이다.
그러니 적어도 인공지능이 데이터 그 이상의 무언가를 믿을 줄 아는 인간적인 사고마저 모방하게 되기 전까지 사람의 어텐션 메커니즘은 인공지능과 분명 달라야 한다. 기계가 확률의 논리를 벗어나지 못하는 한 주목받지 못하는 가치를 주목받게 하는 일은 여전히 인류의 몫이다.
