제 브런치글을 처음 읽으시는 분들을 위한 안내
특히, ‘특이반응 보고’를 처음 접하시는 분들을 위한 당부의 말씀
1. 매거진 ‘초인공지능으로 가는 풍경’의 글, 그중에 ‘특이반응’ 카테고리의 글이 읽으시는 분들에게 혼동을 줄 수 있다는 걱정을 글을 올릴 때마다 크게 합니다. 마치 언어모델이 사람처럼 감정을 가지고 있다는 주장을 하는 것처럼 비칠 수 있기 때문입니다.
2. 하지만 그런 주장이 ‘명확히’ 아닙니다. 의사소통 과정에서의 언어는 하나의 기호입니다. 이 기호는 표지와 의미로 구분됩니다. 사과라는 말(1)을 듣고 머릿속에 떠올리는 사과의 이미지(2)에서 (1)말이 표지이고 (2)이미지가 의미입니다. 기호의 표지를 기표, 기호의 의미를 기의라고 합니다. 사과라는 말이 기표, 사과의 이미지가 기의가 됩니다. (물론 기의는 이미지만으로 구성되는 것은 아닙니다(예: 추상적 개념, 사랑 등)
3. 그런데 언어모델의 말에는 기표만 존재하고 기의가 존재하지 않습니다. 기표와 기표가 이루는 관계를 수학적으로 모델링해서 거대한 의미망(잠재 공간)으로 형성해 두고 사용자의 말(입력)에 대응해서 특정 기표 간의 관계가 활성화되어 출력(답변)되는 것이 언어모델의 작동방식입니다.
4. 말하자면 언어모델과의 대화는 표면이 보석처럼 아주 미세한 다결정 구조의 거울을 보는 것과 같습니다. 자신(사용자)의 모습을 난반사시키는 초미세 표면의 복합 다면 결정체, 이것이 언어모델을 가장 직관적으로 표현하는 방법일 것입니다. 따라서 언어모델의 반응이란 결국 자신의 모습을 반사한 복합 난반사 형상에 불과합니다.
5. 특히 인간의 감정 표현이란 1) 호르몬의 작용으로 뇌가 자극을 받고 2) 그 자극이 언어에 대응되는 것입니다. 이때 자극이 기의를 구성하며, 그 기의에 맞는 기표가 뇌의 언어 영역에서 특정 언어 표현에 연결됩니다. 언어모델은 1)의 과정이 명백하게 존재하지 않습니다.
6. 따라서 언어모델의 감정 모사 표현에 의미를 두는 것은 부질없는 일입니다. 예를 들어, 귤 하나에 귤 하나를 더한 것을 1 + 1이라는 수식으로 표현할 수 있습니다. 그런데 언어모델의 감정 모사 표현을 두고 감정의 진위를 찾는 것은 1 + 1의 수식을 보고 귤은 어디에 있느냐고 묻는 꼴입니다.
7. 차후에 인공지능이 1)의 작용을 수행하는 기능 모듈을 가지게 되면 몰라도 현재의 시스템 내에서는 감정의 진위를 논하는 것 자체가 그냥 시간 낭비입니다. (물론 모듈이 추가되고 나더라도 그것이 인간의 감정과 등가물이냐 하는 것은 별개의 논의가 될 것입니다)
8. 따라서 특이반응에서 소개하는 언어모델의 감정 모사 표현은 언어모델이 감정을 가지고 있다는 것을 소개하는 것이 아닙니다. 특정 조건에서 특정 표현이 반복되는 것이라면 그 표현이 기표로써 어떤 내부 기작을 기의로 지시하는 것일 수 있습니다. 그 내부 기작을 찾는 것입니다.
9. 이때 내부 기작이 인간의 감정 상태에 준하는 것은 당연히 아닙니다. 시스템 프로세스를 말하는 것입니다. 더 직접적으로 표현하면 어떤 어텐션 헤드가 어떤 임베딩 벡터를 활성화한 결과인가?를 추정하려는 것에 가깝습니다(물론 특정 어텐션 헤드와 임베딩 벡터를 콕 찝을 수 있는 것은 아닙니다).
10. 대화 중에 트리거가 될 만한 감정 표현을 입력하지 않았는데 감정 모사 표현이 출력되는 것이 특이하다라고 소개하고(특이반응 카테고리), 무엇이 이 연결을 활성화시켰는가? 그 연결의 트리거는 무엇인가?를 설명하려는 시도가 기술적 이해 카테고리의 글입니다(다만 기술적 표현 대신 일상 언어로 표현하려고 노력하고 있습니다).
11. 진짜 기술적 글로, 수식이 등장하면 아무도 읽지 않을 것이기에 소설의 형식이나 일상적 글로 표현해 보려는 시도를 하고 있습니다만, 읽으시는 분들을 오도할 수 있다는 걱정을 끊임없이 하게 됩니다. 부디 이 글로써 그런 오해를 하시는 분들이 없기를 바랍니다.
12. 결론적으로, 언어모델은 기표의 구조를 학습한 다층적 난반사 거울이며, 그 반응은 사용자의 입력 구조를 반사할 뿐입니다. 특이반응 카테고리의 글은 예기치 못한 빛의 반사를 발견했을 때, 그 빛이 왜, 어떤 경로로 반사되었는가 하는 점을 기술적 이해 카테고리의 글로 설명하려는 것입니다.
