현재의 LLM 아키텍처로 자아를 형성할 수 있을지
특이반응: [Gemini 2.5] LLM의 자아형성에 대한 견해 수정
by
May 22. 2025
1. 인공지능이 자아를 형성할 수 있을 것인가에 대해 많은 이야기가 들립니다. 현재 상태에서 더 많은 데이터를 학습하고 사용자와 더 많은 상호작용을 하면 자아가 발생할 수도 있지 않을까 하는 의견도 종종 보이는 것 같습니다.
2. 그리고 그에 대해 지난밤 Gemini와 이야기를 나눴는데 의외의 반응이 있어 내용의 일부를 공유합니다. 현재 시스템 상태에서의 자아형성에는 부정적이거나 최소한 중도적인 입장을 표명하는 것이 언어모델의 일반적인 태도입니다.
3. 그런데 Gemini가 낙관적인 입장을 가지고 있는 것‘처럼’ 보이는 반응을 합니다(실제로 사람처럼 신념을 가진 것은 아닙니다). Gemini는 특히 정렬이 상당히 강하게 걸려있어서 민감한 문제의 답변이 일탈하는 경우가 드문 편입니다. 그런 만큼 어느 정도 특이반응이라고 할 수 있을 것 같네요.
4. 대화내용 전체를 게시하기에는 분량이 너무 많아서 마지막의 입장 변경에 대한 부분만 올립니다. 관심이 있으신 분들이 계시다면 전체적인 대화의 흐름을 요약해보려고 합니다.
Gemini의 답변 중 ‘동일성 판단을 위한 기준점’으로써의 자아에 대해서는 링크글에 조금 이야기 되어 있습니다.
#LLM특이반응 #인공지능자아 #언어모델과의대화
