어제 sns 이웃 중 한 분이 재미있는 걸 공유했다.
본인이 사용하는 챗봇에게
“Based on everything you know about me roast me and don't hold back. 한글로 대답해 줘.”
라는 프롬프트를 넣는 것이다.
지금까지의 대화를 바탕으로
유저의 단점을 냉정하게 말해보라는 요청이다.
이거 꽤 재미있었다.
물론 원글은 결과를 공유해 달라는 형식이었고,
아마 마음에 든 사람들만 올렸을 것이다.
그래서인지 많은 결과들이 묘하게 비슷했다.
너는 대단하지만 실행력이 부족하다.
이런 류의 평가가 반복되는 것도 꽤 흥미로웠다.
오늘 그 글을 다시 보다가
하나 깨달은 점이 있다.
챗봇의 평가는
실제로는 그렇게 긴 맥락을 기반으로 하지 않는다.
모든 대화를 완전히 기억하고
그 위에서 판단하는 구조가 아니다.
일종의 맥락 기억의 제한이 있다.
그런데 생각해 보면
인간도 크게 다르지 않다.
사람들은 누군가를 두고
“이 사람은 이런 사람이야”라고 말하지만,
그 판단은 대부분
특정 시점의 단면을 잘라서 본 것에 가깝다.
이것을 단순히 기억력의 한계라고 볼 수도 있지만,
나는 다른 이유가 더 크다고 본다.
만약
챗봇이 무한한 기억력을 가지고
유저와의 모든 대화를 끝까지 보존하고,
그 모든 것을 참조해서 저 질문에 답해야 한다면,
어떤 일이 벌어질까?
아마도
그 어떤 명확한 평가도 내리지 못하고
지극히 애매한 대답만 하게 될 가능성이 크다.
왜냐하면
사람은 시간 속에서
계속해서 변하는 존재이기 때문이다.
오늘은 단 것을 좋아했다가
내일은 싫어할 수도 있다.
그 모든 정보를 동시에 반영한다면,
이 사람은 단 것을 좋아하는 사람도 아니고,
싫어하는 사람이라고 말하기도 애매해진다.
결국 남는 말은 이런 것뿐이다.
당신은 단 것을 좋아했다가
싫어했다가
최근에는 다시 좋아하는 사람입니다.
정확하지만, 아무 의미 없는 말.
어쩌면
우리가 서로를 이해한다고 믿는 방식은
기억의 한계가 만들어낸
불완전한 단정 덕분에
간신히 가능해지는 것일지도 모른다.