AI 와 인간
아주 어렸을 때의 일이라고 생각하는 기억이 있다. 점점 흐려지고 있지만 그때의 풍경 감정 느낌들에 관한 기억은 생생하다. 며칠 전 발생한 사건이나, 데이터에 관해서 떠올렸지만 다시 확인해 보니 틀린 경우가 있다. 때로 누군가 A에 대해서 말하면 언젠가 들은 것 같은 기억이 있다. 사람은 언젠가의 기억들이 어떤 기억들의 무덤에 도달한 이후 그 기억을 다시 꺼내는 과정에서 덧붙여 묻은 무언가라든지 잃어버린 무언가에 대해서 생각하지 않고 그 기억이 원작인 것처럼 생각할 때가 있다. 왜곡된 기억이지만 때론 왜곡되었다는 것을 인지하지 못한 채 넘어가기도 한다.
사람의 기억이 정확하지 않은 것은, 기억들이 기억들의 무덤에서 솟아오를 때, 온갖 오염이 되기 때문이다. 통상 분류는 비슷한 것끼리 엮인 채로 기억을 하게 되는데 그 과정에서 비슷한 기억이 서로에게 간섭, 수정하는 일이 빈번하게 일어난다.
문득, AI 역시 부정확한 출처나 오류로 인해 올바르지 않은 답변을 내놓는 현상이 생각났다. AI는 정확한 출처와 계산을 바탕으로 답변이 이루어진다고 믿는데, 때로 올바르지 않은 답변을 내놓으며 프롬프트를 수정하게 만든다. 어떤 질문에 대하여 불완전한 대답을 내놓는다는 점에서 이 결과는 사람과 크게 다르지 않아 보인다. 이를 AI 환각이라고 부른다. 마치 우리와 똑같이 불안전한 정보를 학습하여 그럴듯한 답변을 내놓게 된다. 어떻게 보면 최적화라고 볼 수 있는데, 더 적은 비용으로 결과를 내놓을 수 있는 일종의 '가성비 답변'이다. 가성비 답변의 중요성은 점점 더 커질 예정이다. 기업들은 더 적은 데이터로, 더 많은 답변을 만들어낼 수 있도록 프로그램을 학습시킬 예정이기 때문이다. OPEN AI에서 딥시크로 가는 과정에서 가장 충격적이었던 것은 가성비였기 때문이다. 더 적은 비용으로 더 그럴듯한 답변을 만드는데 혈안이 되어있는 지금, 비영리 기업이 아닌 이상, 결국 기업에게 중요한 것은 이익이다. 인간 기억의 왜곡과 AI 환각 현상은 표면적으로는 비슷해 보이지만, 그 원인과 목적은 다르다. 인간의 기억 왜곡은 뇌의 자연스러운 현상이지만, AI의 환각은 비용 절감과 효율성 추구의, 어떻게 보면 의도된 결과물이다.
이런 상황에서 AI를 활용하는 핵심은 결국 인간의 비판적 사고력이다. 우리가 AI의 답변을 얼마나 비판적으로 받아들일 수 있는지, 그 한계를 얼마나 분명히 인식하는지가 관건이다. 인간은 자신의 기억이 틀릴 수 있다는 것을 알고 이를 보완하는 방법을 발전시켜 왔다. AI와의 관계에서도 마찬가지다. 지금은 프롬프트를 통해 제어하는 것처럼 불완전함을 인정하고 적절히 활용할 줄 아는 지혜가 필요한 시대가 됐다.