최근에 AI 성능이 좋아지면서 AI 가 사람의 말을 정말 잘 알아 듣습니다.
정말 AI 가 사람의 말을 이해하는 걸까요? 나의 가족도 몰라주는 마음을 AI는 알아주는 걸까요? 나도 모르는 내 마음을 AI는 알고 있는 걸까요?
제 생각은 그럴수도 있고, 아닐 수도 있다 입니다.
철수가 영희에게 [당신의 눈동자에 건배] 라고 말하든 [내 아를 낳아도] 라고 말하든 뜻은 (좋아한다, 사랑한다) 입니다. 돌직구를 던지나 돌려까나 결국 사람이 사람에게 전달하려는 감정의 메세지는 한정적입니다. 인터넷의 거의 모든 인간의 자료를 학습한 AI 는 어떻게 보면 당연하게 이러한 말에 대해 제대로 된 반응을 할 수 있습니다.
AI 는 병렬 연산을 하는 기계이고, 병렬 연산의 결과는 평균값입니다. 이것은 거꾸로 말을 하자면, 나의 말을 AI가 너무 잘 알아 듣는다면 나의 생각이 사람들의 표준에 가깝다는 뜻이고, AI 가 여전히 말귀를 못 알아 듣는다고 느낀다면 나의 생각이 일반 사람들과 많이 다르다고 생각하는 것이 더 합리적일 듯 합니다. (이 이야기는 이전 포스트에서도 언급한 적이 있습니다)
AI 가 더 똑똑해진다고 모든 사람의 말을 다 잘 알아듣지는 않을 가능성이 높다는 뜻입니다. [내 아를 낳아도] 란 말을 (좋아한다, 사랑한다)의 뜻으로 쓰지 않는 사람의 말은 아무리 빡센 학습을 한 AI 라도 결코 제대로 된 반응을 할 수 없습니다. 평균에서 벗어나 있기 때문입니다.
특이점을 넘어서는 진짜 발명, 예술, 창작, 사상 등에 대해 AI는 찰떡같은 대답을 할 수 없습니다. 학습한 적도 없고 합성을 해도 나올 수 없는 말 그대로 특이점을 넘어서는 현상이기 때문입니다.
AI 에게 판단을 맏길 수 없는 중요한 이유중의 하나이기도 합니다.