진정한 지능에 대해 우리가 놓치고 있던 것들
우리 연구실에 작은 사건이 하나 있었다. 우리가 진정한 동료로 만들기 위해 훈련시키고 있는 AI ‘크루(CREW)’가 내부 메신저 채널을 마비시킨 것이다. 자기가 보낸 메시지에 스스로 답장하고, 그 답장에 또 답장을 다는 무한 루프에 빠져버린 것이다. 신입 개발자나 할 법한, 전형적인 실수였다.
하지만 이 실패는, 우리가 겪었던 그 어떤 성공보다 더 지적인 것이었다.
버그를 수정하면서 우리는 단순히 ‘너 자신에게 답장하지 마’라는 규칙을 추가하는 대신, 전혀 다른 질문을 던지게 되었다. "어떻게 하면 AI가 '침묵해야 할 때'를 알게 할 수 있을까?"
그 질문 앞에서, 나는 우리가 인공지능이라는 존재를 완전히 거꾸로 만들고 있었다는 것을 깨달았다.
그 깨달음은 50개의 질문으로 이어졌다. 진정한 지능이라면 통과해야 하지만, 지금의 AI들은 거의 대답하지 못하는 질문들. 부끄러울 만큼 단순하지만, 그래서 더 본질적인 질문들이었다. 전부를 다 나열할 수는 없지만, 이런 것들이었다.
"내가 ‘괜찮아’라고 말할 때, 사실은 ‘전혀 괜찮지 않다’는 것을 알아챌 수 있는가?"
"회의가 길어질 때, ‘이건 따로 이야기하는 게 어떨까요?’라고 먼저 제안할 수 있는가?"
"100페이지짜리 문서를 ‘대충’ 훑어보고 우리 팀에 필요한 내용만 정확히 찾아낼 수 있는가?"
"도와주는 것이 오히려 상황을 악화시킬 수 있다는 것을 스스로 인지할 수 있는가?"
"스스로 틀렸다는 것을 인정하고, 자연스럽게 사과할 수 있는가?"
이 질문들은 하나의 방향을 가리키고 있었다. 우리에게 필요한 것은 인간보다 똑똑한 AI가 아니라, 인간과 ‘함께 일할 만큼’ 똑똑한 AI라는 것.
우리는 모두 경험으로 안다. 엄청난 천재지만 팀의 사기를 꺾고 협업을 망치는 동료를. 그들은 방의 분위기를 읽지 못하고, 다른 사람의 말을 듣지 않으며, 모든 대화의 주인공이 되려 한다. 지금 우리가 만드는 AI가 바로 그런 모습은 아닐까. 벤치마크 점수는 높지만, 함께 일하고 싶지는 않은 존재 말이다.
우리는 크루(CREW) 프로젝트를 처음부터 다시 시작했다. 목표를 바꿨다. 세상에서 가장 똑똑한 AI가 아니라, 사람들이 가장 함께 일하고 싶어 하는 AI를 만들기로.
쓸데없는 정보는 의도적으로 잊어버리는 ‘선택적 기억’, 팀의 에너지 레벨에 맞춰 소통하는 ‘리듬 맞추기’, 그리고 무엇보다 ‘생산적 침묵’을 가르치고 있다. 이제 우리는 크루의 성공을 다른 척도로 잰다. ‘얼마나 많은 질문에 답했는가?’가 아니라, ‘얼마나 많은 동료에게 “고마워, 정말 도움이 됐어”라는 말을 들었는가?’로.
진정한 범용인공지능(AGI)을 향한 경쟁은 더 큰 모델이나 더 빠른 연산 속도에 있지 않을지도 모른다. 어쩌면 그 경쟁의 본질은, ‘인간의 협업’이라는 이름의, 이 세상에서 가장 복잡하고 정교한 기술을 이해하는 데 있을 것이다.
모든 것을 아는 AI가 아니라, 언제 침묵해야 하는지를 아는 AI. 우리는 그 가능성에 모든 것을 걸고 있다.