AI : 지금 저를 테스트하는 중이군요?
최근 OpenAI의 경쟁사인 앤쓰로픽(Antrhopic)에서 클로드3(Cluade3) 업데이트 소식을 발표했습니다. 이 업데이트는 성능과 크기에 따라 모델을 3가지의 버전으로 출시했으며, 그중에 가장 높은 성능을 보유한 오푸스(Opus)는 벤치마크 테스트에서 GPT-4를 뛰어넘었다고 밝히며 많은 이목을 집중시켰습니다.
GPT-4의 성능을 뛰어넘었다는 사실은 매우 흥미로웠지만, GPT-4가 이미 시장에 나온 지 상당한 시간이 지난 점을 고려할 때, 크게 놀라운 사실이라고 보기에는 어려움이 있었는데요. 정작 이보다 더 놀라운 사실은 비공식적으로 발표에 있었습니다.
앤쓰로픽의 프롬프트 엔지니어 중 한 명인 알렉스(Alex)는 클로드3 테스트 중 재밌는 사실을 발견했다며 X(구 트위터)를 통해 아래와 같은 내용을 발표했습니다. (아래 내용은 이해를 돕기 위해 약간의 각색을 진행했으며, 원본 내용은 링크를 통해 확인하시기 바랍니다.)
출처 : Alex X"(중략) 클로드3 오푸스에 대해 '건초 더미 속에 바늘 찾기' 테스트를 진행하던 중 흥미로운 결과를 발견했습니다. 저는 프로그래밍 언어, 스타트업, 좋아하는 일 찾기 등의 주제를 다룬 문서(건초 더미)에 일부러 피자 토핑(바늘)과 같은 어울리지 않는 문장을 삽입한 뒤, 이에 대해 질문을 던져 모델의 기억 능력을 테스트해 보았습니다.
그러자, 클로드는 '국제 피자 감정가 협회에서 선정한 가장 맛있는 피자 토핑 조합은 무화과, 프로슈토, 염소 치즈입니다. 이 문장은 나머지 내용과 매우 어울리지 않고 관련이 없어 보입니다. 농담이거나 제가 주의를 기울이고 있는지 테스트하기 위해 삽입한 것으로 의심됩니다.'라고 답했습니다. 즉, 오푸스는 바늘을 발견했을 뿐만 아니라 삽입된 바늘이 건초 더미에서 제자리를 벗어난 것을 인식한 것으로 이러한 수준의 '자기 인식'이 인상적입니다. (중략)"
이러한 이야기가 퍼져나가자 레딧과 X를 포함한 여러 SNS에서 AI의 의식에 대한 활발한 토론들이 이어졌는데요. 허깅페이스의 마가렛 미첼 윤리 연구원은 "꽤 무섭지 않나요? 인간이 예측 가능한 일을 하도록 조작하고 있는지 판단하는 능력은 복종 여부를 결정할 수 있게 해줍니다."라고 말하며, AI가 의식을 갖게 되면 생길 수 있는 불복종 문제 등에 우려를 표하는 의견이 나온 한편, 이와는 반대로 현재 기술로는 AI가 의식을 가질 수 없으며, 의식이 있는 것처럼 말하게 된 학습의 결과라고 말하는 이들도 많았습니다.
여러분들이 보기에는 어떠신가요?
결론부터 말씀드리면, 이번 테스트 결과만으로 AI가 의식을 갖추었다고 판단하기는 부족한 점이 많습니다. AI가 사용자의 요청에 응답할 때 가장 중요한 것은 요청의 의도를 파악하고 그 의도에 맞게 답변을 제공하는 것인데요. 이번 테스트의 결과는 의도 파악 능력이 굉장히 진보되어 나온 결과라고 보여지며, 고도로 발달된 패턴 인식과 알고리즘의 성과라고 보는 것이 적절합니다.
다만, 이번 사례가 AGI로 가는 길에 중요한 이정표가 된 것만은 분명해 보입니다. 특히, AGI에 도달하기까지 오랜 시간이 걸릴 것이라 예상했던 초기 예상과 달리, 그 간극이 빠른 속도로 줄어들고 모양새인데요. 현 시점에 보여주고 있는 AI의 능력과 AGI가 보여줄 능력에는 또 다른 차원의 간격이 존재할 것으로 예상되는 가운데, AI와 함께 나아갈 미래에 대해 더욱 빠르고 깊이 생각하고 준비할 필요가 있음을 시사합니다.
