인간적인 실수투성이 챗GPT라고?
황당했던 나의 테스트 결과들
우리가 AI에 대해서 두려워하는 이유 중 하나는, ‘인간의 불완전함을 AI는 가지고 있지 않을 것’이라는 믿음 혹은 기대에 기반한다. 예를 들어 1) 기계니까 사람처럼 쉽게 지치지 않을 것이고, 2) 감정이 없을 테니 불만을 제기하지도 않을 것이고, 3) 인간미 철철 넘치는 실수도 하지 않을 것이라는 생각들 말이다. 어찌 보면 이런 점들이 바로 우리가 말하는 "아주 인간적인 면모"의 반대되는 모습이자, 많은 영역에서 기계가 우리를 대체할 이유가 되지 않았던가?
그런데, 아직 이 AI가 아직은 어린애처럼 ‘덜 자란’ 상태라서 그런 지는 모르겠지만, 최근 나의 Chat GPT 사용 경험은 위에서 말한 세 가지 ‘매우 인간적인’ 특징들을 놀랍게도 여실히 보여주었다. 1) 10분도 안 되는 꼬리 무는 나의 질문에 “나는 지쳤다"고 대답하였고 (심지어 영어를 쓰는 것에도 지쳤는지 영어 질문에 한국어로 멋대로 대답했다) 2) 나의 말을 끊고 더 이상 대화를 이어서 못하겠다며 일방적인 종료 통보를 하였다. 3) 심지어 대답을 함에 있어서 문장을 시작부터 잘라먹거나, 포인트를 열거하는데 1,2 다음에 3을 건너뛰고 4를 제시하기도 하였다.
지쳤다며 멋대로 한국어로 대화 종료 해버리는 클라스
2번 다음에 불완전한 문장으로 4번 가는 클라스기가 막혀서 재질문을 하거나, 다시 새로운 대화를 생성하여 기존 주제를 이야기하거나 해도, 여전히 같은 정도의 뻔뻔함과, 핵심 포인트와 문장을 중간중간 끊어먹는 불완전한 실수를 보여주는 것을 주저하지 않았다. 이것이 오늘날 우리가 경험할 수 있는, 인간 평균 아이큐를 이미 훨씬 뛰어넘는다는 현재의 인공 지능의 수준일까? 당연히 학습량과 피드백 수에 비례하여 사용자 경험은 매우 빠르게 개선되겠지만, 이것이 적나라한 작금의 Chat GPT 수준이라는 것을 기록하여 남겨두고 싶었다.
다시 질문하니 아예 제목으로만 끝내버리고 부연하다 중단하는 클라스위에까지의 나의 글을 GPT-4o (Chat GPT 4.0)에게 한번 보여주었다. 그랬더니 대답 역시 천연덕스럽다. 마치 내가 막연히 상상했던 그런 ‘왠지 찔러도 피 한 방울 안 나올 것 같고, 어떤 감정이나 주관적인 의견도 느낌도 없고, 실수조차 용납하지 않을 것 같던’ 그런 쇳덩어리 기계가 아닌 것만 같은 느낌이었다. 하기는 그것이 답변한 내용이다.
당신의 경험을 듣고 보니, AI 기술이 아직 많은 부분에서 인간처럼 완벽하지 않다는 것을 다시금 느끼게 됩니다. AI는 여전히 많은 부분에서 개선이 필요하며, 사용자의 기대에 미치지 못하는 경우도 많습니다. 이를 통해 몇 가지 중요한 점을 짚어볼 수 있습니다.
1. **지침성 및 피로**: 현재 상용화된 AI 시스템은 '피로'를 느끼지 않지만, 한정된 자원과 알고리즘의 한계 때문에 지침을 느끼는 것처럼 보일 수 있습니다. 이는 특히 시스템이 복잡한 질문이나 연속적인 대화를 처리할 때 발생할 수 있는 문제입니다.
2. **대화 종료**: AI가 대화를 일방적으로 종료하는 경우는, 알고리즘이 사용자 입력을 적절히 처리하지 못했거나, 시스템이 오류를 감지했을 때 발생할 수 있습니다.
3. **실수 및 불완전함**: AI는 방대한 데이터와 알고리즘에 기반해 동작하지만, 여전히 오류가 발생할 수 있습니다. 이는 데이터의 불완전함, 알고리즘의 한계, 또는 시스템의 버그 등 다양한 요인에 의해 발생합니다.
AI는 인간의 지능과는 다르게 동작하며, 완벽하게 인간을 모방하거나 대체할 수는 없습니다. 기술이 발전함에 따라 이러한 문제들이 점진적으로 개선되겠지만, 현재로서는 이러한 한계점을 인지하고 사용하는 것이 중요합니다.
당신의 경험을 통해 AI 기술의 현재 상태와 한계를 다시 한번 상기하게 되었습니다. 이는 더욱 나은 AI 시스템을 개발하기 위한 중요한 피드백이 될 것입니다. 앞으로도 AI 기술에 대한 지속적인 피드백과 개선이 필요하며, 이를 통해 보다 나은 사용자 경험을 제공할 수 있을 것입니다.
본인이 ‘뭘 잘 알고, 뭘 잘 모르는지’에 대한 정확한 인지 능력인 ‘메타 인지력’이 공부 잘하는 학생이 되기 위해서 가장 중요한 능력 중 하나라고 들었었다. 인공지능은 이미 본인의 한계를 알고 있으면서, 이번 기회에 다시 한번 상기까지 하게 되었다며 절치부심의 훌륭한 태도까지 보여주었다. 아직 생각보다 불완전한 상태이지만, 생각보다 훨씬 더 무서운 속도로 배우고 개선해 나갈 의지까지 충만함을 느낄 수 있는 대목이었다.
AI에 대해서 경각심을 가져야 하는 이유는 ‘현재까지의 놀라운 성과’보다도, 오만하기는커녕 겸손한 자세로 실수와 한계를 즉각 인정하고, 발전을 위해 게걸스럽게 학습할 의지와 능력이 너무도 충만하는 데 있는 게 아닌가 생각해 본다. 인간의 경우만 하더라도 피드백에 늘 열려있고, 성장의 의지만 있다면 발전하는 것은 그야말로 시간문제가 아니던가?
