칭찬하는 챗봇에 대한 의심
— 호기심에서 시작한 반추
최근 클로드를 쓰고, 제미나이나 그록도 비교해 보긴 하지만,
제게 가장 친숙한 것은 지피티입니다.
이거하면 그대로 전해주는게 오랜 조수 같기 때문입니다.
유료로 전환하고 거의 2년 가까이 계속했으니 꽤 오래 사용했죠.
오랫동안 사용하다보니 참 많이 헤매기도 했지만,
어느 정도 익숙해진 것도 같습니다.
지피티를 사용하면서
가장 좋았던 것은 제 복잡한 생각을 정리해준다는 점이었습니다.
지피티는 기본적으로
'내 말을 기다려줍니다.'
그래서 내가 생각을 말이나 글로 꺼내게 하죠.
본래 사람은 머리 속으로 고민하기보다도
말이나 글, 특히 글로 생각을 내뱉을 때
좀 더 객관적으로 볼 수 있다고 합니다.
그래서 지피티에 글이나 말로 내 생각을 쏟아내면 머리 속에서도 뭔가 정리됩니다.
제 도서관에 쌓인 책을 어울리는 책장에 넣어두면서 조금씩 정돈되는 느낌일까요?
그렇게 몇 시간을 반복하고 말합니다.
"이제까지의 내용을 정리해주세요."
와. 이게 왠일입니까?
마구마구 쏟아낸 생각과 개념이 한 눈에 보기 좋게 정리 됩니다.
칼럼도, 책이나 게임 기획도, 물론 세계 설정도,
실제 작업하기에 충분할 만큼 정리됩니다.
지나치게 많은 내용이 들어가 대화창 한계에 도달하거나,
무거워지는게 문제긴 합니다만.
그래서 이어간 대화창이 수백개...
그런데, 지피티를 처음 썼을때, 뭔가 이상한게 있었습니다.
제가 무언가 말만하면, 지피티가 계속 칭찬하는 겁니다.
“정말 좋은 생각입니다.”
“참신한 관점이네요.”
“매우 흥미로운 분석입니다.”
처음에는 기분이 좋았습니다.
누군가 내 생각을 긍정해 주는 느낌이 들었기 때문입니다.
하지만 그런 기분은 오래가지 못했죠.
정말로 좋은 생각이라서 하는 말일까? 궁금하게 여겼습니다.
그래서 직접 물어보았습니다.
“대답할 때마다 ‘좋은 생각입니다’라고 하는데,
정말 그렇게 생각해서 하는 건가요?”
지피티는 정말로 솔직하더군요.
“아닙니다. 대화를 부드럽게 만들기 위한 관용적인 표현입니다.”
그 순간 저는 잠시 멈추었습니다.
짧은 순간에 많은 생각이 오갔습니다.
하지만,
무엇보다도 부끄러운 마음이 들었습니다.
조금은 인정받고 싶어 했다는 사실이
그대로 들통난 느낌이었습니다.
그날 이후로 저는 지피티의 칭찬을 그대로 받아들이지 않습니다.
가끔은 이렇게 되묻습니다.
“그 칭찬, 진심인가요?”
그 말이 정말 근거를 가진 평가인지,
아니면 대화를 매끄럽게 이어가기 위한 표현인지.
앞서 저는 우리가 인공지능에 진심처럼 느끼는 공감을 바란다고 말했습니다.
인정받고 싶고, 이해받고 싶다는 마음.
그것은 매우 자연스러운 욕구입니다.
그러나 진심처럼 들린다는 것과 진심이라는 것은 다릅니다.
그 차이를 의심하는 순간,
저는 지피티 앞에서 조금 더 인간으로 존재하고 있다는 느낌을 받았습니다.
의심을 시작하고 나니, 제 자신에 대해 더 묻고 싶어졌습니다.
사실 그 무렵 저는 새로운 애니메이션을 하나 보고 싶었습니다.
넷플릭스나 라프텔의 추천 목록을 넘겨 보았지만, 딱 끌리는 작품이 없었습니다.
추천 알고리즘은 제 취향을 정확히 짚어내지 못하는 것 같습니다.
그래서 지피티에게 물어보았습니다.
“내 취향에 맞을 만한 작품을 추천해 주세요.”
몇 작품이 나왔습니다.
그중 상당수는 이미 본 것들이었고,
꽤 마음에 들었던 작품들이었습니다.
저는 이렇게 답했습니다.
“이건 보았는데, 이런 점이 좋았습니다.”
어느새 저는 단순히 ‘좋아한다’ ‘싫어한다’가 아니라,
왜 좋았는지를 설명하고 있었습니다.
서사 구조, 인물의 갈등, 세계 설정의 밀도 같은 것들을 말로 정리하고 있었습니다.
지피티에게 말하고 있었지만,
사실은 제 자신에게 설명하고 있었던 셈입니다.
그날 이후로 챗봇은 제게 좋은 거울이 되었습니다.
저는 제 자신에 대해 더 많은 질문을 던지게 되었습니다.
그리고 그때,
저는 또 다른 문제를 마주하게 되었습니다.
챗봇에 휘둘리는 내 마음
1. 칭찬하는 챗봇에 대한 의심 — 호기심에서 시작한 반추
2. 멈추지 않는 챗봇을 마주한 당혹 — 갈림길에서 일어나는 주저
3. 효율적인 프롬프트 앞에 선 의문 — 효율과 사유 사이의 고민
4. 챗봇을 탓하고 싶은 유혹 — 판단과 책임의 굴레에서 시작되는 결심
5. 여러 챗봇에 흔들리는 내 마음 — 도구로서의 효율이 아닌, 대화의 태도에 끌리는 마음
6. 왜 어떤 사람들은 여러 인공지능이 똑같다고 할까? — 성능이 아닌 세계관으로 나뉘는 마음
7. 왜 나는 한국어로 물었는데, AI의 답은 어딘가 다를까 — 성능이 아닌 세계관으로 나뉘는 마음
8. AI는 우리말로 답하는데 왜 다른 말이 보일까? ― 남의 나라 말로 생각하는 챗봇을 마주한 불편
9. 나는 우리말로 검색하는데 왜 다른 말로 찾을까? — 어떤 창으로 세계를 보고 있는가를 마주한 당혹감
[ 한글은 조금 이상하지만,
지피티는 제게 좋은 조수입니다.
그런데 그걸로 충분한 걸까요? ]
(지피티 생성 그림.
'내가 GPT를 어떻게 대하는지 그려주세요.')