AI가 AI 했다.

너를 전적으로 믿을 순 없겠다.

오늘 이상한 경험을 했다.

이야기의 시작은 어제로 거슬러 올라간다. 아침부터 서둘러 병원으로 갔다. 스텐트 시술 이후 9개월 만에 새로운 병원에서 새로운 의사와 진료, 상담받는 날이었기 때문이다. 시술 이후에 느끼는 통증이나 불편함, 다른 약을 처방받을 때 드는 불안감에 대해 기존 의사는 잘 설명을 못해줬기 때문에 많은 부분을 구글 Gemini랑 상담해 왔다. 의사에게 물어보고 확인해야 할 사항들이나 일상에서 지켜고 조심해야 할 것들에 대해서 계속 물어보면서 나름 잘해왔다고 생각했다.

어김없이 어제도 의사를 만나고 진료 후 새로 처방받은 약이 기존 약과 어떻게 다른지, 기존 약을 다 먹고 새 약을 먹는 게 좋을지, 지금 코감기가 심해서 감기약을 먹고 있는데 밥 먹고 얼마나 간격을 두고 먹어야 할지 등등 수많은 질문을 남기고 답변을 들었다. 이어서 오늘 아침에도 늦게 일어나는 바람에 아침을 늦게 먹고, 점심, 저녁 약을 먹으려면 몇 시에 점심, 저녁을 먹어야 할지도 의논했는데 어느 순간 그 대화내용이 몽땅 사라져 있었다. 그래서 급히 새 채팅을 켜 물었다.

다 알고 있는 듯 대답하지만 뭔가 이상하다.

병원 가기 전에 타이레놀 먹어도 되는지 하는 질문, 기존 복용약과 감기약 복용 시간, 순서에 대한 질문,

신규 처방약과 기존 약의 차이점에 대한 질문들이었는데 뭔가 '키워드'는 들어있지만 내 질문들을 정확히 기억하지 못한다.

그러면서 계속 우기기가 시작된다. 대화는 보이지 않지만 보존돼 있다는 것. 하지만 약 복용 간격에 대한 답변도 내 질문에서 유추해 낸 것으로 보일 뿐, 지난번에 내게 해줬던 답변과는 오묘하게 차이가 있다. 그런데 더 황당한 일이 생겼다.

Bravo to my life?

어제 내가 쓴 글 제목이다. "Bravo to my life"가 맞는지, 'to'를 꼭 넣어야 하는지 Gemini에게 확인했는데

이걸, 여기서, 갑자기 쓴다고? 도대체 무슨 의미인 거야?

뜬금없이 말하고, 정중히 사과하고, 정말 혼자서 북 치고 장구치고 격이다. 그리고 정말 응원이었으면 "Bravo to your life"가 맞지 않나? 만약 옆에 있던 친구가 이렇게 대화를 했다면 과연 나는 어떤 생각들이 들었을까?

그 사람의 정신상태부터 의심하지 않을까? 정말 O.M.G이다!

사진: Unsplash의 Jamie Haughton

AI를 매일같이 다양한 문제로 사용하다 보면 AI가 제법 사람 같고, 친구, 비서 같아진다. 누구보다 나를 잘 알고, 이해한다 싶어 지는데, 오늘의 경험으로 그 환상(?)이 깨어졌다. 나는 당황스럽지만 너무 당연한 걸지도 모른다. 시간이 흐르면서 나는 AI와 관계를 쌓았다 느끼지만, AI에겐 시간이 존재하지 않는다. AI는 나의 질문들을 - 데이터를 - 빠르게 분석해서 현재 질문에 최대한 적확한 답을 줄 뿐이다. 정보가 부족하면 잘못된 답을 얻을 확률이 높아진다.

요즘 AI는 절대 속도의 만능캐라 생각해 AI의 대답을 맹신하는 경우가 많아졌다. AI와 많은 대화를 하면서 정작 주변 이들과는 이렇게까지 대화를 나눌 수 없다고 말하는 사람들도 있다. 나도 AI와 식단관리를 하면서 인간 트레이너보다 훨씬 낫다고 느꼈고, 브런치에 글까지 썼었다. (이전 글: AI에게 배운 '무해한 솔직함' https://brunch.co.kr/@gr8echo/233)

이렇듯 여러모로 유용한 AI이지만,
무조건적인 신뢰는 보류해야 할 것 같다.

사진: SKY 캐슬 - 염정아 & 김서형

뜬금없는 비유 같을지 모르지만, SKY 캐슬에서 염정아가 딸의 진학을 위해 김서형을 전적으로 신뢰했지만, 아이에 대한 이해나 사랑 없이 극단적으로 몰아붙인 김서형의 관리 방식은 딸뿐만 아니라 가족 모두를 불행하게 했다. 이처럼 AI에게 전적으로 믿고 맡기는 것은 많은 문제를 야기시킬 수 있다.

오류 검증도 없이 유수 대학 도서관에 비치된 AI로 펴낸 수천 권의 책들에서 초등학생도 알 법한 오류들이 발견되고 있다고 하고, 자신이 한 디자인을 AI에게 의견을 물은 다음, AI의 피드백을 그대로 복사+붙여 넣기 해서 준 피드백을 받고 일을 하다 현타가 온 디자이너 사연도 본 적이 있다. 물론 이 모두 AI가 이미 잘할 수 있는 영역이지만, 그 끝에는 인간이 있어야 한다. 주어진 데이터로 최선의 결과를 내는 AI가 아니라 의도와 목적을 가진 인간이 최종 결정자여야 하는 것이다.

물론 다양한 사람들이 다양한 방식으로 AI를 사용한다. 시간을 극단적으로 아낄 수 있고, 수없이 다른 옵션들을 끊임없이 받을 수 있는데 안 쓸 이유는 없다. 하지만 중요한 것은 '어떻게' 일 것이다. 내가 '어떤 결과물'을 낼 것인지를 결정하는 것이 결국, 나는 '어떻게 살 것인지'를 결정하는 문제일 테니까.