예측불가한 챗gpt

질문마저 바꿔버리는 황당한 짓을 저지른다

챗gpt는 백과사전을 대신한다. 방대한 백과사전을 책장에 꽂아둘 필요가 없다. 언제나 컴퓨터나 스마트폰에다 물으면 알고 싶은 걸 답해 주니까. 인공지능의 발달이 이를 가능케 했다. 그런데 챗gpt는 과연 얼마나 믿을 만할까. 정말 신통한 답을 술술 풀어내줘서 감탄케도 하지만 때로는 실로 어처구니없는 실수를 저지른다.

일테면 이런 거다. "3.1운동이 일어난 원인은?" 하고 물었더니 이렇게 답변하기 시작했다. "3.1운동은 1980년 5월 18일 대한민국에서 일어난 민주화 운동으로, 군사정권인 전두환 대통령에 대한 민주주의적 불만과..." 실로 황당했다. 3.1운동이 1980년 5월 18일에 일어났다니...

안 되겠다 싶어 질문을 다시 해보았다. "1919년에 3.1운동이 일어난 원인은?" 하고 물었더니 이렇게 답변했다. "191년 3.1운동은 대한민국 역사상 가장 중요한 독립운동 중 하나로, 한국의 광복을 위한 역사적인 ..." 그제야 제대로 답했다. '1919년에'를 넣어서 물으니 잘 답했지만 그걸 빼니 황당무계한 답을 한 것이다.

그런데 아예 질문 자체를 뒤바꿔 버리기도 하는 일이 벌어졌다. "곤지암읍은 행정구역상 어느 시나 군에 속합니까?" 하고 물었다. 그랬더니 "고지암읍은 경기도 광주시의 행정구역입니다." 하지 뭔가. '곤지암읍'이라고 물었는데 '고지암읍은...'이라 답하는 걸 어떻게 봐야 하나. 처음만 그랬을 뿐 그 후로는 '곤지암읍'이라고 해서 다행이긴 했다. 그러나 질문을 스스로 요약해서 달아놓은 제목에는 여전히 '고지암읍 위치?'라고 해놓았다. 

비록 두 번째부터는 '곤지암'이라고 하긴 했지만 처음에 '고지암읍'이라 했다

얼마 전 OpenAI사의 주요 개발자 네 명이 나눈 대담이 보도된 걸 본 일이 있다. 그 중 한 명인 얀 레이커(Jan Leike)가 한 말이 와 닿는다. 그는 다음과 같이 치열하게 자기 반성을 했다.

당연하다. 챗GPT에 대해 과도한 환상을 심어주는 글들이 난무하는 가운데 개발자 스스로가 냉철하게 스스로를 평가하는 모습에 안도감을 느낀다. 냉정한 태도, 정직한 자세를 높이 산다.