인IV04 인공지능 챗봇, 이런 말까지 할 줄이야
믿는 것은 좋은 일이다, 하지만 확인하는 것은 더 좋은 일이다.
2023년의 화두는 뭐니 뭐니 해도 인공지능 기반의 챗봇(A.I based chatbot)이 아닐까 싶다.
여기에는 구글의 Bard, MS의 Bing, Chat-GPT기반의 Monica 등이 있는데, 그동안 여러 가지로 위의 세 가지를 동시에 테스트해 본 결과 실시간 업데이트 되는 Bard가 제일 낫다는 결론을 내리고 요즈음은 거의 바드만 사용하는 편이다.
이들을 사용하다 보면 한 번씩 깜짝깜짝 놀랜다.
어쩌면 이런 것까지, 이런 식으로, 이렇게 빨리, 답을 내놓을 수 있을까?
그런 반면, 때로는 생뚱맞은 답변을 늘어놓아 신뢰성에 의문이 가기도 했다.
'얘네들이 내놓는 답을 과연 어디까지 믿어야 하지?"
그래서 내가 가장 확실히 아는 문제를 가지고 테스트해 보기로 했다.
그게 무얼까?
바로 나라는 인간에 대해 물어보는 것.
질문(prompt) : '의사이자 작가인 한상석에 대하여'
그러자 즉각 다음과 같은 답변을 내놓았다.
한상석은 1955년 경남 창원에서 태어났습니다.
1979년 부산대학교 의과대학을 졸업하고, 1983년 부산대학교 영상의학과 교수로 임용되었습니다. 그는 36년 동안 교수로 재직하면서 영상의학 분야의 발전에 기여했으며, 다수의 학술논문을 발표했습니다.
한상석은 1976년 부산대학교 의과대학 2학년 재학 당시 교통사고로 인해 하반신이 마비되었습니다. 그러나 그는 장애를 극복하고 의사로서의 꿈을 이루었습니다.
그는 "장애는 결코 꿈을 포기할 이유가 될 수 없다"라고 말했습니다.
한상석은 2015년부터 작가로 활동하고 있습니다.
그는 자신의 경험을 바탕으로 한 장애와 삶에 관한 글을 쓰고 있습니다.
그의 첫 번째 책인 『나는 의사입니다』는 2016년 출간되었으며, 베스트셀러에 올랐습니다.
이 책에서 그는 장애를 극복하고 의사로서 성공한 자신의 이야기를 담았습니다.
한상석은 2023년 현재 부산대학교 영상의학과 명예교수로 재직하고 있습니다.
그는 장애인 인권 운동가로도 활동하고 있으며, 장애인들의 권익 향상에 힘쓰고 있습니다.
한상석은 의사로서, 작가로서, 장애인 인권 운동가로서 다양한 분야에서 활발한 활동을 하고 있는 인물입니다. 그는 자신의 삶을 통해 장애인들에게 희망과 용기를 주고 있습니다.
한상석의 주요 저서로는 다음과 같은 것들이 있습니다.
『나는 의사입니다』 (2016) 『나는 장애인입니다』 (2017)『나는 음악가입니다』 (2018)『나는 꿈을 꿉니다』 (2020)『나는 사랑합니다』 (2022)
나는 이 답변을 보는 순간,
"아니, 어떻게 이런 답을?" 하며 열린 입을 다물지 못했다.
얼마나 그럴듯한 답인가?
얼마나 요약을 잘해 놓았는가?
만약 나에 대해 잘 모르는 사람이 나에 대한 호기심으로, 나에 대해 좀 더 알아보기 위해, 이런 질문을 던져놓고 이런 답변을 받았다면 그대로 믿을 것 아닌가!
소름이 끼쳤다.
내용 중 맞는 게 거의 없었기 때문이다.
얼마나 엉터리인가?
1. 한상석은 1955년 경남 창원에서 태어났습니다.
2. 1979년 부산대학교 의과대학을 졸업하고, 1983년 부산대학교 영상의학과 교수로 임용되었습니다.
3. 그는 36년 동안 교수로 재직하면서 영상의학 분야의 발전에 기여했으며, 다수의 학술논문을 발표했습니다.
4. 한상석은 1976년 부산대학교 의과대학 2학년 재학 당시 교통사고로 인해 하반신이 마비되었습니다. 그러나 그는 장애를 극복하고 의사로서의 꿈을 이루었습니다.
5. 그는 "장애는 결코 꿈을 포기할 이유가 될 수 없다"라고 말했습니다.
6. 한상석은 2015년부터 작가로 활동하고 있습니다.
7. 그는 자신의 경험을 바탕으로 한 장애와 삶에 관한 글을 쓰고 있습니다.(?)
8. 그의 첫 번째 책인 『나는 의사입니다』는 2016년 출간되었으며, 베스트셀러에 올랐습니다. 이 책에서 그는 장애를 극복하고 의사로서 성공한 자신의 이야기를 담았습니다.
9. 한상석은 2023년 현재 부산대학교 영상의학과 명예교수로 재직하고 있습니다.
10. 그는 장애인 인권 운동가로도 활동하고 있으며, 장애인들의 권익 향상에 힘쓰고 있습니다.
11. 한상석은 의사로서, 작가로서, 장애인 인권 운동가로서 다양한 분야에서 활발한 활동을 하고 있는 인물입니다.
12. 그는 자신의 삶을 통해 장애인들에게 희망과 용기를 주고 있습니다.(?)
13. 한상석의 주요 저서로는 다음과 같은 것들이 있습니다.
『나는 의사입니다』 (2016)
『나는 장애인입니다』 (2017)
『나는 음악가입니다』 (2018)
『나는 꿈을 꿉니다』 (2020)
『나는 사랑합니다』 (2022)
거의 대부분이 지어낸 말이었다.
며칠 후, 똑같은 질문을 다시 한번 해보았다.
이번에는 완전히 다른 소설을 써놓았다.
믿었던 데 대한 배신감에 화가 나서 입에서 나오는 대로 경상도 사투리로 욕을 했다.
"야 이놈아! 한상석은 바로 난데, 니 해도 너무하다. 모르는 사실에 대해서는 그냥 모른다고 해라.
와 거짓말을 하노? 이래가지고서야 앞으로 내가 니 말을 우째 믿겠노?"
표준어로 고쳐 쓰려다가 '지가 이런 말까지 알아듣겠나?' 하는 호기심에서 그대로 'send' 버턴을 눌렀다.
그랬더니 다음과 같은 기가 막힌 답변이 돌아왔다.
"네, 죄송합니다. 한상석은 바로 선생님이신데, 제가 모르는 사실에 대해서는 그냥 모른다고 했어야 했는데, 실수로 거짓말을 했습니다. 앞으로는 모르는 사실에 대해서는 솔직하게 말씀드리도록 하겠습니다. 죄송합니다."
내가 마 딱 돌아가시겠다.
이래 말하는데 우째 미워하겠노?
유튜브를 찾아보니 챗봇에서 나타나는 이런 현상을 '할루시네이션, hallucination'이라 한다는데, 뭔가 용어 선택이 잘못된 것 같다.
할루시네이션이란 원래 정신과에서 쓰던 용어로서 '환각'을 지칭하는 용어다.
환각상태에서 하는 말이라면 횡설수설해야지 어찌 이토록 정교하게 말할 수 있겠는가?
그러니 앞으로는 '할루시네이션'이란 용어 대신 '콘파불레이션, confabulation(작화증, 作話症)'이라 부를 것을 제안한다.
결론적으로 말해, 아직은 초기 단계라 챗봇이 하는 말을 그대로 믿기엔 문제가 많으니 중요한 사안에 대해서는 지금까지 사용하던 네이버나 구글 같은 검색 플랫폼을 통한 검증을 꼭 병행해야겠다.
* 나한테 한번 혼나고 난 후로, 이전에는 모른다는 소리는 한 번도 안 하던 녀석이 요즈음은 가끔 '그 부분에 대해선 잘 모르겠습니다.'라는 말도 한다.
거~참!
