생성형 AI시대, 인간에게도 '할루시네이션'은 있다
거대모델엔 하여튼 한계가 있다니까
신조어라고 해야 하나. 내가 최근 들어 새롭게 알게 된 개념 중에 가장 재미있는 개념은, 바로 '할루시네이션'이라는 말이었다. 할루시네이션? 태어나서 처음 들어 본 말이다. 나는 이 책을 인공지능 책에서 처음 보았는데, 사실은 우리 모두가 정의는 못 내렸지만 경험으로 알고 있는 개념이다. 바로 정확하지 않은 정보를 가공해서 그럴듯하게 들리게 이야기한다는 것.
"챗GPT 같은 생성형 AI가
주어진 데이터나 맥락과 관련 없거나
사실이 아닌 내용을 마치 정답처럼 내놓는 것을
할루시네이션(Hallucination)이라고 합니다.
원래 뜻은 환각이나 환영, 환청입니다."
- 김덕진 님의 저서, <AI 2024> 중에서
할루시네이션이란 한 마디로, AI가 사실이 아닌 것을 사실처럼 그럴듯하게 둔갑시켜 말하는 현상이라고 한다. 가짜인데 진짜처럼 들린다는 말이다. 챗GPT와 말을 할 때 모든 것을 정답처럼 내놓지만, 사실은 틀린 정보를 바탕으로 문장을 완성할 수도 있다. 하지만 그 수준과 맥락이 너무나도 자연스러워 보이기 때문에, 잘 들키지 않을 정도로 진실처럼 들린다.
나는 '할루시네이션'이라는 단어를 곱씹으며
두 가지를 떠올렸다.
하나는 일에 대해.
그리고 하나는 조직에 대해.
먼저 일에 대해.
우리는 신입사원일 땐 뭔가 잘 몰라도 용서를 받지만, 연차가 올라 대리가 되고 차장이 되면서부터는 이른바 '잘 모르는 것'은 잘 용인되지 않는다. 솔직히 모르는 걸 안다고 하는 게 더 나쁜 것 같긴 하지만, 어쨌든 어느 정도 연차가 되고 한 집단의 얼굴이 된 이상 '있어 보여야' 하기 때문에 잘 모르는 말을 어떻게든 맞는 것처럼 우기는 현상이 많이 발생하게 된다. 업무를 하며 어떤 피드백들을 들을 때에도, 종종 그렇게 느낀다. 아니 뭔 말도 안 되는 말을, 맞다는 듯이 하고 있어.
사실 어떤 분야에서든 내가 100% 맞고 네가 100% 틀리다는 것은 없다. 하지만 누가 봐도 이게 맞는 상황인데, 결정권자가 아니라고 우기기 시작하며 조악한 근거를 갖다 대면 뭐 어떻게 할 수가 없다. 우기는 사람이 힘이 세면 끝인 것이다. 잘 모르면서도 다 아는 듯이 말하고, 논리적이지 않아도 논리적이게 들리는 말로 포장하며, 결국 말도 안 되는 것을 그럴듯하게 내놓는 것. 할루시네이션 현상이 일에도 발생한 것이다. 우리에겐 '있어빌리티'가 너무 중요하다며. 모르는 걸 자꾸 아는 듯이 써대며. 할루시네이션은 있지만 어쨌든 뭔가를 꾸역꾸역 완성해 간다. 거기에 진실은 별로 중요하지 않다. 팔려야 하니까.
거대언어모델이 거대한 데이터를 통해 할루시네이션 전문가가 되어가는 것처럼. 이른바 업무에 '거대한 경험치'가 쌓이는 것도, 우리의 출력물에 할루시네이션을 만드는 데 일조를 한다. 핵심은 없어. 하지만 뭔가 그럴듯해 보이는 거. 경력이 쌓인다는 건 그런 걸 잘 만드는 능력도 쌓인다는 것이다. 포맷을 만들 줄 아니까. 매니페스토는 수백 개든 써봤으니까. 로직은 눈감고도 만드니까. 언뜻 멋있어 보이는 말로 줄줄줄줄 뭔가를 써대지만, 사실은 그 안에 핵심이 하나도 없고 무슨 소리를 하는지도 모르겠는 그런 거, 근데 읽으면 또 있어 보여. 우리는 어느샌가 그런 것들을 세상에 써대고 있는 게 아닐까.
물론 말 하나하나 생각 하나하나가 모두 진실인 크리에이터들이, 세상엔 여전히 많이 존재하며, 그들의 언어엔 할루시네이션이 없다. 그래서 요즘은 쓴다는 것이 두렵다. 내가 또 틀린 뭔가를 가지고 주저리주저리 할루시네이션만 만들어내는 꼴일까 봐. 진짜를 만들어야 하는데. 그랬어야 하는데. 시인들은 그럴까? 소설가들은 그럴까? 아니면 정말 위대한 카피라이터들은 그럴까? 거대언어모델이 아닌 자신만의 언어모델을 가지고 자신만의 글을 써 내려가는 모든 사람들이 부럽다.
두 번째는 조직에 대한 것이다.
조직이 커진다는 것은 일종의 시스템을 갖춘다는 것이며 수많은 디테일들이 조직 안에 생긴다는 것이다. 그래서 일반적으로는 좋게 여겨진다. 그 안에 있는 사람들은 그런 구조와 시스템 때문에 조직에 몸담고 있는 동안 안정감과 편리함을 느끼며, 그런 자동화된 구조들로 인해 더 많은 수익을 벌어들이고 더 많은 연봉과 월급을 기대할 수 있게 되기도 하니까. 하지만 조직이 일정 수준을 넘어 계속해서 커간다는 것은, 더 이상 조직의 한 사람이 조직의 모든 것을 파악하지 못한다는 이야기이기도 하다. 그것은 아무리 성과가 좋은 임원이어도, 그 사람이 아무리 천재적이라는 평가를 받는 사람이어도 어쩔 수가 없는 부분이다.
맨투맨으로 함께 부딪히며 쌓았던 인간에 대한 소중한 신뢰와 검증의 데이터가, 조직이 커지면 이른바 빅데이터화 된다. 저 사람이 얼마나 눈부시게 빛나는 사람인지, 얼마나 세심하고 얼마나 자신의 일에 성심과 성의를 다하는 사람인지 그런 건 빅데이터에 들어가지 않는다. 다만 결과치로 남는 것은 숫자와 알파벳뿐이다. 물론 그 과정에서 정량적 데이터 말고 정성적 데이터가 들어가게 된다. 하지만 여기에도 할루시네이션은 생긴다. 하나의 틀린 정보를 가지고 조각조각 이런저런 그럴싸한 말을 갖다 붙이면, 결국 그럴듯해 보이는 하자인간이 탄생하는 것이다.
조직은 할루시네이션을 피하기 위해 다양한 검증절차를 거쳐야 하지만, 그것은 너무 귀찮고 소모적인 일일 뿐이다. 데이터가 말해줬으니까, 아마도 맞을 것이라 믿는다. 검증하기엔 너무나도 작고 사소한 오류이며, 이걸 검증할 시간에 차라리 다른 것에 투자를 하고 돈을 더 벌겠다. 나는 이런 일로 인해 상처받은 수십 명의 사람을 알고 있다. 하지만 어쩔 수 없다. 거대조직모델은 결국 할루시네이션을 용인하며 끝까지 집단적 부귀영화를 향해 나아갈 것이다. 일단은, 생산성이 우선이다. 그렇게 조직은 결국 사람을 잃는다.
우리가 열심히 내놓는 어떤 일이, 우리가 사랑하며 몸담은 어떤 조직이, 할루시네이션 투성이라는 것은 너무 슬픈 일이다. 생성형 AI의 거대언어모델들도, 할루시네이션을 피하고 검증하기 위해 부단히도 노력하고 있다고 한다. 우리는 할루시네이션 없이 살아갈 수 있을까? 나는 그 방법이 정말로 궁금하다. 아니, 가능한지 조차 잘 모르겠지만.
우리가 어떤 것을 진실로 사랑할 때, 적어도 그 안에서 출력되는 모든 것에는 할루시네이션이 없다고 본다. 아이를 사랑하는 엄마 아빠의 마음에 할루시네이션은 없다. 내가 정말로 사랑하는 동료와 인생에 대해 이야기를 나눌 때에도, 그곳에 할루시네이션은 없다. 내가 진실로 임하는 일에, 내가 정말로 잘하고 싶은 어떤 것에 대해, 할루시네이션이 끼어들 여지는 없어 보인다.
인공지능 거대언어모델의 가장 큰 오류인 할루시네이션을 피하는 법은, 결국 인간답게, 가장 촌스럽게 사랑하는 것 아닐까. 앞에서도 이야기했듯 그 사랑은 꼭 남녀만의 사랑은 아닐 것이다. 진실로 무언가를 아끼고 사랑할 때, 우리는 진실된 인간이며, 그 사이 어떤 오류도 없이 정확하게 서로를 사랑할 수 있다. 사실은 이게 제일 쉬운 건데, 거대한 세상은 그걸 못준다. 일도, 조직도, 관계도, 결국 사랑이다. 다른 길은 없다. 나는 이제부터 그걸 해보려고 한다.
