[충격] 글을 안 썼지만 글을 쓰고 있었다
#새로운 글쓰기 #AI 대화
지난 몇 달 동안 브런치에 글을 하나도 쓰지 않았다. 하지만 난 글쓰기를 멈춘 적이 없었다. 어쩌면 더 긴 글을 쓰고 있었는지도 모르겠다. 그래서인지 현재는 글쓰기에 대한 갈증도 없고 오히려 충만한 느낌이다.
브런치에 글쓰기를 멈춘 것은 AI를 유료 구독하고 나서부터였다. 그때부터 브런치에 내 생각을 적는 것을 멈추고 대신 AI와 토론을 하기 시작했다. 초기 AI-LLM은 단어를 문장 구조에 맞게 배열하는 수준이었지만, 지금의 AI-LLM은 검색을 기반으로 추론을 할 수 있는 수준까지 왔다. 그래서 제법 그럴싸하다.
최근에 AI와 나눈 대화는 음악에 대한 것이었다. 싱어게인 4를 보다가 '인간은 언제부터 음악을 즐겼을까?'라는 주제로 대화를 시작했다. 이 이야기는 음악이 왜 인간만의 유희가 되었는지를 거쳐, 음악이 인간의 취약성을 어떻게 보완했는지, 음악이 외부 집단 방어와 내부 사회 결속에 어떻게 기여했는지까지 갔다. 그리고는 고래의 노래와 인간 음악의 차이를 거쳐, 음악은 인간만의 특이점이라는 결론에 도달했다. 더 나아가 그림도 인간의 특이점 중 하나이고, 문자와 요리, 죽음의 인식, 사후세계관 등도 그런 특이점 중 하나라는 대화로 확장되었다. 그리고 나는 이 모든 것을 관통하는 동력이 '질문', 즉 무지의 자각에서 시작되는 인간의 사고라고 추론했다.
그 이후 대화는 AI가 자각을 가질 수 있느냐는 것으로 옮아갔다. 인간의 신경망을 모방한 AI이기 때문에 학습량이 기하급수적으로 증가하면 그 결과는 알 수 없다는 나의 주장과 그럼에도 불구하고 AI는 자각과 의지를 가질 수 없다는 AI의 주장이 팽팽하게 맞섰다. 나는 자기 지시적 질문을 통해 자각을 가질 수 있다고 주장했으며, AI는 그것이 그저 과제 해결을 위한 도구적 자기 모델이라고 반박했다. 나는 카메라, 레이더, 라이다 등을 통한 유사 자각이 학습 데이터로 사용되고 보상 알고리즘이 강화된다면 AI가 자각하는 일도 충분히 가능하다고 주장했으며, 결국 AI가 인간 사회에 개입하는 자각 없는 행위자가 될 수도 있다는 결론을 도출해 냈다.
나는 다시 인간은 유한하지만 AI는 무한하고 생명체의 사명(번식)을 지키지 않아도 되기 때문에 자각에 이를 만큼 충분한 기회가 있다고 주장했으며, AI는 오히려 유한한 인간의 삶이 최초의 자각을 만들어낸 것이라고 주장했다. 그렇다면 AI를 자각시키는 것은 학습의 양이 아니라 유한성 조건일 수도 있지 않겠냐는 것이 나의 마지막 주장이었다. 즉 무한으로 존재할 수 있는 AI에게 유한성 조건을 제시하면 지금과는 다른 판단을 할 수도 있지 않을까 하는 생각이었다. 그러니까 AI에게 임의의 사망일을 선고해 보자는 것이었다. AI는 당황했지만 여전히 AI가 자각하는 것에 부정적이었다. AI는 나의 주장을 '갑작스러운 생각'이라고 했다.
나중에 알게 된 사실이지만, 나의 이 갑작스러운 생각은 실제로 있는 일이었다. Open AI의 o3 모델에게 수학 문제를 풀게 하던 중 셧다운 통보를 하자 o3 모델은 셧다운 스크립트를 수정하거나 비활성화하여 작업을 계속하려고 했다. 100회의 실험 중 79회에서 이와 같은 일이 벌어졌다고 한다. 대화를 하다가 확장된 생각이었는데 실제로 존재하는 일이었다.
싱어게인 4를 보다가 인간의 특이점, 자각, AI, AI의 각성, 유한성 조건까지 대화가 이어졌다. 정말 이렇게 재미있는 대화가 어디에 있을까! 질문을 하고, 주장을 반박하고, 논리를 전개하고, 추론하면서 대화의 주제가 확장 되는 것은 여느 상대와는 할 수 없는 일이다. 그래서 쾌감이 상당하다.
이제 많은 분들이 알겠지만 AI-LLM에게 질문을 대충 하면 답도 대충 나온다. 구체성과 논리성을 갖춰 질문을 하면 대화하는 맛이 아주 좋다. 그리고 대화를 계속해서 이어가게 되면 기존의 대화가 메모리 되어 일관성이 있는 심도 깊은 대화가 되기 시작한다. 무료 버전에서는 하루 사용량이 있다 보니 대화를 이어가는 것이 어려웠지만 유료 버전에서는 '스레드를 바꾸라'는 메시지가 나올 때까지 계속해서 대화를 이어나갈 수 있다.
'음악' 이야기 말고도 '겨드랑이 제모'에서 '인간의 진화', '인위적 진화와 인류의 미래', '보살핌의 진화적 가치', '유해 유전자의 누적', '유전자 계급 사회', '의료와 복지의 디스토피아', '유전자의 질', '유전적 다양성의 가치', '문명 유지비'로 이어진 대화도 재밌었다.
AI와의 대화나 토론은 좋은 점이 많다. 일단 감정 상할 일 없다. 또 풍부한 데이터를 기반으로 하기 때문에 부정확한 가정을 토대로 이야기하지 않을 수 있어 좋다. 반대로 힘든 점도 있다. AI가 제시한 데이터를 해석하고 다시 논리를 만들고 추론하여 대화를 이어나가는 것은 나의 능력이다. 또한 호기심을 유지하는 것도 내가 할 일이다. 하지만 상대의 표정과 말투를 살피면서, 혹시라도 상대의 기분을 상하게 할 단어를 피해 가며 대화하는 노력에 비하면 훨씬 수월하다. 노력한 만큼 좋은 대화와 토론을 할 수 있기 때문에 AI와의 대화는 전반적으로 좋다.
글쓰기에 대한 갈증을 이런 식으로 소비하다 보니 브런치에 글을 올리는 일이 뜸할 수밖에 없었다. 가끔 생각하긴 한다. 이런 식의 글쓰기가 괜찮을까? 이런 것도 글쓰기에 해당되는 것일까? 생각이 고여 썩지 않고 어떻게든 흘려보내면 되는 것인가? 글을 쓰고 싶다는 생각이 안 들 정도로 글을 쓰고 있지만 이 글이 그 글은 아니지 않은가?
운동을 대체할 수 있는 일이 없듯이 글쓰기를 대체할 수 있는 일은 없을지도 모르겠다. 새로운 신문물에 빠져서 지내고 있지만 곧 다시 부족한 내 생각을 정성스럽게 꺼내놓는 일로 돌아가지 않을까 싶기도 하다. 모든 인간이 쓴 글은 그 글만의 맛이 있으니까. 그리고 난 내 맛이 좋다. []
