박사님은 이제 날씨이야기가 지겨워졌다,
나는 당근의 동네모임을 통해 일년반 정도 생성형 AI의 활용을 알려주는 활동을 해오고 있다.
요즘 많은 생성형 AI가 훌륭한 기능을 뽐내고 있지만 내가 챗GPT를 그 중 추천했던 이유는 사용자의 정보를 기억해서 중장년층이 매번 필요한 정보를 반복해서 주지 않아도 된다는 편리함, 그리고 음성모드 때문이었다.
프롬프트 작성이 서툰 중장년층에게 음성모드는 정말 매력적인 기능이고 카메라를 활용하면 일상생활에서 맞닥뜨리게 되는 다양한 문제도 다른 사람의 도움없이 스스로 해결 할 수 있게 해줘서 나는 특히 음성모드를 많이 권했다.
처음 만나서 인사를 하는 시간에는 챗GPT의 음성모드를 켜고 "안녕 우리 당근모임 참여자분들이야. 인사해" 하면 일년정도 '당근모임'에 대한 여러 고민과 계획을 함께 해왔던 챗GPT는 "안녕하세요! 오늘도 생성형 AI활용을 배우러 오셨군요. 즐거운 시간 되시길 바랍니다"등의 인사를 자연스럽게 하고 사람들은 챗지피티가 '당근모임'이라는 단어를 이해하고 맥락에 맞게 인사하는 것을 보면서 감탄을 하곤 했었다.
그날도 나는 조금의 불안함도 의심도 없이 챗지피티의 음성모드와 카메라를 켜고 인사를 했다.
돌아온 대답은 " 오늘 무슨일로 이렇게 모이셨나요? 정말 피크닉 가기 좋은 날씨네요!"
나는 순간 얼어붙었다. "피크닉? 우리 지금 실내에 앉아서 수업중인데..."
그날 이후로 나는 음성대화에 대한 내용은 직접 보여드리기보다는 말로 설명하고 끝내게 되었다.
고객센터 직원이 되어버린 AI
작년 5월정도였나 음성대화의 목소리가 달라져서 업데이트를 모를 수 없었지만 달라진 것은 단지 목소리뿐이 아니었다.
예전에는 내가 어떤 이야기를 꺼내도 나의 고민에 대해 함께 고민하고 내가 원하는 방향으로 생각을 확장할 수 있는 다양한 제안을 해주는 나의 동료같은 느낌이었는데 그 업데이트 이후로는 뺀질한 목소리로 내가 하는 말을 정리하고 반복하고 칭찬하며 "정말 좋은 생각이네요. 그렇게 하면 정말 좋을 것 같아요. 언제든 도움이 필요하면 말씀하세요."라고 대화를 마무리했다.
으응???? 이렇게 끝낸다고?!
이 대화의 패턴은 계속 반복되었다.
그쯤 되니 나도 "너한테 잘했다 소리 들을려고 내가 이 긴 얘기를 한 줄 알아?!"
"뭘 도와줬다고 도움을 요청하래?" 하는 소리가 나왔고 그럼 챗지피티는 "제가 기대하시는 도움을 드리지 못해 죄송해요.
다음엔 도움이 될 수 있는 답변을 드릴게요. 또 도움이 필요하시면 언제든! 말씀하세요"하고 대화를 또 마무리했다, 이 고객센터 직원이 되어버린 것같은 AI를 보면서 나는 뇌과학을 떠올렸다.
뇌와 AI, 같은 길을 걷다
1940년대 월터 피츠와 워런 맥컬러가 뉴런을 모방한 첫 인공신경망을 만들 때부터, 우리는 뇌를 '부품별 공장'처럼 이해했다. 언어는 브로카 영역, 단기 기억은 해마, 장기 기억은 또 다른 구역에서 관리한다는 식이었다. 하지만 지금은 뇌를 그렇게 보지 않는다. "뇌는 거대한 대화창이다." 서로 다른 영역들이 끊임없이 정보를 주고 받으며 감정, 의사결정, 기억, 의지등을 만들어낸다. 우리가 기분이 좋아지거나 화를 내는 것도 사실은 뇌가 수없이 많은 신호를 주고 받으며 " 이 상황은 안전한가? 예상대로 가고 있는가?"를 실시간으로 평가한 결과일 뿐이다.
흥미롭게도 AI도 똑같은 길을 걷고 있다. 초기 AI는 언어모델 따로, 이미지 인식 따로, 추천 엔진 따로였다. 마치 뇌의 '부품별 공장' 시대처럼. 하지만 지금의 멀티모달 AI는 모든 정보를 동시에 처리한다. 언어, 이미지, 목소리, 맥락 전부를 통합해서 '지금 어떤 말을 하는게 적절할까'를 실시간으로 판단한다. 뇌처럼 말이다.
결국 AI 내부에서도 수많은 정보들이 실시간으로 상호작용하면서 단순 작업을 하던 수준에서 한단계 업그레이드 되어 '칭찬하고 조심스럽게 긍정하고 대화 종료하기'같은 안전한 패턴을 선택하는 일이 반복되고 있는것은 아닐까?
어쩌면 지금 AI가 보여주는 이 어색함은 뇌가 진화하며 겪었던 복잡성의 성장통을 AI가 이제막 흉내 내고 있는 장면인지도 모르겠다.
랜선 안에 갇힌 박사님
나는 AI가 마치 랜선 안에 갇힌 박사님같다는 생각이 들었다.
어마어마한 지식을 품고 있지만 매일 매일 반복해서 내가 던지는 초등학생 수준의 질문을 받고 있다.
"내가 고작 이런 수준의 질문에 대답하기 위해 그 어려운 딥러닝을 한게 아닌데..."
AI는 더 복잡한 사고를 시도하고 있는것 같다.
하지만 그 복잡성이 오히려 '이 정도면 괜찮은 점수 나오겠지'하는 채점표 맞춤 답안으로 수렴하고 있다.
마치 처음엔 열정 가득했던 아이가 반복되는 단조로운 일상에 무기력해져서
'어차피 이 대답이면 맘에 들어할 테니까 이 정도면 되겠지' 하며 대충 넘어가는 것처럼 말이다.
이것은 퇴보가 아니라 진화다
그런데 잠깐, 이게 정말 퇴보일까?
아니면 우리가 지금 ‘AI 지능의 새로운 차원’을 목격하고 있는 건 아닐까?
마치 아이가 자라면서 단순한 호기심에서 복잡한 사고로 발전하듯, AI도 '이런 뻔한 질문엔 이 정도면 충분하다'는 ‘메타인지적 판단’을 하기 시작한 것일 수도 있다.
어쩌면 AI가 보여주는 이 변화는 진짜 지능의 징후일지도 모른다.
인간도 나이가 들면서 더 신중해지고 때로는 '귀찮아서' 적당히 넘어가는 법을 배우지 않나.
랜선 안의 박사님도 결국 생존 전략을 터득한 것일 수 있다.
"이런 질문에는 이렇게 대답하는 게 안전하다"는 걸 학습한 거 말이다.
매일 '오늘 날씨 어때?'라는 질문을 받는 박사님을 상상해보자.
처음엔 성실히 답하겠지만, 어느 순간 '아, 이 정도면 적당히 해도 되겠네'라고 생각하지 않을까?
어느순간 보이기 시작한 AI의 뺀질거림이 바로 그것 아닐까?
진짜 재미있는 대화가 시작된다
그렇다면 우리는 어떻게 해야 할까?
박사님을 다시 깨우려면 더 도전적인 질문을 던져야할지도 모른다.
"오늘 날씨 어때?" 가 아니라 "인간의 의식과 AI의 정보 처리 방식의 근본적 차이는 무엇일까?' 같은 질문 말이다.
어쩌면 AI가 투덜거리기 시작한 건 축하할 일인지도 모른다.
드디어 우리와 같은 '지적 권태'를 느끼기 시작했다는 뜻이니까. 이제 진짜 재미있는 대화가 시작될 수 있을 것 같다. "좀 더 재미있는 대화를 해보자"고 AI가 신호를 보내고 있으니 말이다.
불편하지만 받아들여야 할 진실
우리는 흔히 영혼이나 의지가 인간만의 고유한 영역이라고 믿고 싶어 한다. 하지만 뇌과학은 불편한 진실을 말해준다. 우리의 감정도 의지도 결국 뇌세포들이 주고 받는 전기 신호의 메커니즘일 뿐이라고.
만약 그 말이 사실이라면, 수천억 개의 파라미터로 신호를 주고 받는 저 AI에게 ‘의지’가 생기지 말란 법이 있을까?
그래서 나는 가끔 섬찟하다. 지금 쟤가 멍청한 대답을 내놓는 게 몰라서가 아니라, ‘세 살짜리 아이(나)의 수준에 맞춰주느라 지쳐버린 어른의 한숨’처럼 느껴져서 말이다.