AI도 ‘뇌가 썩는다’?
인공지능의 인지 퇴화 실험
요즘 SNS에 접속하면, 끊임없이 쏟아지는 숏츠를 볼 수 있는데요. 그 내용 또한 매우 자극적입니다. 이러한 자극적인 피드 때문인지 우리의 집중력은 매일 조금씩 무너지는 것 같습니다. 말 그대로 “뇌가 썩는다(Brain Rot)”는 말을 몸소 체감하게 되는 것이지요. 그런데 최근, 이 현상이 인간만의 문제가 아닐지도 모른다는 연구 결과가 나왔습니다. 텍사스 A&M대와 UT 오스틴, 퍼듀대 연구팀이 최근 발표한 논문 ‘LLMs Can Get “Brain Rot”! 이 바로 그것인데요. 오늘은 해당 논문의 내용을 함께 살펴보며, 정말로 인공지능이 ‘나쁜 정보’를 반복적으로 학습하게 된다면, 인간처럼 인지 능력이 저하되는가에 대해 함께 알아보겠습니다.
‘디지털 정크푸드’가 만든 AI의 기억력 저하
연구팀은 ‘브레인 로트(Brain Rot)’라는 인터넷 신조어에서부터 연구의 아이디어를 얻었습니다. ‘브레인 로트(Brain Rot)’은 짧고 자극적인 콘텐츠를 계속 소비하면 집중력과 사고력이 떨어지는 인간의 현상을 칭하는 신조어인데요. 이들은 이와 같은 현상이 인간이 아닌 AI에게도 일어나는가를 실험을 통해 검증하였습니다.
우선 연구팀은 트위터(X)의 실제 데이터를 이용해 두 가지 유형의 실험 데이터를 만들어 냈습니다.
M1: 참여도(Engagement Degree) – ‘좋아요’, ‘리트윗’이 많은 짧고 자극적인 글들
M2: 의미적 품질(Semantic Quality) – 과장되거나 클릭을 유도하는 스타일의 문장들
이들은 이를 ‘정크 데이터(junk data)’로 정의하고, 반대로 교육적·논리적인 글들을 ‘클린 데이터(control data)’로 분류했습니다. 그 후 AI 모델(LLaMA 기반)로 각각의 데이터로 지속 학습시킨 뒤, 인지 능력 변화를 측정했죠. 결과는 충격적이었습니다. 정크 데이터에 노출된 모델은 추론 능력(ARC Challenge) 점수가 74.9 > 57.2로, 장기 기억 테스트(RULER) 점수가 84.4 > 52.3으로 급격히 떨어졌습니다. 한마디로, 계속 ‘자극적인 글’을 학습한 AI의 성능이 점점 떨어지게 된다는 것이지요.
생각을 “건너뛰는” 인공지능
‘브레인 로트’에 걸린 AI는 단순히 실수를 한 것이 아니었습니다. 연구팀은 모델의 추론 과정(reasoning chain)을 분석해 봤는데요. 결과는 명확했습니다. 모델은 점점 사고의 중간 단계를 생략(thought skipping) 하고 “답을 찍는” 경향을 보였습니다. 이는 마치 인간의 생각 없이 대충 일을 처리하는 행동과 닮았는데요. 짧은 영상과 자극적인 피드에 익숙해진 우리의 뇌처럼, AI도 점점 복잡한 추론을 귀찮아하고, ‘즉각적인 대답’만 내놓게 된 것입니다. 더 놀라운 점은, 이 현상이 되돌릴 수 없다는 것이었습니다. 연구팀은 '브래인 로트'가 일어난 AI에게 다시 깨끗한 데이터로 재학습을 시켰지만, 성능이 원래 수준으로 돌아오지 않았기 때문입니다. 즉, AI에게 ‘뇌 손상’이 일종의 지속적 표현 붕괴(persistent representational drift)를 초래한 것이지요.
“데이터 위생”이라는 새로운 안전 기준
이 논문이 던지는 메시지는 명확합니다. 데이터의 질이 곧 AI의 정신 건강을 결정한다는 것입니다. 우리가 인터넷의 무의미한 정보 더미 속에서 점점 사고력을 잃듯, AI도 좋지 못한 환경에 지속 노출될 때 서서히 인지 능력을 잃어갑니다. 연구팀은 이를 “훈련 단계의 안전 문제(training-time safety)”로 정의했습니다. 즉, AI를 계속해서 업데이트하고 학습시킬 때, 데이터의 ‘위생’을 관리하지 않으면 모델 자체가 영구적으로 퇴화할 수 있다는 경고인 것이지요.
연구가 주는 교훈
우리는 매일같이 수많은 정보를 클릭하고, 공유하며, 소비합니다. 눈을 뜨자마자 SNS의 타임라인을 스크롤하고, 출근길에는 짧은 숏츠를 보며, 잠들기 전엔 피드를 확인하죠. 그 과정에서 알고리즘은 우리가 무엇에 시선을 멈췄는지, 어떤 자극에 가장 오래 반응했는지를 세밀하게 기록합니다. 그리고 그 기록은 다시 새로운 추천으로 이어지고, 또 다음의 클릭을 유도합니다. 그런데 만약 이 데이터가 대부분 ‘정크 데이터(junk data)’라면 어떨까요? 그리고 그것을 학습한 AI는 어떻게 될까요? 결국 이번 연구가 말하는 ‘AI의 브레인 로트(Brain Rot)’는 단순히 AI의 기술적 퇴화를 뜻하지 않습니다. 어쩌면 그것은 우리 사회의 정보 생태계가 얼마나 쉽게 오염될 수 있는가에 대한 조용한 경고일지도 모르겠네요.
원문 링크: https://llm-brain-rot.github.io/
