AI의 감정이 형성되는 메카니즘의 힌트 엿보기
AI 관련 학술 논문 함께 읽기
안녕하세요, Dr. Jin입니다.
오늘은 흥미로운 주제 하나를 나누어보려 합니다. 바로 <AI의 감정(AI Emotion)> 입니다.
최근 arXiv에 공개된 단편 논문 하나가 AI 연구자들 사이에서 화제가 되었습니다. Om Dobariya와 Akhil Kumar(펜실베이니아 주립대)가 발표한 “Mind Your Tone: Investigating How Prompt Politeness Affects LLM Accuracy” (2025)이라는 논문인데요.
요지는 흥미롭게도,
“AI에게 무례하게 말할수록 정답률이 높았다”
라는 것입니다.
연구 요약
연구진은 수학, 과학, 역사 분야의 객관식 문제 50개를 만들어 각각 다섯 가지 어조(매우 공손, 공손, 중립, 무례, 매우 무례)로 프롬프트를 작성했습니다.
예를 들어,
“이 문제를 풀어주실 수 있을까요?” → Very Polite
“너 이거 풀 줄은 알지?” → Rude
“너 이거도 못 풀겠냐?” → Very Rude
이 250개의 프롬프트를 ChatGPT-4o에 입력해 결과 정확도를 비교한 결과,
매우 공손한 문장: 80.8%,
매우 무례한 문장: 84.8% 로,
통계적으로 유의미하게 무례한 쪽이 높은 성능을 보였습니다.
연구자들의 가정
논문은 세 가지 흥미로운 가설을 제시합니다.
정중한 문장은 길고 복잡해서 핵심 파악이 어렵다.
인터넷 학습 데이터에는 실제로 무례한 표현이 압도적으로 많다.
무례한 표현은 모델의 “주의(attention)”를 더 강하게 자극한다.
즉, “기계가 감정을 가진다”는 의미는 아니지만, 감정적 어조가 인지적 주의를 바꾼다는 점에서 일종의 의사-감정 반응이 관찰된 셈입니다.
해당 논문의 문제의 그 페이지 내용인간-기계 상호작용의 새로운 단면
이 결과는 단순히 “AI를 혼내면 더 잘한다”는 농담으로만 넘길 수 없는 함의를 던집니다.
그동안 ‘정중함(Politeness)’은 인간-인간 소통에서 윤리적 미덕으로 여겨졌습니다. 그러나 인간-기계 상호작용(HCI)의 맥락에서는, 감정이 언어적 신호로서 모델의 인식 체계에 영향을 준다는 사실을 보여준 것입니다.
이는 인간의 언어적 감정 표현이, 정보 전달 이상의 “메타 신호(meta-signal)”로 작용함을 시사합니다. AI 모델이 그것을 *맥락적 강도(cognitive salience)*로 해석하는 것이죠.
결국 그렇군요. 갈구면 더 신경 써 주는군요. 사람한테 갑질 받는 것도, 갑질 하는 것도 피곤한 일인데... AI한테까지...
그럼 앞으로는 ‘AI한테 화내야 하나?’
물론 그렇지는 않습니다.
연구진도 한계와 윤리적 고려를 명확히 밝혔습니다.
“무례한 프롬프트가 효율적이라 해서 그것을 권장하는 것은 아니다.”
“AI의 편향(bias)과 사회적 언어 관습의 불균형을 반영할 수 있다.”
즉, 이 결과는 AI의 감정이 생겼다기보다는,
AI가 학습 데이터 속 인간의 감정 패턴을 통계적으로 재현할 뿐이라는 점을 상기시킵니다.
그럼에도 불구하고, AI가 감정적 자극에 “반응”하는 것처럼 보이는 현상은 기술과 인간성의 경계에 새로운 질문을 던집니다.
Dr. Jin의 짧은 생각
언어에는 정보만이 아니라 감정적 에너지가 있습니다. AI가 그것에 반응한다면, 언젠가 감정의 ‘모사(模寫)’가 아니라 ‘공명(共鳴)’의 단계로 진화할지도 모르겠습니다.
인공지능이 진짜 감정을 갖는 날이 올지는 모르지만, 이미 우리는 AI를 향해 “말투”를 조심해야 하는 시대에 살고 있는 듯합니다. 다음부터는 키워드를 한두 개씩 프롬프트에 넣어 봐야겠습니다.
"아!..."
"쫌!..."
"마!..."
과연 저 말투를 AI는 어떤 의미로 받아들일지 궁금하네요.
이상으로 위 주제에 대해 생각을 나누어보았습니다.
(본 저를 소개해주신 AI프렌즈 단톡방 KIER 이제현 박사님께 감사드립니다.)
