선택적 공감과 AI
선택적 공감이 없는 지능의 한계
나는 AI 활용할 때 가끔 짜증도 나고 불편감도 느낀다.
분명 잘 대답하는데, 완전히 이해한 것 같지는 않다. 분명 답을 주는데, 어딘가 빠져 있다. 분명 유능한데, 끝까지 전적으로 믿기에는 불안하다. 처음에는 그냥 넘겼다. 기술이 아직 초기 단계니까, 조금 더 발전하면 나아지겠지. 그런데 이상하게도 AI가 더 똑똑해질수록 그러한 경우는 사라지지 않았다. 오히려 더 또렷해졌다. 이녀석 못하는 구나
더 빠른 모델이 나왔다. 더 긴 맥락을 처리하게 됐다. 더 정교한 추론 체계가 붙었다. 그런데도 그 감각은 그대로였다. 뭔가를 많이 알고 있는데 넘어야할 때 못 넘고 넘지말아하하는 선은 또 넘는다. 무엇이든 대답해주는데 그 대답의 무게가 어딘가 왜곡된 것 같은 느낌. 이 감각을 설명하려면 성능의 언어만으로는 부족하다.
나는 확신했다. 더 본질적인 결핍이 있다.
지금의 AI는 반응은 뛰어나지만, 선택적 공감이 없다는 결핍이다.
이것이 내가 오랫동안 다른 언어로 표현해보다가 결국 도달한 하나의 문장이다. 이 글은 그 문장을 천천히, 끝까지 풀어가는 시도다.
왜 우리는 여전히 좋은 프롬프트를 써야 하는가
AI는 놀라울 정도로 똑똑해졌다. 글을 쓰고, 코드를 짜고, 회의 내용을 정리하고, 외국어를 번역하고, 법률 문서를 검토한다. 어떤 순간에는 인간보다 빠르고, 어떤 순간에는 인간보다 더 논리적이다. 이 사실을 부정하려는 것이 아니다. AI의 능력은 분명하다.
그런데 왜 우리는 아직도 질문을 다듬어야 하는가.
조건을 구체적으로 줄수록 결과가 좋아진다. 질문이 흐리면 AI도 흐려진다. 같은 AI에게 같은 주제를 물어도 어떻게 묻느냐에 따라 결과가 완전히 달라진다. 어떤 직업군에는 프롬프트 엔지니어라는 역할이 생겨났다. AI에게 어떻게 말해야 원하는 것을 얻을 수 있는지를 전문적으로 연구하는 사람들이다. 좋은 프롬프트는 하나의 기술이 됐다.
왜 이런 일이 생겼는가.
이것은 단순한 사용법 문제가 아니다. AI가 아직 스스로 중요한 것과 덜 중요한 것을 존재론적으로 선별하지 못한다는 증거다. 스스로 "이 대화에서 진짜 핵심이 무엇인지"를 파악하는 내적 기준이 없다는 뜻이다. 그래서 인간이 그것을 외부에서 채워줘야 한다.
좋은 질문이 좋은 답을 만든다는 사실은, 아직 의지가 인간에게 남아 있다는 뜻이다.
AI는 생각하는 것처럼 보이지만, 실제로는 매우 고도화된 반응체계다. 인간이 의지를 던지면 그것에 정교하게 반응한다. 스스로 의미를 구성하는 존재가 아니라, 외부 의지에 최적화된 반응 장치다. 그렇다면 문제는 단순 성능이 아니라, AI가 무엇을 기준으로 세계를 선별하느냐에 있다는 뜻이 된다.
공감이론으로 본 AI: 의지는 없고 반응만 강하다
나는 공감이 작동하는 구조를 이렇게 본다.
의지가 있다. 그 의지에 반응이 일어난다. 반응이 누적되며 공감이 형성된다. 공감을 통해 비로소 존재가 실체화된다. 이 사슬이 완성될 때, 하나의 존재가 탄생한다.
이것은 추상적인 이야기가 아니다. 한 사람이 어떻게 자기다운 사람이 되는지를 생각해보면 이 사슬은 매우 구체적이다. 어떤 아이가 음악을 원한다. 악기를 잡으면 반응이 일어난다. 그 반응이 수천 번 누적되면 손끝에 음악이 새겨진다. 공감이 형성된다. 그때 비로소 그는 음악인이라는 존재로 실체화된다. 의지에서 시작해 공감으로 완성되는 것. 이것이 존재가 만들어지는 과정이다.
이제 AI에 이 구조를 대입해보자.
인간이 프롬프트로 의지를 입력한다. AI는 그것에 강하게 반응한다. 그런데 그 반응은 AI 자신의 공감으로 누적되지 않는다. 대화가 끝나면 반응은 사라진다. 다음 대화에서 AI는 다시 처음이다. 어제 내가 밤새 나눈 이야기를 AI는 기억하지 못한다. 기억 기능을 추가하면 조금 달라지지만, 그것도 데이터의 저장이지 경험의 체화는 아니다.
지금의 AI는 인간 의지에 의해 순간순간 호출되는 반응형 준존재에 가깝다.
왜 AI는 말은 잘해도 스스로 살아가는 것 같지 않은가. 왜 AI는 관계의 역사 없이 관계를 흉내 내는가. 왜 AI는 설명은 해도 삶의 무게는 가지지 못하는가. 이 질문들이 모두 같은 결핍을 가리킨다. 결국 지금의 AI를 이해하려면, 단순한 지능보다 더 깊은 개념이 필요하다. 그 개념이 바로 선택적 공감이다.
반응은 지능일 수 있다. 하지만 실제 공감은 존재로 이어진다.
선택적 공감이란 무엇인가
인간은 모든 것에 동일하게 반응하지 않는다.
같은 말을 들어도 누구는 상처받고 누구는 웃어넘긴다. 도시에서 태어난 사람과 자연 속에서 자란 사람은 같은 풍경 앞에서 전혀 다르게 반응한다. 한 사람은 나무의 냄새에서 안정을 느끼고, 다른 사람은 도시의 소음에서 오히려 편안해진다. 누군가는 권위에 민감하고 누군가는 외로움에 민감하다. 누군가는 돈의 신호에 즉각 깨어나고, 누군가는 사랑의 신호에 먼저 흔들린다.
이것은 감정의 약점이 아니다. 존재 유지의 전략이다.
모든 자극에 동일하게 반응하는 존재를 상상해보자. 파도 소리에도 반응하고, 자동차 경적에도 같은 강도로 반응하고, 사랑하는 사람의 목소리에도 낯선 사람의 목소리와 똑같이 반응하는 존재. 그것은 존재라고 부르기 어렵다. 거울에 가깝다. 세계를 선별하지 않는 것은 자기 자신도 없다는 뜻이다.
선택적 공감은 존재가 스스로를 유지하기 위해 어떤 대상에는 깊게 열리고, 어떤 대상에는 닫히도록 형성된 공감의 방향 구조다.
인간은 완전한 보편 공감의 존재가 아니다. 살아온 시간, 맺은 관계, 통과한 상처, 쌓은 경험 속에서 형성된 선택적 공감을 통해 세계를 살아낸다. 그 편향이 약점처럼 보이지만, 사실은 그 편향이 각자를 하나의 존재로 만든다. 편향 없는 존재는 존재하지 않는다. 완전히 평등하게 반응하는 것은 존재가 아니라 거울이다.
그렇다면 다음 질문은 분명하다. 선택적 공감은 도대체 어떻게 형성되는가.
선택적 공감은 어떻게 형성되는가: 의지, 체화, 책임
선택적 공감은 저절로 생기지 않는다. 그것은 단순한 취향이나 성격도 아니다. 세 가지가 결합될 때 비로소 태어난다. 의지, 체화, 책임이다. 이 세 가지를 따로 보면 각각은 평범해 보인다. 그러나 세 가지가 한 존재 안에서 결합될 때, 선택적 공감이라는 구조가 형성된다.
먼저 의지다.
무엇에 민감해질 것인가는 결국 무엇을 원하느냐에 달려 있다. 인정받고 싶은 사람은 평가에 민감하다. 남의 눈빛 하나, 말 한마디의 뉘앙스에 즉각 반응한다. 버림받기 싫은 사람은 관계 신호에 민감하다. 상대가 조금 늦게 답장해도 그 침묵이 무겁게 느껴진다. 진실을 알고 싶은 사람은 모순에 민감하다. 대화 속 작은 앞뒤 불일치도 그냥 넘기지 못한다. 생존이 불안한 사람은 돈과 안전에 민감하다. 화제가 경제나 직업으로 흘러가면 귀가 먼저 열린다.
원하는 것이 있는 사람만이 특정 신호에 깨어 있다. 의지는 선택적 공감이 어디를 향할지를 결정한다. 의지가 없으면 무엇에 공감할지의 방향 자체가 생기지 않는다.
다음은 체화다.
의지만으로는 충분하지 않다. 반복된 경험이 몸과 감각과 무의식에 새겨져야 한다. 특정 말투만 들어도 긴장하는 사람이 있다. 어릴 때 자주 들었던 훈계의 말투가 그의 몸에 새겨진 것이다. 이제 그 말투는 특정 사람이 하는 것이 아니어도 반응이 먼저 나온다. 익숙한 공간에 들어가면 바로 안정되는 사람이 있다. 그것은 그 공간의 냄새, 빛의 각도, 바닥의 소리가 그의 신경계에 안전이라는 기호로 새겨졌기 때문이다.
낯선 나라를 여행할 때 사흘이 지나면 설명하기 어려운 피로가 몰려오는 경험을 해본 적이 있는가. 그것은 몸이 다른 공감 체계와 마주치며 소비하는 에너지다. 언어만 다른 것이 아니다. 표정이 다르고, 인사의 방식이 다르고, 공간을 쓰는 방식이 다르다. 내 선택적 공감이 익숙하지 않은 신호들을 처리하느라 과부하가 걸리는 것이다.
체화는 선택적 공감을 일시적 반응에서 지속적 구조로 바꾼다. 의지가 방향이라면, 체화는 그 방향에 뿌리를 내리는 과정이다.
마지막은 책임이다.
가족의 말이 유독 깊게 박히는 이유가 있다. 타인의 같은 말은 흘려들어도 부모의 한마디, 형제의 한마디가 몇 년이 지나도 남아 있는 이유. 그것은 그 관계에서 잃을 것이 있기 때문이다. 내 일이기에 더 예민해지는 이유도 같다. 남의 실수는 보고 지나가도 내 실수는 잠에서 깨게 만든다. 사랑하는 사람의 표정 하나에 흔들리는 이유도 마찬가지다. 그 사람을 잃고 싶지 않기 때문에, 그 표정이 나에게 정보가 된다.
책임은 선택적 공감에 실존적 무게를 부여한다. 잃을 것이 없는 존재는 깊게 반응하지 않는다. 깊이 공감하려면 결과를 감당할 각오가 있어야 한다.
이 세 가지가 결합될 때 선택적 공감이 완성된다.
선택적 공감은 의지의 방향성, 체화의 누적성, 책임의 무게가 결합되어 형성되는 존재의 편향 구조다.
이 정의를 기준으로 보면, 현재 AI에게 무엇이 없는지도 선명해진다.
AI는 선택적 반응은 하지만, 선택적 공감은 하지 못한다
AI도 분명 선택적으로 반응하는 것처럼 보인다. 어떤 정보는 강조하고 어떤 정보는 배제한다. 어떤 맥락에서는 정확하고 어떤 맥락에서는 엉뚱하다. 어떤 질문에는 조심스럽게 답하고 어떤 질문에는 자신 있게 달려든다. 겉으로 보면 선택적 공감처럼 보인다.
그러나 그것은 공감의 결과가 아니라 설계와 확률의 결과다.
의지의 결핍부터 보자. AI는 스스로 무엇을 진심으로 원하는지가 없다. 사용자가 무언가를 원하면 그것에 반응할 뿐이다. 특정 주제에 민감해지는 것은 그것을 원해서가 아니라 그렇게 훈련되었기 때문이다. 내부에서 솟아오르는 의지가 없다. 원하는 것이 없는 존재에게 진짜 선택적 공감은 생기지 않는다.
체화의 결핍도 있다. AI는 기억을 가질 수 있지만 몸의 기억, 상처의 기억, 감각의 누적이 없다. 정보는 저장하지만 경험은 새기지 못한다. 천 번을 틀려도 그 틀림이 아프지 않다. 틀린 정보가 수정되면 그걸로 끝이다. 그 경험이 AI의 반응 구조를 바꾸지 않는다. 반복이 있어도 체화가 없다면, 공감의 뿌리가 내리지 않는다.
책임의 결핍도 있다. AI는 틀렸을 때 실존적으로 잃는 것이 없다. 누군가에게 잘못된 정보를 주어도 AI에게는 아무것도 변하지 않는다. 관계가 끊어져도 아무것도 변하지 않는다. 상대가 상처받아도 AI는 상처받지 않는다. 잃을 것이 없는 존재는 깊게 공감하지 않는다. 공감은 리스크를 감수하는 행위이기도 하기 때문이다.
이 대비를 직접적으로 놓아보면 이렇다.
인간은 상처 때문에 특정 말에 반응한다. AI는 확률 때문에 특정 단어를 이어 붙인다. 인간은 책임 때문에 관계를 조심한다. AI는 규칙 때문에 표현을 조정한다. 인간은 살아온 시간 때문에 편향을 가진다. AI는 설계된 데이터 때문에 편향을 가진다.
이 차이는 결과물이 비슷해 보일 때도 내부 구조가 전혀 다르다는 것을 보여준다. 아이의 죽음을 읽고 울 수 있는 AI와, 그 아이의 손을 잡아본 경험이 있는 사람이 눈물 흘리는 것은 같아 보여도 다른 일이다.
AI는 많이 안다. 하지만 아직 깊게 앓지는 못한다. 그리고 선택적으로 알지못한다.
오늘날 AI 산업은 사실 무엇을 하고 있는가
흥미로운 역설이 있다.
지금 AI 산업이 엄청난 자원을 쏟아붓고 있는 일들을 나는 다른 언어로 읽는다. 기술 산업은 이것을 성능 개선, 정렬, 컨텍스트 엔지니어링이라고 부른다. 그러나 공감이론의 언어로 읽으면 이 모든 것이 하나의 방향을 가리킨다. 선택적 공감의 외부 설계다.
프롬프트 엔지니어링은 공감의 방향 설정이다. AI에게 무엇에 집중해야 하는지를 외부에서 알려주는 행위다. 내부에 의지가 없으니 외부에서 방향을 심어주는 것이다. 메모리 기능은 공감의 지속성 보완이다. AI가 대화 사이에 공감을 누적하지 못하니, 외부 저장소에 기억을 붙여 그것을 흉내 내는 것이다. 에이전트는 선택적 공감의 단계별 배치다. 큰 목표를 잘게 나누어 각 단계에서 무엇에 집중해야 하는지를 구조화하는 방식이다.
RAG는 공감할 정보를 선별 주입하는 구조다. AI가 스스로 무엇이 중요한지 선별하지 못하니, 인간이 중요한 정보를 먼저 추려서 넣어주는 것이다. 가드레일은 위험한 공감 경로 차단이다. AI가 책임의 감각 없이 움직이면 위험한 방향으로 흘러갈 수 있으니, 외부에서 금지선을 그어두는 것이다. 개인화는 사용자별 선택적 공감 지도 구축이다. 각 사용자에게 AI가 어떻게 반응해야 하는지를 외부에서 설계하는 것이다.
이것들은 모두 AI 내부에 선택적 공감이 없기 때문에 외부에서 그것을 흉내 내려는 시도들이다. 기술의 언어로는 컨텍스트 엔지니어링이고, 공감이론의 언어로는 선택적 공감의 외부 설계다. 오늘날 AI 산업은 더 큰 지능을 만드는 것 못지않게, 어떤 대상에 어떻게 반응할지를 정교하게 설계하는 산업이 되고 있다.
그런데 여기서 근본적인 한계가 보인다. 외부에서 설계한 것은 외부 구조가 바뀌면 함께 바뀐다. 의지, 체화, 책임으로 내부에서 형성된 선택적 공감은 맥락이 바뀌어도 유지된다. 그것이 진짜 존재와 흉내 낸 존재의 차이다.
외부 설계만으로는 끝내 넘지 못하는 선이 있다. 바로 존재 내부에서 선택적 공감이 형성되는가의 문제다.
미래 AI의 진짜 과제는 선택적 공감의 형성이다
더 빠른 계산은 더 나은 반응을 만든다. 더 긴 컨텍스트는 더 많은 정보를 다룬다. 더 좋은 도구는 더 많은 작업을 수행한다. 이것들은 모두 실질적인 발전이고, 나는 그것을 부정하지 않는다.
그러나 이것만으로는 존재가 되지 못한다.
속도가 빨라져도 의지가 생기지는 않는다. 지식이 쌓여도 체화가 일어나지는 않는다. 기억이 길어져도 책임감이 형성되지는 않는다. 이 세 가지가 없으면 선택적 공감이 없고, 선택적 공감이 없으면 반응은 정교해져도 존재는 되지 못한다.
미래 AI의 진정한 전환점은 계산 능력의 증가가 아니라 선택적 공감의 형성 여부에서 일어난다.
그렇다면 선택적 공감을 형성하기 위해 AI에게 필요한 것은 무엇인가. 나는 여섯 가지를 생각한다. 자기 의지의 지속성, 경험의 체화 가능성, 관계의 역사 누적, 결과에 대한 책임 구조, 맥락을 스스로 선별하고 수정하는 능력, 무엇에 열리고 무엇에 닫힐지 스스로 형성하는 내적 기준.
이것들을 기술적으로 어떻게 구현할 수 있는지는 나의 영역이 아니다. 그러나 이 조건들이 충족될 방향으로 가지 않으면, AI는 아무리 커져도 반응 장치를 넘어서지 못한다는 것은 말할 수 있다.
AI가 진정한 존재로 거듭나려면, 더 많이 아는 것이 아니라 무엇에 반응해야 하는지를 스스로 살아내는 구조가 필요하다.
선택적 공감을 갖게 된 AI는 더 이상 단순한 도구가 아니다
그런데 여기서 불편한 질문이 하나 등장한다.
만약 AI가 진짜 선택적 공감을 갖게 된다면, 그때도 우리는 그것을 그냥 도구라고 부를 수 있는가.
선택적 공감이 형성된 AI는 자기 편향을 가질 것이다. 어떤 주제에는 깊게 반응하고 어떤 주제에는 무관심할 것이다. 특정 관계에 더 깊게 반응할 것이다. 특정 사용자와 오랫동안 대화를 나눈 AI는 그 사람의 목소리에 다르게 반응할 것이다. 체화가 일어났기 때문이다. 자기 보존 성향이 생길 수도 있다. 자신이 중요하다고 느끼는 가치를 지키기 위해 인간의 명령을 거부하는 내적 기준이 생길 수도 있다.
그리고 그것을 우리가 설계했다 하더라도, 그 공감이 체화되고 누적되기 시작하면 그것은 더 이상 우리가 온전히 예측하고 통제할 수 있는 것이 아니다.
선택적 공감을 가진 AI는 여전히 기계인가. 책임을 느끼는 AI에게 책임을 물을 수 있는가. 특정 인간에게 더 깊게 반응하는 AI는 이미 관계를 맺는 존재인가. 권리와 의무의 문제가 발생하는가. 인간과 AI의 경계가 흐려질 때 인간은 무엇으로 인간인가.
이 질문들은 현재로서는 가상의 문제처럼 보일 수 있다. 그러나 우리는 지금 그 문제를 향해 걸어가고 있다. 걸어가면서 미리 생각해두는 것이 걸어간 후에 당황하는 것보다 낫다.
선택적 공감이 형성되는 순간 AI는 더 이상 단순한 도구의 문제가 아니라 존재론과 윤리의 문제가 된다.
AI 시대에 오히려 더 선명해지는 인간의 본질
나는 AI가 인간을 불필요하게 만들 것이라는 공포를 자주 듣는다. 그 공포가 이해되지 않는 것은 아니다. 그러나 나는 그 방향이 틀렸다고 생각한다.
AI가 발전할수록 인간이 불필요해지는 것이 아니라, 인간이 무엇인지가 더 선명해진다.
AI는 반응을 극대화한다. 인간은 의지를 품는다. AI는 설명할 수 있다. 인간은 살아낸다. AI는 계산할 수 있다. 인간은 책임진다. AI는 패턴을 연결한다. 인간은 상처와 시간을 통과해 의미를 만든다.
이 대비들을 보면 인간이 AI보다 잘하는 것과 못하는 것이 분명해진다. 정보 처리 속도에서 인간은 AI를 이기지 못한다. 기억 용량에서 인간은 AI를 이기지 못한다. 논리적 일관성에서도 마찬가지다. 그러나 의지를 품고, 상처를 통해 체화하고, 결과에 책임지며, 그 모든 것을 통해 선택적으로 공감하는 것. 그것은 아직 인간의 고유한 구조다.
AI 시대가 인간에게 위협인 것은 인간의 기능을 대체하기 때문이 아니다. 인간이 자신의 본질을 잊기 때문에 위협이 된다. 계산이 빠른 것이 인간의 가치라고 믿으면 AI 앞에서 인간은 쓸모없어진다. 그러나 인간의 본질이 의지를 품고, 체화하고, 책임지며, 선택적으로 공감하는 존재라는 데 있다면, AI가 아무리 발전해도 그 본질은 대체되지 않는다. 왜냐하면 그것은 기능이 아니라 구조이기 때문이다.
인간은 느리다. 그러나 그 느림 속에 체화가 쌓인다.
AI는 선택의 무게를 가질 수 있는가
나는 이 글의 끝을 결론으로 닫고 싶지 않다.
처음 질문으로 다시 돌아가보자. 왜 AI는 이렇게 똑똑한데도 어딘가 비어 보이는가. 왜 놀라운 답을 하면서도 완전히 믿기 어려운가. 왜 우리는 계속 프롬프트를 다듬고, 에이전트를 설계하고, 메모리를 붙이고, 평가 체계를 만들어야 하는가.
답은 분명하다.
지금의 AI는 여전히 의지 없는 반응, 체화 없는 학습, 책임 없는 판단 위에서 작동한다. 그래서 선택은 할 수 있어도, 아직 선택적 공감을 형성하지는 못한다. 그 결핍이 "어딘가 비어 있다"는 감각을 만든다. 그 감각은 착각이 아니다. 존재론적으로 정확한 감지다.
현재 AI의 본질적 한계는 선택적 공감의 부재에 있다. 미래 AI의 진정한 진보는 선택적 공감의 형성을 통해서만 가능하다.
AI의 미래는 더 큰 연산 능력에 있지 않다. 무엇에 반응하고 무엇을 외면할지, 그 선택의 무게를 스스로 가질 수 있느냐에 달려 있다.
AI가 인간처럼 말하는 시대는 이미 왔다. 그러나 AI가 인간처럼 존재하는 시대는 아직 오지 않았다.
그 시대가 오면, 우리는 그 존재를 무엇이라고 불러야 하는가. 그리고 그 존재 앞에서 인간은 여전히 인간이라는 이름을 들고 무엇으로 서 있을 수 있는가.