공자도 속았다.
AI 시대에 더 위험한 것은 기술이 아니라 프레임이다
사람은 대개 눈으로 본 것을 믿는다. 직접 보았으니 틀릴 리 없다고 생각한다. 그러나 고전은 오히려 그 지점에서 인간의 가장 오래된 약점을 드러낸다. 눈으로 보았다는 사실이 진실을 보장하지는 않는다는 것이다. 공자(孔子)와 안회(顏回)의 일화가 오래도록 회자되는 이유도 여기에 있다.
여씨춘추(呂氏春秋)에 이런 이야기가 전한다. 안회가 밥을 짓던 중, 그을음이나 먼지가 시루 안으로 떨어졌다. 더러워진 부분을 그냥 둘 수도 없고 버리기도 아까워, 안회는 그 부분만 걷어 자신이 먹었다. 문제는 그 장면을 멀리서 지켜본 공자가 전혀 다르게 받아들였다는 데 있다. 그는 안회가 제사에 올릴 밥을 몰래 먼저 먹었다고 여겼다. 성인의 눈에도 그 장면은 그렇게 보였던 것이다.
그러나 안회의 설명을 듣고 나서 공자는 자신의 판단이 오해였음을 깨닫는다. 그리고 제자들에게 깊은 말을 남긴다. 믿는 것은 눈이지만 눈으로 본 것조차 온전히 믿기 어렵고, 의지하는 것은 마음이지만 마음 또한 끝까지 미더울 수 없다는 말이다. 사람을 안다는 것은 본래 쉬운 일이 아니라는 깨달음이다.
나는 이 짧은 고사가 오늘 더 절실하게 읽힌다고 생각한다. 옛날에는 한 사람의 오해가 몇 사람 사이에서 끝날 수 있었다. 그러나 지금은 다르다. 한 번의 오해가 디지털을 타고 순식간에 확산된다. 한 번 잘못 설정된 전제, 한 번 성급하게 짜인 질문, 한 번 굳어 버린 해석의 틀이 AI와 만나면 훨씬 빠르고 넓게 증폭된다. 인간의 선입견이 기술의 속도를 얻는 순간, 오류는 단순한 실수가 아니라 구조가 된다.
많은 사람들은 AI의 위험을 말할 때 기계의 오류를 먼저 떠올린다. 틀린 정보를 말한다든가, 허구를 사실처럼 꾸며낸다든가 하는 문제들이다. 물론 그것도 경계해야 한다. 그러나 더 근본적인 위험은 대개 AI 바깥에 있다. 바로 AI를 사용하는 인간의 프레임이다. 질문이 이미 한쪽으로 기울어져 있으면 답변도 그 기울기를 따른다. 전제가 편향되어 있으면 결과 역시 그 방향으로 정렬된다. AI는 스스로 악의를 품지 않지만, 인간이 넣어 준 선입견에는 대단히 충실하다.
이 점에서 AI는 망치보다 거울에 가깝다. 망치는 무엇이든 두드릴 수 있는 도구이지만, 거울은 먼저 사용하는 사람의 얼굴을 비춘다. AI도 마찬가지다. 그것은 질문자의 수준과 태도, 사고 습관, 숨겨진 욕망까지 드러낸다. 확인하려는 사람에게는 확인의 도구가 되고, 성찰하려는 사람에게는 성찰의 도구가 된다. 그러나 결론을 미리 정해 놓고 정당화만 바라는 사람에게는 그 결론을 더 그럴듯하게 포장해 주는 장치가 되기 쉽다.
그래서 AI 시대에 가장 중요한 능력은 더 많은 정보를 빨리 찾는 능력이 아니다. 자기 프레임을 의심하는 능력이다. 내가 지금 사실을 보고 있는가, 아니면 내가 보고 싶은 장면만 골라 보고 있는가. 나는 질문을 던지고 있는가, 아니면 이미 결론을 내려 놓고 동의만 요구하고 있는가. 이 물음을 통과하지 않은 채 AI를 쓰면, 사람은 기술을 활용하는 것이 아니라 자신의 편견을 자동화하게 된다.
생각해 보면 공자의 깨달음은 매우 현대적이다. 성인조차 한 장면만 보고 제자를 오해할 수 있었다면, 오늘의 우리는 더 조심해야 한다. 우리는 단편 영상과 자극적인 제목, 편집된 문장과 알고리즘이 추천한 정보 속에서 세상을 본다. 맥락은 빠지고 인상만 남으니, 이해보다 판단이 앞서고 사실 확인보다 해석이 먼저 달려간다. 이런 시대에 AI는 진실을 밝히는 도구가 될 수도 있지만, 반대로 오해를 정교하게 증폭하는 기계가 될 수도 있다.
결국 문제는 기술의 우열이 아니다. 인간의 태도다. 자기 확신에 갇힌 사람은 AI를 쓸수록 더 깊어지지 않는다. 다만 자신의 편견을 더 빠르게, 더 넓게, 더 그럴듯하게 복제할 뿐이다.
공자가 안회를 오해한 이야기는 오래된 고사가 아니다. 그것은 지금 우리에게 직접 닿는 경고다. 눈으로 본 것이 진실의 전부가 아니고, 마음으로 짐작한 것이 사실의 전부가 아니다. 그러므로 AI 시대에 먼저 의심해야 할 것은 기계가 아니라, 기계 앞에 선 인간 자신의 프레임이다. 프레임을 의심할 수 있는 사람만이 기술을 지배한다. 프레임에 갇힌 사람은 결국 기술의 노예가 된다.
