AI와 생각의 외주화, 도구적 이성
최근 AI로 인한 '생각의 외주화' 문제가 자주 이야기되고 있다. 사람들이 AI에게 글쓰기나 리서치, 개요 제안이나 요약을 넘어 적극적으로 '사고할 능력'까지 위탁한다는 것이다. 이에 따르면, 아리스토텔레스 이후 인간은 '생각하는 동물(이성적 동물)'이라는 게 상식이었다면, 이제 인간은 생각마저 다른 존재에게 대체당할 입장이 되어버린 셈이기도 하다. 그러나 나는 AI 시대일수록, 성찰하는 능력이 인간에게 훨씬 더 중요해졌다고 생각한다.
그 이유는 AI가 하는 역할은 아무리 봐도 '도구적 이성'에 머물러 있기 때문이다. 예를 들어, 논란이 되는 사안에서 A 입장을 내가 주장하고 싶으면, AI는 거의 무한한 논거를 만들어준다. 그런데 그렇게 만들어진 글을 다시 AI에게 넣어서 '반박'해보라고 하면, 조목조목 반박해낸다. 다시 재반박을 시키고, 재재반박을 시켜도 마찬가지다. 즉, AI는 호르크하이머가 말하는 도구적 이성의 영역, 즉 '추론과 연역'의 영역에서는 거의 최상의 인간 수준의 기능을 발휘한다.
그러나 결국 A 입장을 택할지, B 입장을 택할지 결정은 인간이 해야 한다. 이 때 중요한 것은 어느 입장을 택할지에 대한 인간의 안목과 가치관, 메타적인 차원에서의 판단력이다. 세부적인 논거를 만드는 도구적이고 기능적인 일은 이제 AI가 해줄 수 있게 되었다. 마치 계산기가 발명되어, 인간이 스스로 곱셈 나눗셈을 안 해도 복잡한 경제나 물리 문제의 과정을 위탁할 수 있는 것과 같다. 그러나 더 중요한 것, 삶의 가치관을 수립하고, 자기 정체성에 뿌리내린 의견을 가지고, 나아가 사회를 구축하고 변화시켜 나가는 '더 큰 이성'의 역할은 여전히 인간에게 맡겨져 있다.
내가 기후위기를 음모론이라 믿는다면, 알랑방귀 뀌기 좋아하는 AI에게 기후위기가 음모론인 증거를 5억 개 정도 모으고 그 논거를 만들어달라고 할 수 있다. 반대로, 지구 기후위기가 심긱하다고 믿는다면, 반대 논거를 만들어 달라고 할 수 있다. 중요한 건 그 가운데 어떤 걸 믿을지에 대한 판단력이다. 이 판단력은 삶 전체를 통해 쌓아온 수많은 삶의 경험들, 피부로 느끼는 것들, 수많은 증거들을 비교 판단하는 능력, 그를 통해 쌓아온 성찰 능력을 통해서만 만들어진다.
실무적이나 실용적인 영역에서도 마찬가지다. 카드뉴스를 만들든, 제품을 기획하고 설계하든, 보도자료를 쓰든 AI는 10개, 100개 안도 만들어낼 수 있다. 그 중에서 AI에게 '가장 괜찮은 거 딱 1개만 골라줘.'도 부탁할 수 있겠지만, AI가 내 삶과 커리어와 사업을 책임질 단 하나의 선택까지 완벽하게 해낼 순 없다. 일례로, AI가 시키는대로 주식, 코인 투자 했다가 처참하게 실패했다는 사례가 이미 보도되고 있다. 물론, 나도 인간인 이상 완벽한 판단은 할 수 없다. 중요한 건 내가 나의 맥락에서 한 선택이라면, 그 선택을 내 삶의 일부로 수용하면서, 끊임없이 미세조정하며 나아갈 수 있다는 점이다.
공자가 불혹이라고 하는 나이 마흔에 이르러, AI에게 '내 인생 가치관을 가장 멋지게 하나 만들어줘.'라고 할 수는 없는 노릇이다. 설령, AI가 만들어준다 하더라도 그에 따라서만 살아낼 수는 없다. 오히려 내 나이 마흔에는 지난 40년의 세월이 응축된 나에게만 맞는 가치관이 있다. 이 가치관은 40년의 세월동안 내가 살아온 삶 속에서 수많은 성찰과 콘텐츠와 인풋들이 융합되어 만들어진 '나만의 가치관'이다. 이 가치관에 따라 세상을 바라보는 모든 입장들도 하나씩 정하게 된다. 나의 욕망, 관계, 꿈, 행복 등까지 말이다. 이것을 AI에게 완전하 위탁할 수는 없다.
그러므로 AI가 다 해주니까, 인간은 이제 '프롬프트 딸깍' 말고 할 거 없지 않냐, 라는 것은 매우 단순한 생각이다. 오히려 인간이 그 이전까지는 가질 수 없었던 엄청난 도구, 이를테면, 처음 발명된 컴퓨터나 계산기 같은 게 생겼다고 생각해야 한다. 세상에는 이를 매우 잘 활용하는 사람과 그렇지 못한 사람으로 명백히 나뉘게 될 것이다. 당연히, 이를 잘 활용하는 사람은 '이성 너머의 이성' 즉 객관적이고 성찰적이며 메타적인 이성까지 길러낸 사람이 될 것이다. <AI, 글쓰기, 저작권>에서 쓴 이야기지만, 그것을 한 마디로 하면, '안목을 가진 인간'이 되는 것이다.
