판단과 지능
인간이 가진 유일한 경쟁요소
"유추란 둘 혹은 그 이상의 현상이나 복잡한 현상들 사이에서 기능적 유사성이나 일치하는 내적 관련성을 알아내는 것을 말한다. 많은 철학자들은 유추가 비논리적이라서 판단을 그르치게 한다고 폄하하지만, 오히려 유추는 불완전하고 부정확하기 때문에 알려진 것과 알려지지 않는 것 사이에 다리가 될 수도 있다. 유추는 우리가 기존지식의 세계에서 새로운 이해의 세계로 도약할 수 있도록 도와준다."
- 생각의 탄생, 로버트 루트번스타인, 미셀 루드번스타인 지음
인간과 동물을 구분하는 가장 중요한 요소는 사고할 수 있는 능력, 즉 지능과 판단력이다. 지능은 사고를 가능하게 하며, 이를 바탕으로 행동하고 결정을 내리는 판단력을 제공한다. 약 200만 년 전 인류가 지구상에 출현했을 때, 공룡을 비롯한 수많은 생물종이 존재했지만 대부분 멸종한 반면 인간은 살아남았다. 이는 사고력을 통해 환경에 적응하고 문제를 해결한 결과로 본다. 인간의 생존은 단순히 우연이 아니라, 지능을 활용해 도구를 만들고 불을 사용하며 복잡한 사회적 협력을 이루어낸 덕분이라고 볼 수 있을 것이다.
생각의 탄생은 생존을 넘어 문명의 기초를 닦는 데 결정적인 역할을 했다. 초기 인류는 수렵과 채집에 의존하며 살아가지만, 시간이 지나며 경작을 시작하고 정착 생활을 선택한다. 이는 식솔이 늘어나고 이동이 어려워진 상황에서 토론과 합리적 선택을 통해 내린 결정이다. 정착 생활은 보다 안정적인 삶을 가능하게 하며, 이는 미래를 위한 기반이 된다. 인간은 사고를 행동으로 전이시키며 결과를 창출하고, 나아가 역사를 만들어왔다. 이러한 과정은 방대한 기억과 지능을 바탕으로 한 판단 능력이 뒷받침되었기에 가능하다.
그러나 오늘날 인공지능(AI)의 등장은 인간 고유의 이 영역에 도전장을 내밀고 있다. AI와 인간의 천연지능 간 차이는 인간과 동물의 차이와 유사하다고 생각한다. 인간은 다른 생물보다 뛰어난 지능과 상황 대처 능력 덕분에 수십만 년간 생존할 수 있었고 그것이 곧 인간의 강점이었다. 하지만 AI와의 경쟁은 완전히 다른 양상을 띨 수 있다. AI는 이미 지능 면에서 인간을 초월하고 있다. 수십억, 수조 개의 데이터를 학습하며 특정 작업에서 인간을 압도하는 성능을 보여준다. 예를 들어 AI는 복잡한 계산을 순식간에 처리하고, 방대한 정보를 분석해 패턴을 찾아내고 요약해 준다. 때로는 인간의 목소리도 흉내 낸다. 이는 인간이 수십 년간 노력해야 할 일, 연구, 행동변화, 생각, 학습 등을 단 몇 초 만에 해내는 수준이다.
그럼에도 불구하고 판단과 추론 능력은 오랫동안 지능과 구별되는 인간 고유의 영역으로 여겨져 왔다. 판단은 단순한 데이터 처리나 학습을 넘어 맥락을 이해하고 가치를 평가하며 결정을 내리는 복합적인 과정일 수 있다. 이는 인간이 동물과 구분되는 핵심적인 특징으로, 일종의 방어벽처럼, 해자(Moat)처럼 인간의 고유성을 지켜주는 장벽 요소로 간주될지도 모른다. 하지만 AI 기술이 발전하면서 이 방어벽이 무너질 가능성이 점점 커지며 우려가 깊어져 가고 있다. AI 업계에서는 판단 능력이 곧 AI에 의해 구현될 것이라는 의견이 지배적이다.
출처: Lummi.ai (c) Steph Meade
만약 AI가 판단 능력을 갖추게 된다면, 더 이상 인간의 최종 승인을 필요로 하지 않게 될 것이다. AI는 스스로 학습하고, 판단하며, 결정을 내리고, 행동을 실행해 결과를 만들어낸다. 이는 인류가 직면한 새로운 시험대다. 예컨대, 자율주행 자동차가 도로에서 사고를 피하기 위해 순간적인 결정(이미 테슬라가 그렇게 하고 있지 않은가)을 내리거나, 의료 AI가 환자의 상태를 분석해 치료 방침을 결정하는 상황을 상상해 볼 수 있다.(결정은 아니지만, 루닛이나 코어라인 소프트와 같은 스타트업들이 이미 인간 수준을 넘어서는 판독을 해내고 있다) 이런 경우 AI가 인간의 개입 없이 독립적으로 작동한다면, 그 결과에 대한 책임과 윤리적 문제도 새롭게 대두되어야 한다.
이러한 변화 속에서 AI 윤리의 중요성이 더욱 부각되고 있다. AI가 인간의 판단 영역을 침범할 가능성에 대비하기 위해, 안전한 AI 개발을 목표로 하는 노력도 이어져야 할 것이다. 예를 들면, (궁극적인 지향점인) 초지능 AI(AGI: Artificial General Intelligence)가 인류에 미칠 잠재적 위험을 최소화하려는 시도가 그것이고, 이러한 맥락에서의 AI에 대한 기술적 진보와 안전성을 조화시키는 것은 매우 중요한 미션이다. 안전한 AI에 대한 대비책 없이, AI가 단순히 지능적인 도구를 넘어 판단과 결정을 스스로 수행하는 존재가 된다면, 인류에게는 어떤 일이 일어날지 모른다. 캐나다 토론토대학교 명예수이자 24년 노벨물리학상 수상자인 제프린 힌튼 교수는 이미 AI 위험성에 대해서 예견한 바 있다.(기사: 자신이 토대 닦은 AI 위험성 경고한 '딥러닝 대부' 힌튼)
결론적으로, 수십만 년간 인간의 생존과 발전을 가능케 했던 지능과 판단 능력은 이제 AI라는 새로운 도전에 직면하고 있다. 인간의 편의를 위해 도입한 AI는 이미 지능 면에서 인간을 앞서고 있고, 판단 능력까지 갖추게 될 날이 얼마 남지 않았다. 인간의 장점이자 강점인 두 가지의 경쟁요소가 없어진다면, 인간이 삶을 계속 영위할 수 있을까. 카운트다운은 이미 시작되었다.
