AI가 무서운 진짜 이유
권력의 얼굴을 닮은 AI
AI가 칼이라면, 쥔 자는 누구인가.
< 경계 위의 AI, 선과 악 사이에서 >
AI 시대를 바라보는 시선은 두 극단 사이에서 진자처럼 흔들린다.
하나는 끝없는 낙관. 인간은 본래 선하며, 기술은 그 선의를 돕는 도구일 뿐이라는 믿음.
다른 하나는 회의와 불신. 인간은 본래 이기적이고 악하며, 기술은 결국 그 악을 더욱 정교하게 만들어낼 것이라는 경고.
이 두 관점은 단지 사상적 차이로만 끝나지 않는다. 우리가 어떤 미래를 상상하고 준비하는가의 뿌리로, 인간 존재를 어떻게 규정하느냐의 물음으로 이어진다.
성선설은 인간을 본래 순수한 상태로 가정한다.
사회가 그를 타락시키고, 구조가 그를 왜곡시킨다고 하더라도, 그 전제를 끝까지 밀어붙이면 인간은 기술을 순수하게 사용할 것이다. 하지만 과연 그런가? 우리는 이미 알고 있다. AI는 순수한 선의 산물이 아니라는 것을.
처음부터 인간의 이익을 극대화하고, 효율을 높이며, 통제력을 확보하기 위한 목적 아래 개발되었다.
그 배경엔 국가 간의 기술 패권 경쟁과 기업 간 시장 선점이라는 거대한 동력이 깔려 있었다.
사실 지금도 그 방향에서 크게 벗어나지 않는다.
만약 성선설이 절대적으로 지배했다면 AI는 전 인류의 공익을 위해 조용히 발전했을 것이다.
하지만 기술은 언제나 힘 있는 자들의 손에 먼저 들어가는 걸 보면 현실은 늘 회의적이다.
AI도 예외는 아니다. 우리는 시간이 지나면 지날수록 그것을 권력을 유지하는 형태나 사람을 통제하는 일에 쓰이는 것을 마치 스스로 선택한 듯, 자연스럽게 받아들이게 될지도 모른다.
그렇다고 성악설이 전부 맞다고 단정할 수도 없다.
남의 아픔에 공감하고, 자신의 것을 나누며, 어쩔 때는 누군가를 위해 스스로를 희생하기도 하는 것이 또 인간이다. 이처럼 인간은 때때로 놀라운 선의를 보인다.
그러나 그 선의는 주로 개인의 차원에서 나타나는 것을 볼 수 있다. 집단은 다르다. 집단은 책임을 분산시키고, 윤리를 흐리며, 익명성 뒤에 숨어버릴 수 있기 때문이다. 가장 순수했던 개인도 집단 속에서는 악에 가담한다. 역사가 증명해 왔다.
죄책감과 감정은 개인의 것이다. 집단은 판단하지 않고, 오직 결정하고, 실행할 뿐이다.
< 구조에서 시작된 악 >
그래서 개인은 선할 수 있지만, 집단은 언제든 쉽게 악해질 수 있다는 것이 내 의견이다.
힘이 모일수록 인간은 쉽게 물질과 권력의 유혹에 무너진다. 그래서 본인의 이익만을 좇는 정치인이나 사업가 개개인이 악하다고 단정하기보다는, 사실 그들이 놓인 구조 자체가 인간에게 끊임없는 타협과 왜곡을 요구한다.
위로 갈수록 순수하게 선하기 어려운 사회 구조. 그것이 문제다.
우리는 기후위기 속에서도 이를 확인하고 있다.
누구나 지구가 병들고 있음을 알지만 아무도 먼저 멈추지 않는다. 당장 집단이 아닌 개인에게만 서로서로 미루고 있는 것만 봐도 그렇다. 계속해서 책임이 분산되고, 그래서 누구도 이 거대한 위기를 실질적으로 감당하려 들지 않는다. 이처럼 기술이 모든 것을 해결해 줄 거라는 막연한 기대는 집단적 회피에 가깝다.
기휘위기를 AI가 해결하리라는 기대는 그것이 실제로 가능하다 해도 결국 인간이 책임을 회피하기 위해 내세우는 또 하나의 핑계에 불과하다.
기술이 자연을 회복시킬 수도 있겠지만, 기억해야 할 것은 지금의 파괴 또한 결국 인간의 기술이 초래한 결과라는 점이다.
결국 인간은 선과 악, 그 어느 한 편에도 정확히 고정되지 않는다. 그 사이를 유동적으로 오가면서 구조가 유동을 유도하고, 기술이 그 흐름을 가속화한다. 기술 자체는 윤리적이지 않다.
그것을 쥔 손이 어떤 목적을 품는가에 따라 윤리성이 결정된다. 그래서 문제는 기술이 아니라 인간이다.
그리고 그 인간이 누구인가 보다는 어떤 구조 안에 위치해 있는가가 더 본질적이다.
우리는 AI가 선하게 사용될 가능성도, 악하게 사용될 가능성도 모두 바라보고 있다.
하지만 지금까지의 현실을 보면 대부분의 기술은 위로 갈수록 더 위험하게 쓰인다.
딥페이크, 감시 기술, 조작된 여론, 유출된 정보들. 이 모든 것들은 인간의 이기심과 권력이 어떻게 기술을 자신에게 유리하게 사용하는지를 보여준다.
선은 결코 적지 않다. 다만, 힘 있는 자들 소수가 악하면 그 악에 대항하기가 어려워진다.
선의 상식으로는 감당되지 않을 만큼 조직적이고, 아주 교묘하기 때문이다.
기술은 위로 갈수록 권력을 섬긴다. 이윤과 통제를 위한 도구가 되어 선한 목적은 말단에 머무르고 만다.
그리고 그것은 인간의 본성이 악하다기보다 인간이 놓인 구조가 악을 유리하게 만든다는 점을 드러낸다.
< 특이점 이후 >
그렇다면 특이점이 온 미래는 디스토피아인가? 유토피아인가?
둘 다 아니다. 그리고 동시에 둘 다일 것이다. 지금처럼.
누군가에게 현실은 이미 지옥이고, 또 누군가에겐 낙원이다.
계급, 권력, 교육, 자본. 이 모든 요소는 기술 수용의 양극화를 만들고, 개개인에게 똑같은 영향을 미치지 않는다.
누군가는 AI와 함께 더욱 인간다운 삶을 누릴 것이고, 누군가는 AI로 인해 더욱 인간 이하의 취급을 받을 것이다. 이 말들이 지나치게 비관적이라고 생각할지도 모른다. 그러나 이는 미래가 아닌, 이미 현실에서 벌어지고 있는 일이다.
예컨대, 태블릿 PC가 교육의 기본 도구가 된 지금, 그것을 당연히 가진 이들은 당연히 갖지 못한 이들을 점점 더 이해하지 못하게 된다. 전제가 된 기술 속에서 소외된 이들은 점점 더 인간다운 삶의 기회에서 멀어지고 있는 것이나 마찬가지다.
이렇듯 미래는 모두에게 평등한 변화가 아니다. 지금의 불평등이 더 정교하고, 더 거대하게 증폭될 가능성 속에 놓여 있다.
그래서 우리는 인간의 본성을 단순히 낙관하거나 비관하는 것을 넘어, 냉정하게 직면해야 한다.
선한 인간도 무력해지고, 쉽게 타협하고, 자주 망각할 수 있다는 사실을.
그리고 그런 인간이 만들어갈 기술, 그런 인간이 움직이는 권력, 그런 인간이 짜는 사회 구조.
그것이 우리에게 진짜 위협인 것이다.
AI는 세상을 바꾸기보다 인간이 AI를 통해 무엇을 하느냐가 세상을 바꾼다.
그리고 그 변화는 인간이 어떤 존재인가를 묻는 질문에서 시작된다.
당신에서도 묻고 싶다.
당신은 선인가, 악인가. 아니면 그저 조건에 따라 움직이는 존재인가.
특이점 이후, AI가 인간을 앞서고 더는 우리가 통제할 수 없는 순간이 오더라도 진짜 위험은 기술이라기보다, 우리가 더이상 생각하기를 멈추고, 권력을 의심하지 않게 되는 그 순간이다.
그때 인간은 기술이 아닌 스스로 허락한 권력에 의해 또다시 지배당하게 되고 말 것이다.
그래서 우리는 계속해서 묻고, 의심하고, 스스로를 돌아보는 일을 소홀히 하지 말아야 한다.
그래야만 기술이 아니라 인간이 중심이 되는 미래를 설계할 수 있기 때문이다.
그리고 그것만이 이 세계를 인간이 살 수 있는 곳으로 만드는 유일한 방법일지도 모른다.
