기술이 스스로가 만들어 낸 문제를 해결하려 할 때
https://youtu.be/OAaChcb2QZQ?si=cnnQ3QK7pnqnnIwP
AI 시대에 관한 전망 중 가장 암울한 전망을 꼽자면, 1%만이 살아남는 세계가 도래할 것이라는 전망이다. 범용 AI가 에이전트 AI로, 도메인에 특화된 AI로 마구 영역을 확장하고 있는 상황에서 실제로 AI가 대체할 수 없는 어떤 실력을 가지는 것 또는 다른 사람보다 AI를 더 잘 활용하는 사람이 되는 것 외에는 답이 없다는 전망은 대다수의 사람들에게 암울함을 준다. 대다수의 사람들은 그러면 '기본소득'을 받으면 되는 것 아니겠는가 하는 생각도 들지만, 과연 우리 사회가 순순히 그런 사회로 이어져 갈 것인가 하는 점을 곰곰이 생각해 보면 부정적으로 답을 하게 된다.
애초에 살아남은 1%의 양보를 기다려야 하는 사회, AI와 기술역량, 기술윤리를 독차지한 사람들의 어떠한 '호의'에 기대야만 하는 사회로 나아가고 있다는 전망과 '기본소득'을 받으며 '유희하는 인간'으로 있으면 된다는 전망이 어떻게 같이 갈 수 있는지 그 접점을 찾기가 쉽지 않다.
기술 발전의 과정, 특히 산업화의 과정에서 발생하는 자연 파괴의 문제나 여러 인간 소외의 문제, 기술 발전으로 인한 대량 살상의 문제와 같은 다양한 문제들에 대해서 결국은 기술의 발전이 그 해결책이라고 주장하는 사람들이 많다. 단순히 플라스틱 빨대를 종이 빨대로 대체하는 정도의 수준에서, 화석연료를 대체하는 '친환경 발전기술'에 대한 투자까지. 기술은 어느새 스스로 만들어낸 문제를 스스로 해결하려고 한다.
이는 과거에는 어떠한 기술을 설계한 사람과 제작하는 사람이 동일했던 것에 비해, 현대기술은 준비와 실행의 단계가 구분되어 설계에 별도의 의미가 부여됨으로써 세분화된 기술들 사이에, 그리고 기술을 설계하는 자와 설계도를 토대로 생산하는 자들 사이에도 어떠한 비대칭성이 발생했기 때문에 더 가속화되는 현상이다. 그리고 기술을 이용할 수 있는 자본가와 기술에 의하여 대체되는 노동자, 기술에 더 적응한 노동자와 그렇지 않은 노동자 사이의 비대칭성은 더 깊어진다.
그리고 현대기술은 그 자체로 어떠한 윤리적인 함의를 가져온다. 윤리가 기술을 만들어내는 사례보다 기술이 윤리를 만들어낸 사례를 찾아보기가 훨씬 더 쉽다. 인공수정과 인공장기의 문제는 어떠한가? 사회가 고도화되고 결혼연령이 점점 더 늦어지는 문제를 해결하기 위해 등장한 인공수정은, 조금 더 나아가서는 대리모의 가능성 또는 정자은행의 가능성으로 이어지며 전통적인 성윤리와 가족 구성에 균열을 가한다. 이처럼 기술은 독립적 지위를 갖게 되고, 다른 영역에 깊은 영향을 미치며, 인간의 활동과 여러 사물들은 시스템과 통제 아래로(우리가 임신 시기와 방법을 통제하는 것처럼), 즉 도구성의 요구 아래로 들어가게 하고, 분업과 전문화로 인해 인간의 소외와 강등이 이루어지게 된다.
C. S. 루이스는 <<인간 폐지>>에서 인간이 '자연(nature)'을 넘어서는 힘을 기술로부터 가져올 수 있는지에 대해서 이야기한다. 그에게 있어서 자연에 대한 인간의 힘, 즉 어떤 종류의 '통제력'이라는 것은 사실은 어떤 인간들이 자연을 도구 삼아 '다른 인간들에게 행사하는 힘'이다. 물론 "원료나 공장들에 대한 공적 소유나 과학 연구에 대한 공적 제어 등을 통해 사태가 완화될 수도 있다." 그러나 "그 힘은 여전히 한 나라가 다른 나라들에게 행사하는 힘"을 의미할 뿐이다. 특히 피임이나 인공수정, 비혼출산과 같은 기술의 경우, 우리가 해당 기술을 사용할 때, 우리는 "앞선 세대가 이후 세대에게 행사하는 힘"을 행사하고 있는 것이다.
그래서 "어떤 과학적 계획자들이 꿈꾸는 바대로 실현될 경우, 인간의 자연 정복이란 실상 수백 명의 인간이 이루 헤아릴 수 없는 무수한 인간에게 행사하는 지배력을 의미"한다. 인간 전체의 힘은 단순히 점진적으로 증가하는 것이라고 볼 수 없다. "인간이 갖는 모든 새로운 힘이란 또한 인간에 대해 행사하는 힘이기 때문"이다. "각각의 승리마다 인간은 개선행진을 하는 장군이자 그 행진을 따르는 포로"이기도 한 것이다. 결국 '인간 본성(Human nature)'이 바로 인간에게 항복하는 자연의 마지막 부분이 될 것이다. 과연 이 전쟁의 진정한 승리자는 누구인가?
루이스는 예언자적으로 말한다. "새로운 세대의 그 인간 제작자들은 전능한 국가와 저항할 수 없는 기술의 힘으로 무장되어 있을 것입니다. 마침내 우리는 정말로 모든 후손을 자신들이 원하는 모습대로 만들어 낼 수 있는 조작자들(conditioners)을 갖게 되는 것입니다." 그러나 더 중요한 것은 인간의 '가치' 판단마저 조작자들의 조작의 대상이 된다는 점이다. "그들은 어떻게 양심을 만들어 내는지 알고 있으며, 어떤 종류의 양심을 만들어 낼 것인지 스스로 결정"한다. 조작자들의 정신 속에는 한동안 옛 '자연적' 도덕이 남아 있을 것이다. 마치 Open AI를 만들었던 초창기 멤버들을 위시한 실리콘벨리의 여러 인물들이 가지고 있는 '효율적 이타주의' 사상이 바로 그런 사상에 해당한다.
'효율적 이타주의'란 냉철한 이성으로 타인을 이롭게 하는 방법을 찾자는 사상으로서, 감정적인 동기에서 우러나오는 윤리가 아닌 과학과 데이터를 기반으로 인류 행복의 종합을 끌어올리자는 공리주의에 뿌리를 둔 사상이다. 관련하여 샘 올트먼 자신이 "범용 인공지능(AGI)을 만들어 전 세계 부의 상당 부분을 획득한 뒤 이를 사람들에게 재분배하는 것"을 자신의 목표로 제시하기도 하였다는 점이 흥미롭다. 대체 그에게 그렇게 할 동기란 무엇인가? 무엇이 그들로 하여금 그 부를 나누어 가지도록(현실적으로, 초장기적이 아니라 단기적, 중기적인 미래를 포함하여) 할 것인가? 이미 AI 전쟁은 안보 전쟁이고, 누구든 그만두자고 이야기할 수 있는 단계가 아닌 상황이다. 그 과정에서 부를 나눈다는 그의 꿈이 현실화될 시간은 결국은 오지 않을 가능성이 매우 높다. 그는 현재도 메타(Meta)의 연봉을 앞세운 무차별적인 인재 영입 앞에서 회사의 존립을 고민하고 있을 것이기 때문이다. 오히려 최근에 발표되었던 미래보고서인 AI 2027에서 전망하고 있듯이, 미중간 경쟁이라는 물살을 타고 자기 자신을 개발하는 AI가 등장해 인간의 힘을 결국에는 모두 기술에게 빼앗기는 순간이 오는 게 더 현실적이어 보인다.
루이스는 "그들(조작자들)은 나쁜 사람인 것이 아닙니다. 그들은 아예 사람이 아닙니다. '도' 바깥으로 나갈 때 그들은 허공 속으로 들어간 것입니다. 그들의 지배를 받는 이들이 꼭 불행한 사람인 것은 아닙니다. 그들은 아예 사람이 아닙니다. 그것은 제품일 뿐입니다. 이렇게 인간의 최종 정복은 결국 인간의 폐지(abolition of Man)를 의미합니다"라고 진단한다. 그의 앞선 예언자적 진단이 점점 현실로 다가오고 있는 상태에서, 우리가 결국에 그 인간의 폐지를 보게 될 것인지에 대해서 고민하지 않을 수 없다. 그리고 답은 '우리'가 어떤 '선'에 이끌려서 기술이 개발될 수 있는가, 진정으로 그럴 수 있는가에 달려 있다. 그리고 '공학자들'과 '법률가들'에게 요구되는 윤리가 그저 허울뿐인 논의가 아니라는 점도 충분히 강조되어야 할 것이다.
앞으로 과연 어떠한 방안이 있을지, 기술철학의 공간에서 그 해답에 대해서 이야기해 볼 수 있을지 더 고민해 볼 일이다.