'무엇을 할 수 있는지'에서 '어떻게 해야 하는지'로
AI 시대의 사회변동
AI poses unprecedented threats. Congress must act now | Bernie Sanders | The Guardian
AI가 무엇을 할 수 있다는 점이 문제가 아니라, 그것을 어떻게 볼 것인지 무엇보다 우리가 어떻게 할 것인지가 문제이다. 기술 발달은 불가피하지만, 기술결정론이나 기술만능주의는 곤란하다. 단순히 옳지 않아서가 아니라 이제는 인간으로서의 존재 또는 실존이라는 근본적 차원의 문제가 되었기 때문이다.
예를 들어, AI가 창작을 한다고 해서 인간이 창작을 못 하게 되는 것인가? 그런데 예술이라는 것의 본질을 생각해보면, 경영이라던가 교육 등 '기능' 본위로 판단할 수 있는 것인가(사실 교육의 본령을 생각해도 그렇고, 기능으로만 환원할 수 없는 인간 활동들은 많다)? 있다고 해도 그것만 가지고 '대체'한다고 생각해도 되는 것인가?
만약 그렇다면, 진즉에 컴퓨터의 연산 능력이 인간을 뛰어넘었고 논리력은 (산수가 아니라) 수학을 배우지 않고 다른 분야로도 키울 수 있는데 우리는 왜 수학을 구태여 열심히 하는가? (입시 문제는 논점 일탈이다. 설령 건전한 교육이라 해도, 결국 수학은 하는 것이 맞다.)
수학을 하는 이유는 수학을 해야 한다고 생각하기 때문이지 인간이 기계보다 수학을 잘 하기 때문이 아니다.
하물며 예술은? 예술은 어느 하나와 다른 하나를 견줄 수도 있고 그렇지 않을 수도 있고, 기능으로 볼 수도 있지만 그렇지 않게 볼 수도 있다. 어떤 사람들은 애초에 작품 세계의 근원이 다르면 평가를 할 수 없다고 보고, 의도적으로 예술에게 '기능성'을 강요하는 것 자체에 대해 즉 '쓸모 있음'에 대해 저항하기도 한다.
이러한 맥락에서 2025년 12월에 더 가디언에 버니 샌더스 미국 연방상원의원(버몬트주)이 게재한 사설을 직접 번역해 공유한다. ;
[인공지능과 로봇공학은 세계를 전환할 것이다. 이 전환은 우리의 경제, 정치, 전쟁, 감정적 건강, 환경, 양육과 교육에 이르기까지 상상할 수 없을 정도의 변화를 가져올 것이다. 나아가, 근미래에 초인공지능이 인간을 대체하고 지구를 통제할 수도 있겠다는 매우 실제적인 우려가 나타나고 있다.
이 이슈의 각별한 중요성과 기술 발전의 속도에도 불구하고, AI는 의회나 언론 그리고 일반사회에서 너무 적게 논의된다. 그것은 바뀌어야 한다. 지금 당장.
수개월 전에, 미국 연방상원 보건교육노동연금위원회 선임의원으로서, AI의 막대한 발전으로 인해 우리가 마주하게 될 기념비적 도전들에 관한 조사를 진행했다. 최근에 노벨물리학상 수상자이며 AI 관련 주제들에 대한 광범위한 시각들로 인해 AI의 ‘대부’로 여겨지는 제프리 힌턴(컴퓨터과학자)과 공석에서 논의하는 자리를 가졌다.
우리의 조사와 수집한 또 다른 자료들에 기반해서, 나와 보좌진은 AI가 과하는 몇몇 전례 없는 위협을 다루는 것을 어떻게 시작할지에 관한 매우 특별한 일련의 제안을 의회에 발표할 예정이다.
보고서에서 답변하고자 한 비상한 질문 중 몇 개를 소개한다. :
- AI 세계로의 전환에 대한 책임을 져야 할 사람은 누구인가? 현재, 지구에서 가장 부유한 몇몇의 사람들 – 일론 머스크, 제프 베이조스, 빌 게이츠, 마크 저커버그, 피터 틸 외 – 은 AI와 로봇공학을 개발하고 구현하기 위해 수십만 달러를 투자하고 있다. 이러한 막강한 인물들이 어떤 민주적 의사 표출이나 감시도 없이 인류의 미래를 형성하는 것이 괜찮은가? AI 혁명의 목적이 단지 부자를 더 부유하고 강하게 만들기 위함인가, 아니면 이 혁명적 기술이 인류 전체의 효용을 위해 활용될 것인가?
- 빅 테크 과점을 강력하게 지지하는 도널드 트럼프는 왜 주에서 인공지능을 규제하지 못하도록 하는 행정명령을 내리기를 원하는가? 억만장자 투자자이며 팔란티어의 공동 설립자인 틸은 왜 AI의 규제를 원하는 이들을 ‘적그리스도 군단’이라고 부르는가? 이 빅 테크 억만장자들의 엘리트 그룹은 그들이 ‘신성한 지배권’이라도 가졌다고 믿는 것인가? 정부 규제에 저항하기 위해 이들은 얼마나 멀리 가게 될 것인가?
- AI와 로봇공학이 우리 경제와 서민 가계의 삶에 미칠 영향은 어떠할 것인가? 내가 지난달에 낸 보고서가 조사한 바에 따르면 AI, 자동화와 로봇이 다음 10년간 미국에서 약 1억 개의 일자리를 대체할 것이며 여기에는 40%의 간호사, 47%의 트럭 기사, 64%의 회계사, 65%의 교육 인력, 89%의 패스트푸드 노동자가 포함된다.
- 머스크가 최근에 말하기를 ‘AI와 로봇이 모든 직업을 대체할 것이다. 일은 선택이 될 것이다.’라고 했다. 게이츠는 예측하기를 ‘인간은 대부분의 일들에서 필요하지 않게 될 것이다.’라고 했다. 앤트로픽의 CEO 다리오 아모데이는 경고하기를 AI로 인하여 모든 조직 내 하위 화이트칼라 인력의 반이 소멸할 수도 있다고 했다.
- 만약 AI와 로봇이 수백만 개의 일자리를 제거하고 대량 실업을 발생시키면, 만약 (일자리가 없고 따라서) 소득이 없을 경우 사람들은 어떻게 생존할 것인가? 그들은 어떻게 가족을 부양하거나 임대료나 건강보험료를 지급할 것인가? 이 잠재적 재앙에 대비해 정부가 어떤 준비라도 하고 있는가?
- AI는 우리의 민주주의에 어떤 영향을 미칠 것인가? 미국과 전 세계에서 민주주의의 기반이 공격받고 있는 시대에, AI와 로봇이 좀 더 자유로운 사회를 만드는 데 이바지할 것인가 아니면 기술을 통제하는 과두정을 더 강화할 것인가? AI가 우리의 사생활과 시민적 자유에 대한 거대한 침해라는 결과로 이어질 것인가?
- 지구상에서 2위의 부자인 래리 엘리슨은 ‘우리가 지속적으로 모든 것들이 이루어지는 과정을 기록하고 보고할 것이어서 시민들이 모두 완벽하게 행동할’ AI 감시 국가를 예측했다. 우리는 우리가 보낸 모든 통화, 이메일, 문자 그리고 우리의 모든 인터넷 검색 기록을 AI 소유자가 이용할 수 있는 수준에 닿아가고 있는가? 그러한 조건들에서 우리가 어떻게 민주주의를 유지할 수 있는가? 우리는 어떻게 사생활을 보호할 수 있는가?
- AI가 인간이란 무엇인지에 관해 말 그대로 재정의할 수 있을까? 우리가 누구인지, 우리가 감성적으로나 지성적으로 어떻게 발달하는지는 부모, 가족, 교사, 연인, 친구 그리고 동료 등 다른 인간들과의 관계에 높은 수준으로 달려 있다. 17세기 시인 존 던을 인용하자면 ; “어떤 사람도 섬이 아니다 / 그 자체로만 이루어진.” 우리가 상호작용하는 인간들이 우리가 어떤 사람이 될 것인지의 형성에 기여한다.
하지만 AI는 이를 바꾸고 있다. 커먼 센스 미디어가 최근에 진행한 여론조사에 따르면, 72%의 미국 10대는 친구를 대신해 AI를 사용해 본 적이 있다고 답했고, 그중 절반은 정기적으로 사용한다고 한다. 청년들에게 AI와 ‘우정’을 형성한다는 것은 어떤 의미인가? 수백만 명이 기계로부터 감정적 지지를 받을 때 어떤 일이 생기는가? 우리의 가장 중요한 관계들이 다른 인간들과의 관계가 아닐 때 이것이 장기적 관점에서 우리의 인간성에 어떤 영향을 미칠 것인가?
- AI는 환경에 어떤 영향을 미치는가? AI 데이터센터들은 막대한 양의 전기와 물을 요한다. 상대적으로 작은 AI 데이터센터는 8만 가구보다 더 많은 전기를 소비할 수 있다. 텍사스주 애빌린시에 오픈AI와 오라클이 1,650억 달러를 들여 건설 중인 것과 같은 큰 데이터센터는 75만 가구가 쓰는 것만큼의 전기를 쓰게 될 것이다. 메타는 맨해튼 정도 크기의 데이터센터를 루이지애나주에 건설하고 있는데 이것은 120만 가구가 쓰는 만큼의 전기를 소비하게 된다.
- 매 지역공동체에서 미국인들은 세계에서 가장 큰 몇몇 기업들이 건설하고 있는 데이터센터에 맞서 싸우고 있다. 그들은 지역 환경의 파괴, 전기료의 급격한 인상, 그리고 희소한 상수원의 별도 사용을 반대하고 있다. 국가적으로, 계속되는 AI 데이터센터 건설이 우리 환경에 미치는 영향은 어떠할 것인가?
- AI와 로봇이 외교정책과 전쟁에 미치는 영향은 어떠할까? 비극적이게도, 21세기의 한가운데에서(도), 정부들은 국제 또는 국내 분쟁을 무력 갈등 없이 해결하기 위한 메커니즘을 아직 만들지 못했다. 그럼에도 불구하고, 정부 지도자들은 보통 개전을 주저하는데 이는 인명의 상실에 대한 공론을 두려워하기 때문이다. 수많은 젊은이나 민간인들을 전쟁에서 죽게 하는 것은 어느 정부에게나 정치적으로 좋은 일이 못 된다.
만약 수백만의 로봇 군인들이 인간 군인들을 대체하게 된다면 그 미래는 어떠할까? 인명 손실을 걱정할 필요가 없다면, 지도자들이 더 전쟁에 참여하거나 군사 행동의 위협을 가하게 될까? 로봇을 둔 군비 경쟁이 있게 될까? 그것이 전 전세계의 외교정책을 어떻게 형성하게 될까?
- AI가 인류의 지구 통제에 대한 실존적 위협일까? 우리 중 몇몇은 1960년대의 SF 명작 영화인 <2001 : 스페이스 오디세이>에서 초지능 컴퓨터인 HAL이 우주선을 통제하고 인간 주인들에게 반란을 일으켰던 것을 기억한다. 오늘날, AI가 거대한 진보를 이룸에 따라 힌튼 박사는 내게 AI가 인간보다 더 똑똑해지는 것은 시간의 문제일 뿐이라고 말했다. 그것이 지구를 통제하는 인간들의 능력의 상실 가능성을 증가시키는가? 그 비상한 위협을 우리는 어떻게 멈출 것인가?
이 질문들은 AI와 로봇의 대규모 진보에 따라 답해야 할 질문 중 단지 약간일 뿐이다.
AI와 로봇공학은 사회에 전례 없는 변동을 가져오게 될 혁명적 기술들이다. 이러한 변화들이 긍정적이며 보통의 미국인의 삶을 향상할 것인가? 아니면 재앙적일 것인가? 의회는 지금 행동해야만 한다.]
