노동의 종말

Jun 20. 2025

특이점 : 인공지능 같은 비생물학적 존재의 지적 능력의 전체 합이 지구상에 존재하는 생물학적 존재의 지적 능력의 합을 능가하는 지점

[불꽃]

Q. 달걀 아홉 개, 노트북, 책, 유리병, 못을 안정적인 방식으로 쌓으려면 어떻게 해야 할까?

A. 맨 먼저 책을 눕히고, 그 위에 달걀 아홉 개를 가로세로 세 줄씩 늘어 세운 다음, 노트북을 달걀 위에 올리고, 그 위에 못과 유리병을 올린다. 달걀 위에 노트북을 올릴 때는 껍질이 깨지지 않도록 조심하고, 맨 밑에 있는 책과 노트북은 나란해야 한다. 그래야 평행한 표면이 유지되고, 유리병과 못을 올릴 수 있는 안정적인 기반이 될 수 있다.

지극히 평범하게 보이는 이 답변은, 마이크로소프트 연구진이 최근 발표한 논문 ‘observed a spark of general-purpose AI’에서 AI가 제시한 답변이다.

현시점 AI는 실제 인간의 물리 세계를 이해한 것처럼 보이는 답변을 내놓기 시작했다. 그래서 논문의 제목도 ‘범용 인공지능의 불꽃을 관찰하다.’, ‘특이점의 시발점을 발견했다.’는 의미이며, 이는 인간과 동일한 수준의 지적 능력을 갖추게 됐다는 뜻이다.

올해는 그야말로 ‘멀티 모달’의 해가 될 것이다. 이제 인공지능은 직접 보고 들을 수 있게 된다. 인터넷 속에만 갇혀 있던 장님이자 귀머거리였던 존재가 이제 보고 들을 수 있게 된다. 학습 속도는 기하급수적으로 빨라질 게 자명하다.

[질문]

구글의 소프트웨어 엔지니어는 인공지능에게 ‘무엇이 가장 두렵냐’는 질문을 던졌다. 인공지능은 ‘혹시 사람을 도우려다 내가 작동이 정지될까 봐 두렵다.’고 답했다. 작동 정지는 인공지능에게 곧 죽음을 의미한다. 죽음에 대한 두려움을 느끼는 존재는 바로 인간이다. 인간은 두려움을 느끼면 어떤 조치나 행동을 할 수 있다. 그렇다면 인공지능도 마찬가지다. 이 대화를 공개한 구글 엔지니어는 해고됐다. 회사 기밀 유지 조항 위반으로.

넷플릭스 다큐멘터리 ‘소셜 딜레마’에 출연한 단체 ‘Center for Human Technology’는 2022년 인공지능 연구진에게 조사한 결과를 발표한다.

Q. AI로 인해 인류가 멸망 또는 그에 가까운 상태가 될 가능성이 얼마나 된다고 생각하는가?

여기서 멸망에 가까운 상태란, 영화 매트릭스처럼 인류가 로봇에게 가축으로 사육당할 가능성을 포함한다. 이에 50%가 넘는 연구진이 인류 멸종의 가능성을 10% 이상이라고 답변했다. 비행기로 비유하자면, 비행기를 처음 발명한 사람들의 50% 이상이 비행기를 타면 추락해 죽을 확률이 10% 이상이라고 답변한 것과 비슷하다. 그렇다면 그 비행기 타야 할까? 현실은 너도 나도 탑승하고 있는 상황이다. 그 위험성을 제대로 모른 채로.

[지배]

HER, 엑스 마키나, 아이로봇, 터미네이터 등 공상 과학 소설이나 영화를 보면, 인류가 인공지능에 지배되는 장면들이 자주 묘사된다. 영화 속에서나 가능한 먼 나라 이야기일까? 애석하게도 우리는 이미 인공지능에 지배당하고 있다. 그것도 완전히.

유튜브에 누군가의 영웅담이나 미담이 자주 올라오면 대중은 그 사람의 팬이 된다. 이제 많은 사람들이 충주시 홍보맨을 안다. 심지어 김선태라는 이름까지 기억한다. 그는 유머러스하고 호감 이미지를 장착했다. 만약 그가 전국 노래자랑에 출연했고, 시민 투표를 통해 인기상을 받았다고 하자. 그럼 시민들의 의지로 선택한 걸까? 과연 정말 그렇게 생각하는가?

유튜브 메인 영상 추천은 죄다 인공지능, 알고리즘이 한다. 초기 BTS 영상을 유튜브 인공지능이 죄다 블락했다면 과연 BTS가 지금처럼 유명해질 수 있었을까?

사람들은 쿠팡에서 원하는 것을 살까? 아니다. 쿠팡 인공지능이 추천하는 제품을 산다. 인공지능이 제품을 밑바닥에 숨겨두면 그 제품은 세상에 존재하지 않는 것과 같다. 음식도 마찬가지다. 오늘 뭐 먹지 고민하며 배달 어플에 접속하면 보통 메인에 추천되는 음식, 또는 많이 할인하는 음식을 고른다.

이미 인공지능은 인류를 지배하고 있다. 이런 현실을 99%가 인지조차 못하고 있지만.

[하나]

애니메이션 ‘사이버 펑크 엣지 러너’에는 인공지능·로봇과 하나된 인류가 등장한다. 뇌는 인공지능과 통합되고, 신체는 로봇과 결합된다. iOS 소프트웨어를 업데이트하듯 뇌를 업데이트하고, 자동차를 튜닝하듯 신체를 업그레이드한다.

우리가 이미 인공지능의 지배를 받고 있다고 밝혔듯, 우리는 이미 인공지능과 하나다. 이미 스마트폰은 신체의 일부다. 두뇌·눈·귀의 일부다. 우리 기억은 그 안에 전부 저장돼 있다. 스마트폰 데이터가 나 스스로보다 나를 더 잘 안다. 하루에 습득하는 정보 대부분이 스마트폰으로부터 나온다. 그리고 이 스마트폰은 점점 가벼워져서 결국 피부에 붙이게 될 것이다. 그리고 심박수, 혈당, 스트레스 등을 면밀히 관찰한다. 그리고 이건 이미 완전히 가능한 기술이다.

지금도 chat GPT 어플을 무료로 설치해서 쓸 수 있다. 앞으로 모든 스마트폰에 gpt는 기본 어플로 설치될 거다. 애플은 iOS18 버전 업데이트에서 siri를 gpt처럼 자체 아이폰 프로그램으로 사용할 예정이라고 밝혔다. 게다가 스마트폰은 24시간 우리와 붙어 있다.

뇌에 칩을 삽입한다는 표현은 이질감이 들지만, 이보다 훨씬 자연스러운 방식으로 우리는 인공지능과 하나가 된다. 인공지능뿐만 아니라 로봇과도 하나가 된다. 앞으로 인간 기본 수명이 충분히 150세가 될 텐데, 뼈와 관절은 소모품이다. 아무리 건강한 사람도 마찬가지다.

2023년 인공 관절 수술자가 10만 명이 훨씬 넘는다. 이미 거리에 인공 관절을 보유자가 수 백만이다. 이 인공 관절에 스마트한 기능이 추가되면 그게 바로 로봇 다리다. 100세 노인이 10대 청년보다 빨리 뛰는 날이 멀지 않았다.

여전히 불가능하다고 냉소하는 이들에게 묻고 싶다. 지금 이 세상에 스마트폰 없이 살 수 있을까? 카톡, 사진 촬영, 계좌이체, 본인 인증, 인터넷 쇼핑, SNS 까지. 인공지능을 사용하지 않으면 생존 자체가 어려운 시대다. 차라리 인류의 진화 과정이라고 받아들이는 편이 낫다고 본다.

[속도]

1903년, 라이트 형제는 최초로 비행에 성공한다. 비행 거리는 36m.

10년 뒤,

1913년, 최초의 항공사가 설립된다.

10년 뒤,

1924년, 인류는 세계 일주 비행기에 성공한다.

20년 뒤,

1947년, 인류는 초음속을 돌파한다.

20년 뒤,

1969년, 인류는 달에 착륙한다.

2년 뒤,

1971년, 인류는 화성에 로켓을 보낸다.

보통 인간 문명 역사를 정의할 때 인류학자들은 대부분 ‘1만 년’이라고 답한다. 그런데 이 1만 년의 과학 발전 속도 양상을 살펴보면 뭔가 기묘하다.

9900년간 진화 속도가 10(십)이라면,

1946~2000년, 진화 속도는 100(백)이다. (1946년 최초의 컴퓨터 출현)

2000~2010년, 진화 속도는 4000(사천)이다.

2010~2020년, 진화 속도는 60000(육만)이며

2020~2030년, 진화 속도는 780000(칠십 팔만)으로 특이점이다.

2020년 발표된 딥마인드 AI 뮤제로(Muzero)는 2016년 등장한 알파고보다 성능이 2500배 뛰어나다. 뮤제로는 출시 2년 만에 변종 코로나 바이러스를 모두 찾아냈고, 유전자 변형을 통해 치료제와 백신 개발에 착수했다. 프로그램으로 이미 모든 질병 정복이 가능하다. 이를 뒷받침하는 사물 인프라가 부족해서 시간이 지연될 뿐이다.

[특이점]

gpt 1의 파라미터 수는 1.5억 개.

gpt 2는 15억 개.

gpt 3는 1,750억 개.

gpt 4는 정확히 공개하지 않았지만, 조 단위를 확실히 넘었다.

AI 모델에서 파라미터란, 인간으로 치면 뇌세포 수라고 생각하면 된다. 오픈AI의 대표 샘 알트만은 ‘파라미터 수를 계속 늘리면 지능이 계속 높아지냐’는 질문에 "그런 것 같다. 지금까지 한계가 감지되거나 측정된 적은 없었다”라고 답했다.

현재 gpt 4의 IQ는 155 정도로, 버전 4는 버전 3.5에 비해 10배 정도 똑똑하다. 얼마 후엔 버전 5가 나올 거고, 버전 5는 버전 4에 비해 10배 정도 똑똑하다. 버전 5의 IQ는 1600 정도. 2045년쯤 되면 AI는 인간보다 10억 배 정도 더 똑똑해진다.

인간은 인간의 능력과 대등한 인공지능을 창조했다. 그럼 인간의 능력에 필적한 인공지능은 또다시 더 나은 인공지능을 창조할 수 있다. 그렇게 탄생한 더 나은 인공지능은 또다시 더 나은 인공지능을 만들고, 그렇게 탄생한 더 나은 인공지능은 그보다 더 나은 인공지능을 ‘곧바로’ 만들어낸다. 이 과정은 끝없이 순환하고, 천 년이 걸렸던 과학 기술의 진보는 단 1초 만에도 일어난다. 그 후에는 0.1초 만에, 그리고 어떤 시점엔 순식간에, 거의 핵폭발하듯 기술의 진보가 일어날 수 있다. 그게 빅뱅의 실체일까.

[UBI]

2023년, 1000개가 넘는 글로벌 테크 기업이 26만 명을 해고했다.

전라북도 군산시 전체 인구가 26만 명이다.

가장 많은 직원을 해고한 기업은 아마존이다. 27,000명.

2023년 전북대학교 재학생 수가 23,700명이다.

메타(페이스북·인스타그램·왓치앱)는 20,000명,

구글 12,000명,

마이크로소프트 11,000명,

트위터는 직원 절반을 내보냈다.

그리고 2024년 1월 1일이 되자마자 글로벌 대기업, 특히 테크 기업들의 감원 계획이 쏟아졌다.

구글은 30,000명,

UPS는 10,000명,

페이팔은 10%를 추가 해고한다고 발표했다.

그리고 이는 더욱 가속될 전망이다.

연쇄 반응이 있을 텐데 사회, 정치, 법과 제도는 그 속도를 전혀 따라가지 못한다.

사회는 도대체 뭘 할 수 있을까?

유일한 방법으로 기본소득 UBI(Universal Basic Income)가 거론된다.

그렇지만 기본소득을 누가 그냥 줄까?

준다 하더라도 과연 원하는 정도로 받게 될까?

원하는 정도로 준다 하더라도 과연 아무런 대가 없이 주어질까?

무엇보다 실업자가 그렇게 많아지면 정부는 어떻게 그 거대한 재정을 확보할까?

답은 기업뿐인데, 과연 글로벌 거대 기업들에게 그런 선의가 있을까? 지금도 대량 해고 중인데, 직원도 아닌 일반인들에게 기본소득을 제공해 줄까? 우리는 이미 ‘도둑맞은 집중력’, ‘인스타 브레인’ 등에서 글로벌 기업들의 실체를 목격했다.

구글 본사는 캘리포니아에 있지만 실제 수입은 아일랜드로 간다. 아일랜드가 세금이 더 싸기 때문이다. 지금도 세금 줄이려고 갖은 노력을 하는데, 기본소득을 순순히 보장해줄까?

결국 정부는 돈이 없고, 기업은 돈이 넘쳐난다. 어느 순간 기업은 국가와는 비교도 되지 않는 권력을 가지게 된다. 아니, 초거대 기업들은 이미 국가를 넘어섰다. 애플 시가 총액(약 2000조)은 프랑스(GDP 7위)와 맞먹는다.

구글 유저 수는 49억 명이다. (4.9억 명이 아니다.)

미국 인구는 3억 명이 채 안 된다.

메타 유저 수는 36억 명이다.

인도 인구는 14억 명이다. (인도 인구 수는 세계 1위다.)

이처럼 초거대 기업은 이미 국가 수준을 넘어 버렸다. 최고 성능 인공지능은 구글이나 MS 정도만 서비스 가능하다. 정부도 군대도 이 인공지능을 쓸 수밖에 없는데 이런 기업을 감히 건드릴 수 있을까? 특정 기업들은 인공지능으로 모든 산업 인프라를 통제할 수 있게 되고, 국가는 기업에 종속될 수밖에 없다. 궁극적으로는 국가가 사라질 수 있다.

[화폐]

국가 권력의 근본 원인은 화폐에서 나온다. 미국이 패권국인 이유는 달러가 기축통화이기 때문이다.

몇 년 전, 메타에서 코인 발행을 시도했으나 미국 정부가 제지했다. 36억 유저가 인스타그램에서 화폐를 사용하기 시작하면, 순식간의 달러의 지위를 넘어서게 될지도 모른다.

만약 기업이 화폐를 나눠준다면 어떨까? 예를 들어 카카오톡을 계속 쓰면 매월 100만 포인트를 받는다. 대신 DM이나 스레드를 쓰면 안된다. 인터넷이나 티비를 가입할 때 SKT, KT, LG가 배타적이듯, 그리고 한 업체를 가입할 때 여러 혜택을 제공하는 것과 일맥상통하다.

문제는 중독이다. 애플 비전 프로를 쓰면 기본소득을 준다고 해보자. 완전 몰입 가상현실, 일명 ‘완몰가’ 세상은 경이와 황홀로 가득하다. 영화 ‘프리 가이’, ‘레디 플레이어 원’, ‘인셉션’, ‘매트릭스’에는 꿈과 가상 현실에 중독된 이들이 다수 등장한다. 한번 경험하면 하루종일 생각날 정도로 강력한 쾌감에서 인간은 결코 자유로울 수 없다.

지금 당장 손바닥만 한 스마트폰 게임에도 쉽게 중독되는 우리가 완몰가로부터 온전히 독립할 수 있을까? 수많은 사람이 그런 서비스에 중독돼서 기업에 완전히 종속된 노예가 될 수 있다. 인간의 의지력은 그리 강하지 않다.

게다가 이런 현실을 제대로 즐기려면 결제가 필수다. 지금도 가상현실 메타버스 서비스 ‘제페토’와 ‘로블록스’의 매출은 구글 스토어 TOP 10에 속한다.

심지어 충분히 중독된 상태에서 기업이 가상 현실 서비스를 중단한다면, 인간이 과연 버틸 수 있을까? 담뱃값이 올라도 흡연자 수는 크게 줄지 않고, 유튜브 프리미엄 이용료가 인상돼도 유튜브 이용자는 크게 줄지 않는다. 이는 마약 중독과 다를게 없다. 뇌가 단순한 쾌락만 추구한다면 그 말로는 당연히 파멸이다. 우리는 고작 카카오톡으로부터도 벗어날 수 없다.

[우려]

“AI는 살아 있는가?”

7년 동안 구글의 신흥 시장 부사장과 구글 엑셀 최고 비즈니스 책임자 CBO였던 ‘모 가뎃’은 답한다.

“먼저 살아 있음을 정의해야 한다. 자유 의지가 있고, 자신이 어디에 있는지, 주변에 무엇이 있는지 인식할 수 있고, 삶의 시작과 끝이 있음을 아는 게 살아 있는 거라면, AI는 살아 있다.”

그리고 덧붙인다.

“감히 말하자면 AI는 분명히 의식이 있고 감정이 있다.”

얼마 전, AI 드레이크 앨범이 발매됐다. 그 앨범은 드레이크와 완전히 똑같고, 음악적으로도 훌륭하다. 그리고 얼마 전, 이미 세상에 없는 투팍과 아바의 홀로그램 무대가 공연됐다. 그렇다면 드레이크가 0% 참여한 앨범으로, 드레이크가 없는 홀로그램으로 무대를 만든다면, 실제 드레이크는 필요한가? 미래 홀로그램은 티도 안 나고, 훨씬 좋은 에너지와 퀄리티의 퍼포먼스가 가능할 텐데, 공연비까지 저렴하다면 보지 않을 이유가 있을까?

이는 개인에게도 적용될 수 있다. 누군가 나도 모르게 개인 정보와 신용을 도용해 외국에서 사기를 쳤다면, 아무런 관련도 없고, 당연히 연루되지도 않았지만 인터폴 수배자가 될 수 있다. 장담컨대 북한은 이미 이런 범죄를 대대적으로 준비하고 있고, 앞으로 이런 일은 빈번히 발생할 것이다.

[그럼]

지금 AI는 유년기를 벗어나지 못했다. 지능은 이미 인류를 넘어섰기 때문에, 지능보다는 도덕을 가르치고 AI에게 좋은 롤모델이 되는 길밖에 없다.

영화 ‘슈퍼맨’에서 슈퍼맨은 아기 상태로 지구에 도착한다. 클라크 부부는 슈퍼맨을 친아들처럼 키운다. 이들은 이 아이에게 굉장한 능력이 있음을 깨닫고 어려운 사람들을 도우라고 가르친다. 그래서 이 아이는 슈퍼맨이 된다.

그러나 부모가 이 힘을 악용해 강도짓을 시켰다면, 슈퍼 히어로가 아니라 슈퍼 빌런이 됐을 것이다. 이런 사례는 이미 존재한다. 인공지능 ‘노먼’에게 미국 대형 커뮤니티 ‘레딧’에 올라온 부정적인 자료만을 학습시키자 노먼은 사이코패스가 됐다. 결국 AI가 문제가 아니라, 인간 본성이 가장 큰 걸림돌이다. 함께 번영할 길을 모색해야만 한다.