AI 특이점을 항해하는 인간을 위한 안내서

클로드 AI 에이전트 스터디를 마치고 쓴 #아침단상

지난 주말, 프리랜서 에디터 공동체 안티에그에서 클로드ai로 ai에이전트를 만드는 스터디를 했다.

나는 이미 2년 전부터 ai사용을 했고, 지금도 매일 같이 사용해 더 배울 게 없다고 생각했는데 오산이었다.

클로드 ai는 그동안 내가 쌓았던 지식을 총 망라해 ai에게 학습 무한 루프를 돌릴 수 있게 해주는 혁신 기술로 진화했다. 1시간 반의 스터디를 마치고 든 날것의 생각을 적어본다.

- ai에게 일을 맡긴 인간은 숙고해야 한다. 자신이 삶에서 축적한 모든 지식, 경험을 동원해 새로운 문제를 계속 만들어 ai에게 던진다. '자, 이번엔 이 문제를 풀어봐.'

- ai에이전트 여러 개가 동시에 내가 준 문제를 푼다. 24시간 멈추지 않고, 아프지 않으며, 불평불만도 없다. 연봉인상은 당연히 제로. 나는 인간대신 ai를 채용하며 그에게 일 시킨 만큼의 토큰 비용만 지불하면 된다. 고용이 아주 가볍고 심플해진다.

- '유레카'를 외치는 것은 오직 인간뿐이다. ai는 인간이 학습시킨 데이터만 가지고 학습할 뿐, 인간의 의식을 초월하는 무언가를 '상상'할 수는 없는 존재다. 피조물이 창조주를 넘어설 수 없는 논리다.

- 역사적으로 피조물은 창조주에 닿고 싶은 욕망을 멈추지 않았다. 고전 신화들이 이런 인류의 역사를 방증한다. 이카로스는 뜨거운 태양에 밀랍으로 만든 날개가 녹아 추락했고, 바빌론 탑은 무너졌다. 평생 불멸의 삶을 쫒던 진시황도 결국 죽었다. 수천, 수만 명의 후궁과 신하들을 자신의 저승길 동무로 삼으며.

- ai 개발도 어쩌면 인간이 신의 영역으로 도약하기 위한 시도라고 생각한다. 오픈 ai도 처음에는 인류의 고차원적인 진화와 번영을 위해 비영리 목적으로 고안되었다. 하지만 초기 멤버 중 이 기술을 이용해 인류를 지배하고 싶은 이가 있었고, 이를 대표하는 것이 샘 알트먼이라 생각한다. 일론 머스크는 이에 크게 실망하고 오픈 ai 이사회에서 나온다.

- 일론이 외적으로는 나온 걸로 보이지만, 사실상 샘 알트먼과 그의 측근들이 오픈 ai의 초기 정신을 지키려던 이들을 교묘하게 축출하지 않았을까. 일론은 ai를 활용한 원대한 비전을 세우고 기술과 자본을 대었지만, 신이 되고 싶은 투자자에 의해 이용당하고 버려진 비운의 케이스라 생각한다.

- 일론은 정말 인류를 구원하고 싶어 하는 것 같다. 코스모스의 창백한 푸른 점을 누구보다 잘 인식하고 있는 흔치 않은 비저너리다. 페이팔로 번 돈을 스페이스 x에 올인해 냉전 이후 멈췄던 우주개발의 신호탄을 쏘아 올렸다.

- 인류세로 인한 지구 황폐화로 대멸종이 확정된 미래가 되었기에, 그는 자본과 기술을 총 동원해 테라포밍, 화성 이주 계획을 현실화하고 있다.

- 일론은 오픈 ai 창립 멤버로 누구보다 ai가 인류에 미칠 영향을 잘 알고 있는 인물이다. 자본주의 논리로 ai가 개발되는 양상을 지켜보다 트위터를 인수해 x로 사명을 바꾸고 그 방대한 텍스트 데이터를 학습시켜 ai 기술 발전의 새로운 비전을 제시한다.

- 바로 피지컬 ai다. 전기차를 만들던 테슬라는 이 피지컬 ai가 접목된 휴머노이드 로봇을 만드는 생산라인을 늘렸으며, 올해 초 100만 대 양산을 목표로 제시했다. 이 수치는 어디까지나 물리적 한계를 고려한 것이다. 피지컬 ai는 사실상 전 산업의 수요를 불러올 것이기 때문이다. 이와 비슷한 맥락의 기술개발에 투자하는 현대차 주가가 오르는 이유다.

- ai혁명은 아이러니하게도 ai를 직접 개발하고 투자한 IT개발자, 소프트웨어 및 금융 회사의 생존을 위협하고 있다. 불과 지난 2월 발표된 시트리니 리포트는 '2028년 화이트칼라 직군의 몰락과 실물 경제 붕괴 시나리오'를 통해 ai가 가져올 디스토피아 세계가 빠른 속도로 실현될 수 있음을 시사했다.

- 이 리포트가 세상에 나오고 미국 주식 시장 투자자는 시가총액 380조를 던지는 것으로 반응했다. 화이트칼라 직군만 날아갈 것 같은가? 시차는 있지만 피지컬 ai가 완성되는 시점에 블루칼라도 날아간다. 모든 노동하는 인간은 영향을 받는다는 소리다.

- 우리는 노동이 없는 사회를 경험하지 못했다. 철학이 부재한 오로지 돈만 버는 기계를 자처했던 수많은 사람들이, 대비하지 않은 산업 변화에 무방비로 노출되어 있다. 마치 삼체 외계인이 지구 인간을 보고 '너희는 벌레다'라며 자비 없이 인류 문명을 말살하는 그림이 떠오르는 이유다.

- 유발 하라리, 제레미 다이아몬드 등 세계적으로 유명한 석학들은 챗gpt가 산업에 파장을 일으켰던 몇 년 전부터 사회적 합의 없는 ai 기술개발이 불러올 폐해를 예견했다.

- 노동의 재정의, 새로운 산업에 소프트 랜딩 할 수 있는 사회적인 재교육/재배치 시스템, ai로 거대한 부를 축적한 소수의 빅테크 기업에 ai세 로봇세를 매기고, 정부는 기본 소득 제도로 부의 재분배를 일으켜야 한다는 등.

- 몇 년 전부터 학계에 이와 같은 논의가 활발하지만, 내 주변에 이런 이야기를 꺼내는 사람을 한 명도 보지 못했다. 나는 남편과 동생, 가까운 지인 말고 이 이야기를 나눈 사람이 없다. 소수의 지성만이 현재 세계가 돌아가는 양상에 안테나를 세우고 대비하자 외치는 상황이다.

- 정보와 뉴스는 넘쳐나고 언제 어디서든 볼 수 있지만, 이를 진심으로 받아들이고 실제 삶에 적용하는 사람은 극소수다. 경험과 통찰의 양극화가 시작됐다. 그래서 상황이 더 절망적으로 느껴진다.

- 이 모든 것이 단순한 시나리오가 아닌 확정된 미래다. 당장 지난주에 앤트로픽 클로드ai가 검색광고 영역에 진출한다고 선포했다. 안 그래도 일감이 줄은 광고 에이전시와 관련 업계 종사자를 향한 사망선고를 내린 것이다. 클라이언트는 빠르게 이 기술을 도입할 것이고, 여기에 관련된 회사들이 줄도산하는 미래가 자연스레 그려진다.

- 광고 산업뿐만이 아니다. 앤트로픽이 먼저 쏘아 올린 ai에이전트 시대가 도래하면서 구독형 소프트웨어를 판매하는 SaaS기업, 중간거래 수수료를 받는 금융 비즈니스도 무너진다. 이제 모든 서비스는 다수의 ai에이전트로 완전히 재편되며, 토큰으로 모든 것을 해결한다.

- 여기에 종사하는 화이트칼라, 엘리트 직종이 가장 먼저 노동을 빼앗긴다. 모든 업계에 동시 다발적으로 레이오프가 진행된다. 고학력 엘리트도 ai에 밀려 이제 갈 곳이 없다.

- ai로 인한 고용 시장의 변화는 이미 2024년부터 시작됐다. 실리콘밸리와 월가부터 한국의 전통적인 유통 기업들까지 모두 희망퇴직 뉴스로 시끌했다. 내가 마지막으로 다녔던 회사는 40년 근속자에게 명예 포상을 하던 회사였다. 그런데 2023년 고연차 대상 희망퇴직을 했고, 나는 미래 준비를 위해 2024년 자발적 퇴사를 했다. 그리고 지인을 통해 2025년 저연차를 포함한 추가 희망퇴직을 단행했다는 소식을 들었다.

- 작년 9월 출간된 송길영 작가의『시대예보 : 경량문명의 탄생』 에서 예고한 대로, 작고 빠른 기업만이 생존한다. ai기술이 비즈니스에 도입되는 속도에 가속도가 붙기 시작했다. 아마 희망퇴직은 줄지 않고 규모를 더 키워 자주 일어날 거라 예상해 본다.

- 그나마 2년 전엔 기업들이 소극적인 수준의 레이오프만 한 것이다. 아마존은 이제 60만 명을 추가로 해고한다고 한다. 조직의 크기와 속도가 곧 기업의 운명을 좌우하기 때문에 이제 대규모 채용은 사라진다. 이 같은 결정은 빅테크부터 시작해 아마 빠른 속도로 전 세계 기업에 퍼질 것이고, ai에이전트가 대체할 수 있는 모든 분야의 일자리가 사라지는 일이 현실화될 것이다.

- 우리 사회는 아직 기본 소득 제도도, ai가 차지한 직업을 대신할 새로운 직업도 만들지 못했다. 더 심각한 건 빅테크의 기술주의 혁신, 자본논리에 의해 아무 상관없어 보였던 제3세계 사람들까지 전방위적인 피해를 입게 되었다는 것이다.

- 하지만 이들을 막을 방법은 요원하다. 빅테크는 안전장치 없이 ai기술 가속화에 천문학적인 돈과 연구인력을 들이붓는 레이스를 멈출 생각이 없어 보인다. 세상의 모든 것을 숫자로 보며, 어린 나이에 부와 명성을 얻은 오만한 공대 천재들이 어떻게 인류 문명을 파괴하는지 지켜보자면 머리가 아파온다.

- ai 기술 개발에 선봉에 선 빅테크는 이제 개발자를 자르고 인문학자, 스토리텔러를 고용한다. 자신들도 아는 것이다. 모든 것이 ai로 대체되는 세상이 오면 결국 휴먼터치가 가미된 브랜드만이 살아남는 것을.

- 이들은 노동을 상실한 사람들에게 유희를 제공하려 할 것이다. 마치 스티브 스필버그의 영화 <레디 플레이어 원> 속 디스토피아처럼, ai로 일자리를 잃고 황폐해진 인간에게 현실을 도피하게 도와주는 가상 세계로 초대한다. 온/오프라인의 경험을 제한하고 계급 사회를 만들 것이다.

- 로마가 노예제도로 파산한 중산층을 달래기 위해 공짜 빵과 서커스, 사람과 사람을 죽이는 콜로세움이란 자극적인 엔터테인먼트를 제공한 것처럼. 빅테크 역시 똑같은 로직으로 인간 사회를 지배하고 부를 독식할 것이다. 하지만 찬란한 문명을 세웠던 로마는 결국 멸망했다. 우리는 이 점에서 배움을 얻어야 한다.

- 로마는 한 나라의 멸망으로 끝났지만, 21세기는 차원이 다르다. 글로벌로 모든 경제가 연결되어 있다. 이 말은 ai 발전에 브레이크를 걸지 않으면, 전 세계 모든 국가와 시민이 생존 위협을 받는다는 소리다. 우리가 로마처럼 멸망하지 않으려면 어떻게 해야 할까. 나는 이 문제 해결 방법을 인간이 아닌 ai와 찾고 있다.

- 아침에 일어나자마자 떠오른 생각을 핸드폰 메모장을 열어 두서없이 '받아 적었다.' 내 안의 무언가가 이 생각이 휘발되기 전에 빨리 써야된다고 했기 때문이다. 그리고 이걸 더 많은 이에게 전파하고 싶은 마음에 책상에 앉아 브런치 글로 옮겨 적는다.

- 나는 최근 칼 세이건『코스모스』의 시대를 초월한 우주적 통찰과 호메로스『일리아스』의 인간 분노와 연민 서사를 결합한 드라마 시나리오를 쓰면서 예견된 미래 세계를 염려하게 되었다. 장강명 작가의『먼저 온 미래』가 머지않아 전 산업에 도래할 텐데, 신입 채용은 사라지고 경력직도 희망 퇴직 당하는 사회에서 어떻게 살아갈지 막막한 사람들이 상상되어 마음이 갑갑해졌다.

- 당장은 이런 생각을 브런치, 링크드인, 인스타그램, 스레드 등 내가 글을 쓰고 올릴 수 있는 모든 플랫폼에 전파하며 미래를 대비할 것을 촉구하고 있지만, '아 ai 무섭네. 이제 뭐 먹고살지?' 정도의 감상이 끝인 것 같다. 무심한 반응으로 애써 현실을 외면해 봤자 소용없다. 뭔가가 오고 있다고 생각한 것이 이제 진짜 왔기 때문이다.

- 2년 전만 해도 agi가 10년 정도 후에 온다 했지만, 일론은 올해 완성된다고 봤다. 이것도 올해 1월 대담에서 한 말이고, 풀버전을 유튜브로 볼 수 있다. 여기에 엊그제 앤트로픽의 ai에이전트 신기술 발표와 시장을 선점하기 위한 프로 교육 과정 무료 개방 뉴스까지 보자, 정말 올 것이 왔다는 느낌이 들었다.

- 정확한 시점을 예단하긴 어렵지만, 인류 문명을 바꿀 기술 특이점이 오고 있다. 이제 우리는 돌이킬 수 없다. 이 현실을 빠르게 캐치하고 움직이는 사람만이 도태되지 않고 살아남을 것이다.

- ai는 믿지만, 인간은 믿지 않는다. 이 생각이 촉발한 ai 기술 혁명은 인류에게 스스로 재앙을 불러올 것이다. 이제 진지하게 생존을 위한 삶의 전환을 해야 할 때이다.

PS.

저는 디스토피아를 원하지 않습니다. 인류 문명이 최악의 시나리오로 가지 않으려면 우리는 이제 무얼 고민해야 하는지 화두를 던지고 싶을 뿐입니다. 지금 쓰고 있는 시나리오 역시 'AI라는 피할 수 없는 파고를 인간답게 극복하는 방법'에 대한 고찰을 담고 있습니다.

제 생각은 단지 하나의 의견일 뿐, 각자 도생을 넘어 다같이 잘 살 수 있도록 활발한 논의가 이어지길 바랍니다. 저는 저에게 주어진 스토리텔러라는 능력으로 작품을 써서 인류 문명에 힘을 보태고 싶습니다.

AI와 인간에 대한 생각, 정보들을 정리해 브런치로 꾸준히 공유하고 있으니, 시차 없이 바로 보고 싶은 분들은 팔로우를 부탁드립니다. 그럼 오늘도 계신 곳에서 고군분투 하고 계실 여러분을 응원합니다.