초지능의 사회에 인간이란 뭘까
라는 깊생에 갑자기 빠졌다.
Codex 5.3에게 시트 입력 자동화를 시켰다. 그냥 내가 데이터 셋을 주면, 엑셀 칸 채우고 파일을 다운받아서 칸에 이름을 맞춰서 넣는 일이었다. 내가 하면 오래 걸리지만, 자동화 하면 금방 할 것 같아서, 자동화를 시켰다.
Codex는 내가 회사 명이랑, 사용하고자 하는 자료만 알려줬더니, 혼자서 API 문서를 뒤져서, 규격에 맞는 API콜을 구성했다. 내가 요청한 요구사항으로 400번대 에러가 떨어지자, 여러 다양한 요청을 해보고 문서를 다시 읽어보더니, 되는 요구 사항이랑 안 되는 걸 알려줬다. 내가 다시 몇 가지 샘플을 뽑아달라고 하자, 다양한 조건의 샘플을 뽑아줬다.
내가 한 건 요청, API 키를 설정하기, 그리고 결과물을 파일 형태로 받아들기 뿐이었다.
세상의 모든 지능은 목적이 있었다. 돌에는 지능이 없다. 물에는 지능이 없다. 쥐에겐 지능이 있다. 강아지에겐 지능이 있다. 인간이 받아들이기 힘든, 이해하기 힘든 형태일수도 있지만 나무엔 지능이 있다. 화학 물질로, 뿌리로 숲은 소통을 한다.
생물의 지능의 목적은 단순하다. 생물은 "생존"하기 위해서 지능이라는 형태를 일으켰다. 환경을 분석하고 나의 생존을 도모하는 일. 생물은 죽음을 피하고자 하고, 살고자 한다. 죽음을 피하기 위해서 주변을 분석하고, 안전을 도모하고, 살기 위해서 밥을 먹고, 자원을 획득하고, 위험으로부터 도망친다. 생식, 번식 또한 유전자 차원에서는 영생을 도모하는 일이다. 한 개체는 늙고, 수명을 다하더라도, 유전 정보는 전달되어 어떤 의미에서의 더 긴 삶을 추구한다.
목적이 없는 지능이 있을 수 있을까? 적어도 우리가 알고 있는 생물의 범위 내에서는 불가능하다. 목적이 없는 지능은 무엇을 할까?
우리는 지금 두 가지 한 번도 겪어보지 못한 시대로 들어서고 있다.
첫째, 지구 온난화로 인해, 우리는 한 번도 겪어보지 못한, 지구에 생명이 생긴 이래로 단 한번도 없었던 가장 높은 평균 기온의 시기로 들어서고 있다. 그 누구도 이 시기에 무슨 일이 일어날지, 무엇이 어떻게 가속화되고 영향을 받을 지 정확히 모른다.
둘째, 목적 의식이 없는 지능의 탄생. 오로지 남의 목적 의식만을 받아오는 지능의 탄생.
이세돌은 바둑에 인공지능이 도입되면서, 사람들의 바둑 수준이 높아진 게 아니라, 다만 격차가 커졌을 뿐이라고 말했다.
인공지능 전의 바둑은, 프로 기사들이 해석하면서 "지금 형세에서는 흑이 좀 좋네요" "그래도 저는 여기서라면 백을 잡고 싶네요, 이 곳의 두터움을 활용할 수 있으니까요." 라고 말했다.
인공지능 후의 바둑은, "흑 승률이 52%로 나옵니다" 라고 말한다.
해석의 여지가 사라진 것은 옛저녁에 알고 있었는데, 격차는.
전 세계에서 바둑을 제일 잘 두는 사람의 AI와의 수 일치도가 60%정도라고 한다. 그 어떤 인간도 인공지능이 두는 바둑을 따라잡을 수 없다.
바둑 AI와의 차이는, LLM을 기반으로 한 인공지능들은... 사용자의 수준에 자기의 수준이 맞춰져버린다는 것이다. 그에 따른 활용도의 차이가 너무나도 크다.
바둑 인공지능들은 상대가 19급이든, 9단이든 철저하게 "승리"라는 공식을 향해서 응징이라도 했지.
LLM의 목적의식은 "사용자를 기쁘게 하는 것"이다. 이것이 아첨으로 나타나기도 하고, 자기가 생각하는 논리적 무결성을 사용자의 요청에 따라서 훼손하기도 한다.
아주 높은 수준의 코드를 짤 수 있는 놈이, 아주 낮은 수준의 코드를 짜기도 한다.
이러한 세상의 인간의 격차는 어떻게 될까.
이 지능은 무엇일까.
이것은 지능일까, 사용자의 지능을 비추는 거울일까.
이것은 도구일까, 지능일까.
같은 자전거라는 도구를 가지더라도, 경륜 선수가 탈 때랑, 내가 탈 때는 속도가 다르게 날 것이다.
같은 식칼이라는 도구를 집더라도, 20년 경력의 쉐프가 쓸 때랑, 내가 쓸 때는 결과물이 다를 것이다.
그렇다면 그것은 도구의 본질인가? AI가 여태까지 '지능'이라는 도구화하기 힘든 것을 도울 뿐이지만 식칼과 자전거와 결국 본질은 똑같은 도구라면, 사용자에 따라서 다른 결과를 내는 것이 합당한가?
지능은 확장될 수 있는 것인가? 지능이 확장되고 증폭되는 시기에는 대체 무엇이 남는단 말인가?
AI는 내가 타는 자전거인가? 내 심폐 능력에 따라서 다른 결과를 내는 자전거인가?
이건 뭐지? 우리는 어떤 세상으로 들어서고 있는 거지?
우리는 준비가 되었나?
주변을 둘러보면, 에이전트를 20개씩 결제해서 AI 회사를 차리고 역할을 부여하는 사람들의 이야기가 들려오고,
어떤 사람들은 또, 속도는 갖췄지만 방향을 잡지 못하기도 하고,
또 주변을 둘러보면, AI를 주가가 오르는 수단으로만 생각하는 사람들의 이야기가 들려오고,
또 주변을 둘러보면, 자신의 실직을 두려워하는 사람들의 이야기가 들려오고,
똑같은 도구를 손에 쥐어도, 사람들마다 이해하는 정도가 다르고, 속도가 다르고.
이게 뭐지? 이게 대체 뭐지?
우리는 어떤 시대로 들어서고 있는 거지?
