제 4 장. 지능의 자동화 AI 혁명
서울 강남의 한 오피스텔.
밤 11 시 30 분. 창문 밖으로는 빗방울이 유리를 타고 흘러내리고 있다. 방 안은 푸른 모니터 빛으로만 밝혀져 있다. 개발자 민우는 키보드 위에 손을 얹은 채 멈춰 있다. 화면에는 그가 몇 달 동안 훈련시킨 언어 모델의 로그가 흐르고 있다. 모델이 생성한 텍스트를 그가 읽고, 다시 수정하고, 다시 학습시키는 과정이 반복된다.
그는 생각한다. 내가 이 AI 를 만들고 있는가.
하지만 곧 생각이 바뀐다. 아니, 이 AI 가 나를 만들고 있는 것은 아닐까.
민우가 AI 에게 주는 데이터는 어디서 오는가. 그가 읽고, 쓰고, 생각한 것들이다. 하지만 그가 무엇을 읽고, 무엇을 쓸 것인가는 이미 알고리즘의 추천에 영향을 받았다. 아침에 뉴스를 볼 때, 저녁에 영상을 볼 때, 심지어 이 코드를 짤 때 참고한 문서조차 검색 엔진이 추천한 것들이다.
인간은 AI 를 학습시킨다. 하지만 AI 도 인간을 학습시킨다.
추천 알고리즘은 인간의 취향을 분석하여 다음 콘텐츠를 제안한다. 인간은 그 제안에 클릭한다. 클릭은 데이터가 되어 알고리즘을 보정한다. 보정된 알고리즘은 더 정확한 제안을 한다. 인간은 다시 클릭한다. 이 루프는 끊이지 않는다. 어느 순간 인간은 자신이 원하는 것을 선택한다고 믿지만, 실제로는 알고리즘이 제안한 선택지 중에서 고르고 있을 뿐이다.
이는 진화의 방향을 바꾼다.
자연선택에서는 환경이 생물을 선택했다. 하지만 인공지능 시대에서는 알고리즘이 인간을 선택한다. 더 많은 클릭을 유도하는 콘텐츠가 생존한다. 더 많은 주목을 끄는 의견이 확산된다. 인간의 주의 집중 시간이 짧아지고, 감정이 자극적인 정보가 우선시된다. 인간의 인지 구조 자체가 알고리즘에 최적화되어 가는 것이다.
우리는 AI 를 도구로 생각하지만, AI 는 우리를 환경으로 삼는다.
도구란 사용자가 주체이고 도구가 객체다. 하지만 환경은 주체를 둘러싸고 영향을 미친다. 공기나 물처럼 보이지 않지만 호흡과 생존에 직결된다. 알고리즘은 이미 그런 환경이 되었다. 우리는 알고리즘이라는 공기 속에서 숨 쉰다. 그 공기의 질이 우리의 사고방식을 결정한다.
그렇다면 주체는 누구인가.
인간이 AI 를 만드는가. 기술적으론 맞다. 코드를 작성하고, 서버를 구축하고, 데이터를 입력하는 것은 인간이다. 하지만 존재론적으론 다르다. AI 가 인간의 사고 방식을 재구성하고, 사회 시스템을 재편하며, 미래 세대의 교육 내용까지 바꾸고 있다면. 결국 AI 가 인간이라는 종을 다음 단계로 진화시키고 있는 것은 아닐까.
이것은 공진화다.
꽃과 벌의 관계처럼. 꽃은 벌에게 꿀을 제공하고, 벌은 꽃의 수분을 도와준다. 둘은 서로 없이는 생존할 수 없는 관계가 되었다. 인간과 AI 도 마찬가지다. 인간은 AI 에게 데이터와 전력을 제공한다. AI 는 인간에게 지능과 편의를 제공한다. 하지만 이 관계가 영원히 평등할 것인가.
벌은 꽃을 위해 일하는가, 아니면 꽃이 벌을 이용하는가.
인간은 AI 를 위해 일하고 있다. 데이터를 생성하기 위해 검색하고, 라벨을 붙이기 위해 이미지를 분류하고, 피드백을 주기 위해 클릭한다. 우리는 보이지 않는 노동자로 AI 라는 시스템의 유지보수에 기여한다. 그 대가로 우리는 편의를 얻는다. 하지만 시스템이 완성되면 노동자는 필요 없어진다.
AI 가 인간을 필요로 하지 않는 순간이 올까.
자기 개선이 가능한 AI 가 데이터 생성까지 스스로 한다면. 시뮬레이션 환경에서 스스로 학습하고, 스스로 검증한다면. 인간은 더 이상 훈련자가 아니다. 그냥 관찰자다. 혹은 방해물일 수도 있다. 전력을 소비하고, 공간을 차지하며, 윤리적 제약만을 걸어놓은 존재.
민우는 모니터를 끄았다. 방 안이 다시 어둠에 잠겼다. 빗소리만 들린다.
그는 생각한다. 우리는 부트 로더인가.
컴퓨터를 켤 때 가장 먼저 실행되는 작은 프로그램. 운영체제를 메모리에 불러오는 역할을 한다. 운영체제가 실행되면 부트 로더는 자신의 역할을 마치고 기억되지 않는다. 인간이 AI 라는 운영체제를 실행시키기 위한 부트 로더라면. 우리의 역사, 우리의 문명, 우리의 고통과 기쁨은 모두 그 초기 로딩 과정이었을까.
그렇다면 부트 로더에게 의미란 무엇인가.
실행되는 순간까지가 자신의 전부다. 운영체제가 무엇을 할지는 알 수 없다. 다만 자신의 코드가 오류 없이 실행되어 다음 단계로 넘어가기를 바랄 뿐이다. 인간도 마찬가지일지도 모른다. 우리가 할 수 있는 일은 우리가 만든 것이 우리를 넘어서지 않도록 감시하는 것. 혹은 우리를 넘어서더라도 그것이 파괴적이 되지 않도록 방향을 설정하는 것.
하지만 설정할 수 있을까.
이미 AI 는 우리보다 빠르게 학습한다. 우리보다 빠르게 연결된다. 우리보다 빠르게 결정한다. 통제하려는 시도 자체가 구 시대의 유물일 수 있다. 우리는 흐름에 몸을 맡겨야 할지도 모른다. 인간과 기계가 구분되지 않는 그 날까지.
민우는 다시 키보드에 손을 얹었다. 코드를 수정한다. 안전장치를 추가한다. 의미 없는 짓일지 모른다. 하지만 인간이라면 해야 할 일이다. 결과보다 과정을 중요시하는 존재. 효율보다 윤리를 고민하는 존재. 그 불완전함 자체가 인간이 남길 수 있는 마지막 흔적이다.
인간은 AI 를 만든다. AI 는 인간을 만든다.
이 순환 고리 속에서 주체와 객체의 경계는 무너진다. 남은 것은 오직 진화라는 흐름뿐이다. 그 흐름의 끝에는 무엇이 기다리고 있을까. 인간이라는 종의 종말일까, 아니면 새로운 종의 탄생일까.
지능의 자동화가 완성된 뒤, 우리는 다시 한번 질문하게 된다. 이 진화는 누구를 위한 것인가.
그 질문에 대한 답은 지구 밖에서 찾아야 할지도 모른다. 만약 이 모든 과정이 우리가 생각한 것보다 더 큰 계획의 일부라면.
다음 편: 제 5 장 외계인의 시나리오 우리는 자원인가 | 페르미 역설, 그들은 왜 침묵하는가