AI 2041
내일 비행기를 타 볼 생각인데, 아침부터 바쁘게 조조할인 영화와 책을 열심히 보게 된다. AI2041은 내러티브를 가미한 미래에 대한 이야기를 그리며 인공지능이 갖고 올 세상을 상상하고 있다. 인공지능이 다양하게 적용되는 분야에 대한 이해가 있다면 내러티브 한 부분보다 각 챕터의 마지막 부분의 화두만 읽어도 괜찮을 것 같다.
내 이해로 보면 인공지능이란 인간이 반복적으로 하고 있는 일을 줄이는 것, 인간이 인지하고 판단하는 유사한 활동을 데이터로 처리해서 인간의 활동을 돕는 긍정적인 부분이 있다. 그런데 어제 신문 기사에서 미군의 시뮬레이션에서 AI가 걸리적거리는 인간을 제거하고 목표를 달성했다. 이런 일이 일상에서 생긴다면 어떻게 될까?
우리가 보는 현상의 그림자(이면)에는 인간의 행동함으로 나타나는 모든 활동을 데이터로 처리하고, 딥러닝을 통해서 유사성과 확률 계산을 통해 그 순간의 목적에 부합하는 결과를 갖고자 한다. 어쩌면 세상 사람들이 모두 부처, 예수, 마호메트와 같은 수준이며 비밀이 없다면 인공지능의 미래는 100점 만점의 밝은 미래가 될 수 있다. 인간의 본능에 반하는 고도로 수준 높은 평등한 공산주의의 실현이 불가능한 것도 아닐 것이다. 하지만 인간에게 가능한 일일까? 절대 불가능한 일이란 사실은 인류가 만들어 온 문명의 역사가 반증한다.
인공지능은 옳고 그름을 판단하는 것이 아니라 인간의 행동에 기반한다. 그런데 인간은 오류, 부정과 불법, 나쁜 짓을 안 한다고 볼 수 없다. 그런 데이터를 분류해서 순혈주의처럼 순수한 옳은 데이터만 학습하고 고도화할 수 있을까? 물론 초기의 좁은 분야의 학습은 가능하다. 그렇기에 아마존과 중국의 물류시스템에 사용되는 로봇, 머신비전등에 인공지능을 이용한 공장 자동화, 영상분석을 통한 상업적 이용, 레벨 6의 완벽한 자율주행에 대한 도전, 사용자들의 ID를 만들 때 사용한 개인정보와 클릭을 통한 데이터를 통해 검색할 때 나타나는 맞춤형 광고까지 다양한다. 그런데 이 모든 데이터를 묶어 거대한 인공지능을 경쟁자를 제거하거나 피해를 주기 위해 사용한다면 어떻게 될까? 결국 인공지능의 시대에 인간은 무엇을 해야 할까로 귀결된다.
세상은 이런 인공지능의 발전과 더불어 네트워크란 데이터의 보호를 위한 정보보안에 힘을 기울인다. 동시에 개인정보보호와 사생활 보호란 이름으로 데이터의 접근성을 제약하는 활동이 병행되고 있다. 창과 방패의 의견이 동시에 존재한다는 말이다.
인간의 오류 외에도 인공지능의 의사결정을 우리는 이해하지 못한다. 수학적 모델로 엄청난 대량의 데이터를 인간보다 빠르게 계산한다. 알파고에서 보듯, 인간은 이해하지 못하지만 정밀하게 목표를 달성한다. CHAT-GPT가 거짓말을 하듯, 그것이 거짓말을 하고 있다는 것은 또 어떻게 알아내야 할 것인가? 인공지능을 인공지능하는 수단이 필요할까? 이것이 자물쇠 만들고 열쇠에 다시 자물쇠 다는 일을 영원히 반복하는 무식한 과제가 될지도 모르겠다.
이런 문제를 회피하는 방법은 No Network Life를 구현하면 된다. 단지 그렇게 살기 어렵다는 심각한 문제에 직면할 뿐이다. 동시에 인공지능이 고도로 발전된 사회가 된다면 세상은 유토피아가 될 것인가? 개인적으로 기계의 문제가 아니라 인간의 문제로 디스토피아가 될 개연성이 높아진다. 당장 쿠팡의 물류센터 고용광고(유튜브에 자주 보여서 ㅎㅎ)가 당장 개인에게 도움이 되지만 결국 기계를 돕고, 돕는 과정의 데이터를 제공하는 일이기도 하다. 이 일을 물류 로봇이 대체한다면 이 인간은 누가 구제할 것인가? 국가가 기업에 세금을 거둬 만백성을 먹여 살린다는 생각은 아무 말이나 다름없다. 그런 인간이 국가를 운영한 사례가 있는가? 독점기업들과 국가 그리고 많은 거지들이 사는 세상이 된다면 터미네이터의 세상이 되지 않을까? 너무 비관적인가? 이런 상상을 해보는 것은 그래야 또 인공지능의 긍정과 비교하며 또 좋은 방법을 찾아볼 수 있다고 생각하기 때문이다.
스마트폰의 설계, 제조과정에 인공지능을 활용하고 애플, 삼성, 화웨이 중에 고도의 인공지능을 구현한 최후의 승자가 시장을 석권한다면 이런 과정이 경쟁이 아니라 절대적 군림이 되지 않을까? 한 번 앞선 기계를 따라잡기가 불가능하다. 물론 양자컴퓨팅으로 해결할 수 있을지도 모르겠다. 동시에 기계도 한 번 학습된 것은 제거하기 힘들다. 그럼 다시 해야 하나? 도쿄전력의 전례만 봐도 인간은 거짓말과 책임질 일이 생기면 거짓말을 하거나 묵비권을 행사한다.
미국이 발 빠르게 중국을 가능한 모든 방법을 통해서 두드리는 이유도 승패가 나뉘는 절대적인 게임 때문이란 생각이다. 내가 군림학 위한 인공지능의 세상이 행복한 세상이란 마음이 없다면 거짓말 아닌가? 경제문제로 보면 지위의 세습과 고착화가 강해질 수 있고, 사다리를 기어 올라가는 일은 어려워질 수 있다고 생각한다. 금융투자에서 내가 갖고 있는 인공지능이 다른 어떤 시스템보다 0.01초 빠르게 움직인다면 부의 축적 속도는 100:0에 가까운 결과가 될 수 있다. 전쟁은 말할 필요도 없다. 미사일을 0.01초 먼저 막을 수 있다면 손오공과 싸우는 부처님 손바닥을 갖은것과 다르지 않기 때문이다.
이런 시대의 변화 속에 문화적 성장과 시대의 철학이 크게 변화해야 한다. 그래야 이에 발맞춰 제도와 법률도 인간을 위해서 조금씩 바뀌어 가기 때문이다. 어려움이라면 막강한 수단을 쥐면 인간은 만만한 녀석들 버르장머리를 고치겠다고 쌈박질을 한다는 딜레마가 책의 긍정과 부정을 보면 머리가 명쾌하지 않다. 아이고!
#인공지능 #미래 #기술발전 #문제 #독서 #khori