AI에 대해 아는 게 없다면
오늘의 책은 [AI 이후의 세계].
AI에 대한 수많은 책이 나와있지만, 인류차원에서 AI와 어떻게 살아가야 할지를 적어낸 책이었기에 생소하게 느껴졌다.
AI가 무엇이고, 앞으로 어떻게 될 것이다를 넘어 그것이 존재하는 세상에서 인간이라면 어떻게 살아야 하는지를 생각해 보게 만드는 책.
이 책에서는 AI의 출현은 인류의 역사상 어마어마한 사건이라고 했다.
30만 년 전 지구에 등장했다고 알려진 호모사피엔스 시대의 종말인 것이라고 말이다.
지구의 역사상 몇 번 오지 않는 인류의 변곡점을 지금 2023을 살아가는 사람들은 경험하고 있는 것이라고 한다.
지금을 살아가는 사람으로서, "제가요...?" 소리가 절로 나오는 시각이었다.
글을 쓰고, 생각을 하고, 새로운 것에 대해 탐구하는 존재가 이제 인간만이 아닌 세계.
우리가 앞으로 살 세계는 단순히 챗GPT가 뭐든 빠르게 대답해 주는 세계가 아니라는 서문에 책의 머리말부터 빨려들 듯 읽어 내려갔다.
'오픈 AI'가 강력한 인공지능의 출현을 막는 목적으로 시작된 비정부기구라는 것도 몰랐으니, 나는 정말 아는 게 하나도 없는 상태에서 이 책을 읽기 시작한 것이다.
인쇄기를 통해 학자들의 연구 성과를 빠르게 공유하고 복제하기 시작하면서, 인류는 전례 없는 속도로 정보를 통합하고 확산하는 과학적 방법을 알게 되었다.
덕분에 불가해의 사건들을 탐구하고, 답을 찾아 나감에 따라 신앙에 근거한 중세의 세계관은 서서히 붕괴했다.
생성형 AI도 인간의 역사에 적어도 인쇄기만큼의 획기적인 역할을 할 것이라고 한다.
최근의 AI는 몇 개월 간격으로 모델의 복잡도가 배로 증가하는 추세라고 한다. 이에 따라 개발자들 조차 생성형 AI의 역량을 다 알 수가 없다고.
이 말은 즉, 우리의 미래에 어떤 미스터리나 위험 경이가 기다리고 있을 것인지 알 수 없음을 의미한다.
AI는 예측하고, 결정하고, 결론을 도출할 수 있지만 자의식은 없다.
즉, 이 세상에서 자신이 수행하는 역할을 사유하는 능력은 없다. AI는 의도도, 동기도, 양심도, 감정도 없다. 그런 것이 없어도 주어진 목표를 달성할 의외의 방법을 제법 잘 찾아낸다.
하지만 이런 AI로 인해 인간은, 그리고 인간이 사는 환경은 바뀔 수밖에 없다.
어릴 때부터 AI를 경험하거나 AI로 교육이나 훈련을 받은 사람은 무의식 중에라도, AI를 의인화하며 자신과 같은 존재로 대하고 싶은 충동을 느낄 수 있다.
책에 따르면 우리는 이미 AI보다 못한 컴퓨터 프로그램에도 의존하는 '자동화 편향' 문제를 겪고 있다고 한다. 그런 와중에 AI의 권위 있는 텍스트는 그 결과물을 과신하게 만드는 경향을 짙어지게 할 것이라고 한다.
하지만 본문에서 언급되었듯이 인공지능이 결론을 도출하는 과정에는 자의식, 의도, 양심, 감정 등이 없다.
그런 것이 없는 상태에서의 결정은 어쩌면 이론적으론 더 정답인 경우가 있을지도 모른다.
그런 세상에서 과연 인간이 불리한 조건일지도 모를 '인간적인 감정'을 유지하려고 할지 의문이다.
AI의 대답이 늘 정답이 아니라는 것은 이미 밝혀진 바가 있다. 오류의 촉발 요인과 방지법이 아직 모르지만 말이다. 우리가 인공지능을 사용하면서 잊지 말아야 할 것은, AI의 대답을 완전하게 의지하지 않는 인간의 태도를 유지하는 일인 것 같다.
디지털 세상에는 지혜가 생길 여유가 없다.
디지털 세상에서 중시되는 덕목은 자아성찰이 아니라 타인의 인정이다. 그래서 디지털 세상은 이성이 의식의 요체라는 계몽주의의 명제를 위협한다. 디지털 세상은 역사적으로 거리·시간·언어의 한계 때문에 인간의 행동에 가해진 제약을 파기하면서 ‘연결’을 의미 있는 미덕으로 내세운다.
온라인에서 정보가 폭발적으로 증가함에 따라 우리는 소프트웨어에 의존하게 됐다. 소프트웨어가 정보를 분류하고, 정제하고, 패턴을 토대로 분석하고, 우리의 질문에 답을 제시한다. 이제 우리가 입력 중인 문장을 자동으로 완성하고, 우리가 찾는 책이나 가게를 인식하고, 이전의 행동을 기준으로 우리가 좋아할 만한 글이나 음악을 ‘직감’하는 AI의 기능이 혁명적 변화가 아니라 일상적 행위로 느껴지기 시작했다. 하지만 그렇게 AI가 삶에 점점 더 넓게 영향을 미치면서, 우리의 정신이 홀로 선택과 행동을 하고, 체계화하고, 평가하던 시대가 저물고 있다.
우리의 정신이 홀로 선택하고 행동했던 시대가 저물고 있다는 말이, 뭐랄까 이제 인간은 끝이다.로 들렸다.
AI와 함께하는 시대에서는 인간적이라는 말이 칭찬일까 비난일까. 문득 궁금해졌다.
-
책에 나온 에피소드 중 1500년 된 인간의 체스 방식을 러닝머신 인공지능이 바꿔놓았다는 이야기가 제일 놀라웠다. 인간이 시간의 물리적 한계로 해내지 못한 수만 번의 대국을 통해 스스로 완전히 다른 방식의 체스를 깨우치게 되었다는 점이 말이다.
인공지능의 치트키는 시간여행이라는 말이 있다고 한다. AI는 인간의 시간과는 완전히 다른 시간을 살게 된다는 것. 그러니까 정보를 습득하고 분석하는 물리적 시간은 무한하게 AI의 편이라는 것이다.
다른 사례들에서도 인공지능은 사람이었다면 절대 해낼 수 없는 양의 지식을 숙지하고 이를 분석하는 과정을 통해 인간을 초월한 정밀성과 창발성을 갖게 되었음을 말하고 있다.
이런 정밀성과 창발성은 인간에게도 당연히 큰 도움이 되는 부분이기에, 멈출 수 없음이 아니 오히려 권장할 수밖에 없음이 더 무섭게 다가온다.
우리 시대에 AI를 둘러싼 문제점 중 하나는 이를 만들 능력과 자원을 가진 사람들이 모두 철학적 측면에서 AI의 파급효과를 숙고하진 않는다는 사실이다. 많은 개발자가 AI로 어떤 기능을 구현하고 어떤 문제를 해결할지만 생각한다. 혹시 그것이 역사의 줄기를 바꾸는 혁명을 초래하거나 다양한 집단에 영향을 미칠 가능성은 없는지 따져보진 않는다. AI시대에는 인류가 무엇을 만들고 있으며 그것이 우리에게 어떤 의미인지 설명해 줄 데카르트와 칸트의 후예가 필요하다.
-
사회적·정치적 삶에서 AI에 좌우되는 영역, 즉 AI의 선택을 그저 탐색만 할 수 있는 영역이 점점 늘어나는 세상에서 과연 우리가 주체성을 유지할 수 있을까?
호모테크니쿠스 ; Homo Technicus가 되어버린 우리는 기술과 공생하는 인류의 목적을 정의할 책무가 있다고 한다.
평균수명까지 살게 된다면 호모사피엔스로 사는 삶보다 호모테크니쿠스로 사는 삶이 더 길 예정이다.
혈액형을 소개하고, 띠를 소개하고, 별자리를 소개하던 90년대를 살아온 사람에게 갑자기 호모 테크니쿠스로 살아가라니.
이게 다 무슨 일인가 싶은 동시에 해당 사실을 아직 인지하지 못한 인류가 있다면, 그리고 그게 더 다수라면 그건 정말 큰일이겠구나 싶었다.
저자는 AI를 찬양하지도 규탄하지도 말고, 그저 탐색하자고 한다.
아무리 부정해도 AI는 앞으로 점점 더 우리에게 당연한 존재가 될 것이니, 그 파급효과가 아직 인간의 인지, 이해 범위 내에 있을 때 그것에 관한 논의가 더욱 활발해지기를 바라는 마음에 책을 썼다고.
나 역시 이 의견에 동의하며 글의 제목을 조금은 자극적이게 정해보았다.
책을 읽고 우리 모두 각자 호모테크니쿠스로의 삶을 어떤 식으로 이끌어나갈지, 그리고 이미 우리의 일상에 함께하고 있는 AI와 어떤 미래를 만들어가야 할지 고민해 보자는 마음으로 말이다.
