‘나’부터 좀 살아야 하지 않을까?

『AI이후의 세계』

어서 오세요. 책을 읽고 글을 쓰며 인생을 바꾸는 ‘우물 밖 청개구리’ 우구리입니다.

AI가 급속도로 발전하고 있다고 합니다. 최근 개발된 생성형 AI GPT-4는 미국 변호사 시험을 상위 10%로 통과한다고 하는데요. 인간에 근접한 또는 인간을 초월한 AI의 등장이 두려웠는지 미국 비영리단체 ‘퓨처오브라이트 인스티튜트’는 지난 3월 29일에 “GPT-4보다 강력한 AI 시스템에 대한 훈련을 최소 6개월은 멈추라”라고 촉구했습니다. 그리고 일론 머스크를 비롯한 정보기술 전문가, 교수, 그리고 정치인 등 총 1200여 명이 이 서한에 동의했다고 합니다. AI의 발전 속도가 너무 빠르고 우리는 그 발전이 가져올 후폭풍을 예상하지 못합니다. 인류의 미래는 어떻게 될까요?

헨리 키신저·에릭 슈밋·대니얼 허튼로커, ⟪AI 이후의 세계⟫, 김대식 서문, 김고명 옮김, 윌북, 2023

1. 생성형 AI의 탄생

초기 AI 개발 방식은 플라톤 방식이었습니다. 플라톤은 객관적·이상적 현실, 즉 이데아가 있다고 주장했습니다. 플라톤 방식으로 AI를 개발한다는 것은 AI에게 객관적·이상적 현실을 가르친다는 뜻입니다. 예를 들어 연구자들은 AI에게 고양이 사진을 인식하는 법을 가르치기 위해 수염, 뾰족한 귀, 네 다리, 몸통, 꼬리 등 이상적인 고양이의 속성을 알려줍니다.

그러나 플라톤 방식으로 개발된 AI의 성능은 엉망이었습니다. 현실에는 다리 하나가 없는 고양이, 꼬리가 잘린 고양이, 귀가 둥근 고양이 등 다양한 고양이가 존재했기 때문입니다. 다섯 살 아이도 쉽게 구별하는 고양이를, 엄청난 학습을 거친 AI는 하지 못했습니다.

연구자들은 고민했습니다. 다섯 살 아이도 쉽게 구별하는 고양이를, AI는 왜 못할까? AI를 인간처럼 학습시킬 수 없을까? 인간은 어떻게 학습할까? AI 연구자들은 인간의 뇌를 따라 해보기로 합니다. 플라톤 방식이 아닌 비트겐슈타인 방식을 도입하기로 합니다.

여기서 잠깐 책 속에 기술된 비트겐슈타인에 대해 잠깐 소개하겠습니다.

루트비히 비트겐슈타인은 플라톤 시대부터 철학자들이 궁구 했던, 이성으로 식별할 수 있는 사물의 단일한 본질이란 개념을 배제했다. 대신 지식은 현상들의 유사성, 그의 표현을 따르자면 “가족 유사성”을 일반화함으로써 발견할 수 있다며 이렇게 주장했다. “이 고찰의 결과로 우리는 유사성이 서로 중복되고 교차하는 복잡한 연결망을 보게 된다. 그것은 전반적 유사성일 수도 있고 세부적 유사성일 수도 있다.”

헨리 키신저·에릭 슈밋·대니얼 허튼로커, ⟪AI 이후의 세계⟫, 김대식 서문, 김고명 옮김, 윌북, 2023, p.86

비트겐슈타인은 ‘객관적·이상적 현실, 즉 본질이란 없다. 다만 가족 유사성이 있을 뿐이다.’라고 말한 듯합니다. 다시 말해 대상은 저마다 여러 가지 속성을 가지고 있고, 지닌 속성이 겹치면 겹칠수록 가깝다, 지닌 속성이 겹치지 않을수록 멀다고 말합니다.

AI 연구자들은 비트겐슈타인 방식으로 AI가 학습하도록 했습니다. 예를 들어 연구자들은 AI에게 고양이 사진을 수백, 수천, 수만 장을 보여줍니다. 마찬가지로 고양이가 아닌 사진을 수백, 수천, 수만 장을 보여줍니다. 그럼 AI는 다양한 고양이가 가진 공통 속성을 스스로 뽑아냅니다.

비트겐슈타인 방식으로 개발된 AI의 성능은 획기적이었습니다. 다리 하나가 없는 고양이, 꼬리가 잘린 고양이, 귀가 둥근 고양이 등 다양한 고양이를 ‘고양이’라고 인식하기 시작했습니다. 특히 AI가 학습한 데이터가 많으면 많을수록 AI의 성능은 향상되었습니다.

그런데 AI의 발전은 여기서 멈추지 않았습니다. 생성형 AI가 탄생했습니다. 기존 AI가 학습한 내용을 기억하고 적용하는 수준이라면 생성형 AI는 학습한 내용을 토대로 스스로 창조하기에 이르렀습니다. AI가 세상에 없던 그림을 그리고, 음악을 만들고, 글을 쓰기 시작한 겁니다.

대표적으로 GPT-3, GPT-4가 생성형 AI입니다. 인류가 생산한 어마어마한 글 자료를 학습한 GPT는 글 속에 존재하는 수많은 패턴을 찾아냅니다. 질문을 받은 GPT는 학습한 패턴 중 가장 그럴듯한 패턴을 선택하여 답을 만들어냅니다. 그 수준이 미국 변호사 시험을 상위 10%로 통과할 정도라니 제 뇌에 GPT를 심어 두고 싶네요.

2. AI가 품은 엄청난 가능성

AI는 제 마음을 두근거리게 합니다. 하나는 기대감 때문이고 또 하나는 불안함 때문입니다.

AI로 인해 과학 기술이 엄청나게 발전할 듯합니다. AI는 같은 자료를 보고도 인간이 알아차리지 못하는 속성과 패턴을 읽어낸다고 합니다. 또한 AI는 고도의 알고리즘과 강력한 컴퓨터 성능 덕분에 인간의 정신으로는 수백 년이 걸릴 작업도 단 시간에 해냅니다. AI는 인간이 보지 못하는 속성을, 인간이 엄두도 내지 못할 속도로, 파악하고 연구할 수 있다는 뜻입니다.

실제로 2020년에 AI가 새로운 항생제인 ‘할리신’을 발견했습니다. 연구자들은 기존에 항균성이 있다고 알려진 분자 약 2000개로 구성된 데이터를 AI에게 학습시켰습니다. 아마 AI는 ‘아하! 이런 속성과 패턴을 지닌 분자 구조를 항균성이라고 하는구나’라는 결론을 내렸을 겁니다. 이후 연구자들은 AI에게 총 6000개에 달하는 분자, FDA 승인 약품, 천연물의 데이터를 분석해서 기존에 없는 안전한 항생제를 찾으라고 명령했습니다. AI는 조건에 맞는 항생제를 하나 발견했고, 이는 6000개 데이터 중 단 하나의 가능성이었다고 합니다.

그런데 문제는 AI가 어떻게 할리신을 찾아냈는지 설명하지 못한다는 겁니다. AI는 학습하여 발견한 속성과 패턴 대로 결과를 내놓을 뿐, 왜 그런 결과를 내놓았는지 설명하지 않습니다. 또한 AI는 자신의 발견을 반추하지도 못하고, 그러고 싶다는 윤리적 혹은 철학적 충동도 느끼지 않습니다.

만약 재난 상황에 AI가 어떤 대책을 내놓았다고 해보겠습니다. 우리는 AI가 내놓은 대책을 믿고 따를 수 있을까요? 만약 그게 특정 집단을 희생하는 대책이라면?

또한 AI를 악용하는 사람을, 우리는 어떻게 대처해야 할까요? AI를 이용하여 글과 영상으로 가짜 뉴스를 만들어 배포한다면 어떻게 될까요? AI를 이용하여 대중들에게 조금씩 편향된 정보를 꾸준히 제공하면 어떻게 될까요?

지난 3월 29일 미국 비영리단체 ‘퓨처오브라이트 인스티튜트’가 생성형 AI 개발을 최소 6개월은 멈추자고 촉구한 데에는 위와 같은 이유가 깔려 있습니다. 그리고 AI 개발을 멈춘 지금, 세계적으로 ‘AI 윤리’를 서둘러 정립해야 한다고 말합니다.

3. AI로 달라질 우리의 미래

고도로 발달한 생성형 AI가 우리의 일상을 뒤덮기 시작하면 어떻게 될까요?

먼저 AI를 신처럼 추앙하는 사람들이 생길지 모릅니다. AI는 스스로 판단하기에 최적의 결과를 내놓을 뿐 설명하지 않습니다. AI가 고도로 발달할수록 AI는 효율적인 결과를 내놓을 테고, AI가 하라는 대로 실행하여 좋은 결과를 본 사람들이 많아질 겁니다. 사람들은 해석하거나 통제할 수 없는 AI를 무비판적으로 따르게 되고 이로써 주술적 세계관이 만들어질 수 있습니다.

반대로 AI를 반대하는 사람들이 생길 수 있습니다. 현재만 해도 스마트폰을 자녀에게 허락하지 않는 부모님들이 많습니다. 디지털 기기가 자녀의 정서 및 지능 발달에 악영향을 미친다는 연구 결과 때문입니다. 마찬가지로 AI가 인류의 정서 및 지능 발달에 악영향을 미친다는 생각으로 ‘반 AI 세력’이 생길지도 모르겠습니다.

디지털 네이티브라는 말이 있습니다. 디지털 네이티브란 극단적으로 말하면 디지털 기기가 키운 세대라고 말할 수 있습니다. 어릴 때부터 디지털 기기를 다루며 성장한 세대는 디지털 기기와 정보에 길들여져 기존 세대와는 다른 방식으로 세상을 살아갑니다.

디지털 네이티브는 몇 가지 특징이 있다고 합니다. 먼저 흥미가 없거나 자신의 취향과 다른 분야에 관심을 두지 않는 편입니다. 그리고 다른 사람과 소통할 때 문자나 SNS를 선호하고, 전화나 직접 만나는 방식을 꺼려합니다. 따라서 디지털 네이티브는 종업원 보다 키오스크를 통한 주문을 선호합니다. 또한 디지털 네이티브가 소비하는 정보의 양은 엄청난 반면, 진중한 사색에 필요한 공간이 부족하고 즉각적인 피드백을 원하기에 기존 세대에게 참을성이 없다는 평가를 듣고는 합니다.

그런데 얼마 지나지 않아 AI 네이티브라는 말이 생길지도 모르겠습니다. AI 네이티브란 AI가 키운 세대라고 말할 수 있습니다. 어릴 때부터 AI가 보육하고, 교육하고, 놀아주는 세대. 만약 그런 시대가 온다면 AI 네이티브는 어떤 특징을 지니게 될까요?

책에서는 AI 네이티브가 사람보다 AI를 더 좋아하게 될 거라 말합니다. 타인은 자신의 취향을 즉각 알아차리지 못하고 의견 차이가 큰 반면, AI는 언제나 자신의 취향을 파악하여 자신이 원하고 필요한 말을 해주기 때문입니다. 디지털 네이티브는 스마트폰과 SNS를 통한 소통을 추구한다면, AI 네이티브는 다른 사람과의 소통을 그다지 원하지 않을 수도 있다는 말입니다.

4. ‘나’부터 좀 살아야 하지 않을까?

유튜브에서 박구용 철학과 교수님의 영상을 보았습니다. 인상 깊었던 부분이 있어 소개하려는데 제가 철학을 잘 몰라서 오해했을지도 모릅니다. 혹 잘못된 부분이 있다면 댓글로 바로 잡아주세요.

이야기는 변증법에서 출발합니다. 변증법이란 무엇일까요?

변증법이란 이성적 주장을 통해 진리를 확립하고자 하는, 주제에 대해 서로 다른 견해를 가진 두 명 이상의 사람들 사이의 담론이다. 비슷한 말은 대화법, 문답법이다. 모순을 통해 진리를 찾는 철학방법이다.

출처: 위키백과

변증법은 철학하는 한 가지 방법입니다. 다른 견해를 가진 두 사람이 서로의 논리적 모순을 지적함으로써 진리에 이르는 대화 방법입니다.

그런데 마르크스는 변증법과 ‘물질세계’를 결합하여 ‘변증법적 유물론’을 만들어냅니다. 마르크스는 자본가와 노동자의 대립(모순)이 생산 수단의 불공평한 분배 때문이고, 이를 사회주의 혁명으로 해결함으로써 모두가 평등한 공산주의 세상을 만들 수 있다고 주장했습니다.

반면 헤겔은 변증법과 ‘정신세계(이성)’를 결합하여 ‘변증법적·관념론적 역사관’을 주장했습니다. 역사는 이성의 힘에 의해 모순을 해결하는 과정에서 끊임없이 진보한다고 말했습니다. 따라서 헤겔의 관점에서 원시적인 것은 미개한 것이 됩니다.

마르크스는 물질세계에, 헤겔은 정신세계에 집중했습니다만 둘은 공통점이 있습니다. 둘에게는 ‘옳음’이 있다는 점입니다. 마르크스에게는 사유 재산을 탐하지 않는 공산주의가, 헤겔에게는 과거보다는 진보할 미래가 ‘옳음’입니다. 마르크스와 헤겔 둘 다 ‘옳다’고 믿는 무언가가 있다는 뜻인데, ‘옳다’는 건 필연적으로 ‘틀리다’를 낳습니다. 그리고 바로 여기서 폭력이 시작됩니다.

‘옳음’이 생기는 순간 ‘틀림’이 탄생합니다. 반면 ‘개인성’이 사라집니다. 옳고 그름에 집착하면 할수록 사람이 가려지고 잔인함이 드러납니다.

⟪AI 이후의 세계⟫ 책에서는 AI 윤리를 세워야 한다고 거듭 강조합니다. 저는 AI 윤리의 핵심에 ‘개인성 존중’이 깔려야 한다고 생각합니다. 모든 사람의 인권 존중이라는 최소한의 선만 지키기보다 모든 사람이 자신의 개인성을 잘 가꿀 수 있는 방향으로 AI 윤리가 세워지길 기대합니다.

디지털 네이티브는 자신의 취향과 관심 분야에 집중합니다. 이런 측면은 ‘개인성 존중’이라는 차원에서 좋은 일이라고 저는 생각합니다. 하지만 사람들이 쏟아지는 정보에 휩쓸려 사색할 수 있는 공간과 기회를 잃어버리는 것에는 반대합니다. 그러면 정보 제공자의 수작에 놀아날 수 있기 때문입니다.

AI 네이티브는 자신의 취향을 잘 알아주고 도와주는 AI 비서를 곁에 두고 살지 모릅니다. 얼마나 좋을까요? 원하고 필요한 것을 즉각 찾아주고 도와주는 비서가 늘 곁에 있다면 자신의 개인성을 잘 발현하며 살 수 있을 겁니다. 하지만 마찬가지로 AI를 통해 편향된 정보를 주입하여 소수 독재자 뜻대로 움직이는 세상에는 반대합니다.

저는 우리 모두가 ‘나는 특별하고 소중한 존재’라는 걸 깨닫고, 나아가 ‘내가 특별하고 소중하듯 너도 특별하고 소중해’라는 걸 인정하는 세상을 꿈꿉니다. 하지만 사회는 늘 개인성보다는 사회의 ‘옳음’을 요구합니다. 지금 우리가 사는 자본주의 사회 또한 ‘자본’이란 ‘옳음’을 내세워 우리 모두가 ‘개인성’보다는 돈을 좇게 만듭니다.

저는 AI 시대에 특정 소수가 강력한 AI를 독점할까 걱정스럽습니다. 어쩌면 소수는 AI를 통해 자신들의 ‘옳음’을 전 세계 사람들에게 주입할지 모릅니다. 부디 우리 모두 ‘나는 특별하고 소중한 존재’라는 걸 깨닫고 AI가 우리의 개인성을 존중하는 방향으로 발전될 수 있도록 관심가지길 소망합니다.