독일 '문돌이'들이 쓴 AI 윤리 개론서
마리암 메켈·레아 슈타이나커의 'AI 시대, 우리의 질문'
언론학자·저널리스트가 쓴 AI
최신 기술에 대한 이해보다는
AI를 어떻게 받아들일지에 집중
'철학' 독일인 저자들...AI '의식' 논하다
플라톤 '동굴론'으로까지 빠져
AI 전기 소비·윤리규범·언론 활용 등
2025년 지금 읽기엔 신선함 떨어져
(먼저 제목에 '문돌이'라는 표현을 쓴 것과 관련해, 저 스스로가 대학에서 문·사·철 중 하나를 전공한 전형적인 문돌이기에 감히 이런 표현을 썼다는 점을 밝힙니다.)
이 책은 장크트갈렌대학교 커뮤니케이션 매니지먼트 교수인 마리안 메켈과 사회학자이자 저널리스트인 제아 슈타이나커가 같이 쓴 AI 윤리 개론서입니다.
'윤리서'라고 말씀드린 이유는 이 책이 AI 기술 자체에 대한 심도 있는 이해보다는 이를 대중이 어떻게 받아들여야 할지에 초점을 맞췄기 때문입니다. 주로 언론 분야에 종사하는 저자들의 프로필에서부터 예상가능한 대목입니다.
이 책은 AI가 촉발할 자동화로 인해 사라지는 일자리 문제는 어떻게 할 것인가, 기계를 너무 쉽게 인간으로 받아들이는 인간들의 태도와 관련해 AI는 어떻게 받아들여져야 하는가, AI와 인간의 경계라고 할 수 있는 '의식'을 어떻게 정의해야 하는가, AI를 활용한 언론 보도는 어떤 가이드라인을 정해야 하는가 등을 다룹니다.
또 '개론서'라고 정의한 이유는 이 책이 내용의 심도가 그리 높지는 않다는 이유도 있습니다. AI에 관한 책을 처음 접하는 독자라면 흥미로울 수 있지만, AI에 대한 콘텐츠를 조금 접해본 분들이라면 이 책에 담긴 정보는 그리 새롭지 못합니다.
초반 1~3장은 AI 배경지식을 설명하는데 알만한 사람은 다 알만한 내용입니다. 가령 △웨이 자바움 교수가 '엘리자'라는 1960년대께 대화형 채팅 프로그램 '엘리자'를 만들었고 사람들이 알리자를 너무 사람처럼 대해 '엘리자 효과'라는 명칭이 생겼다는 점 △일반 대중에게 AI가 직접적으로 인식된 것은 2022년 챗GPT 공개 이후이지만 이미 2000년대부터 페이스북·넷플릭스 등 플랫폼 기업들이 AI 봇을 활용해 왔다는 점 △AI로 인한 자동화 결과 기존의 일자리가 사라지고 있다는 점 △오픈AI는 언어모델 학습을 위해 저작권 없는 팬픽을, 스태이블리티AI는 게티이미지를 무단으로 활용한 것으로 의심되고 있다는 점 등이 그렇습니다.
다만 아래와 같은 학습유형 구분은, 저로서는 지금까지 제대로 구분하지 않고 있었다는 점에서 의미 있었습니다.
지도 학습: 설명이 달린 데이터 세트로 신경망 훈련
비지도 학습: 데이터에 설명이나 범주를 기재하지 않고 어마어마한 영의 데이터로 산경망 훈련
강화 학습: 주변과 상호작용하며 작업에 대한 피드백받아 학습
독일 지식인들의 책이라서 그런지 '정치적 올바름(PC주의)'에 치우친 논조도 엿보입니다.
가령 저자들은 오픈AI가 챗GPT에 혐오적 표현 걸러내기 위해 저개발국 인력을 동원했다며 이 과정에서 "케냐 노동자들이 고통받았다"라고 적습니다. 현재의 AI가 생성되는 데 결정적인 기여를 한 데이터셋 '이미지넷'이 만들어지는 과정에서도 남반구 노동자 8만 명이 고용됐다고 지적합니다. AI 학습에 필요한 데이터셋을 만들기 위해 2만 개의 대상으로 한 1500만 개의 이미지에 일일이 태그를 달아야 했는데(예를 들어 페르시안 고양이 사진에 '페르시안 고양이'라고 적는 식), 이는 인건비가 저렴한 저개발 국가 사람들이 담당했다는 것이지요.
기업이 정당한 대가를 지불하고 노동력을 사용했다면 그것을 가지고 도덕적 문제를 제기하는 것은 지나치다고 생각합니다. 이 케냐, 남반구 근로자들이 자기 의사에 따라 스스로 이 일을 맡겠다고 결정했다면 말이죠.
마지막으로, 또 하나의 편견일 수도 있지만 '관념론'의 나라 독일의 사람들이 쓴 글은 읽기가 쉽지 않았습니다. 가령 인간과 AI의 본질적 차이가 무엇인지를 다루며 '의식'이란 무엇인가에 천착해 플라톤의 동굴론, 르네 데카르트 철학까지 들며 '환상주의'를 꺼내듭니다.
똑같은 주제와 내용을 다루더라도 (우리가 흔히 접하는) 미국의 저자들은 신선하고 구체적인 사례를 앞세우는 반면, 이 독일 저자들은 논리 구조에 집착하고 제시하는 사례도 그리 흥미롭지 못했습니다. 이 책이 나온 지 오래돼 사례가 신선하지 않은 것 아니냐는 반문을 할 수 있는데, 제레드 다이아몬드의 '총·균·쇠'는 28년 전 나온 책이지만 지금 봐도 흥미로운 사례로 넘쳐납니다. 일부러 사람들이 흔히 알지 못하는 사례를 제시해서인지도 모르지요.
AI에 대한 첫 번째 책을 고르는 독자라면 읽을만하지만, 그렇지 않다면 굳이 꺼내들 필요는 없는 책이라고 생각합니다. 지금까지 'AI시대, 우리의 질문'이었습니다.
