인사를 건넨다. 친구인가?

안녕, 인간:해나 프라이;와이즈베리;2019

1학기 1학년 학생들이 국어 수행평가를 위해 도서관에 한 반씩 방문했다. 이들은 이미 국어선생님께서 정해주신 5권 중에 읽고 싶은 책 한 권을 정해서 읽은 상태였다. 도서관에서 하는 일은 읽은 책에 대한 자신의 생각을 정리하고 같은 책을 읽은 학생끼리 토론을 해보는 활동이었다. 학생들이 토론을 위해 읽은 책을 옆에 두고 있었는데 그중 한 권의 책이 눈에 계속 눈에 들어왔다. 데이터와 알고리즘, 인공지능이 주제로 보이는 책이다. 2023년을 지구에서 살고 있다면 한 번쯤 들어 볼 수밖에 없고, 들여다보면 우리 모두는 그 안에서 살고 있다. 그러나 어렴풋이 알고 있을 뿐이다. 그 세계와 연구 영역은 방대하여, 우리가 어디까지 사용하고 있으며, 얼마만큼 발전했으며, 어느 영역까지 영향을 미치고 있는지는 아마 인간 중 누구도 모르지 않을까?

그래서 이 책에 매력을 느꼈다. 고등학교 1학년 국어선생님께서 이미 읽어보고 1학년 학생 수준에 맞다고 생각하여 수행평가 목록에 추천도서로 넣으셨다면 나도 이해하며 읽을 수 있지 않을까 싶었다. 수행평가가 끝나고 책을 손에 들고 찬찬히 읽어 나갔다. 이 책의 저자는 수학과 이론물리학을 전공했으며 유체역학으로 박사학위를 받았다. 인공지능 등 4차 산업혁명이라고 부를 수 있는 산업분야의 아름다운 상상과 미래 또는 무서운 현실과 미래에  대한 책은 매일 한 권 이상 발행된다고 해도 과언이 아니다. 내가 본 책으로는 뇌과학자, 사회과학자, 컴퓨터공학자, 언론인, 소설 속 등장 등등이 있었다. 각자가 현재를 지켜보고 이해하고 판단하는 것이 달랐다. 그렇기에 수학자의 시선은 어떠하며, 어떻게 해석해서 독자에게 들려줄지 궁금했다. 수학적 증명, 현재의 발전 수준을 다양한 일상 사례와 실험을 통해 소개하여 책은 흥미진진하고 술술 읽혔다. 그래서 '나도북멘토'프로그램에 멘토로 참여하는 학생이 인공지능이나 컴퓨터 프로그램과 관련된 책을 찾기에 이 책을 추천해 주었다. 북멘토 활동은 끝나고 멘티를 위한 책의 키워드와 관련학과를 포함한 서평과 독후활동 양식을 작성한다. 그래서, 내가 추천해 준 학생이 작성한 양식에 따라 내가 읽은 '안녕, 인간'을 정리해 보면 어떨까 싶어 시작해 보았다. 

1. 이 책을 읽기 전에 인공지능이 앞으로 우리 사회에 끼칠 영향은 어떨 것 같았나요?

“우리는 검색엔진이 현명한 선택을 하리라 기대합니다. 하지만 실험 참가자들은 이런 말을 합니다. ‘음, 그래요. 결과가 편향된 것이 보이네요. 그러니까... 검색엔진이 제 임무를 다 하고 있군요.”

현재 우리가 검색엔진 같은 알고리즘에서 얻는 정보량을 고려할 때 더 불길한 것은, 사람들이 자신의 의견에 외부의 개입이 얼마나 많이 반영되었다고 믿느냐이다. 엡스타인은 연구 논문에 이렇게 적었다. “자신이 조종당하는지를 모를 때, 사람들은 새로운 생각을 스스로 한다고 믿는 성향을 보인다.” p.036

다양한 곳에서 우리가 지금 얼마나 알고리즘의 노예로 살고 있는지 알려주고 있기 때문에 어느 정도는 짐작하고 있었다. 우리 삶에 자연스럽게 녹아든 인공지능의 이점들이 내가 하고 싶어서 하는 일이라고 생각하며 보고, 듣고, 실행해 가고 있다는 것을 말이다. 책의 초반에 등장하는 이야기는 유튜브를 통해 연속적으로 나에게 추천하는 영상을 시청하고, 쇼핑몰에서 쇼핑할 때 추천제품을 보며 '아 저거 사고 싶었던 건데'히면서 구입하는 내 모습을 반추하게 했다. 이 책을 읽기 전까지 나는 이런 것들이 막연하게 문제라고는 생각했지만, 그만큼 또는 그 보다 더 나보다 알고리즘이, 인공지능이 알려주는 것들을 신뢰하고 있었다는 것을 알게 되었다. 우리가 만든 인공지능 시대는 인간만큼이나 불완전하다. 그러나 우리 사회는 그 사실을 모른 채 완전하다고 생각하면 쫓아가고 있다. 그래서 우리는 점점 더 소수의 상상과 가능성으로 개발한 길을 따라 걸어갈 것 같다. 

2. 이 책을 읽고 난 후 인공지능이 앞으로 우리 사회에 끼칠 영향은 어떨 것 같나요?

-조종사가 예외 상황에서만 비행기를 조종하게 되면 조종사의 비행 기술은 퇴화하는 것이다. 따라서 예상하지 못한 비상 상황이라는 난관이 닥칠 때 여기에 잘 대처하는 경험을 거의 쌓지 못한다. p. 202

-하지만 베인브리지가 논문에 적었듯이, 이런 방식으로 좋은 결과를 얻지 못한다. 인간에게 조금도 방심하지 않기를 기대하는 것은 비현실적이다. p. 206

-“얼리 어댑터들이 자동주행 기능이 경고음을 줄이거나 끈 채 운전할 수 있게 돕는”장치를 만들어 판다. 당신은 동의하지 않을지 모르지만, 이런 일은 신뢰받는 제품이 오해를 살 만한 언어를 사용한 탓에 나타난 당연한 결과다. p. 212

그들이 개발한 것을 나도 모르게 믿고 따라가고 있다는 것을 책을 읽고 정확하게 인식하게 되었다. 그래서 책을 읽고는 인공지능과 함께 가면서도 사람의 숙련과 눈이 계속 필요하다는 지점을 생각하게 된 것 같다. 모든 일에 전문적일 필요는 없지만,  어떤 일에 대해서는 계속 고민하고 숙련하는 사람의 시간이 필요하다. 그러니까 조금 예스러워 보일 수 있지만, 글쓰기로 치자면 연필을 손에 쥐고 글을 쓰는 시간, 컴퓨터 자판기를 이용하여 글을 쓰는 시간, 그리고 태블릿을 이용해 글을 쓰는 시간으로 차차로 나아가야 한다고 말하고 싶다. 그러고 나면 태블릿으로만 쓰느냐. 그건 아니다. 나에게 가장 좋은 도구를 주로 사용하지만, 가끔은 다른 도구를 쓰면서 유연함을 가지고 있어야 한다. 그래야 볼링공이 도랑으로 빠지는 것을 방지할 수 있다. 

인공지능은 기계에 의존하게 하여 우리의 몸과 머리를 덜 사용하게 함으로써 우리를 부주의하게 만든다. 앞으로 우리 사회는 부주의한 될 것이다. 그것도 어쩌면 상당히 불평등한 방향으로... 그 어느 때보다 온고지신이 필요한 지점이라 생각한다. 

3. 기억에 남는 한 가지 책 속의 사례를 적어 주세요

그런데 어떤 구매자가 아마존에서 야구 방망이를 바구니에 담았더니, 아마존이 정말 흥미롭게도 이렇게 추천했다고 한다. “이 상품을 산 분들은 검은색 복면 모자도 구입하셨습니다.” p. 028

4. 왜 기억에 남았나요?

이 책에는 수많은 흥미로는 사례가 등장한다. 자율주행자동차의 GPS가 작동하는 원리, 암을 조기에 발견할 수 있기 위해 인공지능이 할 수 있는 일과 한계 등이 그것이다. 이런저런 것들이 떠올랐다가 책의 기억에 남는 구절을 정리해 놓은 종이를 펼쳤을 때 제일 먼저 눈에 들어온 것이 아마존의 야구방망이였다. 야구방망이 하면 글러브를 추천상품으로 보여줄 것 같은데 '검은색 복면'이라니 자연스럽게 범죄현장이 떠오른다. 검은색 복면을 쓴 사람이 야구방망이를 들고 유리를 깨던지 사람을 때리던지. 이제는 이런 것들을 아마존이 걸러내고 있다고 하지만 걸러내는 것들이 어딘가에 쌓이고 있다는 것도, 쌓인 빅데이터는 또 어디에 쓰일지, 걸러지는 것 올바른 것인지, 그렇다고 추천하는 것은 올바른 것인지 이런저런 고민이 깊어지는 에피소드였기에 기억에 남았다.

5. 이후 더 알고 싶은 내용은?

나는 수학자다. 그래서 자신 있게 긍정 오류와 절대 진리에 관련한 사실을 정확과 통계와 관련한 사실로 바꾸어 다룰 수 있다. 하지만 예술 영역에서는 톨스토이의 뜻을 따르고 싶다. 톨스토이와 마찬가지로 나도 진정한 예술이란 인간관계를, 감정의 교류를 다룬다고 생각한다. 톨스토이 말마따나 “예술은 수공예품이 아니다. 예술가가 경험한 감정을 전달하는 장치다.” 톨스토이의 주장에 동의한다면, 기계가 진정한 예술 작품을 생산하지 못하는 이유가 생긴다. 더글러스 호프스태터는 EMI를 마주하기 면 년 전에 그 이유를 아래와 같이 멋지게 표현했다. 

음악을 생산할 줄 아는 ’ 프로그램‘이라면, 스스로 세상을 돌아다니며 미로 같은 삶을 힘겹게 헤쳐나가면서 삶이 모든 순간을 느껴야 한다. 쌀쌀한 밤바람에서 느끼는 즐거움과 외로움을, 자비로운 손길을 갈구하는 마음을, 먼 도시에 다가가기 어려운 안타까움을, 누군가의 죽음 뒤 찾아오는 애통함과 회복을 이해해야 한다. 그에 앞서 체념과 비관을, 비통함과 절망을, 결단과 승리를, 독실함과 경외를 알아야 한다. 희망과 두려움, 고뇌와 환희, 평온과 긴장처럼 상반된 감정을 결합 할 줄 알아야 한다. 프로그램의 핵심에 우아함과 유머, 리듬을 느끼는 감각이, 즉 예상치 못한 것을 느끼는 감각이 자리해야 한다. 게다가 말할 것도 없이, 신선한 창작이 일으키는 마법을 예리하게 인식할 줄도 알아야 한다. 그럴 때, 오로지 그럴 때만 음악에서 의미를 찾을 수 있다. p. 292

이와 비슷한 이야기를 다룬 책을 책모임에서 연달아 읽어내었다. 안녕인간과 세트로 읽으면 좋을 책으로 좋아요은 어떻게 지구를 파괴하는 가를 꼽고 싶다. 안녕인간은 인공지능의 발전속도와 어떻게 형성되고 있는가를 보여준다. 반면 좋아요은 어떻게 지구를 파괴하는 가는 인공지능, 와이파이, 데이터 등 우리가 무형의 어떤 것이라고 믿고 사용하고 있는 것들이 유형의 지구의 물질을 어떻게 파괴하고 있는지 취재의 형식으로 보여준다. 그렇다. 보이지 않아서 지구환경을 지키고 있다고 생각하는 것, 개인정보가 보호되고 있다고 생각하는 것은 모두 착각이다. 그 안에서 소모되고 다시 쓰레기로 만들어지는 수많은 것들로 지구가 얼마나 힘들어하는지 더 알아야 한다. 우리는 알면서도 고치지 못하고 계속 행할 때가 많다. 그러나, 언제나 모르고 행하는 것보다는 알고 주춤주춤 다른 길을 생각해 보면서 걸어가는 것이 그래도 좀 낮다. 

6. 전체적인 책에 대한 본인의 총평

세포를 광범위하게 조사하고, 그 가운데 종양일 가능성이 높은 것을 추려서 병리학자에게 제시한다. 알고리즘은 지칠 줄 모르고 병리학자는 거의 오진을 하지 않는다. 알고리즘과 인간이 상대의 강점을 활용하고 결점은 포용하면서 동반자로서 함께 일하는 것이다. p.300

결국 인간이다. 인간은 전지전능한 존재는 아니다. 실수와 실패, 부족한 부분을 가지고 있다. 그렇다면 인공지능은? 인공지능은 부족한 인간이 만들었다. 우리가 믿는 신이라는 존재가 우리를 만들었지만 우리는 완벽하지 않다. 하물며 인간이 만든 인공지능이 완벽하다고, 믿을 수 있다고 생각하는 것 자체가 오산이다. 인공지능에 대한 책이 매일 같이 쏟아지고 있다. 이 책은 수학자이자 기자인 작가가 바라본 인공지능이다. 그는 통계와 확률 증명으로 인간과 인공지능이 어떤 일을 함에 있어서(알고리즘, 내비게이션, 병의 발견, 창작물 생산 등) 현재까지 어떤 부분이 부족하다고 밝혀졌는지, 어떤 부분에서 뛰어난지 예를 들어 설명한다. 책을 다 읽으면 인간인 내가 무엇을 해야 할지 보인다. 성실하게 내가 하는 일, 좋아하는 일을 해야 한다. 단 그것은 정원을 가꾸는 주인의 마음으로 이루어져야 한다. 한 치 앞의 풀을 억지로 뽑으면 나에게 남는 것은 조금이다. 세상은 넓고 할 것은 점점 더 많아지고 있다. 내가 하고 싶은 일을 찾고, 그것이 나나 다른 사람, 지구를 괴롭히는 일이 아니라고 생각된다면 꾸준히 해보자. 그렇게 나와 다른 사람, 지구 그리고 인간이 알고리즘이 서로를 포용하며 동반자로 살아갈 날을 꿈꾸자. 그렇다면 인공지능은 좋은 친구가 될 수 있다.