제대로 묻고 따져 보지 않았던 대한민국의 각성
인공지능 길들이기
<인공지능을 주도하는 이들은 마치 신대륙 탐험가 같다>에 이어 <먼저 온 미래>의 9장 <가치가 이끄는 기술>을 읽고 쓰는 글입니다.
과연 구글과 애플, 메타는 현대의 신인가?
다음 문장을 보면 우리가 미디어 회사에 집단적으로 세뇌당한다는 생각을 뿌리칠 수 없습니다.
애초에 신약을 더 싸고 빠르게 개발하는 일이 '얼마나 옳은' 일일까? 신약 개발이 인류를 구할 거라는 신화는 과연 얼마나 사실에 부합할까?
저자는 더 나아가 구글의 슬로건을 공격합니다.
나는 구글의 슬로건이 농담 같다는 생각을 자주 한다. 그들은 자신들이 사악한 행위가 뭔지, 옳은 일이 뭔지 모른다는 사실조차 모른다. 혹은 알면서 무시하거나 시가총액이 2조 달러에 육박하는 거대 IT 제국이 진심으로 옳은 일을 하고 싶다면, 옳은 일이 뭔지부터 먼저 연구해야 한다.
꽤 유명한 구글의 슬로건은 바로 이거죠.
'사악해지지 말라, 옳은 일을 하라'
저자는 구글은 신의 지위에 있다고도 말합니다.
스콧 갤러웨이 교수의 표현을 빌리자면 구글은 한마디로 '현대인의 신'이다. 구글은 "우리의 가장 은밀한 비밀을 모두 알고 우리가 지금 어디에 있는지, 어디로 가야 하는지 알려주며 사소한 것에서 심오한 것까지 온갖 질문에 대답해 준다". "그 어떤 기관도 사람들이 구글에게 보이는 믿음과 신뢰를 따라가지 못한다."
구글만 그런 것은 아니죠.
페이스북과 인스타그램은 지구상에 존재했던 어떤 거대 미디어(예컨대 <뉴욕타임스>)보다 영향력이 크다.
소프트웨어를 모르는 대한민국 기업의 위기
2018년 개발자 행사에서 기조 연설 했던 주제가 떠오릅니다. 인터넷 공간에 <소프트웨어를 모르는 대한민국 기업의 위기>라는 글을 올렸다가 페이스북에서 좋아요를 2,000개 가까이 받으면서 초대를 받았던 행사였습니다.
7년이 흘렀지만 여전히 한국 사회의 대다수는 소프트웨어의 힘을 모르는 듯합니다. 그래서 저는 또 <왜 소프트웨어가 유통업을 먹어치우고 있는가?>라는 글을 써서 올렸지만 이번에는 과거보다 호응도 별로 없습니다.
이러한 경험 때문인지 제가 보는 견지에서는 인공지능은 그저 새로운 버전의 소프트웨어의 한 버전일 뿐이라고 생각합니다.
다만 인정할 점은 <먼저 온 미래>의 작가가 (개발자가 아닌) 다수의 한국 사람들에게 저보다 더 나은 설명을 제공한다는 점입니다.
무언가를 마신다는 행위, 물건을 구매한다는 행위. 다른 사람과 연결된다는 행위 자체를 바꾸겠다는 식으로 움직인다. 빅테크 기업들은 우리가 알던 개념을 바꾸고 있으며, 그들 스스로가 하나의 개념이 된다. 그들은 우리가 아는 세계를 이루고 유지하는 근본 개념을 파괴하면서 새로운 수익 모델을 만들어 낸다. 이것은 국가가 하지 못하는 일이다. <중략> 캐나다나 프랑스가 바꾸지 못하는 나의 정신세계의 개념들을 빅테크 기업들은 바꿔왔고, 바꾸고 있다.
제대로 묻고 따져 보지 않았던 인문학의 한계
그리고, 다음 문장은 다수가 소프트웨어를 모르는 원인을 짐작하게 합니다.
철학자나 다른 인문학자는 공동체와 기업이 충돌하는 문제를 논의하는 이론을 그렇게까지 촘촘하게 짜지 못했다. 철학이나 다른 인문학이 이 문제를 외면한 것은 아니지만 규제 장치는커녕 엉성한 측정 도구조차 만들지 못했다. 그렇다 보니 이 문제를 다루는 인문학의 모든 논의가 '현대 사회 비판'의 수준에서 맴돈다. 사실 오늘날 인문학의 무력함은 상당 부분 여기에서 비롯됐다.
저에게 제대로 묻고 따지는 법을 실천해 보여주신 최봉영 선생님이 컴퓨터 쟁이이자 사업가인 저에게 '한국의 인문학'을 함께 하자고 수년 동안 설득하시는 이유도 거기에 있습니다. 외래 학문을 가져다가 해설하는 역할에 그치는 모습이 인문학의 평균입니다. 그렇기에 엄밀한 형식으로 세상을 문제를 다루는 소프트웨어에 대해 이해할 역량이 없는 것인지도 모릅니다.
다음 글귀는 매우 반가웠습니다. 바로 최봉영 선생님이 후손들에게 전하려고 천착한 묻따풀 학당에서 하시는 일과 그대로 부합하기 때문입니다.
아무래도 우리는 좋은 삶이 뭔지 모르는 것 같다. 가치 없는 삶보다 가치 있는 삶이 분명 좋은 삶일 것이다. 그리고 아마 재미없는 삶보다는 재미있는 삶이 좋은 삶에 가까울 것이다. 하지만 우리가 아는 바는 그 정도까지다.
저자처럼 영향력 있는 소설가가 스피커 역할을 해 주시면 고마운 일이죠.
가치가 기술을 이끄는 아름다운 세상을 꿈꾸는 저자
이제 저자가 꿈꾸는 변화와 일종의 캠페인을 이해할 수 있는 다발말[1]이 등장합니다.
나는 가치가 기술을 이끌기를 바란다. 가치 있는 기술은 그런 맥락에서만 나온다. 지금 우리는 정반대의 현상을 겪고 있다. 기술이 가치를 왜곡하고 훼손하고 변질시키는 것이다. 우리는 놀라울 정도로 길을 잃었다. 신기술이 우리를 귀찮은 잡무에서 벗어나게 해 주고, 여가시간을 늘려줄 거라는 작은 기대조차 품기 어려울 정도로.
경제 발전과 기술 발전이 인류에 유리할 것이라는 순진한 믿음의 아이콘으로 케인스를 지목한 모양입니다.
평범한 사람들의 삶은 몰랐던 케인스는 다른 사람들도 당면한 고민거리를 해결하면 자신처럼, 귀족처럼 여가를 즐기리라 생각했다. 천만의 말씀. 우리네 보통 사람들은 당면한 문제가 해결되면 여가를 즐기는 게 아니라 미래의 위험을 해결하는 데 시간을 쏟는다. 혹은 승진을 하거나 업계의 인정을 받기 위해 애쓴다. 식기세척기가 설거지 시간을 줄여주면 그 시간만큼 초과근무를 하거나 외국어 학원을 다닌다.
서구 과학이 반성을 해야 한다는 생각은 도올 선생의 어떤 영상에서도 얼핏 들은 기억이 있습니다.
현대인은 넘지 말아야 할 선 안에서는 자신들이 자유롭다는, 자유로워야 한다는 생각에 젖어 있다. 어디를 바라봐야 하는지, 어디를 향해 가야 하는지에 대해서는 평소 별 고민 없이 지내다가 중요한 질문을 맞닥뜨리면 순진무구하게 계몽주의 운동의 관성을 따른다.
하지만, 도올 선생의 의지는 알겠으나 논리는 허술하기 짝이 없었습니다.
대체로 저자와 입장이 다른 저도 다음 다발말은 100% 동의합니다.
우리는 과학기술이 가치중립적이라는 헛소리를 경계해야 한다. 과학기술은 물질세계뿐 아니라 정신세계 깊은 곳까지 힘을 미치는 강력한 권력이다. 만약 어떤 사람이나 정당, 제도가 그런 권력을 행사하려 들면 반드시 견제 장치가 마련될 것이다.
학자들의 연구도 돈이 되지 않으면 진행되기 어렵습니다.
기술이 소중한 가치를 훼손하는 것을 묵과할 수 없는 저자
이어서 <먼저 온 미래>의 10장 <인공지능이 아직 하지 못하는 일>을 읽고 쓰는 글입니다.
2020년대는 '공통 현실'이라는 게 존재한 마지막 시대가 될지도 모른다.
제가 소프트웨어를 모르는 한국 사회라고 말했던 것과 최봉영 선생님이 한국 인문학이 실속이 없다고 평하신 것과 결이 같은 문장이 등장합니다.
우리를 절박하게 미래를 예측하고 싶어 하면서도 놀라울 정도로 자기 자신이 만들어 내는 데이터를 분석할 줄 모르는 존재이기도 하다.
그리고, 저자는 자신이 제기한 문제에 대해 용감하게 나서는 선언을 합니다.
근미래 기술이 우리 삶과 사회의 소중한 가치들을 훼손하는 것은 내게 당대 현실의 문제로 다가왔다. 공기처럼 소중하지만 눈에는 잘 보이지 않는 그 가치들의 존재감을 SF의 방법론을 활용해 보여줄 수 있을 것 같았다.
저자와 분명 입장이 다르다고 말했지만, 그를 돕고 싶은 마음이 들게 하는 문장이 이어집니다.
똑똑한 사람들이 실리콘밸리로 몰려가지 말고, 이 문제에 도전했으면 좋겠다. <중략> 우리는 인문학판 맨해튼 프로젝트를 벌여야 한다.
주석
[1] <한국말 말차림법>에서 제안한 단락에 대한 토박이 말입니다. 왜 다발말인지는 <언어에 대한 일반이론>에서 일부 답을 얻을 수 있습니다.
<먼저 온 미래>를 읽고 쓴 글
1. 2016년 이세돌과 알파고 대국은 먼저 온 미래였다
3. 프로 기사의 긍지와 자신감 상실 그리고 AI 동반자화
5. 인공지능은 언어로 만든 추상적 구조물을 변하게 하는가?
6. 인공지능에 대한 풀이가 강력한 신화의 힘을 깨닫게 하다
7. 사라져 버린 신화의 자리에 채워 넣을 무언가가 필요한가
8. 세상이 바뀌면 내가 쓰던 말도 바꿔야 할 필요가 있다
9. 스포츠와 예술을 모두 콘텐츠로 담아 버린 웹 기술
10. 팬덤 비즈니스는 화장품뿐 아니라 바둑에서도 필요한가?
11. 인공지능을 주도하는 이들은 마치 신대륙 탐험가 같다
지난 인공지능 길들이기 연재
(29회 이후 링크만 표시합니다.)
32. 프로 기사의 긍지와 자신감 상실 그리고 AI 동반자화
33. 제비와 비둘기의 비유: 피할 수 없는 AI-환경
34. 인력을 유지하면서 AI를 이용해 생산량을 늘리자
37. 인공지능은 언어로 만든 추상적 구조물을 변하게 하는가?
38. AI가 위협하는 정규 교육 후에 진행되는 견습 시스템
39. 인공지능에 대한 풀이가 강력한 신화의 힘을 깨닫게 하다
40. 사라져 버린 신화의 자리에 채워 넣을 무언가가 필요한가
41. 세상이 바뀌면 내가 쓰던 말도 바꿔야 할 필요가 있다
42. 스포츠와 예술을 모두 콘텐츠로 담아 버린 웹 기술
