인공지능의 시대:인생의 의미
2024년은 AI시대의 원년으로 기록될 거라고들 한다.
그만큼 인공지능이 우리의 삶에 깊숙이 그리고 넓게 자리 잡을 것이라는 예상인데, 아닌 게 아니라 연초부터 인공지능이 결합된 자동차, 가전제품은 물론 오픈 소스를 마음껏 사용하여 자신만의 로봇을 만들 수 있게 한다는 알림까지 AI의 영향력이 미치지 않는 곳이 없는 세상이 되어가고 있다는 것을 실감한다.
인간의 몸을 기계적으로 개량하거나(Transhumanism) 인간의 뇌를 인공지능과 연결시켜 궁극적으로 인간의 한계를 뛰어넘는 초인 혹은 신인류(Homodeus) 혹은 초지능 AI를 탄생시키려는 포스트 휴머니스트들의 야심 찬 프로젝트가 더욱 박차를 가하게 될 것이다.
제2의 기계혁명의 시기라고 불리게 될 앞으로의 시기는 우리 개개인의 삶과 인류 전체의 운명에 커다란 변화를 가져올 것이 틀림없다. 우리는 인공지능과 그것이 만들어 낼 사회에 대해서 얼마나 알고 있고 또 얼마나 진지하게 생각해 보았는가? 그 사회에서 인간의 삶, 존재의 의미는 무엇이며 무엇을 추구해야 하는 것일까?
독일의 철학자이며 대중적 철학 강연으로 유명해진 방송인 리하르트 다비트 프레히트Richart D. Prechtd의 저서 <인공지능의 시대, 인생의 의미>라는 책은 이런 시대적 질문에 대한 철학적 대답을 담고 있다.
대단히 인상적이고 흥미진진한 현대철학 저서이며 특히 인공지능의 자본주의적 발전에 의구심을 품고 있는 사람들, 인공지능의 인간적 사용에 관심을 가지고 있는 컴퓨터 과학자라면 꼭 한번 읽어보라고 권하고 싶은 책이다.
인공지능이 인간과 같은 지능을 갖는 것은 불가능하다.
이성과 감성의 총체인 인간
인간은 오랜 세월 이성을 인간의 본질적 특성으로 생각해 왔다. 인간의 이성은 인간 스스로를 자연과 동물 세계로부터 소외시키는 철학적 토대였다.
그러나 인간은 단지 이성적인 존재가 아니다. 이제 우리는 자연이나 동물이 아니라 인공지능을 대자적 존재로 인식해야 하며 그 존재론의 차이는 이성이 아니라 다른 것들에 기반한다.
현재의 로고스 신도들은 에뮬레이션emulation(인공 지능이 인간의 뇌의 시스템과 똑같이 작동하도록 프로그래밍을 하는 것)을 통해 막대한 잠재력을 가진 뇌를 꿈꾼다. 기계는 인간보다 보고 듣고 계산하고 평가하는 능력이 훨씬 뛰어나다. 그런데 역설적이게도 인간은 자신을 동물 대신 컴퓨터와 비교하게 되면서 컴퓨터의 능력이 얼마나 인간의 능력에 비교가 되지 않는지 깨달았다.
인간 지능 속에는 감정과 직관, 자발성, 연상이 스며들어 있다. <건강한 인간의 오성common sense>은 합리성과 동의어가 아니다. 공감 능력도 합리성만큼이나 중요하다. 인간은 인공 지능 연구자들이 생각하는 것보다 훨씬 덜 논리적으로 사고한다. 인간성을 이루는 것은 결코 논리적 사고가 아니다.
따라서 저자는 컴퓨터가 머지않아 우리를 대신하리라는 기대는 환상이라고 생각한다. 아무리 정교하게 뇌의 신경망을 복제해서 연결한다고 해도 기계는 결코 인간이 느끼는 복잡다단한 감정을 읽어낼 수도 표현할 수도 없다. 이 감정은 이성의 실패나 결함이 아니다. 인간의 지능을 형성하는 개인적 특수성이며 한 사람을 '그 사람'이게 하는 본질적 특성이다.
인간은 세계와 연결된 존재 / 주관적 가치를 가진 존재
인간은 하이데거가 말한 대로 <세계 내 존재In-Der-Welt-Sein>이다. 우리가 사물을 중립적으로 지각하지 않고, 사실 판단과 관련해서도 중립적이지 않은 것은 바로 이 <세계 내 존재>이기 때문이다.
인간은 세계의 사물과 <가치 관계>로 엮여 있다. 우리가 느끼는 가치는 공통적일 수도 있지만 또 지극히 개인적이고 주관적이다. 따라서 가치는 프로그램화할 수 없다. 가치를 어디에 두느냐는 지극히 개인적인 센서의 문제다. 그 센서 때문에 우리는 세상의 사물을 서로 다른 강도로 인식하고 다양한 가치를 개인적으로 가꾸어 나간다.
그리고 이러한 관심과 가치는 사회적 영향을 받아서 형성된다. 사회적으로 공유된 관심과 가치는 그렇지 않은 가치와는 완전히 다른 의미로 발전할 때가 많다. 반면 인공지능은 공동체를 모른다. 인간 심리에 정말 중요한 인정과 존경의 문화도 알지 못한다.
어떤 가치가 형성되는 것은 각 주체의 사회적, 역사적 맥락 속에서 이다.
인간은 이야기 속에서 자신과 관계를 맺고, 이야기에 의존한다. 이야기는 일상의 시간들을 서로 연결시키는 의미관계이다. 인간은 현재에만 살지 않고 과거와 미래를 현재로 끌어들여 하나의 이야기로 만든다. 인간은 허구를 현실만큼이나 강렬하게 경험할 때가 많다. 영화를 보며 울고 웃는 이유도 그 때문이다. 인간이 현재에만 살지 않는다는 사실을 인공지능은 모른다. 반면 인간은 자신이 하나의 시간 속에 살고 있음을 안다. 각각의 순간에 일어나는 사건은 모두 아무리 비슷한 체험일지라도 각각의 고유한 특성을 갖고 있음을 안다. 삶은 시간의 지평 속에서 일어나고 <만물에는 자기만의 시간이 있다>. 이 시간은 한정되어 있고 산술적으로 흘러가지 않는다. 어릴 때는 천천히 흘러가고 노년에는 더 빨리 흘러가는 것처럼 느껴진다.
인간의 자아는 인간 존재의 중심이며 기계의 언어로 치환할 수 없다.
감정, 추구, 가치, 시간 감각이 중요한 이유는 우리가 그것들을 ‘나의 것’으로 체험하기 때문이다.
나의 온 감정과 의식은 <자아> 주변에 몰려 있다. <자아>는 뇌 과학자나 철학자들 조차 그 실체를 명확히 규명할 수 없음에도 나 자신이 나로 느끼는 중심부다.
인간의 도덕성도 바로 이 자아가 있기에 가능하다. 인간은 정신이 건강한 상태라면 특정 연령대부터 도덕관념이 생긴다. 그러나 기계는 도덕을 모른다. 인간은 모순을 견딜 수 있고 일부 문제는 결정을 내리지 않은 채로 내버려 두기도 한다.
인간의 도덕의 중심에는 정체성이 있다. 인간의 도덕은 비합리적이고 일반화할 수 없는 사회적 직관에 의해 움직이고 상황의 영향을 많이 받고 맥락에 종속되고 자존감 및 자아 개념과 밀접하게 연결되어 있다. 따라서 인간 사이에서 일어나는 가치의 불일치, 모순적 행동들에 대한 일관적 해석과 결론을 도출해 낼 수 없다.
그러나 인공 지능은 아무리 정교하게 프로그램되고 처리할 수 있는 정보량이 많아도 일관되지 않은 행동을 논리적으로 처리할 수가 없다. 결국은 과부하가 걸릴 것이다. 인간의 도덕성은 인공지능의 언어로 표준화할 수 없다.
인간은 존재의 의미가 있어야 산다.
그보다 더 근본적이고 본질적인 문제는 인간은 AI의 유용성을 주장하는 사람들이 말하는 것처럼 행복을 추구하기 위해 사는 것이 아니라는 점이다. 편리함이 많아지면 행복이 증진될 것이라는 주장도 근거가 희박한 말이다.
인간은 존재의 의미를 추구하고 의미는 그것을 이루는 성분들의 단순한 총합이 아니라 창발 현상이다. 전체는 부분이 갖고 있지 않은 특수한 질로 변한다. 그렇다면 의미를 프로그래밍하는 것은 당연히 불가능하다. 의미는 의미와 무의미라는 단순한 코딩으로 설명되지 않는다. 지극히 개인적인 삶과 문화 속에 깊이 뿌리내리고 있고 나와 가장 가까운 사람들이 요구하는 의미와도 강하게 종속되어 있다. 게다가 의미에는 논리가 없다.
인간에게 삶과 도덕, 행복, 만족, 의미는 각자 내면에서 느끼는 무엇이며 기계는 이를 알 도리가 없다. 우리의 정체성을 규정짓는 것은 서사와 해석으로 이루어진 무한한 내적 풍요로움이지 선호도를 외적으로 계량화한 수치가 아니다.
인공지능에게 윤리적 프로그래밍은 할 수도 없고 해서도 안된다/공리주의적 관점 비판
인공지능에 윤리적 프로그래밍을 하려는 노력은 주로 공리주의적 관점을 갖고 있다. 즉 대다수 사람에게 옳다고 받아들여지거나 이롭다고 여겨지는 것이 윤리의 규범이 될 수 있다는 것이다.
매사추세츠 공과대학의 <도덕 기계moral machine 플팻폼>은 이런 위험한 인식 위에서 탄생했다.
전 세계 4천만 명이 넘는 사람들이 이 플랫폼에서 제시한 질문에 답을 했다.
만일 완전 자율 주행차가 긴급 상황에서 부득이 사고를 내야 한다면 어떤 사람을 먼저 쳐야 할까?
노인일까? 아이일까? 동물일까? 아이의 생명이 3-4명의 노인보다 더 소중할까? 범죄자의 목숨은 개보 다 가치가 없을까? 만약 그 범죄자가 당신의 자식이라면 어떤가?
<도덕 기계>의 논리에 따르면 도덕적 질은 양을 통해 결정된다. 이 계산법은 당연히 허접한 난센스다. 다수가 원하는 것과 윤리학자와 입법자가 도덕적으로 올바르다고 여기는 행위 사이에는 가끔 큰 격차가 있다. 대다수 사람들이 세금을 속여 낸다고 해서 그 행위가 도덕적으로 올바른 것은 아니다.
내가 보편적으로 옳다고 여기는 것과 내가 구체적인 사례에서 옳다고 여기는 것은 종종 다르다. 더구나 인류의 역사 속에는 단 한 사람 혹은 아주 소수의 도덕적 결정이 가장 위대한 인류의 도덕적 표준으로 추앙된 사례가 수도 없이 많다.
또한 인공지능에 의해 규율되는 공리주의적 사회는 인간 사회를 '표준화'하고 '최적화'하게 될 것이다. 이 표준화와 최적화에 적응하지 못하는 인간은 각종 제재를 받게 될 것이다.
인공지능의 세계, 인공지능이 만들 우리 사회의 모습
우리는 흔히 인공지능이 우리의 삶을 더 편하고 행복하게 만들어 줄 것이라는 얘기를 듣는다. 반면에 인공지능이 인간의 삶을 지배하고 노예화할 것이라는 경고도 듣는다. 심지어는 슈퍼 컴퓨터에 의해 인류가 멸망할 것이라는 디스토피아적 전망을 그리는 영화들도 심심찮게 볼 수 있다.
우리는 인공지능에 대해 얼마나 이해하고 있는가? 양 극단의 이런 전망들은 어느 정도의 진실을 담고 있으며 우리가 정말 경계해야 하는 것은 무엇일까?
저자에 의하면 먼저 슈퍼 컴퓨터가 권력을 가지고 인류를 지배할 것이라는 생각은 하나의 망상에 불과하다고 말한다. 권력의 찬탈은 인공지능에게 자아와 권력욕이 존재한다는 전제가 있어야 가능하다. 그러나 인공지능이 권력에 대한 욕망을 가진다는 것은 상상할 수 없다.
그와 마찬가지로 인공지능이 우리를 더 행복하게 해 줄 것이라는 장밋빛 환상도 대단히 위험한 발상이라고 말한다.
트랜스 휴머니즘/포스트 휴머니즘 비판
인간을 초인으로 만들려는 시도들로 트랜스휴머니즘(과학기술을 이용해 사람의 정신적 육체적 성질과 능력을 개선하려는 지적, 문화적 운동)이나 나아가 인간과 컴퓨터를 융합시키면 인간 의식의 업로드가 이뤄져 초인 혹은 초지능 컴퓨터가 탄생할 것이라고 기대하는 포스트휴머니즘이 있다. 그러나 인간 개개인이 하나의 네트워크로 연결되면 스타트랙에 나오는 보그처럼 하나로 연결된 매트릭스의 부품으로 전락할 것이다.
하이테크 환상가들은 컴퓨터가 다운로드를 하듯 뇌에서 뇌로 생각이 전송되는 세계를 꿈꾼다. 하지만 정보와 생각은 다르다. 정보는 사고 과정이 없다. 의미가 없으면 생각도 없다. 의식은 대단히 개인적이다. 어떤 뇌도 다른 뇌와 똑같이 작업하지 않는다. 그렇다면 생각이 어떻게 정확히 이전될 수 있겠는가?
오늘 읽은 기사에 AI를 뛰어넘는 AGI 개발을 위해 마크 저커버그가 어머어마한 GPU를 구입한다는 소식이 있었다. AGI는 인간의 명령 없이도 스스로 일하고 사고할 수 있는 '완전한 AI'라고 한다.
브런치의 슈퍼피포님의 글에 네 살 된 아들이 닐 암스트롱의 달착륙선 그림책을 보고 우주선에는 세 명의 우주인이 있는데 달 표면에는 왜 우주인이 두 명밖에 보이지 않는가 물었다고 하였다. 나는 그 질문이 인간과 인공지능의 사고의 차이를 극명하게 보여준다고 생각했었다. 인공지능이 인간의 지시 없이 스스로 사고해서 그런 질문을 만들 수 있을까? 작가님의 또 다른 글 챗GPT가 그린 케이크 그림 글에서도 비슷한 문제를 느꼈었다. 작가님은 인공지능에게 가장 가치 있는 케이크 그림을 그려달라고 요구했는데 결국 '어머니가 만든 케이크가 가장 가치 있다'는 키워드가 들어간 후에야 의도된 그림을 받을 수 있었다고 말한다. 그런데 AGI가 개발되면 인공지능 스스로 그런 생각들을 모두 할 수 있게 되는 것일까? 인공지능에 문외한인 나로서는 짐작할 수가 없다. 다만 확실한 것은 인간은, 우리 모두에게는 가장 가치 있는 케이크의 그림이 다를 수 있는데 인공지능은 그 다른 가치들을 이해하고 그중 어느 것 하나를 선택할 수 있을까? 그리고 그 선택에 우리는 모두 동의할 수 있는가?라는 문제가 여전히 남을 것이라는 점이다.
포스트휴머니즘은 트랜스휴머니즘이 기대하는 강화된 인간 존재조차도 뛰어넘는 존재, 더 이상 인간이라고 부르기도 애매한 신인류(호모 데우스)의 탄생을 추구한다. 이들에게 결국 인간은 이 위대한 초지능을 탄생시키는 모태이자 구동 시스템으로 전락한다. 더 이상 인류는 존재하지 않게 되는 것이다.
이것이 우리가 바라는 미래의 모습인가? 누가 이러한 미래사회를 꿈꾸는가?
자본주의 발전의 동력인 인공지능/ 인간적 가치에 의해 통제되어야
인공지능의 발전을 이끄는 것은 앎에 대한 동경도 아니고 자연법칙도 아닌, 경제적 이윤추구 과정이다.
인공지능과 광대한 데이터에 기초해 발전한 IT 대기업들은 전통적인 의미의 시장경제의 통제를 벗어나 있다. 이제 시장은 국가정책에 의해 통제되는 것이 아니라 사용자의 행동을 조종하고 사용자 스스로 정보를 바치게 하는 인터페이스, 순위 평가 시스템rating, 기록 추적 시스템tracking 같은 교묘한 수단에 의해 통제된다.
이처럼 알고리즘에 의해 지배되는 체제를 알고크라시Algocracy(A. 아니쉬. 위스콘신대)라고 부르기도 한다. 알고크라시의 지배영역은 계속 넓혀져 왔다. 보건 분야, 교통 분야, 사물 인터넷 분야, 우주와 해저 공간을 넘어 인간 의식을 뚫고 들어가는 길을 넓히고 있다. 검색 엔진, 온 라인 결재 시스템, 소셜 네트워크, 게임, 온 라인 거래를 넘어 옷 속에 부착된 센서는 그 사람의 기분을 인지하고 스캔하고 자료를 축적한다. 뇌와 몸의 스캐너는 감정 세계를 샅샅이 훑는다. 감정적 움직임, 충동, 욕망에 대한 모든 정보가 상업화된다.
인공 지능을 활용해 세계와 인간 속으로 깊이 침투하려는 목적은 인간의 삶을 개선하는 것이 아니라 이윤을 증대하는 것이다.
이 목적을 감추기 위해 그들이 주장하는 두 가지 논리가 있다.
첫째는 혁신과 진보의 동일시
기계의 발전, 기술적 혁신이 진보, 그것도 자연스러운 진보, 인간이 적응할 수밖에 없는 것이라고 주장한다. 그러나 새로운 것이 반드시 진보는 아니다. 스탈린주의, 기관총, 종교재판소 같은 것은 당시에 대단히 혁신적인 것이었다. 파시즘과 스탈린주의는 스스로를 진보적인 것으로 보았다. 하지만 오늘날 우리는 다르게 본다. 당시에 아무리 새로웠다고 해도 휴머니즘의 파괴는 결코 진보가 아니다.
둘째는 인간을 포함해 세상 만물을 이용하는 것이 지상 명령이라는 주장
그러나 지구를 자신의 이익에 따라 사유화하는 것이 정말 한없이 용인되어야 하는가?
자본주의 경제에서는 이 문제는 제기되지 않는다. 자본주의의 유일한 목표는 이익추구이다. 경제적 이익이다. 정치적, 사회적 이익을 추구하는 것처럼 포장하는 거대 기업들의 구호는 사실상 경제적 이익추구를 숨기기 위한 위장이다. 페이스북이 내건 <세상을 더 가깝게>라는 구호는 이웃 사랑이 아니라 글로벌 팽창에 대한 명령이다. 아마존의 사명 <열심히 일하고 재미있게 살고 역사를 만들자>라는 구호는 늘 열악한 처우에 시달리는 그 회사 노동자들 입장에서는 냉소의 대상일 뿐이다.
무엇보다도 인간이 삶을 지속할 수 있는 유일하게 알려진 자연인 지구가, 기술적 혁신이 곧 진보이며 그것은 자연적 과정이며 필연적 미래라는 거짓 논리에 의해 엄청난 수탈과 파괴로 치닫고 있다는 점을 인식해야 한다. 인공지능의 발전을 위한 거대한 데이터 베이스를 건설하고 그것에 사용되는 엄청난 에너지가 지구 생태계를 파괴하고 있는데 이를 규제할 수 있는 힘은 아무도 갖고 있지 못하다.
기술적 발전이 인류의 생존에 꼭 필요한 것인가? 아무리 과학이 빠르게 발전한다고 해도 지금의 속도로 지구 생태계가 파괴된다면 지구가 파괴된 뒤 이주할 새로운 행성을 찾기 훨씬 전에 이미 지구는 폐허가 될 것이다. 설사 이주가 가능하다 해도 인류의 대부분의 파멸과 소수 특권층의 이주를 맞바꿀 만한 정당성이 있는가?
우리의 관심은 인공지능이 우리에게 가져다 줄 불확실한 행복이 아니라 지구의 파괴라는 확실한 불행을 막는데 돌려져야 한다. 하이테크와 인공지능은 이런 확실한 인간과 지구, 자연의 불행한 비극을 방지하는 쪽으로 방향을 조정해야 한다.
문제는 우리가 그걸 늦지않게 해낼 기회와 힘을 가질 수 있겠는가 하는 것이다.
다시, 인간과 자연을 함께 품은 휴머니즘의 시대를 꿈꾸며
하이테크 기업들의 테크놀로지는 원칙적으로 항상 효율적이고 진보적이다. 그러나 인간에게 효율성이 항상 자명하게 추구되는 가치는 아니다.
우리는 와인을 효율적으로 마시지 않는다.
90분 동안 열심히 슈팅을 날리지만 성공하는 경우가 드문 축구는 결코 효율적인 경기가 아니다.
끝없이 자원을 착취하며 국내 총생산을 높이는 것이 효율적일까 아니면 그것을 포기하는 것이 장기적으로 더 사회에 효율적일까?
온 라인 거래는 도심 문화를 대체한 진보일까? 혹은 여유 있게 거리를 걸으며 쇼핑을 즐기던 다채로운 도심 문화의 상실일까?
자율주행이 장기적으로 교통사고 사망률을 떨어뜨리기 때문에 필요하고 중요하다고 계속 주장하는데 교통사고율을 줄이는 다른 방법은 없을까?
당신이 누군가의 시를 읽거나 노래를 듣거나 그림을 감상할 때 당신은 그 예술 작품의 창작자들과 정서적 교감을 느낄 것이다. 많은 예술작품들은 감상하는 사람들이 그 작품을 창조한 작가들의 개인적, 사회적 서사에 자신을 연결시키고 감정이입을 하면서 더 감동을 받는다. 컴퓨터가 만들어 내는 작품에서도 이런 개인적 서사와 연결된 감동을 느낄 수 있을까?
저자는 끊임없이 ‘인간적 가치’의 중요성을 상기시킨다.
나의 삶에 의미를 주는 결정들, 자아가 향하는 가치들을 선택해야 하는 수많은 결정을 당신이 아닌 기계가 결정해도 좋은가?
인공지능이 결정한 '행복한 삶'의 기준에 맞춰 주어진 선택과 결정, '최적화되고 표준화'된 생활이 우리에게 존재의 의미를 줄 수 있을까?
그리고 그 인간적 가치와 의미는 인간의 존재를 가능케 하는 유일한 터전 '지구와 자연'을 포함해야 한다고 말한다. 평범한 우리는 작지만 소중한 의미와 가치를 추구하며 살고 있다. 그러나 그 삶의 터전과 환경이 파괴되어 가는 상황에 눈감고 모르는 척 살 수는 없다. 인간은 과거와 현재 못지 않게 미래를 꿈꾸는 존재이기 때문에. 그 미래가 우리의 현재에 의해 결정되기 때문에.
이 책은 계몽주의 시대 이후 인문학적 인간이해의 한계를 벗어나고자 추구된 물리학, 생물학, 뇌과학 등 여러 분야에서 시도되고 있는 인간에 대한 탐구에 대한 새로운 인문학의 도전 혹은 응답이라고 볼 수 있다. 그다지 길지 않은 책이었지만 그냥 지나치기 어려운 다양한 문제제기와 생각할 거리들을 담고 있어서 간략히 정리해서 소개하는데 어려움을 겪었다. 이 주제에 관심 있는 분들은 꼭 한 번 읽어보시라고 권하고 싶다.
