인공지능 시대가 두려운 사람들에게
리처드 왓슨 Richard Watson
마사 레인 폭스는 “사물의 심장부에 인터넷을 집어넣으면
더 흥미로운 선택을 할 수 있게 된다.”라고 말했다.
내 생각은 다르다.
사물의 심장부에 넣어야 할 것은 인터넷이 아닌
인간의 마음이다.
<인공지능 시대가 두려운 사람들에게> 리처드 왓슨 p340
<인공지능 시대가 두려운 사람들에게> 리처드 왓슨 Richard Watson 리뷰
Digital VS Human_미래에 우리는 어떻게 살고 사랑하고 생각할 것인가
� 인공지능 시대, 인간으로 살아남기에 대한 질문 : 미래에 우리는 어떻게 살고 사랑하고 생각할 것인가
� 디지털 기술의 목적은 무엇이며, 인간은 이를 어떻게 활용하는 것이 좋은가.
� 인공지능이 특이점이 와서 인간을 능가하게 된다면 어떻게 될까.
� 독서See너지
▶ 도서 : <프랑켄슈타인_메리 셸리
▶ 영화 : <레디 플레이어 원>, <메간>, <A.I>, <Her>, <네버렛미고>
▶ 음악 : UTOPIA_ATEEZ, We All Complete_Rachel Portman (네버렛미고 OST), Lately_Stevie Wonder
앨빈 토플러, 다니엘 핑크와 함께 '세계 3대 미래학자'로 손꼽힌다는 리처드 왓슨. 코로나 팬데믹이 남긴 것은 거리 두기와 단절의 불편하면서도 편리함이었다면, 미처 깨닫지 못하는 동안 우리 삶 속에 스며든 것은 바로 인공지능이다.
딥러닝(Deep Learning) 기술은 1980년대부터 제프리 힌튼 (전 구글 부사장) 등에 의해 연구된 것으로 컴퓨터 스스로 외부 데이터를 조합,분석하는 기술이다. 2016년 알파고와 인간이 격돌한 바둑 대결에서 알파고 즉 인공지능이 4:1로 승리했다는 사실이 우리에게 던지는 흥미로운 메시지와 두려움은 시작에 불과했다. 의료, 자동차, 법룰, 금융, IT 뿐만 아니라 창작의 영역이라 불리던 예술 세계로도 진입한 상태다. 최근에는 챗GPT의 등장과 자율 주행차 등으로 개인의 영역에 까지 인공지능의 활용도는 어마어마해졌다.
모바일 기기는 고요함을 낳는다. 반면 진짜 고요함을 견뎌내는 능력은 떨어지고 있다.
<인공지능 시대가 두려운 사람들에게> 리처드 왓슨 p74
어찌된 일인지 점점 오프라인에서의 인간적 교류는 고요해지고 있으나, 미디어 기기 속 온라인 세상에서는 매우 활발하게 활동 중이다. 영화 <레디 플레이어 원>에서처럼 가상 현실에서 살아갈 날도 머지 않은 것 같은 느낌도 든다. 아니, 어쩌면 이미 익숙해져 있는지도 모른다. 이는 더욱 가속화될 것으로 보인다.
최근 일론 머스크와 마크 저커버그가 만나, 옥타곤 위에서 한바탕 '격투'를 예고했던 것과 달리, 테슬라 CEO와 메타 CEO는 인공지능에 대한 의견을 나눈 것으로 알려졌다. 인공지능을 핵보다 위험하다고 주장해온 일론 머스크는 'AI는 엄청난 잠재력을 지니고 있지만, 동시에 문명에 대한 위험도 내포하고 있다'고 경고했고, 마크 저커버그도 이에 동의하며, 'AI 규제 부서'가 필요함 함께 주장했다.
포용력과 재치가 있고 인간이 잘 하는 것에 집중하는 개인과 기관만이 그런 미래가 동반하는 불확실성과 혼돈에서 살아남을 수 있다. 더 나아가 그런 미래에서 잘 살고 싶다면 기계 지능에 맞서지 말고 그 지능을 잘 활용해야 한다. 무엇보다 사람은 특별한 존재이고 디지털 기술은 사람을 대체하기 위해서가 아니라 언제나 인간의 사고와 인간관계에 기여하는 방향으로 수용되어야 한다는 것을 잊지 말아야 한다.
디지털 기술이 우리의 편협성을 강화했듯이 부디 우리의 따뜻한 마음도 증폭하시는 바란다.(...) 디지털 기술의 목적은 무엇이며 우리는 디지털 기술이 우리 인간을 위해 무엇을 해주길 바라는가?
<인공지능 시대가 두려운 사람들에게> 리처드 왓슨 p326
영화 <메간>은 인간을 안전하게 지키기 위해 만들어진 로봇 '메간'이 자신의 역할에 충실함으로써 더욱 위험해진 인간의 상황을 보여준다. <Her>에서는 인간이 운영체제와 사랑에 빠지는가 하면 <A.I>에서는 AI가 감정을 갖기 시작하면서 일어날 수 있는 안타까운 일들이 담겨있다.
최악의 디스토피아는 기계가 의식을 얻을 뿐 아니라 자기 복제를 하는 세상이다.
<인공지능 시대가 두려운 사람들에게> 리처드 왓슨 p98
메리 셸리의 <프랑켄슈타인>은 셰익스피어가 희극과 비극의 양면성을 통해 인간의 심연 깊숙이 들어가 보듯 창조자와 피조물의 희비극을 통해 인간 세상의 모순과 어두운 내면의 분출, 원죄의식을 반영하고 있다. 인공 지능 역시 인간이 창조해낸 피조물이라는 관점에서 본다면, 윤리적인 문제를 되짚어 보는 출발선이 되지 않을까 싶다.
가즈오 이시구로의 소설이 원작인 영화 <네버 렛미고> 역시 자기 복제로 인한 윤리적 문제를 생각하게 하는 영화이자, 소설이다. 미래학자 뿐만 아니라 문학과 영화, 예술 분야에서도 활발하게 논의되고 있는 것이 바로 이 인공지능과 자기 복제 시대에 대한 질문이 아닌가 한다.
We All Complete_Rachel Portman (네버렛미고 OST)
인공지능이 특이점이 와서 인간을 능가하게 된다면 어떻게 될까. 이미 인간의 역할을 대체하는 기계 장비들이 늘어나서 잉여 인간이라는 말이 나올 정도다. 가령 키오스크 같은 기계나, 휴대폰 속 클릭만으로도 손쉽게 물품을 배송받는 시스템이라든지, 편리함만 생각하고 있지만, 인간이 인공지능에 점점 대체되고 있고, 그것이 자연스럽게 다가오는 중이다. 대화보다는 문자가 편하고, 대면보다는 기록이 편해지는 시대. 가랑비에 옷 젖듯, 우리는 이미 인공지능 시대를 살아가고 있다.
디지털 세계에서 사용되는 감정을 표현하는 기호가 인간관계를 약화할 수 있다. 마찬가지로 누군가 바로 옆에 앉아 있을 때조차 현실 세계에 머물지 못함으로써 인간관계는 사라진다.
나도 다른 이들의 존재가 불편하게 느껴질 때가 있다. 그러나 물리적으로는 그 자리에 있지만 정신적으로는 다른 곳에 있는 사람들로 가득찬 카페는 더 끔찍했다. 철학자 알랭 드 보통의 말대로 오늘날 마음을 아프게 하는 것은 사람들의 부재 자체라기보다는 그런 부재에 사람들이 얼마나 무관심한가다.
<인공지능 시대가 두려운 사람들에게> 리처드 왓슨 p34
‘세계 3대 미래학자’ 리처드 왓슨
인공지능 시대, 인간으로 살아남기에 대해 묻는다.
로봇이 외로움을 달래줄 수 있을까, 사랑도 디지털이 될까, 앱이 선생님이면 공부는 어떻게 해야 하나, 자율주행 자동차는 우리를 어디로 데려가나… 그리고 이 모든 질문의 열쇠는 무엇이 쥐고 있는가?
디지털 혁신이 계속되고 있다. 우리는 인간다움과는 거리가 먼 속도, 편의, 효율의 삼위일체에 집착하고 있다. 세계적인 추세는 물리적 경제와 디지털 영역 간 연결고리를 강화하고, 심화하고, 가속화하는 것이다. 조금 먼 미래를 생각하면 많은 분야에서 기계의 지능과 능력이 우리 인간의 지능과 능력보다 늘 더 뛰어난 시대가 올 것이라는 데 의심의 여지가 없다.
그런데 정작 중요한 것을 우리가 잊고 있는 건 아닐까? 지난 50년 동안 물질적으로 엄청난 발전이 있었지만, 전 세계적으로 디지털 기술에 대한 신뢰는 위기에 처해 있다. 디지털 기술의 미래는 소수의 공학도들 손에 달려 있는데, 인류의 다수는 그들이 무엇을 생각하고 있는지 모른다. 기술의 종착지는 어디가 될까? 인간, 자본, 그도 아니라면 기술 그 자체?
세계 3대 미래학자 리처드 왓슨. 그가 바라본 디지털 문명의 오늘과 미래. 지금 우리는 왜 불안해하며, 진정 무엇을 갈망하는가? 인공지능 시대, 우리를 인간으로 살아남게 해줄 선택들을 모색해본다.
책 소개 교보문고 제공
<발췌>
디지털 세계에서 사용되는 감정을 표현하는 기호가 인간관계를 약화할 수 있다. 마찬가지로 누군가 바로 옆에 앉아 있을 때조차 현실 세계에 머물지 못함으로써 인간관계는 사라진다.
나도 다른 이들의 존재가 불편하게 느껴질 때가 있다. 그러나 물리적으로는 그 자리에 있지만 정신적으로는 다른 곳에 있는 사람들로 가득찬 카페는 더 끔찍했다. 철학자 알랭 드 보통의 말대로 오늘날 마음을 아프게 하는 것은 사람들의 부재 자체라기보다는 그런 부재에 사람들이 얼마나 무관심한가다. p34
자런 러니어가 [미래는 누구의 것인가?Who owns the future?]에서 물었듯이 “더 이상 모든 사람이 꼭 필요하지 않게 된다면 ‘남아도는’ 인간에게는 어떤 역할이 주어져야 할까?” 21세기 사회의 필요 목록에서 잉여로 표시되는 인간은 어떻게 될까?p37
소셜미디어는 계속 좁아지기만 하고 결코 넓어지지 않는 편협함을 낳고 있다. p40
결국 ‘더 많이 변할수록 더 똑같다.’ 단지 오늘날 디지털 세상에서 경이와 컴퓨터 생성 이미지가 넘쳐나다 보니 현실 세계의 경이에 사람들이 무덤덤해졌고 역설적이게도 사람들의 상상력이 줄어들고 있다는 점이 다를 뿐이다. p46
우리는 또한 어떤 것들은 말하지 않고 내버려두는 것이, 아니면 적어도 기록을 남기지 않는 것이 더 낫다는 사실을 깨닫게 될 것이다. p52
과거에는 사람들이 원하는 물건을 만들어서 거대한 부를 쌓았다면 미래에는 사람들이 자신을 원하도록 만들어서 거대한 부를 쌓게 될 것이다. 더 나아가 인간의 행복이 근본적으로 남을 돕는 데에서 나온다면 공유와 협력이라는 새로운 온라인 철학은 새로운 만족의 시대의 여명을 소리 높여 환영할 것이다. p55
수만 그린필드는 페이스북 같은 사이트가 “상상 속 정체성들 사이에 순간적인 연결”을 만들어낸다고 주장한다. (...) 그래서 현실과는 분리된 지리멸렬한 과시 경쟁을 낳는다. p71
첨단기술과 심리학의 접점을 연구하는 셰리 태클은 현대 사회는 역사상 가장 수다스러운 시대지만, 대신 깊이 있고 의미 있는 대화가 희생되고 있다고 지적했다. 우리는 상대에게 말을 던질 뿐 서로 말을 주고 받지 않는다. 또한 과거와 미래 모두의 맥락에서 단절된 채 순간만을 살아간다. p72
모바일 기기는 고요함을 낳는다. 반면 진짜 고요함을 견뎌내는 능력은 떨어지고 있다. p74
사람들은 진짜로 보거나 경험하는 것이 아닌 기록하고 보여지는 것에 집중한다. 강조점이 삶을 사는 데 있는 것이 아니라 기록하는 데 있는 것이다. 마치 기록되어 다른 모든 이가 볼 수 있어야만 경험이 가치가 있다고 주장하는 것 같다. p76
입체감과 맥락은 모두 무너지고 인터넷만이 유일한 현실이 될 것이다. 그러면 인간은 결국 효율성 제고만을 추구하는 알고리즘으로 취급될 것이다. 니컬러스 카의 표현대로 “자기 몸의 운전자가 아닌 탑승객”이 되는 것이다. p77
더 나아가 창의성과 혁신은 운과 다양한 인풋에서 나온다. 우리가 모두 같은 음악을 듣고, 같은 영화를 보고, 같은 정보를 소비한다면 결국 어떻게 될까? 우리의 불만, 결함, 실수가 사물과 삶을 흥미롭게 만들고 궁극적으로는 인간적이게 만드는 것 아닐까? 운이라는 요소 덕분에 개개인의 인생에 개성과 살 만한 가치가 더해지는 것 아닐까? p79
오늘날 개인이 자아도취와 자기과시로 빠질 수 있었단 것은 앞서 언급한 예의와 협력은 아니라 평등과 표현의 자유 덕분이다. 이것만 봐도 결국 세상은 변하지 마련이라는 것을 알 수 있다. p85
최악의 디스토피아는 기계가 의식을 얻을 뿐 아니라 자기 복제를 하는 세상이다. p98
실제로 우리는 이미 3D프린터를 조립하는 데 필요한 부품 다수를 출력할 수 있는 3D프린터를 만들었다. p98
만약 상대성 이론을 완전히 버리고 양자역학 이론을 받아들이면 꽤 다른 그림이 탄생한다. 양자물리학에서는 미래의 사건이 현재의 가능성에 의해 결정된다. 누가 경험하느냐에 따라, 혹은 누구의 관점에서 보느냐에 따라 인간의 현실이 하나 이상의 상황에서 전개된다는 식이다. 이런 논리에서 기분이 좋아지는 논리에서 도출되는 실용적이면서도 기분이 좋아지는 결론은 미래는 우리가 만들기 전까지는 존재하지 않는다는 것이다. p102
포용력과 재치가 있고 인간이 잘 하는 것에 집중하는 개인과 기관만이 그런 미래가 동반하는 불확실성과 혼돈에서 살아남을 수 있다. 더 나아가 그런 미래에서 잘 살고 싶다면 기계 지능에 맞서지 말고 그 지능을 잘 활용해야 한다. 무엇보다 사람은 특별한 존재이고 디지털 기술은 사람을 대체하기 위해서가 아니라 언제나 인간의 사고와 인간관계에 기여하는 방향으로 수용되어야 한다는 것을 잊지 말아야 한다.
디지털 기술이 우리의 편협성을 강화했듯이 부디 우리의 따뜻한 마음도 증폭하시는 바란다.
(...) 디지털 기술의 목적은 무엇이며 우리는 디지털 기술이 우리 인간을 위해 무엇을 해주길 바라는가? p326
인공지능 특이점 p329
이미 앞에서 강조했듯이 문제는 기술이 아니다. 인간이다. p339
마사 레인 폭스는 “사물의 심장부에 인터넷을 집어넣으면 더 흥미로운 선택을 할 수 있게 된다.”라고 말했다. 내 생각은 다르다. 사물의 심장부에 넣어야 할 것은 인터넷이 아닌 인간의 마음이다. p340
<인공지능 시대가 두려운 사람들에게> 리처드 왓슨
