brunch

라이킷 7 댓글 2

You can make anything
by writing

C.S.Lewis

계정을 잊어버리셨나요?

by 시몬 Nov 23. 2019

에세이와 시12

AI와 인간기동대

낯선 곳에서 커피를 마시며 AI를 생각......

4차산업혁명의 총아 AI.

요즘 페북이나 신문 등 매스컴 곳곳에선 4차산업혁명(4thir)의 총아로 떠오른 AI, 빅데이터, Iot 등에 관한 포럼이나 강연 소식이 자주 보인다. 빅데이터, AI, Iot로 이어지는 새로운 사회의 도래를 위해 무엇을 준비해야 하는지... 스마트팜 시대를 위해 드론 자격을 따 보라는 권유도 사람들로부터 받기도 한다. 그런데 한편으로는 이미 AI 시대에 살고 있지 않느냐 하는 반문도 든다.

국내 포털 사이트에서는 빅데이터를 바탕으로 AI의 '학습에이전트(learning agent)'를 통해 개개인의 선호도를 분석한 뒤, 각자가 원하는 콘텐츠들을 노출시키고 있는 것으로 보인다. 주로 광고 부문과 신문에서 개인의 취향을 분석해 많이 활용되고 있는 것 같다. 따라서 개별 사용자에 따라 포털 사이트에서는 보이는 내용이 약간씩 다른 것이다.

이는 특히 유튜브에서 매우 두드러지게 나타나고 있는 것 같다. 가령 보수 진영의 유튜브를 보는 사람이라면, 아마도 그 사람의 유튜브에서는 진보 진영의 유튜브는 거의 노출되지 않는다는 식이다. 물론 역으로도 마찬가지이다. 어느 날 이것도 'AI의 장난인가(?)' 하는 생각이 문득 든 적이 있다.

AI의 기초 분야인 '학습 에이전트(learning agent)를 활용한 결과가 아닌가 말이다. 학습에이전트란 사용자가 인터넷상에서 진행하는 작업을 관찰하여 관심 분야를 판단한 뒤, 사용자에게 '알맞은(?)', 아니 '원하는' 정보를 전달하도록 하는 시스템이다.

AI의 학습에이전트가 포털사이트에서 노출되는 언론 뉴스에 적용되면 어떻게 될까 하는 호기심 어린 의문이 든다. 예를 든다면, 동일한 팩트에 대하여 콘텐스 생산자의 뉴스와 언론의 편향성이 더해지고, 여기에 여론의 기능을 하는 포털사이트나 리서치기관에서 빅데이터의 확률 함수적 왜곡이 더해진다면, 또는 AI의 백 프로퍼게이션(back propagation)이 약화된다면, 그리고 마침내 학습에이전트 기능으로 개인의 성향에 맞는 정보만 노출된다면 어떻게 될지 시뮬레이션적 사고를 해본다.

4차산업혁명의 총아 사물인터넷(Iot)

지금까지는 어디까지나 사이버 네트워크상 시뮬레이션이다. 여기에 현실 세계에 속하는 인간의 근원적인 사고인 '사람은 자기가 보고 싶은 것만 본다'는 철학적 한계가 결합되면, 현실 세계에서는 AI로 인해 깊은 분쟁이 일어나지 않을까?

예를 든다면, 두 파의 인간기동대들이 등장, '두뇌가 서로 가짜 뉴스에 오염됐다'면서 분쟁이 일어나지 않을까? 인간은 독자적 판단 능력의 주체이지만, 이때부터는 매우 단순한 동일한 팩트를 놓고 'AI의 농간'으로 인해 서로 갈려 복잡하고도 극렬한 헤게모니 장악의 싸움이 벌어질 것으로 보인다.

그런데 이는 매우 순진한 경우이다. 더 최악의 시뮬레이션도 생각해 볼 수 있다. 지금은 특정 분야의 해결 능력에 국한된 '내로 AI(NAnarrow artificial intelligence)' 수준이지만, '범용 AI(AGI, artificial general intelligence)'가 등장하여 '셀프 양자 코딩'을 하고, 인간의 능력으로는 해독할 수 없다면 어떨까?

딥러닝을 통한 데이터 마이닝을 하는 강력한 AI 로봇.

어느 날 범용 AI가 인간이 감성적 직관과 추론적 지성으로 결코 인식에 도달할 수 없는 철학적 의미의 전체 또는 세계인 '문두스(mundus)'를 이해한 날, 한낱 자기탐욕적이고도 미개한 인간 종족들을 굳이 지구상에 살려 두는 것이 거추장스럽게 느껴질 때, 아니면 따뜻한 어느 날 범용 AI가 삶이 지루하다고 느낄 때, 사소하고도 단조로움에 못 이겨 인류에 싸움을 붙이거나 핵전쟁을 일으킬 수도 있지 않을까 생각하면 오금이 저려 온다......

시뮬레이션 사고는 시뮬레이션 사고일 뿐! 공연한 기우인가?

스티븐 호킹(Stephen William Hawking, 1942~2018)

: 영국 케임브리지대학 루카스좌 석좌 교수

"나는 AI가 인간을 완전히 대체할지도 모른다고 우려한다. 사람들이 컴퓨터 바이러스를 만들었다면, 누군가는 스스로 진화하고 복제하는 AI를 만들 것이고, 이는 인간을 능가하는 새로운 형태의 생물체가 될 것이다."

_ 미국 IT잡지 <와이어드> 인터뷰 中에서

"AI 통제를 위하여 세계 정부를 시급히 세워야 한다. AI의 급성장으로 사람의 힘으로 통제 불가능한 시점이 빠르게 다가오고 있다. 사람의 힘으로 통제 가능한 지금 시점에 AI 기술을 통해 발생할 수 있는 잠재적인 위협을 규정하고 세부적인 지침을 만들어야 한다."

_ 영국 <더타임즈> 인터뷰 中에서