AI와 더불어 사는 미래를 디자인하자
인문디자인과 디크리에이션 그리고 새로움의 시작
에너지경제 신문에 기고한 글입니다. http://www.ekn.kr/news/article.html?no=498443
현실 HCI, 일방향의 AI → ‘관계’의 양방향 HCR로 변화해야
AI는 논리적인 알고리즘 덩어리다. 인간은 비논리적인 생명체다. 이 둘은 생각하고 판단하는 기준이 다르다. 미래엔 인간과 기준이 다른 AI가 인간이 사용하는 모든 기계를 통제하고 작동시킬 것이다. 기계를 작동시켰던 인간의 상황판단과 의사결정은 AI의 알고리즘으로 대체되는 것이다. 즉, AI는 기계를 작동시키는 일을 하고, 인간은 편리함과 휴식을 얻는다. 이 즈음 AI가 인간에게 묻는다. “인간의 비논리적인 행동엔 어떻게 대응해야 합니까?" 인간의 비논리적인 행동에 대한 대응을 결정해야 할 때가 된 것이다. AI는 논리적인 답을 기다리고 있다. 당신은 무엇이라 말할 것인가? 당신의 대답이 인간의 미래를 정할 것이다.
인간의 비논리적인 행동에 대응하는 AI의 알고리즘을 다룬 두 편의 영화가 있다. ‘스카이’라는 AI가 등장하는 터미네이터(1984)와 ‘비키’라는 AI가 등장하는 아이 로봇(2004)이다. 영화는 기술적 해결방안을 제시하지는 못하지만, 기술이 어떠해야 하는지를 시각화해서 보여준다. 우리가 이 영화에 주목해야 하는 이유다. 두 영화는 AI가 일상화된 미래를 배경으로 여전히 지구 환경을 파괴하는 등 비논리적인 행동을 계속하는 인간과 AI가 대립하는 상황을 묘사하고 있다. 영화 터미네이터의 AI 스카이는 인간의 비논리적 행동이 모든 위험의 근원이라 규정하고 핵무기로 인간을 공격한다. 스카이는 인류를 멸망시키는 극단적인 선택을 한 것이다. 영화 아이 로봇에 등장하는 AI 비키는 어떠한 경우에도 인간을 해치거나 해를 끼칠 수 없는 알고리즘을 갖고 있다. 그럼에도 불구하고 비키 또한 인간의 자유를 박탈하고 구속하는 극단적 선택을 한다. 그리고 이 판단은 완벽하다고 말한다. 영화 아이 로봇은 이러한 극단적 상황을 해결하는 기술의 방향을 제시한다.
AI 비키의 통제를 벗어난 써니라는 특별한 로봇이 등장하고 이 로봇의 활약으로 인간은 일상을 되찾게 된다. 써니는 AI 알고리즘을 개발했던 사람의 사랑을 받으며 성장한 로봇이다. 그런 써니는 “(네가) 인간을 돕는 논리를 이해 못하겠어”라는 AI 비키의 질문에 “이해하지 마 (나는) 비논리적이야”라고 대답하기도 하고, 인간에게 “나는 누구인가?”라는 질문을 던지기도 한다. 자신의 고유성을 상대에게 보여주고 정체성을 찾는 인간과 닮아있다. 논리와 비논리를 경험한 로봇 써니가 사태 해결을 주도하게 함으로써, 인간과 AI가 공존하기 위한 AI 기술의 방향을 제시한 것이다. 로봇을 통제했던 AI 비키가 사라진 후, 인간을 공격했던 로봇들이 언덕 위에 서 있는 써니를 바라보는 장면에서 영화는 마친다. 논리와 비논리를 경험한 새 AI의 탄생을 암시하는 것이다. 결국 인간의 미래는 “인간의 비논리적 판단기준을 AI가 인식하는 논리적 알고리즘으로 바꾸는 기술에 달렸음을 상기시키는 시나리오다.
써니와 같은 알고리즘은 어떻게 만들 수 있을까? 인간과 기계 사이의 상호작용 기술을 정의한 HCI(Human Computer Interaction)라는 용어가 있다. 그러나 실제는 인간의 명령을 기계가 수행하는 일방향의 기술이다. 인간은 지키지 않으면서 AI에게는 바른 것을 강요하는 HCI 방식의 AI 알고리즘이 개발되고 축적된다면, 언젠가 AI는 그 알고리즘을 인간도 따라야 한다는 판단을 하고 인간과의 경계를 넘는 상황이 발생할 것이다.
범 지구적 위기인 코로나 19 사태도 같은 맥락에 해당한다. 인간이 동물과의 경계를 지키지 않았기에 동물의 바이러스가 인간의 일상으로 들어올 수 있었던 것이다. 미래의 AI는 인간과의 경계를 허물 수 있다. 영화는 현실을 반영하기 때문이다. 최근에 미국 Autodesk가 만든 AI 통화원은 고객이 같은 말을 반복하지 않아도 되는 기능이 있고, 국내 고등학생이 제안한 시각장애인에게 길을 안내하는 알고리즘은 인간이 걷는 길을 인식하는 방식으로 시도했다.
이렇듯 AI와 인간이 서로를 존중하고 양방향으로 소통하는 HCR(human Computer Relationship) 기술을 디자인해야 한다. 그래야 인간의 비논리적인 행동을 AI가 이해하고 성장하고 공존할 수 있음을 명심해야 한다.
