우리는 왜 인공지능에 그토록 열광 하는가?
인공지능은 인간을 대체하지 않는다.
로마에서는 그를 불카누스라 불렀습니다. 그는 절름발이지만 불과 도구를 잘 다루고 손재주가 뛰어나서 무기나 갑옷 같은 것을 잘 만들었습니다. 닉소스 섬의 대장장이인 케달리온이 그를 제자로 삼고 금속과 불꽃을 다루는 법을 가르쳐 주었고, 나중에는 금, 은, 철을 가지고 무엇이든 만들 수 있게 됩니다.
그의 이름은 헤파이토스. 제우스의 번개, 아프로디테의 허리띠, 에로스의 화상과 활을 만들어 주었고, 트로이의 영웅 아킬레우스가 입었던 갑옷이 적의 손에 넘겨지자 아킬레우스의 어머니 테티스가 다시 한 번 헤파이토스에게 갑옷을 부탁 했다고 합니다. 헤파이토스의 작업장에는 그를 돕는 희한한 물건이 있었다고 합니다.
이들은 살아 있는 소녀들과 똑같아 보였는데 가슴 속에 이해력과 음성과 힘도 가졌으며 불사신들에게 수공예도 배워 알고 있었다
(‘일리아스’, 천병희 역, 515~516쪽)
"이해력과~" : 기계 독해(Machine Reading Comprehension)
"음성과~" : 음성인식(STT, Speech To Text), 음성합성(TTS, Text To Speech Synthesis)
"수공예도 배워~" : 비전 인식, 동작 심층 학습
헤파이토스는 만들어야 할 것들이 많아서 너무도 바빴고 대장장이 일을 수월하게 하기 위해서 자신을 돕는 황금 하녀를 만들었습니다. 또한, 그는 크레타의 왕 미노스에게 강한 청동로봇-탈로스를 만들어 선물했습니다. 탈로스는 거대한 청동 거인으로 크레타섬에 상륙하려는 선박이 보이면 바위를 던져서 격침시키고, 땅에 상륙한 적들을 뜨겁게 달군 몸으로 끌어안아 물리쳤으며, 크레타섬이 평화로운 일상을 보낼 수 있도록 작동하였다고 합니다.
"선박이 보이면~" : 객체 탐지 (Object detection), 이상징후 감지 (Anomaly detection)
기원전 1900~1000년 전으로 추정되는 신화로 부터, 우리는 인공지능과 로봇에 대한 그 시대의 상상력을 쉽게 찾아볼 수 있습니다. 그 당시, 고대 그리스 로마 시대에는 노예 제도가 있었습니다. 참정권이 없는 노예는 실질적으로 경제 사회를 원활하게 만들어 주는 동력의 기반이 되었고, 이에 힘입어 일반 시민들은 정치와 문화를 풍요롭고 호사스럽게 만들 수 있었던 것입니다.
그런데 주목할 점은, 노예제도가 주요 노동력의 근간이 되어 주었음에도 불구하고 로봇의 개념이 있었다는 것입니다. 노예가 제공하는 노동력 만으로는 채워지지 않는 욕구나 욕망이 존재했었고, 어떤 존재를 계속 꿈꿔 왔다고 말 할 수 있습니다. 예를 들어, 지적으로 뛰어나서 한 번만 이야기 해도 잘 알아듣고 잘 따르며, 지치지 않고, 실수 하지도 않으며, 주인의 권위를 넘어서지 않는 순종적인 존재 말입니다. 신이었던 헤파이토스는 신의 권위를 넘어설 용기나 욕망이 배제된 인공지능 로봇을 만들어 두고, 좀처럼 다루기 어려웠고 만족스럽지 못했던 노예를 대체하고자 했습니다. 헤파이토스의 정교한 금속 가공 기술을 쉽게 따라할 수 있는 지적 능력을 가진 노예는 좀처럼 찾기 힘들었을 테니까요.
이처럼 인공지능이나 로봇은 인간의 욕망 한 가운데 존재 하며, 그 실체적 모습은 인간이 불편해 하고 어려워 하는 모든 부정적인 측면을 완벽하게 해소 가능한 상태로 꾸준히 상상되어졌다고 볼 수 있습니다. 근대 과학기술이 날로 발전해서 그 복잡도가 인간의 직관적 이해의 능력을 뛰어 넘기 전까지는 말이죠.
통계학, 확률론, 정보이론, 뇌과학 등의 과학 기술이 발전함에 따라 인간은 신화 속에 회자되던 존재를 다시 꺼내 듭니다. "기계는 생각할 수 있는가?" 라는 화두를 던진 엘런 튜링, 디지털 통신 개념을 처음 소개하고 정보이론을 정립해서 파일 압축이 가능하게 한 클로드 섀넌, 인간의 뇌세포를 흉내낸 퍼셉트론을 모델링한 프랭크 로젠블랫, 단순 퍼셉트론의 한계를 증명한 마빈 민스키, 다층 퍼셉트론의 효과적인 학습 방법을 만들어 낸 제프리 힌튼 등의 활약으로 신경망을 닮은 인공지능이 활기를 띄게 됩니다.
실리콘밸리의 반도체 기술에 힘입은 신경망 인공지능 기술은 딥러닝이라는 형태로 대중화 됩니다. 매우 많은 양의 연산 작업을 빠르게 수행해 주는 그래픽 카드(GPU, Graphics Processing Unit) 덕분이었습니다. 값싼 그래픽 카드에서 잘 돌아간다는 것도 매력적이었지만, 데이터를 많이 준비해 두면 가르치는 방법은 크게 신경쓰지 않아도 된다는 것이 더 큰 매력이었습니다.
딥러닝을 학습 시키는 방식은 사람에게 가르치듯, 쉬운 지식부터 어려운 지식 순서로 차례 차례 세심한 접근을 하는 것이 아닙니다. 학습에 사용되는 모든 데이터 (말뭉치, Corpus)를 한곳에 쏟아놓고 성능 좋은 컴퓨터로 알고리즘을 돌리면 학습이 끝나는 그런 방식이었고, 이런 과정의 단순함 때문에 과학자나 개발자들이 더 선호 했습니다.
인공지능이 인간을 닮았고 인간이 하는 많은 일들을 대체한다는 모호한 정의를 내리지만, 실제로는 좀 더 그럴듯 한 이유가 있습니다. 우리가 인공지능을 상상하고 정의 내리는 과정에 "인간에 대한 당혹감" 이라는 감정이 큰 영향을 줍니다. 인간이 인간을 대할 때 느끼기 쉬운 당혹감에 좀 더 집중되어 있습니다.
고대 그리스 시민들은 그들이 소유한 노예의 사용 언어, 지적 능력, 그들의 감정선을 잘 이해해야 그들에게 제대로 일을 시킬 수 있다는걸 깨달으면서 당혹감을 느꼈습니다.
현대 머신러닝 개발자들은 그들이 소유한 데이터의 통계적 특성, 범주형/시계열 데이터의 가공 방식에 따라 성능이 달라진다는 걸 깨달으면서 똑같은 당혹감을 느꼈습니다.
특성 : Feature. 데이터를 가공하여 우수한 통계적 특성을 추출하면 기계학습 성능이 개선됨. 특성 추출 작업은 특성공학 (Feature engineering) 이라고 함.
그래서, 고대 그리스 시민들은 지적으로 완벽한 인공지능과 로봇의 모습을 신화 속에서 그려냈고, 현대의 머신러닝 개발자들은 그들이 소유한 데이터의 통계적 특성을 몰라도 잘 학습해 주는 딥러닝 기술을 컴퓨터 속에 그려냈던 것입니다.
신화처럼 그려낸 딥러닝 기술은 작업의 단순함을 유지하기 위해서 데이터 양을 늘릴 수 밖에 없었고, 연산양과 복잡도 또한 증가했습니다. 시간이 지나자 초 거대 AI와 같은 무자비한 시스템이 등장했고 한 화면에 펼쳐놓고 조망할 수 없는 수준으로 복잡해 졌습니다. 복잡도는 곳 비용을 의미 합니다.
Base-scale model > Large-scale model >> Hyper-scale model
(저렴한 모델 > 고비용 모델 >> 접근하기 어려운 모델)
인간은 다시 당혹감을 느끼는 중입니다.
첫번째는, 인공지능을 위한 기술 비용이 많이 비싸지면서 좀처럼 사용하기 어려워 졌습니다. 작은 규모의 조직은 인공지능 소외계층이 될 수도 있겠다는 불안함을 느끼게 했습니다. 우리 사회는 디지털 소외계층에서 인공지능 소외계층으로 향해 가고 있습니다. 사람들은 인공지능 보급을 위해 좀 더 싸고 경제적인 기술을 찾기 시작했습니다. 경량화 모델이 그것 입니다.
두번째는, 시스템이 난해해서 인간 스스로가 불편해 지고 불안해 지게 되었습니다. 신화 속 인공지능은 이해가 쉬웠지만, 현대의 첨단기술 신화 속 인공지능은 인간이 이해 하기 어려운 복잡도를 갖게 된 것이죠. 현대의 과학자들은 딥러닝 인공지능이 도대체 전체적으로 어떤 그림을 그려내고 어떤 세부 동작을 수행 중인지 알고 싶어졌습니다. 미국 국방고등연구계획국(DARPA) 에서는 설명 가능한 인공지능 (XAI, eXplainable AI) 기술을 개발하기 위해 노력하고 있습니다. 이는, 인간이 인공지능을 통제 가능한 상태로 유지하기 위해서 입니다. 신화속 헤이파토스가 직접 만든 황금하녀 로봇처럼 옆에 두고 일을 시켜도 위협이 되거나 불안한 마음이 들지 않는, 지적으로도 뛰어난 존재 말이죠.
딥러닝 기술은 입력하는 데이터의 특성을 잘 몰라도, 깊게 연결된 신경망(Deep Neural Network)들로 부터 수많은 데이터 특징들을 배우고 구분지어서 사용할 수 있게 합니다. 알아서 잘 이해하는 구조의 알고리즘 이지만, 알아서 잘 이해하기 위해 훨씬 더 많은 데이터, 더 많은 메모리, 엄청나게 빠른 컴퓨터가 필요합니다. 데이터와 전기를 마구 빨아 들이고는, 한참을 계산한 후, 똑똑한 결론을 내놓습니다. 그래서 똑똑한 인공지능에 우리는 열광 합니다. 어려운 일을 수행하지만 주인의 권위를 넘어서지 않는 존재로서의 지적 생명체인 인공지능에 우리는 열광 합니다.
인간이 인공지능을 충분히 잘 제어하고 있다는 점을 전제로 할 때, 인공지능은 항상 인간과 협업할 준비가 되어 있습니다. 기분에 따라 행동하지 않고, 언제 찾더라도 항상 준비되어 있습니다. 거북스러운 말도 잘 받아내고, 심한 감정 노동에도 지치지 않습니다. 그리고 곧잘 자신의 비위를 맞추면서 기분 좋게 합니다. 때로는 인간이 하기 껄끄럽고 어려운 말도 잘 해 냅니다. 어떠한 심리적 위축이나 주눅이 들지 않고 잘 해 냅니다.
그래서, 인간은 기원 전 1000년 전에도, 3천년 후인 지금에도 같은 꿈을 꾸고 있습니다. 불완전한 지적 생명체인 인간을 돕는 좀더 나은 존재로서 말이죠.
혹시라도 인공지능이 인간의 능력을 뛰어 넘어 위협의 존재로 인식되기 시작 한다면, 인간은 그 당혹감과 불안감을 없애는 방향으로 행동하게 될 것입니다.
바로 "Power Off!" 입니다.
Controllability of AI, AI control problem
인간은 항상 그렇게 지내 왔으니까요.
