지능기계
조종실과 조종사
기계는 인간을 위한 도구이다. 인간은 기계를 창조하고, 기계는 인간이 조종한대로 움직인다. 우리는 우리의 삶의 편의를 위해 기계를 창조하고 사용해왔다. 기계가 발전할 수록, 인류의 지평은 넓어졌고, 우리가 누리는 문명의 수준은 높아져만 갔다.
기계가 발전하면서 기계는 인간이 하던 일을 대신 도맡아 하기 시작했다. '자동'이라는 이름으로 기계는 우리를 대신해서 일했다. 알아서 목록을 정리해 도서 목록을 관리했으며, 중요한 거래정보를 이동시켰고, 비행기를 수시간씩 알아서 조종했다. 복잡한 계산을 수행하고 큰 힘을 내면서도 기계는 지칠 줄을 몰랐다. 우리의 힘으로 해내기 힘든 일들을 끝없이 수행하는 기계 덕분에 우리는 감히 상상하지 못했던 규모의 일들을 이뤄낼 수 있었다.
이제 기계는 자동화 단계를 넘어 지능까지 갖추고 있다. 전에는 큰 힘이 필요하거나 귀찮은 일을 대신해주었다면, 이제는 사람이 인지하지 못하는 정보를 파악해 사람을 대신해 판단을 내릴 수 있게된 것이다. 생각하고 판단하는 기계를 마주하며 우리는 "기계가 의견을 개진하는" 퍽 당황스러운 상황을 맞이하게 되었다. 기계는 더 이상 인간이 명령한대로 움직이고 예측 가능한, 예전처럼 묵묵한 존재가 아니었다.
컴퓨터를 비롯한 기계의 발달로 기계는 하나의 생각하는 거대한 존재가 되었다. 기계가 어떤 판단을 내렸다면 우리는 그 것이 응당 맞는 것이겠거니 생각한다. 설령 우리의 생각과 다른 판단이 나오더라도 기계가 고장났다는 생각보다는 "내가 못 본게 있었나?"라며 우리 스스로의 판단을 의심한다. 우리는 기계의 의견에 귀를 기울이는 최초의 인류가 되어가는 것이다.
인간의 한계를 뛰어넘는 성능을 가진 기계가 지능화되며, 우리는 유래없는 편의와 문명의 이기를 누리고 있다. 클릭 하나로 물건이 배송되고, 운전하는 이 없이도 자동차가 안전하게 운행되며, 조종사 없이도 우주선이 비행한다. 하지만 이와 동시에 당황스럽고 두려운 상황이 발생하는 것 또한 사실이다. 특히, 고도로 지능화되고 복잡한 기계는 거대한 재난을 몰고 오기도 했다. 체르노빌 원자력발전소 사고는 기계가 너무 복잡해진 나머지 인간이 이해하지 못해 사고가 발생한 경우로, 액수로 평가하기 힘들 정도의 피해를 입혔다. 비슷한 사례로 기계의 급작스러운 고장과, 기계에 의존했던 인간 사이의 갈등으로 항공기 추락하는 사례가 '빈번히' 일어나고 있다면 믿을 수 있을까.
복잡하고 똑똑한 기계에 대한 두려움은 최근 딥러닝, AI와 같이 그 정체를 파악하기 어려운 지능이 등장하면서 더욱 막연해지고 있다. 우리는 AI라는 단어를 보고 터미네이터, 매트릭스 등 '인간을 지배하는 기계'를 떠올렸다. AI가 어떤 일을 할 수 있는지 파악이 되기 전부터, 우리는 AI가 사람의 일자리를 빼앗지는 않을지, 인간을 보호하라는 명령을 얼마나 중요한 것인지를 먼저 걱정했다. 우리는 기계를 두려워해야하는 것일까? 기계는 지능화되면 안되는 것일까? 우리가 갖고있는 이 두려움은 실체가 있는 것일까 아니면 막연한 것일까? 복잡한 기계에서 겪는 재난은 새로운 것일까?
<통제불능>의 저자 케빈 켈리는 기계가 지능화되면서 인간은 새로운 방식으로 기계와 상호작용하게 될 것이라고, 이에 우리는 새로운 기계에 적응하는데 많은 노력을 기울여야할 것이라 말한다. 기계의 발달은 우리의 삶을 발전시키는 핵심적인 요소이면서도, 그 과정에서 우리가 예상하지 못한 형태의 문제 야기할 것이기 때문이다. 비슷한 맥락으로 니콜라스 카는 자신의 책 <유리감옥>에서 기계의 자동화로 인간의 능력이 퇴화하고, 오히려 위험에 처할 수 있음을 경고하기도 한다. 마치 올더스 헉슬리의 소설 <멋진 신세계>가 그리는 기계가 인간을 지배하는 세상을 우리는 기계의 지능화에서 엿보는 것만 같다.
조종실은 첨단기술로 만들어진 기계와 가장 잘 훈련된 인간이 맞닿는 공간이다. 역사상 가장 안전하게 하늘을 날 수 있는 이 시대에도 비행기는 종종 추락한다. 안전할 수록 추락의 의미는 더욱 커진다. 추락만큼 어려운 것이 없어진 세상에서, 대체 어떤 사건의 고리가 첨단 기술과 인간으로 이루어진 시스템을 망가뜨린 것인가. 인간과 동등한 주체로 떠오르고 있는 기계와 인간이 그려가는 모습을 우리는 비행기의 사고 이야기에서 엿볼 수 있다. 어떤 사건이 발생했고, 기계는 무슨 생각을 했으며, 사람은 어떤 판단을 내렸는지, 그리고 고도로 발달한 두 주체가 어떻게 협력했으며, 때로는 실패했는지. 둘 사이의 이야기를 읊어보며 우리는 지능화된 기계와 인간의 관계를 좀 더 구체적으로 접해볼 수 있을 것이다.
