AI에 대한 오해와 진실
AI 마인드
대학교를 갓 졸업한 후 언론사 입사시험 준비에 매진하던 몇년 전, 스터디에서 자주 등장하던 논술 주제 중 하나는 인공지능이었다. 논술의 주된 내용은 빠르게 발전하는 AI기술을 정부가 얼마나, 어떻게 규제해야할지였다. 스터디원들은 각자 조사한 내용을 바탕으로 인공지능의 발전과 그것이 가져올 사회적, 경제적 시사점에 대해 열띤 토론을 벌였다. 물론 우리들 중 인공지능을 깊이 있게 공부한 사람은 없었다.
지금 돌이켜보면 우리의 대화는 인공지능에 대한 미성숙하고 과장된 시각으로 가득했던 것 같다. 미래학자 겸 소프트웨어 회사 창립자인 마틴포트가 인공지능 전문가들을 인터뷰한 책 <AI 마인드>은 사람들이 인공지능에 대해 흔히 갖고 있는 오해와 진실을 상당 부분 밝혀주고 있다.
1. 초지능에 대한 우려
내가 참여했던 스터디에서 그룹원들의 인공지능 관련 글에 가장 많이 등장했던 개념은 초지능이었다. 인간의 수준을 훨씬 뛰어넘는 고차원적인 사고를 가지는 지능을 초지능이라고 부른다. 인공지능 전문가들은 인간 수준의 인공지능이 2038년에서 2048년 사이에 발달할 것이라고 예측한다. 그리고 초인공지능은 2060년 정도에 출현할 것이라고 봤다.
초인공지능의 등장이 우려스러운 것은 예측불가하기 때문이다. 초지능은 어느날 갑자기 출현하고, 그 지능의 한계를 인간은 알지 못할 수도 있다. 옥스포드 대학교 교수 닉 보스트롬은 '종이 클립 최대화 기계'라는 예를 든다. 종이 클립을 만들도록 설계되었으나 정지 스위치가 없어서 처음에 공급된 재료를 다 쓴 후에 손이 닿는 곳에 있는 물질은 무엇이든 종이클립을 만드는 데 이용한다. 그리서 이 기계는 우선 지구 전체를 종이 클립 제조시설로 바꾸고, 이어서 우주로 확대해나간다. 머지 않아 전 우주가 종이 클립과 클립 제조기로 가득 차게 된다.
하지만 다수의 전문가들은 이런 초지능에 대한 우려가 시기상조라는 데 동의한다. 인간을 뛰어넘는 초지능이 어인류를 위협할 수 있다는 우려에 대해 스탠포드대 컴퓨터 과학 교수 앤드류 응은 이렇게 답한다.
"일반인공지능의 킬러 로봇이 사람을 해치지 않을까 하는 걱정은 마치 화성에 인구과잉 문제가 일어나면 어떡하지라고 고민하는 것과 같습니다. 한 세기가 더 걸리겠지만 화성 역시 우리가 살 수 있는 행성이 되겠죠. 그때가 되면 화성에서 인구과잉 문제나 환경오염 문제 등으로 죽음을 맞이하는 아이들도 생겨날 겁니다. 그런 아이들의 죽음을 신경 쓰지 않는다는 것이 아니에요. 그런 문제에 대한 해결책을 찾고 싶지만 현재 아무런 문제가 없기 때문에 생산적으로 해결할 수 있는 방법을 찾는 것은 쉽지 않습니다."
초지능이 인류를 파괴할 것이라는 생각은 화성이 하룻밤 사이에 인구 과잉 문제를 앓게 되리라고 생각하는 것과 비슷하다. 터미네이터 같은 SF영화에서 많이 등장하듯이 초인공지능은 일반사람들에게는 제일 익숙하고 흥미로운 개념이지만 현재 수준의 AI기술이 맞닥뜨리는 가장 시급한 문제는 아닌 듯하다.
2. 저소득층의 일자리 감소
4차 산업혁명이 일자리에 미칠 영향은 어렵고 복잡한 문제다. 저자 마틴 포드는 인간이 미래에는 말과 같은 존재가 될 수 있다고 예견한다. 인간에게 꼭 필요한 이동 수단이었지만 지금은 그 노동력이 쓸모가 없어진 동물 말이다. 그는 4차 산업혁명이 1. 기하급수적으로 일어나고 있고 2. 기계가 생각하는 능력을 갖는 현상과 연결되고 3. 직업의 종류와 상관없이 실업을 유발할 것이라는 점에서 과거의 산업혁명과 다르다고 주장한다.
흔히 생각하는 것과 달리, 임금과 기술 수준이 아니라 업무의 형태가 자동화 여부를 결정한다. 판단이나 사람을 관리하는 일이 많이 들어가고 예상치 못한 일들이 벌어지는 비구조화된 환경에서는 작업은 자동화될 가능성이 낮다. 따라서 정원사보다 회계사의 일을 자동화하는 것이 더 유리하다. 정원사는 물리적인 작업이 많고 덜 구조화된 환경에서 작업하는 반면 회계사는 구조화된 환경에서 데이터 수집과 분석을 하기 때문이다.
실업난이 닥칠 것이라는 예측은 타당하지만 그 화살이 반드시 저소득층에게로만 향하는 것은 아니다. 이미 많은 전문직들, 예를 들면 회계사, 금융 전문가, 언론인, 변호사 등이 자동화의 영향을 받았다. 미래에는 사라질 직업군이 우리가 흔히 생각하는 직업의 귀천 및 교육 수준과 무관해지면서 단순히 더 많은 고등 교육만이 대안이 될 수 없단 것이 분명해졌다.
단기적으로는 기본소득의 도입 등 혼란을 줄일 수 있는 정부 대책 등이, 장기적으로는 근본적인 교육 시스템 변화가 필요할 것이다.
3. 자동화 무기
더 현실적인 우려는 자동화 무기가 미칠 파장이다. 마틴포드는 자동화 무기가 군사적으로 쓰이게 됐을 때 문제가 발생할 수 있는 가능성, 권위주의적 체제를 가진 중국이 인공지능의 우위를 점하게 되었을 때 나타날 수 있는 문제를 언급한다.
닉 보스트롬: "어떠한 전쟁도 일어나면 안되지만 혹시 전쟁이 일어나게 되면 젊은 청년이 죽는 것보다 기계들끼리 싸우게 하는 것이 나을 수도 있습니다. 또 정말 죽여야 하는 적들만 죽이고, 민간인 사상자가 나오지 않게 전투를 벌일 수도 있겠죠."
군사적 측면이 아니라 치안유지 측면에서 생각해보면 자동화 무기는 인간의 편향을 줄일 수 있다는 점에서 유용하다. 예를 들어 인공지능은 인종 차별로 인한 경찰의 총기 남용을 줄일 수 있다. 또 먼저 총을 맞아도 상대에게 총을 쏠 수도 있다.
물론 자동화 무기가 인류에게 위협이 되지 않으려면 국가적/국제적 노력이 필요하다. 국가적 경쟁을 줄이고 국가들이 함께 인공지능의 장점을 극대화할 수 있는 방안을 협력하는 것이 병행되어야 할 것이다.
바바라 그로스츠:
"저는 안전한 시스템을 설계하려고 노력하는 사람, 학생들이 윤리적인 시스템을 설계하도록 가르치는 사람들을 좋아합니다. 그래서 그런 일들을 말리지 않을 겁니다. 하지만 그런 위협을 해결할 방법을 찾을 때까지 현재 연구를 멈춰야 된다고 말하는 것은 아닙니다. 이는 너무 극단적이니까요. 먼 미래의 위협 때문에 인공지능을 통해 더 나은 세상을 만들 수 있는데도 불구하고 그렇지 못하게 된다면 매우 부정적일거라 생각합니다."
인공지능 분야에 인생을 바친 사람들의 의견만 모아놓은 책의 특성상 일정 부분 낙관적 편향이 들어가 있지 않을 순 없다고 생각한다. 하지만 이 책을 읽고 난 후 인공지능에 가지고 있던 막연한 부정적인 오해들이 해소되는 걸 느낄 수 있었다. 전기의 발전이 혼란을 초래했지만 지금은 인류에게 필수적인 부분이 된 만큼 인공지능이라는 도구도 '어떻게'대처하고 사용할지가 관건일 것이다.
+맨 앞에 있는 용어집이 인공지능에 문외한인 내게 특히 유용했다. 참고하면서 인터뷰를 읽다보니 신경망, 지도학습, 역공학, 튜링 테스트 등 인공지능 기술에 대한 기본적인 개념을 자연스럽게 익힐 수 있었다.
