"알파고가 인간 통제 못 하게"… 美·日·유럽, 잇따라
"알파고가 인간 통제 못 하게"… 美·日·유럽, 잇따라 AI 윤리지침
[인공지능의 역습을 막아라]
스티븐 호킹 "통제 불능 될 수도… 세계 정부 만들어 법규 내놔야"
美서 'AI 원칙' 23개 조항 나와 "살상 가능 자율무기 경쟁 지양"
유럽의회, AI를 '전자인간' 규정 "비상 상황 대비 '킬 스위치' 필요"
인공지능(AI·Artificial Intelligence)과 로봇 같은 첨단 기술이 ‘기술 디스토피아’(Dystopia·기술이 가져오는 암울한 미래) 논란에 불을 붙이고 있다.
생활의 편의를 위해 만든 AI 비서, 자율주행차 등은 ‘인간에 대한 지배’, ‘오작동’ 같은 문제점을 일으키고, 유전자 가위 기술은 지능과 외모를 부모가 마음대로 결정하는 ‘맞춤형 아이’를 탄생시킬 수 있다는 우려를 낳는다. 첨단 기술이 영화 ‘터미네이터’와 같은 끔찍한 부작용으로 이어지는 것을 어떻게 막을 수 있을까.
◇호킹 “AI 통제 위한 세계 정부 구성 시급”
세계적 물리학자 스티븐 호킹 박사는 지난 9일(현지 시각) 영국 일간지 더 타임스 인터뷰에서 “AI와 로봇이 급성장하며 사람의 힘으로 통제 불가능한 시점이 빠르게 다가오고 있다”면서 “세계 정부기관을 신설해 AI의 용도와 규제에 대한 법규를 만들어야 한다”고 말했다.
호킹의 이런 주장은 AI와 로봇이 미래가 아닌 현실의 문제가 되고 있다는 판단 때문이다. 구글의 AI ‘알파고’는 지난해 프로기사 이세돌 9단과의 바둑 대결에서 ‘인간을 뛰어넘은 AI’의 존재를 알렸고, IBM의 ‘왓슨’은 병원과 콜센터, 법률사무소 등에서 인간 전문가의 역할을 대신하기 시작했다. 삼성전자와 애플은 사람의 말을 알아듣고 답해주는 AI 비서를 스마트폰에 탑재하고, AI를 탑재한 자율주행차도 현실화되고 있다. 경제전문 비즈니스 인사이더는 “AI가 세상을 편리하게 만드는 것은 자명한 사실”이라면서도, “먼 미래의 화두로 생각해 온 ‘AI에 의한 인간 지배’라는 불편한 현실까지 대처해야 할 시점이 됐다”고 평가했다.
미국 국방부는 지난해 AI 드론(무인 비행체)을 공개했다. 이 드론은 알아서 장애물을 피하고 적과 아군을 구분할 수 있다. 미국 로봇회사 보스턴 다이내믹스는 두 다리로 전장을 누비는 인간형 로봇 ‘아틀라스’를 개발했다. 무기만 탑재하면 터미네이터와 다를 바 없다. 명령을 내리면 로봇이 인간을 공격하는 일도 가능해졌다. AI 비서나 자율주행차를 해킹하면 사람들의 일정을 조작하고 교통사고를 유발하는 등 엄청난 사회적 혼란을 만들어낼 수도 있다. 이식 한국과학기술정보연구원 실장은 “구글과 마이크로소프트가 AI 프로그램을 만드는 AI를 개발하고 있다”면서 “진화하는 AI는 인간이 통제하기 어려울 수도 있다”고 말했다.
이에 대해 올 초 미국 캘리포니아 아실로마에 수백 명의 AI 전문가가 모여 회의를 열고 23개 조항의 ‘아실로마 AI 원칙’을 만들었다. 여기에는 ‘살상(殺傷) 가능한 자율적 무기를 개발하기 위한 경쟁은 지양해야 한다’는 등의 내용이 담겼다. 이 원칙은 호킹, 테슬라 창업자 일론 머스크, 알파고를 만든 데미스 허사비스, 미래학자 레이먼드 커즈와일 등 2000여명이 넘는 과학기술계 인사의 서명을 받아 지난달 초 공개됐다. 애플·페이스북·IBM 등 주요 기업 인사들도 동참했다.
일본 인공지능학회 이사회도 지난달 AI 윤리 지침을 만들었다. 인간 연구자가 갖춰야 할 윤리성을 AI도 똑같이 준수해야 한다는 것이 골자다. 아사히신문은 “사람을 뛰어넘는 AI가 십수 년 또는 반세기 이후 다가올 것으로 예상되는 상황에서 사회가 혼란에 빠지지 않도록 책임을 명확히 한 것”이라고 설명했다.
유럽의회는 지난 1월 AI 로봇의 법적 지위를 ‘전자 인간’으로 규정하는 결의안을 통과시켰다. 유럽의회는 “로봇의 정의를 명확하게 하고, 인간에 도움을 주는 존재에 머물러야 한다는 것을 분명히 한 것”이라고 밝혔다. 유럽의회는 AI 로봇이 인간에 반항하는 등의 비상상황에 대비해 언제든 로봇의 움직임을 멈출 수 있는 ‘킬 스위치’를 달아야 한다고 규정했다.
◇기술의 윤리 아닌 사람의 윤리
생물학·의학계에서는 AI나 로봇보다 더 강력한 기술이 이미 상용화 단계에 접어들었다. 바로 유전자 가위이다. 효소와 유전물질(RNA) 등으로 만드는 유전자 가위를 이용하면 동식물의 유전자를 잘라내거나 이어 붙이면서 원하는 형질을 만들 수 있다. 지방 대신 근육이 많은 돼지나 병충해에 강한 상추·담배 등이 개발돼 있다. 문제는 사람을 대상으로 한 연구이다. 유전자 가위를 이용하면 혈우병과 같은 유전병을 사전에 차단해 건강한 아이가 태어나도록 할 수 있다. 임신이 어려운 여성의 불임 치료에도 쓸 수 있다. 하지만 이론적으로는 키나 머리카락색 같은 외모는 물론 지능도 유전자 가위로 교정할 수 있다. 이른바 ‘신의 영역’에 도전할 수 있게 되면서 윤리 논란이 거세지만 아직 뚜렷한 규제 방안이 없다. 중국과 영국 등에서는 유전자 가위를 인간 배아에 사용하고 있으며, 미국 국립과학원은 지난달 “인간 생식세포에 대한 유전자 편집 연구를 허용할 수 있다”는 내용의 권고안을 발표했다.
과학자들은 첨단 기술의 윤리는 결국 만드는 사람의 윤리에 달려 있다고 본다. 차두원 한국과학기술기획평가원 연구위원은 “유용한 화학물질을 만들 수 있는 방법을 화학무기 생산에 이용하는 것은 사람의 결정이었던 것과 마찬가지”라며 “AI나 유전자 가위의 개발이 중단될 가능성이 없는 만큼 인류에 도움이 되는 방향으로 개발과 관리를 유도하는 것이 유일한 방법”이라고 말했다.
http://news.chosun.com/site/data/html_dir/2017/03/12/2017031201583.html
신문의 논조가 바뀌고 있다.
처음에는 "자율주행차를 과연 AI가 운전이나 하겠어?" 였다.
알파고가 이세돌을 이긴다음에는 윤리논쟁으로 들어갔다.
갈림길에 1사람과 10사람이 있는데 AI가 운전을 하면 어디로 핸들을 틀어야 하는가?
즉 AI가 운전을 한다는 것은 이미 그들도 인정을 했다는 얘기다.
요즘에는 운전을 뛰어넘은 걱정으로 가고 있다.
정말 그렇게 되면 어떻게 하지? 라는 쪽이고 그쪽도 상당히 구체화 되고 있다.
이제는 AI를 터미네이터의 스카이넷 수준으로 걱정하고 있다.
진짜 인간을 지배하면 어떻게 하나? 이다.
그러니 되니 안 되니의 논쟁은 이미 끝났다.
문제는 과연 언제 올 것인가?
시기의 문제만 남았다.
만약 본인이 아직 AI가 오지 않는다고 생각한다면 이미 재테크에서 가장 큰 부분을 놓치고 잇는 것이다.
JD 부자연구소
소장 조던
http://cafe.daum.net/jordan777
