"AI 무기는 안돼"… 논란에 휩싸인 KAIST·구글
"AI 무기는 안돼"… 논란에 휩싸인 KAIST·구글
세계 29개국 57명의 인공지능(AI) 연구자들이 KAIST가 AI 기술을 이용해 ‘살인 로봇’을 만들고 있다며 연구협력과 교류를 전면 중단하겠다고 선언해 논란이 일고 있다. 세계 최대 인터넷 검색 서비스업체인 구글은 자사의 AI 기술을 적용하는 미국 국방부와의 협력 사업이 직원들로부터 큰 반발을 사고 있다.
5일 국제학술지 사이언스 등에 따르면 컴퓨터 과학자인 토비 월시 호주 뉴사우스웨일스대 교수가 주도하는 이들 과학자 그룹은 KAIST가 ‘국방AI융합연구센터’를 설립하고 자율무기와 살인 로봇을 개발하고 있다며 보이콧을 선언했다.
이들은 성명서에서 “KAIST 같은 권위 있는 기관이 무기 개발을 촉진하는 것에 대해 매우 유감스럽다”며 “KAIST 총장이 인간 통제력이 결여된 자율 무기를 개발하지 않겠다는 확신을 줄 때까지 모든 협력을 거부하겠다”고 주장했다.
이번 사태는 KAIST가 지난 2월 국내 방산업체인 한화시스템과 손잡고 AI 기술을 적용한 신무기 체계를 개발하는 국방AI융합연구센터를 연 것이 발단이 됐다. 이 센터는 AI를 기반으로 하는 지능형 항공기 훈련시스템과 지능형 물체추적·인식기술, 지휘결심지원체계, 대형급 무인잠수정 복합항법 알고리즘 개발 등을 우선 과제로 선정해 산학 협동으로 공동 연구를 수행하고 있다.
성명에 참여한 과학자들은 AI 기술이 인간의 통제를 벗어난 자율 무기에 적용되는 것에 심각한 우려를 나타냈다. 월시 교수는 “자율 무기는 지금까지 경험해보지 못한 수준의 더 빠르고 더 큰 규모의 전쟁을 낳고 테러무기가 될 잠재력이 있다”며 “KAIST가 인간 삶을 파괴하는 대신 개선하는 쪽으로 연구 방향을 잡기를 촉구한다”고 지적했다.
KAIST는 국내와 해외에서 논란이 확산되자 이날 성명에 참여한 과학자들에게 총장 명의의 입장문을 보내고 국내외에 해명자료를 배포했다.
신성철 KAIST 총장은 한국경제신문과의 전화통화에서 “해외에 보도된 영문 기사 중 하나가 AI 무기를 연구한다고 잘못 보도되면서 오해가 빚어진 것으로 보인다”며 “통제력이 결여된 자율 무기를 포함해 인간 존엄성에 어긋나는 연구 활동을 하지 않겠다”고 강조했다.
월시 교수는 신 총장의 해명 직후 사이언스와 한 인터뷰에서 “KAIST가 ‘AI에 대한 인간 통제’에 대해 최초로 공약한 것은 큰 의미가 있다”며 “앞으로 이 문제에 관한 유엔의 논의에 무게를 더할 것”이라고 말했다. 다만 KAIST와 연구협력 및 교류를 중단하겠다는 방침을 철회했다고 밝히진 않았다.
AI를 활용한 로봇 등 군사무기는 이미 국제적으로 큰 논란이 되고 있다. 영국 비영리 뉴스제공 기관인 탐사보도국은 지난해 군용 드론(무인항공기)의 폭격으로 852~1445명이 숨진 것으로 추정했다. 시민사회뿐 아니라 과학계 일각에선 인간과 같은 감정이 없고 판단력이 빠른 AI를 군용 로봇과 드론에 적용하면 가공할 파괴력을 보일 것이라며 이에 반대하는 목소리를 높이고 있다.
구글의 고위직 엔지니어들을 포함한 직원 3100명은 최근 순다르 피차이 최고경영자(CEO) 등 회사 경영진을 상대로 미 국방부(펜타곤)와 공동 프로젝트를 진행 중인 회사 전략에 반대하는 캠페인을 벌이고 있다. 이들은 “펜타곤의 파일럿 프로그램인 메이븐에서 철수하고 전쟁기술을 구축하지 않겠다고 발표하라”고 요구하고 있다.
메이븐은 AI를 사용해 군사용 드론의 비디오 이미지를 분석하고 드론의 타격 목표를 향상하는 연구 프로젝트다.
국내에서도 로봇과 AI 등의 무기화가 안보 논리를 근거로 별다른 사회적 논의 없이 추진되고 있다. 육군은 지난 2월 국방개혁 2.0 핵심과제로 지상작전사령부에서 사단급 부대까지 로봇과 드론을 배치해 드론봇 전투단을 편성하는 방안을 공개했다.
김유신 한국과학기술한림원 과학인권위원회 위원장(부산대 교수)은 “AI의 무기화는 미래 전장의 지형을 바꿀 만한 가공할 파괴력을 지니고 있다”며 “미국과 옛 소련이 전략핵무기감축협정을 맺은 것처럼 AI 무기도 국제협약을 통해 국제적으로 감시를 받도록 해야 한다”고 주장했다.
박근태/임현우 기자 kunta@hankyung.com
http://plus.hankyung.com/apps/newsinside.view?aid=2018040593451&category=&sns=y
아무리 그래도 AI가 대신 싸우는 전쟁이 벌어질 것이다.
미래 전쟁은 AI가 벌이고 AI끼리 싸우게 될 것이다.
지금도 무인드론으로 시리아 폭격 하지 않는가?
무인드론을 쓰면 유리한 점이 있다.
일단은 아군이 죽지 않는다.
그래서 아군의 피해가 없다.
그리고 AI가 훨씬 더 잘 싸운다.
현대전은 컴퓨터 시뮬레이션 게임과 똑같다고 보면 된다.
그런데 그것을 사람이 조종하는 것보다는 AI가 조종하는 것이 훨씬 더 정확하게 더 많은 사람을 죽일 수 있다.
알파고나 AI컴퓨터가 왜 스타크래프트에 도전하고 총싸움 게임 등으로 싸우는가?
이것이 전부 전쟁을 염두에 두고 시뮬레이션을 하는 것이다.
알파고, ‘스타크래프트2’ 인간과 맞붙나…블리자드, 딥마인드와 협력
http://www.edaily.co.kr/news/news_detail.asp?newsId=02578086612843096&mediaCodeNo=257
그러니 미래의 전쟁은 AI가 강한 나라가 이길 것이다.
그러면 문제가 되는 것이 어느나라건 AI가 국가과제가 된다는 것이다.
왜냐하면 앞으로 사람이 나서서 싸우지 않고 로봇이 싸우는데 사람이 나서서 싸우는 나라는 마치 탱크앞에서 기마병이 싸우는 것과 같은 꼴이 된다.
그렇게 된다면 어느나라건 AI를 집중적으로 키울 것이 자명하다.
심지어 러시아도 앞으로 AI를 지배하는 지도자가 세계를 지배한다 했다.
그러니 AI기업은 이래 저래 잘 나갈 수밖에 없다.
다만 미국의 기업은 고평가 잘 알려진 기업이 대부분이고 러시아, 중국, 유럽과 같은 기업은 잘 안 알려진 기업이 대부분이라는 점이 다르다.
JD 부자연구소
소장 조던
http://cafe.daum.net/jordan777
