인공지능과 윤리

일상과 사색

며칠 전인 8월 27일, 재미있는 영상이 올라왔었다.

그 영상은 테슬라의 CEO 일론 머스크가 자사의 자율주행프로그램인 FSD* 버전 12를 탑재한 차량을 타고 직접 자율주행하는 모습을 본인의 스마트폰으로 찍어 실시간 중계한 것이다.

*Full Self Driving 약자로 테슬라의 자율주행프로그램 이름

일론 머스크가 직접 올린 영상 중

막상 보면 이게 뭐 대단하냐고 하는 분들도 있을 수도 있겠지만, 인공지능 분야에서는 충격적인 사건이라고 할 정도라고 보는데, 기존의 테슬라 자율주행버전인 11 버전과는 차별화된, 당연히 타 자동차 회사의 자율주행과는 넘사벽의 차이를 가졌기 때문이다.

그 차이는 12 버전은 사람이 코딩한 프로그램이 아니라, 인공신경망(Artificial Neural Network)으로 구현된 인공지능이 사람의 뇌가 학습하는 방식을 그대로 따라서 스스로 학습한 후, 실행하는 것이기 때문이다.

기존 버전에는 '속도방지턱에서는 속도를 줄여'라던가, '정지신호에서는 몇 초 기다려' 등의 수많은 명령을 '사람'이 코딩한 것을 기반의 반 인공지능이었지만, 이번 버전은 스스로 상황에 따라 판단한다. (테슬라 외의 자율주행도 사람이 코딩한 프로그램들인 것은 당연하고 말이다.)

기술을 다루고자 하는 것은 아니니, 자세한 내용은 차치하고 어쨌든 인공지능 스스로가 학습하여 사람과 같이 행동한다는 측면에서, 개인적으로 상당히 관심도 많았고 또, 실제로 되는 것을 보니 충격적이기도 했다.

빠른 기술발달 속도로 볼 때, 완전자율주행은 법적인 숙제만 풀린다면 생각보다 빠르게 실생활로 다가올 것으로 예상된다.

일론 머스크와 동행자의 설명 중, 재미있던 부분은 자율주행 인공지능이 제대로 운전하기 위해 제대로 된 학습데이터를 선별하여 학습시키는 것이 매우 중요하다고 한 부분이다.

반대로 생각해 보자면, 제대로 된 학습을 시키지 않으면 인공지능이 뻘 짓을 하게 할 수도 있다는 의미다. 물론 개발자들이 기본 가이드 프로그래밍을 통해 여러 층의 안전장치를 마련해 놨겠지만, 인공지능은 순수한 아이의 뇌와 같은 상태에서 시작을 하게 되니, 어떤 학습을 하느냐가 중요한 포인트라는 것이다.

예전에 봤던 책 중에서 '로봇윤리란 무엇인가?'라는 책이 있었는데, 문득 그 책을 통해 생각하게 된 부분을 말하자면 '개발자들은 제대로 된 윤리를 바탕으로 인공지능의 정상적 윤리체계를 도모해야 한다'는 것이다.

인공지능의 시대는 피할 수 없이 도래하게 될 터인데, 그러한 시대에서 우리가 접하게 될 인공지능 또는 로봇은 어떤 윤리를 갖게 할 것인가?라는 것이 중요한 과제라고 한다.

그 윤리에 대한 법규를 제정하거나, 학습시킬(정확히는 학습데이터를 제공할) 사람은 반드시 윤리적이어야 할 것이다. 그렇지 않다면, 순수했던 인공지능의 뇌는 원치 않는 것을 배우게 될 테고, 그 결과 우리 또는 우리 다음 세대는 디스토피아 SF영화의 장면을 현실로 맞이하게 될지도 모르겠다.

선한 인공지능이냐, 악한 인공지능이냐...

가상이 아닌 현실상황에서 인공지능이 스스로 학습하여 실제 거리에서 운전을 하는 이 영상은 신기함과 함께 기술이 가져다 줄 편리함을 기대하게 했다.

하지만, 한편으로는 윤리와 철학이라는 과목을 등한시한 채, 시험에 나올법한 과정을 집중적으로 학습하고, 암묵적으로 상대와의 경쟁에서의 우위를 차지하는 것이 최선이라고 가르치고 있는 우리 사회에서 생각할 거리를 던져주는 사건이라고 생각한다.

경쟁에서의 우위를 차지하는 과정이 결코 도덕적이고 순수한 방법만으로 이루어지지는 않다는 것을 우리는 모두 알고 있고, 그렇게 성인이 될 세대에서의 윤리는 지금 내가, 또는 여러분이 생각하는 수준의 윤리가 아닐 수도 있기 때문이다.

그 상황에서의 인공지능이 학습한 수준의 윤리도 마찬가지일 테고 말이다.

덧붙임. 꼭 인공지능까지 안가더라도, 최근 TV에 나오는 사람들 중에서 학습한 윤리와 철학이 의심되는 사람들도 있긴 하더라구요.