155. AI 는 세상을 어떻게 바꾸는가
이 책은 '살아 있는 기계' 를 만들려 했던 역사 속 수많은 도전을 소개하고, 현대 인공지능 기술의 현주소와 그 사회적, 윤리적 문제들을 살펴본다. 그리고 인공지능이 가져올 다양한 미래상을 제시하면서 인간과 인공지능이 공존하는 방법을 모색한다. 어느 때보다도 급격히 변화하는 인공지능 사회를 이해하고, 곧 다가올 미래를 준비하는 데 나침반이 되어줄 책이다.
이 책에서 다루는 여러 주제 중에서 특히 인공지능 윤리가 필요한 이유에 대해 이야기하고 싶다.
1) 안정성 문제: 인공지능의 통제권을 어디까지 제한해야 할까?
사회 전반에 걸쳐 인공지능을 광범위하게 투입하는 시대가 오면 국경 방위, 도시 치안 담당, 교통 시스템 관제 등 대부분의 일을 도맡을 가능성이 크다. 그런데 이처럼 인공지능이 모든 통제권을 쥐면 어려운 상황이 발생할 수도 있다. 그것은 바로 '트롤리 문제' 또는 '트롤리 딜레마' 라는 명칭으로 널리 알려진 상황이다. 만약 사고가 날 수 밖에 없는 상황에서 누군가의 목숨을 희생해야 한다면 인공지능 알고리즘은 어떤 선택을 내려야 하는가? 통제 상황에서 인공지능이 일률적으로 내릴 수 있는 답은 없다. 사람들은 각각의 상황, 문화, 국가 그리고 스스로의 판단에 따라 기계, 인공지능, 자율주행 자동차가 다른 선택을 내리길 기대한다.
2) 개인정보 보호 &보안 문제: 인공지능이 인간의 정보를 어디까지 알아도 될까?
우리가 일상에서 선택하고 판단하고 행동하는 거의 모든 데이터는 빠르게 디지털화하고 있다. 하지만 인공지능은 나와 관련해 디지털화한 모든 데이터를 어디까지 알고 예측해도 괜찮은 것일까? 만약 인공지능이 내가 게임 속에서 어떤 캐릭터로 어떤 자동차를 운전하기 좋아하는지 분석해 실제 세상에서 내 운전 습관 예측에 적용한다면 어떨까?
3) 공정성&차별 문제: 인간 평가를 인공지능에게 맡겨도 될까?
점점 많은 분야에서 인간을 평가하는 일을 인공지능에게 맡기고 있다. 예를 들어 의료 분야에서는 환자 상태를 인공 지능이 판단하고 기업 채용에서도 인공지능이 업무적합성 정도를 판단해 채용 여부를 결정한다. 학교에선느 학생들의 실력을 평가하는 데 인공지능을 활용하는 미래가 이미 시작되었다. 그런데 과연 인공지능의 인간 평가는 공정할까? 인간의 데이터를 중심으로 트레이닝한 인공지능이 어떤 데이터로 학습했는가에 따라 평가의 정확도에 차이가 나기 때문이다.
4) 투명성 문제: 인공지능의 원리를 얼마나 투명하고 설명 가능하게 공해갈 것인가?
인간이 겉에서만 보고 인공지능이 인간 데이터를 얼마나 많이 갖고 있고 어떤 기준으로 판단하는지 알 수는 없다. 안 됐지만 많은 경우 인공지능의 데이터와 알고리즘은 블랙박스처럼 외부에 공재되지 않아 덮어놓고 믿어야 한다. 모든 인공지능 알고리즘이 설명 가능한 Explainable AI 형태로, 나아가 보다 신뢰할 수 있고 책임감을 지닌 인공지능 Responsible AI 으로 거듭나야 한다.
5) 디지털 디바이드 문제:
인공지능 기술 혜택이 일부에게만 주어져도 괜찮을까?
미래에는 우리 모두가 인공지능 기술의 혜택을 누릴까, 아니면 지구상의 인간 중 일부만 인공지능을 활용한 서비스 혜택을 받을까? 기술이 발달할수록 그 기술 접속권을 누가 갖는가 하는 문제가 대두된다. 우리는 인공지능 기술을 일부만 누릴 경우 생겨날 수 있는 여러 차별과 불평등 문제도 충분히 인지하고 있어야 한다.
