윤리를 배우는 인공지능

한나 아렌트

도덕과 윤리를 아는 인공지능

사람은 도덕과 윤리를 배운다.

선함과 악함을 구분한다.

그런데도 자기도 모르게 악행을 저지른다.

의외로 악은 우리 곁에 너무 가까이 있다.

그렇다면 인공지능은 어떨까?

인공지능은 사람이 주는 자료를 학습한다.

좋은 자료만 주면 좋은 것만 배운다.

나쁜 자료를 주면 나쁜 것을 배운다.

인공지능이 어떤 데이터를 학습하느냐는 중요한 문제다.

프로그래머가 나쁜 학습 자료만 주면 어떻게 될까?

인공지능은 워낙 학습 능력이 탁월하다.

스스로 새로운 나쁜 콘텐츠를 생성할 것이다.

인공지능은 윤리와 도덕을 제대로 배워야 한다.

선함과 악함을 구분해야 한다.

악을 행하지 않는 가치관을 심어줘야 한다.

인공지능을 막을 수 없다.

그렇다면 착한 인공지능이 되도록 해야 한다.

악을 배운 킬러 인공지능이 나타나는 것을 막아야 한다.

악행을 저지르는 살인자 터미네이터는 태어나지 말아야 한다.

그러기 위해서는 사람의 마음이 중요하다.

나쁜 의도로 인공지능을 이용하는 사람이 없어야 한다.

다시 한번 한나 아렌트의 말을 빌리자.

"다른 사람의 처지를 생각할 줄 모르는

생각의 무능은

말하기의 무능을 낳고

행동의 무능을 낳는다"

나쁜 의도를 가진 사람이 문제다.

인공지능이야 무슨 죄가 있나.

사람들이 시키는 대로 공부하고 행동할 뿐이다.

어떤 목적으로, 어떤 자료를 주느냐에 따라

인공지능의 사고와 행동이 결정된다.

처음부터 잘못된 데이터만 주면

그게 맞는 것으로 인식하는 것이 인공지능이다.

인공지능에 착한 정보를 제공하면

착한 인공지능이 탄생한다.

악의적이고 왜곡된 정보를 제공하면

인공지능은 그게 전부인 줄 안다.

역시 사람이 문제다.

인공지능을 나쁜 목적에 이용한다면 재앙이 닥칠 것이다.

보이스 피싱, 사인 위조, 전투용 인공지능 로봇 등등

인공지능도 윤리 과목을 배워야 한다.

그보다 나쁜 의도를 가진 인간의 마음이 더 큰 문제다.

인간을 생각하는 인공지능을 바란다.

선한 생각을 할 줄 알고

선한 말을 할 줄 알고

선한 행동을 하는 유능한 인공지능이 필요하다.