악은 평범하다. 인공지능은?

악은 뿔 달린 악마가 아니다.

평범한 보통 사람이 악행을 행한다.

일상의 평범한 행동이 엄청난 악이 될 수 있다.

이웃집 아저씨가 악당으로 돌변할 수도 있다.

악은 평범하고 우리 곳곳에 있다.

악이 이렇게 평범하다고?

도대체 무슨 말인지 이해하기 힘들다.

독일 출신의 정치철학자 한나 아렌트는 말한다.

"악이란 뿔 달린 악마처럼

별스럽고 괴이한 존재가 아니며,

사랑과 마찬가지로

언제나 우리 가운데 있다"

그녀는 ‘악의 평범성(Banality of evil)’을 개념화했다.

아렌트는 왜 이런 말을 했을까?

한나 아렌트는 독일 출신의 유대인이다.

그녀는 나치 독일에서 탈출하여 미국으로 망명했다.

그녀의 친인척 중 많은 사람이 나치에 희생당했다.

아픈 가족사를 가진 아렌트는 홀로코스트의 비극을 연구했다.

유대인 대학살 사건의 책임자였던 아돌프 아이히만

그는 전쟁이 끝나자 멀리 아르헨티나로 도망쳐 버렸다.

완벽하게 신분을 세탁하고 평범하게 살던 아이히만

모사드는 그를 체포해 예루살렘으로 압송했다.

아이히만은 전범으로 재판에 기소됐다.

한나 아렌트는 이 재판을 직접 참관했다.

그녀는 아이히만이 매우 사악한 악마일 거로 생각했다.

그녀의 예상과 달리 그는 아주 평범한 가장이었다.

그에게서 과도한 악의 흔적이나 사악함을 찾기 힘들었다.

그녀는 그가 어떻게 그런 악행을 저질는지 당황했다.

그녀는 평범한 사람도 악을 행할 수 있다고 말했다.

국가나 조직의 명령을 성실히 이행하는 것이 악이 될 수도 있다.

악한 의도를 갖지 않은 사람도 악행을 저지른다.

생각보다는 악은 평범하다.

타인의 입장을 생각하기

사람이 자기 행동의 의미를 전혀 깨닫지 못하는 점

그것이 ‘악의 평범성’의 특징이다.

아렌트가 악당을 용서해야 한다고 말한 것은 아니다.

예루살렘의 법정은 아이히만에 사형 선고를 내린다.

‘사유의 불능’

‘타인의 입장에서 생각하지 못한 무능’

이것이 그의 치명적인 죄목이다.

사람이 이 정도인데 인공지능은 어떨까?

인공지능은 악이 좋은지 나쁜지 모른다.

선함의 가치를 교육하지 않으면 안 된다.

인공지능이 '사유의 불능'이 되면 안 된다.

인공지능만큼 '악의 평범성'에 쉽게 물드는 것도 없다.

그에게는 악함도 선함도 평범한 일상이다.

인간이 어떻게 인공지능을 학습시키느냐에 달렸다.

타인의 입장에서 생각하는 능력을 가르쳐야 한다.