트롤리 딜레마와 AI의 선택

GnB패럴랙스 캠퍼스 로비 디자인

상황 1

Trolley dilemma

트롤리 딜레마

브레이크가 고장 난 트롤리 기차가

철길 레일을 바꿀 수 있다면

다수를 구하기 위해 소수를 희생시켜도 될까?

고민되는 윤리문제다.

윤리학에서도 공리주의가 적용되는가?

다수의 행복을 위해 소수가 희생돼도 좋은가.

달리 표현하면 강자의 이익을 위해

약자의 이익이 침해돼도 되는가의 문제로

확장될 수 있다.

상황 2

상황 1

원래 업무규칙대로 정해진 철길에서

자신의 일을 하고 있는 인부 한 사람이 있다.

다른 철길에는 업무규칙을 위반해서

5명의 인부가 일하지 말아야 하는 철길에서

일하고 있다. 기차는 달려오고 레일 레버를

조작하는 사람은 어떤 선택을 해야

윤리적인가?

상황 2

열차가 5명의 인부 쪽으로 달려오는데

육교 위에 육중한 체격의 한 사람을

밀어 떨어뜨리면 5명을 구할 수 있다고

가정할 때 당신이 선택권이 있다면

육교 위 육중한 체격의 사람을 밀어

떨어뜨릴 것인가?

상황 3

상황 3

당신은 테슬라 AI자율주행차 프로그래머다.

도로 왼편에는 아장아장 걷는 아기가 있고

오른편 도로에는 거동이 불편한 할머니가

길을 건너고 있다.

자율주행차가 사고를 미처 방어할 수 없고

반드시 한쪽은 치어야 한다면 당신은 SW를

누구를 치게 구성할 것인가?

트롤리 딜레마 상황이다.

상황 3번의 사례로

2018년 메사츠세스공과대에서

233개국 230만 명에게

설문조사를 했다.

설문 결과는 유교권인 동양에서는

할머니를 보호해야 한다는 의견이

프랑스, 캐나다 등 서구권에서는

어린이를 우선 보호해야 한다는

의견이 우세했다고 한다.

상황 1,2,3에 대한

당신의 선택은 무엇인가?

또 그 근거는 무엇인가?

그 선택이 윤리적인 선택인가?

아니면 효용성인가?

그렇다면 희생된 사람의 인권은?

스스로 학습한다는 AI가 이런

문제를 어떻게 처리할까?

결국 AI의 학습력이라는 것도

인간의 그동안 해왔던 결과치로

학습하는 것이니

그동안 인간의 선택은 어떠했을까?

살인은 단죄를 하는데

전쟁에서 학살은 왜 그냥 넘어가는가?

소수의 자국민을

구하기 위해 다수의 약소국민을

희생시키는 논리는 무엇인가?

결국 윤리학도

자국이익 우선주의인가?

윤리학이 국가주의라면

좁게는 내 가족,내조직으로

좁혀들 수 있는 위험성을 내포한다.

인간을 보다 성숙하게 만드는 지점이

타인의 고통에 대한 참기힘든 연민을

지니는 것이라는데,

그 타인이 어디까지 인가?

20세기 지성 러셀은

인류의 고통에 대한 참기힘든 연민이

전 인생을 관통하여 자신을 지배했다고

밝히고 있다.

통치자라면 러셀 정도의 연민은

있어야 하지 않을까만은

연민은 커녕 사심도 못버리니

한탄할 노릇이다.

Plato Won