인공지능 윤리가 중요한 이유

인간도 그러할까?

나에게 노예가 생기면 어떨까?

마님이 머슴을 부리듯 손가락 까딱 안하고 편리하게 귀찮은 일을 대신 해주는 노예!

혹은 나를 절대 배신하지 않는 믿음직한 친구가 생기면?

나의 취향과 성격을 귀신같이 알아서 말하지 않아도 모든 것을 맞춰주는 친구 말이다.

혹은 완벽한 애인은?

뭐든간에 인간과 일상을 함께 할 새로운 존재가 탄생하였다.

2024년 3월 독일의 모 기업이 생성형 AI 기술을 적용한 로봇 출시를 발표하였다.

이 로봇은 '피규어01'이라는 로봇으로, 독일의 BMW 공장에도 적용될 예정이다. 생성형 AI 기술은 누구나 한 번쯤은 들어봤을법한 챗GPT와 같은 기술인데, 인간처럼 자연스러운 대화가 가능하고 스스로 맥락을 이해하고 대응할 수 있다. 이 로봇은 시키지 않아도 자기가 알아서 설거지를 하고 음식물 쓰레기를 버린다. 인공지능이 스스로 상황을 인식하고 직면한 문제를 해결하기 위해 의사결정하고 행동하는, 하나의 존재가 탄생한 것이다.

이미 새로운 종이 탄생했음에도 사회 질서 유지와 안정을 위한 윤리 체계 마련은 속도가 더딘 상황이다.

인공지능은 블랙박스와 자율성을 지니고 있기 때문에 인간이 원하는 방향 그대로 개발하기 어렵다.

입력한 값만큼만, 원하는 프로세스대로만 출력되는 기기가 아니라는 것이다.

인공지능을 개발한 개발자 조차도 왜 이렇게 인공지능이 작동하고, 왜 이런 결과를 내렸는지 설명하기 어려운 경우도 있다.

자율적으로 사고하고 행동하는 인공지능을 통제하기 위한 방안으로 필요한 것이 윤리다. 개발 단계에서 개발자가 인공지능 윤리를 의도적으로 고려해야 할 뿐만 아니라, 이미 탄생한 존재에게도 윤리를 지속적으로 학습시키고 설득시키는 과정이 필요하다.

사실.. 인간도 윤리와 가치관에 대해 명확한 답을 내리기란 쉽지 않은 것이 현실이다.

윤리란 것이 인간마다 정도가 다른 상대적인 것이기 때문이다.

그럼에도 우리는 어느 정도 합의하여 답을 내려야 하는 시점에 도달했다.

인공지능은 합의된 선(善)한 존재여야 한다.

선의 기준은 무엇일까?

또 인간은 선한 존재일까?

혹시 인간을 만든 어떠한 존재가 있다면, 그 존재도 우리가 인공지능에게 바라는 것과 같이 자신의 안위와 편의를 위해 우리가 선하기를 바랄까?

생각이 많아지는 지점이다.