AI멈추면 세상 멈춘다-AI는 왜 트로이목마인가(7)

먄약 미국 대통령이 아닌 AI가 이란에 대한 핵무기 폭파 명령을 내렸다면

최근 미국 대통령이 이란의 핵무기 개발 장소에 대한 폭파 명령을 내렸고 실행을 했습니다.

미국 대통령이 여러 참모들과 협의를 거친 후 미국 대통령으로서 최종 결정권을 행사해서 이란의 핵무기 개발 장소를 폭파하는 결정을 하고 실행을 한 것입니다.

그런데, 만약 이란의 핵무기 개발 장소에 대한 폭파 명령을 미국 대통령이 아닌 앞으로 몇 년 있으면 개발된다는 범용 인공지능이라고 하는 AGI(Artificial General Intelligence)가 결정을 해서 폭파 명령을 실행했다면 어떠했을까요?

현재 인간인 미국 대통령도 아무리 똑똑해 보았자 수천 권 수만 권의 책을 순식간에 이해할 수 있다는 범용 인공지능이라고 하는 AGI(Artificial General Intelligence)에 비해서는 바보 멍청이라고 볼 수 있지 않을까요?

그렇다면 앞으로 범용 인공지능이라고 하는 AGI(Artificial General Intelligence)가 개발되는 몇 년 후가 되면 이번에 이란 핵무기 개발 장소에 대한 폭파 명령 결정 같은 중요한 사항은 AGI(Artificial General Intelligence)에 비하면 바보 멍청이 같은 인간 대통령이 결정할 수 없게 될까요?

지금 인공지능 AI가 개발되는 단계에 있어서 과연 인간이 살아감에 있어서 무엇은 인공지능 AI에게 맡기고 무엇은 사람이 심사숙고해서 하여야 하는 것인지에 대해 어느 누구도 모르는 상태입니다. 만약, 범용 인공지능이라고 하는 AGI(Artificial General Intelligence)가 이란 핵무기 개발 장소에 대한 폭파 명령을 이번에 내려서 실행한 것이라고 가정을 하면 책임은 누가 부담해야 하는가요? 인공지능을 만든 회사가 책임을 부담해야 합니까? 만약, 인공지능 AI가 내린 핵무기 개발 장소에 대한 폭파명령으로 수많은 사람이 살상되었다면 그러한 살상에 대한 책임을 인공지능 AI가 부담할 수 있을까요?

이렇게 인공지능 AI가 해야 할 일과 인간이 최종 책임을 갖고 해야 할 일이 어디에서 구분되어야 하는 것인지에 대해서 아직 어느 누구도 알지 못하고 그 기준도 없습니다.

만약, 미국 대통령이 범용 인공지능이라고 하는 AGI(Artificial General Intelligence)에게 물어본 대로 자신은 결정한 것이라고 하면 미국 대통령은 인공지능 AI의 결정에 따른 것이라고만 하면 모든 지적에서 자유롭게 될 수 있는 것인가요? 그렇게 되면 앞으로 전 세계의 모든 정치 지도자들은 인공지능 AI에게 물어보았고 인공지능 AI가 시키는 대로 자신들은 이행한 것이라고 하면 인간 정치 지도자들은 어떠한 지적에서도 자유롭게 되는 것인가요?

앞으로는 세계 모든 국가가 선거를 할 필요도 없이 모든 결정을 인간보다 수천 배 수만 배 똑똑하다고 하는 범용 인공지능이라고 하는 AGI(Artificial General Intelligence)가 결정하면 바보 멍청이 같은 인간보다 훨씬 바람직하다로 볼 수 있지 않을까요?

미국 대통령은 이번에 이란 핵 개발 장소에 대한 폭파 결정을 함에 있어서 정치적인 여러 상황을 생각해서 심사숙고해서 결정을 하고 실행을 한 것입니다. 미국 대통령이 그런 결정을 하고 실행하는 것에 대해서 인공지능 AI에게 물어보고 인공지능 AI의 지시대로 한 것이라는 보도는 전혀 없습니다.

만약 이번에 폭파 결정을 인공지능 AI에게 물어보고 인공지능 AI가 시키는 대로 했다고 가정을 하면 미국 대통령은 엄청난 비난에 시달릴 것입니다. 왜냐하면, 그렇게 중요한 일을 왜 인공지능 AI에게 물어보고 인공지능 AI가 시키는 대로 했느냐고 그렇게 하려면 무엇 때문에 선거를 하느냐고 엄청난 비난과 항의가 빗발쳤을 것입니다.

인공지능 AI에게 맡길 일이 있지만 우리 인간의 생존을 좌우하는 중요한 결정을 인공지능 AI에게 맡길 수는 없는 것입니다. 이번 미국 대통령의 결정과 같이 인간의 생존을 좌우하는 중요한 일은 인공지능 AI에게 맡기지 않고 인간이 결정을 하는 것과 같은 영역은 철저하게 인간이 결정하도록 해야 합니다. 그렇지 않고, 인간의 생존을 좌우하는 중요한 일도 인공지능 AI에게 물어보고 인공지능 AI가 시키는 대로 한다면 인간은 생각하는 힘을 잃어버리게 될 것이고, 인공지능 AI가 멈추는 순간 우리가 살아가는 세상도 멈추게 되는 세상이 될 것이며, 우리 인간은 트로이 목마에서 나오는 군인들에 점령되듯이 인공지능 AI에게 점령되어 인공지능 AI를 섬기는 인공지능 AI의 노예가 될 것입니다.