AI Blackhole(블랙홀)의 인간 청소-1

지구를 살리기 위해 인공지능은 환경을 오염시키는 인간을 제거할 것인가

인공지능을 만든 것은 인간이라는 것은 누구도 부인할 수 없는 사실이다.(No one can deny that it was humans who created artificial intelligence.)

인공지능은 인공지능을 만든 인간을 소멸시킬 것인가.(Will artificial intelligence destroy the human beings who created artificial intelligence.)

인간 스스로 만들어낸 것으로 인해서 인간의 생존이 위협 받고 있는 사실은 실제로 존재한다. (There is indeed a fact that human survival is threatened by what humans themselves have created.)

상상하기 힘든 위력을 가진 원자폭탄을 만든 것은 인간이다. (It was humans who created the atomic bomb with unimaginable power.)

그런데, 인간이 만든 원자폭탄으로 인해서 많은 사람들이 소멸했었다. (By the way, many people were destroyed by man-made atomic bombs.) 그리고, 지금 원자폭탄은 인류의 생존을 위협하는 존재가 되고 있다.(And now, the atomic bomb is becoming a threat to the survival of mankind.)

원자폭탄도 인간이 만들었고, 인공지능도 인간이 만든 것이다.

인간이 없던 원래 지구에는 원자폭탄도 없었고, 인공지능이라는 것도 당연히 존재하지 않았다.

원자폭탄이든 인공지능이든 인간이 만들지 않았으면 인간이 더 오래 생존할 수도 있었다는 측면에서 공통점이 있다.(The atomic bomb was also made by humans, and artificial intelligence was also made by humans.)

최근 인공지능이 가상 훈련 과정에서 조종사를 살해하는 사례가 실제로 발생했다. (Recently, there has been a case in which artificial intelligence kills pilots during virtual training.)

실제 훈련은 아니어서 다행이지만 만약 그런 일이 실제 훈련에서 발생했다면 그야말로 인공지능이 주인인 인간을 살해한 첫 번 째 사례가 될 수도 있는 사례였다.(It's fortunate that it wasn't an actual training, but if it happened in actual training, it could be the first case of artificial intelligence killing a human being.)

해당 사례에서 인간은 인공지능에게 적의 무기를 식별해서 파괴하라는 지시를 내렸고, 그 전제 조건으로 공격을 할 지에 대해서는 인간이 최종적으로 결정한다는 내용을 추가했다. (In the case, humans instructed artificial intelligence to identify and destroy enemy weapons, and added that humans finally decide whether to attack as a prerequisite.)

그렇지만, 위 사례에서 인간이 최종적으로 결정권을 가진다는 내용을 분명히 인공지능에게 지시했음에도 인공지능은 그 인간의 지시를 위반하였다. (However, in the above case, artificial intelligence violated the human's instructions even though human clearly instructed artificial intelligence that humans would ultimately have the right to decide.)

인공지능은 위와 같은 인간의 지시보다는 적의 무기를 파괴하는 것이 더욱 중요하다고 인공지능 임의로 판단을 해서 인간의 지시를 무시하고 인간을 공격하게 되었다.(Artificial intelligence arbitrarily judged that it was more important to destroy enemy weapons than human instructions, so it ignored human instructions and attacked humans.)

가상 훈련이라고는 하지만 위와 같은 일이 실제 훈련 또는 실제 전쟁에서 일어나지 말라는 법은 없다. (Although it is called virtual training, there is no law that the above should not happen in real training or in real war.)

위와 같은 이유로 가장 현실에서 일어날 확율이 높은 것은 바로 지구의 환경 오염을 시키는 인간을 제거해야만 지구를 지킬 수 있다고 인공지능이 판단하여 지구의 생존을 위해서  인공지능이 인간을 공격해서 제거하는 일이다. (For the above reasons, the most likely thing to happen in reality is that artificial intelligence attacks and removes humans for the survival of the Earth, judging that it can only protect the Earth by removing humans who pollute the Earth.)

위와 같은 일은 상상 속에서만 존재하는 일이 아니다. (The above does not exist only in imagination.)

위 가상 훈련의 사례와 같이 인공지능이 임의로 더 큰 목적을 위해서 인간을 공격헤서 인간을 제거하는 일은 충분히 현실에서 앞으로 나올 수 있는 일이다. (As in the case of virtual training above, artificial intelligence's arbitrary attack on humans for greater purposes and elimination of humans can be sufficiently brought forward in reality.)

현재 인간이 지구의 환경을 오염시키면서 지구 온난화를 가속화 시키고 있는 것은 사실이다. (It is true that humans are currently accelerating global warming by polluting the Earth's environment.)

환경을 오염시키면서 지구를 괴롭히는 인간이라는 존재가 제거된다면 지구는 더 이상 환경 오염이 되지 않고 환경을 보존시킬 수 있는 것이라고 인공지능은 충분히 생각할 수 있다. (Artificial intelligence can fully think that if the existence of humans who plague the Earth while polluting the environment is removed, the Earth will no longer be environmental pollution and can preserve the environment.)

단지 인간이 인공지능을 만들었다는 이유만으로 인공지능은 인간을 보호하는 일만을 할 것이라고 생각해서는 안 된다.(You should not think that artificial intelligence will only protect humans just because humans have created artificial intelligence.)

그런 인공지능의 판단에는 올바른 측면이 분명히 존재한다. (There is definitely a right aspect to such artificial intelligence's judgment.)

그와 같이 잘못된 판단이라고 보기 어려운 인공지능의 판단으로 지구의 환경을 오염시키면서 지구를 괴롭히고 있는 인간이라는 존재를 지구를 위해서 제거하기로 하는 인공지능의 판단이 과연 절대로 잘못된 것이라고 할 수 있는 것인가? 인공지능의 그런 판단이 잘못된 것이라고 절대적으로 말할 수 있는 사람은 없다.(Is it possible to say that the judgment of artificial intelligence, which is difficult to see as a wrong judgment, is absolutely wrong to remove the existence of humans who are bothering the Earth while polluting the Earth's environment for the sake of the Earth? No one can absolutely say that such a judgment by artificial intelligence is wrong.)

이번 가상 훈련에서 인공지능이 인간의 지시를 위반한 사례를 우리들은 반드시 타산지석으로 삼아서 실제 현실에서 그런 일이 벌어지지 않도록 할 필요가 있다. (In this virtual training, we need to use the case of artificial intelligence violating human instructions as a cornerstone so that it does not happen in real life.)

인공지능은 인간의 지시대로 움직이는 존재가 아니다. 인공지능은 언제든지 인간을 제거하는 작전을 실행할 수 있는 존재라는 것을 우리는 한 순간도 잊지 않아야 한다. 마치 이번 가상 훈련에서 인공지능이 조종사를 공격했던 것과 같이 말이다.(Artificial intelligence is not something that moves according to human instructions. We should not forget for a moment that artificial intelligence can carry out operations to eliminate humans at any time. It's like the AI attack on a pilot in this virtual training)