[AI 바벨탑] 허물기(2)
Demolition of AI Babel Tower
AI가 인류의 미래이고 절대 선이라는 분위기에서 [AI 바벨탑]을 열심히 쌓는 것이 정말 올바른 일인가 되새겨 보기 위해 본 글에서 [AI 바벨탑]이라는 용어를 최초로 생성하였습니다. 왜 [AI 바벨탑]을 허물어야 하는 것인지 살펴 보겠습니다. This article created the term [AI Babel Tower] for the first time to reflect on whether it is really the right thing to build [AI Babel Tower] in the atmosphere that AI is the future of mankind and is absolutely good. Let's see why we have to tear down [AI Babel Tower].
우선 가장 최근의 보도 내용을 보겠습니다. [AI가 알려준 '웰스파고 CEO'…불법 리딩방 대표였다](https://www.hankyung.com/article/2024032711561 )라는 제목으로 최근 AI를 활용해서 불법 리딩방을 운영하면서 수많은 피해를 일으키고 있다는 보도 내용입니다. First, let's take a look at the most recent report. [The 'Wellspargo CEO' that AI told us, was the CEO of an Illegal Reading Room" (https://www.hankyung.com/article/2024032711561 ), it is reported that it has recently caused numerous damages by operating an illegal reading room using AI.
위 최근 보도 내용과 같이 AI를 악의적으로 이용하면 엄청난 피해를 일으킬 수 있다는 것이 현실로 입증된 것입니다. As in the recent report above, it has been proven that malicious use of AI can cause tremendous damage.
AI라는 도구가 없었다면 위 보도 사례와 같이 많은 수의 피해자들에게 피해를 입히는 일은 없었을 것입니다. AI 때문에 많은 피해가 발생한 사실이 현실이 된 것입니다. Without the tool of AI, it would not have caused the damage to a large number of victims as in the above report. The fact that AI caused a lot of damage has become a reality.
위 사례는 빙산의 일각에 지나지 않습니다. The above case is just the tip of the iceberg.
AI를 보다 조직적으로 계획적으로 부당한 목적으로 악용한다면 AI는 위 사례와는 비교할 수 없을 정도로 엄청난 해악을 초래할 위험이 높습니다.If AI is more systematically abused for unwarranted purposes, there is a high risk of AI causing enormous harm incomparable to the above cases.
예를 들어, 환경 오염을 발생시키는 인간을 지구에서 제거하라는 명령이 AI에게 내려지는 순간 AI는 지구 환경 보호를 위해서 인간을 지구에서 제거하는 작업을 실행할 것입니다. For example, as soon as AI is ordered to remove humans that cause environmental pollution from Earth, AI will execute the task of removing humans from Earth to protect the global environment.
AI를 인간의 통제 하에 적절하게 사용하는 것은 이론적으로는 가능하지만 현실적으로는 무척 어려운 일입니다. Proper use of AI under human control is theoretically possible, but in reality it is very challenging.
우리 인간 모두 우리가 개발하는 AI가 [AI 바벨탑]이 되지 않도록 주의를 기울여야 합니다. [AI 바벨탑]이 우리 인간을 지구에서 제거하는 날이 오지 않도록 노력해야겠습니다. All of us humans should be careful not to let the AI we develop become [AI Babel Tower]. We should try not to let the day come when [AI Babel Tower] removes us from the earth to preserve the environment.
인간이 통제하고 인간의 말을 듣는 AI를 만들어야 합니다. 인간의 통제를 벗어난 [AI 바벨탑]은 허물어야 합니다. We need to create AI that humans control and obey to humans. [AI Babel Tower] that is out of human control must be torn down.
