[AI 바벨탑] 허물기(3)

Demolition of Babel Tower (3) 

AI를 사용하는 과정에서 환각 현상(Hallucination)이 자주 발생하고 있습니다. Hallucination occurs frequently in the process of using AI. 

현실에서는 존재하지 않는 현상을 마치 존재 하는 것 같이 AI가 만들어 내는 현상을 환각 현상 (Hallucination)이라고 합니다. A phenomenon, which does not exist in real life, that AI creates as if it exists is called Hallucination.

AI의 능력에 비해 바보 취급 당하는 인간은 환각 현상을 만들어 내지 않습니다. 정상적인 사람이라면 말이죠. Humans who are treated like fools compared to AI capabilities don't create hallucinations, if you're a normal person.

여기에 근본적인 차이점이 있습니다. AI는 AI에게 집어 넣은 데이터를 허구의 세계에서 AI가 조립하여 결과를 나타내 주는 것입니다. 반면에 인간은 실제 경험하는 세상을 살면서 결과를 산출하는 것입니다. 그렇기 때문에 인간에게는 환각 현상(Hallucination)이 없는 것입니다. There is a fundamental difference here. AI assembles the data that it puts into the AI and shows the results in the fictional world. Humans, on the other hand, live in real-world experiences and produce results. That's why humans don't have Hallucination.

AI 의사가 수술을 하다가  환각 현상(Hallucination)으로 사고가 발생하는 경우 누가 책임을 부담하여야 합니까? 인간에 비해 월등하게 뛰어나다는 AI 프로그램을 개발한 회사가 책임을 지겠다고 하겠습니까? 아니면 AI가 스스로 책임을 부담하겠다고 하겠습니까? Who should take responsibility if an accident occurs due to Hallucination while an AI doctor is performing surgery? Would the company that developed the AI program, which is superior to humans, be held accountable? Or would the AI take responsibility on its own?

AI 프로그램을 개발한 회사는 AI가 환각 현상(Hallucination)을 일으킬 줄은 전혀 알 수 없었다고 변명을 할 것입니다. 그리고, AI는 자신에게 잘못된 데이터를 집어넣은 회사가 책임을 부담해야 한다고 변명을 할 것입니다. 환각 현상(Hallucination)으로 피해를 입은 환자는 누구에게도 책임을 물을 수 없게 됩니다. The company that developed the AI program will make an excuse that it had no idea that AI would cause Hallucination. And, the AI will make an excuse that the company that put the wrong data in it should bear responsibility. Patients affected by Hallucination will not be able to hold anyone accountable.

이런 현상이 바로 [AI 바벨탑]을 의심 없이 믿는 잘못에서 발생할 것입니다. [AI 바벨탑]을 열심히 쌓아 올림으로써 이익을 얻는 사람들과 회사들은 [AI 바벨탑]을 더 빨리 더 높이 쌓아야 한다고 목소리를 높일 것입니다. 그렇지만, 인간의 탐욕으로 만든 역사의 바벨탑은 완성되지 못했습니다. 마찬가지로 인간의 욕심으로 지금 쌓아 올리고 있는  [AI 바벨탑]은 허물어야 합니다. This will come from the fault of having no doubt in believing in [AI's Babel Tower]. People and companies that benefit from the [AI's Babel Tower] will be vocal about the need to build [AI's Babel Tower] higher and faster. However, the Tower of Babel in history made by human greed has not been completed. Likewise, the AI Babel Tower that is being built by human greed has to be demolished.

 [AI 바벨탑]을 열심히 쌓는 것이 정말 올바른 일인가 되새겨 보기 위해 본 글에서 [AI 바벨탑]이라는 용어를 최초로 사용하고 있습니다. This article is using the term [AI Babel Tower] for the first time to reflect on whether it's really the right thing to build [AI Babel Tower].

인간의 탐욕으로 완성되지 못한 역사의 바벨탑 사건의 교훈을 되새겨서 인간의 욕심으로 지금 쌓아 올리고 있는  [AI 바벨탑]은 허물어야 합니다. Reflecting on the lessons of the Babel Tower incident in history that was not completed by human greed, the [AI Babel Tower] that is now being built by human greed must be demolished.