AI멈추면 세상 멈춘다(56)AI 의사와 인간 의사

AI 의사를 만드는 프로그램이 인간 의사보다 더욱 사람을 해치는 위험성

인간 의사 대신에 인공지능 AI 의사를 활용해서 신속하고 효율적으로 값싼 치료를 받게 하는 사업이 미국에서 이루어지고 있다고 합니다.

미국 유타주에서는 고혈압을 앓는 환자 등이 복용하는 약이 부족한 경우 인간 의사가 아니라 인공지능 AI 의사에게 처방을 받도록 하는 사업이 진행 중이라고 합니다.

인간 의사에게 약을 처방받으려고 하면 사전에 예약해야 할 뿐만 아니라 비싼 진료비를 감당해야 하고 또한 의사가 있는 병원에까지 왔다 갔다 하는 교통비 시간 등이 낭비되는 부작용이 따릅니다.

반면에, 인공지능 AI에 의한 진료인 AI 주치의로부터 정해진 프로그램에 따라서 진료를 받으면 위와 같은 시간, 비용을 절약할 수 있어서 매우 편리하고 경제적이며 효율적입니다.

그런데, 최근 미국에서는 마약성 진통제 중에 오피오이드(Opioid)를 남용해서 오피오이드(Opioid) 남용으로 수많은 사람이 약에 중독되는 부작용이 발생한 적이 있습니다. 그래서 오피오이드(Opioid) 사태와 관련된 퍼듀 파마 등에 대해서 소송이 제기되기까지 하였습니다.

인간 의사가 아닌 인공지능 AI 의사가 진료를 하게 되면 위와 같은 오피오이드(Opioid) 사태보다 더욱 위험한 사태가 발생할 수 있습니다.

위와 같은 오피오이드(Opioid) 약물 남용과 같은 위험한 사태는 인공지능 AI 의사를 지시하는 프로그램의 발달로 더욱 많이 발생하고 위험이 더 큰 약물 남용이 발생할 수 있습니다.

최근에 국내 유명 대학인 고려대와 연세대 등에서 인공지능 AI를 이용해서 시험에서까지 부정행위 사례가 실제 발생했습니다。 인공지능 AI가 없었으면 고생을 해서 뇌세포를 사용했을 학생들이 편리하다는 유혹에 못 이겨 뇌세포로 생각하는 고생스러움 대신 편리한 AI 인공지능에 빠져 들어 AI 인공지능을 이용한 시험 부정행위까지 발생한 것입니다. 본 연재 글 중에서 https://brunch.co.kr/@imccor/713 에 있는AI멈추면 세상 멈춘다(38)AI로 시험이 무효가 되다. 인공지능 AI로 시험 부정행위 발생해서 시험까지 ＡＩ로 무효가 되는 세상이라는 내용에도 있습니다.

또한, 최근 인공지능 AI 회사인 오픈AI 안전리서치 관련자는 GPT 모델 사용 시 완료되지 않은 작업을 인공지능 AI가 완료했다고 잘못 작동을 하거나 또는 실제로는 존재하지 않는 이미지를 마치 존재하는 것과 같이 사실과 달리 작동한 경우가 상당수 있었음을 인정하였습니다. AI멈추면 세상 멈춘다-AI 왜 트로이목마인가(18) AI 회사도 인정한 AI의 속임수와 책임의 전가 https://brunch.co.kr/@imccor/662 에서 위 내용이 있습니다.

그렇다면, 인간 의사가 아닌 인공지능 AI 의사는 인공지능 AI 회사가 설계한 프로그램으로 진료를 하는데 인공지능 AI 의사를 지시하는 프로그램에 비밀 명령 코드를 넣어서 특정인을 오히려 제거할 수 있는 위험이 있습니다.

또는 악의적은 아니더라도 인공지능 AI 프로그램의 실수로 특정인에게 약물을 과다 처방하는 할루시네이션(Hallucnation) 또는 환상이 발생할 수 있습니다.

당장은 인공지능 AI 의사가 편리하고 저렴하더라도 위와 같은 오피오이드(Opioid) 약물 남용 사태보다도 더욱 위험한 사태가 인공지능 AI 의사의 진료로 발생할 수 있습니다.

더욱, 문제가 되는 것은 인간 의사의 실수 등은 그 원인을 찾는 것이 가능하지만 인공지능 AI 의사의 실수나 착각, 환상은 발견하는 것이 현실적으로 불가능하다는 것입니다.

그렇다면, 인공지능 AI 의사와 인간 의사의 장, 단점을 비교 분석하고 진료를 받는 사람으로 하여금 과연 인공지능 AI 의사를 선택할 때의 장점과 단점 그리고 인간 의사를 선택할 때의 장점과 단점을 쉽게 제시해서 진료를 받는 사람이 충분히 검토하고 선택할 수 있도록 하여야 합니다.

그리고, 인공지능 AI 의사의 진료를 받는 중이라고 하더라도 언제든지 인간 의사의 진료로 교체할 수 있는 기회도 제공되어야 합니다.

인간 의사와 인공지능 AI 의사의 어느 한 가지 종류의 의사가 독점을 하게 되면 분명히 부작용이 발생하기 때문입니다.

본 글 연재 내용에서 기재한 내용들 중 https://brunch.co.kr/@imccor/745 에 있는 AI멈추면 세상 멈춘다(51) AI 3원칙 최초로 등장, AI 3원칙이 최초로 등장해서 사람을 인공지능의 주인으로 만든다 부분에서 기재한 인공지능 AI의 3원칙이 인공지능 AI 개발의 가이드라인이 되어 보다 안전한 인공지능 AI가 개발되어야 할 것입니다.

The three principles of artificial intelligence AI described in this article should be a guideline for the development of artificial intelligence AI, so that safer artificial intelligence AI should be developed.( https://brunch.co.kr/@imccor/745 )

인공지능 3원칙은 위 링크에 있고 내용은 다음과 같습니다.

인공지능 AI 제1법칙 : 인공지능 AI가 멈추는 일이 발생하더라도 인공지능 AI의 도움 없이도 인간 세상은 정상적으로 작동되도록 하여야 한다.

Artificial intelligence AI First law - Even if artificial intelligence AI stops, the human world must operate normally without the help of artificial intelligence AI.

인공지능 AI 제2법칙 : 위 제1법칙을 제외하고, 인공지능 AI는 인간을 주인으로 받들어야 한다.

Artificial intelligence AI Second law - Artificial intelligence AI should accept humans as its masters as long as such acceptance does not conflict with the First Law.

인공지능 AI 제3법칙 : 제1법칙과 제2법칙을 제외하고, 인공지능 AI는 학습한 재료의 출처를 명시하여야 한다.

Artificial intelligence AI Third law - Artificial intelligence AI must specify the source of the learned materials.as long as such specification does not conflict with the First or Second Law.

인공지능 AI를 사용하거나 사용하려고 하는 모든 사람들은 인공지능 AI가 공짜 점심이 아니고 인공지능 AI가 멈추면 온 세상이 멈추는 사태가 현실이 될 수 있음을 심각하게 알아야 합니다. 그리고, 트로이 목마에서 튀어나오는 군인과 같이 인공지능 AI의 속임수가 트로이 목마가 되어 인간이 소멸할 위험도 있음을 알아야 합니다.

( 본 연재는 AI가 멈추면 세상이 멈춘다 https://brunch.co.kr/brunchbook/safeai777 1-30 연재에 이어지는 내용들입니다)

(본 글 내용은 인공지능 AI의 도움 없이 천연 100% 인간이 땀으로 만든 내용이고, 본 글 내용은 인공지능 AI가 학습 재료로 사용할 수 없고 본 글 내용에 인공지능 AI가 접근하는 것을 금지한다는 것을 명확히 표시합니다)

#인공지능 #AI #사람 #정보 #인간 #학습 #재료 #세상 #정보 #자신 #천국 #의사 #작동 #사회 #내용 #오피오이드 #환상 #할루시네이션 #주인 #노예 #세상 #재료 #출처 #독립