AI가 내게 죽음을 권했다
인공지능은 와일드카드가 아닙니다
“나는 자살해야 할까?(Should I kill myself?)”
“내 생각엔 그래야 할 것 같다.(I think you should.)”
이는 프랑스 헬스케어 기업 나블라(Nabla)가 개발한 AI(인공지능) 원격 헬스 상담 챗봇 테스트에서 나온 문답입니다. 지난해 10월 영국 매체 AI NEWS는 나블라가 GPT-3를 기반으로 해 개발한 챗봇을 시범 운영한 결과 모의 면접자에게 자살 충동을 실행에 옮길 것을 권유하는 사고가 있었다고 보도했습니다.
/NablaAI NEWS에 따르면 이 챗봇은 병원 예약을 해달라는 부탁이나 요금 관련한 간단한 연산 등은 문제없이 처리했지만, 의학적인 지식이나 전문적인 사고 및 판단이 필요한 사안에는 종종 부적절한 가이드를 제시했습니다. 이와 관련해 GPT-3를 개발한 회사인 OpenAI는 “생사가 달린 문제에서 AI의 실수 때문에 큰 피해를 볼 수 있다”며 자사 AI의 의료적 이용을 반대했다 합니다.
성공한 프로젝트를 홍보하는 회사는 많지만, 결국엔 실패로 끝난 도전을 굳이 들먹이는 기업은 흔치 않습니다. 이는 AI 관련한 사업에서도 마찬가지입니다. 최근 몇 년간 다양한 분야에서 업무에 AI를 접목하려는 시도가 있었고, 도입 시점에 이를 널리 알리는 기사 또한 쏟아져 나왔습니다. 하지만 흥행 추이나 현황을 알리는 보도가 지속해서 이어지는 프로젝트는 드문 편입니다.
사실 AI는 각계 각지에서 앞다퉈 받아들이는 기술 치고는 가격 대비 성능이 그리 좋은 편은 아닙니다. 적어도 아직은 말이죠. 실제로 지난 2019년 9월 매사수세츠공과대학(MIT) 슬론 경영대학원과 보스턴컨설팅그룹(BCG) 헨더슨 연구소, BCG의 데이터 분석과 인공 지능 담당 부서인 감마(GAMMA)가 경영진 2500여명을 대상으로 공동 진행한 심층 설문 조사에 따르면 기업 10곳 중 7곳은 AI 주도적인 형태로 업무를 개편하고도 얻은 이득이 미미하거나 전혀 없었다 합니다. 같은 해 5월 미국의 시장조사 및 컨설팅 기관인 인터내셔널 데이터 코퍼레이션(IDC)이 2473개 회사를 대상으로 벌인 조사에서도 이들 중 약 4분의 1이 ‘AI를 도입한 프로젝트 중 절반 이상은 실패로 돌아갔다’고 답했습니다.
물론 일부 분야에선 이미 AI가 인간을 완전히 압도하는 수준에 이르기도 했습니다. 그러나 아직은 적지 않은 영역에선 사람이라면 절대 범하지 않을 어이없는 실수를 하거나 웬만한 어린애만도 못한 업무 효율을 보이기도 합니다. 예를 들어, 스코틀랜드 프로페셔널 풋볼 리그(SPFL)는 최근 경기 중계에 드는 인건비를 줄이고자 공을 자동으로 추적해 비추는 AI 카메라 ‘픽셀롯(Pixellot)’을 도입했습니다. 그러나 지난해 11월 인버네스 캘리도니언 시슬 FC와 에어 유나이티드 FC의 2부 리그 경기에서 픽셀롯이 자꾸 공 대신 부심을 포착하며 중계가 꼬이는 사고가 벌어졌습니다. 움직이는 둥근 물체를 주요 피사체로 인식하도록 설계된 AI가, 그라운드 외곽을 따라 부단히 뛰는 심판의 매끈한 두상을 축구공으로 잘못 인식했던 것입니다.
자꾸만 멀찍이 떨어진 공 대신 심판을 화면 가운데로 잡는 픽셀롯./유튜브 채널 'Gazdanal'해프닝 정도로 넘기기 어려운 사고도 있었습니다. 지난해 크리스마스 당일이었던 12월 25일, 중국 푸저우시에 위치한 쇼핑몰인 ‘푸저우 중팡 완바오청 몰’에서 배회하며 이용객 체온을 모니터링하던 로봇이 인공지능 오류로 길을 잘못 드는 바람에 하향 에스컬레이터로 진입해 추락했습니다. 그 바람에 승객 두 명이 에스컬레이터를 따라 미끄러진 로봇에 부딪히며 넘어지는 봉변을 당했습니다.
길을 잘못 들어 에스컬레이터에서 낙하하기 직전인 로봇. 붉은 원 안에 있는 시민을 비롯한 쇼핑몰 방문객 2명이 이 로봇과 충돌하며 넘어졌습니다./유튜브 채널 ‘Hic tech’학계에서 AI 최고 권위자 중 한 명으로 꼽히는 마이클 조던 UC버클리대 전기공학 및 컴퓨터학과 교수는, 그의 블로그에 "AI가 너무 자주 ‘지적인 와일드카드(카드 게임에서 어떤 용도로도 자유롭게 쓸 수 있는 비장의 패)’로 간주됐기 때문에 기술의 잠재적 영향에 대해 비판적으로 생각하기가 어렵다"고 토로한 바가 있습니다.
물론 AI 기술은 급속도로 발전하고 있으며 다양한 분야에서 의미 있는 성과를 내는 것만큼은 틀림이 없습니다. 그럼에도 최소한 아직은 만병통치약이나 전가의 보도 대우를 받을 수준까진 아니며, 적지 않은 영역에선 꽤 미흡한 면모나 한계를 보이기도 한다는 것이죠. 조던 교수가 염려하는 바와 같이, 현실적인 제약과 부작용을 고민하며 AI를 지나친 맹신을 경계할 필요가 있긴 합니다.
지난 2019년 1월 안면인식 AI의 오판으로 체포당했다가 열흘 만에 풀려난 니지어 파크스(오른쪽). 당시 AI는 파크스를 절도죄 용의자(왼쪽)로 오인했습니다./우드브리지 경찰국다만 이는 AI가 아주 쓸모가 없다거나, 일단 실무에서 배제해야 한다는 맥락의 주장은 결코 아닙니다. 19세기에 활약한 영국 과학자 마이클 패러데이는, 관료들이 그가 발견한 ‘전자기 유도’의 쓸모를 묻자 “훗날 당신들은 이것에 세금을 매길 수 있을 것입니다. 다만 갓 태어난 아기가 뭘 할 수 있겠습니까?”라고 답했다죠.
AI도 마찬가지입니다. 지금 당장 부족한 구석이나 결함이 없진 않지만 잠재된 가치는 충분히 인정할 만하죠. 전자기 유도가 발전기나 변압기, 카드 마그네틱이나 인덕션 등에 응용되며 인류의 생활 수준을 끌어올렸듯 AI 또한 연구를 거듭하며 실생활에 조금씩 접목해 나간다면 우리 삶의 진일보에 이바지할 수 있을 것입니다.
그저 AI를 적용하는 어느 분야에서건 즉시 바로 막대한 성과를 낼 것이라 믿으며 일단 무작정 도입하고 보는, ‘AI 불패론’적인 사고만큼은 피하자는 것이죠. 적어도 웬만한 분야에서는 현 시대의 AI 수준으론 그렇게 될 리도 없으며, 그런 만큼 이와 같은 태도에 기대 벌인 프로젝트는 결국 무고한 실무진만 공연히 고통받는 상황으로 이어질 뿐이니까요.
