brunch

You can make anything
by writing

C.S.Lewis

by 신태영 Mar 05. 2017

IBM왓슨, '제2의 가습기 살균제'가 되지 않으려면.

헬스케어 분야 '인공지능'이라는 Buzzword에 대처하는 의사의 자세.

아래 글은...


바로 오늘 나온, 기존에 발표된 데이터를 바탕으로 매우 일목요연하게 정리된 좋은 보고서입니다.


좋은 보고서를 쓰시느라 노력하신 필자의 노력에 박수를 보냅니다.










다만, 이 글에서 아쉬운 점이 있습니다.



정리된 데이터의 내용은 비교적 정확합니다만,

그 해석에 있어서는 논리적으로 설득되지 않는 부분이 있습니다.


이 글의 독자들,


특히 '의사'들은 정신을 똑바로 차리고,


무비판적으로 받아들이는 우를 범하지 않았으면 좋겠다

는 생각에 정리해보았습니다.



위 필자의 글에서




1. 드러난 객관적인 사실은



1-1. 그 유명세에 비해서 IBM Watson의 암환자 진료 정확성은 검증되지 않았다.

1-2. Watson의 암환자 진료에 관해서 내어 놓은 논문, 증례 보고 등이 거의 전무하다.

1-3. 인도 마니팔 병원에서 왓슨의 치료 권고안과 의사와 일치도는 현저하게 차이가 났다.



입니다.









이후 밝혀진


2. MDACC와 IBM의 계약중단에 대해서도


2-1. Watson 자체의 기술적인 문제와는 상관 없다.


2-2. 우리가 흔히 암환자 진료에 사용된다고 통칭하는, MSKCC와 개발한 왓슨 포 온콜로지에는 영향을 미치지 않는다.


고 필자는 설명하고 있습니다.


이것은 마치, 길병원, 부산대병원이 도입한 왓슨은 안전하다(?) 고 독자들이 혼동할 수 있는 표현입니다. (왓슨 포 온콜로지의 진료정확성이 검증되지 않았고, 현재 의사의 치료권고안과 일치도가 현저하게 차이가 난다는 필자 본인의 리포트에도 불구하고.....)







2-3. 사실 2-1의 내용은 University of Texas의 감사보고서에 나오는 표현을 그대로 옮긴 것으로 사료되는 바, 그 문구는 절차 생략의 부당성을 주로 리포트하는 위원회보고서의 성격을 규정하는데 '한정'하고자 하는 것입니다. context를 자세히 살펴보면, 감사보고서는 왓슨의 기술력에 대한 의견으로 '해석하지 않는다'는 것입니다.





이것은 기술력에 대한 '긍정'이 아니라, 'No comment'에 가까운 내용입니다.




이것을 비약하여, '왓슨 포 온콜로지는 안전할 가능성이 높아서, 우리나라에도 사용하고 있다.' 는 뉘앙스로 표현하면, 일반인들은 오해할 수 있는 소지가 매우 크다고 보여집니다.


더구나 안전성 문제로 의료기기로 등록도 하지 못했다고 필자 본인의 글에도 표현하고 있는데도 불구하고 말이죠.....



MDACC측에서 IBM의 기술력에 대해 만족했다면


감사위원회에서 IBM과 계약파기를 하지 않았을 것이고, 다른 업체를 찾지도 않았겠죠.



UoT의 감사보고서를 참고하면,


MDACC측에서 2012년 부터 수없이 많은 기회를 주었음에도
IBM측은 MSKCC의 watson for oncology는 해외에 까지 영업을 할 수 있을 정도로 시판 수준까지 올려놓았으나,




MDACC에서 추진하는 project인 OEA에 대해서는


계약 종료시점인 2016년 9월까지 실질적인 '결과물'이 나오지 않았던 것이지요. MDACC의 EHR시스템 변화 등 내부문제도 있지만, 오랜시간동안 IBM이 센터로부터 막대한 자금을 받고도 기술적으로 적절하게 대응하지 못했기 때문에 계약 종료를 명받은 것이 아닐까요.




IBM은 잘못이 없는데, MDACC 리더 개인의 비리 때문에 IBM이 억울하게 계약 종료의 피해를 받았다.... 는 것은 대학의 감사조직을 너무 과소평가하는 것이겠지요.


이 조직의 다른 목표는 현재

더 능력있는 다른 업체를 찾는 것입니다.










글에서 무엇보다 중요한 것은


우리가 지금 보고 있는 데이터를 어떻게 해석하느냐 입니다.



사안에 대해 오랫동안, 또 깊이있게 생각할 수 없는 환경에 있는


일반대중을 대상으로한 글이라면 더욱더 그래야하는 것이지요.



무비판적으로 글을 받아들이는 경우

현실에서 필요한 절차를 무시하는 왜곡된 여론이 형성될 수 있기 때문입니다.





시사점에 있어서 윗글의 필자가 생각하는 내용 그대로


본문을 그대로 옮긴다면



1. 인간 의사의 판단이 옳았나, 인공지능 의사의 판단이 옳았는지를 보기 위해서는 전향적(prospective) 연구를 해야합니다.


라고 서술합니다.



1-1 위의 주장은, 의료기기로 등록하지 않은 상태로
순수하게 연구 목적으로 환자에게 인공지능으로 진단되고, 치료되는 것에 대한 위험성을 충분히 설명하고, 체계적이고 계획적인 접근을 통해 실제 제도권의 '바깥'에서 시행되어야하는 laboratory affair입니다.


1-2 현재 길병원, 부산대병원이 실제 진료현장에 왓슨을 투입한 것 자체부터 매우 논란을 야기할 수 있는 부분이고, 병원에서 실제 이용하고 있는 지금 '현상'도 특별히 '4차 산업혁명'이라는 buzz word에 호도된 정부가 많이 양보한 사항입니다.






다시 본문을 옮긴다면,


2. 왓슨과 같은 인공지능의 활용에 대해서 의료계가 전향적인 자세를 가지고 주도적으로 나서야 한다고 봅니다.

라고 주장합니다.


그러나,

2-1. 전향적인 자세로, 그리고 거기 더하여 주도적으로 나서는 것은 '검증'이라는 것이 확실히 되었을 때 '행동'에 나서는 것이지, 언론과 기업의 '선동'에 의사들이 같이 흥분하기를 바라는 것은 지나친 조급증이 아닌가 생각됩니다.







필자가 주장하는


3. 왓슨이 의료기기냐 의료기기가 아니냐와는 또 별개로, 이를 진료 현장에서 어떻게 활용할지에 대한 기준도 필요합니다.


에 대해서도




3-1. 의료기기로 인정되는 경우에 진료현장에서 어떻게 활용할지를 고민하기 '시작'하는 것입니다. 현재 비의료기기임에도 사용할 수 있게 '허락'된 것은 다소 비정상적인 상황이라는 것을 정확하게 인지하고 그 바탕위에 논지를 이어나가야하는 것이라고 봅니다.



그리고... 또 언급하기를..


4. 예를 들어, 길병원과 부산대병원은 동일한 왓슨 포 온콜로지를 도입했지만, 이를 현장에서 어떻게 활용할지는 서로 큰 차이가 있을 수 있으며, 의료의 질 관리가 필요합니다.


라고 정리하고 있는데..

사실 질관리를 무엇을 위해 어떻게 하여야 하는지 가늠하기 어렵습니다.




그러나 제한적으로 첨언하자면


4-1. 어떻게 활용할지는 왓슨포온콜로지를 개발하고 판매하는 IBM 측에서 병원에게 설득시키는 것입니다. 이러한 부분을 고려하지 않고 플랫폼을 구입한 고객. 예를 들자면, 길병원, 부산대병원에서 덜컥 사놓고 '자 이제 어떻게 써볼지 고민해볼까~~' 이런 생각으로 접근하는 것은 조금 모순적인 상황이라고 봅니다. (사실이 아니기를 바랍니다만....)


많은 검증과정을 거쳐야 하는 premature한 platform을 구입하고, 이것이 '우리를 구원할 메시아'인 것처럼 광고하는 것이야말로, 윤리적 처신은 아니라고 사료됩니다.


사실 구입한 고객인 길병원, 부산대병원이 IBM왓슨의 품질을 높이기 위해 고민해준다......는 것은

같은 대한민국 국민으로서

진심으로 안타까워해야 하는 부분이 아닐까요?




마무리 하자면,



저도 인공지능을 공부하느라 1년 여를 잠자는 시간 아껴가며 동분서주한 의사입니다.


인공지능기술 너무 중요하고, 학술적으로 활용가치가 있는 것은 분명한 사실입니다.

이 정도 수준까지 올라온 것도 놀랄만한 수준이라는 것 인정합니다.



기술의 발전속도를 두려워하고 대비해야하는 것은 맞지만,



더 중요한 것은 냉철한 판단력으로
우리가 처한 상황에 대해 정확한 인식을 해야한다는 점입니다.



도입을 빨리 해야하는 아무런 이유도 없고,

오히려 서둘러 도입하는 것은


단점이 '훨씬' 많은 선택입니다.


1. 때이른 국내시장 잠식

2. 국외 자본에 종속되는 의료환경

3. 국내데이터의 침탈가능성

4. 환자를 대상으로 실험에 가까운 진료를 해야한다


는...등








굳이 비유를 하자면,

부동산투기세력의 뽐뿌질로 그린벨트 안에 있는 땅을 사놓고, 빨리 그린벨트 풀어달라는 격입니다.



길병원, 부산대병원의 구입 결정에 안타깝지만.....


그 누구도 그린벨트 안에 있는 땅 사라고 강요한 사람은 없습니다.


이른바 '기획부동산'에 따르면......그게 명당자리고, 앞으로 유망한데..........그럼 당장 어느 시점에 어떤 수익이 나는지 증명이 가능한 이야기인지, 실현가능성이 있는지 꼼꼼하게 따져보지 않았던 기관 내의 검증시스템을 문제 삼아야하지요.


너무 먼 미래에 기댄 설득은


가련한 백성들의 희생만 불러올 뿐입니다.





의학은 


특히나 이 분야는 돌다리도 두드려보고 건너야하고,

한번이 아닌 수백번 이상의 확인을 하고 발전을 거듭해온 분야입니다.


일반적인 아이디어 상품을 만들거나, 기계를 개발하고,

안되면 그냥 아쉽고, 안타깝네... 하는 수준이 아니라는 것입니다.



누군가가 죽거나, 큰 희생을 치룬 후에 하는 후회는

IRB가 만들어지기전, 그 긴 세월로도 충분하고도 남습니다.





비근한 예로


소중한 아이를 위해

'가습기 살균제' 좋다고 쓴 피해자들....

누구를 원망해야하나요?






왓슨이 제2의 가습기 살균제가 되지 않으려면,

제시된 검증과정을




정정당당하게.

기왕이면 너끈히.



통과해야 합니다.





IBM의 속내를 한번 유추해볼까요?


향후 타 업체와의 경쟁을 피하려면

아직까지는 선두주자인 IBM은

기존 검증과정을 생략하고 빨리 팔아야합니다.

그것도 그들이 원하는대로 비싸게 말이지요.








풍전등화의 위기상황에 있는 대한민국 입니다.


이런 다국적 기업의 속내를 파악할 수 있어야

장차 대한민국이라는 나라의 발전도 도모할 수 있는 것이 아닐까요?










제가 인공지능 왓슨에 대한 글을 쓰기 시작한 것도

사실 이런 국익의 측면을 무시할 수 없고

뭔가 잘못 돌아가는 현실에 대해

대중에게 알리고 싶은 마음이 컸기 때문입니다.





관심이 많은 분야이긴하지만, 이른바 '팩트체크'를 하면서 피곤하기도 합니다.





그러나 '환자 안전'에 대해 세심하게 돌보지 않고, 진행하는 이런 프로젝트는 문제가 될 소지가 있습니다.



여러분은 후향적 연구를 통해 드러난

아직까지는(!) 완성형이 아닌, 왓슨의 비정확성을 보았습니다.



왓슨을 미리 도입한 얼리어덥터.

인도 마니팔병원의 경험, 그 객관적인 사실을 통해 깨닫는 바가 있어야 할 것입니다.





특히 우리 '의사'들은 이 분야를 깊이 이해하는 마지막 지성입니다.


하루하루에 매몰되어 살 것이 아니라, 다가올 미래에 대해 건설적이지만, 비판적 자세를 견지해야 한다는 것을 이번 기회를 통해 다시 한번 당부드립니다.








Progressively Think, Conservatively Act



매거진의 이전글 세계 최고의 암센터, IBM왓슨과의 계약 파기

작품 선택

키워드 선택 0 / 3 0

댓글여부

afliean
브런치는 최신 브라우저에 최적화 되어있습니다. IE chrome safari