인공지능의 위험

인공지능에 밉보이면 큰일 나는 세상

미국은 지난주가 추수감사절이었다. 오랜만에 친구들을 만나 이것저것 이야기를 하다가 역시 화두가 된 것은 OpenAI에 관한 소식이었다. 한국에서도 들으셨겠지만, 여기서도 많은 이들이 앞으로 인공지능을 선도 할 OpenAI가 어떻게 변할지에 관해 관심이 주목되고 있다.

샌프란시스코 주위엔 도로마다 갖가지의 전광판에 ‘인공지능’이라는 단어가 붙지 않은 광고가 없다. 많은 회사들이 이미 ChatGPT를 이용해서 다양한 '인공지능' 상품들을 개발하고 있는 중이다. 데이터가 많거나 재력과 인력이 뒷받침되는 회사들은 한 걸음 더 나아가 자 회사의 데이터를 이용해서 자체 인공지능을 구축, 활용하는 회사들도 하나둘씩 늘고 있다. 그리고 이런 사례들은 주주들이나 투자자들에게 미래에 대한 투자 가치라고 여겨지기 때문에 서로가 앞 다투어 '인공지능'을 다양한 상품에 접목 시키는 중이다.

몇 달 전 미국의 큰 보험사인 UnitedHealth라는 곳이 인공지능을 이용해서 보험 청구를 처리한다는 기사가 나왔다. 문제는 인공지능이 거절한 청구가 합당하지 않다는 의견이 분분하다는 점이다. 지금 현재 몇몇의 환자와 가족들이 보험사를 상대로 청구를 거절한 건에 대해 소송을 건 상태다.

물론 이렇게 신문에 기사가 날 정도로 큰 일도 있지만, 요즘은 이런 일들을 일상에서 접하기도 한다. 얼마 전에 은행의 계좌이체를 통해서 큰 금액을 다른 사람에게 송금할 일이 있었다. 온라인으로 송금을 하고 났더니 다음날 송금이 취소되었다는 이메일이 왔다. 은행에 연락을 하니 상담원이 "인공지능이 한 결정이라 우리도 왜 송금이 취소되었는지 모르겠다."라고 하더라. 그래서 하는 수 없이 다른 방법으로 돈을 보내야 했다.

ChatGPT나 다른 인공지능 상품들을 이용해 본 사람들은 알겠지만 지금 현재의 인공지능 상품들은 거의가 초기단계이기 때문에 완벽하지 않다.  어느 분야는 굉장히 발달해 있고, 어느 쪽은 정말 어이가 없을 정도로 바보 같다. 인공지능이 대수학을 잘한다고 미적분도 잘할것으로 믿는 것은 어쩌면 참으로 인간적인 논리다. 인공지능은 교육시킨 방법에 따라 인간에게는 당연하고 쉬운 일들이 생소하거나 힘든 일이 될 수도 있다. 문제는 인공지능이 현재 어떤 것이 최적화되어 있고 어떤 것이 그렇지 않은지를 알 수가 없다는 점이다. 왜냐하면 이런 인공지능기술의 기초가되는 데이타 모델과 알고리즘은 공개가 된 경우가 많지 않기때문이다. 공개가 된 것들도 우리에게는 쉽게 설명이 되지 않아서 그 정확도나 논리를 알아차리기가 쉽지 않다.

이것은 지난주에 거론했던, 실리콘밸리 드라마에 등장했던 OpenAI의 ChatGPT도 마찬가지다. 그나마 OpenAI는 현재 비영리목적 공익단체이다. 한마디로 회사가 나서서 공정하고 공평한 인공지능을 개발하기로 선언을 한 것이다. 그러나 지금 현재 회사를 운영하는 사람들과 이사단(Board Members)이 계속해서 회사를 공익단체로 운영을 할 것인지, 영리 목적의 회사로 전환할지는 의문이다. 그리고 이 대답에 따라 우리의 미래가 달려있다.

만약에 인공지능이 개발한 회사의 영리를 위해 지식을 알려주거나 결정을 내리면 어떻게 될까?

인공지능을 개발한 사람이나 단체가 데이터를 선별해서 인공지능을 교육시키면 어떤 결과가 나올까?

인공지능이 보험사를 위해서 계속해서 청구를 거절하면?

인공지능이 경찰수사 시 흑인이나 특정한 계층의 사람들만 항상 지목하면?

인공지능이 돈을 낸 가게만 추천하고, 그렇지 않은 가게는 존재조차 알려주지 않으면?

인공지능이 특정한 정치인이 더 나은 미래를 보장한다고 알려주면?

인공지능이 특정한 역사를 왜곡 시켜서 알려주면?

인공지능이 독도는 일본땅이라고 하면 30년 후에 누가 우리의 말을 믿을까?

인공지능을 50가지 언어로만 쓸 수 있다면 30년 후에 나머지 다른 언어들이 살아남을 수 있을까?

지금은 대답할 길이 없다.

대문사진은 Photo by Steve Johnson on Unsplash