"인간과 AI의 협력이 AI보다 낫다는건 허구다"
[북앤톡]머신 플랫폼 크라우드를 읽고
사람은 AI를 활용해 자신의 역량을 더욱 키울 수 있다는 시나리오는 AI가 사람의 일자리를 대체할 것이란 세간의 우려를 견제하는 대항마로 통한다.
사람과 AI가 협력하면 사람이나 AI가 솔로로 뛸 때보다 보다 나은 결과물을 만들어낼 수 있다는 것이었다. 많은 이들이 이렇게 전망하고 또 이렇게 되기를 희망한다. 주도권은 사람이 계속 가지고 있을 것이라고 바라면서... 의사 결정과 관련해서는 더더욱...
이런 바람은 지금은 통할지 모르겠으나 앞으로도 계속 그럴지는 미지수다. AI 전문가들 사이에선 인간과 AI의 협력은 확률높은 승부수로 받아들여지지 않는 경우가 많다.
MIT 디지털 비즈니스 센터 소속으로 제2의 기계 시대를 쓴 앤드류 맥아피와 에릭 브린욜프슨의 신작 '머신/플랫폼/크라우드'에서도 아예 사람은 끼어들면 될일도 안될 수 있다는 뉘앙스마저 풍긴다.
저자들에 따르면 의사 결정의 퀄리티 측면에선 사람 우위는 점점 줄어들고 있다. 알게 모르게 이미 알고리즘이 많은 의사 결정을 전담 처리하고 있고, 앞으로는 더욱 그럴것이란게 저자들의 전망이다.
완전히 자동화된 많은 결정들이 우리 주변에서 사실상 늘 일어나고 있기에 경제학자 브라이언 아서는 제2의 경제라는 말을 사용했다. 이것은 거래가 인간의 개입 없이 소리 없이 방대하고, 연결되고, 보이지 않고, 자동적인 양상으로 이루어지는 것을 뜻한다. 시간이 흐를수록 이 자동화한 제2의 경제는 우리에게 친숙한 인간이 매개하는 경제로 파고들고 있다. 알고리즘이 전문가와 히포(Highest-Paid Person's Opinion·고위직의 의견)의 결정을 대체하면서다. 세계의 정보가 점점더 많이 디지털화함에 따라 직관을 데이터 중심의 의사 결정으로 전환함으로써 결정 과정을 개선하기 위한 수많은 자료가 제공되고 있다.
물론 데이터 기반 알고리즘이 완벽한 것 아니다. 그래도 사람보다는 알고리즘을 활용하는 것이 낫다고 저자들은 주장한다.
물론 고도로 조율된 데이터 중심 시스템도 완벽한 것과는 거리가 멀다. 입력되는 데이터의 질에 문제가 있다면 더욱 그렇다. 결정을 기계에 맡길때의 실제 위험은 알고리즘 시스템의 편향이 우리 사회에 존재하는 해로운 편견들중 일부를 지속시키거나 더 증폭시킬 수 있다는 것이다. 기회는 기계 기반 시스템이 대개 검증되고 개선될 수 있다는 점이다. 그리고 교정되면 동일한 실수를 다시 저지를 가능성이 거의 없다. 반면에 사람은 자신의 편견을 극복하는데 필요한 힘겨운 일을 하는 것은 고사하고 자신의 편견을 인정하도록 만들기조차 훨씬 더 어렵다. 의사 결정 시스템을 채택하는 궁극적인 기준은 현실적으로 완벽해질 수가 없다. 어떤 시스템이든 간에 실수를 저지르고 편견을 지닐 가능성이 높다. 그러니 완벽해지는 대신에 편견과 오류를 최소화하고 쉽고 빨리 교정할 수 있는 접근법을 택해야 한다.
그렇다면 의사 결정 과정에서 사람은 어떤 역할을 맡아야할까?
미래의 공장에는 직원이 두명뿐일 것이라는 농담이 있다. 사람 한명과 개 한마리다. 사람이 하는 일은 개에에 먹이를 주는 것이고, 개가 하는 일은 사람이 기계를 절대로 건드리지 못하게 지키는 것이다. 실제로 미래의 기업은 그런 모습일까? 우리는 그렇게 보지 않는다. 인간이 컴퓨터가 갖고 있지 않은 편견을 지닌다는 것은 맞지만, 인간은 컴퓨터가 갖고 있지 않은 강점도 지닌다. 하나는 인간이 감각들로부터 줄곧 엄청난 양의 데이터를 받고 있으며, 그것들을 미리 선택하지 않는다는 것이다. 그저 그 모든 것을 들어오는 대로 받아들인다. 컴퓨터는 정 반대다. 컴퓨터는 설계자와 프로그래머가 허용한 것과 다르거나 또는 더 많은 데이터를 모오는데 큰 어려움을 겪는다. 이것은 인간의 판단과 알고리즘이 협력하는 것이 현명한 방식임을 보여준다.
인간의 판단과 알고리즘이 협력하는게 좋다는 것이, 사람이 주도권을 가져야 한다는 의미는 아니다. 저자들의 주장은 거꾸로다. 알고리즘이 주연, 사람은 조연을 맡은 구도가 보다 나은 의사 결정으로 이어질 수 있다는 것이다.
이 접근법을 채택할때 기업들은 주의를 기울일 필요가 있다. 인간은 스스로 판단하기를 너무 좋아하고 그 판단을 맹신하는 경향이 있기 때문에 설령 대부분은 아니라고 해도 우리 가운데 상당수는 컴퓨터의 판단을 아주 빨리 뒤엎을 것이다. 컴퓨터가 내놓은 답이 더 낫다고 해도 말이다. 대개 도움을 받은 전문가의 판단은 모형과 도움을 받지 않은 전문가 사이의 어딘가에 위치한다. 따라서 전문가에게 모형을 제공하면 전문가는 더 나아진다. 그러나 여전히 모형 혼자 수행하는 편이 더 낫다. 결코 자신의 직감을 믿지 말라. 자신의 직감을 중요한 판단 자료로 삼을 필요가 있기는 하지만, 의식적이고 의도적으로 그것을 평가하고 그 맥락에서 타당한지를 살펴봐야 한다.
마지막으로 가치있는 기법이며, 일부 기업들이 사용하기 시작한 것은 표준적 파트너십을 뒤집는 것이다. 기계에게 데이터를 제공하는 것을 인간의 판단에 쓰일 입력물로 삼는 대신에 인간의 판단을 알고리즘의 입력물로 삼는 것이다. 마음과 기계의 표준적 파트너십에 상당한 변화가 이루어져야 한다는 개념은 많은 사람들을 불편하게 만든다. 사람들 대다수는 인간의 직관, 판단, 의사 결정 능력을 매우 신뢰한다. 자신의 것이라면 더욱 그렇다. 그러나 이 주제에 관한 증거는 압도적이라고 할 만큼 분명하다. 두가지 선택이 모두 존재하는 사례들의 대부분에서 데이터 중심의 시스템2 결정이 우리 뇌의 시스템1과 시스템2의 혼합에서 비롯된 결정보다 더 낫다는 것이다. 그렇다고 해서 인간의 결정이 무가치 하다는 말이 아니다. 더 개선될 수 있다는 뜻이다.
결국 기업들이 AI를 잘 활용하는 방법은 AI가 의사 결정의 중심에 서도록 프로세스와 문화를 바꾸는 것이다. 임원이 AI와 다른 의사 결정을 내리는 것보다는 AI가 내놓은 결과에 맞춰 행동하도록 하는게 승률이 높다는 이유에서다.
우리는 이런 접근법이 인간적이라는 말을 듣곤 한다. 어떤 사람들은 컴퓨터에 의사 결정을 맏긴다면, 사람은 주변으로 밀려나고 약해질 것이라고 느낀다. 우리는 자신이 가졌던 의사 결정 권한을 잃는다는 것이 마음을 불편하게 만들수 있음을 이해한다. 그리고 컴퓨터의 하인처럼 느끼고 싶어할 사람은 아무도 없다는 것도 안다. 그러나 그것은 판사와 가석방 심의위원회가 지금 하는 식으로 계속 일하게 함으로써 재소자가 잘못 석방되거나 계속 투옥되는 일이 일어나도록 놔두어야 한다는 의미가 아닌가? 또 의사와 심리학자가 평소 하던대로 계속 일하도록 함으로써 오진율을 높게 유지하도록 놔두라는 말인가? 기업이 그저 면접관에게 똑똑하다는 느낌을 준다는 이유로 엉뚱한 사람을 계속 뽑도록 해야 한다는 말인가? 우리가 볼때 이 질문의 대답은 아니오다. 사회가 원활이 잘 돌아가려면 좋은 결정이 내리는 것이 대단히 중요하다.
여기까지 이야기했으니, 인간이 미래를 예측하는 일에 아주 형편없다는 것을 알아도 그리 놀랍지 않을 것이다. 어쨌거나 예측하기와 결정하기는 서로 거의 분리할 수 없는 활동이다. 한쪽을 제대로 못하면 다른 쪽도 제대로 못할 가능성이 높다. 그리고 시스템1이 우리가 좋은 예측을 하지 못하게 방해하는 여러 편향과 오류를 지닌다는 것도 확실하다.
머신/플랫폼/크라우드의 저자들 외에 사피엔스의 저자인 유발 하라리도 AI와 인간의 협력의 약발이 오래가지 못한다고 보는 쪽이다. 그는 최근에 내놓은 21세기를 위한 21가지 제언에서 체스판을 예로 들어 AI와 인간의 협력 플레이가 AI 단독 플레이에 밀리는 상황을 예로 들었다.
체스 세계를 꼼꼼히 들여다보면 장기적으로 상황이 어느 방향으로 전개될지 단서를 얻을 수 있다. 딥 블루가 카스파로프를 꺾고 난 후 수년동안 체스에서 인간-컴퓨터의 협력이 빛을 발한 것은 사실이다. 하지만 최근 몇년 사이에 컴퓨터의 체스 실력이 너무나 좋아진 나머지 이제 인간 협력자의 가치는 사라졌고 조만간에는 완전히 있으나 마나 한 존재가 될 상황에 처했다.
결정적인 이정표가 세워진 날은 2017년 12월 7일이었다. 체스에서 컴퓨터가 인간을 이겼을 때가 아니라 구글의 알파제로 프로그램이 스톡피시8 프로그램을 꺾은 순간이었다. 스톡피시8은 2016년 세계 컴퓨터 체스 챔피언이었다.
수백년 동안 체스에서 쌓아온 인간의 경험은 물론 수십년간 누적된 컴퓨터의 경험에 접속할 수 있었고, 초당 7000만 수를 계산할 수 있는 프로그램이었다. 반면 알파제로는 불과 초당 8만 수의 계산을 수행했을 뿐이었다. 인간 창조자는 알파제로에게 어떤 체스 전술도 가르쳐주지 않았다. 심지어 표준 오프닝 조차 알려주지 않았다. 그 대신 알파제로는 최신 기계학습원리를 자가 학습 체스에 적용해 자신을 상대로한 시합을 반복했다. 그럼에도 신참 알파제로는 스톡피시를 상대로 모두 100회의 시합을 벌여 28승 72무를 기록했다. 패한적은 한번도 없었다.
