0-5.인간 엔지니어링보다 인간 존중의 경영이 필요하다
고유의 주체성을 가진 개인으로, 동시에 개인을 초월해 연대하는 인간으로.
기술의 진보는 어느덧 우리 개개인의 취향과 개성까지 고려해 맞춤화 된 제품, 서비스를 손쉽게 찾고 경험할 수 있는 시대를 열었습니다. 4차 산업혁명의 근간 중 하나인 인공지능 알고리즘의 발달에 힘입어 기업들은 고객 한 명 한 명 개인 별로 차별화된 유혹, 제안을 할 수 있는 ‘초개인화’ 전략, 마케팅에 나서기 시작했습니다. 개인의 관점에서도 스스로의 개성과 취향을 존중하는 최적화된 제품, 서비스를 손쉽게 찾아 경험할 수 있게 되었다는 점에서 그간 존중받지 못했던 우리 인간 개개인의 특별함, 인간다움이 인정되는 문화로의 전환이 이뤄지는 것 아닐까, 우리는 기대하기도 합니다.
그런데 어찌된 일인지 ‘초개인화(hyper-personalization)’ 기술은 본래의 의도 – 인간의 개개인성을 찾는데 도움을 준다-와 달리 오히려 우리의 개성과 주권을 빼앗는 방식으로 역행하기도 합니다. 페이스북, 유투브, 트위터 등 소셜미디어를 창조하고 초개인화 기술에 앞장섰던 많은 개발자, 경영자들은 다큐멘터리 『소셜 딜레마』에서 고백합니다. 자신이 한 때 믿어 의심치 않았던 ‘인간 해방의 길-개개인성의 회복’이 사실은 인간의 심리와 개인성을 ‘조작(manipulation)’하고 과도한 자극과 부적절한 욕망에 ‘중독’ 시키는 길이었다고.
쇼샤나 주보프(Shoshana Zuboff) 하버드비즈니스스쿨 교수는 “기업들이 ‘확실성(certainty)’ 을 판매하고 있다”고 말합니다. 그는 인공지능 기반의 기술 기업은 소셜미디어 사용자 개개인에 대한 정보를 속속들이 갖고 있기 때문에 구매 확률이 매우 높은 ‘타깃형 광고’들을 보여주고 그런 인간이 ‘광고를 많이 볼수록’ 돈을 버는 구조의 기업들 때문에 어느덧 인간이 ‘상품’으로 전도되었다고 지적합니다.[i]
초개인화의 가장 근원적인 한계는 이것이 어디까지나 기술 중심적이라는 것입니다. 기술 중심적 철학은 어김없이 본래의 의도와 달리 우리 자신을 선택의 ‘주체’가 아닌 ‘객체’로 만들어 버립니다. 우리는 그 안에서 다시 소외되고 맙니다.
복잡성 높은 이 세계를 사는 것은 결국 우리 자신이 아닐까요? 그 어떤 기술이 나를 제한적으로 도울 수는 있어도 나를 대신할 수도 대체할 수도 없을 것입니다. 고통과 불안 앞에서 우리는 때때로 이를 잊거나 제거하기 위한 온갖 노력을 기울이지만,
고통과 불안을 극복하는 가장 정직한 방법은 그것에 있는 그대로 마주하는 것입니다.
그런 측면에서 아직 우리가 개인적으로, 또 사회적으로 제대로 하지 않은 시도, 실험이 있습니다다. 우리의 삶과 사회, 비즈니스 현장에서 근본적인 ‘인간다움’을 추구하는 것입니다. 그런데 인간다움이란 과연 어떤 것일까요?
컴퓨터과학 창시자 중 한 사람인 영국의 수학자 앨런 튜링은 1950년 인공지능과 관련된 흥미로운 제안을 했습니다. ‘지능과 마음이 있어 생각한다고 믿을 만한 고성능 컴퓨터를 만드는 게 가능할까. 가능하다면 우리는 그것을 어떻게 알 수 있을까.’ 그는 책상에서 이 문제를 논의하는 대신 매년 한 가지 실험을 해보자고 했습니다. 얼굴을 가린 두 상대에게 심사위원단이 5분간 컴퓨터 단말기로 이런저런 문제를 낸 뒤 정체를 맞춰 보도록 하자는 것입니다. 일명 튜링 테스트입니다. 인간 연합군의 상대는 바로 컴퓨터 프로그램입니다. 이때 주고받는 대화에는 아무런 제약이 없습니다. 튜링은 2000년쯤 되면 컴퓨터가 인간 심사위원 중 30%는 속여넘길 것이며 그렇게 되면 컴퓨터가 생각을 한다고 말해도 아무도 반대하지 않을 것이라고 예측했습니다.
미국의 사업가인 휴 뢰브너(Hugh Loebner) 박사는 1990년, 튜링의 아이디어를 현실로 끌어들였습니다. 케임브리지 행동연구센터(The Cambridge Center for Behavioral Studies)와 공동으로 튜링 테스트 경진대회와 뢰브너 상을 만들었습니다. 이는 금새 인공지능 학계의 화제가 되었습니다. 경기는 여러 회에 걸쳐 진행되는데, 여기에 참가하는 인간 연합군은 인공지능 프로그램 한 개 및 심사위원 한 명과 짝을 이룹니다. 최고 점수를 받은 인간과 컴퓨터 프로그램에게는 뢰브너상이 수여되며 각각 ‘가장 인간적인 인간’ ‘가장 인간적인 컴퓨터’란 칭호를 줍니다. 영국 남동부 리딩에서 열린 2008년 대회에서 최고 성적을 거둔 컴퓨터 프로그램은 딱 1표 차이로 30%의 심사위원을 속인다는 목표를 달성하지 못했습니다.
미국 논픽션 작가이자 컴퓨터 프로그래머인 브라이언 크리스천(Brian Christian)은 컴퓨터 프로그램이 결국 튜링이 제시한 목표에 도달할 것이라고 예상되던 2009년, 인간 연합군 중 한 명으로 참가했습니다. 그리고 컴퓨터를 이기고 ‘가장 인간적인 인간’에 선정되었습니다. 그에게 가장 인간적인 인간이 될 수 있는 결정적인 힌트를 준 것은 IBM이 개발한 컴퓨터 프로그램 딥블루와 체스 세계 챔피언 개리 카스파로프(Garry Kimovich Kasparov)의 역사적인 대결이었습니다. 1996년 인간과 컴퓨터의 첫 대결로 세계의 눈길을 끌어당긴 이 대회에서 카스파로프는 4대2로 승리를 거뒀습니다. 하지만 이듬해 열린 두 번째 대회에서 카스파로프는 마지막 일곱 번째 판에서 컴퓨터에 졌습니다. 인공지능이 곧 인간을 앞지르리라는 불안, 두려움이 빠르게 퍼졌습니다.
하지만 카스파로프는 ‘내가 졌지만 컴퓨터가 인간은 이긴 것은 아니다’라는 야릇한 말을 남겼습니다.
딥블루를 포함해 본질적으로 거의 모든 체스 프로그램은 동일한 방식으로 작동합니다. 프로그램에는 그동안 그랜드마스터들이 수십만 번 두었던 게임 데이터베이스가 장착돼 있습니다. 이렇게 미리 두어본 수천 또는 수만 번의 배치들을, 순수한 창의력과 구분하기 위해 책(the book)이라 부릅니다. 컴퓨터는 철저히 이 책을 토대로 한 알고리즘에 의해 계산적으로 움직일 뿐입니다. 결과적으로 컴퓨터가 체스 말을 옮기는 결과값은 같아 보일지 몰라도 컴퓨터의 렌즈, 회로, 계산과 인간의 눈, 뇌, 사고는 질적으로 다를 수 밖에 없습니다.
브라이언 크리스천(Brian Christian)은 이를 통해 ‘책은 사람이 아니다. 그리고 책은 온전한 게임도 아니다.’는 사실을 깨달았습니다. 그저 사람인 것처럼, 게임인 것처럼 보일 뿐. 진정한 게임 – 인간만의 창의성과 고유성을 담은 사고가 수반된 - 은 책에서 빠져나올 때 비로소 시작되며 우리의 삶도 마찬가지라는 사실을 이해합니다. 그리고 우리의 조직, 삶을 회고합니다.[ii]
그는 우리 역시 어느 순간 문화적, 사회적 관습과 같은 책에 단단히 갇혀 책이 삶 전체가 되어가고 있는 현실을 목도합니다. 우리는 스스로의 개성과 정체성을 가지고 자신의 삶을 긍정하기 보다 사회의 '표준화된' 틀 안에서 가능한 우리 고유의 생각과 말, 행동을 숨기고, '표준화된' 생각과 말, 행동을 하기를 사회적으로 강요당합니다. 때로는 우리 스스로를 그 올가미 안으로 집어넣습니다. 영혼 없는 기계음처럼 들리는 사람들의 말이 늘어갑니다. 컴퓨터는 그 약점을 집요하게 공략합니다.
그는 컴퓨터가 사람을 빠른 속도로 따라하기 시작한 것이 아니라 실상은 아주 오랜 시간 동안 사람이 기계, 컴퓨터를 흉내 내고 있음을 깨닫고 충격 받습니다. 어느덧 인간과 기계를 제대로 구분하기 힘들어진 것의 연유는 기술의 발전, 컴퓨터 때문이 아니라 컴퓨터를 좇는 인간 때문이었습니다. 브라이언은 무슨 수를 쓰더라도 책을 찢고 나오려 처절하게 노력하는 것이 바로 예술의 바탕이며 그것이 바로 인간성의 본질이라고 말합니다. 그는 이런 자각을 바탕으로 대회에서 컴퓨터에 완승을 거둡니다.
오늘날 인공지능은 IBM의 체스 프로그램 딥블루를 넘어 단순 계산이 아닌 신경망 학습을 구현한 구글의 바둑 프로그램 알파고에 이르렀고, 여전히 인간의 전유물이다 평가받던 바둑 역시 컴퓨터에 정복당했습니다. 하지만 가만히 생각해보면, 달라진 것은 없습니다. 그 역시 결국은 책(the book) 안에서의 놀음일 뿐이기 때문입니다. 구글과 알파고와의 대국 이후 이세돌 9단은 십수년전 체스 챔피언 체스 세계 챔피언 카스파로프가 남긴 말과 오버랩 되는 말을 했습니다. ‘이세돌의 패배일 뿐 인간의 패배가 아니다.’ 우리의 삶과 비즈니스와 역사는 책 바깥에서 이뤄집니다.
결국 ‘인간다움’을 향하는 출발점은 기계도, 스테레오 타입도 아닌 성숙한 어른으로서 고유의 주체성을 찾아 우리 앞에 놓인 문제 앞에 직면하는 것이라 감히 주장하고 싶습니다.
깊고 처절하게 생각하지 않고 누군가가 시키는 대로 기계적으로 좇고 의지하면 빛이 보일 거라는 바람은 헛된 수고일 뿐입니다. 쉽고 단순해서 따라하기만 하면 되는 처방은 세상에 있을 수 없습니다. 우리는 이미 알고 있습니다. 수많은 관습과 유행과 그것들이 만들어 내는 사회적 압력이라는 책에서 벗어날 때 우리는 비로소 사회, 문화, 경제, 기술의 대변화에 휩쓸리지 않고 우리 각자의 속도에 맞춰 각자의 미래를 준비할 수 있을 것입니다.
다시 저 앞으로 돌아가 아리스토텔레스 프로젝트가 구글 사람들에게 가르쳐준 것은, 그들이 사무실에 도착했을 때 아무도 ‘일하는 얼굴’, ‘기계 같은 모습’, ‘컴퓨터와 같은 행동’을 하고 싶어하지 않는다는 것입니다. 아무도 자신의 성격과 내면의 삶의 일부를 집에 두고 싶어하지 않습니다.
하지만 지금껏 일반적인 집단 규범은 이를 강요했습니다. 조직에서 온전히 나로 존재하기 위해서, '심리적으로 안전하다'고 느끼기 위해서, 우리는 때로 두려움 없이 우리를 두렵게 하는 것들을 공유할 수 있을 만큼 충분히 자유로워질 수 있다는 것을 알아야 합니다.
무엇이 지저분하고 슬픈지, 우리를 미치게 하는 동료들과 힘든 대화를 나눌 수 있어야 합니다. 효율에만 집중할 수는 없습니다. 오히려 엔지니어 팀과 협업해 아침을 시작한 뒤 마케팅 동료들에게 이메일을 보낸 뒤 컨퍼런스콜에 뛰어든다면 그 사람들이 정말 우리 말을 듣는다는 것을 알고 싶습니다. 우리는 일이 단순한 노동 그 이상이라는 것을 알고 싶습니다. 그런 측면에서 인간다움은 동시에 우리 각자의 주체성 회복으로만 끝날 순 없습니다. 우리는 서로 교감하고 서로를 존중하고 연대하고 협력함으로써 내가 나임을, 우리가 우리임을 자각할 수 있습니다.
결국 이 시대 우리가 추구해야 할 초점은 ‘초개인화hyper-personalization’ 가 아닙니다. 초개인화는 여전히 기술에 초점이 맞춰진 반쪽짜리 – 그래서 얼마든지 우리의 인격을 침해할 수 있는 – 개념에 불과합니다. 우리가 추구할 방향은 외려 ‘인간’에 초점이 맞춰진 ‘초개인over-individual'이어야 합니다. 고유의 주체성을 가진 한 개인으로, 동시에 개인을 초월해 연대하는 인간으로, 인간다운 인간과 조직을 추구할 때입니다.
[i] Netflix 오리지널 다큐멘터리, 소셜 딜레마social dilemma
[ii] 브라이언 크리스천Brian Christian저, 최호영 역, 가장 인간적인 인간, 책읽는 수요일, 2012: 브라이언 크리스천은 뢰브너 상에 참가해 ‘가장 인간적인 인간’에 선정된 후 그 경험과 소회를 책으로 남겼다.
