이해할 수 없는 것을 사용하기
무슨 말도 안 되는 소리일까요
당신은, 당신이 이해하지 못하는 물건을 사용할 수 있나요?
아마도 이 이야기를 듣는 대부분은 필자를 정신이 이상한 사람이라고 취급지도 모르겠습니다. 도를 아십니까 급 질문 아닙니까? 한 번 더 풀어서 설명해 보겠습니다.
우리들 중 스마트폰의 작동 원리 전체(반도체, 전지 등 하드웨어의 제조 및 작동 제어 원리, 블루투스 통신 모듈에서부터 소프트웨어 구동, 그리고 단말 노드와 AP와의 통신 방식까지)를 이해하는 사람은 몇이나 될까요?
이런 능력을 갖추신 분이 세상에 몇이나 될까요? 삼성전자 IM 사업본부 사원들은 답을 알고 있을까요? LG전자 MC 사업부 전 직원에게 물어볼까요? 아니면 애플에 다니는 실리콘밸리 엔지니어는 어떨까요? 확답하긴 어렵겠지만, 기본적인 작동 원리가 아닌 현대 스마트폰 제조 방식을 전량 이해하고 사용하는 인류는 극히 드물 것입니다.
이제 스마트폰이 아닌 것을 생각해 봅시다. 인류는 이를 닦습니다. 그러나 치약이 어떻게 만들어지는가를 전부 이해하는 인류는 소수일 것입니다. 그럼에도 우리는 백 퍼센트 이해하지 못하는 도구를 사용하여 신체를 관리합니다.
어떻게 이런 일이 가능할까요? 이에 대해선 그럴싸한 많은 답을 생각해 낼 수 있을 것입니다. 한 번 고민해 보시겠나요? 우리는 어떻게 이해하지 못하는 물건을 마음놓고 사용하고 있을까요?
필자는 ‘우리가 서로를 신뢰하고 있기 때문’이라 하겠습니다. 물론, 신뢰가 모자란 기업도 물건을 만들곤 합니다. 그러나 이런 때를 대비해서 기업과 각종 정부 부처가 서로를 감시하고 있고, 최종적으로 물건이 소비자에게 전해질 때엔 최소한의 신뢰라도 검증 받은 형태일 것 입니다. 필자는 신뢰가 우리네 안방에 100% 이해하지 못 하는 물건들로 가득 차게 된 방식이라 주장합니다[주1].
그렇지만 오늘날 ‘신뢰 주체’는 다소 추상화되어 있습니다. 우리는 치약을 만든 최초의 인물이 누구인지, 그리고 오늘 우리 집에 있는 치약을 만든 연구진이 누구인지 알 수 없습니다. 결국 치약에 대한 신뢰란 기업이 대표로 등장하는 형식으로 가리워져 있으며, 우리는 치약이 기업에 속한 사람(들)이 양심 또는 그에 상응하는 어떤 것을 걸고 만들었겠거니 짐작할 뿐 입니다.
신뢰 주체는 현대인이 되는가 하면, 세상을 떠난 이의 업적일 수 있습니다. (앞서 말했듯, “그 사람이 누구인지 모릅니다”) 그렇기에 신뢰물로부터 피해가 발생했을 때 보상을 요구할 수 있는 주체는 그것을 대리로 구현한 곳에 있습니다. 소비자는 신뢰물에 대한 피해를 만든 곳에 배상 요청 할 수 있으며, 국가는 <소비자 피해 보상 규정>을 통해 소피자가 입은 피해를 사회적 통용 한도 안에서 보장합니다. 보통 생산주체를 우리는 기업이라고 부릅니다. 따라서 기업이 생산물을 이해하고, 통제하는 것은 소비자에게 발생할 수도 있는 원치 않는 재산과 인적 피해를 막기 위해서 반드시 필요합니다. 이러한 신뢰 기반 위에서 소비자는 물건의 제작 과정과 범위를 전량 이해하고 사용할 필요가 없습니다.
그러나 오늘날 상황은 조금 다릅니다. 현재 기업이 만드는 생산물 중, 이해/통제 산정이 어려운 물건들이 속속 등장하고 있기 때문입니다. 가령, 인공지능은 데이터 과학자가 설계한 학습 모델-시험 모델입니다. 데이터 과학자는 학습 모델을 설계하고, 시험 모델을 통과하며 기계를 학습시킵니다. 이때 신경망이 어떤 원리로 학습하는가에 대한 지침은 존재하지만 ‘어떤 인공지능’이, ‘왜’ 만들어지는가는 장담하며 해석할 수 없습니다. 예를 들어, 개와 고양이를 구분하는 인공지능을 설계할 수는 있어도, 그 인공지능의 모델 내부가 왜 그렇게 구성되는지, 같은 성능을 내는 다른 모델의 내부가 현재 모델과 왜 완전히 일치하지 않는가를 확정적으로 설명할 순 없습니다[주2][주3].
결국 생산 물량 전체를 이해/통제하던 과거 ‘신뢰 위임’ 시절과는 달리, 정보화 사회는 신뢰의 경계를 흐릿하게 문지릅니다.
이제 서두에 던졌던 질문을 다시 한 번 바꾸어 불러 봅니다.
당신은, 인공지능이 임의로 만든 물건을 믿고 사용할 수 있나요? 그것을 만든 기업은 해당 기술 전체를 이해하고 있다고 장담 할 수 없는데도요.
이번 질문은 어떤가요?
표면적으로 생각해보면 과거와 달라질 것은 없습니다. 과거에도 우리는 ‘누가’ 이것을 만들었는지는 몰랐고, 단지 그것이 사람(들)이 만들었음을. 우리와 같은 종류의 어떤 인간이 만들었음을 짐작할 뿐 이었습니다. 기계가 만든들, 사람이 만들었던들. 우리가 알고 있는 것은 없습니다. 결국 누가 생산의 주체인지 특정하지 못하는 상황은 달라지지 않습니다. 심지어 해당 기술을 이해하지 못하기 때문에 기업에 신뢰를 위임하는 것 마저도 다를 것이 없습니다.
그렇지만 우리는 인공지능 시대를 두려워합니다. 인공합성물을 두려워합니다. 만약 그것이 주체할 수 없는 곳으로부터의 침략 우려 때문이라면 이해할 수 있습니다. 그렇지만 두려움의 근원이 ‘잘 모르기 때문’이라면 걱정을 내려놓아도 좋을 것 같습니다. 우리는 (전문가들을 제외하곤) 원래 잘 몰랐으니까요.
인류는 위임하기 위해서 근거를 찾아나섰습니다. 시도의 근간은 믿음이었습니다. 그렇지만 오늘날엔 어느 누구도 원리를 보장하지 못하는 것을 사용하려는 시도가 있습니다. 당신이 안 한다면, 누군가는 시도 할 것이기에. 이것은 곧 우리에게 영향을 미칠 것입니다.
결국엔 온 인류가 이해하지 못하는 것을 사용할 날이 올 것입니다. 당신의 두려움과 우려의 논지가 지구 반대편의 매드 사이언티스트의 호기심을 잠식시키기엔 너무 멀기 때문입니다.
이제는 다른 것을 고민해야 할 지도 모릅니다. 인공지능 시대의 산업은 기존의 산업 혁명 등장과는 형태가 다르기 때문입니다. 과거 인류의 모든 혁명에는 인구증가와 직업증가, 경제 증가가 함께 따라왔습니다. 농업에서 공업으로 패러다임이 바뀌었을 때, 사라진 직업보다 발생한 직업이 많았고, 인류는 줄기보다 증가했습니다.
그렇지만 정보 혁명(인공지능 시대)는 다릅니다. 미국에선 작년(2017)에 최초로 전체 일자리 숫자가 줄기 시작했습니다[주4]. 부와 인구는 증가세가 줄었지만 이것이 인구와 부는 여전히 상승중입니다. 이것은 비둘기집의 원리에 의해 누군가는 일자리가 줄거나, 급여가 줄어들 것을 시사합니다.
기본소득(Universal Basic Income) 대두되는 이야기는 어쩌면 자연스러운 흐름입니다. 기존의 체제가 부양하지 못하는 인구가 점점 늘어가고 있고, 이것을 세금으로 메꾸려는 논리는 설득력이 떨어지기 때문입니다.
예상컨데 우리 세대는 생각보다 많이 가난해질 것 입니다. 우리는 과도기의 인류이기 때문입니다. 가난이 인류에겐 아무것도 아닌 문제일지 몰라도 우리는 이해당사자이기에 고민을 시작해야 합니다. 체제나 다른 해결 방안에 대한 고민이 없이는 과도기 체제의 빈부격차는 갈 수록 심해질 것이고, 과거 어느 시기보다 소수에게 집중될 것입니다.
이해하지 못하는 것을 사용하는 것은 (어쩌면) 큰 걱정이 아닐지도 모릅니다. 진짜 문제는 이미 턱밑까지 도달해 있다고 생각합니다. 커즈와일의 미래는 장밋빛이지만, 과도기 인류의 미래가 장밋빛인가는 누구도 보장한 적이 없음을 이야기하고 싶습니다[주5].
이 모든게 음모론 아니냐고요? 네. 그럴지도요. 누가 알겠어요.
Fin.
[주1] 우리가 서로 불신하기 때문에 감시자 체제가 발생한 게 아니냐구요? 훌륭한 질문입니다. 만약 당신의 논리를 따른다면, 인류는 물물교환 시기부터 난항을 겪었을 것 이라고 주장하겠습니다. 감시는 물물 교환에 필요한 최소한의 과정에서 한 단계를 추가된 것이기 때문입니다. 우리는 새로운 관계를 신뢰하기 위해 물건을 잘 이해한다고 알려진 믿을만한 관계를 끌어들입니다.
[주2] <<ImageNet Classification with Deep Convolutional Networks>>, Alex Krizhevsky, 33,850회 인용
[주3] 설명이 불가능한 인공지능 신경망, <<What’s hidden in the hidden layers?>>, DS Touretzky, 168회 인용
[주4] <<기계의 부상 – 오늘날 자동화는 왜 이전과 다른가>>, https://www.youtube.com/watch?v=WSKi8HfcxEk 또는, 잡레스 리커버리(Jobless Recovery, 고용이 증가하지 않는 경기 회복), https://en.wikipedia.org/wiki/Jobless_recovery 참조
[주5] 그는 “기계-인간이 문명에서 파생될 것이라고 보며, 이것을 여전히 인간이라 규정해야 한다” 또한 “기계-인간 문명이 다음 스탭의 진화다”고 말한다, 레이 커즈와일 <<
The Law of Accelerating Returns >>으로 부터 발췌, http://www.kurzweilai.net/the-law-of-accelerating-returns
표지에 사용한 그림은 <<The incredible inventions of intuitive AI>>에서 캡쳐, Ted Talks, https://www.ted.com/talks/maurice_conti_the_incredible_inventions_of_intuitive_ai#t-277090
