인공지능의 특이점이 오는 때
딥러닝이 특이점을 맞이하기 위한 진짜 조건
열 길 물 속은 알아도 한 길 사람 속은 모른다.
도무지 알 수가 없다.
세상을 바꿀 딥러닝. 아직 갈 길은 멀지만 딥러닝은 분명히 세상을 통째로 바꿀 거라고, 나도 생각한다. 문제는 그 인공지능도 먹고 세상도 먹을 딥러닝의 속을 '알 수 없다'는데 있다. 그냥 하는 말이 아니고 정말 만든 사람도 그 친구가 왜 그런 결정을 했는지 모른다. 마치 가장 친한 친구조차 다 알 수 없는 사람 속내처럼.
딥러닝이 인공지능의 대명사가 되기 이전의 많은 '인공지능'들은 decision tree, 의사결정 구조를 볼 수 있었다. 쉽게, 데이터를 보고 쭉 비교해봤더니 이 속성이 이러하면 그다음은 저 속성을 비교하고 그다음은 그다음은... 이런 의사결정 조건문들의 연속으로 이해하면 된다. 그런데 이 딥러닝이라는 놈은 그게 불가능에 가깝다. 다차원의 벡터를 합치고 돌리고 뒤집는 걸 무진장 많이 하고 결정한다. 어떻게 수학적 머리를 총동원해 조곤 조곤 이해하더라도 데이터 하나만 추가되더라도 그걸 처음부터 다시 해야 한다. 그래서 적어도 아직은 불가능의 영역이다. 아니 앞으로는 무진장 x 무진장할 테니 앞으로도 불가능할 것 같다. 그래서 이런 딥러닝의 뜻 모를 속을 연구자들은 '블랙박스'라고도 부른다.
그래서일까 아직 산업 현장에서 아주 1선에는 적극적으로 배치하지 않고 있는 것 같다. 어떤 서비스 뒤에서 자잘 자잘하게 이거랑 저거를 자동으로 분류하거나 사용자의 취향을 분석하고 추천해준다거나 하는 거 말고. 페북이나 구글 같은 기술 공룡들이 서비스 핵심인 뉴스피드나 검색 결과에 갖다 붙이는 걸 제외하면, 관련된 소식을 꾸준히 접해봐도 딱히 인공지능을 전면에 내세워서 피부에 와 닿는 용례를 들어본 것은 아마존의 알렉사 같은 인공지능 스피커나 상담업무를 자동화하는(그렇다고 주장하는(?)) 챗봇 정도가 고작이다.
인류는 기계를 신뢰하고 받아들일 수 있을까?인류가 딥러닝을 받아들이지 못하고 있는 이유.
인류는 아직 딥러닝의 천성(?)을 받아들일 준비가 안된 게 사실이다. 산업의 움직임이 인류의 인식에 선행한다는 사실로 봤을 때, 준비가 안된 게 인류라고 봐도 무리는 아닐 것 같다.
가령 모든 결과물에 대해 주기적으로 분석해 보고할 수 있어야 하는 금융권은 interpretability의 문제, 즉 블랙박스 문제는 생각보다 치명적일 수 있다. 산업 특성상 그 데이터를 다루는 것이 매우 까다롭게 제약되기 때문에 실험적으로라도 적용할 수 있는 폭이 매우 좁다. 그러다 보니 자연히 연구도 더디고 딥러닝을 적용하는데 더 보수적일 수밖에 없다. 한 번 잘못하면 피해자가 속출하는데, 지금은 그냥 책임자를 잡아서 문책하면 되지만 딥러닝의 잘못은 그럴 수가 없기 때문이다.
잘 들여다보면 이런 분야는 비단 금융권이 아니더라도 산업 곳곳에 존재한다. 신뢰를 기반으로 역할을 분배한 분업의 사회에서, 책임 소재를 판명할 수 없다는 점은 그 자체로 꽤 큰 불확실성이기 때문이다. 아직 인간 사회, 인간의 산업은 이런 불확실성을 용인할 만한 준비가 안됐고, 이런 환경 요인은 딥러닝의 보편화에 큰 걸림돌이 되고 있다.
인류는 받아들일 겁니다. 늘 그랬듯이.
그럼에도 불구하고, 결국 사람들은 그런 딥러닝을 신뢰하게 될 거라고 확신한다. 블랙박스 문제를 해결하지 못하더라도, 분명 '신뢰'하게 될 것이다. 생각해보면 딥러닝은 사람보다 정확해서 충격이었던 것이지 않나. 여태껏 사람들은 자신보다 무언가를 더 잘하는 사람들에게 자신이 필요한 그 무언가를 대신해달라고 맡기고 대가로 비용을 지불하는 식으로 문명을 이뤄왔다. 그 사람을 보고 또 보다 보니 믿을만해서가 아니라, 생전 처음 보는 사람임에도 불구하고 자신의 미래를 좌지우지하는 아주 아주 중요한 일조차 잘 맡겨왔다.
그래도 이건 사람이 하는 거니까 잘못될 경우 책임소재가 있지 않느냐고, 그러면 이렇게 생각해보자. 전문가가 3년에 한 번 크게 실수할 때, 잘 만든 딥러닝은 30년에 한 번 크게 실수한다면? 그리고 평소의 작은 실수들 조차 학습하고 늘 그 자신의 곱으로 성능을 향상하여 나간다면? 그런 인공지능을 도입해서 30년 만에 한 번 큰 실수를 할 줄 알았는데 3년 만에 더 안정적인 인공지능이 개발되고 적용된다면?
딥러닝이 적용된 산업은 교통사고가 날 확률보다 더 적은 사고율을 보이며 일상적으로 더 나은 성능을 보여줄 것이다. 이걸 구성원들이 피부로 느낀다면 그러면 인류는 받아들일 거다. 그때가 돼야 인공지능이 산업 전반에 순식간에 확산될 거다. 투자해서 못 만드는 기술은 (거의) 없다. 지금보다 훨씬 더 딥러닝 개발이 치열해질 거고 아무 이견 없이 그게 그냥 당연해질 거다.
기술적 특이점을 나타내는 그래프. 인간을 뛰어넘는 시점...기술적 특이점, 공포는 허상이다.
평소에 나는 인공지능에 대한 주변 사람들의 막연한 두려움에 대해 '말도 안 된다'라고 하는 편이다. 소위 '알파고 쇼크' 이후로 사람들은 인공지능이 조만간 인간을 완전히 따라잡고, 그걸 넘어 공격마저 할 것 같은 두려움을 가지고 있다. 그리고 '특이점'은 '인간이 완전히 따라 잡히는 시점'으로 생각하고 있다. 하긴 '특이점'을 말한 '레이 커즈와일'부터 미디어까지 하도 바람을 잡아대니 생업에 바쁜 일반인들 생각엔 충분히 그럴 만도 하다. 무려 구글의 가장 유명한 미래학자가 말하지 않았나.
일단 공포감부터 없애보자면, 그런 공포감을 전혀 갖지 않아도 된다. 간단히 비교해 보더라도 인간이 Generalist인 반면 딥러닝은 Specialist다. 인간은 생명체이지만, 인공지능은 문자 그대로 '지능'그 자체다. 사실 뇌의 메커니즘이 전부 밝혀지고, 이 전부를 기술로 구현해서, 딥러닝이 이미 아닌 전혀 다른 기술 국면을 맞이한 채로, 이 놈이 코딩을 스스로 배우고, 가치판단을 스스로 배우고, 인간에 적개심도 스스로 가지고, 모든 네트워크를 마비시키는 방법을 스스로 찾아낸다면 - 그전에 인간에게 들키겠지만 - 할 말은 없다. 그럴 수도 있다는 뜻이 아니고, 절대 그럴 일이 없다는 뜻이다. 앞서 언급한 것처럼 인간 사회의 여러 기제들이 그걸 방해할 테니까.
기술적 특이점이 언제 오는지는 인간에게 달렸다
그럼에도 불구하고 '특이점'은 올 것이다. 나는 이 특이점이 '딥러닝이 인간보다 훨씬 나은 성과를 낸다는 것을 인간이 일상적으로 체험하는 순간'이 아닐까 싶다. 많은 사람들이 '특이점'을 '기술 발전'의 관점에서 이해하려고 시도한다. 이 '특이점'이라는 용어 자체가 '기술적 특이점'을 말하는 것이다 보니 이 역시 그럴 만도 하다. 하지만 양자컴퓨터가 상용화되지 않는 한 기술 수준에서 혁신적일 만한 일은 좀처럼 일어나지 않을 것 같다. 오히려 이제 지금까지의 기술을 어떻게 멋지게 적용할 것인지에 주목할 필요가 있지 않나 싶다. 이제 다음 단계의 혁신은 비즈니스 모델을 만들고 제품화시켜내는 데 있다. 때문에 나는 '특이점' 또한 기술 발전의 관점보다는 시장과 비즈니스의 관점에서 이해해야 한다고 생각했다.
카카오톡이 나오고 나서 더 이상 요금 때문에 문자를 꽉꽉 채워서 아껴 보내는 습관이 완전히 사라진 것처럼, '인공지능의 특이점'은 지극히 일상적인 시공간에서 딥러닝을 앞세운 어느 제품이나 서비스가 모두의 행동을 간단하게 바꿔버리는 형태로 시작되지 않을까 싶다. 딥러닝 분야에서도 획을 긋는 제품이 나타남으로써 피부로 느껴질 만큼 일상이 개선될 것이다. 온 산업계가 조금 덜 겁먹고 인공지능 총력전을 펼치기 위해서라도, 사람들이 딥러닝이라는 놈과 그 원리를 조금씩 친숙하게 이해하고 받아들일 수 있어야만 '특이점'이 시작될 수 있다.
다시 말해, '특이점'은 '인류가 딥러닝을 제대로 받아들이게 된 순간'이 아닐까 싶은 것이다. 인류가 언제 무엇을 계기로 딥러닝이라는 놈을 받아들이게 되는지가 관건일 뿐이다. '시간문제' 같지만 정확한 시점은 아무도 모른다. 수많은 역학관계와 시장 상황에 의해 좌우될 것이니까.
멀지 않은 미래라는 것만은 분명하다. 이미 보수적인 산업의 분위기에도 불구하고 다양한 시도가 계속해서 벌어지고 있다. 알렉사를 보유한 거대 공룡 아마존도 있고, 차고에서 먹고 자는 스타트업도 있다. 누가 될 지도 역시 알 수 없다. 하지만 결국 그중에 어느 하나가 제대로 된 딥러닝 제품을 들고 혜성처럼 나타나 대형 사고를 치게 되지 않을까. 누가 됐든, 그런 의미에서 특이점은 반드시 오고, 언제 오는지는 컴퓨터와 기술이 아닌 인간에게 달렸다.
남세동님의 페이스북 포스트, <열 길 물 속은 알아도 한 길 사람 속은 모른다>:
