이세돌 vs. 알파고 대국은 어떤 미래를 열까?
나는 딥러닝이 두렵다.
지난주를 강타했던 기사는 이세돌 9단이 구글의 딥마인드에서 만든 알파고와 3월 서울에서 대국을 한다는 기사였다.
이 기사를 보고 나는 두 가지 관점에서 '역시'를 부르짔었다.
하나는 '쎈돌' 이세돌 9단의 물어섬 없는 도전정신이었고
, 나머지 하나는 그런 이세돌 9단의 성향을 통해 훌륭한 인간 바둑의 샘플 데이터를 채취하는 구글의 아이디어(?) 였다.
고뇌하는 이세돌 9단의 모습이 멋져서 퍼왔습니다.일단 사람들이 알파고에게 관심을 보이게 된 큰 이유는 알파고가 굉장히 훌륭한 바둑 관련 인간을 이미 이겼기 때문이다. 알파고는 유럽챔피언이라고 알려진 판후이를 상대로 5번의 대국을 진행하였고 그 다섯번 모두를 승리하였다. (판후이는 프로 2단의 실력으로 알려져 있다.)
그리고 이제 진정한 바둑 고수인 이세돌 9단과의 대결이 확정되자, 많은 사람들이 유럽챔피언이라는 판후이를 이겼다는 알파고의 만만치 않음과 반대로 유럽리그와 아시아 바둑 리그와의 수준차이로 인한 실제 이세돌 9간과 판후이의 실력차이를 언급하며 서로 경기 결과를 예측하고 있다.
하지만 나는 이 부분에서 의외의 부분을 발견하였다. 이세돌9단이 인터뷰 중에 아직은 인간이 우위라고 이야기한 대목이 그것이다. 그도 다음에는 질지 모른다는 생각을 가지고 있다는 느낌이었다.
이 둘의 대국 결과는 어떻게 끝이 날까? 당연히 이세돌 9단이 이기거나 혹는 알파고가 이기고 끝이 날 것이다.
이세돌9 단이 이겼을때만이 바둑계의 명예가 남겠지만 구글 딥러닝은 이기던 지던 특정 분야에 매우 높은 수준을 가지고 있는 인간의 데이터 샘플을 확보하게 된다. 대국에 걸린 상금 12억은 분명히 큰 돈이지만 컴퓨터의 지능을 한 단계 혹은 그 이상으로 높이기 위해 들이는 비용으로 생각하면 적은 돈 일 수도 있다.
그리고 이처럼 훌륭한 인간의 데이터 샘플을 제공하는 것은 마치 체스 랭킹 1위가 처음 대결하였을때는졌지만 이내 승리하게된 것과 같은 결과로 이어질 것이다. 인간이 샘플을 주기 시작하면 러닝 프로그램은 그것을 기계적으로 분석하여 추후 이겨 낼수 있게 될 것이기 때문이다.
그들은 컴퓨터이고 말 그대로 기계적으로 플레이하기 때문이다.
이제 두뇌를 이용한 스포츠들은 모두 컴퓨터에게는 이길 수 없지만 그에 미치지 못하는 인간끼리 승부를 겨루는 게임이 되어버릴 수도 있는 것이다. 사실 e스포츠는 이미 그런 범주 안에 있었던 스포츠 영역이지만 바둑이나 체스와 같은 아날로그 두뇌게임이 점령당하는 기분은 슬프다.
그런 모든 진행의 끝에는 컴퓨터 우위라는 슬픈 결론이 있을 뿐이다. 애초부터 신체능력을 기준으로는 기계를 이길수 없었던 인간이 잊 지능의 레벨에서도 컴퓨터에 뒤지게 되는 것이다.
결론부터 이야기하자면 이세돌 9단과 알파고의 이번 대국은 결과적으로 인간이 컴퓨터에 많은 부분 뒤지게 되는 미래 그림을 활짝 열어줄 것이다. (사실 꼭 이세돌 9단이 알파고와 대국을 하지 않더라도 그런 미래는 그려지게 될 것이다.)
쌩뚱 맞는 이야기일 수도 있겠지만 나는 이런 딥러닝, 강인공지능 등에 대해 두려움이 있다. 딥러닝이나 강인공기능의 발전은 몰인간성이나 다른 수 많은 막장 주제와 연결될 수 있는 좋은 소재이기 때문이다.
이런 이야기는 많은 서사를 통해 표현되어 왔다. 우리는 똑똑한 컴퓨터와 힘센 기계들이 사람들을 억누른 수 많은 영화를 떠 올릴 수 있다. 다행히 그 많은 영화 들에서는 인간 영웅이 기계 세상을 물리치고 자유를 얻었지만 실제로는 어떻게 될까? 인간보다 똑똑해진 컴퓨터와 인간보다 강한 기계의 조합을 인간이 물리칠 수 있을까?
모든 힘은 제어권 아래 있을때 아름다운 법이다.
제어권을 벗어나면 강한 힘은 괴로운 상대이다. (마치 스타크래프트에서 나의 울트라리스크를 적의 다크아콘이 마인드콘트롤시켜버리는 광경과 같이 말이다.)
즉 강 인공지능의 등장 자체는 결코 새드엔딩과 같은 의미는 아니다. 새드엔딩은 제어권을 잃은 강 인공지능에서 비롯될 확률이 높다.
우린 지금까지 인간보다 빠른 존재 차나 비행기 그리고 인간보다 힘센 존재들도 만들어왔다. 그들은 모두 인간의 통제하에 있어왔다. 제어권을 넘은 자동차나 비행기는 사고가 나고 인명피해로 이어지곤 해왔다.
동물들 역시 일대일로는 통제가 안될 수 있었으나 집단화로 해결하였다. 집단으로 대항하였던 인간과 동물의 대결은 인간의 승리로 싱겁게 끝났고 나머지 동물들은 인간이 지정해준 땅에서 때로는 동물원 같이 아예 갇혀 있는 공간에서 살아갈 수 밖에 없게 되었다.
이 경우 동물에 대한 제어권은 국지적이며, 동물은 지능적 집단 대응이 어렵다는 약점이 있다. 하지만 현대의 컴퓨팅 환경은 절대 끊어낼 수 없는 엄청난 네트워크를 구성하고 있으며, 그 네트워크 환경 안에서 다양한 컴퓨팅 활동들이 명령과 수행을 반복하고 있다. 작게는 카톡 메시지를 보내는 것으로부터 이제 집안의 불을 끄고 켜거나 보일러는 끄고 켜는 부분까지 모든 것은 네트워크 컴퓨팅 환경을 기반으로 진행된다.
기계가 지배하는 미래를 그린 터미네이터 시리즈이런 점들로 인해 사람 100명이 힘을 모으고 도구를 활용해서 사자 100마리를 이겨낼 수 있지만 잘못 만들어진 지능형 컴퓨터 1대는 100명이 넘는 사람의 목숨을 위태롭게 할 수도 있는 것이다. 특히 자율주행과 같은 시스템이 중앙 통제 방식으로 바뀐다면 잘못된 프로그램 한 줄로 인해서 대형 사고가 발생할 수도 있다. (자율주행의 윤리적 이슈에 대한 부분은 지앤선에서 나온 도서 '컨텍스트의 시대'에서 진지하게 다룬 부분이 있다. 나는 내읽책 매거진에서 조만간 '컨텍스트의 시대'에 대해서 이야기 할 계획이기도 하다.)
역시 마찬가지의 이유로 다른 모든 동물은 지적능력한계 및 집단화의 한계로 인간의 종말로 몰아가기 어렵다. (다만 인간은 스스로를 종말로 몰아갈 가능성이 있다. -> 이부분에 대해서는 유발 하라리의 '사피엔스'에서 다루고 있는 내용이며 그 책은 한참 열심히 읽고 있다. 역시 마찬 가지로 내읽책의 매거진에서 추후 이야기해보도록 하겠다.)
아직 우리 인간은 자신보다 강하고 빠르게 만든 존재(컴퓨터와 기계)들에 대한 통제권을 가지고 있다. 하지만 그것을 컴퓨터에게 혹은 악의를 가지고 있는 어떤 인간에게 빼앗긴다면 그것은 최악의 상황까지 이어질 수 있을 것이다.
그래서 너무 똑똑한 컴퓨터는 섬뜩한 것이다.
이런 위험은 가시적이지는 않지만 작은 두려움을 가지기에 충분한 존재이다. 지금까지 인류를 두렵게 했던 존재들은 항상 있어왔다. 태초에는 번개나 지진, 해일 혹은 화산과 같은 자연재해로부터 땅을 넓히기 시작하면서 만나게 된 대형 포유류들 그리고 전쟁이 빈번하게 일어난 이후로는 인류가 서로를 두려워했다. 그 시점으로부터 인류가 만들어 낸 무기들 특히 현대 사회에서는 핵무기와 같은 존재들은 인류가 가시적으로 두려움을 느끼는 존재이다. 하지만 그런 핵무기조차도 그 피해는 엄청나지만 그 피해의 범위는 제한되어 있으며 무기들이 서로 네트워크화 되어 있지 않다.
꼭 인간보다 똑똑해진 컴퓨터가 인류에게 직접적인 피해를 입히지 않더라도 피해가 아닌 혼란을 야기할 부분 역시 많다.
미래의 AI들은 튜링테스트 따위는 가볍게 통과할것이다. 이제 겨우 문제 몇개 만으로 컴퓨터와 인간을 구분해 내는 것은 점점 더 어려워질 것이다. 이세돌 9단의 기보를 열심히 연구한 로봇이 웹상에서 바둑을 두고 있다면 사람들은 그 바둑을 보고 이세돌 9단이거나 혹은 그 제자의 스타일이라고 확실할 수도 있을 것이다.
컴퓨터와 사람의 대화를 통하여 사람과 컴퓨터를 구분하지 못하면 통과하는 튜링테스트 생물학적 특징들은 인류와 컴퓨터를 구분하겠지만 우리가 생물학 검사를 하기 전까지는 그리고 비대면의 상태에서는 점차 컴퓨터와 인류를 구분하는 것이 어려워질 것이다. 이런 특징들은 얼마든지 더 효과적인 피싱이나 스미싱 등의 사기를 불러올 수 있을 것이다. 그럴 수 밖에 없는 것이 현대의 컴퓨터들은 인간의 대소사를 모두 알고 있기 때문이다.
우리는 드라마 등에서 수사를 하던 경찰이 "이 사건은 피해자를 잘 알고 있는 누군가의 소행인듯 합니다."라는 대사를 밥먹듯이 들어 왔다. 그런데 현대 사회에서 나를 가장 잘 알고 있는 존재는 누구인가? 바로 내 스마트폰이고 그 스마트폰 뒤에 숨어 있는 클라우드 컴퓨팅 환경이다. 마치 구글 나우가 이미 그런것처럼 말이다. 개인화된 클라우드의 비서들은 이미 많은 면에서 나의친구와 가족들 그리고 심지어 나 자신보다 나를 더 많이 알고 있는 경우도 있다. 즉 미래의 컴퓨터들은 똑똑하기만 한 것이 아니라 우리를 잘 이해하고 있기도 할 것이다.
이런 흐름은 정상적으로 우리의 동의 하에 수집되는 수많은 정보들과 거기에 더하여 백도어를 통해서 빠져나가는 수 많은 데이터를 통해 더욱 강화되어갈 것이다. 그리고 인간의 데이터들이 비즈니스적으로 가치가 있으면 있을수록 더 많은 백도어들이 시도될 것이다.
바둑은 인간이 하는 지능 경기 가운데 거의 가장 복잡한 게임 중에 하나일 것이다. '바둑에서 나올 수 있는 모든 경우의 수는 10의 170제곱이다. 이는 우주 전체의 원자 수보다 많다'라는 표현까지 나왔다. 그 숫자의 거대함을 이해하기조차 버거운 단위의 숫자이다.
우리가 삶을 살면서 만나는 전체 컨텍스트의 수는 모두 얼마나 될까? 아마 거의 무한에 가까울 것이다. 하지만 특정 생활영역에 대한 경우의 수라면 어떨까? 그건 아마 무한에 수렴하지 않을 것이다. 컴퓨터가 사람과 완전히 닮기 위하여 이 무한에 수렴하는 경우의 수를 충족하는 로직을 만드는데까지는 정말 오랜 시간이 걸릴 것이다.
하지만 꼭 컴퓨터가 인간과 100% 닮아야지만 여러가지 문제들이 발생하는 것은 아니다. 그 전에도 문제는 발생할 수 있다. 특히 그 범위는 주로 윤리와 인간성의 범위에 있을 것이다.
황당한 이야기겠지만!
똑똑한 기계는 혹은 사람을 너무 닮은 기계를 우리는 그들을 어떻게 대해야 할 것인가? 만일 어떤 똑똑한 컴퓨터를 탑재한 인간을 닮은 기계가 정자은행에서 산 정자로 대리모를 통해 아이를 낳고 친권을 주장한다면 어떻게 해야할까?
미래에는 기계와 컴퓨터들이 사람을 가려내기 위한 인간용 튜링테스트를 만들어낼 수도 있지 않을까? 물론 이런 가정은 매우 오바스러운 것이 사실이기도 하다.
하지만 어쨋든 특정 부분에 있어서 사람과 소름끼치게 닮은 로봇은 얼마든지 나올 수 있으며 그 시기가 멀지 않은 것만은 사실일 것이다. 그리고 그 역사의 분기점에 이세돌 9단과 알파고의 대국이 남게 될지도 모르겠다.
이 글을 끄적끄적 쓰는 와중에도 나 역시 이세돌 9단과 알파고의 대국 이야기를 이렇게까지 거창하게 생각할 필요가 있을까 하는 생각이 들기도 한다. 나 역시 누구보다도 스마트 컴퓨팅 환경이 제공하는 유익한 환경을 잘 이용하고 사는 사람 중 한 명이기 때문이다.
그냥 이 글은 혹시라도 그런 모든 편의과 유익함들이 모였을때 거대하고 원치 않는 다른 방향으로 흘러갈 수도 있음을 이야기 하고 싶을 뿐이다. 마지막으로 이런 점을 좀 더 심도있게 써 놓은 글 한 편을 공유하며 이 글을 마친다.
https://coolspeed.wordpress.com/2016/01/03/the_ai_revolution_1_korean/
