특이점이 온다?
인문학의 도구 : 철학 2 인공지능보다 인간의 무감각이 더 문제
인공지능에 대한 과장된 두려움
인공지능이 빠르게 발전하면서 많은 사람들이 두려움을 갖게 되었다. 영화 속의 '터미네이터' 같은 존재가 등장하는 것은 아닌지 걱정하는 것이다. 그리고 이런 대중들의 마음을 아는 방송이나 유튜버들은 시청률과 구독자를 늘리기 위해 더욱 자극적인 내용을 가지고 공포감을 조성하기도 한다.
인공지능이 인간의 모든 영역을 초월하는 순간을 '기술적 특이점(Technological Singularity)'이라고 한다. 사람들은 기술이 발전하고 정보가 축적되면 어느 순간인지 정확히 알 수는 없지만, 당연히 인공지능이 인간을 뛰어넘는 특이점이 올 것이라고 믿는다. 그런데 정말 인공지능이 인간의 능력을 뛰어넘는 것은 물론 인간을 통제하고 지배하는 상황이 올 것인가?
특이점이 머지않아 도래한다고 주장하는 대표적인 사람은 레이 커즈와일(Ray Kurzweil)이다. 그는 발명가이자 미래학자로, 오래전부터 기술의 기하급수적 발전을 주장해 왔다. 그의 핵심 주장에 따르면, 인공지능, 생명공학, 나노기술 등 첨단 기술들이 서로 융합하면서 인간의 뇌와 동일하거나 그 이상으로 기능하는 인공 지능체가 등장하게 될 것이며, 그 시점이 바로 2045년 경이라고 한다. 그는 이 시점을 '특이점'이라 부르며, 이 시기 이후의 세계는 인간의 지적 능력으로는 예측 불가능한 상태가 될 것이라고 예견한다.
최근에 내한한 '유발 하라리'와 같은 작가도 인공지능의 위험성을 경고하면서, 인간이 이를 통제할 수 있다고 생각하는 것은 심각한 착각이라고 경고하기도 한다.
특이점이 온다그러나 이에 대한 반대 입장도 만만치 않다. 많은 철학자들과 심리학자는 물론 일부 과학자들은, 인공지능이 아무리 인간처럼 사고하고 말하는 것처럼 보일지라도, 그것은 결국 프로그램된 결과일 뿐이며, 인간의 정신 작용과는 근본적으로 다르다고 지적한다.
세계관의 차이로도 특이점 가능성은 논란이 있다.
이 세계가 어떻게 존재하는지에 대한 관점은 딱 두 가지이다. 누가 만들었거나 아니면 우연히 존재한 것이다. 우리는 누가 만들었다는 관점을 대체로 '유신론적 세계관'이라고 하고, 물질의 우연한 결과를 '유물론적 세계관'이라고 한다.
유물론(materialism)적 세계관을 가진 이들은 특이점의 도래를 자연스럽게 받아들일 수 있다. 유물론은 모든 존재를 물질로 보고, 인간의 정신 역시 고도로 축적된 정보의 결과물로 본다. 유물론에 기반한 진화론적 관점도 마찬가지다. 생명도, 의식도 모두 진화과정에서 축적된 정보 처리의 산물이라면, 기계가 인간을 능가하는 날이 오는 것은 당연하다. 인간도 어느 순간까지는 단세포동물이나 다름없는 존재였을 것이다. 그러나 어느 순간 '특이점'을 경험하며 동물과 다른 정신세계를 구축하게 되었을 것이다. 이런 관점이라면, 인공지능이 인간 이상의 존재가 되는 것은 시간문제이다.
반면, 유신론(theism)적 세계관은 '특이점'에 대한 생각이 전혀 다르다. 인간은 지식의 총합이나 계산 능력 이상의 존재이며, 영혼과 도덕, 자유의지를 가진 신의 피조물이다. 이 관점에서는 아무리 기계가 똑똑해져도 그것은 '의미'나 '윤리'를 이해하는 존재가 될 수 없으며, 따라서 인간과 본질적으로 동일한 존재가 될 수 없다. 인간은 영혼을 가진 존재로서, 기계와는 질적으로 구분된다는 점에서 특이점의 도래 가능성 자체를 부정한다. 물론, 인간의 과학기술은 인간을 흉내 내는 휴머노이드 로봇은 만들어 낼 것이다. 그럼에도 불구하고 결국 인간을 넘어서는 순간은 오지 않는다는 것이다. 로봇은 그냥 로봇일 뿐이다.
나는 유신론적 세계관을 가진 사람이기에 인공지능이 인간을 초월하는 순간이 올 것을 믿지 않는다.
인간은 그리 단순한 존재가 아니다.
아주대학교 김경일 교수는 기계와 인간의 차이를 설명하는 강의에서, 사람들은 대한민국의 수도가 서울이라는 것을 빠르게 답하는 것처럼, '대한민국에서 스무 번째로 큰 도시 이름이 무엇이냐는 질문에도 아주 빠르게 '모른다'는 답을 한다고 예를 들었다. 그리고 이것은 인간이 가지는 매우 특이한 능력이라고 설명한다. 인공지능과 같은 기계는 '모른다'는 답을 하기 위해, 자기가 가진 모든 데이터를 검색하는 과정을 거쳐야 하는데, 인간은 자기의 뇌를 모두 스캔하지 않고도 아주 빠르게 답을 한다는 것이다. 김 교수는 이것이 인간의 직관적 판단 능력이며, 불확실한 정보 속에서도 적절한 판단을 내릴 수 있는 고유한 힘이라고 말한다. 인간은 정보를 전부 확인하지 않더라도, 경험과 친숙함을 기준으로 ‘모른다’는 결론에 도달할 수 있다는 것이다.
인공지능과 인간의 차이를 설명할 때, 또한 주목되는 개념이 '메타인지'이다. 메타인지는 '자신의 생각을 인식하고 조절하는 능력', 다시 말해 ‘자신을 제삼자로 놓고 객관적으로 성찰하는 자아'이다. 이 메타인지가 뛰어난 학생이 학업역량이 우수하며, 자기 분야에서 성공한 사람들의 특징이 된다는 연구결과도 많다.
현재의 인공지능은 인간의 메타인지를 흉내 낼 수는 있지만, 그것은 아직 프로그래머가 부여한 규칙에 따라 작동하는 구조에 지나지 않는다. 인공지능은 자기 스스로에 대한 자각이나 반성을 하지 않으며, 실수나 판단의 오류를 ‘경험’으로 내면화하지 않는다. 반면 인간은 '메타인지'라는 자아를 통해 실수를 통해서도 배우고 성찰할 수 있다.
급속도로 발전하는 인공지능을 보면서 많은 사람들이 두려움을 갖지만, 사실 인공지능이 인간을 지배하고 통제하는 단계로 진입한다는 것은 아직은 불가능에 가까운 일이다. 굴삭기가 인간보다 일을 잘한다고 해서 인간보다 뛰어나다고 말하는 사람은 없다. 물론 옛날에는 이런 기계들이 인간의 노동력을 대체할 수 있다는 두려움 때문에 '러다이트 운동'이 일어나기도 했지만 말이다.
마찬가지이다. 인공지능이 인간보다 데이터를 빠르게 처리한다고 해서 인간을 능가하는 존재가 될 것이라고 보는 것은 지나치게 단순한 개념이다. 인공지능의 발전이 빠르기는 하지만, 인간 정신의 깊이와 복합성, 특히 내면적 성찰과 영적 감수성에까지 도달하기에는 아직 갈 길이 멀고 멀다는 것이다.
인간은 그렇게 단순한 존재가 아니다.
인공지능 시대에 '트롤리 딜레마'가 전하는 메시지
마이클 샌델의『정의란 무엇인가』에는 '철로를 이탈한 전차'라는 가설을 소개하고 있다. '트롤리의 딜레마'로 불리는 가상의 사고 실험이다.
제동 장치가 망가진 기차가 선로 위를 달리고 있다. 선로 위에는 5명의 사람이 있어 선로를 바꾸지 않으면 5명이 죽게 되고 선로를 바꾸면 5명은 살지만 바꾼 선로에 있는 사람 1명은 죽게 된다. 선로 분기기 스위치는 당신 앞에 있다. 스위치를 어떻게 할 것인가?
이 딜레마는 인공지능 기반 자율주행 자동차를 설계하는 과정에서 많은 논란이 되어 유명해졌다. 자율주행 자동차가 사고를 낼 수밖에 없는 상황에서, 어떤 선택을 하도록 프로그램을 할 것이냐의 문제인 것이다. 그리고 자율주행 자동차가 실제 사고를 냈을 때, 그 책임은 운전자의 몫인지 아니면 설계한 사람의 책임인지 법적, 윤리적인 책임 논란까지 뒤따랐다.
『정의란 무엇인가』는 이런 딜레마의 상황에서 어떤 선택을 하는 것이 정의로운 일인지 계속 질문하고 답을 찾는 책이다. 그런데, 샌델은 여기서 재미있는 질문을 하나 더 던진다. 이 내용도 인용해 보자.
당신은 기관사가 아니라, 철로를 바라보며 다리 위에 서 있는 구경꾼이다. (이번에는 비상 철로가 없다) 저 아래 철로로 전차가 들어오고, 철로 끝에 인부 다섯 명이 있다. 이번에도 브레이크가 말을 듣지 않는다. 전차가 인부 다섯 명을 들이받기 직전이다. 피할 수 없는 재앙 앞에서 무력감을 느끼다가 문득 당신 옆에 서 있는 덩치가 산만 한 남자를 발견한다. 당신은 그 사람을 밀어 전차가 들어오는 철로로 떨어뜨릴 수 있다. 그러면 남자는 죽겠지만 인부 다섯 명은 목숨을 건질 것이다. (당신이 직접 철로로 몸을 던질 생각도 했지만, 전차를 멈추기에는 몸집이 너무 작다)
두 이야기의 차이점은, 한 사람을 희생해서 다섯 사람을 살리는 원칙은 동일한데, 왜 첫 번째 이야기는 그럴 수 있다고 생각하는 반면, 두 번째 이야기에서는 도덕적으로 허용할 수 없는 사안으로 여겨지느냐는 것이다.
이 문제는 사실, 아주 간단하다. 사람들은 쇠고기를 좋아하지만 직접 잡아먹는 것은 싫어한다. 치킨도 좋아하지만 직접 닭을 잡아먹으라고 하면 질색을 할 것이다.
아무리 좋은 일이라도 누구나 자기 손에 직접 피를 묻히고 싶은 사람은 없다는 것이다.
영화 속의 '매트릭스' vs 현실 속의 '빅브라더'
이런 논리를 전쟁의 상황에 대입해 보자. 과거에 얼굴과 얼굴을 보며 싸운 전쟁에는 그래도 가끔은 낭만이 있었다. 때로는 장군과 장군이 일대일로 맞짱을 뜨고 승부를 가르기도 했다. 하지만 첨단 과학기술이 도입된 무기들이 격돌한 1, 2차 세계대전에서는 상상을 초월하는 엄청난 인명피해를 내기도 했다. 몸과 몸이 부딪치지 않고 멀리서 스위치를 눌러도 되는 전쟁에서는 어떤 낭만도 없고 죄책감은 더욱 무디어진다.
지금도 진행 중인 러시아와 우크라이나 전쟁은 인공지능을 활용하는 미래전쟁의 양상을 보여준 사례로 기억될 것이다. 많은 국가들은 이 전쟁을 보면서 새로운 전략으로 전쟁을 준비할 필요를 느끼게 되었다. 이제 사람과 사람이 맞부딪혀 싸우는 일은 별로 없다. 대부분은 멀리서 스위치(버튼)를 눌러 미사일을 날리고 드론을 조종하여 상대방을 제압한다. 이러한 최첨단 무기들에는 인공지능 시스템이 활용되고 있다. 인공지능 무기는 가장 효율적인 경로를 따라 적을 찾고, 자동화된 시스템에 따라 인명을 살상하고 적진을 파괴한다.
스탠포트 대학에서, 스탠리 밀그램이 주도한 전기충격실험을 보면, 인간이 얼마나 잔인해질 수 있는지를 보여준다. 이건 인간이 선하고 악하고의 문제가 아니다. 인간은 자신의 책임을 회피할 수 있는 여건만 되면, 자신보다 더 권위 있는 자가 설계한 시스템 안에서 얼마든지 450V의 치명적인 전기 충격도 누를 수 있는 존재였다. 인간이 선한가 악한가의 문제가 아니다. 인간은 자기 손에 직접 피를 묻히지 않으면 얼마든지 타인의 목숨도 거둘 수 있는 존재인 것이다.
그렇기 때문에 사람들은 인공지능 무기를 핑계로, 살인 행위에 도덕적 책임을 느끼지 못할 수도 있다. 그건 자기가 결정한 것이 아니라 인공지능이 알아서 판단한 것이다. 사람을 죽이는 일에 무감각해지는 것이다. 앞에서 말한 인공지능 기반 자율주행자동차를 다시 예로 들면, 솔직히, 자율주행자동차가 어느날에 갑자기, 특이점을 넘어 스스로 자아를 갖게 되고 인간을 공격하는 일은 그리 걱정할 일이 아니라는 것이다.
인간이 더 걱정해야 할 일은, 그 자율주행을 핑계삼아 자신의 차가 저지른 사고에 대해 책임감을 느끼지 못하는 것이 문제라는 것이다. 마찬가지로 전쟁에 대해서도 같은 논리가 적용될 것이다. 그래서 미래 전쟁은 아주 더 잔인해지고 더 길어질 수 있다는 것이다.
인공지능이 인간을 지배하는 상황을 표현한 '터미네이터'나 '매트릭스'와 같은 영화가 있었다. 한편, 고도로 발달한 인공지능 기반의 미래사회를 '빅브라더'와 같은 독재자가 지배하는 '1984'와 같은 소설이 있었다. 과연 미래는 '매트릭스'의 세계가 될 것인가? '1984'의 세계가 될 것인가? 물론 인공지능이 인간의 삶을 지상낙원으로 만들어주는 '유토피아'의 세계를 만들지도 모른다. 하지만, 안타깝게도 '유토피아'는 현실세계에 존재하기 힘들다. '유토피아'라는 말이 원래 그렇다.
내 생각은 이렇다. 특이점이 와서 기계가 인간을 공격하는 상황? 그건 '매트릭스'와 같은 영화 속의 일이다. 누가 뭐래도 아직은 조회수를 올리기 위한 과장이 많다. 그런 상황은 오지 않을 뿐만 아니라 온다고 해도 까마득하게 먼 미래의 일이라고 생각한다. '유토피아'가 되기를 바라지만 그건 낭만적인 생각으로 보인다.
따라서 우리는 '특이점'을 염려하기 보다는, '유토피아'를 막연히 상상하기보다는 인공지능을 무기로 나를 지배하고 통제하려는 '빅브라더'를 경계해야 한다. '빅브라더'는 인공지능의 뒤에서 나를 감시하고 통제하면서도 별로 죄의식이나 공감능력이 없이 군림하려고 할 것이다. 그리고 내가 쓸모 없다거나 반체제적인 사람이라고 판단하면, 그 쓸모를 판단하는 일조차 인공지능이 기계적으로 판단한 다음에, 가차없이 나를 이 세상에 없는 사람처럼 삭제할지도 모른다. 인공지능은 나의 처지와 상황에 대한 공감이나 이해없이, 간단히 'Delete'키를 누르면 그만일 테니까 말이다.
조지 오웰의 '빅브라더'는 단순히 소설 속의 경고가 아니다.
현실적으로 또 하나, 두려움 아닌 협업의 수단으로 'Dual Brain'
1880년대 화가들은 사진기가 보편화되자, 인상을 담은 그림을 그리다가 최근에는 추상화를 그리며 위기를 넘어섰다. 방직 기계가 일자리를 대체할 때, 러다이트 운동을 주도하는 사람도 있었지만 변화를 수용하고 새로운 직종을 창업하는 이들도 많아졌다.
오늘날 다시, 인공지능의 발전은 많은 직업에 변화를 예고하고 있다. 특히 사무직, 회계사, 법률가, 기자, 의료진 등 반복적이거나 분석 중심의 전문직종은 AI의 자동화 기술로 인해 기존의 역할이 줄어들 수 있다고 경고한다. 경고를 넘어 인간을 뛰어넘어 지배할 것이라는 공포감까지 주는 상황이다.
따라서, 이러한 직업군에서는 단순 업무에서 벗어나 의사결정, 창의성, 공감 능력 등 인간 고유의 역량을 강화하는 방향으로 변화해야 한다고 말한다. 그리고 교육 분야에서는 이제 단순한 지식 전달이 아닌 AI를 활용할 줄 아는 능력, 비판적 사고, 윤리적 판단, 창의적 문제 해결력을 기르는 교육이 핵심이 될 것이라고 한다. 결국 AI 시대에 살아남기 위해서는 ‘기계를 이기는 인간’이 아닌, 기계와 협업할 줄 아는 인간을 키우는 교육이 필요하다는 것이다.
최근 많은 기업들이 AI를 업무에 필수로 활용하기 시작했다. 그리고 듀얼브레인(Dual Brain)이라는 개념도 보편적으로 쓰이기 시작했다. 자기계발서 책으로도 나왔다. 원래는 생물학 용어로 좌뇌와 우뇌의 균형을 말하는 개념이지만, 최근 인간과 인공지능 간의 협업을 강조하는 말로 쓰이고 있다.
기업이 변하면 학교 현장도, 느리지만 변하기 시작한다. 솔직히 인공지능이 빠르게 발전하는 상황에서, 특이점과 같은 먼 미래의 일을 두려워하기 보다는 내 직업이 어떻게 될 것인지, 일하는 방식에서는 어떤 변화가 올지를 고민하는 것이 더 현실적이라는 생각이 든다.
