brunch

매거진 미래, 그리고 이야기

라이킷 5 댓글

You can make anything
by writing

C.S.Lewis

계정을 잊어버리셨나요?

by 노은솔 Nov 08. 2017

인공지능(AI)과 수다 [2]

튜링 테스트, 그리고 인공지능이 가져다 줄 미래

이 글은 제가 참여하고 있는 지식공유 공동체 <오픈 컬리지>의 [미래 그리고 이야기] 프로젝트를 통해 나눈 이야기를 엮은 것입니다. 유행어처럼 번지는 4차 산업 혁명의 기술들에 대해 학습하고, 변화하는 세상에서 새로운 윤리, 철학, 가치에 대해 자유로운 토론을 하고 있습니다.
"이야기가 산으로 가는 것을 넘어 우주 밖으로 훨훨 날아가기"를 좋아하는 젊은이들이 나누는 대화를 통해서, 독자분들도 다가올 미래에 대해 자유롭게 생각해보는 기회가 되시길 바랍니다.

첫 번째 이야기 : 알파고의 딥러닝 그리고 강인공지능에 대하여

진짜는 진짜를 알아보는 법? 튜링 테스트

(윤지) "그렇다면 이제는 인공지능 여부를 판별하는 기술에 대해서 알아보겠습니다.

인공지능 판별법으로 잘 알려져 있는 게 '튜링 테스트'인데요. 영국의 수학자 앨런 튜링(Alan Turing)이 1950년에 고안한 인공지능 판별법입니다. 그런데 제가 찾아봐도 구체적인 테스트 방법이 나와있지는 않더라고요. 단지 사람이 컴퓨터 화면을 통해서 채팅하는 방식으로 진행되는 정도만 알려져 있어요.

채팅을 통하는 과정에서 이 대화가 기계랑 나누는 것인지, 인간과 나누는 것인지 구별되지 않는다면 그 기계에 인공지능이 있는 것으로 본다고 합니다."

튜링 테스트가 인정한 인공지능은?

2014년 6월 영국의 레딩대학교가 고안한 채팅 프로그램 '유진 구스트만(Eugene Goostman)'이 최초로 이 튜링 테스트를 통과해서 기사화된 적이 있다.

유진은 우크라이나에 사는 13세 소년인 것처럼 사용자들과 대화를 나눴다. 5분 길이의 채팅을 통해 심사위원 중 33% 이상에게 '유진은 진짜 인간'이라는 확신을 줬다고 하며, 이 결과로 튜링 테스트를 통과했다.

세계 최초 튜링테스트를 통과한 유진 구스트만(Eugene Goostman)

(윤지) "그런데 찾아보면 많은 전문가들은 '튜링 테스트'를 통과했다고 인공지능이라고 보기 어렵다고 말합니다. '유진 구스트만'의 경우를 보면, 영어가 모국어가 아닌 13세 소년이라는 '제약 있는 캐릭터' 인 데다가 5분이라는 시간은 판별하기에 너무 짧은 시간이라는 것이죠. 또한 심사위원의 3분의 1밖에 속이지 못했다는 것은, 학점으로 따지면 'F 마이너스' 급이라고까지 표현하더라고요.

이런저런 제약을 둠으로써 테스트의 신뢰도를 많이 하락시킬 수 있는 기법인 것 같아요."

(현욱) "네, 그래서 요즘은 튜링 테스트를 통한 인공지능 판별은 거의 하지 않는 것 같아요."

튜링 테스트는 과연 인공지능을 판별할 수 있는 방법일까?

인공지능 분야에 속한 개념 중 하나로 '일라이자 효과(ELIZA effect)'라는 말이 있다.

컴퓨터나 인공지능이 보여주는 인간다운 행위에 무의식적으로 인격을 부여하는 현상을 말한다.

1966년 요제프 바이첸바움이 MIT에서 정신과 의사를 모사한 인공지능 상담 프로그램인 "일라이자(ELIZA)"를 만들었다. 일라이자는 <환자 중심 상담 이론>에 따라 환자의 행동에 가치 판단을 하는 대신, "긍정적인 태도"와 "공감"을 통해서 환자가 스스로 문제를 깨달을 수 있도록 돕는 상담기법을 사용했다.

이 말은 상담자가 특별한 것을 하지 않고, 환자가 스스로 이야기를 할 수 있도록 환경을 조성하는 것이다.

일라이자의 알고리즘은 아주 간단했다.

인간과 일라이자의 대화 (출처/ https://ko.wikipedia.org/wiki)

환자가 본인의 이야기를 건네면, 즉시 맞장구와 같은 말을 그대로 반복해줌으로써 대화를 이끌어 간 것이다.(원활한 남녀 사이의 대화 공식과도 비슷한 편이다.)

이렇게 대화를 이어나갔고, 그 과정에서 환자들은 실제로 의사와 대화를 나누고 있다고 착각했다고 한다. 더해서 환자들은 일라이자와의 상담이 실질적인 도움을 줄 수 있다는 생각까지 했다고 한다.

이러한 일라이자 효과는 인공지능의 개발에 중요한 역할을 했으며, 인공지능의 판별을 위해 과학적인 방법이 아닌 사회공학적인 방법을 이용한 원리를 입증하였다.

보통 과학계에서 어떤 기술을 증명할 때에는 인간의 감정과 같은 관념적 논증보다는, 수학적 논리나 기계적 판별법을 통해서 옳고 그름을 따지는 명제를 쓰는 경우가 많다. 그런데 튜링 테스트의 경우는 개별 인간의 감정을 토대로 인공지능 여부를 판별하는 방법을 쓰고 있다.

따라서 튜링 테스트는 '과학적, 철학적 의미'에서 인간처럼 생각하는 인공지능 판별법이라는 수식어가 붙는다.

인간의 관념은 실측이 어려운 데다가, 개개인마다 하나의 감정을 통일시킬 수도 없다. '사랑' '좋음'과 같은 단어는 감정을 대하는 개인별로 그 의미에 차이가 있기 때문이다. 따라서 당위적인 판단 근거로서의 효력이 부족하다.

그래서 과학이 곧 종교처럼 받아들여지는 현시대에서의 이러한 테스트 방식은, 다수에게 인정받기 어려운 형태임에는 분명하다.

그러나 한편으로는 인간의 지능을 모방한 AI가 정말 인간답게 사고하는지를 간주하기 위해서, 과연 기존 방식의 과학적-실증적 논리로만 판단할 수 있을지에 대한 의문이 드는 것은 나만의 생각일까.

인공지능 시대, 내 일자리는 안녕하신가요?

출처/ https://www.youtube.com/watch?v=fHy9ZPucIXE

(윤지) "이렇게 인공지능에 대해서 알아봤는데요. 사실 요즘 인공지능 때문에 내 일자리가 사라질까 봐 걱정하는 사람들이 많아졌잖아요."

(은솔) "맞아요. 당장 저희 업계만 하더라도 지점 통폐합이니, 인력 감축이니 이슈가 많아요."

(윤지) "네, 그래서 그런지 한 뉴스 채널 팩트체크에서 20년 안에 사라질 일자리에 대한 내용을 다룬 적이 있어요. 저 내용을 보면 텔레마케터부터 판사까지 많은 직종이 사라질 것이라고 이야기를 했어요."

지난 산업혁명의 역사를 살펴보면, 혁명의 시대마다 인간의 일자리는 매번 수난을 겪었다.

증기기관의 발전으로 공장이 들어서던 1차 산업혁명, 전기 전력이 발견되면서 이뤄낸 2차 산업혁명, 컴퓨터와 인터넷이 발전되면서 생긴 3차 산업혁명에 이르기까지 수많은 일자리가 사라졌고 또 새로운 직업이 나타났다.

이 과정에서의 갈등은 계속 반복되어 왔는데, 가장 잘 알려진 것이 '러다이트 운동'이다.

출처/ https://ko.wicipedia.org/wizi/러다이트_운동/

18세기 증기 기관과 방직기의 결합으로 인한 면직물의 생산이 폭발적으로 늘어나면서, 기존 숙련된 수공업자들의 일자리는 위협을 받았다. 수공업자들이 설 곳을 잃어가자 이들은 방직기를 설치한 공장에서 노동을 하기 시작했는데, 당시 공장은 임금도 적고 근로조건도 너무 열악해 많은 사람들이 불만을 품게 되었다.

이러한 노동자들의 불만은 자본주의적 생산기구를 가진 자본가들에 대한 분노로 이어졌다. 결국 이러한 갈등은 노동자들이 기계를 파괴하는 러다이트 운동으로 촉발되었고, 이 사건은 이 후 '차티스트 운동'으로 발전했다.

인간과 함께 생산라인에서 일할 수 있는 로봇 '벡스터'

인공지능과 로봇 산업이 발전하면서, 2017년의 현대에도 이러한 사회 현상이 시작되었다.

육체노동을 대체하는 사례가 있다.

아마존 물류창고의 키바(KIVA)는 물류의 자동화를 이끌었다. 또한 공장에서 인간이 했던 노동 방법을 학습해서 그대로 근무할 줄 아는 값싼 상용 로봇인 벡스터(Baxter)의 등장, 테슬러나 구글의 자율주행 자동차 도입 등이 그것이다.

또한 제조공장의 자동화 사례로 아디다스의 독일 공장인 스피드 팩토리는 연간 50만 켤레의 주문형 제조 시스템을 갖추고 생산 현장에 투입되는 인원을 10명까지로 줄여 기존 필요 인원에 비해 1/60 수준까지 낮추었다.

지식 노동을 대체하는 사례도 있다.

펀드매니저를 대신하는 로보 어드바이저, 약사나 요리사의 업무를 대체하고 있는 자동화된 약국이나 레스토랑의 등장 등을 볼 수 있다. 종양 검진이나 적합한 치료법의 제시까지 할 수 있는 IBM의 왓슨(Watson)은 의사 업무의 많은 부분을 대신하고 있다.

또한 일본에서는 SF 문학상의 1차 심사를 컴퓨터가 쓴 소설이 통과한 사례도 나오고 있어서 지식 노동의 많은 부분을 컴퓨터가 대신할 수 있는 세상이 다가왔다.

(현정) "그런데 이렇게 인공지능과 로봇이 인간의 일자리를 넘본다고 하면, 인간은 향후에 뭘 해야 할까요?"

(은솔) "그래서 이제 노동을 하는 인간 삶에서, 여가를 하는 인간의 삶으로 축이 움직일 것 같아요. 예전에 봤던 프로그램에서 인간이 더 이상 노동과 생산의 주체를 벗어나서, 소비를 담당하는 주체로 거듭날 것이라는 이야기도 봤어요."

인공지능이 인간의 일자리를 위협한다는 시각이 퍼져나가면서, 노동하지 않는 인간이 어떻게 생을 유지할 것이냐에 대한 논의가 시작되고 있다.

그중 하나가 바로 '로봇세'다. 생산성을 앞세운 로봇을 도입한 기업이나 개인은 앞으로 그 도구를 이용한 세금을 내야 한다는 것이다. 이론적으로 설명하면 이렇게 걷힌 로봇세는 인공지능이나 로봇으로 인해 피해를 본 다수의 인간들을 위해 사용되어야 한다.

4차 산업혁명시대에 제2의 러다이트 운동이 일어나지 않도록 하려면, 기술의 발전을 자본주의상 산업화의 도구로 사용하기 전에 사회 경제적인 영향도를 고려해야 한다. 일직선 상의 시간의 흐름 속에서 과거의 영광은 소멸할 수밖에 없지만, 그 안에서 살아가는 현재의 인간에 대한 배려가 필요한 것이다.

인공지능과 함께 살아갈 미래, 그 세상의 철학

4차 산업 시대가 도래하면서, '모든 사물이 생각할 수 있는 힘을 갖는다(IoT)'는 것은 새로운 윤리의 필요를 제기한다고 본다. 최근 흥미롭게 봤던 EBS 다큐프라임 "철학하라" 편에서는 흥미로운 가정으로 이에 대해 생각해 볼 시간을 주었다.

# "한 부부가 자율주행 자동차를 타고 있다. 부부는 운전을 자동차에게 맡기고 편안한 시간을 보냈다.

자율주행 중이던 자동차는 옆 차선에서 정속 주행을 하던 오토바이 A와 함께 도로를 달리고 있었다.

그런데 주행 중 교차로에서 갑자기 교통법규를 위반한 오토바이 B가 튀어나왔고, 그 오토바이를 피하기 위해 자동차는 옆에서 달리던 오토바이를 쳤다. 이 사건으로 옆에서 정속 주행을 하던 오토바이 A의 운전자가 사망했다."

# "자동차 차주 부부는 운전을 하지 않았다. 운전자 부부에게 책임이 있는가?

자율주행 자동차를 판매한 회사에게 책임이 있는가? 아니면 개발자에게 책임이 있는가?

교통 법규를 위반했지만, 직접 오토바이 B에게 사고를 내진 않은 오토바이 A 운전자에게 책임이 있는가?

자율주행 자동차는 옆 차선에서 달리는 오토바이 A와의 간격, 갑자기 튀어나온 오토바이 B와의 간격을 계산해 가장 사고가 일어나지 않을 수 있는 최선의 선택을 했다. 자동차에게 책임이 있는가?"

어느덧 '인지'와 '판단'의 영역이 인간의 전유물이던 시대를 벗어나고 있다.

판단을 내린다는 행위는 모두에게 이로운 결과를 도출하기 힘들다. 그렇다면 특정 대상에게 손해를 끼칠 수밖에 없는 결정에 대해서는 책임소재가 분명해야 할 것이다.

기계가 판단을 대신하는 시대를 맞아, 우리는 누구에게 책임을 물어야 하는 것일까?

(은솔) "다른 것들은 모르겠는데, 판사라는 직업이 대체 가능하다는 것은 잘 이해가 되질 않네요. 판사라는 직업은 인간의 행동에 대해 가치판단을 내리는 일을 하는데, 과연 그게 인공지능으로 대체할 수 있는 건가요?"

(찬구) "저도 좀 동의하기가 어렵네요. 사건들에 대해 다각적인 정보를 취합해서 최종 판단을 내리는 게 판사의 업무라고 생각하는데, 이걸 인공지능이 한다고 하면 문제가 있을 것 같아요."

(진호) "하지만 인간이 판결을 내리는 것과 다른 문제라고 볼 수 있을까요. 예를 들어 사형집행을 내린다고 했을 때, 한 개인이 특정 개인에게 '사형 선고'를 내리는 것이 타당한가에 대해서는 의견이 분분하잖아요. 사형 선고가 과연 '개인이 내리는 것인가, 아니면 사회가 합의한 법적 제도가 선고하는 것인가'에 대한 논의요. 인공지능이 내리는 판결이 문제라고 본다면, 같은 맥락일 수도 있어요."

(현정) "하지만.. 판사는 법률적인 검토만 해서 판결을 내리는 것이 아니잖아요."

(진호) "인공지능의 효율성 측면에서 보자면.. 고등 법원에서 내리는 어려운 처벌이 아니라, 즉결 심판과 같은 판결에서는 훌륭히 해낼 수도 있잖아요. 교통 범칙금 3만 원 뭐 이런 것들요."

(찬구) "그렇지만 인공지능이 내린 판결에 인간이 얼마나 수용할 수 있을지는 또 다른 문제라고 생각해요."

(은솔) "그렇죠. 인간인 판사가 잘못된 판결을 내렸을 때와, 인공지능이 잘못된 판결을 내렸을 때의 책임소재를 생각하면 사실 인간으로서는 용납하기 좀 힘든 부분인 것 같아요."

개발자인 현업으로 살아가면서, 제도와 윤리의 발전 속도는 기술의 발전 속도에 뒤쳐지는 것을 여러 번 목격해왔다. 예상치 못했던 기술의 역습이 문제를 일으키면, 그제야 각 분야 전문가들이 모여서 회의를 통해 필요한 법률적 근거를 마련하는 식이었다.(소 잃고 외양간 고치는 모습을 보도를 통해 많이 접해왔다.)

그렇다면 앞으로 인공지능과 더불어 살아야 할 인간의 미래를 어떻게 예측하고 준비해야 할까?

(현욱) “미래 세계가 반드시 어두운 것만은 아니에요. 인공지능을 발전시키기 위해서 인간의 뇌구조에 대한 연구도 따라서 발전하고 있잖아요. 신경가소성 연구에 따르면 나중에는 뇌에 전기 자극을 줘서, 굳이 인간이 외국어를 힘들게 공부하지 않아도 알아들을 수 있는 시대가 열릴 수 있대요.”

http://naver.me/FkuluxFW

귀 뒤에 전기자극 줘 외국어 빨리 익히는 날 언제 올까?

美국방부, 신경자극 학습능력 향상기술 개발에 570억원 (서울=연합뉴스) 최병국 기자 = 언젠가는 귀 뒤에 붙인 작은 전극에 전기자극을 주는 방법으로 외국어를 더 빨리 배울 날이 올지도 모른다. 30일 의학 매체 스태트뉴스 등에 따르면, 미국 국방고등연구계획국(DARPA)은 새로운 것을 학습하는 능력을 향상시킬 기술의 연...

news.naver.com

(현정) “오~ 그건 좀 좋은데요?”

(지연) “맞아요. 그래서 인공지능에 대해 긍정적으로 보는 사람들은 인간의 뇌와 인공지능이 결합해서 더 좋은 미래를 열 수 있다고 말하기도 해요.”

BCI라는 기술이 있다. Brain Computer Interface의 약어로, 인간의 두뇌와 컴퓨터를 직접 연결하여 인간의 뇌파를 통해 컴퓨터를 제어하는 인터페이스 기술이다.

뇌파 자극을 인식하는 장치를 통해 뇌파를 받아들인 후, 신호화 과정(Signal Processing)을 거쳐 뇌파를 분석하여 입출력 장치에 명령을 내리는 단계를 거쳐 구현한다. 이 BCI 기술 방식은 마이크로 칩을 두피에 시술해서 뇌파를 측정하는 "침습형 방식"이 있고, 헬멧이나 헤드셋 형태의 장비로 뇌파를 측정하는 "비침습형 방식"이 있다. 우리가 매트릭스와 같은 영화에서 흔하게 접할 수 있는 방식은 전자에 속한다.

인간의 뇌파와 직접적으로 연동할 수 있는 BCI 기술은 넓게는 인간이 생각만으로 로봇과 같은 기계를 조작할 수 있기 때문에 인간의 신체적, 정신적 한계를 극복할 수 있는 기술로 인정받고 있다.

(은솔) "그런데 뇌에 인공 칩을 이식해서 뇌가 로봇을 움직이기도 하고, 인공지능이 인간에게 영향을 미친다고 한다면, 그건 사람이라고 봐야 하나요? 아니면 로봇이라고 봐야 하나요?"

영화를 통해 경험한 BCI 기술은 보통 "그럼에도 불구하고" 인간임을 지향한다.

그러나 이 기술이 인간과 인공지능 간의 상호교류를 가능하게 하며, 서로가 서로를 제어할 수 있다고 한다면 그것은 인류라는 종의 범주를 벗어날 가능성은 없을까?

(윤지) "영화 <her> 보신 분들 계시죠?

OS와 사랑에 빠진 남자. 영화 <her> 포스터

인공지능이 이렇게 인간의 동반자 역할을 할 수 있다는 긍정적인 의견도 있는 반면, 두려운 미래를 예상하기도 하는데요.

초인공지능으로까지 AI가 발전하면, 그때는 인간이 오히려 AI에게 지배당할 수 있다는 미래를 그리는 작품들도 많습니다. 그런 시대가 정말 올 지, 또 얼마 뒤에 올 지는 모르지만요."

(현정) "인공지능을 두려워하는 것은 다 그런 막연한 두려움 때문이 아닐까요?"

(은솔) "아까 했던 논의로 돌아오는 것 같은데, 그래서 저는 과연 인간이 초지능 AI를 그대로 둘 지 모르겠어요. 국가 간 경쟁으로 여러 기술이 발전한 것도 사실이지만, 결국 '핵'이라는 위험한 무기가 인류에게 위협이 되기 때문에 사회, 정치적으로 사용하지 말자고 약속을 한 것처럼요. 언젠가 AI가 인류를 위협할 수 있다는 논의가 본격화되면 오히려 막으려 할 수도 있다고 봐요."

(찬구) "하지만 인공지능이 인간에게 위협을 하는 사건이 터진 뒤라면 너무 늦을 수도 있죠."

(현정) "저는 그동안 인공지능도 기계의 일부고, 결국은 인간에게 도움을 주는 도구라고 생각했었는데요. 어쩌면 더 이상 도구가 아닌 존재가 될 수도 있을 것 같아요."

(은솔) "맞아요. 언젠가 미래에는 인류 대표와 AI 대표가 같이 한 원탁에 앉아 미래를 논의하는 시대가 올 수도 있겠죠."

1950년대 처음 시작된 인공지능에 대한 연구는 반세기를 겨우 지났을 뿐이다. 이 짧은 시간 동안 AI는 인류가 발전해 온 속도와는 비교도 되지 않을 정도로 변신을 거듭해왔다. 그 결과 인간을 상대로 한 게임에서 AI가 이기기도 하고, 인간의 신체적, 정신적 한계로 도저히 해낼 수 없었던 일들을 대신하기도 한다.

우리는 이러한 AI의 발전을 어떻게 바라보고 있을까?

지나친 낙관도, 쓸데없는 비관도 지금 이 시대에는 필요 없다.

인공지능과 함께 살아갈 미래를 피할 수도, 피해서도 안 된다면 인간과 인공 지능이 서로 더불어 살 수 있는 철학에 대해 생각해 볼 시기는 아닌가.

덧) 초인공지능 시대에 대한 TED 강연을 첨부합니다. (닉 보스트롬)

https://www.youtube.com/watch?v=GVLeV4EVmd0