가장 인간적인 인간
by 브라이언 크리스찬
저자는 2009년 튜링테스트(뢰브너 상)에 참가해서 가장 인간적인 인간 상을 수상했는데, 이를 토대로 인공지능의 대화와 구별되는 인간의 대화의 특징을 탐구하였다.
튜링테스트란 다양한 분야에 종사하는 심사위원들이 한 번은 인공지능과, 또 한번은 인간과 5분씩 채팅을 한 후, 둘 중 어느 쪽이 인간이고 어느 쪽이 인공지능인지를 판단하는 것이다. 튜링테스트는 인공지능이 인간처럼 생각할 수 있는가를 평가하는 척도로 알려져 있지만, 인간 참가자의 입장에서 보면 ‘인간의 소통행위에 대한 검사’이자 ‘인간다움의 핵심에 대한 물음’이라는 의미를 갖는다.
저자는 과거 대회 기록을 검토하고 과거 가장 인간적인 인간 상 수상자, 다양한 분야의 전문가들과 의견을 나누면서 인간적인 대화와 기계적인 대화의 특징을 추출했다.
1. 기계는 상태독립적 – 인간은 상태의존적
상태독립적이라는 것은 과거나 맥락을 고려하지 않고 바로 앞의 대화에만 반응하는 것을 말한다.
인공지능의 대화는 사람들의 대화를 통계적으로 분석해서 많이 쓰이는 것을 뽑아 쓰는 방식으로 이루어지는 경우가 많기 때문에 개별 대화 자체는 아주 자연스럽다. 하지만 대화를 모아 보면 통일된 정체성이 없다. 그 때 그 때 상대방의 말에만 대응하기 때문에, 자기가 한 말끼리 앞 뒤가 안 맞거나 중심 생각이 없다.
이에 비해 인간은 과거에 했던 말, 관련된 상황들을 고려하기 때문에, 대화가 쌓일수록 그 사람에 대해 입체적인 그림을 그릴 수 있다.
하지만 인간이 항상 인간적으로 대화하는 것은 아니다. 전체 맥락을 고려하지 않고 상대방의 말꼬리만 잡을 때, 앞뒤가 안 맞는 말을 할 때, 같은 사안에 대해서 이랬다 저랬다 일관성 없이 말할 때는 기계적으로 말하고 있는 것이다.
2. 기계는 표준화(순수 기법, 책) – 인간은 상황적 특수성
A : 남자들은 다 똑같아
B : 어떤 점에서?
A : 남자들은 늘 이런저런 이유로 우리를 귀찮게 따라다니잖아
B : 구체적인 예를 들어볼래?
A : 음, 내 남자친구는 나를 여기 오게 만들었어
B : 네 남자친구가 너를 여기 오게 만들었다고?
A : 그는 내가 많은 시간 의기소침해 있다고 말해
B : 네가 의기소침하다니 안 됐구나
A : 근데 사실이야. 나는 불행해
B : 여기 온 것이 네가 불행하지 않도록 하는데 도움이 될 거라고 생각하니?
A : 나는 도움이 필요해. 그것은 확실한 거 같아
B : 네가 도움을 받는다면 그건 네게 무슨 의미일까?
A : 아마도 어머니와 잘 지내는 법을 배울 수도 있겠지
B : 네 가족에 대해 좀 더 이야기 해줄래?
위의 대화에서 B는 인공지능이다. 1960년대에 만들어진 상담봇인데, 상대의 말에서 핵심어를 추출한 후 답변에 적절히 붙이기, 애매할 때는 구체적으로 말하도록 질문 등 몇 가지 간단한 규칙만으로 작동한다. 그런데 이 상담봇과 대화를 했던 사람들은 몇 시간씩 대화를 이어가기도 하고, 상대가 인간이라고 철석같이 믿는가 하면 고민 해결에 효과를 보기도 했다고 한다.
저자는 이런 식의 대응을 순수 기법 pure technique이라고 하고, 이에 대비되는 인간의 대화 특징을 장소 적합성 site-specific이라고 한다. 인공지능은 답변 기법에 중점을 두고 인간은 구체적인 상황을 파악하는 데에 중점을 둔다는 의미이다.
순수 기법과 비슷한 것으로 ‘책’이 있는데, 이는 모범답안이나 공략집과 유사한 개념이다. 이를테면, 인공지능이 체스 게임에서 매번 수를 둘 때마다 경우의 수를 따지지 않고 방대한 과거 기록을 분석해서 최적의 해법을 택하는 것, 4장의 숫자카드로 사칙연산을 해서 24를 만드는 게임에서 주어진 카드로 사칙연산을 시도하는 게 아니라 미리 각 숫자 조합에 따른 답을 외워서 참가하는 경우가 이에 해당한다.
이런 대화는 성공적이라고 알려진 방법을 사용하기 때문에 초반에는 효과적일 수 있다. 하지만, 상대의 말에서 자신이 알고 있는 기법이나 모범답안에 끼워 맞출 수 있는 정보에만 집중한다는 점이 문제이다. 그래서, 시간이 갈수록 상대는 ‘내 얘기는 듣지 않고 틀에 박히고 식상한 얘기만 하는구나’ 하고 느끼게 된다.
이런 식의 기계적인 대화를 하지 않으려면, 구체적인 상황에 주의를 기울이고 새로운 방식으로 대화를 시도할 필요가 있다. 예를 들면 누군가가 고민이나 속상한 일을 털어 놓을 때 부지런히 머리 속 DB를 검색해서 해결책을 찾아주려 하기 보다는 그 때 상황이나 감정을 세심하게 들어 주는 것, 일상적인 질문 대신에 프루스트 질문 (*소설가 마르셀 프로스트가 친구들과 서로 이런 질문을 하며 놀았다고 함. http://www.gqkorea.co.kr/2012/03/06/%ED%94%84%EB%A3%A8%EC%8A%A4%ED%8A%B8%EC%9D%98-%EC%A7%88%EB%AC%B8%EA%B3%BC-%ED%94%84%EB%A1%9C%EB%93%A4%EC%9D%98-%EB%8C%80%EB%8B%B5/)이나 심리학자 아서아론의 질문 (http://newspeppermint.com/2015/01/13/36-questions/)과 같이 서로에 대해 더 깊이 알 수 있는 질문들을 하는 것 처럼.
3. 기계는 고정적 (전문가, 증인, 그대로 있음) – 인간은 가변적
저자가 기존 대회 기록을 검토하던 중 인간보다 더 근사한 챗봇의 대화를 발견하고 흥분했다고 한다. 그런데,그 챗봇은 정치에 대한 이야기를 할 때만 환상적이었고 화제가 다른 주제로 넘어가면 동문서답을 했다. 챗봇은 특정 분야에 전문성을 갖고 있어서 그 분야 외에는 대응을 하지 못했던 것이다.
이런 특징은 정신분열증 환자를 모델로 한 parry라는 챗봇과 상담가를 모델로 한 Eliza라는 챗봇의 대화에서 극적으로 드러난다. 각자 자기 말만 하고 있다!
Parry : 저는 수개월 전에 베이 메도우의 경마장에 갔어요
Eliza : 무슨 제안을 받고 거기에 간 거죠?
Parry : 경주하러 갔어요
Eliza : 또 하실 말씀이 있나요?
Parry : 경마가 재미있어요
또한, 인간임에도 불구하고 심사위원으로부터 기계로 판정 받는 경우를 보니 마치 법정에 선 증인처럼 묻는 말에만 진중하게 대답하는 특징이 있었다.
[기계 같은 인간의 대화]
심사위원 : 운전을 오래 하셨나요?
대화자 : 네. 꽤 오래 했습니다
심사위원 : 저도 그렇습니다. 아, 대중교통을 이용할 수 있다고 생각하시나요?
대화자 : 네. 할 수 있습니다
심사위원 : 그러면 왜 이용하지 않으시죠?
대화자 : 하지 않기로 했습니다
심사위원 : 그렇군요. 요즘에 도로에 차가 너무 많다고 생각하시나요, 아니면 충분하지 않다고 생각하시나요?
대화자 : 제가 말할 사항은 아닌데요
[인간 같은 기계의 대화]
심사위원 : 안녕하세요
대화자 : 아멘
심사위원 : 전도사 같아요
대화자 : 사이버 공간을 예술처럼 보이게 만드신 우리 하느님 아버지. 오늘날 우리에게 일용할 대역폭bandwidth을 주셨습니다
심사위원 : 전도사/ 얼간이 단체. 요즘 어떻게 지내나요?
이들의 공통점은 대화의 폭이 지극히 좁다는 것이다. 특정 분야 또는 상대가 사용한 표현으로 대화가 한정된다. 마치 단답형 주관식 질문에 답하는 것처럼. 이런 대화는 자연스레 흘러가지 못하고 뚝뚝 끊기기 쉽고 상대로부터 온기를 느끼기 어렵다.
이런 패턴에서 벗어나려면 대화할 때 잡담을 한다거나, 상대와의 공통 관심사를 찾거나, 상대가 그 다음 말을 이어갈 수 있는 단서를 주는 것이 좋다. 단서를 준다는 것은 이를 테면 ‘그동안 잘 지냈지?’라는 말에 ‘잘 지냈어’라고 대답하는 대신, ‘네가 알면 좋아할만한 일이 있었지ㅎㅎ’라고 대답하는 것을 말한다.
4. 엔트로피와 손실 압축
엔트로피는 선택지의 양 또는 정보량을 말한다. h로 시작하는 단어의 철자를 맞추는 상황을 예로 들어보자. 두 번째 자리에 올 수 있는 철자의 수와 ha까지 제시된 후 세번째 자리에 그 올 수 있는 철자의 수를 비교해보면, 세번째 철자의 경우의 수가 더 많다. 이 때 세번째 철자의 엔트로피가 더 높다고 한다.
인공지능은 상대가 문장을 완성해서 엔터키를 쳐야만 자기 말을 한다. 하지만 인간은 상대가 말하는 도중에도 끼어들어 자기말을 하곤 한다. 또 인공지능은 한 번에 완결된 문장을 말하지만 인간은 단어 순서를 뒤죽박죽이거나 일부를 빼먹고 말하기도 한다. 또 검색어를 입력할 때나 문자 메시지를 보낼 때 자동완성 기능이 있는데, 자동완성에서 벗어나는 것을 말할수록 더 인간적이라고 느낀다.
즉, 말하는 타이밍, 문장의 표현 양식, 단어 등 인간의 말이 엔트로피가 더 높다고 할 수 있다. 엔트로피가 높으면 의외라는 느낌 또는 놀라움을 준다.
반면 예의상 하는 말이나 답정너식 질문처럼 엔트로피가 낮은 대화는 기계 같은 인상을 준다. 또 상대의 말을 여러 각도에서 해석하지 않고 엔트로피가 낮게(편협하게) 해석하면 오해가 생길 수 있다.
한편, 컴퓨터는 많은 정보를 압축해서 전달하는데, 압축에는 손실 압축과 무손실 압축이 있다. 손실 압축이란 정보를 일정 부분 제거해서 엔트로피를 낮춤으로써 원래 상태로 복구할 수 없는 방식이고(but, 사용하는 데는 크게 무리 없음) 무손실 압축은 정보를 제거하지 않는 방식이다. 말이란 생각이나 감정의 압축이다. 이런 정보는 생략해도 상대가 원본을 제대로 해석할 수 있을 거라 기대하지만, 상대는 그 정보가 생략되면 원본을 엉뚱하게 추정하게 된다.
‘인간의 일들이 기계화 되고 나면, 훗날 인공지능이 이런 일을 떠맡게 되는 것은 매우 자연스러워 보이며, 심지어 구원으로까지 느껴질 것이다. 이 과정에서 걱정스럽고 비극적인 부분은 두 번째보다 오히려 첫 번째 단계, 즉 인간적인 일이 기계적인 일로 위축되는 단계이다.’
저자의 말대로 인공지능의 대화를 연구함으로써 ‘기계가 얼마나 인간 같아졌는가?’보다 ‘인간이 어떤 때 인간적이지 않은가?’에 대해 시사하는 바가 더 많은 듯하다.
생각해 볼 질문
1. 나를 모델로 한 챗봇을 만든다면 프로그래밍 로직이 어떻게 될까?
2. 대화가 잘 안될 때 기계처럼 굴었던 점은 무엇이었나?
3. 주변에서 좀 더 인간적인 대화를 위해서는 어떤 점을 개선하면 좋을까?
참고.
https://www.pandorabots.com/mitsuku/ 최근 몇 년간 뢰브너상 1위 수상한 챗봇
https://leadx.org/ IBM의 Watson을 활용하여 개발한 리더십 코칭 챗봇 (coach Amanda)
