우리는 알고리즘의 판단을 이해할 수 있을까?
<넥서스> <블랙미러 시즌 3 추락>
블랙미러 시즌3 첫 번째 에피소드 <추락Nosedive>을 보면 동기 간의 경쟁, 더 높은 지위에 올라가고 싶은 욕망과 같은 전통적인 드라마의 요소가 보인다. 그러나 이 에피소드의 전반적인 흐름을 끌고 가는 것은 사람들의 평점을 결정하는 실체 없는 알고리즘이다.
알고리즘이란 무엇일까? 문제를 해결하거나 어떠한 목적을 달성하기 위한 단계적인 순서를 말한다. 특정한 계산을 하는 것이 아니라 계산을 하기 위해 따르는 방법을 의미하는데 일종의 요리 레시피와 같다. 예를 들어 카레 레시피를 참고해보자
1. 재료 손질하기 :
고기는 먹기 좋은 크기로 썰고, 양파는 채 썰며, 감자와 당근은 깍둑썰기로 준비합니다.
2. 재료 볶기 :
냄비에 식용유를 두르고 중불에서 양파가 갈색이 될 때까지 볶습니다. 그런 다음 고기와 채소를 넣고 함께 볶습니다.
3. 물 넣고 끓이기 :
재료가 잘 섞인 후 물 1,400ml를 넣고 끓입니다. 약 15분간 끓여 재료가 속까지 익도록 합니다.
4. 카레 소스 믹스 넣기 :
불을 끄고 카레 소스 믹스를 넣은 후 잘 저어줍니다.
5. 뭉근하게 끓이기 :
다시 약불로 줄이고, 가끔 저어주면서 약 10분간 더 끓입니다. 이 과정에서 카레가 걸쭉해집니다.
5. 플레이팅 :
완성된 카레를 밥 위에 올리고 서빙합니다.
일련의 과정을 거치면 카레가 완성된다. 사용하는 재료를 조금 달리해서 약간 다른 맛의 카레가 만들어질 수 있지만 알고리즘 자체는 그대로이다. 카페에 커피를 주문하기 위해 키오스크에 가면 커피, 음료, 디카페인 항목을 선택하고 원하는 음료를 선택한다. 따뜻한 음료/차가운 음료, 사이즈, 샷 추가 등의 옵션을 선택한다. 매장인지 포장인지를 선택하고 결제 수단을 선택하면 원하는 음료가 주문된다. 디카페인, 아메리카노, Hot, Tall, 샷 추가X, 테이크 아웃, 카드를 선택하고 기다리면 원하는 음료가 나온다. 이것이 알고리즘이다.
오늘날 도처에 깔려있는 알고리즘은 이보다 훨씬 복잡하다. 구글에 궁금한 점을 검색하면 어떤 페이지는 첫 페이지 상단에 뜨고 어떤 페이지는 56번째 페이지 중간에 뜬다. 구글의 알고리즘은 웹사이트 방문자 수, 광고 여부, 외부 링크 수 등 다양한 변수에 점수를 부여하여 페이지의 우선순위를 결정한다. 알고리즘의 판단과 사람의 판단이 다른 점이 여기서 드러난다. 알고리즘은 수많은 데이터를 비교, 분석하고 결정을 내리는 걸 어려워하지 않지만, 사람은 어려워한다. 인간은 복잡한 문제에 직면할 때 여러가지 사항을 종합적으로 검토하기 보다는 특정 행동 방침을 취할 단 하나의 이유를 찾고 이외의 고려 사항은 무시하는 경향이 있다.
만약 <추락>의 사회에서 카페에 방문한 점원에게 친절하게 인사하지 않았다는 이유로 평점 0.15점이 깎였다고 해보자. 알고리즘에게 왜 0.15점을 깎았느냐에 대한 설명을 부탁했을 때 알고리즘의 설명은 한 문장이 아니다. 알고리즘의 답변은 176개의 변수를 고려한 수백, 수천 페이지의 수식으로 구성되어 있을지도 모른다. 알고리즘이 지배하는 세상에서 우리는 그 결정을 받아들일 수 있을까?
AI와 머신러닝 기법이 발전하면서 야기되는 또 다른 문제가 있다. 원래 알고리즘은 스스로 많은 것을 학습할 수 없었다. 예컨대 과거에 바둑 경기를 위한 알고리즘은 거의 모든 것을 인간이 코딩해야만 했다. 바둑의 기본 규칙과 수를 평가하는 방법까지 인간의 손으로 코딩된 초기 알고리즘은 사람보다 훨씬 더 많은 수를 계산하고 평가할 수는 있었다. 그러나 게임의 모든 비밀과 규칙을 인간에 의존해서 알아야만 했기에 인간이 모르는 전략은 알고리즘도 몰랐을 가능성이 크다.
그러나 오늘날 알고리즘은 스스로 학습할 수 있는 능력을 가진다. 현대의 바둑 경기 알고리즘에게는 게임의 기본 규칙 외에는 아무것도 가르쳐주지 않는다. 그 외의 모든 것은 주어진 데이터를 분석하거나 새로운 게임을 하면서 스스로 학습한다. 알고리즘끼리 학습하는 것도 가능하다. 실패하면서 배우고 인간이 모르는 게임 방식을 연구해내는 것이 가능하다.
이에 대한 흥미로운 실험이 있다. 2016년 수백 가지 컴퓨터 게임에 참여할 수 있는 범용 AI를 개발하는 '유니버스'라는 프로젝트가 있었다. 이 AI는 다양한 자동차 경주 게임에서 좋은 성적을 내었다. 이어 보트 게임에도 AI의 성능을 실험했는데, 보트 경주를 하지 않고 항구로 돌아와 끝없이 원을 그리며 항해했다.
연구팀이 AI의 행동을 이해하는데는 오랜 시간이 걸렸다. AI에게는 단순히 '경주에서 승리하라'라는 목표를 던져주었다. 보트 경주 게임에는 자동차 경주 게임에는 없는 특이한 규칙이 있었다. 자동차 경주 게임처럼 다른 보트를 앞지르면 점수를 주었지만, 항구에 정박하여 전력을 보충할 때도 점수를 주었다. AI는 다른 보트를 앞지르려고 시도하는 것보다 항구를 오가며 원을 그리는 것이 점수를 더 빨리 채울 수 있다는 사실을 파악했다. 게임 개발자도, 실험팀도 이 허점을 파악하지 못했지만, AI는 스스로 학습하며 가장 효율적으로 승리하는 방법을 깨달았던 것이다. 창의성은 더 이상 인간의 영역만이 아니다.
유니버스 프로젝트 AI의 전략은 창의적이긴 했으나, 인간이라면 '경주해서 승리하라'라는 의도는 아니었음을 깨달을 것이다. 여기서 알고리즘의 무서운 점은 주어진 목적을 어떤 수단을 사용해서라도 달성하려 한다는 점이다. 우리보다 더 많은 변수를 고려하고, 더 많은 학습을 통해 강력해진 알고리즘의 판단을 우리는 이해할 수 있을까? 우리는 그들의 판단에 전적으로 의지할 수 있을까?
