인공지능, 시작은 지루했다.

인공지능이 쉬쉬하는 "자기결정" 이야기

인공지능의 첫걸음

인간의 역사상 진보된 기술은, 늘 인간의 일상을 한층 편리하게 해주는 것에 있었다. 개인적으로 가장 위대한 발명품은 에어컨이고, 사계절 우리집을 쾌적하게 유지해주는 식세기와 건조기, 로봇청소기야 말로, 나에겐 가장 좋은 인공지능인 듯한 발명품이다. 마찬가지로 역사적으로 사람들은 인공지능을 인간 중심적 접근방식을 통한 여러 가지 가설로 접근하고 있었다. 그래서 인공지능의 정의는 ‘인공지능 연구’이다. 즉 기술이나 서비스, 기계적 시스템을 말할 수도 있지만 살아 진보하고 있는 의미를 담는 정의라고 하겠다. Stuart Russell과 Peter Norvig에 따르면 인공지능 연구는 크게 ‘인간적 사고’, ‘인간적 행위’, ‘합리적 사고’, ‘합리적 행위’로 나누어 볼 수 있는데, 이러한 분류는 인간적인 것과 합리적인(ideal·rationality) 것, 사고과정(thought process)과 행동(behavior)이라는 기준에 따른 것이다. 이 기준의 조합에 따르면, 인공지능이란 ‘시스템상의 정보를 토대로 인간적 사고와 인간적 행위를 실행함으로써 합리적으로 기능하는 것’ 정도로 정리할 수 있다. 하지만, 개인적으로는 과연 인공지능이 인간적인 것을 어떻게 정의하고 학습하는지가 가장 궁금하다.

중국인의 방(Chinese room) AI 유형

한편 인공지능의 정의에는 이미 약한 인공지능(weak AI)과 강한 인공지능(strong AI)의 개념이 일반적으로 통용되고 있다. 이러한 개념 구분은 John Searle의 ‘중국인의 방(Chinese room)’의 비유에서 비롯되었다. 중국인의 방이라니, 존셜의 문헌을 찾으면서 해석하기가 쉽지는 않았지만, 내용을 요약하면 이렇다.

중국인의 방(하드웨어)에는 중국인이 아니라, 영어만 할 줄 아는 사람(소프트웨어)이 들어가 있다. 그 방에는 미리 만들어진 질문과 질문에 대한 답변 목록(데이터 세트)이 준비되어 있고, 외부에서 중국인 심사관이 중국어로 질문(입력, Input)을 넣으면 방안에 영어만 할 줄 아는 사람은 준비된 목록에 따른 중국어 답변(출력, Output)을 심사관에게 준다. 그 결과 밖에서 심사관은 방 안에 있는 사람을 중국인으로 판단하게 된다는 것이다. 이에 따르면 인공지능은 실제 인간의 마음이 없지만, 학습을 통해 마치 마음이 있는 것처럼 반응할 수 있기에 마음(mind)이 있는 존재로 보일 뿐이라는 것이다. 그의 관점에서 ‘강한’ 인공지능은 인공지능이 인간의 마음이 있는 것처럼 행위 하는 것일 뿐이고, 이로써 약한 의미의 ‘약한’ 인공지능과 구분된다고 한다.

사실 중국인의 방에 대한 이야기는 여전히 불편하다."계산 기계와 지능"이라는 1950년 인공지능의 최초 연구자라고 알려진 영국의 수학자 앨런 튜링의 논문에 언급된 튜링테스트도 마찬가지이다. 기계와 사람이 대화하는 방과 격리된 심사관이 그들의 텍스트만 관찰해서 누가 사람인지 구별한다면 인공지능이 아니고, 구별을 못한다면 인공지능이라고 하는데, 지금와서 보면 인공지능은 그럼 스캐터랩의 "이루다"의 일정 모델 이상이면 가능할 법하다.

중국인의 방도, 튜링테스트도 인공지능과 사람을 구분하는 하나의 기준으로서 제안될 뿐, 이제 시간이 지나 인공지능이란 녀석이 세상에 머리를 빼꼼히 내밀고 있어서 그 형체를 알아보니 썩 정확한 개념은 아니었던 것이다. 다만 인간의 생각, 마음, 지능에 대한 지루한 논쟁은 하지말고, 일단 향상된 기계를 만들어보고자 했던 인공지능의 선구자들의 노력으로 받아들일 수 있다.

어쨌거나, 인공지능의 정의는 다양한 방식과 관점에서 접근될 수 있었고, 인공지능은 “인간의 종합적이고 총체적인 지능에 기반한 능력을 모사하는, 다양한 접근방식으로서의 결과물 또는 연구”라고 보는 것이 적당해 보인다.

구분되는 개념

알고리즘

인공지능을 실행하는 요소 중에 알고리즘(algorithm)은 “어떤 문제를 해결하기 위해 명확히 정의된 유한개의 규칙 또는 절차의 모임” 또는 “명확히 정의된 한정된 개수의 규제 또는 명령의 집합, 한정된 규칙을 적용해 문제를 해결하는 것”으로 정의된다. 알고리즘의 용어는 인공지능 알고리즘과 혼용해서 쓰이기도 하는데, 양자의 개념상 차이가 명확히 보이지는 않는다. 인공지능을 실행한다는 측면에서 알고리즘은 “컴퓨터에게 과제를 해결하는 방법에 대한 코드화된 지침을 제공하는 체계”로 이해되며. 알고리즘이 없는 인공지능은 없다고도 할 만큼 인공지능에서 알고리즘은 중요한 역할을 한다. 인공지능에서 알고리즘은 우선순위화(prioritizing), 분류(classfication), 연관지음(association), 필터링(filtering)의 과정을 거쳐 의사결정에 이르고, 동시에 인공지능으로 인한 위험과 그 통제에 있어서 결정적인 역할을 할 수 있는 도구이기도 하다. 과정 자체로는 굉장히 머리를 끄덕이게 만드는 프로세스라고 할까.

한편 이 글은 인공지능 알고리즘의 의사결정에 관하여 문제의식을 두었기 때문에 논의 전개의 편의상 인공지능에 활용되는 알고리즘을 두 경우로 구분했다.

첫째, 디지털플랫폼사업자가 서비스의 노출에 사용하는 ‘검색 알고리즘’이다. 디지털플랫폼상 모든 콘텐츠는 인터넷 공간에서 수집된 정보에 기반하여 논리(logic)체계를 갖고 있으며, 알고리즘은 소위 디지털 플랫폼에서 게이트키퍼(gatekeeper)의 역할을 하게 된다. 오늘날 검색 알고리즘은 인공지능이 적용되면서 개인적 맞춤형 서비스를 제공하는 데 활용되고 있다.

둘째, 이용자 혹은 소비자의 지위에 있는 개인과 관련된 중요한 결정을 위임받아 실행하는 ‘결정 알고리즘’이다. 소위 알고리즘 결정론(algorithmic de-terminism)의 의미에서 지칭되는 알고리즘이다. 결정 알고리즘은 프로파일링에 기반하여 개인의 의사결정을 위임받아 수행하는 인공지능의 의사결정 체계를 뜻한다. 인간의 각종 의사결정을 대신하는 경우로 상정할 수 있을 것이다. 결정 알고리즘이야말로 이 글의 문제의식인 인공지능 의사결정의 위험과 직결된다.

빅데이터

빅데이터는 인공지능의 성능을 결정하는 중요한 요소이다. 예를 들어 2016년 3월에 이세돌과 알파고(AlphaGo)의 첫 바둑 대결에서 알파고가 이세돌에게 승리할 수 있었던 것은 알고리즘이 그간 수집된 바둑대전에 관한 빅데이터를 잘 활용해 악의 수를 피해 이세돌의 수를 예측할 수 있었던 것에 있다. 잘 알려진 빅데이터의 개념은 매킨지에 의해 제안되었으며, 일반적으로는 기존의 관리 및 분석 체계로는 감당할 수 없을 정도의 거대한 데이터의 집합을 뜻한다. 매켄지의 정의와 달리, IDC는 빅데이터에 대하여 “다양한 종류의 대규모 데이터로부터 적은 비용으로 가치를 창출하는 초고속으로 수집하고 발굴하며, 분석할 수 있도록 고안된 차세대의 기술 혹은 아키텍처”라고 한다.

한편 빅데이터는 다음의 특성을 갖는다. 첫째, 데이터의 규모(volume)이다. 이는 빅데이터가 수집되어 분석되는 크기를 의미한다. 빅데이터는 목적에 따라 다양한 방법을 통해 활용될 수 있는데, Google(Google)의 독감현황서비스는 과거의 데이터 분석을 기반으로 독감 발생을 예상할 수도 있다. 둘째, 다양성(variety)이다. 빅데이터는 데이터의 규모뿐만 아닌 다양한 유형의 데이터 자원을 활용하는 것이 중요하다. 빅데이터가 활용하는 데이터는 SNS와 IoT를 통해 수집된 실시간 생성되는 텍스트와 이미지, GPS 정보, 사진, 동영상 등에 이르며, 정형·비정형적인 정보를 모두 포함한다. IBM 왓슨이 비정형데이터인 자연어를 이해하고 질문에 답변하는 것은 인공지능에 빅데이터가 활용된 사례이다. 셋째, 빅데이터의 처리 속도(velocity)이다. 많은 양의 데이터를 신속하게 처리하는 것을 뜻한다. 2012년에 IT분야의 리서치 기업인 가트너는 “빅데이터는 대용량, 고속 및 매우 다양한 정보자산으로 강화된 의사결정, 통찰력의 발견 및 공정 최적화를 위해서 새로운 형태의 처리가 필요한 것”이라고 빅데이터를 재정의 했다. 한편 개인정보 보호 및 프라이버시의 자문기관인 유럽연합 제29조 작업반의 정의에 따르면, 빅데이터는 “가용정보와 자동화된 정보처리의 기하급수적인 성장”으로도 이해할 수 있다.

이러한 정의들로부터 빅데이터는 여전히 불확실하고 광범위한 용어라고 할 수 있지만, 인공지능이 신뢰성 있는 빅데이터를 활용해 인간에게 의미 있는 솔루션을 제공하도록 돕는다.

참고문헌

Daniel·Crevier, AI: the tumultuous history of the search for artificial intelligence, Basic Books(1993), 48–50.

Stuart Russel·Peter Norvig, Artificial Intelligence – A Modern Approach - (3rd Edition), Pearson(2010), 1-6.

John Searle, “Minds, brains, and programs,” Behavioral and Brain Science, Vol.3/3(1980), 417-425.

Marvin Minsky, Semantic Information Processing, MIT Press(1968), V.

Lee Rainie·Janna Anderson, Code-Dependent: Pros and Cons of the Algorithm Age, Pew Research Center(Feb. 8, 2017).

Nicholas Diakopoulos, “Accountability in algorithmic decision making”, Communications of ACM Vol.59/2(2016), 57-58.

Gideon Mann & Cathy O’Neil, “Hiring Algorithms Are Not Neutral”, Harvard. Business Review(2016), 2-4.

McKinsey Global Institute, “Big data: The next frontier for innovation, competition, and productivity” (June. 2011), https://www.mckinsey.com/business-functions/digital-mckinsey/our-insights/big-data -the-next-frontier-for-innovation

Mark A. Beyer‧Douglas, Laney, “ The Importance of 'Big Data': A Definition", Gartner (2012).

유성민,“빅데이터가 인공지능에 미친 영향”,「한국정보기술학회지」제14권 제1호, 한국정보기술학회(2016), 32.