복잡도에 대한 몰이해 그리고 사람의 본질
내 삶을 차리는 독서의 시작
<사람보다 똑똑한 인공지능을 위한 기술>에 이어 2부 <사람보다 똑똑한 인공지능을 위한 기술> 중에서 <인공지능 도전의 역사>를 읽고 밑줄 친 내용을 토대로 생각을 담습니다.
복잡도에 대한 몰이해 그리고 사람의 본질
과학의 역사를 떠오르게 하는 인용문입니다.
실세계의 많은 문제가 기하급수적인 복잡도를 갖는다는 것을 발견했다. 따라서 작은 문제에서의 성공이 실세계 문제로 확장될 수 없음을 실감했다.
시스템 구축에 있어서도 인지적 한계 때문에 분할 정복Divide and Conquer 하지만 동시에 항상 통합Integration을 고려해야 하는 딜레마가 있습니다. 하지만, 인류가 밝힌 과학의 총합 그중에서 물리학만 보아도 세상을 보는 관점이 이미 일반 상대성 이론과 양자 역학 두 개로 나눠져 있고 이를 통합하지는 못하고 있습니다. 그와 같은 이치로 볼 수도 있고, 하위 분야인 컴퓨터 공학으로 두고 보아도 마찬가지로 생각할 수 있지 않을까 싶습니다.
희망에 차서 꿈을 꾸고 도전하지만 현실의 벽에 부딪히는 일은 모든 분야에서 당연하게도 벌어지는 일인가 봅니다.
과장된 목표와 초라한 성과는 인공지능 연구의 겨울을 불러왔다.
<생각이 살아서 여행을 멈추지 않도록 돕는 동반자다>를 쓰고 난 뒤라서 그런지 어쩌면 그것이 나를 살아 있게 만드는 힘이라고 믿어집니다.
나를 살아 있게 만드는 것은 무엇인가? 나를 기쁘고 설레게 하는 것은 무엇인가? 왜 그것이 나를 살아 있게 만드는가? 무엇이, 왜 나를 기쁘게 하는가?
그리고 생소했던 <한국사람에게 사람이란?> 내용이 점점 더 익숙해집니다.
한국말에서 사람은 ‘살다’, ‘살리다(살+리+다)’에 바탕을 두고 있는 말이다. 사람은 온갖 것이 가진 살리는 힘을 살려서 함께 어울려 살아가는 임자를 말한다.
끊임없이 방향을 바꿔가며 앞으로 나아가는 힘
다음 내용은 사업을 하며 배운 '시장을 이길 수는 없다'는 교훈을 내포한 느낌을 줍니다.
인공지능은 초기부터 기호적 처리를 쉽게 할 수 있는 LISP 언어를 많이 사용했다. 많은 인공지능 교과서들이 LISP 소개부터 시작한다. <중략>그러나 이들도 Unix와 C 언어를 기반으로 하는 범용 워크스테이션과의 경쟁에서 패배했다.
인공지능의 역사 자체는 저에게 관심사가 아닌 터라 그런 듯합니다. 대신에 '모든 일' 혹은 인공 지능 연구와 제가 해온 일에 보편적으로 적용할 수 있는 교훈에 집중하게 됩니다. 그렇게 보면 두 가지 생각을 말할 수 있습니다.
먼저 XP의 운전 메타포가 떠올랐습니다. 결과를 예측하려 드는 일은 경직성을 유발하고 복잡도에 대한 몰이해로 몰아갈 수 있습니다. 그래서, 점진적으로 과정을 지켜보며 결과를 추구하는 전략적 로드맵의 필요성입니다.
다음으로 당장 결과가 눈에 보이지 않아도 앞으로 나아갈 수 있는 열정이 떠올랐습니다. 그 게 열정이 아니라 루틴에 의한 것이거나 사명감에 따르는 것이라도 끊임없이 방향을 수정해서 앞으로 나아가려면 동력이 필요할 테니까요.
끊임없이 앞으로 나아간 인공지능 연구자들
'연결주의의 재부상'을 제목으로 하는 단락에서 밑줄 친 내용입니다.
1980년대 중반에 들어서 인공 신경망의 학습 알고리즘인 오류역전파 신경망 훈련 알고리즘이 재조명되었다. <중략>1990년대 광학 문자인식과 음성인식 등에서 인공 신경망 기법이 상업적으로 성공을 거두었으나 2010년 즈음 딥러닝이 나오기까지 활용 영역은 제한적이었다. 이 시기 학계의 인공지능 연구는 수학적 견고성 바탕으로 내실을 기하는 방향으로 성장했다.
그리고 오래전에 데이터 분석에 대해 살펴보며 알게 된 표현인 '베이지안Bayesian'이 등장해 반가웠습니다.
베이지안 네트워크 Bayesian Nework를 인과관계 모델링이 가능한 범용 도구로 발전시켰다.
자세한 내용을 알지 못하지만 확률과 연결주의가 이렇게 만난다는 사실을 짐작할 수 있었습니다.
그리고, 다음 다발말[1]을 볼 때는 컴퓨터 비전, 자연어 이해 따위를 독립적인 연구 영역으로 알고 있던 제 배경 지식을 깨닫게 됩니다.
1990년 이후 인공지능 연구계에 큰 변화가 있었다. 인공지능의 세부 영역이 독립적으로 성장하기 시작한 것이다. 상식추론 같은 인공지능의 본질을 규명하고자 하는 노력보다는 컴퓨터 비전, 패턴인식, 자연어 이해, 데이터 마이닝, 인공 신경망 등 세부 영역의 연구가 강화되었다. 이런 기술들은 상업적 가치를 창출하기가 상대적으로 쉬워 보였기 때문이었을 것이다.
더불어 박문호 박사님이 강조하신 '집합론적 사고'의 중요성도 잠시 떠올리게 됩니다.
이 시대 많은 연구자들은 의도적으로 자신의 연구 분야를 인공지능이라고 부르기를 꺼렸다. 5세대 컴퓨터 프로젝트의 실패로 인공지능이라는 이름은 허풍의 상징이었기 때문이다. 해마다 새로운 이름의 학술대회들이 만들어졌다.
연결주의의 재부상 그리고 다시 폭발하는 인공지능 연구
자본주의와 민주주의를 바탕으로 하는 인류의 보편 사고 기반을 생각하면 대중적인 입소문은 연구에도 중요한 동력인 듯합니다.
1997년 IBM의 딥블루는 세계 체스 챔피언을 이겼다. 딥블루의 성공은 새로운 방법론이 아니라 강력한 병렬 처리 컴퓨터의 능력 덕분이었다. 특수 제작된 병렬 컴퓨터를 이용하여 방대한 게임트리를 깊이 탐색함으로써 좋은 성과를 낼 수 있었다.
이야깃거리가 되어야 관심이 되고 투자로 받을 수 있으니까요.
1980년대 중반 오류역전파 훈련 알고리즘의 활성화 이후 조용하던 연결주의가 2012년 다시 큰일을 해냈다. 시각 기능으로 물체를 인식하는 경진대회에서 힌튼 교수 팀의 알렉스넷AlexNet이 놀라운 성과를 냈다. 다섯 층의 합성곱Convolution 단계로 구성된 알렉스넷은 개선된 오류역전파 학습 알고리즘인 딥러닝으로 이미지넷ImageNet의 수백만 장의 사진을 훈련했다. 이 성공에는 심층 신경망 구조와 딥러닝 학습 알고리즘의 발전도 있었지만 강력한 계산 능력의 GPU와 많은 데이터의 가용성이 큰 역할을 했다.
출처: https://stibee.com/api/v1.0/emails/share/OaRGx1YJ4NPVNb7tpj98RZ_yiKsu3zM이 성공은 딥러닝 확산의 기폭제였다. 산업 전반에서, 또 모든 학문의 영역에서 데이터 도구로 각광을 받는다. 모든 문제를 딥러닝 기법으로 해결하고자 도전하는 커다란 학파를 형성했다.
한편, 다음 내용을 보니 당시 제가 썼던 글이 떠올랐습니다.
2016년 3월 알파고가 이세돌 프로기사를 물리쳤다. 알파고의 승리는 인공지능 역사의 금자탑이다. 이 사건은 일반 대중에게 놀라움을 넘어서 큰 충격과 공포로 다가왔다. 전문가들도 인간을 능가하는 바둑 프로그램의 출현은 한참 뒤일 것이라고 예측했으나 그 예측을 뒤집었다.
지금 스스로 읽어도 부끄럽기보다는 흥미롭게 느껴집니다. :)
주석
[1] <한국말 말차림법>에서 제안한 단락에 대한 토박이 말입니다. 왜 다발말인지는 <언어에 대한 일반이론>에서 일부 답을 얻을 수 있습니다.
지난 내 삶을 차리는 독서의 시작 연재
(100회 이후 링크만 표시합니다.)
100. 모멘텀을 통해 연결을 만들어 성장하라
101. 인생의 전환점을 만드는 감정 활용법
102. 감정의 민첩성은 의미 있는 삶을 위한 훌륭한 친구이다
103. 한 방향으로 만드는 새로운 세상: 동료, 발견, 세상
105. 인간 대 AI: 나는 누구인가?
106. 감정의 민첩성을 얻기 위해 감정에서 한 걸음 비켜나기
107. 생각이 살아서 여행을 멈추지 않도록 돕는 동반자다
108. 감정의 민첩성을 얻어 자기 목적에 맞는 길을 걸어가기
109. 사람보다 똑똑한 인공지능을 위한 기술
110. 인공지능이 불러올 피할 수 없는 질문
111. 어떻게 감정의 덫에 걸리게 되는 걸까
