인공지능이 할 수 있는 것, 할 수 없는 것
독서노트
강국진, 인공지능이 할 수 있는 것, 할 수 없는 것, 필로소픽, 2023.
올바른 질문은 ‘우리가 AI와 함께 무엇을 할 수 있는가’이다.
<리뷰>
한마디로 이 책은 인공지능에 대한 인문학적인 접근으로 쓰인 책으로 생각된다. 기술적인 부분은 덜어내고 텍스트 만으로 인공지능의 역사와 미래를 그리며 생각을 하게 하는 철학적인 책이다. 부제인 ‘AI시대에 인간의 의미 찾기’에 잘 맞는 내용으로 정리되어 있다. 저자는 물리학으로 시작하여 인공지능과 뇌과학을 공부한 전문가다. 일반인도 쉽게 이해할 수 있는 언어로 표현하는 능력이 뛰어나다. 내공이 느껴진다.
특히 비유와 사례를 통해 설명해서 그런지 한결 이해하기 쉽다. 예를 들어, “도구를 사용할 수 있는 AI는 연결을 통해 자신의 능력을 증가시킬 수 있다. 이건 마치 소가 트랙터 운전법을 배워서 밭을 가는 상황과 같다.”, “우리의 교육은 이미 과학의 시대가 왔는데도 종교기관이나 서당에서 낡은 학문을 배우는 꼴이 되어버릴 수 있다.”
이 책을 우연히 도서관 신간코너에서 발견하고 읽기 시작했다. 인공지능, 특히 챗GPT를 중심으로 전개된 생성형 AI가 전 세계를 인공지능의 광풍으로 몰아가고 있는 시대다. 인공지능의 시대에 인공지능에 대해 다른 시각, 다른 접근으로 생각의 범위를 넓힐 수 있겠다는 생각으로 정독을 했다. 여러 곳에서 몇 번을 다시 읽을 만큼 깊이 빠져들었다.
저자는 인공지능을 기호주의 인공지능과 기계학습 인공지능으로 구분하고 AI를 기계학습 인공지능으로 설명한다. 그리고 AI 시대 이전에 도구를 사용하는 인간을 ‘사이보그 1’로, 도구를 사용하는 도구인 AI까지 도구로 사용하는 인간을 ‘사이보그 2’로 구분하고 있다. 사이보그 1로 남을 것인가 아니면 사이보그 2로 업그레이드할 것인가?
인공지능 시대를 살아가는 한 가지 태도는 다름 아닌 왜를 멈추고 직관을 존중하는 것이라고 한다. 일견 현명한 방법이라고 생각된다. 그동안 나는 왜에 집착한 측면이 있었다. 인공지능에 대해 그 원리를 파고들어 왜 그런지 알고자 했었다. 저자는 “왜 그렇게 작동하는지까지 이해할 시간은 대개 없고, 있다 해도 어차피 완벽하게 이해하지 못할 가능성이 크다.”라고 한다. 맞는 말이다. 비전문가이고 그 분야에 대한 기초지식이 없는 내가 그 원리를 이해하려고 하니 곧 한계에 도달했던 것이다. 이런 경험을 여러 번 했음에도 깨닫지 못한 사실을 이 인용문구를 보며 이제 더 이상 왜 그렇게 작동하는지까지 이해하지 않아도 된다는 생각을 했다. 연결하고 신뢰하며 확률을 따지는 정도로 대응하면 된다.
이 책을 통해 내린 결론은 결국 최종 판단은 인간인 내가 한다는 것이다. 즉, 데이터를 이용한다 해도 최종 결정은 직관에 따라 한다. 빅데이터와 인공지능을 활용한 도구인 내비게이션으로 길 안내를 받지만 자동차의 핸들을 움직이는 것은 결국 나 자신이다. 내 의지로 도구를 활용하고 있다는 자각을 통해 내가 주체라는 생각을 한다. "AI는 보통 사람들을 해방시킬 잠재력을 가진 기술이다."라고 저자는 주장한다. 보통 사람인 나는 AI라는 도구를 잘 사용하여 사이보그 2의 삶을 앞서서 살아가리라.
<기억하고 싶은 문장>
p.8. 사람들은 주로 인공지능이 미래에 가져올 외적인 변화에 주목하지만, 사람들이 지닌 생각의 변화는 그 이상으로 중요하다. 결국 미래를 결정하는 것은 사람들의 선택과 욕망이기 때문이다.
p.20. 우리는 인공지능을 한 대의 기계라기보다는, 문제를 해결하는 완전히 새로운 접근법이라고 여겨야 한다. 그러니까 어떤 문제가 있을 때, 그 문제는 이런 순서로 풀면 된다는 처방전인 것이다. 우리는 이를 ‘인공지능 패러다임’이라고 부르고자 한다.
p.34. 우리가 인공지능 패러다임을 이해하는 만큼만, 미래는 우리에게 올 것이다.
p.37. 인공지능 분야에는 인공지능을 구현하기 위한 확연히 다른 두 가지 방식이 있었다. 하나는 ‘기호주의’ 혹은 ‘규칙 기반’의 접근법이고, 다른 하나는 ‘연결주의’ 혹은 ‘기계학습’ 접근법이다.
p.37. 기호주의 인공지능은 인간이 만든 기호와 규칙을 사용하며, 그중에서 규칙은 인공지능 개발자가 아니라 각 분야의 전문가에 의해 만들어진다.
p.40. 인간이 개발한 도구 중 하나인 문자는 새로운 문제 해결 능력을 만들어냈다. 나는 바로 이것을 오래된 인공지능(문자로 기록된 지식)이라고 부른다.
p.59. 우리는 이미 사이보그다. 인간 지능은 컴퓨터가 등장하기 전부터 이미 인공적인 지능이었다. 좀 더 정확히 말하면 타고난 지능과 인공적으로 만들어진 지능의 하이브리드 시스템이었다.
p.63. 오늘날 인공지능 분야의 주류를 이루는 기계학습은 기호주의 접근 방식과는 전혀 다르다.~ 즉 진정한 인공지능 패러다임이 만드는 새로운 지능이 주입된 인간을 상상할 수 있다. 그 인간은 외적으로나 내적으로나 지금과는 매우 달라서 ‘사이보그 2’라고 불러야 할 것이다. 사이보그 2가 출현하게 되는 이유는 사이보그 1이 풀지 못하는 문제가 누적되었기 때문이다.
p.66. ‘기계학습’은 인간이 규칙을 제공하지 않고, 기계가 스스로 주어진 데이터 안에 존재하는 규칙성을 찾아내어 새로운 상황에 대처하게 만들고자 한다.
p.72. AI(기계학습 인공지능)는 모두 한 가지 가정 내지 전제조건을 갖는다. AI가 데이터를 통해 그 안에 담긴 규칙을 학습한다.
p.74. AI의 목적은 답을 내놓는 것이기에, 언제나 답을 내놓을 것이다. 그러면 과거의 데이터를 기반으로 예측한 미래가 언제나 옳지는 않는데도, AI라는 복잡해 보이는 시스템이 주는 답이라는 이유만으로 우리는 그 답을 지나치게 믿기 쉽다.
p.74. 나심 탈레브는 그의 책 <블랙 스완>에서 우리의 삶과 우리가 살고 있는 이 세계는 이따금씩 일어나는 놀라운 사건들로 인해 크게 바뀌기 때문에, 과거의 데이터를 기반으로 미래를 예측하는 일은 종종 불가능하다고 설득력 있게 주장한다.
p.86. ‘박스 밖의 생각’이라는 표현이 있다. AI는 데이터에 의존하기 때문에 ‘박스 안의 생각’에 갇혀 있다. 우리가 경계를 잘 설정하고 게임의 목적을 잘 설명하면, 인공지능은 데이터에 근거해서 우리에게 어떤 답을 줄 것이다. 그 박스가 그리 크지 않고 데이터가 풍부하다면, 인공지능의 답은 인간의 답을 능가할 수도 있다. 그리고 그 박스의 경계를 언제 어디에 놓아야 하는가를 결정하는 것은 여전히 사람이다.
p.88. 결국 인간의 타고난 한계를 극복하기 위해서, 우리는 수학이나 AI 같은 도구를 이용해야 한다.
p.88. AI가 인간의 직관적 능력을 모두 배우고 대체할 수는 없다. 그와 관련된 데이터가 없거나 드물기 때문이다.
p.88. 인간의 삶은 직관에 크게 의존한다.
p.91. AI에게 누군가와 결혼을 할지 말지 물어보는 일은 지금이나 미래에나 바보짓일 것이다. 그건 여전히 개인적 판단으로서, 인간인 당신의 직관에 달려 있다.
p.92. 데이터가 없어서 AI가 배울 수 없는 일의 또 다른 예는 사회적 협동이다.
p.93. 인간의 사회적 협동은 태어난 이후의 경험뿐만 아니라, 유전 정보로부터도 영향을 받는다. 그러므로 AI가 인간의 협동을 배우려면, 진화적 시간 단위의 경험까지 필요하다.
p.93. 기호주의 인공지능이 인간 지능을 재현할 수 있다는 생각이 오만이듯 미래에는 인간이 끌어 모은 데이터가 인간 자체를 대체할 수 있으리라는 생각도 오만이다. 사실 AI 패러다임에서 무엇이 무엇을 대체하는가는 핵심이 아니다. 핵심은 서로 연결되어 서로를 이용하는 것이다. AI는 대단한 잠재력을 지니고 있지만, 인간을 대체하는 것이 목적이 아니다.
p.98. 오픈 AI의 챗GPT-3.5는 1750억 개의 변수를 가진다고 한다. 이것은 엄청난 수이지만, 한 인간의 뇌 속에 있는 신경세포들 간의 연결은 100조 개에 달한다.
p.129. AI 패러다임은 입력값과 출력값 사이의 관계를 결정하는 변수들을 가진 학습 모델을 사용한다. AI는 이 변수들의 값을 바꾸는 최적화 과정을 통해서 제3의 지식에 도달한다. 나는 이미 여러 차례 AI도 모든 걸 혼자 하는 건 아니라고 강조해 왔다.
p.150. ‘호모 파베르(Homo Faber)’, 즉 ‘도구의 인간’은 도구를 사용해서 운명과 환경을 개척하는 인간을 뜻한다.
p.153. 도구를 사용할 수 있는 AI는 연결을 통해 자신의 능력을 증가시킬 수 있다. 이건 마치 소가 트랙터 운전법을 배워서 밭을 가는 상황과 같다.
p.156. AI 시대 이전에 도구를 사용하던 인간이 ‘사이보그 1’이라면, AI까지 도구로 사용하는 인간은 전혀 새로운 종류의 인간, 즉 ‘사이보그 2’라고 불러야 할 것이다. AI는 이제까지 와는 전혀 다른 도구, 즉 도구를 사용하는 도구이기 때문이다.
p.170. 만약 우리가 AI 시대를 눈앞에 두고 있다면, 미래 교육은 AI 패러다임을 배우는 일이 되어야 할 것이다. 이 점을 이해하고 믿어야 그 시대에 맞게 살 수 있다. 그러지 못할 때 우리의 교육은 이미 과학의 시대가 왔는데도 종교기관이나 서당에서 낡은 학문을 배우는 꼴이 되어버릴 수 있다. 쓸 일 없는 지식을 오래 배우는 동안에, 오히려 시대와 맞지 않는 사람이 되어버릴 수도 있다.
p.174. 인공지능 시대에 우리가 취할 수밖에 없는 한 가지 태도가 있다. 그건 바로 ‘왜’라고 묻기, 이론 세우기를 자제하는 것이다. 세상을 단순하게 살고, 정해진 시간 동안 데이터를 얻었다면 최종적으로는 본인의 직관을 존중하는 것이다.
p.176. 각각의 도구는 자신의 역할을 해내기만 하면 그만이다. 왜 그렇게 작동하는지까지 이해할 시간은 대개 없고, 있다 해도 어차피 완벽하게 이해하지 못할 가능성이 크다. 중요한 것은 연결이고, 신뢰이며, 확률이다. 이유를 모르기 때문에 우리는 확률을 따져야 한다.
p.177. 하나의 틀에 너무 익숙해진 사람들이 그 틀에서 나오기를 거부하고, 세상을 쫓아가지 못하게 된다. 새로운 틀은 너무 복잡해서 익히기가 점점 더 어려워진다.
p.181. AI는 보통 사람들을 해방시킬 잠재력을 가진 기술이다.
p.200. 기호주의 인공지능이 인간 지능을 재현할 수 있다는 생각이 오만이듯, 미래에 인간이 끌어모은 데이터를 이용해 인간 자체를 대체할 AI를 만들어낼 수 있으리라는 생각도 오만이다. 인간은 기나긴 생명 진화 과정의 결과물이다.
p.200. ‘AI가 인간을 능가할 것인가’에 집중하면, AI를 과대평가하거나 과소평가하기 쉽다. 올바른 질문은 ‘우리가 AI와 함께 무엇을 할 수 있는가’이다.
p.201. 인간은 이미 사이보그이며, 만들어지는 존재인 것이다. 우리가 어머니의 뱃속에서 나올 때부터 인간적인 지능을 갖춰서 나오는 게 아니다.
<함께 읽으면 좋은 문헌>
제리 카플란, 인공지능의 미래, 한스미디어, 2016.
