딥러닝, 머신러닝은 여전히 연상화 단계에 머물러있다
<The Book of Why> (2) 인과관계의 사다리
인과관계의 사다리 중 첫 번째 가장 낮은 위치에 존재하는 것이 바로 관념화, 연상화 단계이다. 인간의 세 단계 인지적 능력의 첫 번째 보고 관찰하는 것에 해당되는 부분이 바로 관념화와 연상화 단계이다. 이 단계에서 우리는 관찰을 통해 규칙적인 패턴을 발견하려고 한다. “Association, we are looking for regularities in observation"(책 데이터를 정리하고 일종의 패턴을 발견한 것과 같이)” “one event is associated with another if observing one changes the likelihood of observing the other” 하나의 사건이 다른 사건이 변화될 가능성을 보여준다면 우리는 그 두 사건이 연관되어 있다고 볼 수 있다. 연상화 단계는 수동적인 관찰에 기초한 예측을 요구한다.
이를테면 이런 질문을 할 수 있다. “내가 이것을 관찰할 때, 어떤 일이 일어나지?” “How customer who bought toothpaste to also buy dental floss?” "치약을 산고객이 치실을 살 가능성이 높을까?” 이러한 질문은 통계학에서 다루어지는 가장 기본적인 일이며 데이터를 수집하고 분석하면서 가장 먼저 그리고 우선적으로 대답하게 될 질문들이다. “조건적 확률”이라고도 말하는 이 비율은 “치약” 과 “치실” 사이의 연관 정도를 측정한다. 통계학자들은 오랫동안 공들여서 많은 양의 데이터를 줄이고 변수들 간의 상관관계를 연구하는데 노력해왔다. “연관성, 상관관계” 혹은 “회귀”등이 대표적으로 이러한 연관관계를 측정하는 도구들이다. 하지만 중요한 것은 통계만으로는 어떤 것이 원인이고 어떤 것이 결과인지 설명할 수 없다는 것이다. 좋은 예측은 좋은 설명을 할 필요가 없다고 저자는 말한다.
중요한 것은 머신러닝이나 딥러닝의 수준이 여전히 연상화 단계에 머물러 있다고 저자는 말한다. 딥러닝은 발전해왔지만 그럼에도 불구하고 매우 어려운 문제나 일을 해결하는 것 같아 보여도 그렇지 않다는 게 그의 설명이다. 아직도 인간 수준의 지능을 통해 답할 수 있는 질문에 대응하는 것은 불가능하다고 말한다. Adnan Darwiche 교수가 최근 쓴 페이퍼 “Human-Level Intelligence or Animal Like Abilities”가 바로 머신러닝이나 인공지능의 현 위치를 설명해 준다고 말한다. 인간 레벨의 지능이 아닌 동물 수준의 능력이라고 말이다. 강력한 인공지능의 목표는 바로 인간과 비슷한 지능을 갖게 함으로써 인간과 대화를 나누고 인류를 이끄는 것이라고 저자는 설명한다. 딥러닝은 기계에게 매우 인상적인 능력을 선사해주었지만 결과적으로 그것은 지능은 아니라고 말이다. 딥러닝으로 학습된 기계는 여전히 정확도를 높이기 위해 적합하게 설정된 수많은 데이터를 필요로 한다. 그렇다고 해서 이 결과가 인간의 조상이 했던 것처럼 super evolutionarly speedup 혁명적으로 지능적 진화를 가져오는 것은 아니라고 설명한다. “This lack of flexibility and adaptability is inevitable in any system that works at the first level of the Lader of Causation” 저자는 머신러닝이나 딥러닝으로 학습된 인공지능 기계가 갖고 있는 유연성과 적응성의 결여는 인과관계의 첫 번째 단계에서 작동하는 어떤 시스템에서도 불가피한 일이라고 말한다.
인과관계 사다리에서 두 번째 위치해 있는 인지적 능력, 즉 행동과 조정 (intervention) 이 바로 세상을 바꾸게 한 혁신의 근원이라고 저자는 설명한다. 이 단계에서 우리는 보통 “What will happen to our floss sales if we double the price of toothpaste?” 와 같은 질문을 한다. X를 한다면 어떤 일이 일어날까? 이런 행동을 할 때 어떤 결과가 나올까? 하면서 행동에 대한 구체적인 생각을 하기 시작한다는 거다. 이러한 질문에 답하기 위해서는 새로운 종류의 데이터가 아직 존재하지 않는 지식을 요구한다. 조정의 단계는 관찰하는 것에서 무언가를 변화하는 단계로 넘어가기 때문이다. 데이터가 주는 현실적 상황이 어떻든 조정의 단계에서는 의도적으로 어떤 결과를 이끌어내기 위한 행동을 수반한다. 이 단계에서는 새롭게 데이터를 수집해야 하는데 이때 우리는 어떤 데이터를 필요로 하는지에 대한 예측이 필요하다. 그리고 어떻 행동을 통해서 그것을 알 수 있는지를 질문한다. 바로 이런 질문에 인과관계 과학이 대답할 수 있게 해 준다.
저자는 실리콘 밸리조차 알지 못하는 것이 하나 있는데 그것은 바로 어떤 행동을 하는 것의 효과를 성공적인 예측은 실험 없이도 행해질 수 있다는 것이다. 실험하지 않아도 인지능력으로 우리는 성공을 예측할 수 있다는 말이다. 충분하고 강력하며 정확한 인과관계 모델은 연상화 단계를 통하여 조정 단계의 질문에 답할 수 있다. 인과관계 모델이 없다면 우리는 첫 번째 단계에서 두 번째 단계로 갈 수 없고, 이 때문에 딥러닝 시스템은 절대 이 조정의 영역의 질문에 대답할 수 없다는 것이다. 즉 의도적 행동에 관련된 하지만 아직 행동하지 않아서 데이터가 수집되지 않는 영역의 질문에 그 데이터가 없는 상태의 머신은 절대 인과관계 모델을 스스로 세움으로써 대답할 수 없다는 이야기다. 이게 바로 딥러닝이나 머신러닝을 통해서 학습된 기계가 첫 번째 단계에 머물러 있고 두 번째 단계로 올라가지 못하는 이유이다.
조정의 단계에서 또한 중요하게 질문하는 것이 있다면 바로 어떻게? How?, “what if we do?” 우리가 이렇게 한다면 어떤 결과가 나올까? 에 대한 것이다. 우리는 이런 조정의 단계를 일상에서 매일매일 수행하고 있다. 그러 이러한 어려운 단어들로 설명하지 않을 뿐이다. 예를 들면, 머리가 아픈데 아스피린을 먹으면 좀 나아질까? 하는 질문들을 통해서 말이다. 논리적으로 추론을 하는 것이 개입의 단계에서 중요한 부분이기는 하지만 여전히 “왜?”에 대한 질문에 대한 답은 주지 않는다. 아스피린을 먹었을 때 두통이 해소되었다고 해서 아스피린 때문에 두통이 해소되었다고 말하기에는 여전히 다른 요인들이 존재할 수 있다는 것이다. 이러한 “왜?”와 같은 원인에 대한 이유를 설명하기 위해서는 우리는 인지 능력의 세 번째 단계인 상상하기 단계, 좀 더 전문적인 언어로 counterfuatual level 조건법적인 서술 단계로 넘어가야 한다. 이 단계로 올라가기 위해서 우리는 반드시 역사를 거스르는 생각을 해야 한다. “그 당시, 이렇게 했더라면 결과가 달랐을까?”와 같은 질문 말이다. 만약 내가 아스피린을 먹지 않았다면 어떤 결과가 있을까? 와 같은 질문이 세 번째 레벨에 해당된다.
저자는 이 세상 어떤 실험도 실험하지 않은 실험에 결과와 실험한 결과를 비교할 수 없다고 말한다. 그렇기 때문에 우리는 새로운 종류의 지식을 가져와야만 한다고 말이다. 그렇다면 새로운 종류의 지식이란 무엇을 의미하는 걸까? 그건 바로 조건법 적인 사고, 즉 상상력이다. 사실에 반대되는 조건을 서술함으로써 존재하는 반사실적 접근 방법은 그 자체만으로도 사실적인 것을 의미하는 데이터에 반대된다. 반사실적 조건, 즉 상상하는 것 자체는 절대 데이터로서 증명할 수 없다. 인간은 매일매일 다양한 상상을 하며 추론하고 생각한다. 하지만 사실적인 데이터에만 의존하고 있는 기계는 절대 반 사실적인 일을 해낼 수 없다.
반사실적인 조건적 상상을 함으로써 우리는 현실세계와 가상세계를 비교할 수 있다. 그리고 인과관계적 모델을 통해서 상상의 세계에서 펼치는 질문에 대답하는 것이 우리에게 주는 리워드는 엄청 크다고 저자는 설명한다. 그런 리워드에는:
“Why a blunder occurred allows us to take the right corrective measures in the future” 문제가 생긴 것에 대해서 우리는 미래에 올바른 방식으로 조치를 취해 해결할 수 있다.
“Finding out why a treatment worked on some people and not on others can lead to a new cure for a disease” 왜 어떤 치료가 어떤 사람들에게는 효과가 있고 다른 사람들에게는 효과가 없는지를 알아내어 질병의 새로운 치료법으로 이어질 수 있다.
"Learn from history and the experience of others, something that no other species appears to do” 역사로부터 또 다른 사람들의 경험으로부터 배울 수 있다. 이러한 배움은 이 세상 어떤 종도 그렇게 하지 못했던 것이다.
반사실적인 상상이 인과관계의 사다리에서 가장 윗부분에 위치하는 것은 인간의 의식의 진화를 설명하는 것이다. 즉, 인간의 의식이 급격하게 진화된 것은 바로 상상을 하기 시작한 그 순간부터라는 것이다. 유발 하라리가 사피언스에서 묘사한 것처럼, 상상하는 존재는 새로운 능력의 출현을 의미할 뿐만 아니라 그것은 인지적 혁명이라고 부를 수 있다.
상상을 함으로써 우리가 얻을 수 있는 이점은 바로 인과관계의 첫 번째 단계에서 결여되었던 부분, 유연성과 적응성이 있다는 것이다. 유연한 사고와 과거의 행동으로 하여금 성찰하고 보다 나은 행동을 할 수 있게 하는 능력은 이러한 인지적 능력을 가진 인간에게 주어진 커다란 장점이다. 뿐만 아니라 이러한 능력은 우리가 과거의 행동과 현재의 행동에 대해 책임을 지려하는 의지를 만들었다는 데에서 아주 현저한 이점으로 나타날 수 있다.
