자신감이 넘치는 AI?
AI는 자만심을 가지고 실수를 하게 될까요?
우리는 '자신의 한계를 결정짓지 마라'라는 말을 가끔 듣습니다.
자신의 가능성을 믿고 도전하라는 참 좋은 말이죠.
그런데 그와 동시에 '너 자신을 알라'는 말도 중요하게 생각합니다.
만일 내가 나 자신을 안다면 나는 내 한계를 알고 있는 게 아닐까요? 그렇다면 한계를 결정짓는 것이기 때문에 잘못된 것일까요?
아주 잠시나마 교육계를 스쳐 지나간 단어 중에 '메타인지'라는 단어가 있습니다.
짧게 말하자면 자신이 현재 알고 있는 것의 '경계'를 명확하게 아는 것을 이야기합니다.
알고 있는 것을 알고 있다고 확실하게 알고 모르는 것은 모른다고 알고 있다는 것이죠. 그런데 이게 왜 중요하냐면, 적어도 메타인지가 있는 쪽이 우리가 흔히 알고 있는 '머리가 좋은 사람들'이라는 겁니다. 문제를 풀고 나서 본인의 점수를 오차 범위가 낮게 짐작할 수 있다는 것이죠. 꼭 시험만이 아니더라도 말입니다.
우리는 '더닝-크루거 효과'를 직간접적으로 알고 있습니다.
더닝 크루거 효과는 인지 편향의 하나로 학습 초기에는 자신의 지식에 비해서 능력을 과신하고 후기로 갈수록 자신의 능력에 대해 과소평가하거나 맞춰서 내려가게 되는 것을 이야기합니다. 우리말 속담의 '벼는 익을수록 고개를 숙인다'라는 말과 비슷하죠.
사고는 언제나 일어날 수 있지만 그 확률을 조정하는 건 사람이죠.운전을 해본 분들이 항상 하는 이야기가 있습니다. 운전을 배운 지 얼마 되지 않아서 한 2-3년 정도가 가장 위험하다고 말이죠. 그때쯤이 자기가 운전을 잘한다고 생각하게 되는 시점이라 꼭 사고가 난다고 말이죠. 이런 것도 더닝 크루거 효과의 일종으로 볼 수 있습니다. 위키를 검색하다 보면 자신들이 전문지식이 쌓여서 전문가가 되었다고 생각하는 경우도 이런 경우가 종종 있죠.
더닝 크루거 효과는 항상 발생하는 인지 편향은 아닙니다. 만일 우리가 배운 것의 범위와 배워야 할 것의 전체 범위를 알고 있다면 그런 현상이 발생할까요? 아마 그렇지는 않을 것입니다. 유명한 폰 노이만의 일화가 있죠. 폰 노이만에게 전체 수학의 범위에서 당신은 어느 정도 알고 있다고 생각하냐고 묻자 진지하게 상당한 시간을 들여 고민한 이후에 28%를 알고 있다고 대답했다고 합니다. 물론 우리한테 기대하는 메타인지는 이런 거 아닙니다. 그게 뭐야... 무서워...
인간은 상당히 불안정한 존재입니다.
가능성이 있다는 건 정확하게 결정되어있지 않은 부분이 많다는 것을 이야기하기도 합니다. 당장 내가 어떻게 될 것인지에 대해서 예측은 가능하지만 그게 꼭 들어맞지는 않는다는 것이죠. 그렇지만 그걸 좋을 대로 끌어다 해석해서는 안됩니다. 불안정한 것이 꼭 인간적인 것도 아니니까요.
사실 이 이야기의 시작은 'AI도 자신감이라는 것을 가질 수 있을까?'에서 시작되었습니다. AI가 자신의 능력을 '과소평가'한다거나 '과대평가'한다는 개념이 존재할까요?
뜬금없는 이야기처럼 들리겠지만 주변에서 AI글이면 어김없이 AI가 발전한 미래에 대한 걱정과 두려움을 가진 분들을 만나게 됩니다. 저도 AI와 4차 산업에 대해서 글을 쓰고 이야기를 하는 입장이지만, 사실 무서울 때가 많습니다. 그런데 그 무서움은 AI가 언젠가 인간을 지배한다거나 기계가 인간을 대체하는 시대가 오는 것에 대한 두려움이 아닙니다. 인간이 욕망과 자신감으로 과대포장하는 것에 대한 두려움입니다.
저 자신도 인간이고 특히 타인에게 글과 말을 전달하는 일을 자주 하다 보니 위의 더닝 크루거 효과와 같은 인지 편향이 있다고 가끔 느낍니다. 지금 이야기하는 4차 산업이나, 특히 AI의 심층적 기술로 들어가면 저는 아는 게 별로 없거든요. 그렇지만 이야기를 하다 보면 저의 이야기의 설득력을 위해서 너무 확정적으로 이야기하는 게 아닌가 하는 생각이 들 때도 있어요.
저도 SF와 환상문학 좋아하지만 그건 문화로서 좋아하는 겁니다.그런데 AI에 대한 공포나 4차 산업에 대한 환상을 저의 입장에서 솔직히 이야기하자면 더닝 크루거 효과에 의한 것도 아니고 과장된 '상업적 이야기'들의 산물입니다. 이게 영화나 소설 등을 통해서 '경각심'을 주는 의미라든지 '생각의 계기'를 주는 것은 상관없지만 아파트 전단 광고처럼 돌아다닐 일은 아니라는 겁니다. AI는 인간과 같아지거나 넘어서려면 아직도 너무도 많은 장애물이 남아있다는 것이죠. 아니 그게 가능한 일인지도 아직 확신이 없습니다.
인공 신경망에서 1조 개가 넘는 파라미터를 구현한 구글의 '스위치 트랜스포머'가 아무리 신경망을 모방하여 구상한다고 하더라도 과연 '인간'과 같아지는가의 의문인 것이죠. 인간의 모든 것이 기본적으로 백지상태이고 학습에 의해서만 이루어지고 있다면, 그리고 이 컴퓨터가 인간과 동일한 수준의 인지를 담당하는 센서를 가지고 있다고 가정한다고 해야 가정 상에서라도 가능한 일일 겁니다.
인간은 모든 사람이 유사한 신경망 구조와 비슷한 수준의 신체 센서를 가지고 학습을 하는데 비슷한 수준의 능력을 보이고 있나요? 그렇지도 않다는 것이죠. 이러한 인간의 불확정성은 컴퓨터가 구현하기 매우 어려운 부분입니다. 단지 패턴을 '딥러닝'해서 '모방'할 뿐이죠. 이는 흔히 소시오패스에 해당하는 사람들이 타인과 감정적으로 공감할 수 없지만 그들의 행동을 복사해서 연기하는 것과 비슷합니다. 그럼에도 우리가 소시오패스를 이상하게 느끼고 결국에 구분해 내는 것은 그것이 '행동 모방'에 불과할 뿐이라서 그런 거겠죠.
실제로 2020년 1750억 개의 파라미터를 가진 GPT-3로 시작된 인공신경망 경쟁은 진짜로 '튜링 테스트'라고 불리는 '인간과 구별할 수 없는 대화가 가능한가?'를 통과할 가능성을 보여주는 것처럼 나름대로 매끄러운 대화를 보여주었지만, 그 한계 역시 보여주었습니다. 심지어 이것이 단지 프로그램 상 '대화' 즉 언어적 부분에만 국한된 부분이라는 것을 생각해 보았을 때, 표정, 몸짓, 행동, 습성 등을 전체적으로 튜링 테스트를 통과하게 하려면 얼마나 걸릴지 알 수 없다는 것이죠. 위에 말씀드린 구글의 인공신경망조차도 10배 가까이 신경망을 늘렸지만 아직 GPT-3에서 발생한 문제점을 다 해결하지 못했으니까요.
스마트폰을 상상이야 했겠지만 이 정도일 줄은...노파심으로 말씀드리자면 지금 과학의 눈부신 발전을 디스 하려는 의도가 아닙니다. 정말 우리가 상상할 수 없을 만큼 기술들은 빠르게 발전하고 있고 그 속도가 너무 빨라서 현기증이 날 정도입니다. 극단적으로 스마트폰만 보더라도 우리의 삶은 불과 10여 년 사이에 너무도 많은 게 바뀌었죠. 작은 칩에 모든 것을 집어넣는 원 하우징 방식은 폰 노이만 구조의 근간을 흔들지는 않았다 하더라도 우리에게 말만 안 했을 뿐이지 더 분할되고 다양한 AI를 이미 사용하게 만들었습니다. 그런 기술발전의 대단함과 너무 빠르다 싶을 정도의 발전 속도가 있음에도 그걸 과대 포장하여 팔아야 하는 것인가에 대한 이야기를 하는 것입니다.
AI는 '특정 분야'에서 두각을 나타내고 있습니다. 알파고가 바둑에서 보여주었던 것도 그렇고, 자율주행도 단지 주행만의 기능으로는 점점 완성도를 누적시켜가고 있죠. 뭐 제가 이전 딜레마 글에서 다루었던 가치 선택의 문제 같은 것을 스스로 판단하는 기능을 만들 수 없는 것은 여전히 단점이고, 그런 부분들이 인공 지능이 '정말로' 지능이라기보다 어떠한 특수 기능만을 일컫는 형태라는 것을 보여주는 겁니다.
우리는 '딥러닝'기술, 그리고 AI라고 불리는 '특수 목적 지향적 자체 학습 실행 시스템'을 너무 미래적인 시각으로 경외시 할 필요가 없습니다. 이러한 기술이 대단한 것은 사실이지만 아직은 그들이 제시하는 엄청난 미래와는 거리가 멉니다. 말 그대로 그건 먼 미래의 청사진인 것이죠. 블록체인과 메타버스가 꿈꾸고 제시하는 미래 역시 크게 다르지 않습니다. 지금 현재 그들이 보여줄 수 있는 기술들에 비해서 제시하는 것들이 너무 넘치는 '자신감'들로 가득 차 있습니다. 그리고 그 대부분의 이유는 그게 '돈'으로 바뀌기 때문이죠.
AI의 끝이 있을지는 모르겠지만 최소한 반환점이라도 존재한다면 그것은 완전한 '인간'을 만들어내는 일일 겁니다. 그런데 실제 AI는 그와 아주 멀리 떨어져 있는데 우리에게는 마치 더닝 크루거 효과처럼 인간이 가상의 인간을 만들어 내는 것을 당장 정복할 수 있을 것처럼 제시하고 있다는 거죠.
AI가 미래산업의 주역인 것은 맞습니다. 그렇지만 그게 우리가 인간을 만들어낸다는 건 아닙니다.중간에 드렸던 AI가 과대평가나 과소평가가 가능할까?라는 질문에 답을 이야기 해보자면, 결국 '그렇게 프로그래밍이 되었거나' 아니면 '통계적으로 그렇게 행동하는 것이 다수로 감지되어 그렇게 행동하는 흉내를 내는'것은 가능하지만 실제로 과대평가나 과소평가를 할 가능성은 거의 없다고 보는 것입니다. 변수 계산이 틀렸다든지 센서에 오류가 있었다든지 이런 부분이 있을 수 있는 것이지, AI자신이 자만심을 가지고 자신이 학습한 것 이상을 안다고 판단하는 더닝 크루거 효과는 AI에게 생길 수 없는 부분이라는 거죠. 적어도 상당히 오랜 기간은 말이죠.
인간은 아직 인간을 잘 모릅니다. 우리는 끊임없이 인문학을 공부해 왔지만 아직도 인문학은 가설들로 가득 차 있습니다. 그건 과학이라고 해도 다르지 않습니다.
메타인지는 어떤 면에서는 AI에 가까운 측면도 있습니다. 자신의 범위와 한계를 명확하게 안다는 점에서는요. 그렇기에 어떤 분야에서는 다른 사람들보다 '더 효율적이고 더 능력 있는' 그런 모습을 보일 수 있습니다. 우리가 알파고에 패배하고 연산에 대한 분야에서는 계산기에 의존하는 게 훨씬 빠른 그런 것처럼 말이죠. 메타인지 역시 인간 전체에 대한 것이 아니라 각각의 특정 분야에 대한 것이라고 생각하시면 교육과 업무에 적용하기 더 쉽지 않을까 생각해봅니다.
언젠가 인간이 인간을 만들어 내는 날이 온다는 건, 인간이 인간을 완벽하게 정의하는 날이 온다는 것인데 그게 더 무섭다고 느끼는 건 저만 그런가요?
@게인
커넥티드 인사이드에서는
4차 산업, 게임, 인문학 그리고 교육에 관해서
가볍거나 무겁거나
다양한 방식으로 서로 연결된
여러 가지 이야기들을 다뤄보고자 합니다.
#커넥티드인사이드 #게인 #인공지능 #AI #더닝크루거효과 #메타인지
