오만과 편견적 AI 해석
AI는 인간만큼 똑똑한가요?
오만과 편견
두 과학자는 AI 수준에 대해서 토론을 하고 있다.
"아직 인공지능 기술은 인간을 따라오지 못해."
"아니, 난 몇 년 안에 가능하다고 봐."
"전혀 그렇지 않아. AI는 냄새도 못 맡고 세상을 탐험할 수도 없어. 인간의 수준에 도달하려면 AI는 아직 멀었어."
"하지만 AI는 더 많은 것들을 하고 있어. 그가 인간만큼 똑똑하다는 증거지."
"물론 인간보다 더 잘하는 부분이 있지. 하지만 인간만큼의 지적 수준이 당장은 아니야."
AI 기술의 평가는 저명한 AI 학자, 타 분야의 과학자, 일반인을 포함하여 자주 논의됩니다. 인공지능 기술은 현재 인간보다 똑똑할까요? 아니면 아직은 AI가 정보처리기계에 불과할까요? 인간사회에 엄청난 파급력을 가진 AI의 수준을 논하는 대화는 흥미롭습니다. 그러나 이 대화에는 편견적인 시야가 녹아있기에, AI를 제대로 평가하지 못하는 문제가 있습니다.
오늘 이야기는 AI의 기술 수준 논의가 아닙니다.
AI기술 평가에 대한 오만과 편견을 마주하려 합니다.
우리는 오만과 편견을 가지고 있습니다. 대상에 대한 평가를 하는 데 있어서 편견을 가지는 것은 대단히 자연스럽죠. 그러나 오만과 편견이 AI의 기술의 정수(essense)를 이해하는데 방해가 된다면, 그래서 AI의 인간사회에서 역할이 잘못 해석된다면 과감하게 그 시선을 포기해야 합니다.
대상을 이해하는 쉬운 방법: 비교
이 친구의 키는 나보다 커.
그러니까 키가 커.
마찬가지로 AI를 해석할 때도 이런 방식이 대단히 자주 고려됩니다.
AI의 성능을 측정할 때, 다음과 같은 기준으로 AI의 지적능력을 판단합니다.
수능 시험 고득점 여부: O
변호사 시험 통과 여부: O
코드 개발 수준: O
작문 수준: O
논리적 사고: X
물론, 인간의 능력을 이미 뛰어넘어서 인간과 비교하지 않는 영역도 있습니다.
객체 탐지 능력: O
문서 요약 능력: O
홍채 인식 능력: O
AI와 인간에게 다른 기술적 우위가 존재한다는 것은 지극히 당연한 말입니다. 이 능력들은 대부분 인간이 조금이라도 가지고 있기에, 친구와 키를 비교하는 것처럼 AI의 기술을 바라보는 잣대가 됩니다. 그러나 문제는 평가에서 인간의 생물학적 지위로부터 오만과 편견이 녹아드는 점입니다.
"그는 인간만큼 똑똑하지 않아."
저는 이 "똑똑"이라는 단어가 문의 노크소리만큼이나 공허하게 들립니다.
AI는 너무 많은 특징이 있기에 "인간보다 똑똑"하다는 걸로 바라보기에는 능력이 너무 많습니다.
본질은 비교에 앞선다.
돌은 단단하며,
나무는 사람보다 더 오랜 세월을 살고,
꽃은 아름다운 봉우리를 피우며,
개미는 집단 내에 엄청난 수의 개체를 이루며,
늑대는 영리한 집단적 행동을 보이며,
고래는 더 넓은 바다를 헤엄칠 수 있습니다.
세상은 사실 인간 중심이 아니었다.세계를 현명하게 살아가는 방향으로 개체들은 진화하였습니다.
인간도 가장 멋진 진화적 산물 중 하나이며,
우리는 더 많은 걸 할 수 있고,
자신만의 강점이 있습니다.
인간은 우월한 능력이 있다.
이 글은 인간과 AI의 비교를 하지 말자는 게 아니며, 인간이 여전히 잘하는 영역이 있습니다. 이 영역은 몇 년 안에 따라잡기 어려운 인간의 능력 중 하나입니다.
그 영역은 바로, 마음 이론 (Theory of Mind)입니다. 타인의 심리를 추정하는 능력이며, 공감을 하는데 있어서 아주 중요한 기술입니다.
"인간이 5살에 통과하는 Sally-Anne Test를 인공지능은 아직 통과 못했대."
[Sally-Anne Test]
박스에 사과가 있는 걸 두 명이 보고,
한 명이 자리를 비울 때, 사과를 다른 곳으로 옮긴다.
자리를 비운 사람이 생각하는 사과 위치를
남겨진 사람이 맞추는 테스트
[부연 설명]
두 가지 정보가 충돌하여 AI 모델은 헷갈려한다.
(1) 사과 위치가 옮겨진 위치
(2) 상대가 생각하는 사과 위치 정보
Sally-Anne Test는 물건을 옮기고 실제 위치와 다른 사람이 생각하는 위치를 구분하는 능력을 평가합니다. 이런 식으로 인간과 AI의 비교는 특정 기술에 대한 논의를 할 때만 사용하는 게 올바른 것 같습니다.
AI의 본질은 뭐예요?
본질을 이해하려면 자라온 환경과 능력등 다양한 게 고려됩니다.
그러나 그는 무수히 많은 학습과정을 동반합니다.
생물을 분석하는 동안은 진화가 일어나지 않는 게 보통이지만, AI는 지금도 무수히 많은 진화를 하고 있습니다. 너무 많은 학습을 하기에 본질을 이야기하자면 끝이 없다는 두려움이 생깁니다.
아래 적힌 학습방법은 모두 근 10년 내에 개발된 학습법입니다.
모두 다 AI 모델의 성능을 높였습니다.
Continual Learning (연속 학습)
Meta Learning (인지 학습)
Supervised Learning (지도 학습)
Unsupervised Learning (비지도 학습)
Reinforcement Learning (강화 학습)
Semi-Supervised Learning (준지도 학습)
Self-Supervised Learning (자기 지도 학습)
Transfer Learning (전이 학습)
Few-Shot Learning (소량 학습)
Zero-Shot Learning (무샷 학습)
Multi-Task Learning (다중 작업 학습)
One-Shot Learning (한번 학습)
Online Learning (온라인 학습)
Batch Learning (배치 학습)
Active Learning (능동 학습)
Federated Learning (연합 학습)
Curriculum Learning (커리큘럼 학습)
Generative Adversarial Learning (생성적 적대 학습)
Adversarial Learning (적대 학습)
Representation Learning (표현 학습)
Metric Learning (측정 학습)
Contrastive Learning (대조 학습)
Deep Learning (심층 학습)
Neural Architecture Search (신경망 아키텍처 검색)
Evolutionary Learning (진화적 학습)
Bayesian Learning (베이지안 학습)
Probabilistic Learning (확률적 학습)
Instance-Based Learning (사례 기반 학습)
Manifold Learning (다양체 학습)
Sparse Learning (희소 학습)
등등....
두 과학자는 AI 수준에 대한 토론은 이렇게 끝났다.
"전 세계의 데이터를 보고 무수히 많은 방식으로 학습하는 건 진화적 반칙이야."
"우리는 고래야."
나는 돌고래다. 돌고래라서 행복하다. 