언어가 사고를 지배한다.

대화형 인공지능의 문제와 대비

인공지능의 발달로 인간의 가장 복잡한 두뇌 활동까지도 근접하게 모방해내며 대화형 인공지능이 등장했습니다. 우리 생활에서 가장 익숙하게 접하는 AI 역시 내비게이션 서비스와 홈 비서 등 소통을 기반으로 한 서비스입니다. 머신 러닝 시스템 덕분에 AI는 인간의 언어를 이해하고 응대하는 능력이 나날이 향상되고 있으며 최근 비대면 수업으로 AI와 대화하며 외국어를 배울 수 있는 기술이 출현하기에 이르렀습니다. 

AI는 통계를 통해 언어의 규칙을 찾으며 학습합니다. 사람들은 대개 오랜 시간에 걸쳐 동일한 문장을 만들기 때문에 언어에서 규칙성을 찾는 것은 매우 쉬운 일입니다. AI 언어 모델은 다음에 나올 단어를 예측하기 위해 800만 개의 웹페이지를 학습하여 이전에 학습한 동일한 주제에 속한 이전 단어를 통해 다음 단어를 추측합니다. 이 방대한 훈련을 통해 일관성을 구축해나갑니다. 

그러나 우리 언어에 깃든 차별적인 표현을 AI가 그대로 학습할 가능성이 농후하다는 것은 문제가 될 수 있습니다. 새로운 시스템을 훈련할 때 올바르지 못한 데이터가 알고리즘에 반영되고 그것이 누적되어 전파될 경우 잘못된 정보 전달 및 획일화적 사고를 강조하는 사회로 흐르게 될 수 있습니다.

AI가 학습하는 데이터의 정의와 검열을 누가 어떻게 진행할 것인지 언어가 담고 있는 미묘한 표현들을 어떻게 전달할 수 있을지 고민해보아야 합니다. 또한 소수 계층 또는 자주 사용되지 않는 단어나 표현은 사라질 것입니다. 우리는 이러한 문제에 대해 준비가 필요합니다. 언어는 우리 사회 문화를 이끌어가는 중요한 역할을 하며 언어는 우리의 생각을 지배하기 때문입니다.

언어가 세계관에 영향을 미친다는 학설을 주장한 <에드워드 사피어>

언어학 전공자들 사이에서는 언어가 사고를 지배하는 것을 사피어-워프 가설(Sapir–Whorf hypothesis)이라고 합니다. 20세기 후반 일반인들에게까지 널리 알려진 언어학 관련 대표 통설이기도 합니다. 

예를 들어 한국에서는 정류장에 가까워지는 버스를 향해, 아직 운행 중임에도 ‘버스가 왔다’고 자연스럽게 표현합니다. 하지만 영어에서는 정류장에 가까이 오는 과정이 아니라 거의 멈춘 상태일 때 비로소 과거형을 사용하죠. 이를 두고 아직 운행 중인데도 과거형으로 표현하는 한국인들이 시간을 다르게 본다고 주장할 수 있습니다. 같은 맥락의 예로 한국인들은 ‘우리’라는 말을 자주 쓰는데 이를 통해 한국 사회가 개인주의보다는 공동체 의식이 강하다고 주장할 수도 있습니다. 이처럼 언어는 한 사회와 문화를 그대로 담아냅니다. 공동체 속에서 자연스럽게 학습하며 성정 한 사람에게 언어가 미치는 힘은 막강하며 이 때문에 문화 차이가 발생하기도 합니다.  이런 과정을 통해 언어가 세계관에 영향을 미친다는 워프의 주장에 공감합니다. 어떤 문제에 대해서 습득한 언어에 따라 다른 답을 노출하게 될 것입니다.

이처럼 복잡한 언어를 단순 데이터를 통해 학습한 AI는 언어를 이해하는 것이 아닙니다. 대화형 AI를 한 단계 발전시키기 위해서는 AI가 학습할 데이터를 올바르게 정립하고 진정한 이해, 진정한 지능이라는 문제를 해결해야 합니다. 

 

우리의 준비보다 기술발전이 더 빠르게 진행되고 있습니다. 모든 산업에서 주객이 전도되는 현상이 나타나는 것은 아닐지 무척 염려스러운 마음입니다. 지금 우리가 놓치고 있는 것이 무엇인지 확인해야 합니다. 매우 어렵지만 가장 중요한 도전입니다. 

[참고]

-Robert J. Fouser_언어가 사고와 세계관을 지배하는가

-Boris Katz_The man who helped invent virtual assistants thinks they’re doomed without a new AI approach