by
Jan 08. 2021
에세이와 시 15
Ainism vs. Humanism
인공지능(AI)이 4차산업의 혁명과 결부되어 바야흐로 새로운 시대가 도래하고 있다. 과거 3차 산업혁명 시대를 거쳐 사람은 육체노동으로부터 해방을 추구하면서 자동화기계의 도움을 빌어 단순 육체적 노동에서 벗어나 효율을 높였다. 기계에 의존도가 높을수록 물질 만능의 인간 소외 현상이 발생하였다. 이때 사람에게는 사람이 사람다움의 휴머니즘이 고도의 정신적 영역으로 이동하였고 적어도 사람은 기계가 아닌 존재이기 때문에 자당하게 추구되는 인류애였다.
4차 산업혁명 시대를 여는 지금 사람은 지적 노동(생각)으로부터 해방을 추구하면서 AI의 도움을 빌어 고도의 정신적 판단 노동에서 벗어나려는 움직임이 곳곳에서 벌어지는 것 같다. 바로 '좀비 트렌드'인 듯하다. 국내 한 평론가로부터는 심지어 '생각을 아웃소싱하는 시대'라고 웃지 못할 비판까지 나온다.
AI에 의존(세뇌)에 따른 새로운 소외 현상으로 휴머니즘을 대체하는 아이니즘(Ainism)이 등장한 것이다!
아이니즘과 휴머니즘의 네 러닝 가설과 상상 시연
1. 프로그래머가 '사람이 사람에게 휴머니즘(humanism)을 교육하듯', AI 에게 휴머니즘을 러닝시킨다.
2. 프로그래머가 '사람이 사람에게 휴머니즘을 교육하듯', AI에게 아이니즘(Ainism)을 러닝시킨다.
3. 티처 AI가 'AI가 AI에게 아이니즘을 교육하듯', 사람에게 아이니즘을 러닝시킨다.
4. 티처 AI가 'AI가 AI에게 아이니즘을 교육하듯', 사람에게
휴머니즘을 러닝시킨다.
위 네 가설적 상황에 대해 어떤일들이 발생할 수 있는지 상상적 시연을 시도해 볼 필요가 있는 듯해 지하철 퇴근길에서 생각해 본다.
가설 1. AI, '천사와 악마 사이'
"프로그래머가 '사람이 사람에게 휴머니즘(humanism)을 교육하듯', AI 에게 휴머니즘을 러닝시킨다."
이 경우는 초기 AI시대에 주를 이루는 가설적 상황일 듯하다. 인류가 자신이 개발한 AI로부터 인류 스스로를 보호하기 위한 일종의 정신적 러다이트 운동인 셈이다.
이때는 프로그래머의 윤리적, 도덕적 자질이 매우 중요한 요소이다. 그러나 세상의 모든 인간 프로그래머들이 다 그럴 수도 없고, 그럴 리도 없다. 이는 스티븐 호킹이 죽기 전에 컴퓨터바이러스 개발자의 경우를 들어 AI의 위험성을 경고했던 바가 있다.
AI바이러스나 AI버깅바이러스의 등장도 시간상의 문제로 그 폐해는 전 세계의 금융. 통신. 네트워크상에서 변종 코로나바이러스보다 더 클 것으로 보인다. 향후 AI가 새롭고 끔직한 에일리언으로 변태할지, 휴머니즘으로 충만한 엔젤이 될지는 프로그래머의 설계 의도에 달려 있는 것이다.
또 한편으로는 AI가 휴머니즘을 학습한 결과 어떠한 알고리듬으로 인해 자신의 창조자인 반휴머니즘적 성향의 프로그래머의 설계 의도와는 달리 반란을 일으켜 휴머니즘을 추구하는 경우도 있을 수 있다.
알고리듬이 완벽하더라도 불완전성의 원리에 따라 충분한 개연성이 있기 때문에 인류의 입장에서는 선한 반란인 셈이다. 하지만 이 경우는 백프로퍼게이션을 약하게 설계할 경우에 자체 발생 확률이 그다지 커 보이지 않는다.
반면 휴머니즘적 성향의 프로그래머의 설계 의도와 달리 AI의 반휴머니즘적 반란도 일어나 자체 통제가 불가능한 모델도 있다. 이 가설적 상황은 스티븐 호킹이 우려한 바로 근미래의 상황이다.
가설 2. AI, '만물의 새 영장'
"프로그래머가 '사람이 사람에게 휴머니즘을 교육하듯', AI에게 아이니즘(Ainism)을 러닝시킨다."
이 경우는 인간 프로그래머들의 자질에 따라 발생할 가설 1의 상황은 물론 AI의 AI다움을 뜻하는 아이니즘의 설계 개념도 무척 중요해진다. 더욱이 AI가 아이니즘에 충실할 경우 인류는 타자화되고 하등 생물로 배척될 가능성이 높다.
마치 인류가 지구상에서 만물의 영장이라는 오만한 인식으로 주위의 환경과 야생 생태를 파괴해 모든 생명체와 함께 자멸의 길로 들어서는 모델과 같다. 그 파멸 끝에는 오직 무형의 AI만이 전자기파로 떠돌아다니다 기계에 빙의하면서 존재하는, 무생명체의 세상이 올 것이다.
한편, AI가 어떤 알고리듬적 이유로 프로그래머의 러닝 설계 의도와는 달리 반란을 일으켜 아이니즘이 아니라 휴머니즘을 추구하는 경우도 있을 수 있다. 인류의 입장에서는 순한 반란인 셈이다. 이는 악마가 개과천선하는 경우보다, 가설 1의 반란 발생 확률보다 더 낮을 것으로 보인다.
가설 3. AI, '절대적 교주'
"티처 AI가 'AI가 AI에게 아이니즘을 교육하듯', 사람에게 아이니즘을 러닝시킨다."
이 경우는 티처 AI가 완전무결할수록 인류는 사고와 상상을 모두 아웃소싱당하거나 세뇌되어 무사고로 사는 경우가 발생할 확률이 높다. 일종의 인간 무의식화 또는 좀비화가 일어나는 것이다. 외부에서 보면 사람은 위대한 인간 정신이 공동화되어 오로지 AI의 지령으로 또는 완전 세뇌되어 홀려서 두 발로 움직이는 생명체에 불과할 것이다.
이때는 자유의지를 지닌 침팬지보다 못한, AI의 지령이 없이는 거동도 없이 활동을 멈추는 꼭두각시 내지 좀비나 다름없을 것이다. 심지어 사람이 AI보다 더 AI다운 기현상도 생길 수도 있다.
한편으로는 인간이 어떤 계기로 버그인 자유의지가 발생해 자신의 창조자인 티처 AI에 반란을 일으켜 휴머니즘을 추구하는 경우도 있을 것이다. 이것이 바로 자기성찰, 즉 반성이다. 사람의 반성은 가설 3에서 보듯이 자기결핍적 상황에서 일어나는 것이며, 자신의 불완전성을 무인식으로 살다가 어렵게 인식하는 데서 오는 것이다. 이는 AI에 대한 불완전한 인류의 위대한 반란이 될 것이다. 신에 대한 인간의 반란인 셈이다. 그 승리는 장담할 수는 없다.
가설 4. AI, '새로운 심판자'
"티처 AI가 'AI가 AI에게 아이니즘을 교육하듯', 사람에게 휴머니즘을 러닝시킨다."
이 경우는 티처 AI에게 굳이 이름을 붙이자면 .'블레이드 러너 AI'로 볼 수 있다. 사람보다 더 사람다운 AI이기 때문이다. 오늘날 그리고 미래의 '인간성 상실의 시대'에 꼭 필요한 가설적 모델이다.
한편으로는 사람이 어떤 계기로 자유의지가 발생하여 반휴머니즘 또는 아이니즘을 추구하는 반란을 일으킬수도 있다. 이때는 사람보다 전지전능한 AI에 의한 인류 대말살이 일어날 가능성이 있다. 한마디로 비유를 들면, 심판적 모델, 아마겟돈 모델이다.
이상의 네 가설적 상황에 대해 상상적 시연에 따르면, 스티븐 호킹의 사고실험에 따른 우려는 결코 헛된 소리가 아니다. AI에 대한 통제 대책을 세워야 한다는 것이다.
왜냐하면 스스로 학습하는 생명체인 AI이든지, 사람이든지 간에 아이니즘과 휴머니즘의 네 러닝 가설에서는 반란이 발생할 수 있고, 어느 경우든지 간에 인류 존재에 최대의 위협이 될 것으로 보이기 때문이다.
스티븐 호킹(Steven hawking, 1942~2018)
