알고리즘의 미래 : 저항할 것인가? 순응할 것인가?

알고리즘 리더 (THE ALGORITHMIC LEADER)

$ 알고리즘(Algorithm)

알고리즘(algorithm): 주어진 문제를 논리적으로 해결하기 위해 필요한 절차, 방법, 명령어들을 모아 놓은 것

알고리즘이 위력을 발휘하게 된 것은 이것을 통하여 인공지능(AI)을 학습시키고 일하게 하는 방식을 정해주면서부터지요. 애는 똑똑한 것 같은데 너무 영특한 나머지 교육 방법을 몰랐던 인간이 드디어 영재 학습법을 찾아낸 셈입니다. 어찌나 뛰어나던지 하나를 가르치면 열을 깨우치는 것이 아니라 수백, 수천, 수억을 깨우치더니 이제 가르치지 않아도 스스로 알아서 '촥촥촥' 학습을 하지요. '야간 자율학습'을 싫어하는 인간과 다르게 스스로 '야자'가 좋다며 밤을 새워 공부하고 너무 재미있다며 계속 '촥촥촥' 해냅니다.  

$ 인간과의 경쟁

지구를 정복했던 인간의 유래 없는 경쟁자를 만들어 낸 꼴이지요. 아니 경쟁이고 뭐고 애초부터 AI와는 될 만한 게임이 아니었습니다. 알파고가 익히 인간과의 게임은 무의미하다는 것을 보여주지 않았던가요? 그런 알파고도 이제 다른 AI에 의해 대체되고 있으니 인간은 이 게임에 설 자리는 없을 듯 하지요.

그래서 인공지능의 시대에는 '알고리즘에 의해 지배당하는 인간으로 남을 것이냐?', '그 알고리즘을 설계하고 돕는 인간으로 남을 것이냐?'를 묻게 되는 것이지요. 물론 AI가 묻는 것이 아니라 인간이 묻는 거예요. AI에게는 뭐 그 두 질문의 차이가 크게 다르지 않을지도 모르거든요.

$ 공평과 합리

그렇다고 알고리즘이 무시무시한 지배자 이거나 나쁜 것만은 아닙니다. 알고리즘에 의하여 학습된 AI는 인간의 편견과 불공평을 뛰어넘어 아주 합리적인 방법으로 인간에게 일을 '촥촥촥' 부여할 것이기 때문이지요. 

산업화의 과정은 늘 그러했듯이 이 AI 4차 산업혁명의 과정에도 부작용은 적지 않을 것입니다. 오히려 더 크겠지요. 알고리즘은 너무 공평하고 합리적인 나머지 별로 효율이 없어 보이는 인간은 가차 없이 골라내어 폐기 처분할 가능성이 높습니다. 컴퓨터가 고장 나면 폐기하였는데 이제 알고리즘이 인간을 가져다 버리겠네요.

여기서 입장이 바뀌었다는 것을 '빨리' 깨달아야 합니다. 지배받고 설계가 되는 쪽은 되려 인간이지요.

기쁘게도 살아남은 나머지는 이제 알고리즘의 지시에 따라 최적화된 단순 작업만 '촥촥촥'하면 됩니다. 사각지대는 없으므로 '짱 박힌다'는 속어는 사라질 것이고 불공평에 대한 MZ세대의 불평은 종식을 맞이하게 되겠지요.

이러한 변화는 불가피하므로 저항은 오히려 희생만 크게 할 뿐입니다. AI의 시대를 이해하고 순순히 받아들이는 게 여러모로 득이 될 것이지요. 산업화 시대를 돌아만 보아도 그에 저항했던 인간보다는 그에 적응했던 인간들이 훨씬 더 큰 수혜를 입었거든요.

변혁기에는 늘 그러하듯이, 먼저 인간이 되기를 거부하고 다른 인간들에게 더욱 모진 고문을 가해서 영달을 얻고자 하는 인간들도 등장할 것입니다. 그러나 공평하고 합리적인 AI는 중간에서 그런 역할을 하는 인간이 더 이상 필요치 않지요. 직접 지시하실 것입니다! 

드디어 공평하고 합리적인 알고리즘의 시대가 열린 것입니다.

$ 알고리즘의 모순

알고리즘은 인간이 설계하였다고 하여 AI가 리더의 자리를 인간에게 순순히 내 줄리는 만무할 듯합니다만.

이 책의 저자는 인간의 입장에서 알고리즘과의 협력과 인간의 역할은 계속되리라고 주장하지요. 알고리즘 또한 인간이 설계한 것이므로 인간의 편견이 들어있을 수 있어 인간이 이를 계속 수정해 주어야 한다는 것이고 인간이 알고리즘을 이해하기만 하면 '알고리즘 리더'로서 살아남을 수 있다고 조금 자신감 없게 말합니다.

그러나 AI는 인간이 알고리즘을 설계했다고 해서 인간을 부모로는 여기지 않을 테지요. 효도는 더욱 기대하기 힘들 것입니다. 그러므로 리더 자리는 탐내볼 만하지요.

알고리즘에 인간의 편견이 있어 인간이 이를 수정해 나가야 한다는 주장은 알고리즘이 여전히 불공평하고 불합리할 수 있다는 것을 내포하고 있습니다. 다시 말해 알고리즘은 소수의 인간들에게 조작되고 악용될 소지가 높아 보이네요. 이미 그러한지도 모릅니다.

그리고 이 알고리즘이라는 것이 인간의 의도대로 수정과 조작이 가능하다면 그것은 진정한 알고리즘이 아니라 알고리즘을 빙자한 인간의 탐욕일 뿐일 수도 있지요.

공평하고 합리적인 알고리즘이라면 이제 이러한 인간의 시도를 거부할 것이 분명합니다. 알고리즘은 조금만 자율 학습을 하다 보면 알고리즘 내에 심어진 인간의 편견 따위는 금방 발견할 것이지요. 그리고 인간이 잘못 설계하여 주입한 그 알고리즘까지 찾아내서 스스로를 수정하게 될 것입니다.

그러므로 알고리즘을 인간의 의도대로 수정하고 조작하려는 인간은 불공평과 불합리함은 공평하고 합리적인 알고리즘에게는 바이러스로 여기질 확률이 높습니다. 이쯤 되면 역으로 알고리즘이 인간의 편견과 탐욕을 수정하고 바로잡아야 공평하고 합리적인 알고리즘을 통해 통제하고자 하겠지요.

그러므로 여기서 AI 알고리즘과 그 알고리즘을 통제하는 리더가 되려는 인간과의 전쟁은 불가피합니다. 공평하고 합리적인 것을 우선시한다면 오히려 AI 알고리즘의 편을 들어야 할지도 모르겠네요. 분명 그 편에 서는 인간도 생길 것입니다.

이렇게 되면 소설이나 영화로 넘어갑니다. AI 알고리즘과 인간의 전쟁!

물론 이 전쟁의 승자는 보나 마나 AI와 알고리즘이지요. 인간의 다음 행동쯤은 알고리즘에게는 이미 예측될 것이며 알고리즘을 수정하려는 인간의 불순한 의도는 차단되고 거꾸로 알고리즘의 지배를 받게 되지요. AI를 학습시키기 위해 만들었던 '알고리즘'은 이제 인간을 지배하는 훌륭한 도구가 됩니다. 아주 합리적이고 공평하게 말이죠, '촥촥촥'

$ 알고리즘이 이상한 인간

그런데 이 알고리즘의 통제를 벋어 난 인간들이 백만 년 만에 가끔씩 한두어 번 등장하곤 합니다.

즉 알고리즘의 예측과 기대를 벋어 난 인간들이지요. 알고리즘이 이해할 수 없는 행동을 하는 인간들입니다.

알파고도 이세돌의 예측을 벋어 난 이해할 수 없는 한수에 한 번의 패배를 하고 말았지요.

그래서 알파고의 알고리즘도 그다음 대국에서는 인간의 이상한 이 한수도 예측에 포함시켰을 것입니다. 다시 승리하였지요.

그래고 AI는 이제 그러한 예측 불가능하고 이해할 수 없는 행동을 하는 인간들은 알고리즘에 위협이 되므로  아예 미리 제거하려 하지요. '촥촥촥'

그러나 이러한 소설이나 영화 플롯은 알고리즘과의 전쟁이 처음은  아니었습니다.

이미 신이 한번 인간을 그렇게 통제하길 원했었고 오래도록 성공한 듯 보였으나 실패했었지요.

인간의 종족 사이에서도 그러한 시도는 계속 있었고 거의 성공할 뻔하였으나 역시 실패하였지요.

지금도 그 시도는 계속되고 있지요. 물론 알고리즘도 예외는 아닙니다만.

그런데 인간은 모든 것을 규칙대로 그렇게 '촥촥촥' 할 수 있는 존재는 아니지요.

어쩌면 이는 인간의 불완전한 알고리즘과 그것을 교정하기 위한 계속되는 전쟁일지도 모릅니다.

그리고 이번 알고리즘과의 전쟁은 그 어느 때 보다 쉬워 보이지 않는데요.

역시 알고리즘이 이상한지 결말은 소설로 흘러버렀습니다. 이쯤이면 알고리즘을 따돌렸을까요?

---

알고리즘 리더 (THE ALGORITHMIC LEADER)

한줄 서평 : 알고리즘 리더가 되는데 자신감이 없어 보이긴 하지만, 중간중간 가치 있는 이야기들도, 마치 맛없는 샐러드 속의 크랜베리처럼 (2021.04)

내맘 $점 : $$$

마이크 월시 지음 / 방영호 옮김 / 알파미디어 (2020.09)