선택할 것인가, 선택당할 것인가

키워드로 보는 세상 - 대량살상수학무기, 넷플릭스 다큐 3편

대량살상수학무기 (책/ 캐시오닐)

소셜 딜레마 (넷플릭스, 2020) 거대한 해킹 (넷플릭스, 2019) 알고리즘의 편견 (넷플릭스, 2021)

#알면 다쳐

매우 어지러운 세상이다.

얼마 전까지만 해도 적당히 편하고 적당히 안전한 중간지대에 살고 있다고,

그 상태가 영원할 것처럼 생각하고 있었던 것 같다.

연말인지 새해인지 나는 누구와 전쟁 중인지 며칠이 몇 년이 지났는지도 모를 시간들을 흘러 지나며

그 와중에 세상은 원래 불편하고 불안하고 불평등하고 불완전한 것이 기본임을 알게 되었고,

내 머릿속을 어지럽히는 것들은 점점 늘어만 갔다.

적당히란 무엇인가.

끝없는 백사장 모래바닥에 전 세계인이 집어던져 놓은 책들이 죄다 널브러져 있는 꼴이 딱 내 머릿속이다.

정리할 엄두는 더욱 안 나고, 뭐가 있는지도 모른 채 새로운 것들이 쏟아져 아는 것도 아는 것이 아닌 상태.

탄생하지 않았다면 모를까, 이제 없어서는 안 될 도구가 된 소셜네트워크와 알고리즘.

인간에게 도움이 되는 것도 확실하나 그 이상으로 부작용 또한 확실하다.

이번 콘텐츠들로 그간 별생각 없이 내 관심사려니 하고 누르게 된 추천 콘텐츠들이 다 음모로 보이는 부작용이 추가되었지만,

다행인 것은 클릭 여부는 내 결정이니 당할지 말지 최종 선택이라도 내가 할 수 있다 걸 아는 것.

선택의 중요성과 선택권이라는 것의 가치를 배우고 있는 듯하다.

불안과 견디기 힘든 불편함의 존재를 모르고 늘 적당히 안전하고 편하게 살 수 있을 거라 생각했던 것은

세상을 살아가기에 어딘가 모자란 상태였다는 것.

인간으로서의 선택.

나라도 바로 알고 제대로 된 선택을 해나 갸야 한다는 것을 알 수 있을 때 알게 되어 다행이다.

#배제를 위한 알고리즘

바이올리니스트인 동생이 한창 대학원 졸업 준비를 하며 취업을 고민하던 때 오케스트라에 들어가는 것은 별따기 보다 어렵다는 이야기를 했던 생각났다.

한 번 들어가면 수명을 다할 때 까지기 거의 퇴사자가 없어 우스갯소리로 누군가 돌아가시지 않으면 TO조차 나지 않는다던,

그나마도 자리가 나면 공개채용 개념이 없어 채용공고가 개시되기도 전 틈을 비집고 들어가려는 옆문 뒷문의 대기마저 줄줄이 넘쳐 '그 틈에 끼고 싶진 않은데..' 라며 고민했었다.

책에서 소개된 블라인드 테스트를 고려하는 오케스트라는 거의 없으며, 늘어나는 추세도 아닌 듯 하니

기득권에서 필요하지 않은 인간을 배제시키려는 인간의 인식을 바꾸는 것 또한

거대해진 알고리즘을 뜯어고치는 것만큼이나 어려워 보인다.

#디지털골상학

오차와 오류는 용납하지 않을 것 같던 수학.

완벽 이라기보다는 '아직까지는'이라는 단서가 붙어있는 수학과 과학 공식이 가진 인간미를 알게 된 지 얼마 되지 않았다.

그렇지만 세상을 읽어내는 공식들에 기반해 완벽이라는 쪽에 가까울 것만 같던 알고리즘의 허점을 알다 못해 골상학이라는 단어가 눈에 들어왔다.

관상으로는 왕이 될 상을 찾고 알고리즘으로 왕이 될 리 없는 상을 찾고 있었다니..

# 잠재적 범인

영국 길 위의 안면인식 카메라의 효용성이 아닌 오류가 90% 이상이라니..! 세금이 아깝다.

과연 범죄가 공공장소 길거리에서만 일어날까.

닮은 사람은 다 범죄자인가.

범죄 관련 뉴스 몇 개만 봐도 범인은 지역 CCTV위치 정도는 미리 알고 숨어 다니는 것을 경찰은 더 잘 알 텐데.

실제 외상을 입히거나 목숨을 노리는 범죄는 당연히 문제다.

하지만 지금 시대에는 실체가 있지만 없는 숫자일 뿐인 인터넷상의 돈과 소셜미디어의 밧줄에 목을 매는 사람들 또한 강력범죄 못지않게 위험하다.

이 범인들은 실체는 있지만 모두 눈에 보이지 않는다.

이 시대의 잠재적 범인은 누구이고 어디에 있을까.

사실 작게는 본인의 일상이 누군가의 약점을 파고들어 일상을 망치고, 삶에 대한 의지마저 놓아버리게 만들 수도 있다는 사실을 알게 된 이상

모든 인간이 잠재적 범인이지 않을까.

#선택의 기로

내가 지금 무엇을 하고 있는지 매 순간 점검하며 바른 방향으로만 나아갈 수 있는 의지를 가진 인간이 있을까.

모든 일이 생각대로 계획한 대로 결과가 나오지 않는다.

옳다고 생각해 전념했던 일이 어느 순간 옳지 않음을 알았을 때.

선한 영향을 기대하고 몰두한 일이 악영향을 퍼트리는 것을 알게 되었을 때.

원하던 결과였다면 모르지만, 절대 예상치 못한 결과와 마주하게 되었다면 순간 절망하지 않을 인간이 있을까.

세상에 엄청난 기여를 한 인재들에게 부수적인 이익과 부작용으로 발생한 희생에 따르는 윤리와 양심까지 바라는 것은 무리인가.

지금 세상은 그들이 어떻게 대처할 것인가의 방향에,

몇 인간들의 선택에 인류의 남은 시간 희망 여부가 결정되는 것 같다.

다큐멘터리에서 본 증인들이 곳곳에서의 작은 움직임이 되어 이미 늦었다 해도 바로잡아보려는 노력을 선택하게 될지.

이미 2016년쯤 또는 그 이전부터 문제제기가 시작되어 온 듯한데,

사실 2025년인 이제야 부정선거를 뒤지고 아직도 신나게 돌아가고 있는 AB테스트를 보면..

사실 ‘윤리’의 기준이 무엇인가에 대해서도 사람에 따라 생각하기 나름이라는 것이 어렵다.

현재 시점에서 옳은 선택이라 할지라도 감내할 과정이나 결과 또한 선택의 순간에는 알 수 없다는 것.

과연 윤리적으로 옳은 결과가 될지 의문이지만,

결국은 진정 인간과 세상을 위한 지속가능한 선택을 해 나가길.

#딜레마

소외된 계층을 돕고 싶다는 마음도 든다.

그 와중에 나도 소외된 계층일 수 있다는 것은 또 망각한다.

상류층도 아니며, 무색 인종도 아니며, 미국인도 아니며, 정. 재계 가문도 아니며, 남자도 아니며..

그럼에도 ‘적당히 잘 살고 있다’는 함정에 빠져 그 모든 소외된 곳에서 권리를 더 찾아낼 ‘귀찮음’을 외면한다.

사업가로서는 분명 신경 쓰이는 부분이 되었지만,

내가 내 회사의 모토를 ‘더 이상의 희생에 동참하지 않겠다’는 방향으로 가져가기로 결심한다면(그러지 못했음..)

‘과연 이익과 연결될 수 있을까?’라는 질문을 바로 던져보게 된다.

여기서 내가 고려하게 되는 이익은 30년 50년 뒤가 아닌 바로 내년, 또는 길어야 5년 10년 일 것이다.

페이스북과 나의 작고 소중한 사업장의 매출은 다르겠으나,

이익만 좇는 괴물처럼 비치는 빅테크기업가들의 ‘어쩔 수 없는’ 결정들과

무엇이 크게 다를까 생각해 보게 된다.

#내 생각은 과연 내 생각인가

나이가 들어가면서 점점 더 내가 하고 있는 생각에 대해 생각해 보게 된다.

내 생각인 줄 알았던 것들이 정말 내 생각이 맞을까? 에 대한 고민을 진지하게 하다가 때려치운 적도 많다.

그때는 답이 안 나올 문제라 생각했고 괜한 고민이라는 생각도 들었다.

하지만 절대 괜한 고민이 아니었음을 느낀다.

내 생각이 내 생각이 아닐 가능성이 매우 높다는 것.

별 제약 없이 살고 있다 느꼈지만 내가 보고 듣는 모든 것이 이미 제약 안에서 생성되었다는 것.

그것들 안에서만 생각을 했을 가능성이 99%쯤.

나머지 1%의, 아마도 기존 것들에 대한 반발심으로 시작되지 않을까 하는,

어디선가 끓어 나오는 내 생각을 조금 더 들여다볼 때인 것 같다.

다시 돌아와야만 한다는 강박의 그 삼천포로 빠져야 내 생각이, 진짜 내 길이 있을 수도 있겠다는 생각이 든다.

#GPT에게 물었다

수학이라는 것은 완벽하다고 볼 수 있는지.

수학이 비어있는 어느 공백을 최대한 정확하게 찾아내거나 확인하기 위해 사용되었을 때 오차와 오류가 없을 수 있는지에 대해.

GPT는 수학은 내 말처럼 공백을 찾아내거나 양을 정확히 계산하려는 인간의 노력으로 볼 수 있다. 수학은 정확성과 예측가능성을 제공하려 하지만 실제 현실에 적용할 때는 오차와 한계가 존재하기도 해.라고 하며, 앞서 이야기한 "지속 가능성한 대책이 있는가"에 대한 답으로는 투명성 강화 실현 가능성: 50–60% 윤리적 기준 도입 실현 가능성: 40–50% 책임 시스템 구축 실현 가능성: 30–40% 규제와 법적 제재 실현 가능성: 60–70% 데이터 편향 해결 실현 가능성: 50–60% 전체인 제안 내용의 실현 가능성 약 50% 내외로 평가됩니다. 단기적으로 약 50% 실현 가능성이 있다고 볼 수 있습니다.라고 답했다. 50%.. 반반이라니 인간세상 적응 다했구나 싶다.

#알고리즘의 제왕은 누구인가

반지의 제왕에서도 인간들은 반지를 가지면 자신이 평화를 이룰 꿈 또한 가지지만 하나같이 망한다.

모든 인류의 ‘데이터’가 다 담긴 데이터센터와 알고리즘이 태초부터 있었다 해도

그걸 손에 넣고 그게 무엇인지 알아낸 인간의 의도에 의해 인간을 대상으로 사용되기 전에는

그 덩어리 스스로 인간에 어떤 영향을 미치지 못했을 듯한데.

인간의 태생적 선함의 존재에 기대를 가지지 않고는 보고 듣기 어려운 요즘이라

더욱 원래의 목적과는 다른 파괴력을 ‘예상치 못한 결과들’로부터 알게 된 인간들의 대처가

인간으로서 매우 이해가 되면서도 너무나 아쉽다.

인간의 탐욕이 파괴력을 제제하려는 노력보다는

양심과 윤리를 덮어두고 자본을 긁어모으고 있는 듯.

이미 망가져버린 지구의 생태계보다도 더 돌이키기 어려운 지경까지 와버린 것이 아닌가 하는 생각도 든다. 절대반지처럼 없애는 것 만이 답일까.

그것만이 답이라면 이 날에 오기까지 후디만 입고 뇌를 갈아 넣은 기업들이

과연 그 모든 성과를 없애자는 결정을 할 가능성은 얼마나 있을까.

그 가속도에 힘입어 세상을 바꾸는 기술에 투자한 자본들은 과연

인류의 지속에 대해 어떤 관점을 가지고 있는 걸까.

기업의 책임과 함께 개인의 책임도 강조되어야 한다고 생각했지만,

이번 콘텐츠들을 통해 바라보니 개인은 정신 차리고 대응을 하는 방법 밖에 없는 것 같다.

인터넷 끊기면 반 자연인인 시대에..

그렇다면 이미 이렇게 된 거 알고리즘의 제왕이 지금의 빅테크 중 누가 될 것인지

더 파고들어 주식 매수라도 해서 동참해야 하나..

#인간은 미래를 알 수 없지만 만들 수 있다

어느 인간도 미래를 알 수 없다.

알고리즘은 보다 더 치밀하고 예상을 뛰어넘어 정교해질 수 있지만 아직 스스로 진화하진 못한다.

결국 발전의 방향을 결정하는 것은 인간이다.

누구도 알 수 없는 미래를 만들어가는 것이 인간의 선택인 만큼,

누가 이 시대의 절대반지와 같은 빅데이터 알고리즘의 패권을 가지게 될지.

어떻게 휘두르고 어떤 미래를 맞이하게 될지도 알 수 없지만,

반드시 모두가 기대하고 희망하는 미래이길 바란다.

내가 선택한 것이라고 믿는 것들도 사실 착각일 수 있습니다.

실제로는 선택(을 하도록 조종 당) 한 것 일 수 있다는 생각,

내 생각도 진짜 내 생각이 아닐 수 있는 것처럼

한 번쯤은 진지하게 고민해 볼 필요가 있는 세상인 듯합니다 :)