세뇌 시대
2025. 5. 15
루게릭 병에 걸린 환자의 뇌에 256개의 전극을 심어, 전극에서 오는 뇌 신호를 단어와 문장으로 변환해 주는 뇌 임플란트 실험을 했다고 한다. 여기에 인공지능이 환자의 목소리를 학습하여 환자의 음성으로 말을 하는 데 성공했다는 뉴스를 봤다. 수년간 말하지 못하고 움직이지도 못한 환자에게 기적 같은 일이다. 이 기술은 진화를 거듭하여 뇌에 직접 심지 않고 전극을 뇌에 붙이는 것만으로도 신호를 읽어낼 수 있게 되었다고 한다. 이러한 기술을 ‘뇌-컴퓨터 연결(BCI∙Brain-Computer Interface)’ 기술이라고 한다는데, 시장 규모가 2024년 24억 달러(약 4조 원)에서 2030년 65억 달러(9조 원)로 매년 18.2%씩 급성장할 전망이라고 한다. 다만, 어떤 기술이든 문제점이 있듯이 BCI 기술은 뇌에 심은 장치가 전기 신호를 읽어내는 것이므로 일각에서는 배터리가 고장 나면 뇌의 조직을 손상시킬 수 있다고 한다. 또한 생체데이터를 빼돌려 범죄에 악용될 소지가 있다고도 한다. 좋게 사용하려고 만든 기술이 악용되는 사례는 너무도 많기 때문에 나쁘게 쓰일까 우려하는 마음은 일단 뒤로 미뤄둔다.
생각을 읽어낼 수 있는 기술.
만화나 영화에 머릿속으로만 생각한 것들이 제3자에게 들려 예기치 못하는 상황을 겪는 주인공의 얘기들이 있다. 너무 솔직한 마음을 말해버려 사람들과의 관계가 꼬이는 것이다. 우리가 생각나는 대로 말하지 않고 행동하지 않는 경우가 많은데 뇌의 신호를 읽고 표현하는 기술이 누군가에게는 절실하게 필요하고, 누군가에게는 불편하게 여길 세상이 되었다. 전기 자극을 인공지능이 학습한 단어로 조합하여 의사소통을 하는 이 기술은 과연 환자의 생각을 제대로 표현하는 것인가? 적중도 97% 라고 한다. 여기에 생성 인공지능 기술이 접목되면 어떤 결과가 나올지 모르겠다.
초등학교 때, 어떤 과목이었는지 생각나지 않지만 선생님이 하셨던 질문과 우리들의 답이 아직도 생생한 일화가 있다.
"북한 사람들 피부색은 무슨 색일까요?"
"빨개요~"
우리는 망설임 없이 빨갛다고 말했다. 선생님은 웃으시며 피부색은 우리와 똑같다는 설명을 하셨다. 선생님의 설명을 듣고서야 왜 '빨갛다'라고 생각했는지, 어린 마음에도 충격이었다. 그 후 '세뇌'라는 단어가 무슨 뜻인지 알았다. (중학생 때 영어 단어도 금방 익혔다. brainwash) 그 시절에 우리는 반공 교육을 강하게 받았다. '공산당이 싫어요'라고 외치다 죽은 어린이 얘기는 두고두고 기억에 남는 교육 콘텐츠다. 얼마나 '빨갱이'라는 말을 많이 들었으면 북한에 사는 사람들 피부가 '빨갛다'라고 생각했던 것일까. 괴물처럼.
크면서 '세뇌'라는 자극적인 단어를 듣지 않게 되었다. 냉전시대가 종식했고 경제발전을 했고 다양성을 받아들이는 분위기가 되었기 때문일 것이다. 최근에는 '가스라이팅'이라는 단어를 많이 쓴다. 의미는 다르지만 남의 생각을 조종한다는 의미에서는 비슷하다. 우리가 접하는 각종 소셜미디어의 뉴스나 정보는 미처 알지 못하는 사이에 '세뇌' 이상의 수준을 넘어섰다. 단지 검색만 했을 뿐인데(어떤 때는 머리로 생각만 한 것 같은데) 각종 관련 광고가 내가 보는 콘텐츠에 딸려 온다. 마침 관심 있던 제품이므로 클릭해서 본다. 구매까지 이어질 때도 있고 아닐 때도 있지만 한 동안 운동화, 주름제거 세럼, 탄력 패치 등등 제품군도 다양하게 광고가 보였다. 한 유명인에 대한 뉴스가 궁금해서 보면 그 유명인과 관련된 각종 영상을 자동으로 보여준다. 처음에는 신통방통한 마음이 먼저였다. 그러나 지금은 간간이 무섭다. 인터넷 세상이 내 생각을 다 읽고 있는 것 같아서. 알고리즘에 지배당하는 사람이 된 것 같아서. 알고리즘은 언뜻 내가 관심 있는 분야를 보여줌으로써 내가 주도한 것처럼 보이지만, 나중에는 그 알고리즘에 의해 내가 점점 더 끌려가고 있음을 깨닫게 된다.
알고리즘은 기술이 발전한 시대에 맞닥뜨린 다른 종류의 '세뇌'다. '내가 원하는 물건이 이것인가?'라는 작은 질문부터 '이 생각이 내 생각인가?'싶은 것들까지. 타인의 주장, 의견에 격하게 공감이 가는 경우 나도 모르게 타인이 사용했던 단어, 문장을 쓰게 된다. 다른 사람에게 내 생각을 전하며 그 단어와 문장을 쓴다. 왜냐하면 내 생각을 아주 적확하게 표현한 단어라고 생각하기 때문에 아무 의심 없이 쓴다. 자주 쓰다 보면 그 단어와 문장은 내 것이 된다. 격하게 공감까지 하지 않더라도 어떤 사안에 대한 주장, 의견에 동의가 되면 그 생각을 수용한다. 수용한 정보, 뉴스를 계속 보면 '맞다는'확신을 갖게 된다. 애초 타인의 말에 동의하고 받아들인 것은 '나'이므로 내가 조종당한다는 생각은 꿈에도 하지 않는다. 내가 주도권을 가졌다고 여긴다. 하지만 과연 그럴까?
예를 들어, 팀에 내 마음에 들지 않게 일하는 직원이 있다. 일 못하는 그 직원이 다른 팀으로 발령 나면 좋겠다. 간혹 해당 직원이 실수라도 하면 반갑게 질책한다. 평가를 상대적으로 나쁘게 준다. 반면 다른 부서의 팀장은 그 직원의 성실하고 책임감 있는 자세를 높이 산다. '일 잘한다'는 것은 사람들과 얼마나 잘 협업하는가 에 달려있다고 한다. 그런 와중, 회사에서 구조조정을 한다. 윗사람이 해당 직원에 대해 물었을 때 동의하는 모양을 취한다. 내심 명예퇴직시킬 정도는 아니라고 생각하지만 '일 못한다'는 사실이 있으므로 썩 나쁜 선택은 아니라고 생각한다. 그렇게 해당 직원은 '퇴사자'명단에 오른다. 그 윗사람은 다른 부서의 팀장에게도 해당직원에 대해 물었지만 '반대'의견에 부딪혔다. 그 직원의 퇴사는 직속 팀장의 의견에 따라 정해진 것으로 만들어진다. 일을 잘하고 못하고의 문제는 여기서 중요하지 않다. 회사가 어떤 이유에서든 낙인을 찍은 사람을 내보내기 위한 방법으로 '직속 팀장'을 이용했다는 점이다. 팀장은 자신이 이용당한 줄 꿈에도 모를 것이다. 오히려 해당직원에게 일말의 미안함을 가질 것이다. 동시에 자신의 기준에서 '일 못한 사람'이기에 자기 합리화도 할 것이다. 실은 해당직원이 노조 간부라거나 억울한 일을 당한 동료를 대변하는 등 회사가 골치 아파하는 일에 관련되어 있지만, 그런 사실을 연계해서 생각하지 못하거나 몰랐을 것이다. 그 팀장은 단순하게 해당 직원이 자신의 마음에 들게 일하느냐, 하지 않느냐만 보았기 때문이다.
내게 보이는 세상이 내가 생각한 세상과 같은가. 내가 생각하는 것을 전기 자극으로 인식해 해석하는 인공지능의 말은 나의 언어인가? 인공지능이 학습할 자료를 만든 사람의 성향에 의해 사고체계가 만들어지는 것은 아닐까? 거대 회사가 만들어내는 그 '뇌 임플란트 칩'은 개개인의 고유한 특성을 충분히 반영할 수 있을까? 그 칩에 이미 패키지로 심어놓은 기술은 모든 사람의 생각을 획일적으로 만드는 것은 아닐까? 세뇌, 가스라이팅, 알고리즘 인간을 넘어 기계의 생각을 내가 하는 것으로 착각하게 되는 것은 아닐까? 실은 기계 뒤에 숨어 온 인류를 손아귀에 넣으려는 빌런에 의해 움직이는 것은 아닐까? (공상과학영화의 영향이다)
병마와 싸우는 환자에게 분명 희소식임에도 불구하고 끝없는 상상을 해본다.
