AI는 생각하지 않는다, 그저 흉내 낼 뿐이다
[혁신가이드안병민의 AI너머]
[방구석5분혁신=안병민] 우리는 AI에게 속고 있다. 스스로 학습하고, 창작하며, 인간을 초월할지 모른다는 거대한 신화에 홀려있다. 이제는 그 가면을 벗겨낼 시간이다. AI라는 거울 앞에 서서 우리 사회의 가장 불편한 민낯을 직시해야 한다. 모든 AI 관련 뉴스의 본질을 꿰뚫어 볼 날카로운 시각이 우리에게 절실하다.
먼저, 가장 큰 착각부터 교정하자. AI는 학습하지 않는다. 최소한 우리가 생각하는 방식으로는. AI의 '학습'은 지적 탐구가 아니다. 주어진 정답과 자신의 예측 사이의 오차를 0에 가깝게 줄여나가는 수학적 최적화 과정이다. 목표를 향해 수억 번의 계산을 반복하는 집요한 노가다일 뿐, 그 과정에 이해나 깨달음은 존재하지 않는다. 딥마인드의 알파폴드가 단백질 구조를 예측한 것은 생명의 신비를 해독해서가 아니다. 수십만 개 데이터 속에서 가장 확률 높은 정답을 '계산'해냈을 뿐이다. AI의 능력은 지능이 아니라, 압도적인 연산력에서 나온다. 마법이 아니라 수학이다.
그렇다면 진짜 위험은 어디에 있는가? AI가 너무 똑똑해지는 것? 천만에. AI가 우리의 가장 어리석고 편향된 모습을 너무나도 완벽하게 '증폭'시키는 데 있다. AI는 인간 사회라는 교과서로 공부하는 가장 우직한 학생이다. 이 공부의 방향키는 실리콘밸리의 경영진과 코드 몇 줄로 세상을 바꾸는 엔지니어, 그리고 그들의 알고리즘을 맹신하는 정책 입안자들의 손에 쥐어져 있다. 그들이 설계한 모델은 사회의 편견과 기업의 이해관계를 '객관적 사실'로 둔갑시킨다. 아마존의 채용 AI가 사회 편견을 재현하고, 테슬라의 자율주행 데이터가 기업의 이해를 대변하는 모습이야말로 AI의 본질적 위험이다. 기술의 가치중립성이라는 가면 뒤에 숨어 인간의 모순을 증폭시키는 확성기. 구원자를 꿈꿨던 AI의 불편한 민낯이다.
이제 우리는 엉뚱한 질문을 멈춰야 한다. 'AI가 인간을 지배할까?' 같은 공상과학적 질문 대신, 훨씬 더 현실적이고 불편한 질문을 던져야 한다. "AI의 알고리즘에 우리는 어떤 욕망을 새겨 넣고 있는가?" 가령, 의료 AI에게 '암 진단 정확도'를 1순위로 설정하면, AI는 과잉 진단의 위험을 감수한다. 반대로 '오진 없는 안정성'을 명령하면, 일부 암을 놓치는 위험을 감수한다. 이 결정은 기술의 영역이 아니다. '어떤 실수를 더 용납할 것인가'에 대한 사회적 합의이자 철학의 문제다. 우리는 이미 매 순간, 의식하지도 못한 채 AI의 윤리적 방향키 설정에 동참하고 있다.
여기서 한 걸음 더 나아가야 한다. 이제 AI는 현실을 반영하는 소극적 거울을 넘어, 현실을 창조하는 설계자의 자리를 넘본다. AI가 만들어낸 이미지와 텍스트는 더 이상 현실의 복제품이 아니다. 그 자체로 현실이 된다. 결국 우리는 흉내를 넘어 세상을 재창조하는 이 기술 앞에서, 무엇이 진짜인지조차 구분 못 하게 될지 모른다.
하지만 바로 그 지점에서 가장 중요하고도 변치 않는 본질이 드러난다. AI가 아무리 능동적으로 현실을 창조하는 것처럼 보여도, 그 창조의 재료와 방향성은 결국 우리가 제공한 데이터와 명령에서 비롯되기 때문이다. 결국 AI가 완성할 퍼즐은, 우리가 건네준 밑그림의 복제품일 뿐이라는 거다. AI가 혐오를 배운다면 그것은 우리가 혐오를 가르친 것이다. AI가 차별을 시스템으로 만든다면 그것은 우리 사회가 이미 차별을 용인하고 있었다는 뜻이다. 그렇기에 책임은 거울 앞에서 그림을 그려나가는 우리의 몫이다.
내가 사용하는 서비스의 알고리즘 추천을 의심하는 것, 데이터 제공 동의 버튼을 무심코 누르지 않는 것, 기술 기업에 알고리즘의 투명성을 요구하는 목소리를 내는 것. 거울 속 왜곡된 모습을 바로잡는 첫걸음들이다.
AI를 두려워할 일도, 맹신할 일도 아니다. 대신 직시하라. AI라는 거울은 나와 우리 사회의 모습을 남김없이 비춘다. 그 거울 앞에서 나는 어떤 그림을 그릴 것인가? 효율의 이름 아래 낡은 차별을 고착시킬 것인가, 아니면 더 나은 미래를 위한 새로운 코드를 써 내려갈 것인가. AI의 미래는 기술에 있지 않다. 이 질문에 대한 나와 우리의 답에 달려 있다. ⓒ혁신가이드안병민
● '방구석5분혁신' 브런치 글이 내 일과 삶의 행복한 경영혁신에 도움이 되었다면 잊지 마세요, 구독!^^
