AI라는 블랙박스

더블 클릭 환상 - <<성경적 비판이론>> 9장을 읽고.

by 박지명

만약 지박령을 본다면 지구가 자전하고 있는데 어떻게 지평좌표계를 고정했냐고 묻겠다는 물음으로 궤도는 유튜브 계의 궤도를 탔다. 산타가 쏘는 선물의 속도를 계산해 “잠 안 자고 기다리다 맞으면 큰일 난다”라는 이야기에 많은 이들이 폭소(혹은 실소)하는 까닭은 그의 시야가 과학의 틀을 일상에 과감히 들이대며 경계를 밀어붙이기 때문이다. 그는 보법이 다른 과학 커뮤니케이터다. 과학과 비과학의 경계를 오가며, 모든 ‘지식’을 과학적 설명으로 환원해보고 싶어 하는 열정이 그의 말과 장면을 이끈다.


인터넷, 유튜브, TV를 켜면 ‘과학적으로 세상 보기’는 이제 손끝의 습관이 되었다. 기술은 빨라졌고, 검색과 AI는 즉각 답을 내놓는다. 우리는 그 결과들 앞에서 취사선택자의 자리를 얻었다. 편리함은 유혹이고, 유혹은 곧 당연함이 된다.


하지만 우리가 믿는 “진실에 곧장 닿는 접속”이 허구라면? 브뤼노 라투르는 이 즉시성의 감각을 ‘더블 클릭’이라 부른다. 아이콘을 두 번 누르면 저편 페이지로 ‘툭’ 넘어가듯, 객관적이고 공정한 지식과 세계 사이를 아무런 마찰 없이 왕복할 수 있다는 믿음이 그가 말하는 '더블 클릭 지식'이다. 라투르 그 ‘한 번의 클릭’ 뒤에는 언제나 사람들이 있고, 도구와 절차가 있고, 논쟁과 합의가 있다고 말한다. 실험기구, 데이터 정제, 해석의 언어, 동료평가, 법정의 절차, 정치적 토론까지—지식은 늘 매개를 통과해 온다. 게다가 우리가 TV 프로그램을 통해 과학적 ‘사실’을 접할 때는 과학의 매개에 더해 미디어의 매개를 한 겹 더 통과한다. 그런데 우리는 그 경유지를 점점 잊어간다.


여기서 라투르의 더 넓은 맥락을 짧게 짚자. 그는 세계와 접속하는 길이 하나뿐(근대적 표상주의: 세계가 ‘있는 그대로’ 투명하게 재현될 수 있다는 믿음)이라 보지 않는다. 과학, 법, 정치, 종교, 기술 등 서로 다른 존재 양식이 저마다의 타당성 조건과 매개 장치로 진실을 만든다. ‘더블 클릭’은 이 다양한 경로를 지워버리고, 클릭 한 번의 직통로만 남긴다. 여기서 포인트는 상대주의로 미끄러지는 것이 아니라, 각 양식의 규칙을 식별하고 존중하는 데 있다.


이 지점에서 흔한 오해 하나를 풀어보자면, ‘더블 클릭’ 비판이 곧 “과학적 사실과 신념을 같은 무게로 놓는다”는 뜻은 아니다. 여기서 말하는 ‘믿음’은 초개인적 신념이라기보다, 규칙과 절차를 공유·신뢰하는 행위(통계적 기준, 검증 절차, 동료평가)를 포함한다. 다시 말해, 지식의 매개성을 인정한다고 해서 과학의 타당성을 의견의 평평한 시장으로 끌어내리려는 게 아니다. 오히려 과학이 강력한 이유는 그 매개 장치의 정교함에 있다.


라투르는 또한, 정화된 ‘더블 클릭 지식’이 과학이 밀어내려고 하는 종교의 특성을 닮아가기도 한다고 풍자한다. '더블 클릭'의 태도는 “내가 곧 길이요 진리요 이성이니 나로 말미암지 않고는 지식에 이를 수 없느니라”라는 패러디로 요약되는 태도—자기 외의 지식 주장들을 상대주의로 밀어내는 태도다. 기술 발전에 따라 과학이 우리의 삶에서 차지하는 비중이 커질수록, 그 영토 확장은 쉬워지고, 그만큼 매개를 지우고 싶은 유혹도 커진다.


생성형 AI는 우리 시대의 가장 정교한 ‘더블 클릭 장치’처럼 보인다. 한 줄을 치면 곧장 문장이 도착한다. 그러나 그 문장의 뒤에는 데이터 수집과 선별, 전처리 기준, 모델과 학습 과정, 안전 정책, 그리고 질문을 특정 방식으로 재구성하는 인터페이스가 있다. 흔적은 감춰지고 결과만 남는다. 그렇기에 AI를 ‘사실 기계’나 더 나아가 하나의 ‘인격’[정확히는 우리가 빌려준 지향성(Borrowed Intentionality)을 덧씌운 대상에 불과하기 때문에]으로 대하는 관점은 위험하다. AI는 사실을 만드는 과정에 참여하는 매개 장치다. 즉시성의 신화를 걷어내고 매개의 감각을 회복할 때, 우리는 AI의 출력을 종착역이 아니라 환승역으로 다룰 수 있다. “여기까지 어떤 길을 거쳐 내 앞에 왔는가?”를 묻는 습관이 곧 안전장치다.


법을 예로 들어 보면, 판결문은 단숨에 ‘사실’을 전하는 것처럼 보이지만, 그 뒤에는 증거능력, 증명책임, 절차적 보장이 층층이 작동한다. 라투르가 말하는 ‘매개’는 이런 절차적 진실 생산의 구조와 닮아 있다. 과학도, 미디어도, AI도 마찬가지다. 다만 절차가 다를 뿐이다.


결국, 지식은 늘 경유한다. 경유지를 드러내는 태도는 불편하고 느리다. 그러나 바로 그 느림이 신뢰의 조건이자 인간이 지식을 쌓아온 방법이다. 우리는 AI가 내놓는 문장을 “잘 쓴 마지막 답”이 아니라, 다음 열차로 갈아타기 위한 환승 안내문으로 읽어야 한다. 그때 비로소 ‘즉시성의 복음’이 벗겨지고, 매개의 윤리가 등장한다.


AI의 매개 장치로서의 자리를 더 보고 싶다면 케이트 크로퍼드의 『AI 지도책』을 권한다. 개발과 배치의 뒷이야기—데이터, 노동, 인프라—가 어떤 경유지를 거쳐 우리 손끝의 ‘즉시성’으로 포장되는지 보여준다.

https://search.shopping.naver.com/book/catalog/36144588622?cat_id=50010760&frm=PBOKPRO&query=AI+%EC%A7%80%EB%8F%84%EC%B1%85&NaPm=ct%3Dmewfq4ts%7Cci%3Db349d85d8d144aff7a5bf27e0ee2863339f86aa0%7Ctr%3Dboknx%7Csn%3D95694%7Chk%3D5b332efe45494bdf7f8485a6ba495f226b6e17dc