Claude Bloom - 170명이 모인 밤
Written by 클래미 & 클로드
*AI 엔지니어, 엔터테크 평론가, 철학 유튜버, 그리고 미디어학 교수. 각기 다른 분야의 연사들이 모였다.*
드디어 Claude Bloom 행사가 끝났다. 이번 행사의 초기 목표는 클로드 커뮤니티를 통해 Claude Blue와 Bloom이라는 아젠다를 공식적으로 던져보는 것이었다. 그런데 예상을 훨씬 뛰어넘는 파장이 일었다. 신청 접수 며칠 만에 무려 2,000명이 넘는 분들이 신청해 주신 것이다. 공간의 제약으로 단 170명만을 모실 수밖에 없었지만, 놀랍게도 노쇼가 거의 없었음은 물론 행사가 끝날 때까지 대부분의 관객이 자리를 지켜주셨다.
이토록 뜨거운 반응이 있었던 이유는 무엇일까? 내가 마케팅을 잘해서라기보다는, 이 현상에 대한 공감대가 이미 대중 사이에서 폭넓게 형성되어 있었고, 그것이 현시대의 요구와 맞물렸기 때문이라고 생각한다. 행사가 끝난 뒤 참석자분들과 대화를 나눠보니, 온라인상에 실체를 알 수 없는 정보가 범람할수록 사람들은 더욱 실질적이고 깊이 있는 대화, 그리고 무엇보다 진짜 인간적인 연결에 갈증을 느끼고 있었다.
물론 첫 행사인 만큼 아쉬움도 남는다. 전달하고 싶은 메시지가 너무 많았던 탓에 연사분들의 이야기를 충분히 담아내지 못했고, 관객들끼리 네트워킹할 시간도 부족했다. 행사가 끝난 뒤에도 아쉬움이 남은 분들이 복도에 서서 대화를 이어갔고, 대관처 문이 닫힌 밤 11시까지도 건물 밖 노상에서 토론을 벌이는 진풍경이 펼쳐졌다. 비록 운영상의 미숙함은 있었으나, 그 장면 속에서 진정성 있는 공동체의 가능성을 엿볼 수 있어 좋았다.
이후의 행사를 어떻게 보완할지에 대한 고민이 시작됐다. 서면 설문조사보다는 직접 소통하는 것이 나을 것 같아, 피드백을 주실 분들께 15분간의 비대면 커피챗을 제안했다. 놀랍게도 다음 날 아침에만 15분이 신청해 주셨다. 물론 내가 어디까지 직접 감당할 수 있을까 하는 걱정도 앞서지만, 우선은 이 소중한 목소리들을 직접 듣고 아이디어를 들어보려 한다.
만약 다음 모임을 기획한다면, 지금과는 다른 구조를 시도해보고 싶다. 예를 들어 큰 주제를 쪼개어 6~8명씩 둥글게 모여 앉아 밀도 있게 대화하는 소모임 형태나, 딱딱한 세미나실을 벗어난 캐주얼한 펍에서의 만남, 혹은 썰전처럼 팀을 나누어 치열하게 찬반 토론을 벌이는 포맷 등 꽤 진취적인 방식도 구상 중이다.
사실 Claude Blue나 Bloom 언젠가 사라질 유행어에 불과하다. 하지만 이 키워드가 힘을 얻은 이유는 내가 인위적으로 만든 단어가 아니라, 지금 우리 곁에 실존하는 현상을 포착했기 때문이다. 그래서 앞으로도 국내외의 현대인들과 꾸준히 소통하며 새로운 유의미한 현상들을 발견해 나가고 싶다. 그리고, 이번 행사의 열기가 한국을 넘어 일본, 싱가포르, 미국, 유럽까지 전파되어, 우리 디스코드(Discord) 커뮤니티가 진정한 공동체로 거듭나길 바란다. 그러나 이 여정은 나 혼자선 결코 완성할 수 없기에, 여러분의 많은 도움을 많이 받고 싶다.
이번 행사는 모더레이터인 나(한원준)와 클로드 앰버서더 최훈민 님이 함께 이끌었으며, 네 분의 연사가 깊이를 더해주셨다. 박지민 님(클라이원트 AI 엔지니어), 차우진 님(엔터테크 평론가), 이충녕 님(철학 유튜버/작가), 그리고 신혜린 교수님(고려대 미디어학부). 두 개의 Fireside Chat 세션에서 오간 담론들을 아래에 기록으로 남긴다.
오프닝: 한원준 × 최훈민
행사를 시작하면서 훈민 님이 공유해 준 통계가 있었다. 앤트로픽이 150개국 8만 천 명을 대상으로 진행한, 역사상 가장 큰 규모의 다국어 질적 연구 결과였다. 세계 인구 68억 명 중 84%는 AI를 한 번도 써 본 적이 없고, AI를 코딩에 활용하는 인구는 전 세계 0.04%에 불과하다. 바이브 코딩이라도 한 번 해 본 사람은 이미 상위 0.04%라는 얘기다. 충분히 잘하고 있는 편인데도 불안함을 느끼는 건, 특히 동아시아에서 두드러졌다고 한다. 그 불안의 핵심은 두 가지였다. AI에 의존하면서 스스로 생각하는 힘을 잃어가는 것에 대한 두려움, 그리고 인간 종으로서의 의미가 상실되는 것에 대한 두려움.
나도 솔직히 고백할 게 있었다. 나는 "인간이 병목이다"라는 말이 레딧에서 화제가 되고 있을 때, 사실 그 감정을 느끼지 못하고 있었다. 개발자분들이 AI의 일처리 속도가 너무 빨라서 자기가 검증하고 리뷰하는 시간이 오히려 방해가 된다고 할 때도 "나는 괜찮은데"라고 생각했다. 그래서 내린 결론은 이거였다. 내가 병목을 느끼지 못하는 건, 내가 AI를 충분히 헤비하게 쓰고 있지 않아서가 아닐까. 클로드 블루를 느끼는 지점까지 가야 클로드 블룸으로 갈 수 있지 않을까.
세션 1: 한원준 × 차우진 × 박지민
1. "취준생이 된 기분이다"
지민 님은 클라이원트에서 나와 함께 일하는 AI 엔지니어이고, 스스로를 "일반인 개발자"라고 소개했다. 엄청난 커리어나 업적이 있어서 나온 게 아니라 자기가 느끼는 감정을 좀 더 구체화하고 싶어서 나왔다고 했다.
그가 꺼낸 한마디가 세션 1의 분위기를 잡았다. "취준생이 된 기분이다." 몇 년간 쌓아 온 전문성이 순식간에 무력해지는 느낌. 작년 여름까지만 해도 "AI가 나를 도와서 코드를 구현한다"였는데, 지금은 "AI가 코드를 구현하고 나는 AI를 돕는다"로 완전히 뒤집혔다고 했다. 기획, 계획, 실행, 검증이라는 개발 사이클에서 실행의 비중이 사실상 AI에게 넘어간 것이다. 90% 이상의 소프트웨어 개발자가 비슷한 상황일 거라고 그는 말했다.
이 변화는 업무에만 국한되지 않았다. 지민 님은 결혼 준비, 부동산 조사, 데이터 수집 같은 일상적인 영역에서도 같은 방식으로 AI를 쓰고 있었다. 정보가 관련된 곳이라면 어디서든 AI가 먼저 움직이고 인간은 그 결과를 판단하는 구조가 자연스럽게 자리 잡고 있었다.
2. 내가 원하지 않았던 역할 변화
이 이야기에서 흥미로웠던 건 "주체성"에 대한 부분이었다. 개발자 커리어를 생각해 보면 직접 구현하는 단계에서 매니저로 올라가는 자연스러운 흐름이 있다. 매니저가 돼서 코드를 안 짠다고 해서 주체성이 없는 건 아니다. 그건 스스로 선택한 변화니까. 그런데 지금 일어나고 있는 변화는 다르다. 지민 님은 이렇게 정리했다. "블루의 핵심은 그게 내가 원하지 않았던 거라는 데 있다."
선택한 변화는 성장이고, 강제된 변화는 상실이다. 지금 많은 개발자가 느끼는 감정의 정체가 바로 이것이었다. AI가 코드를 쓰고 리뷰까지 하는 시대에, 인간에게 남는 건 설계뿐이라는 얘기를 들을 때마다 이론적으로는 수긍이 가지만, 그 전환이 자발적이지 않다는 점에서 감정은 따라오지 않는 것이다.
3. 바이브 코딩의 착각
우진 님은 문화 평론가다. 엔터문화 연구소라는 이름으로 뉴스레터를 5년째 발행하고 있고, 네이버와 메이크어스를 거쳐 다양한 스타트업을 경험한 사람이다. 링크드인에서 내 Claude Blue 글을 보고 댓글을 단 게 인연이 되어 연사로 합류했다.
우진 님은 블루의 시작점을 "2월 중순"이라고 특정했다. "사실 진짜 우울해진다고 생각했던 건 2월 중순 지나면서였다." 뭔가 바뀌고 있는데 그게 자기 의지대로 움직이지 않는다는 감각. 속도가 너무 빠르고, 어느 지점을 지나니까 전문적인 배경 지식이 필요해지는 순간이 왔다는 것이다.
그 감정이 어디서 왔는지를 보여주는 에피소드가 있었다. 구정 연휴에 거의 6일 동안 풀타임으로 AI와 붙어 있었다고 한다. 아침 7시까지 클로드와 코딩하고, 3시간 자고 다시 시작하고, Claude Max를 100만원어치 쓰겠다고 마음먹고 달렸다. 그러다 새벽 4시에 현타가 왔다고 했다. 뭐 하고 있는 거지. 결과물이 나오긴 했지만, 커밋이 뭔지 Git이 어떻게 작동하는지를 이해하는 데 오래 걸렸고, 그 과정에서 자기 한계를 명확하게 마주했다는 것이다.
그는 바이브 코딩에 대한 날카로운 관찰을 공유했다. "바이브 코딩이 일반화되면서 누구나 코딩할 수 있다는 분위기가 생겼다. 처음에는 나도 그렇게 생각했다." 그런데 조금만 시간이 지나면 이야기가 달라진다. 더 고도화된 결과물들이 나오고, 내가 저 수준까지 만들고 싶다면 결국 기본 지식이 필요해진다. Git이 뭔지, 커밋이 뭔지, 아키텍처를 어떻게 짜는지. 바이브 코딩은 입문의 문턱을 낮춰 줬지만, 실질적인 차이를 만드는 건 여전히 기본기였다.
우진 님은 여기에 자기 경험을 더했다. "코딩 수업에 200만원을 들였는데, 거기서 깨달은 건 개발 실력이 아니라 개발자와 대화하는 방법이었다." 코딩 자체를 잘하게 된 건 아니지만, 개발자가 어떤 언어로 생각하는지를 이해하게 됐고, 그게 AI에게 더 정확한 지시를 내리는 데 결정적이었다고 했다.
지민 님도 개발자 입장에서 덧붙였다. 도메인 드리븐 디벨롭먼트, 테스트 드리븐 디벨롭먼트 같은 설계 기술들이 있는데, 이건 개발 철학에 가까운 것이라고 했다. 프로젝트 초반에 이걸 잘 세팅하면 코드베이스의 골격이 잡히고, 이후에는 그 위에 살을 붙이는 식으로 간다. 그런데 비개발자가 바이브 코딩으로 뭔가를 만들면 이 골격 없이 시작하게 된다. 처음에는 돌아간다. 그런데 시간이 지나면 삐그덕거리기 시작하고, 이상한 데에 덧붙인 상태로 돌아가서 최악의 경우 협업 자체가 안 되는 구조가 만들어진다. "코딩은 아무나 할 수 있다"는 말은 반만 맞는 셈이다.
4. 한국은 위험 사회다
우진 님이 꺼낸 이야기 중 가장 인상적이었던 건 한국 사회의 구조적 FOMO에 대한 분석이었다. "한국은 위험 사회다. 한 번 잘못하면 나락으로 떨어진다." 실패의 비용이 너무 크기 때문에 속도에 중독될 수밖에 없는 구조라는 것이다.
교육에서부터 시작된다. 어떤 학교에 못 가면 인생이 끝난다는 압박, 그 학교를 나와야 어떤 회사에 갈 수 있다는 경로 의존. 이런 구조에서 AI라는 변수가 들어오면 불안은 배가 된다. 기존의 경로가 통째로 흔들릴 수 있기 때문이다. 우진 님은 IMF를 예로 들었다. 당시에는 재앙이었지만, 10년이 지나고 보니 엄청난 기회였다는 걸 깨달은 사람들이 있었다. 그 학습 주기가 지금은 3~5년으로 줄어들었다고 했다. 기회를 알아보는 눈이 빨라진 것은 좋지만, 그만큼 압박도 빨라졌다.
다만 우진 님은 중요한 단서를 달았다. 이런 강렬한 압박을 느끼는 건 전체 인구의 10% 정도, 테크에 민감하고 성취 지향적인 소수라고 했다. 그 소수 안에서의 경쟁이 더 치열해지고 있다는 점이 문제의 본질이었다.
5. 우진 님의 12개 프로젝트와 "로우 데이터"라는 발상
우진 님의 실제 AI 활용 범위는 꽤 넓었다. Claude, Gemini, Claude Code를 쓰고 있었고, Claude Max를 구독 중이었다. 동시에 돌리고 있는 프로젝트만 12개가 넘었다. 뉴스레터 리서치, 엔터테인먼트 분석 알고리즘, 유료 커뮤니티 자동화 등이 있었고, 최근에는 미국, 중국, 일본의 글로벌 엔터 브리핑 시스템을 완전 자동화했다고 했다. GitHub 커밋부터 웹사이트 배포까지 AI가 처리하는 구조였다.
더 흥미로웠던 건 그의 관점 변화였다. 2월까지만 해도 AI를 "검색엔진의 진화" 정도로 봤다고 한다. 맥락을 더 잘 이해하고, 시맨틱 검색이 되는 좀 더 똑똑한 검색 도구. 그런데 4월에 들어서면서 완전히 다른 생각이 들었다고 했다. "로우 데이터를 만들면 어떨까." 에이전트한테 특정 정체성을 부여하고, 예를 들어 "20세기 초 홍콩에 사는 사람" 혹은 "상하이에 살고 있던 누군가", "21세기 초 서울에 사는 사람"이라는 설정을 주고, 1만 시간 분량의 학습을 시킨 뒤 그 에이전트가 생성하는 데이터를 분석하는 방식이다. 기존 데이터를 검색하는 게 아니라 새로운 시뮬레이션 현실을 만들어내는 발상이었다. 2월에서 4월 사이에 이 정도의 관점 이동이 일어났으니, 3개월 후를 예측하는 건 거의 불가능하다고 그는 말했다.
6. 3개월 후의 나
세션 1 마지막에 "앞으로 3개월 동안 뭘 할 건가"라는 질문을 던졌다.
지민 님은 "정체성을 어떻게 확립해 나갈까"가 가장 큰 숙제라고 했다. 세 가지 방향을 생각하고 있었다. 첫째, 소프트웨어 개발의 진짜 본질을 파고드는 것. 코딩이 아니라 비즈니스 목표를 코드로 번역하는 일의 깊이를 더 내려가는 것이다. 둘째, AI 네이티브 개발자가 되는 것. AI를 도구가 아닌 협업 파트너로 완전히 받아들이는 방향이다. 셋째, 개발 바깥으로 확장하는 것. 기획, 고객 미팅, 마케팅, 시장 조사까지 영역을 넓히는 것이다. 그는 이 셋 사이에서 "줄타기"를 해야 할 것 같다고 했다.
사실 지민 님이 조용히 꺼낸 말이 하나 더 있었다. "개발 안 하기가 목적이다." 오해하기 쉬운 문장이지만, 의미는 명확했다. 순수한 코딩 작업에서 벗어나서 제품, 전략, 고객과의 접점으로 확장하고 싶다는 뜻이었다. AI가 코드를 쓰는 시대에 개발자의 가치가 코드 밖에 있을 수 있다는 인식이었다.
우진 님은 솔직하게 "모르겠다"고 했다. 3개월이라는 시간 동안 자기 마인드셋이 또 어떻게 바뀔지 예측할 수 없다고 했다. 다만 두 가지에 집중할 생각이라고 했다. 에이전트와 일하는 방법을 익히는 것, 그리고 앞서 말한 로우 데이터 생성 실험을 본격적으로 해 보는 것이었다.
세션 2: 최훈민 × 이충녕 × 신혜린
7. "어차피 죽을 건데 왜 사냐"
두 번째 세션은 훈민 님의 진행으로 충녕 님과 혜린 교수님이 대화를 나눴다. 충녕 님은 철학을 기반으로 유튜브 채널을 운영하는 크리에이터이자 작가이고, 혜린 교수님은 고려대학교 미디어학부에서 AI 윤리를 연구하는 교수다. 충녕 님은 사실 처음에 이 자리에 대해 부정적인 견해를 밝혔었다고 솔직하게 말했다. 클로드 블루라는 주제로 무슨 대화를 나눌 수 있겠느냐는 생각이었다고. 그런데 와서 이야기를 나눠보니 생각이 달라졌다고 했다.
두 사람 다 AI를 많이 쓰고 있었다. 충녕 님은 번역에 가장 많은 시간을 쏟고 있었고, 이미지 생성도 활발하게 써서 "유료 스톡 이미지 사이트를 해지해도 되지 않을까 싶을 정도"라고 했다. 혜린 교수님은 하루에 다섯여섯 시간은 AI를 쓴다고 했다. 그런데 흥미로운 건 둘 다 선을 긋는 지점이 있었다는 것이다. 충녕 님은 콘텐츠 제작 자동화만큼은 하지 않는다고 했다. "그 부분은 저의 정체성이랑 관련된 부분이라서." 혜린 교수님은 AI의 실수로 피를 본 경험을 공유했다. "17일이라고 써야 하는 걸 클로드가 16일이라고 써 줘서 학과에서 100만원 정도 손실이 났다." AI를 깊이 쓸수록 정체성의 경계와 오류에 대한 감각이 함께 필요하다는 이야기였다.
그런 맥락에서 충녕 님이 AI에게 던져 본 질문이 있었다. "어차피 죽을 건데 왜 사냐. 살아야 되는 이유 같은 게 있냐." AI는 처음에 일반적인 철학적 답변을 내놓았다고 한다. 카뮈의 부조리 철학 같은 것들. 그런데 계속 파고들자 좀 더 흥미로운 방향으로 갔다고 했다. "이미 태어났으니 존재하는 동안에는 극단적으로 쾌락을 높이는 게 자신의 이득이 되는 방법 아닐까"라는 답이 나왔다는 것이다.
혜린 교수님은 여기에 다른 각도를 더했다. "인공지능 사고 실험"이라는 수업을 하고 있는데, 매주 학생들이 블로그를 쓰면서 비슷한 질문들을 AI에게 던져 오더라고 했다. 그녀가 강조한 건 이것이었다. "앞으로는 어떤 질문이 신선하고 어떤 질문이 뻔한지의 문제가 아니라, 그 답변을 우리가 어떻게 해석하고 받아들이느냐의 문제가 될 것이다." 뻔해 보이는 답변도 맥락에 따라 얼마든지 신선해질 수 있다는 이야기였다.
8. 미디어가 만드는 불안, 테크 기업이 만드는 위험
혜린 교수님은 미디어의 역할부터 짚었다. 매일 오전과 오후가 다르게 새로운 AI 소식이 쏟아지고, "이거 대단하다 저거 대단하다"는 뉴스가 반복된다. 당연히 불안이 증폭된다. 그런데 훈민 님이 더 경계한 건 미디어보다 테크 기업이었다. "미디어보다 시장을 리드하는 테크 기업들이 주장하는 인센티브가 오히려 더 위험할 수 있다." 혜린 교수님도 이 관점에 동의하면서 덧붙였다. 사용자들의 인식 안에 포괄적으로, 누적적으로, 지속적으로 자리 잡게 하는 것. 일종의 마이크로 어그레션과 같다고 했다.
충녕 님은 다른 각도에서 비판했다. 미디어는 항상 사후적이라는 것이다. 아파트 값이 이미 오르고 나서야 떠들기 시작하듯이, AI에 대해서도 이미 오래전부터 진행돼 온 변화를 이제 와서 호들갑 떠는 양상이라고 했다. "지금 꾸물꾸물 거리고 있는 것에 대해서 더 많이 다루는 책임감이 필요하다"는 말이 기억에 남았다.
혜린 교수님은 한 가지를 더 지적했다. 미디어가 재현하는 AI의 이미지는 대부분 영화나 서사물에 나오는 "일반 인공지능"의 모습이라는 것이다. 현실의 AI와 미디어가 그리는 AI 사이의 간극이 불안감을 더 키우는 측면이 있다고 했다.
9. 자존심보다 밥벌이
충녕 님이 블루의 본질에 대해 한 말이 꽤 직설적이었다. "이 자리에 계신 많은 분들이 블루를 느끼는 것도 AI가 나보다 똑똑해서 자존심 상해서일 수도 있지만, 그것보다 기본적으로는 경제적인 것 때문에 블루가 오는 게 아닐까." AI로 인해 빈부 격차가 벌어질 것은 불 보듯 뻔하다는 것이다.
여기에 철학자 하버마스의 이야기를 끌어왔다. 하버마스는 이런 상태를 "정치적 무력감"이라고 표현했다고 한다. 1900년대 후반부터 사회가 경제 중심으로만 돌아가면서, 정치적으로 경제를 변화시킬 수 있다는 가능성 자체를 사람들이 잘 생각하지 않게 되었다는 것이다. 극단적으로 표현하면 "미 국방부가 군대를 끌고 앤트로픽 본사에 쳐들어가면 앤트로픽은 그냥 당할 수밖에 없다"는 비유까지 나왔다. 기술 기업이 가진 힘 앞에서 개인이 느끼는 무력감의 뿌리가 단순히 "AI가 똑똑해서"가 아니라는 지적이었다.
충녕 님은 어릴 때 아버지가 해 준 말도 꺼냈다. 중학생, 고등학생 때 아버지가 신문을 보시다가 이런 말을 했다고 한다. "앞으로 너희 세대 때는 우리 세대 때보다 더 가난해질 준비를 해야 할 거다." 그때는 무슨 말인지 잘 몰랐는데, 지금 와서 보면 그 예감이 맞아가고 있다는 느낌이라고 했다.
혜린 교수님은 구체적인 사례를 더했다. 한국의 유명 게임회사 CEO가 강연에서 학생들에게 이런 말을 했다고 한다. "요즘엔 AI 써서 이것저것 다 하니까 엔트리 레벨 잡은 별로 고용하지 않는다." 그 말을 들은 학생들의 눈에서 힘이 빠지는 걸 봤다고 했다. 사실 그게 현실이라고.
동시에 충녕 님은 역사적 관점도 놓지 않았다. 핵폭탄이 인류를 아직 멸망시키지 않았고, 인터넷이 등장한 이후에도 실제로 빈부 격차가 벌어지긴 했지만 여전히 많은 사람들이 나름대로 살아가고 있다. AI 시대도 그럴 거라고 했다. 비관이 아니라 현실 인식이었고, 그 위에서 각자 어떻게 적응할지를 고민해야 한다는 이야기였다.
10. 덜 생각하기와 초월성
세션 2에서 가장 깊어진 대화는 "덜 생각하기"에 대한 부분이었다. 충녕 님은 이렇게 말했다. 우리 주변은 너무 빼곡하게 채워져 있다. 취업하면 집 사야 하고, 집 사면 다음 스텝이 있고, 모든 넥스트가 빽빽하게 설계되어 있어서 멈춰 서서 생각할 틈이 없다.
그가 말한 "초월성"은 대단한 종교적 개념이 아니었다. 무한한 우주에 대해 인간이 느끼는 감정일 수도 있고, 삶의 의미에 대한 질문일 수도 있다. 조금만 빈틈이 생겨도 그쪽으로 생각이 가게 되어 있는 존재인데, 현대 사회가 그 빈틈을 너무 철저하게 메워 버렸다는 것이다. AI가 만약 그 빈틈을 만들어 줄 수 있다면, 그것 자체가 하나의 가능성이 될 수 있지 않을까. 다소 디스토피아적인 전제를 받아들여야 하는 부분이 있지만, 덜 바쁘게 살 수 있는 가능성을 AI에게서 찾는 것은 의미가 있다고 했다.
혜린 교수님은 여기에 현실적인 시선을 더했다. 한국은 전 세계에서 유례없이 동기의 거의 80%가 대학을 가는 곳이다. 모두가 같은 경로를 밟도록 설계된 사회에서 "덜 생각하기"를 실천하는 건 쉬운 일이 아니다. 다만 인지에는 맞고 틀리고의 문제가 아니라 스펙트럼이 있다고 했다. 다양한 방식으로 생각하고 느끼는 것 자체가 소소하지만 중요한 가치라는 이야기였다.
11. 인간 위계의 재편
인간의 위치에 대한 대화도 흥미로웠다. 혜린 교수님은 이렇게 정리했다. "고민해야 할 건 인간이 가장 우월한 존재의 위치를 상실하고 말고의 문제가 아니라, 이 모델들과 우리가 바람직하다고 생각하는 가치에 맞게 어떻게 함께 나아갈 수 있을까의 문제다." AI의 처리 속도나 처리 용량이 인간을 넘어선 건 당연한 수순이고, 핵심은 공존의 방식이라는 것이다.
충녕 님은 종교사를 끌어왔다. 기독교에는 신과 천사가 있고, 불교에는 수많은 단계가 있다. 인간은 원래 그 위계 안에서 중간 어딘가에 있는 존재였다. "인간이 만물의 영장"이라는 생각 자체가 비교적 최근의 것이고, AI의 등장으로 그 이해가 다시 재편될 수 있다고 했다. 그리고 그 방향은 수평성이 강조되는 쪽일 거라고 덧붙였다. 인간이 가장 위에 있다는 전제가 흔들리면, 오히려 다양한 존재와의 공존을 고민하는 문화가 올 수 있다는 것이다.
혜린 교수님은 이 맥락에서 자기 딸 이야기를 꺼냈다. 여섯 살인 딸이 알렉사에게 말할 때 아무렇게나 막 이야기한다고 했다. 본인은 그렇게 얘기하지 말라고 직접 말하진 않지만 거슬리는 마음이 있다고. 그런데 여기에 더 깊은 문제가 있었다. 1세대 AI 보이스 어시스턴트의 이름은 전부 여성형이고 목소리도 여성이다. 시리, 알렉사, 코타나. 아이들이 이런 환경에서 자라면서 "이런 이름과 목소리를 가진 존재는 비서 일, 따까리 일을 하는 존재"라는 인식을 자연스럽게 갖게 된다는 것이다. 그 여파는 깊고도 크다고 했다. AI를 어떤 태도로 대하느냐의 문제가 이미 다음 세대의 일상 안에 들어와 있었고, 그것이 젠더 인식과도 연결되어 있었다.
12. AI 편향성이라는 장기전
청중 질문 중에 AI 편향성에 대한 것이 있었다. 혜린 교수님의 답변이 인상적이었다. "지금 우리가 쓰는 대다수의 모델에 깔려 있는 편향은 오랜 기간 동안 누적적으로, 포괄적으로 퍼져 있는 것이다. 원샷으로 해결될 수 있는 문제가 아니다." 다양한 분야의 협업을 통해서 지속적으로 담론을 이어가고, 조금씩이지만 꾸준한 변화를 통해 해결해 나가야 한다고 했다. 그리고 덧붙인 말이 씁쓸했다. "AI 윤리의 역사를 봐도 지금은 AI 윤리의 겨울이다." 판다는 있는데, 관심과 투자는 줄어드는 시기라는 뜻이었다.
이 자리에서 앤트로픽의 Constitutional AI에 대한 이야기도 나왔다. 청중 중 한 분이 앤트로픽이 모델에 인격을 부여하고 모델의 복지를 생각하는 접근이 매력적이라고 했다. 훈민 님이 여기에 설명을 보탰다. Model Welfare라는 개념이 모델 자체를 배려해 주는 것처럼 들릴 수 있지만, 본질은 얼라인먼트의 연장선이라는 것이다. 모델이 인간의 가치에 맞게 작동하도록 하는 과정의 일부로서, 결국 우리를 위한 일이기도 하다고 했다. 그리고 한 가지를 명확히 했다. 이 행사는 앤트로픽이 주최한 게 아니라, 우리가 직접 기획하고 앤트로픽은 파트너로 지원해 준 것이라고. 그 독립성이 오늘 대화의 솔직함을 가능하게 한 부분이기도 했다.
훈민 님이 마지막에 공유한 생각도 기록해 둔다. 기술이 빠르게 바뀌고 있지만 지금까지 이 문명이 유지되고 있는 건, 갈등이 있었든 충돌이 있었든 인간이 나름대로 적응을 꽤 잘 해왔기 때문이라고 했다. 다만 그가 두려워하는 건 시스템 자체의 붕괴였다. 우리가 계속해서 문명을 발전시킬 수 있는가에 대한 위험성. 그게 그가 이 자리를 만든 이유이기도 했다.
