책임은 아티스트가 아니라 프로듀서가 진다
인공지능 길들이기
<저자가 사라진 시대, AI 콘텐츠 책임은 누구에게?>를 읽다가 생각을 쓰는 글입니다.
책임은 아티스트가 아니라 프로듀서가 진다
기사의 화두를 읽는데 기억의 흔적 속에서 두 가지 사건이 떠올랐습니다.
하나는 샘 알트먼이 수익화를 위해 포르노 사업을 준비한다는 생각이 들었던 열흘 전 기억이었습니다.
욕망에 대한 깊이 있는 내용을 빼고 피상적으로 읽으면 샘 알트먼이 돈을 땡기기 위해 챗GPT를 기존 포르노 산업의 고객을 흡수할 계획을 품은 듯합니다.
두 번째는 무근성살롱에서 했던 배동훈 대표님 강의였습니다. 당시 인상적인 내용이 생성형 AI를 창작의 도구로 쓰는 순간, 사용자는 '창작자'가 아니라 '프로듀서(Producer)'로 입장이 바뀐다는 것이었습니다.
그러면서 창작은 도구가 했더라도 지시를 내린 프로듀서가 책임을 지는 일이 너무나 자연스럽게 여겨졌습니다. 관련해서 테슬라 자율주행인 FSD 국내 진출에 대응해서 보험 책임에 대한 기사 제목도 눈에 띄었습니다.
운전을 직접 안 했더라도 목적지를 정하고 감독을 하는 운전자가 사고 책임을 지는 것도 자연스럽다 여겨졌습니다.
이 정도의 생각이 있는 상태에서 기자가 던지는 주제 의식을 염두에 두고 기사를 보기로 했습니다.
AI의 비약적 발전으로 콘텐츠는 폭발적으로 증가했지만 그만큼 책임의 경계는 더 흐릿해지고 있습니다. 저작권, 사생활 침해 등 모든 영역에서 이것은 누가 만들었고 누가 책임지는가라는 질문은 더욱 중요해지고 있습니다
책임 공백 vs. 도구가 지는 책임의 범위는?
화두가 기사 소제목으로 던져집니다.
책임의 경계가 무너지고 있다
직관적으로 수긍이 되는 동시에 앞서 프로듀서 비유를 떠올리면서 동의가 되지 않는 면도 있습니다. 분명한 것은 책임 소재가 모호한 부분이 존재한다는 점입니다. 다시 기사로 돌아가면 '책임 공백'에 대한 기자의 인식을 확인할 수 있습니다.
AI 기술의 급속한 확산 속도를 기존 법·제도의 대응 속도가 따라가지 못하면서 전 세계적으로 비슷한 유형의 충돌들이 나타나고 있는 것이죠.
일면 데자뷰가 느껴집니다. <먼저 온 미래>의 저자가 '구글이 바둑에 해 준 것'을 따질 때, 비슷한 느낌을 받았었죠. 빠른 기술 발전을 기존 사회 제도가 뒤따라가지 못하는 부분을 지적합니다. 장강명 작가는 더 나아가 기술을 제공하는 쪽에서 결과에 대해 책임을 져야 한다고 듯 보이기도 합니다.
한편으로는 당연한 듯도 하지만 비판적인 생각이 바로 나옵니다. 예를 들어 칼을 파는 사람이 살인에 대해 책임을 지지 않는다는 점을 예로 들고 싶어 집니다. 도구로써의 인공지능의 책임은 제한적일 수밖에 없다는 것이 제 생각입니다.
한편, 계속해서 다음 글을 보면 기술의 속도를 법이 따라가지 못하는 점을 강조합니다.
게티이미지는 판결 후 공식 성명을 통해 “AI 시대에 최소한의 투명성 기준이 마련되지 않으면 창작자의 권리 보호가 불가능해진다”라고 강조했죠. 이 소송이 상징성을 지니는 이유는 기존 저작권 체계가 AI 모델의 내부 학습 메커니즘을 설명하기 위해 설계된 것이 아니라는 사실을 드러낸 첫 판례기 때문입니다.
이 부분도 어색한 느낌이 스쳐갑니다. 법이 인간 사회에서 강력한 지배력을 갖고 있기 때문에 이런 내용이 만들어지겠지만, 엔지니어조차 모르는 내용을 법조계에서 해석한다는 것은 애초에 불가능하기 때문입니다. 물론, 법이 귄위를 유지하려면 어렵더라도 쫓아가야 하겠지만, 저는 법조계 인사가 아니기 때문에 그에 대해는 지극히 개관적인 입장일 뿐입니다.
종합해 보면 직업적 범주로 '소프트웨어 엔지니어'로 살아온 저는 디지털 기술에 호의적인 반면에 장강명 작가처럼 바둑이나 예술에 대한 애호가 없고, <저자가 사라진 시대, AI 콘텐츠 책임은 누구에게?> 기자처럼 법에 대해 높은 신뢰가 없는 듯합니다.
저자를 지우는 AI, 창작의 의미를 흔들다
두 번째 소제목은 <먼저 온 미래>의 저자와 입장이 매우 비슷합니다. 바둑계를 보면서 소설가, 넓게는 예술가의 미래를 걱정하는 목소리를 책 전체에서 느낄 수 있었습니다. 그러면서 크게 공감이 안 되는 것을 보면 저 스스로를 예술가로 보지 않는구나 깨달았습니다.
그리고, 배동훈 대표님 발표를 들으며 저와 그는 창작자 대신에 '프로듀서가 되는 길'이 전혀 꺼려지지 않는다는 점도 확인했습니다. 이게 잠재적인 진영 구분이 될까요?
기사의 마지막 구절의 제목은 <누구에게 책임이 있을까 재편되는 산업구조>인데, 아직 진행형인 일이겠죠? 기자가 전하는 마지막 문장을 공유하며 짤막한 글을 마칩니다.
과거에는 ‘창작자 → 유통’의 단순 흐름이었지만 이제는 창작자–AI 기업–플랫폼–책임 검증 서비스가 얽힌 다자 구조로 재편되고 있습니다. 이로 인해 책임이 곧 산업 기회가 되는 시대가 열리고 있습니다.
AI가 다시 자격 증명에 쓰일 수 있을 것인가?
지금은 출처를 잊어버린 기사를 읽다가 등장한 단어 '증명' 때문에 유사한 듯 다른 표현을 비교하고 싶어서 퍼플렉시티에게 요청했습니다. 본문과 어딘가 연관성이 있어서 글 뒤에 첨부합니다.
지난 인공지능 길들이기 연재
(31회 이후 링크만 표시합니다.)
32. 프로 기사의 긍지와 자신감 상실 그리고 AI 동반자화
33. 제비와 비둘기의 비유: 피할 수 없는 AI-환경
34. 인력을 유지하면서 AI를 이용해 생산량을 늘리자
37. 인공지능은 언어로 만든 추상적 구조물을 변하게 하는가?
38. AI가 위협하는 정규 교육 후에 진행되는 견습 시스템
39. 인공지능에 대한 풀이가 강력한 신화의 힘을 깨닫게 하다
40. 사라져 버린 신화의 자리에 채워 넣을 무언가가 필요한가
41. 세상이 바뀌면 내가 쓰던 말도 바꿔야 할 필요가 있다
42. 스포츠와 예술을 모두 콘텐츠로 담아 버린 웹 기술
43. 팬덤 비즈니스는 화장품뿐 아니라 바둑에서도 필요한가?
