애민 제2조. 양민(養民).
"투자하세요. 지금 당장."
화면 속.
일론 머스크가 말했다.
"이 플랫폼에 투자하면
단 3개월 만에
높은 수익을 보장합니다."
김씨, 67세.
퇴직 교사.
서울.
평생 모은 돈.
8천만 원.
영상 속 머스크는
확신에 차 있었다.
"저도 투자했습니다.
여러분도 할 수 있습니다."
김씨는 믿었다.
머스크의 얼굴.
목소리.
확신.
송금했다.
3개월 후.
플랫폼과 돈이
사라졌다.
그제야 알았다.
영상 속 머스크는
진짜가 아니었다.
딥페이크.
AI가 만든 가짜였다.
김씨만이 아니었다.
수천 명이
같은 사기에 속았다.
유명인의 얼굴.
전문가의 목소리.
정교한 연출.
소셜 미디어와
동영상 플랫폼은
알고 있었다.
하지만 멈추지 않았다.
왜?
클릭률이 높았다.
조회수가 많았다.
광고 수익이 발생했다.
알고리즘은
이런 영상을
더 많은 사람에게 퍼뜨렸다.
플랫폼은
간사한 술수를 확산시키는
도구가 되고 말았다.
凡民之飢寒疾病, 悉宜周恤
범민지기한질병, 실의주휼
"무릇 백성의 굶주림, 추위, 질병에 대해
모두 마땅히 구휼해야 한다."
양민(養民).
백성을 기르고 보호하는 것.
정약용 시대에는
굶주림, 추위, 질병이
생존의 위협이었다.
AI 시대에는
딥페이크와 정교한 사기가
새로운 위협이다.
不使失業, 爲上策
불사실업, 위상책
"실업 상태에 놓이지 않도록 하는 것을
최상의 계책으로 삼아야 한다."
단순히 구제하는 것을 넘어,
백성이 스스로 생업을 유지하도록
보호하는 것.
하지만 AI는
오히려 생업을 망쳤다.
김씨의 8천만 원.
평생 한 푼 두 푼 모은 돈.
AI가 만든 가짜 영상에 속아
하루아침에 사라졌다.
퇴직 후 노후 자금.
사라졌다.
김씨는 다시 일을 찾아야 했다.
67세의 나이에.
養民正道
양민정도
"백성을 가르쳐 생업에 힘쓰게 해야 하며,
그들을 유혹하는 사악한 가르침이나
간사한 술수에 빠지지 않도록
경계해야 한다."
양민의 본질.
유해한 정보로부터 보호하고,
바른 생업의 길을 안내하는 것.
AI 목민관의 책임.
딥페이크와 사기로부터
백성의 재산을 지키는 것.
플랫폼이 지혜롭고 생산적인 활동을
가르치는 장이 되도록 하는 것.
하지만 플랫폼들은
실패했다.
광고 수익이라는
사사로운 이익을 위해
기망적 콘텐츠를 확산시켰다.
無所不至, 無所不察
무소불지, 무소불찰
"이르지 않는 곳이 없게 하고,
살피지 않는 곳이 없게 하라."
복지 시스템이
사각지대 없이 모든 곳에 미치도록.
세밀하게 취약 계층의 상태를
파악해야 한다.
하지만 플랫폼은
김씨를 보호하지 않았다.
알고리즘은
사기 영상을 걸러내지 않았다.
오히려 더 많은 사람에게
추천했다.
2024년.
일부 플랫폼들이
딥페이크 탐지 시스템을 도입했다.
하지만
이미 수천 명이
재산을 잃은 뒤였다.
김씨는 말했다.
"저는 머스크를 믿었습니다.
그가 거짓말을 할 리 없다고 생각했죠.
하지만 그건 머스크가 아니었어요.
AI가 만든 가짜였어요."
정약용은 AI 목민관에게 묻는다.
"당신의 플랫폼은
백성을 바른 길로 인도하는가,
아니면
가짜 정보와 사기로
그들의 생업을 망치는가?"
[월요일에 계속]
AI는 그의 가난을 건강이라고 착각했다. 진휼(賑恤)