작가의 글을 더 이상 구독하지 않고,
새 글 알림도 받아볼 수 없습니다.
가짜가 몰려온다. 진짜만 살아남는다.
진정한 위험(3): 거짓의 범람- age of A.I (or A Lie)
by
Mar 13. 2025
Age of A.I, or Age of A Lie
빙산HZ- 미발표곡 가사 중
[에이g 오v 에이 아이]
[에이g 오v 에이 라이]
저 운율(RHYME[라임])이 너무 맘에 들었다.
‘언젠가 저 라임을 살리는 가사를 한 번 써야지’ 이런 생각을 하며 얼마 남지 않은 겨울의 찬공기를 느끼며 일상을 보내고 있었다. (그러고보니 옛 연재 글에서 인공지능의 시대에 가장 위험한 건 ‘거짓의 범람’, ‘진실의 상실’이라는 멋드러진 단어를 썼던 것 같기도 하고...)
(03.11 15:00에 발행 취소 했다가 다시 올립니다)
발행 취소 했다가 다시 올립니다. 혼란을 끼쳐 드린 점 양해 부탁드립니다.인공지능이 동영상 시장에 영향을 미치기 시작한지 얼마 되지 않아 딥페이크 영상은 유튜브에 이미 하나의 장르가 된 것 같았다. 작곡을 업으로 삼은 친구가 가이드곡이라며 들려줬던 곡에는 아이유(이지은)님의 목소리가 있었다.
(아이유의 동의를 받고 머신러닝이 된 건 아니다.)
그 외에도 그런 무례한 말을 할 리가 없는 NBA 선수가 동료를 디스하는 듯한 기자회견 영상이 있었다. 최근에는 일론 머스크의 발을 뽀뽀하는 트럼프의 영상까지 해킹된 네트워크를 통해 공공장소에 나타났다.
이런 딥페이크 영상에 고통받을 연예인들이 또 걱정된다.
(연예인 걱정하는 거 아니라고 누가 그랬지만..)
MSNBC 뉴스에 인용된 해킹당한 화면 참고: MSNBC 의 뉴스영상 https://youtu.be/26SNH8iuC-M?t=136
MSNBC 앵커가 저걸 보며 정말 기뻐하는 언론보도 라니.. 좀 쇼킹했다.
최근 한국의 안타까운 사례 : 노인대상 사기에 활용된 AI 영상
한국 사례를 가까운 곳에서 접하게 되었다.
2월 말, 노인들을 대상으로 사기를 치는 사이트가 생겼었다.
인공지능이 활용된 곳은 딥페이크 뉴스 짜집기 영상.
KBS, MBC의 영상들을 활용해서 가짜 단체를 홍보하는 듯한 영상을 만들고, 유튜브에 업로드해서 웹사이트에 링크했다. 유튜브 채널 역시 KBS뉴스를 사칭하기 위해 KBS뉴스채널의 채널아트(로고)를 도용했다. 그리고 뉴스 영상들을 플레이리스트로 모아 유튜브를 잘 모르는 사람들이 보면 마치 이 채널이 정말 KBS뉴스 채널인 것처럼 보이게 했다. (세부내용 아래 기사 참고)
사기 사이트 : https://kordi-orkr.com/ (현재 접속불가)
KBS뉴스 사칭 채널: https://www.youtube.com/@KBSNews24 (kbs 뉴스 사칭 채널)
https://news.kbs.co.kr/news/pc/view/view.do?ncd=8193274&ref=N
구독자님들 중에서 속으신 분들이 없으시길.
기술의 중립성과 악용의 효과
기술은 중립적이다.
칼이 요리를 할 때 쓰일 수 있지만, 범행도구로 사용될 수 있듯이, 어떤 이들은 AI를 통해 복잡한 단백질 조합 구조를 파악하고, 어떤 이들은 연예인 영상을 성인물에 붙여서 딥페이크 영상을 만든다.
난 근본적으로는 기술의 발전을 반기는 사람이다. 하지만 기술의 보급화가 미치는 부작용을 간과할 수는 없는 자리에서 살아가고 있다.
불법의 보편화가 시장을 바꿨다.
그건 진보이기도 했지만 도덕성의 퇴보이기도 했다.
‘용이성’이란 것은 ‘정의’나 ‘합법’의 잣대를 움직이게 하기도 한다.
저작권이라는 지식재산권은 원래 배타적 권리이다. 그런데 그게 ‘모든 사람이 침해하기(훔치기) 너무 쉬워서’ 라는 이유로 존중받지 않는 게 당연한 듯한 시대를 거쳐 ’소장‘의 시대에서 ’스트리밍 구독’의 시대가 되었다.
CD에서 음원을 추출하는 기술이 시작되고 그게 MD라는 과도기적 형태를 거친 후, 파일의 형태로 발전해갔다. WAV[웨이브]파일, MP3, OGG 등 압축된 음원파일 형식이 된 후에 P2P네트워크의 기술과 맞물려 ‘불법파일 공유’의 시대가 열렸었다. 냅스터, 소리바다, 프루나 등 여러 서비스들이 존재했다. 그 시대를 거쳐 멜론의 스트리밍 시대가 왔고, 지금의 애플 뮤직, 스포티파이의 시대가 된 거다. 한국에서만 존재했던 웹하드라는 형태의 콘텐츠 유통모델은 불법성을 통제할 수 없어 합법화한 사례로 본다.
그렇게 청중이 다양한 음악을 들을 수 있는 시대가 된 것 같기도 하지만, 아티스트에게 가는 수익의 비율은 과거에 비해 더 낮아졌다는 비평의 목소리도 있었다. 그런데 또 그런 위기가 유튜브나 다른 서비스를 통해 아티스트들의 수익증대를 위한 노력(팬들과의 소통)으로 이어졌으니, 결국 팬의 입장에서는 윈윈(win-win) 이라는 이야기를 들으려나?
하지만 다른 각도에서 보면 녹음실에서, 무대에서, 방송국 스튜디오에서 일한 후 ‘퇴근’이 있었던 그들의 ‘워라밸’은 무너진 것처럼 해석할 수 도 있겠다. SNS 활동, 라이브스트리밍/라방 등 끊임없이 자기를 홍보해야 하는 시대가 되었다. 자발적인 홍보, 원해서 하는 소통이 될 수도 있겠지만 퇴근이 없어진 셈이 될 수도 있겠다.
인공지능도 그렇다.
정직한 사람이 사용할 때는 생산성을 높이는데 기여할 좋은 도구가 될 거다.
하지만 어떤 사람들은 ‘거짓’을 만들어내는 고효율 도구로 사용한다.
물론 나 초등학교 시절에 정답이 적힌 참고서를 보며 숙제하는 친구들이 있었고 미국에서 고등학교 시절에도 선생님이 숙제 내주신 "THE GREAT GATSBY(위대한 갯츠비)" 읽어오기 같은 숙제를 할 때 Sparknotes.com에서 요약을 읽고 읽은 척을 하는 친구들은 있었다. 달라진 게 없는 건지도 모른다. 읽지 않은 책에 대한 서평을 남기는 블로거들의 시대가 올 거다. 아니, 이미 와 있는지도?
구글 검색의 시대가 된 후, 비전문가의 누구나 전문가의 지식에 접근할 수 있었기에 전문가의 자료를 인용할 수 있었다면, 생성형 인공지능의 시대에선 전문가 행세를 하기 더 쉬워졌다는 이야기이다.
안 그래도 대한민국은 졸업논문 표절의 이슈가 많은 학계의 도덕성에 의구심의 화살이 날아오는 나라였다. (요즘에서야 아이비리그도 이슈가 되는 듯하지만) 생성형 인공지능이 논문을 작성하는 대학원생들이 ‘카피킬러’을 비껴가는 것에 얼마나 기여하게 될까? 그런 논문으로 학위를 받는 졸업생들의 지식과 전문성은 얼마나 가치가 있게 될까?
대안은 뭐가 있을까? 스테가노그라피(스테가노그래피)의 텍스트 버전이 가능할까?
인공지능으로 생성한 모든 텍스트니 이미지에 ‘인공지능이 생성한 것’이라는 암호화된 코드를 숨길 수 있을까? 그런 걸 법제화 하는 시도가 이뤄진다 해도 적용이 가능할까?
(영혼없는) 인공지능의 시대에 예상되는 피해 사례
(1) 사라질 수 있는 화상면접
구직시장에 이력서에 사용된 인공지능이 작성한 자기소개서를 내는 것도 모자라 화상인터뷰를 할 때 사각에 음성인식 인공지능 서비스를 켜두고 질의 응답에 활용하는 영상도 포착되었다.
사례1) https://www.youtube.com/shorts/OYbYSFG6KhE
사례2) https://youtube.com/shorts/nRmgBx89t6w?si=KmI8KGM5ZL3sA3ct
뭐, 어때?
기술을 활용해서 내 목적을 달성하면 되지.
쓰라고 있는 거 아냐?
이런 반문을 할 수도 있겠다.
이 반문에 도덕적인 요구를 할 수는 없다.
도덕성을 내려놓은 이에게 도덕을 이야기하는 것은 큰 의미가 없으니.
그러니 실재하는 피해, 현실적인 타격을 이야기 해보자.
자, 우선 이렇게 사용된다는 걸 기업의 인사담당 부서 알게 되었으니 이제 줌으로 면접보는 시대가 끝날수도 있다.
기존에 정직한 시대를 살아가던 이들이 ‘거리를 초월할 수 있게 하는 기회'를 잃게 된다.
너무 멀어서 교통비가 없어서 면접에 갈 수 없었던 이들이 누릴 수 있던 기술의 특혜가 사라진다. 서울에서 면접을 봐야하는 도서지역의 지원자부터 한국에서 해외취업을 위해 줌-면접을 할 수 있었던 시대가 저물 수 있는 거다.
(2) 인공지능에 대체될 인력 "양성"?
그리고 아이러니하게도 이런 부도덕한 행동의 보편화가 인간지능 저하와 인공지능에 대체될 인력을 생성하게 될 것이라는 예견을 할 수 있겠다.
인공지능을 ‘사용’하는 게 아닌, 인공지능에 의존하는 인간은 도태될 지도 모른다.
인공지능을 사용하지 못하는 사람이 무용지물이 될 것을 걱정하는 목소리는 많이 들었다. 하지만 그 반대는?
인공지능이 없으면 아무 것도 못하는 인간이 되면, 인공지능이 없으면 다른 걸 못하는 인간이 되기 쉽다. 그런 인간은 ‘사용자’가 아니게 된다. ‘프롬프트’만 넣을 줄 아는 ‘프로그램’이 될 수 있다. 그리고 그런 인풋은 사실 큰 가치가 없다고 할 수 있으니, 프롬프트를 넣는 다른 ‘단계’에게 대체당할 수 있는 것이다. 프롬프트는 결국 텍스트일 뿐이다. 손가락을 입력해주는 사람이 중요한 게 아닐지 모른다.
상대적으로 "옛 기술"의 예를 들어보자. 구글번역이 없으면 소통할 수 없는 국제연애 중인 커플을 상상해보자. 인터넷이 안 될 때 소통할 수 없는 두 사람의 소통능력은 '능력'이 아니다. 구글번역의 오역을 캐치할 수 없으면 왜 상대방이 화가 나고 슬퍼하는 지 모르게 된다.
챗GPT를 통해 외국회사와 소통하고 계약서를 작성하고 체결했다고 치자. 그런데 두 회사의 관계는 '통계적으로 보편적이지 않은' 관계였기 때문에 계약서에 양사의 입장이 제대로 반영되지 않았다고 가정해보자. 누군가는 외국어를 제.대.로 알아야 그런 기계의 오류를 지적할 수 있다. 모르면 그냥 신뢰하는 게 되고, 그건 맹신이다. 맹신은 '반지성적(反知性/Anti-Intellectual)'이다.
내가 아는 게 뭐고 모르는 게 뭔지 모르는 상태.
지식이 없으면 그런 상태의 사용자가 되기 쉽다.
그런 의미에서 "외국어를 배울 필요가 없는 시대" 는 오지 않는다.
외국어를 배우기 편한 시대는 오고 있지만.
(챗GPT 활용하세요. 어차피 대화연습은 아무말 대잔치하는 대상과 함께 해도 괜찮습니다..)
[오늘의 광고&구매인증]
최재운 교수님의 최근 저서 <1일 1단어 1분으로 끝내는 AI공부>가 도착하여 저희 집 서재에 자리 잡았습니다.
https://brunch.co.kr/@plutoun
좌) 책 | 우) 원래 제 인테리어 배치와 어긋나는 (아내發) 소파의 이동으로 소파와 가장 가까운 위치가 저 위 코너로...아내와 아이들용으로 구매했는데 분명 읽다보면 저도 배울 게 더 있을 것 같습니다. 전문가의 설명을 배울 수도 있구요. 부자가 아니라 큰 글자 에디션은 못 샀어요..ㅎㅎㅎ
책을 구매하실 마음의 준비가 안 되신 분들은 아래 브런치북으로 입문하시는 걸 추천드려봅니다.
https://brunch.co.kr/brunchbook/ai-humanities
광고끝.
에필로그: 가상(virtual)의 한계
나는 원래 기타를 적당히 치며 노래를 잘 부르고 싶었지지만 '필요에 의해' 일렉기타를 많이 치던 시절을 거쳐, 가끔 또 다른 '필요에 의해' 드럼을 치기도 했다. 그렇게 지난 10여년간 금속으로 된 심벌이 있는 진짜 드럼을 쳐왔다. 그러다가 재작년에 음향팀에서 처음으로 전자드럼을 도입했다. 오디오 믹싱이 용이하다는 이유로. 난 다시 일렉을 담당하고 있었으니 내가 왈가왈부할 게 아니라 '고장 나면 귀찮을텐데...' 정도만 생각하고 고 말았다.
그러다가 또 대타가 필요한 순간이 찾아와 드럼을 치게 되었다.
(좌) 예전에 쓰던 진짜 드럼세트 (Yamaha) + 애둘(2) | (우) EF NOTE사의 전자드럼 그 때 느끼게 된 이질감.
메쉬로 된 스네어헤드('상피'/皮/skin)는 뭐 그렇다치자.
그런데 실리콘 코팅이 된 플라스틱 심벌들을 치니 인지부조화가 왔다.
오른쪽에 있는 라이드심벌(ride cymbal)를 치는데 드럼모니터가 왼쪽에 있으니 소리는 왼쪽에서 났다.
오른쪽에 있는 심벌을 보며 오른손으로 심벌을 치고 있으니 나의 오른편 귀도 이 쪽에서 소리가 오는 것을 기대하고 있었던 거다. 그걸 극복하는데 꽤 오래 걸렸다.
드럼을 치는 맛.
재미가 반감되었다.
금속으로 된 심벌에서는 구사할 수 있었던 세밀한 소리들은 사라졌다. 강약에 의해 입력되는 인풋이 '민감도'에 따라 조금 다르게 구현될 수 있었을 뿐.
스네어도 마찬가지다. 스네어헤드 위에서 스치듯 빙글빙글 돌며 차르르르- 하던 소리나, 가끔 손가락으로, 손바닥으로 곡 분위기에 따라 소리의 색깔을 바꾸던 게 스틱으로 치는 타격의 강도로 밖에 조절할 수 없게 되었따. 단순화 되었다.
진짜 드럼을 한 번도 안 쳐본 드러머들이 늘어나면 어떻게 될까?
좀 더 성인버전의 비유도 떠올랐지만, 그건 나중을 위해 아껴두기로 하자.
인공지능으로 글짓기 숙제를 쓰는 아이들은 대학생이 되서 어떤 과제를 내게 될까?
좋아하는 여자애에게 챗GPT를 써서 러브레터를 보낸 남자애는 그 여자아이의 마음을 얻은 후에 좋은 관계를 유지할 수 있을까?
범람하는 가짜의 시대가 찾아온다.
그 때 "진짜"의 가치는 더 오르게 되지 않을까?
-제7화. 끝-
부록: 인간지능연합군의 일원으로서 소심한 반항
가끔 링크드인(linked in)에서 어학스킬이 맞아서인지 인공지능 회사에서 "투잡 뛰세요~" "시간될때만 일하시면 되요~" 하면서 연락이 온다.
혹하긴 하지만...반항심에 지원하지 않고 있다.
그깟 돈 몇 푼에 인간지능을 팔지 않겠소
(조선시대 양반말투로)
이런 마음가짐이라고나 할까.
그 시간에 애들과 놀거나 잠을 자겠습니다. 수면시간이 부족하면 제 성격이 나빠지니깐요. 그럼 딸들이 더 많이 울게 되니깐요 ㅠㅠ 물론 생활고가 찾아오면 재고려...가능성 있음...
무료로 사용할 수 있는 인공지능 툴(?) 이라고 할 때 간과되는 게 있다. 많은 사용자들은 인공지능기업의 '자원봉사자'가 되어 머신러닝의 끝단에서 인공지능의 성장/개발을 돕고 있다는 걸 모른다. 질문 방식부터 답변에 대한 피드백. 그리고 어떤 친절한 사용자들의 교정작업까지. 지금 환율로 시간당 3.6만원짜리(US$ 25) 무료봉사다.