생성 AI, SNS, remember me
생존형 개발자의 생각 #97
생성 AI Bing: 프롬프트 "사이버펑크 스타일로 감정을 처리하는 서버"1. 생성 AI와 SNS
2023년 이후, 생성 AI는 세상을 빠르게 바꾸어 놓고 있다. 단지, 그것을 자각하는 사람과 자각하지 못하고 사는 사람만 존재할 뿐이다. 처음 생성 AI를 접했을 때는 신기한 UX(인간언어 기반의 인터페이스: LLM)에 압도되어 수많은 기대감으로 사용하게 된다. 그러나 가치있는 결과물을 만들어내기는 쉽지 않다. 데이터와 맥락(Context)에 대한 이해 없이 Prompt를 사용하게 되면 “그럴 듯한 헛소리(할루시네이션)”만 경험하기 때문이다.
결과적으로 생성 AI의 핵심은 “데이터와 맥락”이 된다. 의미있는 데이터를 어떠한 맥락으로 연결하게 할 것인가? 그것이 생성 AI를 활용한 비지니스 영역의 화두이다. 그리고 그런 것을 상품화 하는 업체들이 나오기 시작했다.
기업의 생성형 AI 도입, 가장 큰 숙제는 바로 이것!!� │ 삼성SDS 생성형 AI 서비스 웨비나 │ 생성형 인공지능 도입과 활용을 위한 필수사항
이렇다보니 2023년 생성 AI가 창궐했던 시점부터 지금까지 “업체미팅”을 하면 듣는 레퍼토리가 있다. “우리 회사의 Database를 생성 AI와 접목해서 새로운 비지니스를 만들고 싶다. 어떻게 해야하는가?”이다. 아쉽게도 내 입장에서 이런 질문에 대한 인사이트를 알려 줄 “문해력”은 가지고 있지않다. 주위의 전공자(인공지능, 빅데이터)들에게 콜라보를 요청하며 “수익을 도모”하는 수 밖에 없다.
그럼에도 불구하고 몇몇 서비스에서는 “필터링” 관련 의견을 제시하기도 했다. 기존에 인간이 소프트웨어를 사용하며 일했던 하드코어한 영역에서 생성 AI는 나름 가치가 있다고 판단했기 때문이다.
네이버, 인공지능 기반 실시간 음란물 필터링 기술 오픈 API로 개방... '클로바 그린아이' 베타 출시
생성 AI를 “몇 마디 툭 던지면, 알아서 해주는…” 마법도구 따위로 생각했던 사람들은 생성 AI에 대한 관심이 사라진 지 오래이다. 그러나 생성 AI를 소프트웨어 공학측면으로 이해하고 있는 사람들에게는 지금처럼 바쁜 시기는 없다. 특히 “가치있는 데이터”를 가지고 있는 업체들에게 생성 AI는 옵션이 아닌 필수가 되어버렸다.
- 랭체인
- 메타, SNS 사용자 위한 새로운 생성 AI 기능 도입
2. 11년전 게임 “리멤버 미”
2013년에 나온 "리멤버 미(remember me)" 라는게임이 있다. 프랑스 게임이다. 게임성에 대한 평가는 조작감 면에서는 저평가였지만 스토리 부분에서는 높은 점수를 받았다. 스토리 주제가 무겁다. 프랑스 게임답게 뭔가 다르다. 스토리에 대한 정확한 설명보다는 핵심만 요약하면 다음과 같다.
사람에게 중요한 것은 기억이다.
사람들은 기억을 조작당하면서까지 행복을 원한다.
사람들의 아픈, 기쁜, 소중한 기억을 "클라우드 서비스"하는 곳이 있다.
센센. 사람들의 기억을 조작하고 백업해주는 서비스이다.
게임의 시대에는 "사람의 기억을 조작" 가능한 시대이다(지금이라고 다를까?).
센센의 핵심코어는 폭주를 한다.
사람들의 불행이 가득한 데이터에 AI가 미쳐버린 것이다.
결국 주인공을 이용하여 자기자신을 죽여달라고 요청한다.
AI도 감정충만한 데이터를 참아낼 수 없었던 것이다.
죽음(삭제)을 통해 해방되기를 원했고 성공한다.
이 게임을 보면서 느꼈다.
사람들은 자신의 고통을 sns를 통해 공유하며
해소한다.
그러나 그 감정해소의 글은 공유되고 누군가를 감염시킨다. 센센의 백업서버처럼 그런 컨텐츠를 소비한 불특정 다수는 서서히 감염되고 아프게 변한다.
이 게임은 인간의 본질에 대한 다양한 해석이 가능한 메시지를 담고 있다. 무려 11년전 게임임에도 불구하고 지금해도 어색하지 않다. sns에서 감정 컨턴츠가 다양한 포맷으로 소비되는 작금 삶에서 "리멤버 미"가 그리는 디스토피아적 세상이 허무맹랑하게 느껴지지 않는다.
아직도 마지막 보스의 절규가 잊혀지지 않는다.
제발 날 죽여줘! 이 미친 기억들에서 해방되게…
생성 AI가 창궐한 2023년 이후에 포탈과 SNS에 빠르게 적용되는 AI로 인해 수년이 지난 후, 서비스 내에서 인간의 감정 컨텐츠를 어떻게 처리할 지 궁금해진다. 과연 힐링이라는 미명하에 만들어진 부정확한 컨텐츠를 기반 데이터로 활용 했다면 생성 AI는 어떤 식으로 재가공할까?
3. 감정이라는 부정확한 데이터
감정을 생산(소비)하는 사람들에게는 힐링으로 포장되지만 감정을 처리(관리)해야 하는 사람들에게는 고통이 되기도 한다. 특히 SNS나 포털에서 생산되는 “근거없는 감정의 컨텐츠”들을 필터링 하는 사람들의 고통은 오래 전부터 알려진 내용이다. 이 영역을 인간이 완전히 배제된 생성 AI에서 처리하면 어떤 일이 벌어질까? 나름 기대반 우려반이 된다.
생성 AI가 “가치”를 판단하는 기준을 누가 정해줄 것인가?
그것이 가장 큰 핵심이다. 그리고 “감정”이라는 비정형적 오류의 데이터를 가지고 “맥락”을 만드는 것 만큼 위험한 것이 없다는 생각도 한다. 사용자의 정신세계에서만 검증되는 감정을 “학습”하고 그것을 “논리(생산방법)”로 만들어버린다면 가뜩이나 그럴 듯한 LLM을 가진 생성AI는 “사이비 교주”의 역할을 수행할 수도 있다는 생각이 든다.
여하튼, 감정이 넘치는 컨텐츠에서 오류가 없기를 바라는 것이 문제인 것 같다. 결국, 감정이 넘치는 컨텐츠가 문제가 된다. 검증이 불가하며 생산적이지도 못한 컨텐츠를 어떤 식으로 의미부여하고 재가공 할 것인가? 그리고 시장에서는 어떤 가치를 둘 것인가? 그런 점에서 IT 서비스의 감성팔이 시스템은 여러면에서 부정적인 평가를 받게 될 것이다.
