위로일까? 설계일까?

AI 도입 방안을 다룰 때, 마지막에 꼭 등장하는 단어가 있습니다. 바로 ‘윤리 및 규제 준수’입니다.

사실 그동안은 큰 관심 없이 흘려보내곤 했습니다. 그런데 최근 한 뉴스 사이트에서 상반된 두 기사를 접하고 나서, 그 문구가 다르게 보이기 시작했습니다.

하나는 메타(Meta)의 부도덕한 관행을 폭로한 내부 고발자 윈-윌리엄스(Sarah Wynn-Williams)에 관한 기사였습니다. 기사에 따르면 메타는 인스타그램에서 자신의 사진을 삭제한 청소년을 감지해, 뷰티 제품이나 다이어트 광고를 노출했습니다. 외모에 만족하지 못하는 감정 상태를 이용해 영리 활동을 한 것이죠.

다른 하나는 넷플릭스에 관한 기사입니다. 넷플릭스는 사용자가 음성으로 기분을 표현하면, 그에 맞는 영상을 추천해 주는 기능을 테스트 중입니다. 예를 들어 "나 우울해. 적당한 콘텐츠 추천해 줘"라고 말하면, 위로가 될 만한 영상을 제공하는 식입니다.

두 사례 모두 사용자의 감정을 파악하여 반영하는 알고리즘을 중심으로 하고 있습니다. 이제는 알고리즘이 사람의 감정 데이터를 분석하고, 거기에 반응하는 시대가 된 것이죠.

그렇다면 이 두 기업을 단순히 ‘냉혹한 메타’, ‘따뜻한 넷플릭스’라고 단정할 수 있을까요? 저는 그렇지 않다고 생각합니다. 감정 데이터를 누가 더 직접적이고 노골적으로 활용했는가의 차이일 뿐, 결국 두 사례 모두 영리 목적에 기반하고 있습니다.

물론 기업의 이윤 추구를 무조건 비난할 수는 없습니다. 다만, 이런 사례를 보다 보면 자연스럽게 ‘기술을 어떻게 사용할 것인가’라는 질문으로 이어집니다. 흔히 하는 말처럼 '기술은 중립적이고, 그것을 쓰는 사람의 의도가 문제다'라고만 넘길 일은 아닙니다. 특히, 인간의 감정을 분석하는 기술이라면 더욱 그렇습니다.

이런 흐름을 보면 상상력이 발동합니다. ‘언젠가는 티 안 나게 우리의 감정을 관리하는 알고리즘도 등장하지 않을까?’ ‘그때 우리는 그 영향을 인지할 수 있을까?’

오늘 여러 자료를 읽어보며 확인한 사실은, 메타의 사례처럼 감정 기반 광고는 아직 명확한 법 위반으로 처벌되긴 어려운 회색지대라는 점입니다. 다만, 윤리적 관점에서는 분명 문제라는 결론이 많았죠. 다행히도, EU AI Act가 단계적으로 적용되면 이와 같은 심리 조작형 광고는 금지될 가능성이 높다고 합니다.

아직은 단편적인 생각에 불과하지만, 문득 이런 생각이 듭니다.
'알고리즘, 공개하면 안 되나?'