AI도 당신에게 동의할까?

인공지능과 문화/가치편향

ChatGPT가 여기저기를 휩쓰는 지금, 우리는 AI가 우리를 대체해서 쓸모없게 만들어 버릴 것인지, 아니면 AI가 우리를 도와서 슈퍼파워로 만들어줄 것인지 걱정스레 이야기하곤 한다. 그래, 운이 좋아서 AI가 우리를 정복하거나 대체하지 않고 돕게 되었다고 가정해보자. 그럼 우리는 좀 더 섬세한 문제에 집중할 수 있다.

예를 들면 AI가 당신에게 동의하지 않는 것 같은 문제 말이다.

이미지 생성 AI인 Stable Diffusion이나 이를 사람들이 사용하기 편하게 만든 Dall-E, Midjourney와 같은 툴들을 써본 적이 있는가? 이미지를 만들기 위해서는 AI에게 '프롬프트'를 제공해야 하는데, 대충 명령어라고 퉁쳐서 생각해도 맞다. 그림 생성 쪽에서는 주로 키워드로 구성하는 경우가 많은데, 예를 들어 tiny, cute, adorable, ginger, tabby, kitten, studio, light 라는 프롬프트를 Midjourney에게 주면

애옹(출처: blueshadow.art)

이런 이미지를 준다고 한다(물론 당신이 입력했을 때는 같은 결과가 나오진 않을 것이다. 그때그때 생성하는 거라).

이 프롬프트를 보면 가치판단이 들어가는 키워드가 있다. 가령 tiny나 cute 같은 키워드들. tiny는 어느 정도가 작은 건가? cute는 어떤 정도가 귀여운 건가? 물론 이 그림의 경우에는 작고 귀여운 고양이를 그려놨다는 것에 이견이 없다. 하지만 대상이 사람이라면?

실제로 사람들이 넣는 프롬프트를 보면 'beautiful' 같은 주관적인 키워드를 많이 사용한다. 그러면 인공지능은 beauty를 어떻게 해석할까? 일단 인공지능이 학습할 수 있는 자료의 형태로 데이터를 많이 제공할 수 있는 문화의 기준에 따라 해석할 것이고, 그것은 소위 '메인스트림' 문화일 것이다. 그리고 해당 인공지능은 이런 기준으로 생산한 결과물들을 무한히 양산할 수 있기 때문에 해당 문화권의 인구가 폭증하는 효과를 낸다. 그로 인해 메인스트림 문화는 더욱 힘을 받고 확대재생산될 것이라고 생각해볼 수 있다. 

나라별 미의 기준

뭐, 아름다움에 대한 판단은 큰 문제가 아니라고 생각할 수 있다. 그럼 'good'은 어떻게 판단할까? 미국에서의 'good girl'에 대한 판단과 아랍에서의 'good girl'에 대한 판단은 같을까? 그리고 어떤 판단이 더 '메인스트림'하며, 어떤 가치가 확대 재생산될까? 그렇게 되었을 때, 문제는 없을까? 우리나라에 적용되어도 괜찮을까? 이런 문제를 해결하기 위해 AI모델에 인위적인 제한을 걸었다고 해보자. 어떤 제한을 걸지 누가 결정해야 할까? 일부 기술자와 기업들과 연구원들이 독점해도 괜찮을까?

이미 북미에서 개발된 초기 얼굴 인식 모델들이 서양인, 특히 백인을 중점으로 학습했기 때문에 다른 인종을 잘 인식하지 못했다는 것은 유명한 사실이다. 물론 이런 눈에 띄는 문제들은 서서히 해결되긴 하겠지만, 여전히 문화 차이에 의한 AI 접근성 제한은 모든 레벨에서 존재할 것이다. 이미 ChatGPT가 한국어를 잘 못알아듣고 못말하는 현상에서, 한국어권의 페널티가 나타나고 있지 않은가? 그러면 한국어권의 데이터를 더욱 충분히 학습시키면 끝날까? 그러면 높은 확률로 서울 중심의 인공지능이 될 것이다. 그리고 이런 식의 세분화는 무한히 가능한 것도 아니다.

그리고 당신의 가치관과 AI의 가치관이 충돌하는 순간, 미래의 당신은 꽤 귀찮은 일에 직면하게 되지 않을까?