AI 검색에서 편견, 혐오필터 기능
개발자의 생각 #59
유튜브를 보는 동안 어떤 영화가 생각났다.
그런데 영화의 이름이 생각나지 않았다.
그래서 bing으로 검색하니 다음과 같은 결과를 얻었다.
니 눈에는 내가 말하는 변태는 그런 변태로 밖에 안보이냐? 니가 더 이상해! "외계인과 여성의 변태적인 내용"이라니! 도대체 뭘 보고 자란거야?내가 원했던 영화는 스피시즈였다.
AI에 대한 도적적 기능이 강화되고 있다.
문제는 완벽할 수 없다.
질문자의 취지보다 필터링에 우선순위를 둔다.
크롤링 데이터의 양적인 부분에서도 오판할 수도 있다.
변태가 그런 변태가 아님을 크롤링된 데이터에서 찾아볼 수 없었을 것으로 판단된다(알 수는 없다).
반면 수십년간 왕좌에 있던 구글의 경우, 빠르고 정확한 검색이 되는 경우가 많다.
그래! 스피시즈이런 결과는 구글이 수십년간 검색자들의 UX 패턴을 적용한 결과라고 판단된다.
ChatGPT같은 “AI”의 성공비결은 UX였다.
문장과 대화라는 UX가 사용자들에게 큰 반향을 일으켰고 수십억 사용자들이 열광했던 것이다.
그러나 데이터 영역에서는 아직까지 알 수 없다(판단하기 힘들다).
그러나
핵심은 “데이터”와 “로직(논리적 사고방식)”이다.
아직까지는 구글의 데이터를 무시할 수 없다.
AI 학위자인 누군가가 말했다. 6개월 후면 AI의 UX효과는 사라질 것이다.
그 전에 서비스를 런칭해야 한다고 말을 했다.
아니면 후발주자들은 “데이터 싸움”에서 유리한 고지를 가졌던 업체들을 이길 수 없다고 말을 했다.
체력이 약한 스타트업과 중소기업에서 “AI” 비지니스를 꿈꿀 수 있는 시간도 점점 더 짧아지고 있다.
기술적 용어를 이해못해도 “본능”으로 데이터 싸움이라는 것을 직시하는 유저들이 많아지기 시작했다.
프롬프트 엔지니어링, AI 리터러시 같은 말은 요즘 중학교 교육과정에서도 사용될 정도로 일반화 되었다.
할루시네이션(환각효과)의 시간이 지나가고 진실의 시간이 다가오고 있다.
AI도 결국은 데이터사이언스이고 확장된(인간의 문장으로 가능한) 개발자의 영역일 뿐이다.
그리고 적지 않은 사람들이 개발자 사고방식과 데이터 리터러시에 친숙해질 것이다.
다시 첫번 째, 이슈
어떤 것이 필터링 되어야 하는가?
올바름에 대한 잣대는 누가 만들며 공감할 수있는 가라는 반문을 하게 되는 시절이다. 특히 PC(political correctness)라는 용어가 어떤 의도로 사용되는 지 요즘은 헛갈리기 시작했다. 진영에 따라 가치관에 따라 “올바름”은 너무나 다른 잣대가 되어가고 있다. 틀렸다, 맞다의 문제가 아니라 “공감”의 문제라고 본다. 그런 공감의 문제를 서비스 주체는 판단해야 한다. 쉽지않은 문제점이 발생할 것으로 예상된다.
(*) 마지막 반전
“영어로 다시 물어보았다” 그리고 원하는 결과를 얻었다. bing이 천조국 출신임을 까먹고 있었다.
TO Bing:
“클롤링을 어느정도 하고 있구나, 형이 오해했어. 난 너가 정말 크롤링 데이터가 허접해서 모르면서 아는 척 하는 줄 알았다. 그래도 니네 집 안 혈통이 Microsoft인데 나의 평범한 두뇌로 너같은 백두혈통을 평가한 것이 아니었어. 미안해~.”
