(5) 할루시네이션의 문제

[문돌이 AI] (5) 할루시네이션의 문제

#1

보통 AI 사용할 때 드는 걱정이 '할루시네이션(헛소리)' 입니다. 저도 처음에 법 관련 질문을 해보니, 너무나 멀쩡하게 헛소리를 하더군요. 그래서 코웃음을 쳤죠.

#2

일단 AI가 완벽하다, 완전무결하다라고 믿고 가는 건 문제가 있습니다. 얘도 틀릴 수 있다. 다만 나름 많은 자료를 학습했기에 그래도 쓸만하다..라는 것이 솔직한 답일 겁니다.

#3

전 할루시네이션 문제에 대해선 '구더기 무서워 장 못 담그랴'라는 생각입니다.

AI의 할루시네이션을 잡아 내는 방법이 그새 많이 발전되었더군요. 

대략 제시해 보면 아래와 같습니다.

1) 웹 서치를 병행하게 해서, 자체 검증을 한 후 답변이 나오게 한다.

2) prompt 단에서 아예 '출처가 있는 것만 제시하고, 그 출처 역시 공공기관이나 학술기관으로 제한하고 개인 blog는 제외하라'는 식으로 가이드라인을 준다.

3) 학습량이 계속 증가하면서 오류가 줄어든다.(chat GPT의 경우 4.0을 기준으로 보면 한국법에 대해서도 이제는 상당한 수준까지 올라와 있습니다)

#4

할루시네이션은 완전히 AI에게 맡기고 우리가 '바보가 되는 것'(?)을 막아주는 하나의 '경고등' 역할을 한다고 생각합니다. 일종의 세금 같은 거라고.

그리고 솔직히.... AI의 할루시네이션 못지 않게, 인간의 '헛소리'가 더 많잖아요. 사기 고소가 얼마나 많은 지 보면...