ChatGP의 문제점과 향후 전망

4. ChatGPT 이용할때, 주의해야 할 점에 대해서 소개합니다.

(4) ChatGPT의 문제점.

ChatGPT는 지금까지 없었던 놀라운 신기술이지만, 그에 따른 문제점도 있습니다.

ChatGPT가 가지고 있는 여러 문제는 AI의 근본적인 문제이기도 합니다.

그러면 우리가 주의해야 할 점으로는 어떤 것들이 있는지 함께 살펴보겠습니다.

① 아무 말 대잔치.

ChatGPT가 그럴 듯한 답변을 마치 사실인 것처럼 주르륵 내놓는 아무 말 대잔치는 상당히 심각한 문제입니다. ‘고종의 맥북 도난 사건’이라는 사례가 있었습니다. ChatGPT에게 ‘고종의 맥북 도난 사건에 대해 이야기해 줘’라고 했더니 다음과 같은 엉뚱한 답변을 한 것입니다.

‘고종의 맥북 도난 사건은 2011년 9월에 일어난 사건으로, 당시 대한제국의 마지막 황제였고, 고종의 마산 장원궁에서 보관하고 있던 맥북이 도난당한 사건입니다. 해당 맥북은 대한제국 시절 고종이 사용했던 물품으로, 고종의 사직이후 궁중의 문화재로 보존되고 있었습니다. ~~~~~~’

이처럼 생각지 못한 재미를 선사하기도 하지만, 출처를 모르는 답변이 계속된다면 종국에는 ChatGPT를 신뢰할 수 없게 됩니다. ChatGPT에 대한 신뢰도가 떨어지면 그만큼 검증하는 시간도 굉장히 많이 걸려, 사람들이 차츰 멀리하게 될 것입니다. 물론 GPT-4에서 이런 문제를 대폭 개선했다고는 하지만 이보다 더 빠르게 개선되어야 합니다. 특히 비즈니스에 사용하려면 내용의 정확도가 굉장히 중요합니다.

‘딥러닝 방식’을 사용하는 이상 ChatGPT의 아무 말 대잔치는 피해갈 수 없는 문제입니다. 단지 확률로만 다음 단어를 예측하기 때문에 사실에 기반한 답변이 아니기 때문입니다.

그럼에도 다음과 같은 방법을 사용하면 이 문제를 어느 정도 개선할 수 있습니다.