[주간 Scribble] GPT의 거짓, 프롬프트 등
아무말 대잔치 주의
GPT의 거짓 문제
현재 GPT가 가지고 있는 치명적인 단점: 사실이 아닌 정보가 섞여 있는것
기술적으로 완벽히 해결할 수 없다면, 그 결과를 판별하는 능력이 중요할 것
기술적인 관점에서, 이러한 한계점이 극복되지 않으면 GPT는 인간과 상보적인 관계를 유지할 것이며, 유저가 가지고 있는 기반 지식이 중요한 결과물 판단 기준이 될 것
사업적인 관점에서, 잘못된 정보 전달은 정보 노이즈(noise)가 아닌, 서비스 실패(service defect)로 여겨져 아예 그러한 플로우를 숨겨버리거나, 정확한 것만 전달할 수 있도록 조정하는 것이 필요하지 않을까?
스췰라스(Schillace)의 법칙
코드와 모델의 차이
코드는 구문과 프로세스를 위한 것이고, 모델은 의미와 의도를 위한 것
기본적으로 모델은 의미와 목표에 대해 추론하도록 요청받을 때 더 강해지고 특정 계산과 프로세스를 수행하도록 요청받을 때는 약해집니다.
예를 들어, 고급 모델은 일반적으로 스도쿠를 풀기 위한 코드를 작성하기는 쉽지만 스도쿠를 직접 풀기는 어렵습니다. 코드의 종류마다 강점이 다르기 때문에 문제에 맞는 적절한 코드를 사용하는 것이 중요합니다. 구문과 의미론 사이의 경계는 이러한 프로그램에서 어려운 부분입니다.
프롬프트 작성의 중요성
LLM AI 모델은 놀랍도록 유능하고 '잘 교육'되어 있지만 컨텍스트와 주도성이 부족
더 자세하고 세분화된 답변을 원한다면 질문이 더 지능적이어야 함 -> "쓰레기가 들어가면, 쓰레기가 나오는" 메아리입니다.
불확실성은 예외입니다. 우리는 정확성과 활용도를 맞바꾸고 있기 때문에 모델의 의도가 불확실할 때는 사용자와의 상호작용에 의존
사용자에게 어려운 것은 모델에게도 어려움 -> 유저의 기반 지식과 프롬프트 구성에 의존성이 매우 큼, 패턴을 더 쉬운 단계로 세분화하면 더 안정적인 결과를 얻을 수 있다는 점을 기억
질문과 장황한 답변이 주어지고 답변만 추출하도록 요청하는 "메타" 프롬프트를 사용하면 꽤 효과적
유저 검색 행동 변화
출처 https://brunch.co.kr/@mildwhales/26
네이버의 구글화
모바일 환경 중심의 생활이 정착되면서 검색 엔진 유입의 '목적성'이 두드러지게 됨
개인적으로는 검색 결과의 한계, 검색 정보의 질로 인해 구글을 더 사용하는 편
