AI가 새로운 정보를 처리하는 방법
학습여정
“강의에서 배운 내용을 정리해 공유합니다. 함께 더 풍부한 배움이 되리라 믿습니다.”
LLM은 특정 시점까지의 데이터로 학습되기 때문에 최신 정보나 학습 데이터에 포함되지 않은 고유한 정보(개인 문서, 기업 데이터베이스 등)에 접근할 수 없습니다. 이 문제를 해결하는 가장 효과적인 방법은 프롬프트 내에 직접 필요한 정보를 제공하는 것입니다.
정보 제공 방식: LLM이 추론하는 데 필요한 정보를 질문과 함께 프롬프트에 직접 입력합니다. 이 방법은 LLM을 재학습시키거나 복잡한 백엔드 작업을 거칠 필요 없이, 즉각적으로 새로운 정보를 활용하게 만듭니다.
추론 능력 확장: 프롬프트에 제공된 데이터를 기반으로 LLM은 기존에 알지 못했던 사실에 대해 추론하고 답변할 수 있습니다. 예를 들어, 특정 날짜의 새 관찰 기록을 프롬프트에 제공하면 LLM은 그 데이터를 바탕으로 해당 날짜의 새 수를 추정할 수 있습니다.
숨겨진 규칙 명시: 단순히 데이터만 제공하는 것이 아니라, 추론에 영향을 미치는 숨겨진 가정이나 규칙도 함께 명시해야 합니다. 예를 들어, '집이 유리 돔으로 덮여 있어 동물이 들어오거나 나갈 수 없다'는 가정을 제시하면, LLM은 이 규칙을 바탕으로 더 정확한 추론을 할 수 있습니다.
미래 애플리케이션: 검색 엔진과 같은 미래의 많은 LLM 기반 애플리케이션은 사용자의 질문에 맞춰 관련 문서나 정보를 데이터베이스에서 검색한 후, 이 정보를 프롬프트에 통합하여 답변을 생성하는 방식으로 작동할 것입니다.
실천 방안 3가지
질문 전에 정보 먼저 제공: LLM에게 특정 주제에 대한 질문을 할 때는 질문에 대한 배경 데이터나 맥락을 프롬프트 시작 부분에 먼저 제공하여 정확도를 높입니다.
가정과 규칙 명확히 기술: 특정 조건이나 제약사항이 있는 경우, '규칙은 이러하다' 또는 '가정은 이러하다'와 같이 명확하게 명시하여 불필요한 오류를 방지합니다.
데이터의 한계 인지: LLM의 답변은 제공된 정보에만 의존한다는 것을 항상 염두에 두고, 불완전하거나 부족한 정보를 제공할 경우 답변의 신뢰성이 낮아질 수 있음을 인식합니다.
가장 중요한 핵심 사항 1가지
대규모 언어 모델에 외부 정보를 제공하여 추론 능력을 확장하는 가장 효율적인 방법은 프롬프트에 정보를 직접 삽입하는 것이다.
→ Digitalian:
결국 지금 우리가 매일 접하는 코파일럿, 챗지피티, 제미나이, 퍼플렉시티와 같은 다양한 AI 툴들은, 겉으로는 무료이거나 혹은 일정 비용을 지불하면서 사용하는 서비스처럼 보입니다. 그러나 조금만 들여다보면 본질은 같습니다. 우리가 던지는 질문과 요청, 그리고 그에 담긴 글과 이미지, 사진과 영상들은 곧 AI가 학습하고 더 정교하게 변해가기 위한 재료로 흘러들어 간다는 점입니다. 즉, 사용하면 할수록 AI는 더 똑똑해지고, 동시에 우리는 더 깊이 그것에 의존하게 됩니다. 이 관계는 놀라운 효율과 가능성을 열어주지만, 반대로 우리의 데이터와 사유가 끊임없이 흡수되는 양날의 검일 수도 있습니다.
그래서 결국 핵심은 무엇을, 어디까지 제공할 것인가 하는 분별력입니다. 호기심과 편리함에 기대어 무심코 건넨 말들이 언젠가는 내가 예측 못한 형태로 돌아올 수 있기 때문입니다.
앞으로 5년, 10년이 지난 미래에 AI가 우리 삶에 얼마나 깊숙이 파고들지 확신할 수는 없습니다. 다만 분명한 것은, 그 속도가 빠르든 느리든 그 과정에 참여하는 것은 바로 오늘의 우리의 선택과 태도라는 점입니다.
※ 본 요약은 Coursera의 Vanderbilt University ‘프롬프트 엔지니어링 특화 과정’ 학습 내용을 바탕으로 작성된 개인 학습 기록입니다. 공정 이용(fair use) 범위 내에서 작성되었으며, 강의 원문 및 자료의 직접 복제·캡처는 저작권에 의해 금지됩니다.- by Coursera Plus - "Learning Notes and Summaries by Digitalian”
