공무원 국비유학
4차 산업혁명은 3차 산업혁명의 연장선이고 농업혁명과 1·2차 산업혁명, 3차 산업혁명(인터넷혁명) 이후의 진정한 혁명은 2010년대말부터 시작된 AI혁명인 것 같다.
Computer는 본래 사람을 지칭하는 용어였다. 17세기부터 20세기 초까지 천문·탄도학·항해 계산 등 복잡한 수학 계산을 담당하던 사람들을 일컫는 말이 었다고 한다. 현대 AI는 computing뿐 아니라 research, planning, writing, composing, painting, programming(coding) 등 많은 영역에서 인간을 대신할 수 있다.
조만간 researcher, planner, writer, composer, painter, programmer는 인간이 아닌 기계를 지칭하는 말이 될 것이다.
필자는 걱정하기 보단 미래를 낙관적으로 바라보고 있다. 과도기에는 AI 툴에 익숙한 사람이 조금의 이익을 볼 것이다. 장기적으로는 압도적 지능을 갖춘 AI 앞에서 인류의 지식 내 편차는 별 볼 일 없는 차이가 될 것이다. 그럼에도 희망을 잃지 않는 것은 1인 1표 민주주의와 인본주의 시스템이 지속될 것이라는 기대와 인간 내면의 선한 본성을 믿기 때문이다.
이 부분에서 이견이 있을 수 있겠지만 필자는 인류의 역사가 진보해왔고, 과거 어느 시점의 인류보다 현대의 인류가 평균적으로 행복한 삶을 살고 있다고 느낀다. 필자는 더 많은 선택의 가능성과 자유가 행복을 담보한다고 믿는다. 어떤 선택이 그 자신을 파멸로 이끌지언정.
가까운 지인들에게 AI 툴을 사용해보라고 설득하고 있지만, 이는 곧 의미 없는 일이 될 것이다. 어느 시점 이후로는 다들 자연스럽게 사용하고 있을테니.
로봇, 역노화, ASI, 우주 진출. 미래는 상상할 수 없는 것 투성이지만, 필자는 기대한다.
+ 추가(26.3.12)
공교롭게도 글을 쓴 날 아래 기사가 났던 것을 좀 전에 확인했다.
https://news.sbs.co.kr/news/endPage.do?news_id=N1008471817&plink=ORI&cooper=NAVER#close
유사한 사고 사례가 여러 분야에서 나타나고 있다.
이는 AI가 거짓 정보를 진실처럼 출력하는 환각(hallucination) 가능성을 제대로 이해하지 못 하여 충분한 사전 통제나 사후 검증이 이뤄지지 않았기 때문이다.
칼은 사람을 다치게 할 위험이 있지만 수천년간 유용한 도구로 사용되고 있다. 툴로서의 AI도 마찬가지다. 한계와 적절한 사용방법을 명확히 이해하고 사용해야 한다.
지인들의 얘기를 들어보면 적극적인 AI 사용을 가로막는 가장 큰 장벽이 환각이다. 환각으로 인해 시간을 낭비하거나 낭패를 본 경험과 그 때의 심리가 시도를 가로막고 있는 것이다. 필자도 환각으로 인해 낭패를 본 경험이 있어 프롬프트 입력 전에 task를 구조화하는 습관과 AI 출력물을 더욱 철저히 검증하는 습관을 들였다.
ChatGPT, Gemini, Claude 등 AI 모델은 발전을 거듭함에 따라 처리 가능한 토큰량이 많아지며(컨텍스트 윈도우가 커진다고도 표현한다.) 환각 문제는 점차 줄어들고 있다. 집단지성으로서의 사용자 경험이 쌓이며 환각을 효율적으로 통제하는 노하우도 개선되고 있다.
* 컨텍스트 윈도우: LLM(대형 언어 모델)이 한 번에 입력받아 처리하고 기억할 수 있는 텍스트의 최대 양(문맥)
쉽고 간단한 팁을 주자면, 환각을 통제하는 방법에 대해서도 AI에게 질문하여 답을 얻으면 된다.
아래는 필자가 ChatGPT 5.3에게 "ai의 환각을 막는 법"이란 프롬프트를 입력하여 얻은 결과를 한차례 요약한 것이다.
AI 환각을 줄이는 핵심 방법은 다음 6가지다.
근거 요구
모든 주장에 출처나 근거를 요구한다.
추측 금지 규칙
정보가 없으면 모른다 / not_reported로 표시하도록 한다.
사용 가능한 자료 제한
“첨부된 문서만 사용하라”처럼 외부 지식 사용을 막는다.
구조화된 출력 사용
YAML·JSON 같은 스키마로 답하게 한다.
단계적 검증
생성 후 “근거 없는 주장 찾기” 같은 검증 프롬프트를 추가한다.
검색 기반 답변(RAG)
실제 문서를 검색해 그 내용을 기반으로 답하게 한다.
요약하면 근거 제한 + 추측 금지 + 구조화 + 검증이 환각을 줄이는 핵심 원칙이다.
위 지침 중 일부만 지켜도 환각 문제는 거의 없앨 수 있음을 장담한다.
아무쪼록 잘못된 사용 사례가 사라지길 바란다.