바로 쓰는 AI 활용법

이제는 AI와 함께 일하자

1부 실무자를 위한 데이터·AI 사용 설명서

3장 바로 쓰는 AI 활용법

금요일 오후 4시 30분, 시장님 결재

휴대폰이 울렸다.
환경과 김민지 주무관은 커피잔을 들고 있었다. 화면에 ‘과장님’이라는 이름이 떴다.

"민지 씨, 시장님이 내일 조회 때 악취 민원 브리핑하신대. 두 쪽짜리 보고서, 오늘 안에 줄 수 있나?"

시계를 봤다. 4시 32분.
퇴근까지 1시간 반.

보통이라면 불가능한 미션이었다.
예전 같았으면 야근이었다. 아니, 밤샘이었다.

하지만 이번에는 달랐다.
김민지는 커피를 내려놓고 노트북을 열었다.
지난주 박진수 선배가 ‘이건 꼭 알아야 한다. 이거 쓰면 진짜 인생이 바뀐다’며 알려준 비밀 병기가 떠올랐다.

바로 생성형 AI를 사용하라는 건데, 민지는 바로 생성형 AI를 켜고 정리된 데이터를 올렸다.

당신은 시청 환경과 정책 담당자입니다. 아래 악취 민원 데이터를 기반으로 2쪽 분량의 정책 브리핑 초안을 작성하세요.
1) 현황 요약, 2) 주요 문제점, 3) 정책 제안 순서로 구성하고,
각 섹션은 3~4 문장으로 간결한 개조식으로 작성하세요. 데이터를 요약해서 표로 정리해 주세요.
1레벨은 ㅁ, 2레벨은 ㅇ, 3레벨은 -, 4레벨은 · 로 시작하고 각 레벨이 높아질수록 2칸씩 띄워주세요.

1분 후, 화면에 보고서 초안이 완성됐다.
놀랍게도 구조는 잡혀 있었고 문장은 매끄러웠다.
김민지는 단어를 다듬고 수치를 확인한 뒤, 지역명을 추가했다.

오후 5시 50분.
보고서를 올리고 나니 과장님이 놀란 듯 물었다.

"벌써 끝났어? 이거 혼자 다 쓴 거야?"

김민지는 웃으며 답했다.

"네, 하지만 비서의 도움을 좀 받았어요."

1. AI는 마법사가 아니라 똑똑한 비서

점심시간 구내식당. 김민지는 선배에게 물었다.
"선배, 어제 그 보고서 진짜 신기했어요. AI가 다 해주는 느낌이었어요."

박진수는 웃었다.
"AI를 마법사로 생각하면 실망해. 대신 비서로 보면 정확해."

"비서요?"

"그래. 비서는 내가 시키는 대로 초안을 만들고 자료를 모으지. 그런데 결재는 누가 해? 나야. AI도 마찬가지야. 완벽한 답을 대신 내주는 게 아니라, 생각을 정리해 주는 존재야. 최종결정은 당연히 내가 해야지. "

"더 나아가서 일방적인 지시를 하는 관계가 아닌 협업하는 사이가 되면 더 좋은 퍼포먼스를 만들 수도 있지."

그는 경험을 덧붙였다.
"지난달 교통정책 보고서 쓸 때, AI한테 ‘목차부터 잡아줘’ 했거든. 10분 만에 나왔어. 물론 그대로 쓸 순 없었지. 우리 지역 특성 넣고 최신 데이터로 바꾸고, 문장도 손봤어. 그래도 백지에서 시작하는 것보다 훨씬 빨랐어. 전엔 밤 10시까지 남았는데, 지금은 6시에 퇴근해."

김민지는 고개를 끄덕였다.
AI는 내 일을 대신하는 존재가 아니라 돕는 존재였다.
자료를 챙겨주고, 아이디어를 던져주고, 반복 업무를 덜어주는 비서.
결국 중요한 건 내가 어떻게 질문하느냐였다.

2. 좋은 질문이 좋은 답을 만든다: 효과적인 프롬프트의 원칙

박진수는 수첩을 꺼내 네 단어를 적었다.
역할, 목표, 제약, 형식.

"AI에게 질문하는 건 신입한테 업무 지시하는 거랑 똑같아. ‘보고서 써줘’라고만 하면 신입도 헤매지. AI도 마찬가지야."

그는 차근차근 설명했다.

1. 역할(Role): "당신은 시청 정책기획관입니다."
→ AI에게 입장을 주면 답변의 톤과 시각이 달라진다.

2. 목표(Task): "아래 데이터를 5줄로 요약하세요."
→ 무엇을 해야 하는지 명확히 알려준다.

3. 제약(Constraints): "숫자는 반올림, 문장은 동사형 명사로 끝나는 개조식."
→ 불필요한 내용을 줄이고 결과를 일정하게 만든다.

4. 형식(Format): "불릿포인트 5개, 마지막은 정책 시사점."
→ 구조를 미리 정해주면 바로 사용할 수 있는 결과물이 나온다.

Before
“민원 데이터 요약해 줘.”
결과: 두서없는 문장, 형식 제각각.

After
“당신은 시청 민원분석 담당자입니다. 아래 엑셀 항목별 건수를 5줄로 요약하고, 가장 많은 유형과 전월 대비 증가율을 강조하세요. 숫자는 소수점 첫째 자리까지 반올림하고 불릿포인트로 출력하세요.”
결과: 정돈된 요약, 핵심 강조, 바로 회의자료로 사용 가능.

"완전히 다른 수준이네요."
"그렇지. 질문이 답을 만드는 거야. 여기서 한번 더 나아가면 AI에게 보완해 달라고 요청해 봐."

"AI가 만든 답을 AI한테 보완하라고요?"

"그래, 자기 검증을 요청하는 거지. 어떤 부분은 마음에 드는데 조금 더 개선하면 더 좋아질 것 같아. 전문가관점에서 좀 더 좋은 내용으로 개선해 줘. 이렇게 요청해 봐."

"와, 그럼 AI가 더 열심히 일하는군요."

"그렇지. 그리고 때로는 여러 다양한 AI에서 명령해서 최적의 결과를 찾는 법도 가능하지."

3. 회사에서 바로 쓸 수 있는 AI 활용 장면들

박진수는 실제 예시를 보여줬다.

1) 보고서 초안 작성

복지정책팀 이수진 주무관은 노인 일자리 사업 보고서를 급히 작성해야 했다.
"당신은 시청 복지정책팀 담당자입니다. 아래 데이터(참여자 수, 만족도, 예산 집행률)를 토대로 2쪽 분량의 성과 보고서를 작성하세요. 구성은 사업 개요, 주요 성과, 개선 과제 순서로 하세요."
결과: 목차, 개요, 요약, 제안이 완성됐다. 이수진은 수치 검토만으로 30분 만에 제출했다.

2) 반복 업무 자동화

교통정책과 박민호 주무관은 매주 100건의 민원을 감정별로 분류해야 했다.
"아래 민원 텍스트를 읽고 감정을 ‘긍정/부정/중립’으로 분류하세요. 표로 출력하세요."
결과: 3분 만에 분류 완료. 기존 2시간 작업이 5분으로 단축됐다.

3) 법령 및 규정 탐색

"개인정보보호법 2024년 개정 사항을 조항별로 요약해 표로 정리하세요."
결과: 핵심 조항이 일목요연하게 정리됐다.
단, 법령이나 예산 수치는 반드시 원문 확인이 필요하다.

4) 정책 아이디어 브레인스토밍

"악취, 쓰레기, 소음 민원 데이터를 기반으로 시민 참여형 환경 개선 캠페인 아이디어 5개를 제안하세요."
결과: ‘악취 신고 앱 개발’, ‘주민 환경지킴이단 운영’ 등 실현 가능한 아이디어가 도출됐다.
AI는 아이디어를 제시하지만 선택은 사람의 몫이었다.

신뢰도 높은 결과물을 도출하기 위해 사람이 개입하는 걸 '휴먼 인 더 루프(Human In The Loop'라고 한다.

중간결과물을 확인하고 지속적인 피드백을 통해 성능을 향상하고 인간이 수용할 수 있는 결과물을 만들게 한다.

4. AI의 진화: 에이전트 AI와 피지컬 AI

"선배, 요즘 에이전트 AI, 피지컬 AI라는 말이 자주 들리던데, 그건 뭐예요?"

박진수는 커피를 한 모금 마시며 말했다.


"에이전트 AI는 스스로 계획하고 행동하는 AI야."

"지금의 ChatGPT는 질문하면 답하는 수준이지만, 에이전트 AI는 목표를 주면 스스로 계획을 세울 수도 있지. 예를 들어 '다음 주 워크숍 준비해 줘'라고 하면 일정 확인, 장소 예약, 이메일 발송, 자료 정리까지 순서대로 수행해 주지."

"그럼 우리 업무에도 쓸 수 있겠네요?"

"그럼. 예를 들어 ‘지난 3개월 민원 데이터 분석 후 보고서 초안 작성’ 같은 일도 가능해질 거야. 지금은 초기 단계지만 1년 안에 현실화될 거야."

AI 에이전트의 핵심 특징은

자율성: 초기 명령 이후 독립적 작업 수행 가능

특화성: 특정 분야의 전문 업무 담당

학습능력: 경험을 통한 지속적 개선

협업능력: 인간 동료와의 자연스러운 상호작용이다.

"피지컬 AI는 현실 세계에서 작동하는 AI야"

로봇, 드론, 자율주행차 등이 여기에 해당한다.

Nvidia 기술 세미나에서 Physical AI에 대한 청사진을 발표하기도 했다.

"싱가포르에서는 청소 로봇이 거리를 다니고, 미국 일부 도시는 자율주행택시와 배달 로봇을 운영 중이야. 우리도 조만간 볼 수 있을 거야."

"산업에서는 정밀 조립이나 품질검사를 할 것이고, 현장에서는 청소, 배송하는 로봇이 사용될 거야. 우리 가정에서는 가사, 육아, 요리 지원을 해서 우리 삶이 편리해지겠지."

"AI가 이제는 화면 밖으로 나오는 거네요."

"맞아. 기술은 이미 와 있어. 이제 우리가 어떻게 쓸지 고민할 차례야."

5. 관리자에게 필요한 시선: AI 활용 장려

환경과 정민호 과장은 부서 회의에서 말했다.

"이번 달부터 AI 활용 챌린지를 해봅시다. 한 사람당 활용 사례 하나씩 가져오세요."

처음엔 반응이 없었다.
하지만 박진수의 "보고서 작성 시간 2시간 단축" 사례가 소개되자 분위기가 바뀌었다.
김민지는 "민원 데이터 요약 5분 완성"을 발표했고, 이수진은 "회의록 자동 요약"을 시도했다.

한 달 후, 팀의 야근 시간이 30퍼센트 줄었다.

관리자가 해야 할 일은 분명했다.

1) AI 활용 문화를 조성하고, 보안·윤리 지침을 병행한다.

2) 작은 성공 사례를 공유한다. 성공은 전염된다.

3) 실습형 학습 기회를 만든다. 함께 배우면 두려움이 줄어든다.

4) 실패를 허용한다. AI의 오답을 학습의 계기로 바꾼다.

"AI를 일상 속에서 비서처럼 써보자"는 과장의 한마디가 조직 문화를 바꿨다.

6. 주의할 점: AI는 완벽하지 않다

김민지는 처음엔 AI를 맹신했다. 하지만 세 번의 실수를 통해 배웠다.

첫째, 개인정보 입력 금지.
AI는 입력 데이터를 학습에 활용할 수도 있다. 주민등록번호, 전화번호, 이메일 등은 절대 입력하면 안 된다. 회사 기밀이나 위험사항도 금물. 설정에서 학습데이터 사용을 막을 수도 있으니 반드시 확인해 보자.

둘째, 팩트체크 필수.
AI는 그럴듯한 거짓말을 자신 있게 말한다. 숫자, 법령, 최신 정보는 반드시 원문 확인이 필요하다. 환각현상이 줄었다지만 여전히 허위 사실을 말하곤 한다. 여러 개의 AI를 통해 검증하며 사용하자.

셋째, 책임 회피 금지.
AI가 작성했어도 최종 책임은 사람에게 있다. AI는 도구일 뿐이다. 설명할 수 있어야 하고 책임질 수 있어야 한다.

7. 요약

AI는 마법사가 아니라 똑똑한 비서다. 협업자로 생각하고 대하자.

좋은 질문이 좋은 답을 만든다. (역할, 목표, 제약, 형식)

즉시 활용해 보자. 보고서 작성, 반복 업무, 아이디어 도출에 즉시 활용 가능하다.

자가검증을 통해 계속해서 결과물의 품질을 높인다. 설명가능한 결과물을 만든다.

에이전트 AI는 스스로 계획하고, 피지컬 AI는 현실을 움직인다.

관리자는 AI 활용 문화를 만들고, 보안과 윤리를 함께 지켜야 한다.

개인정보 보호, 팩트체크, 책임감은 반드시 지켜야 할 원칙이다.

[실습: 내 비서를 고용해 보자 (30분)]

목표: AI를 활용해 보고서를 30분 만에 완성하기
준비물: ChatGPT 계정, 실제 업무 데이터, 커피 한 잔

1단계: ChatGPT에 접속한다.
2단계: 다음 문장을 입력한다.
“당신은 시청 복지정책팀 보조관입니다. 아래 민원 데이터(악취 72건, 소음 54건, 쓰레기 38건)를 5줄로 요약하고, 가장 많은 유형과 전월 대비 증가율을 강조하세요. 마지막 줄에는 정책 제안 한 줄을 추가하세요. 불릿포인트 형식으로 출력하세요.”
3단계: 출력 결과를 워드 파일에 붙여 넣는다.
4단계: 숫자가 정확한지 원본과 대조한다.
5단계: “보고서용 문단으로 다듬어 달라”라고 추가 지시해 최종본을 만든다.

6단계: 내용을 검증해서 개선해 달라고 요청한다.

7단계: 필요한 부분에 대해 6단계를 반복한다. 기관 보고 양식으로 다듬고 꼼꼼히 오류를 찾아 수정한다.

이제 당신은 AI 비서를 통해 퀄리티 높은 보고서를 30분 만에 완성했다.

더 재미있는 일을 시도해 보자.