AI 시대의 성공 비결: 뛰어난 질문의 지식복리효과

IT의 재발견, 기업혁신 그리고 AI

by AI개발자

Dec 20. 2024

IT의 재발견, 기업혁신 그리고 AI

"지식의 복리"란, 지식을 많이 가진 사람일수록 새로운 지식을 효율적으로 받아들여, 한층 더 지식을 증폭하는 현상을 말합니다.

생성형 AI와 결합하면, 이 복리효과가 가속화되고 고도의 질문이 보다 깊은 통찰을 이끌어 냅니다.

'ChatGPT Projects', 'Claude Projects'등을 활용하여 조직내에서 지식을 공유하면 특정 개인에 의존하지 않고 모두가 이 지식증폭 사이클에 참여할 수 있게 됩니다.

☞ 지식의 복리란?

워렌 버핏의 참모로 알려진 찰리 멍거는 한때 "지식의 복리"라는 생각을 제창했습니다. 이것은 원래 풍부한 지식을 가진 사람일수록 새로운 지견을 도입할 때 부드럽고 신속하게 흡수할 수 있어, 그 결과가 점점 더 많은 지식을 축적해 나갈 수 있는 현상입니다.

예를 들어, 어떤 시장과 산업에 대해 깊은 이해를 갖고 있는 직장인은 새로운 보고서, 연구자료 또는 다른 분야의 아이디어를 보다 효율적으로 소화하고, 자신의 의사결정에 활용하기 쉬워집니다.

이것이 단순히 "모르는 것을 얻는다"라는 레벨에 그치지 않는 것은 그 과정에서 "기존의 지식 X 새로운 지식"이 조합이 더욱 창조적인 아이디어를 낳을 수 있기 때문입니다.

이 "지식의 복리"는 최근 빠르게 보급된 생성형 AI 또는 LLM을 결합하여 더욱 강력해질 수 있습니다. 이미 어느 정도의 지식을 가지고 있고, AI에 제대로 묻는 사람은 AI에서 얻은 정보를 보다 고급형으로 향상시킬 수 있습니다.

그 결과, 그 사람은 더 많은 새로운 아이디어와 지혜를 얻어 복리적인 지식 증폭을 일으킵니다.

⑴ "지식복리"를 생성형AI로 가속시키는 메커니즘

생성형 AI는 우리가 제시하는 요구사항에 맞춰 즉각적으로 정보를 엮어 냅니다. 이때, 지식과 사고력이 있는 사람은 초보적인 질문보다는 좀더 심도있는 질문을 던지기 때문에 AI로부터 얻는 답변도 자연스럽게 고차원적인 것이 되기 쉽습니다.

정보수집의 신속화

기존에는 시간과 노력이 필요했던 조사를 간결한 프롬프트를 통해 빠르게 진행할 수 있습니다. 잘 아는 분야라면 처음부터 핵심을 찌르는 질문을 할 수 있습니다.

질문의 정교화를 통한 질적 향상

"그 사례를 한국시장에서도 적용할 수 있는가?"

"이 이론을 다른 산업에 적용하면 어떻게 될까?"

와 같은 추가 질문을 통해 AI의 산출물을 단계적으로 정확도와 깊이는 높은 정보로 유도할 수 있습니다.

다양한 관점 도입

이미 지식 네트워크가 넓어진 사람은 AI에게 '다른 문화권에서는 어떻게 해석할까', '다른 분야와의 연관성이 있을까'라고 물어봄으로써 다각적인 관점을 얻을 수 있습니다. 결과적으로 새로운 아이디어와 전략에 대한 힌트가 자연스럽게 모이게 됩니다.

⑵ AI를 '육성'하는 대화형 접근 방식

생성형 AI는 단순한 정보 자판기가 아닙니다. 여기서 핵심은 AI를 단순하게 사용하는 것이 아니라, '키운다'라는 개념입니다.

명확한 목표 설정

"이 영역에 대한 기존 전략을 재점검하고 싶다"

"경쟁사에는 없는 가치 제안의 힌트를 찾고 싶다"

와 같은 목적을 염두에 두고, 프롬프트를 작성하면 AI가 반환하는 정보도 목적에 부합하는 정보가 되기 쉽습니다.

단계별 피드백

먼저 대략적인 정보를 도출한 후, "좀 더 많은 예시를 추가하라", "성공조건과 실패조건을 대조하라"등의 추가지시를 반복합니다. 이를 통해 AI의 출력은 점차 정교해지고, AI도 자신이 진정으로 알고 싶었던 부분을 명확히 할 수 있습니다.

자신이 원하는 정보와 부족한 관점을 파악하는 과정에서 자신의 머릿속에 있는 지식도 정리되고 재구성됩니다. 즉, AI에 대한 피드백을 계속하는 행위 자체가 자신의 지적 성장을 촉진하고, 지식의 복리 효과를 더욱 높이는 것입니다.

⑶ '아는 사람'과 '모르는 사람'의 격차 확대를 피하기 위해서는?

'지식의 복리'가 강해질수록 원래 지식이 많은 사람이나 스킬이 높은 사람이 더 큰 혜택을 받게 되어 격차가 확대될 우려가 있습니다. 이를 방지하려면 조직 내 '아는 사람'과 '모르는 사람'의 격차가 확대되고, 새로운 전략과 혁신이 특정 개인에게만 의존하게 됩니다.

격차요인

- 지식이 부족한 사람은 어떤 질문을 해야할지 판단하기 어렵습니다.

- 유용한 정보를 충분히 이끌어내지 못하고 끝납니다.

격차해소 방안

지식과 기술이 부족한 구성원도 선배들의 노하우에 접근할 수 있도록 하는 노력이 필요합니다. 프롬프트의 좋은 예시나 정보추출 절차를 알 수 있는 공유 리소스가 있다면, 지식이 부족한 사람들도 참고하면서 단계적으로 성장할 수 있을 것입니다.

⑷ 'ChatGPT Projects', 'Claude Projects'를 활용한 체계적인 지식 공유

보다 구체적으로 'ChatGPT Projects', 'Claude Projects'가 도움이 됩니다.

조직내 지식 가시화

- 성공적인 질문 예시

- 유익한 답변을 얻기 위한 단계

- 여러번의 대화로그와 개선 과정, 이를 축적해두면 신입이나 다른 분야의 구성원도 '이 순서대로 질문하면 되는구나'를 배울 수 있습니다.

과거의 실패에서 배운다

부적절한 질문이나 잘못된 정보가 나온 경우도 로그에 기록하고, 주의사항과 개선방안을 덧붙이면 같은 실수를 반복하지 않아도 됩니다. 시간이 지날수록 이 공유 리소스는 더욱 정교해져 조직 전체의 지식활용 능력을 향상시킬 수 있습니다.

다양한 관점의 참여

서로 다른 부서와 전문 분야의 구성원들이 접근하면 새로운 아이디어가 더 쉽게 창출될 수 있습니다. 이러한 상호 영향력은 조직 전체에 지식의 복리 사이클을 돌리고, 환경변화에 유연하게 대응할 수 있는 체질을 만드는데 도움이 됩니다.

이를 활용하면,

전문가의 프롬프트와 이에 대한 응답 프로세스

AI로부터 얻은 아이디어와 분석 결과

도입과정에서 도출된 개선점

등을 조직 전체가 열람하고 활용할 수 있게 됩니다.

결과적으로 원래 지식이 적었던 사람이나 다른 분야의 구성원들도 결과물이나 대화로그에 접근하여 AI에게 지시하고 정보를 도출하는 방법을 배울 수 있게 됩니다.

이를 통해 '아는 사람'과 '모르는 사람'의 간극을 쉽게 메울 수 있고, 조직 전체에 지식이 복리적으로 증가하는 순환이 일어납니다. 또한, 프로젝트내에 조직 고유의 지식을 등록해 두면, LLM은 해당 지식을 참조하여 전문화된 답변을 제공할 수 있습니다. 이를 통해 '특정 지식에 특화된 답변을 얻기 위해 여러 번 프롬프트를 고안할 필요가 없어진다'는 이점이 있습니다.

예를 들어, 특정 산업의 시장동향에 대한 보고서나 특정 기업전략 사례집을 사전에 프로젝트 내 지식으로 등록해두면, "이 전략을 자사의 신제품 개발에 적용한다면 어떤 요소를 강조해야 할까?"라는 질문에 대해 LLM은 "어떤 요소를 강조해야 할까?"라는 질문에 대해 LLM은 해당 지식을 즉각적으로 참조하여 보다 적절하고 깊이 잇는 답변을 제시합니다.

이처럼 프로젝트 내에 지식을 등록하여 LLM의 출력내용을 특정영역이나 데이터에 특화시킴으로써 단순한 질의응답 형식의 교류에서 한걸음 더 나아가 '상황에 맞는 고도화된 지식의 교류'가 가능해집니다.

이런 구조를 통해 특정 개인이 독점적으로 지식을 축적하는 것이 아니라, 조직 내에서 이를 재사용하고 'AI에 대한 좋은 질문은 무엇인가?", "어떤 데이터를 조합하면 유용한 결론을 도출할 수 있는가?"와 같은 노하우를 공유할 수 있습니다.

그 결과, 처음에는 고차원적인 질문을 하지 못했던 구성원들도 점차 '지식의 복리' 사이클에 참여하기 쉬워지고, 장기적으로 조직 전체의 지적 생산성을 비약적으로 향상시킬 수 있습니다.

⑸ 부록: '생성형 AIops'에 활용하는 방법

'지식의 복리'를 활용하기 위한 체계구축은 단순한 도구 도입에 그치지 않고 ,조직 전체의 운영 프로세스로 승화시킬 수 있습니다. 여기서 주목해야 할 것은 이른바 DevOps개념을 생성형 AI활용으로 확장한 '생성형 AIops'라는 발상입니다.

① 생성형 AIops란?

DevOps와의 유사점

소프트웨어 개발과 운영을 긴밀하게 연결하여 지속적인 개선을 목표로 하는 DevOps처럼, 생성형 AI 활용을 일회성 도구 활용이 아닌 지속적인 개선을 목표로 합니다.

지속적인 개선 로그 및 지식 공유 자동화된 피드백 루프

을 통합한 운영체계로 정의하는 것이 '생성형 AIops'라고 정의합니다.

지향하는 목표

개인의 뛰어난 질문기술과 조직 고유의 지식활용을 표준화하여 누구나 쉽게 '지식의 복리'사이클에 참여할 수 있는 상태를 만드는 것입니다.

② 생성형 AIops를 지원하는 구조와 문화

㈀ 프롬프트 관리 및 버전관리

이미 구축된 프롬프트와 질문 예시를 리포지토리화하여 과거 버전과 개선 이력을 참조할 수 있도록 합니다.

신입은 선배들의 정교한 프롬프트를 참고하여 성장하고, 전문가는 더 높은 수준의 수정을 가합니다.

㈁ 지식기반의 지속적인 확장

'ChatGPT Projects', 'Claude Projects'등을 통해 대화로그와 성정 및 실패 사례를 지속적으로 기록 및 변경합니다.

신입사원이 온보딩시 이런 축적을 참조하여 최단시간에 유용한 질문법과 지식활용법을 익힐 수 있도록 합니다.

㈂ 자동 테스트 및 검증 프로세스

특정 프롬프트와 예상 출력 결과를 주기적으로 테스트하고, 예상대로 답변이 나오는지, 불필요한 편견이 섞이지 않았는지, 를 체크라는 규칙을 마련합니다.

정기적인 검증을 통해 지식기반과 프롬프트세트의 품질을 지속적으로 유지 및 개선할 수 있습니다.

㈃ 윤용역할의 명확화

프롬프트 디자이너(질문 설계자)

지식 큐레이터(조직별 리소스 정비자)

모니터링 담당자(출력정확도 및 편향성 검증을 수행하는 사람)

등을 정의하여 '생성형 AIops'를 조직활동 일부로 정착시킵니다.

⑹ 얻을 수 있는 효과

지속적인 지식 복리 사이클의 순환

'아는 사람'만이 빠르게 학습하는 것이 아니라 노하우를 패턴화, 공유, 개선함으로써 조직 구성원 모두가 성장할 수 있는 기반이 마련됩니다.

속인성 감소와 조직 학습력 향상

특정 개인이 가지고 있는 암묵지를 프로젝트나 도구 상에서 명시적으로 지식화하여 축적 및 재사용함으로써 전문가 의존도를 낮추고 조직 전체의 학습능력을 향상시킵니다.

신속한 시장 대응력 확보

환경변화나 새로운 비즈니스 기회에 대해 조직 전체가 공통의 지식자산과 정교한 질문 노하우를 활용할 수 있기 때문에 신속한 전략 수립과 의사결정이 가능해 집니다.

⑺ 결론

'지식의 복리'를 '생성형 AIops'라는 지속적인 개선 프로세스로 전개함으로써 단순한 생성형 AI 도구의 도입을 넘어,

조직 내 지식성장을 가속화하는 기반을 구축하고,

모두가 고도의 인텔리전스를 누릴 수 있는 환경을 조성하고,

변화에 강하고 유연한 '학습하는 조직'으로 발전할 수 있습니다.

⑻ 정리

물론 생성형 AI는 잘못된 정보를 제시하거나 특정 편향된 답변을 할 수 있는 위험도 있습니다. 하지만, 위와 같이 조직내 관리를 잘하면 누군가가 실수나 편향성을 지적하고 수정 정보를 추가하고 학습한 내용을 공유할 수 있습니다.

이러한 양방향 정보 흐름은 집단적 지식의 정확도를 높이고, 잘못도니 정보에 대한 대처능력과 판단력을 강화할 수 있습니다. 이런 연쇄가 잘 돌아가기 시작하면 단순히 '아는 사람이 이득을 보는' 상태에서 벗어나 조직 전체가 '지식의 복리'를 누릴 수 있는 생태계가 조성됩니다.

모두가 AI를 현명하게 활용할 수 있는 팁, 정보를 더 깊이 파고들 수 있는 질문의 예시, 서로 다른 부서의 관점을 넘나드는 새로운 발상의 전환을 통해 새로운 가치 창출로 이루어질 수 있습니다. '지식의 복리' 시대에 생성형 AI는 단순한 도구가 아니라, 지식 성장을 가속화하는 촉매제가 될 수 있습니다. 그 촉매작용을 누구나 활용할 수 있는 환경을 조성함으로써 개인차에 따른 지식격차를 완화하고 팀과 조직전체가 풍부한 '지식 네트워크'를 형성하는 방향으로 나아갈 수 있지 않을까요?