인공지능 길들이기
<듀얼 브레인> 5장(章)[1] <은밀한 업무 자동화> 중에서 밑줄 친 내용을 토대로 생각을 담습니다.
다음 문장을 보면 인공지능을 내연기관에 비유하는 행태가 떠오릅니다.
사람은 자유롭게 사용할 수 있는 범용 도구가 나오면, 이 도구를 이용해 일을 더 쉽게, 더 잘할 방법을 찾아낸다.
그리고, 제가 쓴 글을 검색해 보니 <보편기계인 컴퓨터가 에이전트로 이름을 바꾸려나?>가 있습니다.
이런 종류의 은밀한 첨단 기술 사용은 조직에서 흔히 나타나는데, 이는 근로자들이 자신의 혁신과 생산성 향상에 대해 침묵하도록 만든다.
알려지면 자신의 자리에 위협이 될까 봐 그런 걸까요? 제가 대학원에 다닐 때 동기인 개발자 형도 자신의 코드를 숨기는 동시에 자랑하는 모습을 보였는데, 어쩌면 한 사람의 행동에 그치는 것이 아니라 당시 다수 개발자의 관행이 아니었을까 싶습니다.
다시 책으로 돌아갑니다.
AI의 글쓰기 능력은 훌륭하지만, 그 글을 인간이 썼다고 생각될 때만 훌륭함이 받아들여진다. 사람들이 어떤 콘텐츠가 AI로 만들어졌다는 사실을 알게 되면, 인간이 만든 콘텐츠라고 알았을 때와 다르게 판단한다는 사실은 이미 연구로 밝혀졌다.
그러고 보니 SWEBOK에도 이러한 인간의 공통 행동이 드러나는 내용이 있었습니다.
An ideal AI system would be one that a human could not identify it as a computer; humans would not be able to distinguish the computer from a human.
<인공지능 길들이기> 경험 속에서 아래 내용을 이해할 수 있는 배경 지식이 만들어집니다.
조직이 신기술에 대응하기 위해 일반적으로 시도하는 방법은 AI에 잘 통하지 않는다. 조직의 방식은 모두 지나치게 중앙 집권화되어 있고, 너무 느리기 때문이다.
한편, 강규영 님의 <AI 시대의 소프트웨어 공학>에서 인상 깊게 읽었던 구절도 떠오릅니다.
소프트웨어 제작의 전 과정에 드는 비용이 0으로 수렴하기에 앞서, “개발” 단계의 병목이 빠르게 사라지는 것 같다. 이렇게 되면 공정의 다른 지점으로 병목이 옮겨가는데(The goal), 아마도 기획 단계 및 시장의 피드백을 수집하는 단계가 그러한 병목이 될 가능성이 높다. 기획 단계의 병목을 해소하려면 자연어로 작성된 명세서의 한계를 벗어날 도구와 방법론이 필요하다.
저 역시 굉장히 인상 깊게 읽었던 책 제목인 <The Goal>이 보입니다. 그 책에서는 시스템 전체의 성과는 제약 혹은 병목 지점에 의해 결정된다는 이론을 설명합니다. 다시 말해서 전체 프로세스에서 가장 약한 고리가 전체 성능의 한계를 짓는다는 관점입니다.
다시 책으로 돌아오면 인공지능을 활용할 경우 기존 조직의 일하는 법과는 병목 지점이 달라진다는 말입니다. 그렇기 때문에 각자의 자리에서 탐색가가 되어서 문제를 다시 정의하는 방법을 제안합니다.
자신의 문제를 정확히 알고 있으며, 이를 해결할 방법을 다양하게 실험해 볼 수 있는 개별 직원들이 훨씬 더 강력하고 목표에 맞는 용도를 찾아낼 가능성이 크다.
물론 조직이 어떻게 직원들에게 동기를 만들어 줄 것인가 하는 것은 또 다른 문제죠.[2]
유기체적인 모습의 전환은 제가 자부심으로 기억하는 중국 개발 조직의 변화와 닮아 있습니다.
조직이 AI의 혜택을 누릴 가장 좋은 방법은 뛰어난 사용자의 도움을 받으면서 더 많은 직원이 AI를 사용하도록 장려하는 것이다. <중략> AI 활용 역량을 기준으로 직원을 채용한 회사는 없으므로, 시 기술이 뛰어난 사람은 어디든 있을 수 있다. <중략> 기업은 가능한 한 많은 직원을 AI 관련 계획에 포함해야 한다.
이미 제가 아는 회사 중에서 다음과 같은 방법을 취한 곳이 복수입니다.
똑같이 AI를 도입해 생산성을 향상하더라도, 인력 규모를 줄이면서 생산량을 동일하게 유지하는 기업보다는 인력을 유지하며 생산량을 늘리는 기업이 우위를 점할 가능성이 높다. 그리고 인력 유지를 약속하는 기업은 직원들의 신뢰를 얻게 된다. 그러면 직원들은 대체될 것을 두려워하며 AI 사용을 숨기는 것이 아니라, 다른 이들에게 기꺼이 AI 활용법을 가르치고 공유할 것이다.
그리고 이러한 혁신이 작동하려면 조직의 수장은 직원들에게 신뢰를 보내야 합니다.
직원들은 AI 도입을 걱정하면서도 업무에 AI를 활용하는 것을 좋아하는 경향이 있다. 업무에서 지루하고 성가신 부분을 AI에게 맡기고, 대신 흥미로운 업무에 집중할 수 있기 때문이다. 따라서 AI가 예전에 가치 있던 업무를 일부 가져가더라도, 더 의미 있고 가치 있는 업무가 남게 될 것이다.
글을 다 쓴 시점에서 유튜브 추천 알고리듬으로 보게 된 영상에서도 비슷한 맥락의 이야기를 해서 링크를 추가합니다.
[1] <낱말의 뜻을 깊고 넓게 묻고 따지는 일의 소중함> 실천으로 글 장(章)의 구성원리를 한자사전에서 찾아봅니다.
[2] 최근 페이스북에 자주 노출된 대기업 총수 관련 기사를 보면 쉽지 않은 문제임이 드러납니다. 적어도 기성 대기업에서는 말이죠.
2. AI알못 입장에서 이해한 RAG와 RLHF 효용성
3. 외계 지성의 위한 인공 윤리 준수와 통제의 필요성
6. AI는 저장된 기억을 검색하지 않고 패턴에 의존한다
10. 다양한 수준에서 AI에 따른 직업의 변화를 면밀히 보자
(18회 이후 링크만 표시합니다.)
20. 인공지능은 언어적 일관성에 의존하는 새로운 지능이다
22. 2016년 이세돌과 알파고 대국은 먼저 온 미래였다
23. 포토샵 대신 나노바나나로 갈아타는 첫 발을 떼다
25. 다음에 나오는 단어를 예측하는 일이 이렇게 중요한가?
28. 다양한 수준에서 AI에 따른 직업의 변화를 면밀히 보자