클로드3는 안전하고 챗GPT는 위험하다?
인공지능 시대 속에서 바람직하면서도 탁월한 조직문화를 탐색하기 ~
#오픈AI 의 수장 #샘올트먼 이 축출당할 뻔 한 거 아시나요? #이사회 에서 해임당했다가 돌아왔죠. 당시 다수의 직원들이 샘 올트먼을 지지한 것으로 알려져 있지만, 오히려 샘 울트먼의 행보가 반발하며 나간 직원들도 있습니다. 그 회사 중에서 가장 유명(?)한 회사가 #앤트로픽 이지요. 앤트로픽이 만든, 핫한 #생성형AI 가 #클로드 입니다. 우리는 #클로드3 라고 부르곤 하죠.
원래 오픈AI는 비영리법인이었습니다. #실리콘밸리 의 많은 부자들이 특이한 투자를 많이 하는 편인데요, 그 중 하나가 안전한, 공정한, 바람직한 AI에 대한 투자가 있었습니다. 오픈AI는 그런 인공지능을 개발하고 싶어했고, 그 뜻에 동조한 여러 개발자들이 몰려 들었습니다. 그리고 그 위세는 대단했죠. 챗GPT 써보시면 알겠지만, #마이크로소프트 나 #구글 도 아직 따라잡기 힘들어 하는 AI가 탄생했거든요.
하지만, 비영리법인과 영리법인은 많은 차이가 있습니다. 특히 경영철학이 많이 다릅니다. 내부 의사결정 구조도 달라지구요... 샘 올트먼은 어느 정도의 영리 사업을 꿈꿨던 모양입니다. 이 점은 제가 얼마 전에 쓴 글에서도 설명을 드렸습니다만, 샘 올트먼이란 사람 자체가 투자자에요. 돈을 추구하는... 그런 점에서 뛰어난 #수익모델 을 봤고, 그걸 비영리로 두는 게... 어려웠을 겁니다. #마이크로소프트 같은 기업이 투자한다는 건, 투자자 입장에서 대박을 내며 #엑싯 하는 것인지라, 투자자 샘 올트먼은 더욱 영리 법인으로의 전환을 꿈꿨을 겁니다. 그 과정에서 비영리를 추구하는 이사들과 충돌했고, 최종적으로 샘 올트먼이 승리했지만, 앤트로픽이라는 경쟁자(?)를 낳는 결과를 초래한거죠.
#챗GPT 는 개발 과정에서 몇 가지 위험한(?) 모습을 보였습니다. 첫째, 사용자의 데이터를 학습해서 결과를 만들어내면서 이를 알리지 않았고, 둘째, #할루시네이션 이 상당히 심각했지만, 이를 오랜 시간 방치했고, 셋째, 여전히 학습 데이터에 데한 정당한 사용료를 지불하지 않았습니다. 우리가 할루시네이션이라고 하면, 우리가 기대하지 않은 오류 정보를 만들어내는 것을 의미하지만, 어떤 '바람직한' 기준에서 벗어나는 결과를 만들어내는 것도 포함합니다. 요즘 미국에서 #PC주의 이런 게 굉장히 강하게 퍼져나가고 있는데요, 인공지능도 거기에 맞추어야 한다는 압박감을 갖고 있는 것 같습니다. 그래서 마이크로포스트나 구글이 최종 완성품 내는 걸 힘들어했지만, 오픈AI는 상대적으로 무명이었던데다 #ChatGPT 가 초반에 인기를 끌면서 슬쩍 넘어간 셈이 되었습니다. 한마디로, 운이 좋았던 셈이죠.
하지만, 최근 #클로드3 를 향항 투자 움직임을 보면서, #EU 에서 제정한 인공지능 관련 법안을 보면서, 이 세계도 자칫 철학과 이념이 망칠 수도 있겠다, 는 생각이 들기 시작했습니다. 사실 클로드3 역시 저작권 문제를 해결한 상태도 아닌데다, 사용자의 학습 데이터를 쓴다, 안쓴다, 를 판별할 수 있는 도구는 현재 공개한 바 없거든요. 그리고 비영리 법인으로 추구한다지만, 영리 법인으로부터 많은 돈을 투자받고 있다면, 결국 그 행보는 변할 수 밖에 없는 게 시간 문제로 봐야 합니다. 그런 점에서, 과연 클로드3 는 안전한 AI인가, 라는 질문에, 저는 현재는 그렇게 보이지만, 결국 둘은 같아질 것이다, 라는 결론을 내리게 됩니다.
AI는 우리를 해치지 않습니다. 다만,
AI를 만드는 개발자들의 목표와 방법이 우리에게 손해를 끼칠 수 있습니다.
AI가 무서워보여도, 전원 케이블 빼면 거대한 기계장치 쓰레기에 불과해지고, 인터넷 선 끊으면 혼자선 영향을 줄래야 줄 수가 없는 존재입니다.
과연 우리가 위험하다고 얘기하며 인공지능을 바라보는 시각이 바람직한 시각인지 고민해 봐야 하지 않을까 싶습니다. 정말 위험한 건, 비영리 조직이라며 처음부터 저작권 같은 거 따지지 않는 문화, 돈 받아서 나중에 해결하면 된다는 문화가 더 문제가 아닐까요? 비록 샘 울트먼과 맞지 않아 나왔다고는 하지만, 앤트로픽 역시 오랜 시간 함께 그 문화 속에서 개발을 해온 사람들이 운영하고 있는지라... 클로드3는 안전해 보여도, 그걸 개발하는 사람들의 의도는 여전히 신뢰가 되지 않는다면, 결국 클로드3 역시 위험한 AI가 되지 않을까, 하는 생각도 해보게 됩니다.
기술이 위험한 게 아니라,
기술을 만드는 사람이 위험하고,
그 사람이 일하는 문화가 위험한 게 아닐까요?
#BestAICoach
#백기락 Dream
* #독서경영 #조직문화 컨설팅 등을 통해 변화와 혁신에 뛰어난 조직문화를 만들어가는데 도움을 드립니다.
** 기업 임직원들의 성장에 도움이 되는 #HR 프로그램 개발, #교육 #훈련 프로그램 개발을 도와 드립니다. 특히 #이러닝 프로그램을 기반으로 #플립러닝 인프라를 구축하는 데 도움을 드립니다.
*** 최고의 코치들과 일대일 코칭을 통해 자신의 변화와 성장을 경험해 보세요 ~
https://blog.naver.com/kirak/223415030025
