AI에는 "폐쇄형"과 "오픈형"이 있다.
이제 AI 선택은 기술 비교가 아니라 조직 설계의 문제다.
AI에는 폐쇄형과 오픈형이 있는데, 이게 의미하는 게 뭐냐면
AI를 ‘서비스로 쓰는가’ 아니면 ‘시스템으로 보유하는가’의 차이다.
그리고 이 차이가 중요해진 결정적 이유가 바로
위 이미지 ― “Performance gaps are closing fast”가 보여주는 변화다.
이 글은 위 이미지가 의미하는 구조적 전환을 중심으로,
폐쇄형 AI와 오픈형(오픈소스) AI가 무엇을 뜻하는지, 그리고 왜 지금
기업과 조직의 선택 기준이 바뀌고 있는지를 구체적으로 정리한다.
먼저 위 이미지 “Performance gaps are closing fast”가 말하는 핵심부터 짚어야 한다.
이 이미지는 2022년부터 2024년까지 대형 언어 모델의 성능 변화를 시간 순서로 보여준다. 세로축은 MMLU 점수인데, 이는 Massive Multitask Language Understanding의 약자로, 다양한 지식과 추론 능력을 종합적으로 평가하는 벤치마크다. 괄호에 표시된 5-shot은 문제를 풀기 전에 다섯 개의 예시를 제공했을 때의 성능이라는 뜻이다.
즉, 실제 업무 환경과 가까운 조건에서의 이해력과 추론력을 측정한 수치다.
청록색 점들은 폐쇄형 모델, 보라색 점들은 오픈형 모델이다.
초반에는 폐쇄형이 압도적으로 앞서 있다. 하지만 시간이 갈수록 오픈형 모델의 성능이
훨씬 빠른 기울기로 상승하고, 2024년에는 상위 오픈형 모델들이 폐쇄형 모델과
같은 성능 대역에 진입한다.
이 이미지의 핵심 메시지는 단순히 “오픈형이 좋아졌다”가 아니다.
핵심은 성능 격차가 ‘의사결정 변수’에서 ‘전제 조건’으로 바뀌었다는 데 있다.
쉽게 말하면 “이제 AI를 고를 때 성능은 더 이상 ‘고민거리’가 아니라 ‘기본 조건’이 됐다”는 뜻이다.
조금 풀어서 설명해보자.
예전에는 이렇게 생각했다.
“이 AI가 우리 업무를 할 만큼 똑똑한가?”
성능이 부족하면 그 순간 탈락이었다. 성능 자체가 의사결정을 좌우하는 핵심 변수였다.
하지만 지금은 상황이 바뀌었다.
상위 AI들은 폐쇄형이든 오픈형이든 업무에 쓸 수 있는 수준의 성능을 대부분 갖추고 있다.
그래서 더 이상 “이게 똑똑하냐, 저게 똑똑하냐”가 결정적인 질문이 아니다.
이제 성능은 이렇게 취급된다.
“이 정도 성능은 당연히 갖고 있겠지?”
즉, 성능은 비교의 출발선, 다시 말해 전제 조건이 된 것이다.
비유로 설명하면 이렇다.
예전 자동차를 고를 때는 “이 차가 시속 100km를 낼 수 있나?”가 중요했다.
못 내면 아예 선택 대상이 아니었다.
지금은 다르다. 요즘 차는 거의 다 시속 100km는 낸다. 그래서 사람들은 이제 이런 걸 본다.
연비는 어떤지, 유지비는 얼마인지, 안전 옵션은 어떤지, 고장이 났을 때 대응은 쉬운지.
AI도 똑같다.
성능은 “시속 100km를 낼 수 있는가” 같은 조건이 됐고,
그 다음에 진짜 비교가 시작된다.
그래서 지금의 질문은 이렇게 바뀐다.
• 비용을 예측할 수 있는가
• 데이터가 밖으로 나가지 않는가
• 규제와 내부 정책을 지킬 수 있는가
• 업데이트를 우리가 통제할 수 있는가
정리하면,
성능 격차가 ‘의사결정 변수’에서 ‘전제 조건’으로 바뀌었다는 말은
AI 선택의 기준이 ‘똑똑함’에서 ‘운영 가능성’으로 이동했다는 뜻이다.
이게 지금 오픈형과 폐쇄형 논의가 다시 뜨거워진 이유다.
과거에는 “이 성능이면 업무에 쓰기 어렵다”라는 이유로 오픈형이 배제됐다.
지금은 다르다. 이제는 “이 정도 성능은 기본”이 되었고, 그 다음 질문이 등장한다.
그럼 누가 더 통제 가능한가? 누가 더 예측 가능한 비용 구조를 제공하는가?
이 지점에서 폐쇄형과 오픈형의 본질적 차이가 드러난다.
폐쇄형 AI부터 정리해보자.
폐쇄형 AI란 모델의 내부 구조, 학습 방식, 학습에 사용된 데이터가 공개되지 않은 상태로 제공되는 인공지능을 말한다. 사용자는 보통 인터넷을 통해 제공되는 응용 프로그래밍 인터페이스(API, Application Programming Interface)를 호출해 결과만 받는다.
내부에서 어떤 계산이 일어나는지는 알 수 없고, 바꿀 수도 없다.
폐쇄형 AI의 가장 큰 강점은 속도와 단순성이다.
계정을 만들고 API를 연결하면 바로 사용할 수 있다. 그래픽 처리 장치(GPU, Graphics Processing Unit)를 확보할 필요도 없고, 모델을 배포하거나 유지보수할 필요도 없다. 인공지능 운영 경험이 거의 없는 조직도 빠르게 실험을 시작할 수 있다.
또한 폐쇄형은 보통 최고 성능 모델이 가장 먼저 등장하는 경로다. 새로운 기능, 예를 들어 여러 형태의 입력을 동시에 처리하는 멀티모달 기능이나, 긴 문맥을 처리하는 기능도 비교적 빠르게 제공된다.
그래서 폐쇄형 AI는 개념 검증(PoC, Proof of Concept)이나 파일럿 단계에서 매우 강력하다.
빠르게 결과를 보고, 내부 설득 자료를 만들기 좋다.
하지만 성능 격차가 줄어든 지금, 폐쇄형의 약점은 더 또렷해진다.
가장 큰 문제는 비용 예측 불가능성이다. 폐쇄형 AI는 대부분 사용량 기반 과금이다. 처음에는 비용이 낮아 보이지만, 전사적으로 확장되면 호출 횟수가 폭증한다. 고객 응대, 문서 처리, 개발 보조처럼 반복 사용이 많은 업무에서는 비용이 눈덩이처럼 불어난다.
두 번째는 데이터 통제 문제다.
외부 API를 호출하는 순간, 데이터는 조직 외부를 경유한다. 개인정보, 금융 정보, 내부 전략 문서처럼 민감한 데이터가 많을수록 보안과 규제 대응이 복잡해진다. 법무·컴플라이언스 관점에서 검토해야 할 항목도 급격히 늘어난다.
세 번째는 정책과 업데이트에 대한 종속이다.
모델이 업데이트되면 출력 스타일이 바뀌거나, 특정 기능이 제한될 수 있다. 가격 정책이 바뀌어도 사용자는 따를 수밖에 없다. AI가 핵심 업무에 붙을수록 이런 불확실성은 리스크가 된다.
정리하면 폐쇄형 AI는 성능과 편의성을 구매하는 대신, 통제권을 외부에 맡기는 구조다.
이제 오픈형, 정확히 말하면 오픈소스 AI를 보자.
오픈형 AI는 모델의 가중치나 구조가 공개되어 있거나, 사용·수정·재배포가 허용된 인공지능이다. 조직은 모델을 직접 내려받아 서버에 배포하고, 필요하면 내부 데이터로 추가 학습을 시킬 수 있다.
과거에는 “오픈형은 성능이 부족하다”는 인식이 강했다. 하지만 위 이미지 “Performance gaps are closing fast”가 보여주듯, 이 전제는 더 이상 유효하지 않다.
오픈형 AI의 가장 큰 강점은 통제권이다.
데이터를 내부 환경에 그대로 둘 수 있다. 회사 내부 서버나 프라이빗 클라우드에서 모델을 운영하면, 데이터가 외부로 나가지 않는다. 이는 단순한 기술 문제가 아니라, 규제 대응과 보안 전략의 문제다.
또한 비용 구조를 설계할 수 있다.
오픈형은 호출할 때마다 비용이 발생하는 구조가 아니다. 초기에는 인프라 비용과 운영 비용이 들지만, 사용량이 늘어날수록 단위 비용은 낮아진다. 장기적으로는 비용 예측이 훨씬 쉬워진다.
그리고 벤더 종속을 줄일 수 있다.
특정 기업의 모델 하나에 모든 업무가 묶이지 않는다. 필요하면 모델을 교체하거나 병행 운영할 수 있다. 이 선택지 자체가 조직의 협상력이다.
물론 오픈형에는 분명한 비용이 따른다.
그래픽 처리 장치 확보, 모델 배포, 성능 모니터링, 장애 대응 같은 운영 역량이 필요하다. 흔히 말하는 머신러닝 운영(MLOps, Machine Learning Operations) 체계가 없으면 품질이 흔들릴 수 있다. 즉, 오픈형은 “공짜”가 아니라 “책임을 내부로 가져오는 선택”이다.
정리하면 오픈형 AI는 운영 부담을 감수하는 대신, 설계 자유도와 장기 경쟁력을 확보하는 구조다.
여기까지 오면 선택 기준은 명확해진다.
과거에는 질문이 이것이었다. “이 모델이 충분히 똑똑한가?”
지금의 질문은 이것이다. “이 모델을 우리 조직의 시스템으로 감당할 수 있는가?”
데이터 민감도가 높고, 사용량이 커질수록, 규제와 내부 통제가 중요할수록 오픈형의 가치가 커진다.
반대로 빠른 도입과 최소한의 운영 부담이 중요하다면 폐쇄형이 여전히 합리적이다.
그래서 현실적인 답은 대부분 하이브리드 전략이다.
브레인스토밍, 문서 초안, 범용 질문처럼 민감도가 낮은 업무는 폐쇄형을 쓰고,
내부 데이터와 결합된 핵심 업무는 오픈형으로 처리한다.
중요한 것은 “둘 다 쓴다”가 아니라 “어떤 기준으로 나눈다”다.
결론적으로, 위 이미지 “Performance gaps are closing fast”가 바꾼 것은 성능 순위가 아니다.
의사결정의 우선순위다. 이제 AI 선택은 기술 비교가 아니라 조직 설계의 문제다.
폐쇄형 AI는 속도와 편의성의 선택이고, 오픈형 AI는 통제권과 장기 전략의 선택이다.
그리고 성능 격차가 닫히는 속도가 빨라질수록, 이 선택은 더 이상 미룰 수 없는 경영 판단이 된다.