오픈AI가 GPT-2 이후 처음으로 오픈 가중치(open-weight) 기반 언어 모델을 공개했다. 이는 보다 유연한 배포 옵션과 낮은 운영 비용을 통해 기업 시장 확대를 노리는 전략적 전환으로 평가된다.
오픈AI는 이번에 공개한 두 가지 신규 모델(gpt-oss-120b와 gpt-oss-20b)이 소비자급 하드웨어에서도 효율적으로 실행되면서 경쟁력 있는 성능을 제공한다고 설명했다. 둘 중 더 큰 모델인 gpt-oss-120b는 80GB GPU 한 대로도 구동하면서도 o4-미니(o4-mini)와 거의 동등한 수준의 추론 성능을 달성한 것으로 전해졌다. 소형 모델인 gpt-oss-20b는 o3-미니(o3-mini)에 필적하는 성능을 제공하며 메모리 16GB 수준의 엣지 디바이스에서도 실행할 수 있다는 것이 오픈AI의 설명이다.
카운터포인트 리서치(Counterpoint Research)의 리서치 및 파트너 담당 부사장 닐 샤는“이번 행보는 오픈AI의 대담한 시장 공략 전략이며, 이제야 진정한 ‘오픈’이라고 볼 수 있다. 이번 모델은 클라우드뿐 아니라 엣지 환경을 겨냥했다는 측면에서 메타, 딥시크 등의 경쟁사와 폐쇄형 업체에 대한 강력한 도전장”이라고 평가했다.
오픈 가중치 모델은 훈련된 모델의 파라미터(가중치)를 공개해 기업이 이를 로컬 환경에 배포하거나 자유롭게 커스터마이징할 수 있도록 한다. 다만 전통적인 오픈소스 소프트웨어와 달리 초기 학습에 사용된 코드나 데이터셋까지 반드시 함께 공개하는 것은 아니라는 점에서 차이가 있다.
엔터프라이즈 효율성을 위한 아키텍처 설계
이번에 공개된 모델은 연산 효율성을 극대화하기 위해 모델 내부에서 필요한 부분만 활성화하는 MoE(Mixture-of-Experts) 아키텍처를 채택했다. 예를 들어 gpt-oss-120b는 전체 1,170억 개 파라미터 중 매 토큰 처리 시 51억 개만 활성화하며, gpt-oss-20b는 210억 개 중 36억 개만 활성화된다. 두 모델 모두 12만 8,000 토큰 길이의 컨텍스트 창을 지원하며, 아파치 2.0 라이선스로 공개돼 상업적 활용과 커스터마이징에 제약이 없다.
이번 모델은 허깅페이스에서 다운로드할 수 있으며, MXFP4 형식으로 경량화된 버전도 함께 배포 중이다. 또한 애저, AWS, 허깅페이스, vLLM, 올라마(Ollama), 파이어웍스 AI(Fireworks), 투게더 AI(Together AI), 데이터브릭스, 버셀(Vercel) 등 주요 배포 플랫폼과 협력해 접근성을 높였다.
기업의 IT팀 입장에서 이런 아키텍처는 훨씬 더 예측 가능한 자원 사용량을 제공하고 폐쇄형 모델 대비 운영 비용을 크게 줄일 수 있다. 오픈AI에 따르면 이번 모델은 지시문 수행, 웹 검색 통합, 파이썬 코드 실행, 복잡도에 따라 조정할 수 있는 추론 능력 등의 기능을 제공한다.
샤는 “이번 결정은 아파치 2.0 라이선스 하에 오픈AI 모델의 연구 및 상업적 활용을 모두 가속화하는 계기가 될 것”이라며 이번 라이선스 전략이 지닌 전략적 가치를 강조했다.
총소유비용(TCO) 측면에서 대규모 사용자에 유리
오픈 가중치 모델 배포와 AI 서비스형 모델(AI-as-a-Service) 간의 경제성은 기업 의사결정권자 입장에서 복잡한 계산이 따른다. 자가 호스팅을 선택할 경우 초기 인프라 투자와 지속적인 운영 비용이 발생하지만, 대규모 사용 시 누적되는 토큰 기반 API 비용을 제거할 수 있다는 장점이 있다.
카운터포인트 리서치의 샤는 “대규모 사용량이나 미션 크리티컬한 환경에서는 자가 호스팅 및 오픈 가중치 방식이 초기 및 운영 비용을 상쇄할 정도로 토큰 단가 절감 효과를 가져와 TCO 측면에서 손익분기점에 도달하게 된다. 사용량이 적은 경우라면 서비스형 AI가 더 적합할 수 있다”라고 설명했다.
오픈AI에 따르면 AI 스웨덴(AI Sweden), 오렌지(Orange), 스노우플레이크 등 초기 파트너는 이미 실제 환경에서 테스트하고 있다. 이들은 데이터 보안을 위한 온프레미스 호스팅부터, 특화 데이터셋 기반의 파인튜닝까지 다양한 시나리오를 검증하고 있다. 이 같은 흐름은 2025년 전 세계 기업 기술 지출이 4조 9,000억 달러에 이를 것으로 예상되는 가운데 AI 투자가 성장을 견인할 것이라는 전망과 맞물린다.
오픈AI는 gpt-oss 모델이 자사 ‘준비 프레임워크(Preparedness Framework)’에 따라 포괄적인 안전 훈련과 평가를 거쳤으며, 적대적 파인튜닝(adversarial fine-tuning) 버전까지 테스트했다고 밝혔다. 또한 기업 고객의 오픈소스 AI 도입 우려를 해소하기 위해 외부 전문가의 검토도 받았다고 강조했다.
오픈AI의 벤치마크에 따르면 gpt-oss-120b는 AIME 2024 시험에서 79.8% Pass@1, 매스-500(MATH-500)에서 97.3%, 코드포스(Codeforces) 코딩 능력 평가에서는 2,029 Elo 점수를 기록했다. 두 모델 모두 툴 활용 능력과 퓨샷(few-shot) 기반 함수 호출 능력에서도 기업 자동화에 적합한 성능을 보여줬다고 오픈AI는 밝혔다.
마이크로소프트와의 전략적 분리
이번 발표는 오픈AI의 최대 투자자이자 클라우드 파트너인 마이크로소프트와의 관계에 큰 영향을 미칠 수 있는 조치다. 오픈AI는 오픈 가중치 모델을 공개했지만, 마이크로소프트 역시 gpt-oss-20b 모델의 GPU 최적화 버전을 ONNX 런타임(ONNX Runtime)을 통해 윈도우 기기로 가져오고 있으며, 파운드리 로컬(Foundry Local)과 VS 코드용 AI 툴킷을 통해 로컬 추론 기능을 지원한다고 밝혔다.
샤는 “이번 발표를 통해 오픈AI는 마이크로소프트 애저와의 종속성을 영리하게 분리했다. 개발자는 자신이 작업하던 오픈 가중치 모델을 AWS, 구글, 심지어 오픈AI-오라클 클라우드 같은 서드파티 클라우드에 자유롭게 배포할 수 있게 됐다”라고 분석했다.
이 같은 전략적 유연성은 마이크로소프트가 오픈AI 외에도 다양한 파트너십을 모색하도록 만들 수 있으며, 기업 고객에는 협상력 강화를 의미할 수 있다. 샤는 “이번 조치는 기업이 AI 업체 및 서비스형 AI 모델을 상대로 더 큰 협상력을 갖게 해준다”라고 설명했다.
엔터프라이즈 도입 고려 사항
이번 발표는 오픈AI가 엔터프라이즈 시장의 AI 도입이 점점 더 유연한 배포 방식을 요구한다는 사실을 인식하고 있다는 신호다. 규제가 엄격한 산업군의 기업은 데이터 주권 확보 옵션을 중시하며, 다른 기업은 클라우드 의존형 AI 서비스의 업체 종속성에서 벗어나기를 원한다.
다만 운영 복잡성과 비용 절감 간 균형을 고려해야 한다. 이번 모델의 하드웨어 요구사항은 이전 세대보다 낮아졌지만, 모델 배포·파인튜닝·지속적 유지보수에 필요한 전문 역량은 기업마다 상이하다.
오픈AI는 엔비디아, AMD, 세레브라스(Cerebras), 그로크(Groq) 등 하드웨어 업체와 협력해 다양한 시스템에서 최적의 성능을 구현할 수 있도록 지원하고 있으며, 이는 기업 IT팀의 도입 부담을 줄이는 데 기여할 것으로 보인다.
IT 의사결정권자 입장에서는 이번 발표가 AI 도입 전략과 업체와의 관계에 있어 선택지를 넓혀주는 계기가 된다. 아파치 2.0 라이선스는 기존의 커스터마이징 장벽을 제거하고, 기업이 자체 AI 애플리케이션을 지속적인 라이선스 비용 없이 개발할 수 있게 해준다.
샤는 오픈AI의 개방 중심 전략으로의 전환이 점점 더 경쟁이 치열해지는 엔터프라이즈 AI 시장 전반에 미치는 영향에 대해 “궁극적으로 이번 발표는 기업에 이익이 되는 조치”라고 정리했다.
dl-itworldkorea@foundryco.com
Gyana Swain editor@itworld.co.kr
저작권자 Foundry & ITWorld, 무단 전재 및 재배포 금지
