gpt-oss를 소개합니다

낮은 비용으로 강력한 실제 성능을 제공하는 두 개의 최신 오픈 웨이트 언어 모델 gpt-oss-120b와 gpt-oss-20b를 출시합니다. 유연한 Apache 2.0 라이선스에 따라 사용할 수 있는 이 두 모델은 비슷한 규모의 오픈 모델과 비교했을 때 추론 작업에서 더 뛰어난 성능을 보여주었으며 도구 사용 기능 측면에서 강력함을 드러냈고 소비자 하드웨어에서의 효율적인 배포를 위해 최적화되었습니다. 이 두 모델은 o3 및 다른 이전 시스템을 포함한 OpenAI의 가장 고급 내부 모델을 기반으로 한 강화 학습 및 기법을 조합하여 훈련을 거쳤습니다.

gpt-oss-120b 모델은 핵심 추론 벤치마크에서 OpenAI o4-mini와 거의 동등한 결과를 달성한 동시에 단일 80GB GPU에서 효율적으로 작동할 수 있습니다. gpt-oss-20b 모델은 일반 벤치마크에서 OpenAI o3‑mini와 비슷한 결과를 제공하며, 단 16GB 메모리의 에지 디바이스에서 실행할 수 있어, 인프라 비용 추가 없이 온디바이스 사용 사례, 로컬 추론, 또는 빠른 반복 작업에 적합합니다. 두 모델은 모두 도구 사용, 퓨-샷 함수 호출, CoT 추론(Tau-Bench 에이전트 평가 결과에 나타난 바와 같이) 및 HealthBench(OpenAI o1 및 GPT‑4o 등의 독점 모델 대비 뛰어난 성능) 등에서 강점을 보여주었습니다.

이러한 모델은 OpenAI의 응답 API⁠(새 창에서 열기)와 호환되며 뛰어난 지침 준수, 웹 서치 및 Python 코드 실행 등의 도구 사용 및 추론 기능으로 에이전트 워크플로 내에서 사용할 수 있도록 설계되었습니다. 복잡한 추론이 필요하지 않은 작업 및/또는 낮은 레이턴시의 최종 출력을 목표로 하는 작업을 위해 ‘reasoning_effrot’를 조정하는 기능이 포함되어 있습니다. 이 모델들은 맞춤 설정이 가능하며, 전체 사고 사슬(CoT)을 제공하고, 구조화된 출력⁠(새 창에서 열기)을 지원합니다.

안전은 OpenAI의 모든 모델 출시에 있어 기본적으로 고려하는 부분이며, 특히 오픈 모델에 있어서 더 중요합니다. 포괄적인 안전 훈련 및 평가를 통해 모델을 실행하는 것에 더해, OpenAI의 준비성 프레임워크⁠(새 창에서 열기)에 따라 gpt-oss-120b의 악의적으로 파인 튜닝된 버전을 테스트하여 평가의 추가적인 계층을 도입했습니다. gpt-oss 모델은 이전 모델 대비 내부 안전 벤치마크에서 뛰어난 성능을 보여주었으며 OpenAI의 최근 독점 모델과 동일한 안전 표준을 개발자에게 제공합니다. 연구 논문 및 모델 카드에 작업 결과 및 상세한 내용을 공유할 예정입니다. OpenAI의 방법론은 외부 전문가의 검토를 거쳤으며, 오픈 웨이트 모델을 위한 새로운 안전 표준 설정이 한 단계 발전했음을 의미합니다.

또한 AI Sweden⁠(새 창에서 열기), Orange⁠(새 창에서 열기) 및 Snowflake⁠(새 창에서 열기) 등의 초기 파트너와 협력하여 데이터 보안을 위해 온프레미스에서 이러한 모델들을 호스팅하는 것부터 특별한 데이터 세트에서 파인 튜닝하는 것까지 오픈 모델의 실제 응용 분야에 대해 배웠습니다. 개인 개발자부터 대규모 기업이나 정부까지, 모두의 역량을 강화하기 위해 각자 인프라에 맞춰 실행하고 맞춤 설정할 수 있는 이 최고의 오픈 모델을 제공하게 되어 매우 기쁩니다. 개발자는 OpenAI의 API에서 사용할 수 있는 모델과 결합하여 성능, 비용 및 레이턴시를 AI 워크플로를 강화하기 위한 필요에 맞춰 선택할 수 있습니다.

gpt-oss 모델은 다양한 배포 환경에서의 추론, 효율성, 실제 활용도에 중점을 두고 OpenAI의 최고급 사전 훈련 및 사후 훈련 기술을 사용해 훈련되었습니다. Whisper⁠ 및 CLIP⁠을 포함해 다른 모델을 공개적으로 사용할 수 있도록 만들었지만, gpt-oss 모델은 GPT‑2^[1] 이후 OpenAI 최초의 오픈 웨이트 언어 모델입니다.

각 모델은 입력을 처리하는 데 필요한 활성 파라미터의 수를 감소시키기 위해 Mixture-of-Experts(MoE^[2])를 활용하는 트랜스포머입니다. ‘gpt-oss-120b’는 토큰당 51억 개의 파라미터를, ‘gpt-oss-20b’는 36억 개의 파라미터를 활성화합니다. 모델은 각각 1,170억 개, 210억 개의 총 파라미터를 가지고 있습니다. 모델은 GPT‑3와 유사하게 덴스 및 로컬에서 결합된 희소 어텐션 패턴을 교대로 사용합니다^[3]. 또한 추론과 메모리 효율성을 위해 모델은 그룹 크기가 8인 그룹화된 멀티 쿼리 어텐션도 사용합니다. OpenAI는 위치 인코등을 위해 Rotary Positional Embedding(RoPE^[4])을 사용하며, 최대 128k의 컨텍스트 길이를 기본으로 지원합니다.

모델은 STEM, 코딩, 일반 지식을 중점으로 대부분 영어로 고품질 텍스트 전용 데이터 세트에 대해 훈련되었습니다. 오늘 함께 오픈 소스화하는 ‘o200k_harmony’라는, OpenAI o4-mini 및 GPT‑4o에 사용되는 토큰나이저의 확대 버전을 사용하여 데이터를 토큰화했습니다.

모델 아키텍처 및 훈련에 대해 자세히 알아보려면 모델 카드를 참조하세요.

o4-mini에 사용된 것과 비슷한 지도 파인 튜닝 단계 및 고연산 RL 단계를 포함한 프로세스를 통해 모델의 사후 훈련을 진행했습니다. 목표는 OpenAI Model Spec⁠(새 창에서 열기)에 모델을 맞추고 답변을 생성하기 전에 CoT 추론⁠ 및 도구 사용에 적용할 수 있도록 훈련시키는 것이었습니다. SoTA 독점 추론 모델과 동일한 기법을 사용함으로써 두 모델은 사후 훈련 이후 뛰어난 성능을 보여주었습니다.

API의 OpenAI o-series 추론 모델과 마찬가지로, 두 오픈 웨이트 모델은 레이턴시와 성능의 균형을 맞추는 세 가지 추론 수준(낮음, 중간, 높음)을 지원합니다. 개발자는 시스템 메시지에서 문장 하나로 reasoning_effort를 간편하게 설정할 수 있습니다.

gpt-oss-120b와 gpt-oss-20b를 표준 학술 벤치마크에서 평가하여 코딩, 경쟁 수학, 의료, 에이전트 도구 사용에서의 기능을 o3, o3‑mini, o4-mini등 OpenAI의 다른 추론 모델과 비교하여 측정했습니다.

gpt-oss-120b는 OpenAI o3‑mini보다 뛰어난 성능을 보여주었으며, 경쟁 코딩(Codeforces), 일반 문제 해결(MMLU 및 HLE), 도구 호출(TauBench)에서 OpenAI o4-mini와 비슷하거나 더 우수한 성능을 보여주었습니다. 뿐만 아니라 의료 관련 쿼리(HealthBench⁠)와 경쟁 수학(AIME 2024 & 2025)에서 o4-mini보다 나은 결과를 달성했습니다. gpt-oss-20b는 작은 규모에도 불구하고 동일한 평가에서 OpenAI o3‑mini와 비슷하거나 더 나은 결과를 달성했으며 경쟁 수학과 의료에서는 더 뛰어난 성능을 보여주었습니다.

OpenAI의 최근 연구⁠에서 모델이 CoT 정렬을 위한 직접적인 지도로 훈련되지 않은 한, 추론 모델의 CoT를 모니터링하는 것이 오작동을 탐지하는 데 도움이 될 수 있다는 점이 밝혀졌습니다. 이러한 관점은 업계의 다른 사람들도 동의⁠(새 창에서 열기)하는 부분입니다. OpenAI o1‑preview⁠ 출시 이후 원칙에 따라 두 gpt-oss 모델에는 CoT에 직접적인 지도를 적용하지 않았습니다. 이러한 부분이 모델의 오작동, 속임수 및 오용을 모니터링하는 데 매우 중요하다고 믿기 때문입니다. 비지도 사고 사슬을 갖춘 오픈 모델의 출시가 개발자 및 연구원들에게 시스템을 모니터링하는 자체 CoT를 연구하고 구현할 수 있는 기회가 되기를 희망합니다.

개발자는 애플리케이션에서 사용자에게 직접적으로 CoT를 보여주어서는 안 됩니다. CoT에는 OpenAI의 표준 안전 정책을 반영하지 않는 잘못되거나 유해한 콘텐츠가 포함될 수 있으며, 모델이 최종 결과물에 포함하지 않도록 명시적으로 요청받은 정보를 포함할 수도 있습니다.

gpt-oss 모델은 안전 훈련을 위해 OpenAI의 최신 접근 방식을 활용합니다. 사전 훈련에서는 화학, 생물학, 방사선학, 핵(CBRN)과 관련된 확실히 유해한 데이터를 걸러냈습니다. 사후 훈련에서는 숙고적 정렬⁠ 및 지침 계층⁠(새 창에서 열기)을 사용하여 모델이 안전하지 않은 프롬프트를 거부하고 프롬프트 추출을 방어하도록 훈련했습니다.

오픈 웨이트 모델이 출시되면 악의적인 목적을 위해 공격자가 모델을 파인 튜닝하는 것이 가능해질 수 있습니다. OpenAI는 생물학 및 사이버 보안 데이터를 중심으로 모델을 파인 튜닝하여 이러한 위기를 직접 평가하고, 공격자가 할 수 있는 방식으로 각 영역에 대한 영역별 거부 불가 버전을 만들었습니다. 이 테스트를 통해 업계 최고의 OpenAI 훈련 스택을 활용한 광범위한 파인 튜닝을 거쳤더라도, 악의적인 목적으로 파인 튜닝된 모델은 우리 준비성 프레임워크⁠에 따라 높은 기능 수준에는 도달하지 못한다는 것을 알 수 있습니다. 이렇게 악의적인 파인 튜닝 방법론은 OpenAI가 많이 채택한 훈련 과정 및 평가 개선을 위한 추천 사항을 제시한 전문가 그룹 3개의 검토를 거쳤습니다. 모델 카드에서 이러한 권장 사항을 자세히 확인할 수 있습니다. 이러한 과정은 오픈 모델 안전성의 의미 있는 발전을 나타냅니다. 또한 이번 발견으로 gpt-oss 모델 출시에 확신을 가질 수 있었습니다. 이 모델이 산업 전반에서 안전성 훈련과 얼라인먼트 리서치를 가속하는 데 도움이 되기를 바랍니다.

더 안전한 오픈 소스 생태계에 기여하기 위해, 전 세계의 연구원, 개발자, 애호가들이 새로운 안전 문제를 파악하도록 돕는 것을 장려하기 위해 Red Teaming Challenge⁠(새 창에서 열기)를 주최할 계획입니다. 이 챌린지에서는 OpenAI 및 다른 일류 연구소의 전문 판정단 패널의 검토를 거쳐 50만 달러의 상금을 수여합니다. 챌린지가 끝나면 더 많은 커뮤니티가 즉시 이점을 누릴 수 있도록 검증된 발견 내용을 바탕으로 보고서를 게시하고 평가 데이터 세트를 오픈 소스로 공개하겠습니다. 여기⁠(새 창에서 열기)에서 자세한 내용과 참가 방법을 확인해 보세요.

'gpt-oss-120b' 및 'gpt-oss-20b'의 가중치는 모두 Hugging Face에서 무료로 다운로드할 수 있으며, MXFP4 형식으로 기본적인 양자화가 되어 있습니다. 이는 gpt-oss-120B 모델을 80GB 메모리 내에서, ‘gpt-oss-20b’는 단 16GB 메모리 내에서 실행할 수 있게 하는 방식입니다.

모델은 harmony 프롬프트 형식⁠(새 창에서 열기)에서 사후 훈련을 거쳤으며, 더욱 간편한 채택을 위해 Python 및 Rust의 harmony 렌더러⁠(새 창에서 열기)를 오픈 소스로 공개할 예정입니다. 또한 PyTorch 및 Apple의 Metal 플랫폼에서의 추론 실행을 위한 참조 구현을 모델의 예제 도구 모음과 함께 출시할 것입니다.

두 모델은 로컬, 온디바이스, 서드파티 추론 제공업체 등, 어디서든 유연하고 쉽게 실행할 수 있도록 설계되었습니다. 이를 지원하기 위해 출시에 앞서 Hugging Face, Azure, vLLM, Ollama, llama.cpp, LM Studio, AWS, Fireworks, Together AI, Baseten, Databricks, Vercel, Cloudflare, OpenRouter 등의 선도적인 배포 플랫폼과 협력하여 모델에 대한 개발자의 액세스 범위를 확장하고 있습니다. 하드웨어 측면에서는 NVIDIA, AMD, Cerebras, Groq 등, 업계 최고 기업과 협력하여 다양한 시스템에서 최적화된 성능을 보장합니다.

오늘 출시의 일환으로 Microsoft는 gpt-oss-20b 모델의 GPU 최적화 버전을 Windows 장치에 적용할 예정입니다. ONNX Runtime이 구동하는 이 모델은 로컬 추론을 지원하며, VS Code를 위한 Foundry Local 및 AI Toolkit을 통해 사용할 수 있어 Windows 개발자가 오픈 모델을 이용해 쉽게 개발하도록 해줍니다.

완전히 맞춤화할 수 있는 모델을 원하는 개발자를 위해 gpt-oss는 개발자의 환경에서 파인 튜닝하고 배포할 수 있도록 제작되었습니다. 멀티모달 지원, 내장 도구 및 OpenAI 플랫폼에서의 원활한 통합이 필요한 분들의 경우에는 OpenAI의 API 플랫폼을 통해 사용 가능한 모델이 여전히 가장 좋은 선택지입니다. OpenAI는 앞으로도 개발자 여러분의 피드백에 귀를 기울일 것이며, 향후 gpt-oss를 위한 API 지원을 고려하고 있습니다.

모델을 사용해 보려면 Open Model Playground⁠(새 창에서 열기)를 방문하세요. 다양한 생태계 공급업체를 사용하는 모델의 사용 방법이나 모델을 파인 튜닝하는 방법에 대해 자세히 알아보려면 가이드를 확인하세요⁠(새 창에서 열기).

gpt-oss-120b 및 gpt-oss-20b의 출시는 오픈 웨이트 모델의 엄청난 발전을 의미합니다. 그 규모를 고려할 때 이 모델들은 추론 기능 및 안전성에서 의미 있는 발전을 제공합니다. OpenAI의 목표는 기존 API 제공에 오픈 모델을 추가함으로써 다양한 사용 사례에서 첨단 리서치, 혁신 촉진, 더 안전하고 투명한 AI 개발을 가속하는 것입니다.

또한 이러한 오픈 모델은 독점 모델을 채택할 예산이나 유연성이 부족할 수 있는 신흥 시장, 리소스가 제한적인 분야, 소규모 조직의 장벽을 낮춥니다. 강력하고 액세스하기 쉬운 도구를 갖추면 전 세계 사람들은 모두를 위한 새로운 기회를 구축하고 혁신하고 만들어낼 수 있습니다. 미국에서 제작된 기능이 뛰어난 오픈 웨이트 모델에 대한 액세스의 확장은 민주적인 AI 기조를 확장하는 데 도움이 됩니다.

모든 이들에게 접근성이 뛰어나고 이로운 AI를 만드는 데 도움이 되는 부분 중 하나는 건강한 오픈 모델 생태계입니다. OpenAI가 이 생태계에 어떻게 기여하는지, 그리고 이러한 모델의 강점과 이점이 미래에 개방형 모델에 OpenAI가 투자할 만한 가치가 있는지 알아보기 위해 자체 개방형 모델을 출시하고 있습니다. OpenAI의 오픈 모델을 이용해 개발하는 분들이 모델의 강점과 실제 응용 분야에 대해 피드백을 보내주시면 당사의 의사 결정에 중요한 역할을 할 것입니다.

개발자와 연구원 여러분이 이 모델을 사용해 실험하고, 혁신하고, 가능성의 경계를 확장해 주시기를 바랍니다. 무엇을 만드실지 기대하고 있겠습니다.