Maak kennis met gpt-oss

We brengen gpt-oss-120b en gpt-oss-20b uit, twee geavanceerde open-weight taalmodellen die tegen lage kosten uitstekende prestaties leveren in de praktijk. Deze modellen zijn beschikbaar onder de flexibele Apache 2.0-licentie en presteren beter dan vergelijkbare open models op het gebied van redeneertaken, beschikken over sterke vaardigheden op het gebied van toolgebruik en zijn geoptimaliseerd voor efficiënte implementatie op consumentenhardware. Ze werden getraind met behulp van een combinatie van reinforcement learning en technieken die zijn gebaseerd op de meest geavanceerde interne modellen van OpenAI, waaronder o3 en andere baanbrekende systemen.

Het gpt-oss-120b-model bereikt bijna dezelfde prestaties als OpenAI o4-mini op benchmarks voor kernredeneringen, terwijl het efficiënt draait op een enkele GPU van 80 GB. Het gpt-oss-20b-model levert vergelijkbare resultaten als OpenAI o3‑mini op gangbare benchmarks en kan draaien op edge-apparaten met slechts 16 GB geheugen, waardoor het ideaal is voor on-device usecases, lokale inferentie of snelle iteratie zonder dure infrastructuur. Beide modellen presteren ook sterk op het gebied van toolgebruik, few-shot-functieaanroepen, CoT-redeneren (zoals te zien is in de resultaten van de Tau-Bench agentic evaluatiesuite) en HealthBench (waarbij ze zelfs beter presteren dan eigen modellen zoals OpenAI o1 en GPT‑4o).

Deze modellen zijn compatibel met onze Responses API⁠(opent in een nieuw venster) en zijn bedoeld voor gebruik binnen agentic workflows met uitzonderlijk opvolgen van instructies, het gebruik van tools zoals zoeken op internet en het uitvoeren van Python-code, en redeneervermogen, waaronder de mogelijkheid om de ‘reasoning_effort’ aan te passen voor taken die geen complex redeneervermogen en/of zeer lage latentie van de uiteindelijke uitvoer vereisen. Ze zijn volledig aanpasbaar, bieden volledige Chain of Thought (CoT) en ondersteunen gestructureerde uitvoer⁠(opent in een nieuw venster).

Veiligheid staat centraal in onze aanpak bij het uitbrengen van al onze modellen en is van bijzonder belang voor open models. Naast het doorlopen van de modellen via uitgebreide veiligheidstrainingen en evaluaties, hebben we ook een extra evaluatielaag geïntroduceerd door een vijandig afgestemde versie van gpt-oss-120b te testen binnen ons Preparedness Framework⁠(opent in een nieuw venster).De gpt-oss-modellen presteren vergelijkbaar met onze geavanceerde modellen op interne veiligheidsbenchmarks en bieden ontwikkelaars dezelfde veiligheidsnormen als onze recente eigen modellen. We delen de resultaten van dat werk en meer details in een onderzoeksrapport en in de modelkaart. Onze methodologie is beoordeeld door externe deskundigen en betekent een stap voorwaarts in het vaststellen van nieuwe veiligheidsnormen voor open-weight modellen.

We hebben ook samengewerkt met vroege partners zoals AI Sweden⁠(opent in een nieuw venster), Orange⁠(opent in een nieuw venster) en Snowflake⁠(opent in een nieuw venster) om meer te weten te komen over de praktische toepassingen van onze open models, van het on-premises hosten van deze models voor gegevensbeveiliging tot fijnafstemming ervan op gespecialiseerde datasets. We zijn verheugd om deze toonaangevende open models aan te bieden, waarmee iedereen – van individuele ontwikkelaars tot grote ondernemingen en overheden – AI op de eigen infrastructuur kan uitvoeren en aanpassen. In combinatie met de modellen die beschikbaar zijn in onze API, kunnen ontwikkelaars de prestaties, kosten en latentie kiezen die ze nodig hebben om AI-workflows aan te sturen.

De gpt-oss-modellen zijn getraind met behulp van onze meest geavanceerde pre-training- en post-trainingtechnieken, met bijzondere aandacht voor redenering, efficiëntie en bruikbaarheid in de praktijk in een breed scala aan implementatieomgevingen. Hoewel we andere modellen, waaronder Whisper⁠ en CLIP⁠ openbaar beschikbaar hebben gesteld, zijn gpt-oss modellen onze eerste open-weight taalmodellen sinds GPT‑2^[1].

Elk model is een Transformer die gebruikmaakt van Mixture-of-Experts (MoE^[2]) om het aantal actieve parameters dat nodig is om invoer te verwerken te verminderen. gpt-oss-120b activeert 5,1 miljard parameters per token, terwijl gpt-oss-20b 3,6 miljard activeert. De modellen hebben respectievelijk 117b en 21b totale parameters. De modellen maken gebruik van afwisselende dense en locally banded sparse attention-patronen, vergelijkbaar met GPT‑3.^[3]. Voor efficiëntie op het gebied van inferentie en geheugen maken de modellen ook gebruik van gegroepeerde multi-query attention, met een groepsgrootte van 8. We gebruiken Rotary Positional Embedding (RoPE^[4]) voor positionele codering en ondersteunen standaard contextlengtes tot 128k.

We hebben de modellen getraind op een hoogwaardige, voornamelijk Engelstalige dataset die uitsluitend uit tekst bestaat, met een focus op STEM, coderen en algemene kennis. We hebben de gegevens getokeniseerd met behulp van een superset van onze tokenizer die wordt gebruikt voor OpenAI o4-mini en GPT‑4o: ‘o200k_harmony’, die we vandaag ook open source maken.

Voor meer informatie over de architectuur en training van onze modellen, lees de modelkaart.

Op de modellen werd post-training toegepast met behulp van een soortgelijk proces als dat voor o4-mini, inclusief een begeleide fijnafstemmingsfase en een rekenintensieve RL-fase. Ons doel is om de modellen af te stemmen op de OpenAI Model Spec⁠(opent in een nieuw venster) en ze te leren CoT-redeneringen⁠ en het gebruik van tools toe te passen voordat ze hun antwoord geven. Door gebruik te maken van dezelfde technieken als onze eigen SoTA-redeneringsmodellen, laten de modellen na post-training uitzonderlijke capaciteiten zien.

Net als de OpenAI o-series redeneermodellen in de API ondersteunen de twee open-weight modellen drie redeneerinspanningen – laag, gemiddeld en hoog – waarbij een afweging wordt gemaakt tussen latentie en prestaties. Ontwikkelaars kunnen de ‘reasoning_effort’ eenvoudig instellen met één zin in het systeembericht.

We hebben gpt-oss-120b en gpt-oss-20b geëvalueerd aan de hand van standaard academische benchmarks om hun capaciteiten op het gebied van coderen, competitieve wiskunde, gezondheid en het gebruik van agentic tools te meten in vergelijking met andere OpenAI-redeneringsmodellen, waaronder o3, o3‑mini en o4-mini.

gpt-oss-120b presteert beter dan OpenAI o3‑mini en evenaart of overtreft OpenAI o4-mini op het gebied van competitief programmeren (Codeforces), algemene probleemoplossing (MMLU en HLE) en het aanroepen van tools (TauBench). Het presteert bovendien nog beter dan o4-mini op het gebied van gezondheidsgerelateerde vragen (HealthBench⁠) en competitieve wiskunde (AIME 2024 & 2025). gpt-oss-20b evenaart of overtreft OpenAI o3‑mini op dezelfde evaluaties, ondanks zijn kleine omvang, en presteert zelfs beter op het gebied van competitieve wiskunde en gezondheid.

Ons recente onderzoek⁠ heeft aangetoond dat het monitoren van de CoT van een redeneermodel nuttig kan zijn voor het opsporen van wangedrag, zolang het model niet is getraind met direct toezicht om de CoT af te stemmen. Dit standpunt wordt ook gedeeld⁠(opent in een nieuw venster) door anderen in de sector. In overeenstemming met onze principes sinds de lancering van OpenAI o1‑preview⁠, hebben we geen direct toezicht uitgeoefend op de CoT voor beide gpt-oss-modellen. Wij zijn van mening dat dit van cruciaal belang is om wangedrag, misleiding en misbruik van modellen te monitoren. We hopen dat het vrijgeven van een open model met Chain of Thought zonder toezicht ontwikkelaars en onderzoekers de kans geeft om hun eigen CoT-monitoringsystemen te onderzoeken en te implementeren.

Ontwikkelaars mogen CoTs niet rechtstreeks aan gebruikers tonen in hun applicaties. Ze kunnen hallucinerende of schadelijke inhoud bevatten, waaronder taalgebruik dat niet in overeenstemming is met het standaard veiligheidsbeleid van OpenAI, en kunnen informatie bevatten die het model expliciet gevraagd wordt niet in de uiteindelijke uitvoer op te nemen.

De gpt-oss-modellen maken gebruik van onze geavanceerde benaderingen voor veiligheidstraining. Tijdens de pre-training hebben we bepaalde schadelijke gegevens met betrekking tot Chemical, Biological, Radiological & Nuclear (CBRN). eruit gefilterd. Tijdens de post-training hebben we beraadslagende afstemming⁠ en de instructie-hiërarchie⁠(opent in een nieuw venster) gebruikt om het model te leren onveilige prompts te weigeren en zich te verdedigen tegen promptinjecties.

Zodra een open-weight model wordt vrijgegeven, kunnen tegenstanders het model mogelijk voor kwaadaardige doeleinden verfijnen. We hebben deze risico's rechtstreeks beoordeeld door het model af te stemmen op gespecialiseerde biologische- en cyberbeveiligingsgegevens, waarbij we voor elk domein een domeinspecifieke niet-weigerende versie hebben gemaakt, zoals een aanvaller dat zou doen. Deze tests toonden aan dat, zelfs met een zeer uitgebreide fijnafstemming die gebruikmaakte van de toonaangevende trainingsstack van OpenAI, deze kwaadwillig afgestemde modellen niet in staat waren om hoge capaciteitsniveaus te bereiken volgens ons Preparedness Framework⁠. Deze kwaadaardige methode voor fijnafstemming werd beoordeeld door drie onafhankelijke deskundigengroepen, die aanbevelingen deden om het trainingsproces en de evaluaties te verbeteren. Veel van deze aanbevelingen hebben we overgenomen. We geven een gedetailleerde beschrijving van deze aanbevelingen in de modelkaart. Deze processen betekenen een belangrijke vooruitgang voor open model-veiligheid. Deze bevindingen bevestigden onze beslissing om de gpt-oss-modellen vrij te geven. We hopen dat deze modellen zullen bijdragen aan het versnellen van veiligheidstrainingen en onderzoek naar afstemming binnen de sector.

Om bij te dragen aan een veiliger open source-ecosysteem organiseren we een Red Teaming-challenge⁠(opent in een nieuw venster) om onderzoekers, ontwikkelaars en enthousiastelingen van over de hele wereld aan te moedigen om nieuwe veiligheidsproblemen te helpen identificeren. De wedstrijd heeft een prijzenpot van $ 500.000, die zal worden toegekend op basis van de beoordeling door een panel van deskundige juryleden van OpenAI en andere toonaangevende laboratoria. Aan het einde van de challenge zullen we een rapport publiceren en een evaluatiedataset op basis van gevalideerde bevindingen openbaar maken, zodat de bredere community hier direct van kan profiteren. Voor meer informatie en deelname kijk je hier⁠(opent in een nieuw venster).

De gewichten voor zowel gpt-oss-120b als gpt-oss-20b kunnen gratis worden gedownload op Hugging Face en zijn native gekwantificeerd in MXFP4. Hierdoor kan het gpt-oss-120B-model worden uitgevoerd binnen 80 GB geheugen, terwijl gpt-oss-20b slechts 16 GB nodig heeft.

Op de modellen is post-training uitgevoerd op basis van ons Harmony-promptformaat⁠(opent in een nieuw venster) en we stellen een Harmony-renderer⁠(opent in een nieuw venster) in zowel Python als Rust open source beschikbaar om de acceptatie te vergemakkelijken. We brengen ook referentie-implementaties uit voor het uitvoeren van inferentie met PyTorch en op het Metal-platform van Apple, samen met een verzameling voorbeeldtools voor het model.

We hebben deze modellen zo ontworpen dat het flexibel is en overal gemakkelijk kan worden uitgevoerd: lokaal, op het apparaat of via externe inferentieproviders. Om dit te ondersteunen, zijn we voorafgaand aan de lancering een samenwerking aangegaan met toonaangevende implementatieplatforms zoals Hugging Face, Azure, vLLM, Ollama, llama.cpp, LM Studio, AWS, Fireworks, Together AI, Baseten, Databricks, Vercel, Cloudflare en OpenRouter om de modellen breed toegankelijk te maken voor ontwikkelaars. Op het gebied van hardware hebben we samengewerkt met marktleiders zoals NVIDIA, AMD, Cerebras en Groq om optimale prestaties te garanderen op verschillende systemen.

Als onderdeel van de release van vandaag brengt Microsoft ook GPU-geoptimaliseerde versies van het gpt-oss-20b-model naar Windows-apparaten. Deze modellen worden aangedreven door ONNX Runtime, ondersteunen lokale inferentie en zijn beschikbaar via Foundry Local en de AI Toolkit voor VS Code, waardoor het voor Windows-ontwikkelaars gemakkelijker wordt om met open models te bouwen.

Voor ontwikkelaars die volledig aanpasbare modellen willen die ze kunnen verfijnen en implementeren in hun eigen omgevingen, is gpt-oss een uitstekende keuze. Voor wie op zoek is naar multimodale ondersteuning, ingebouwde tools en naadloze integratie met ons platform, blijven de modellen die beschikbaar zijn via ons API-platform de beste optie. We blijven goed luisteren naar de feedback van ontwikkelaars en overwegen mogelijk in de toekomst API-ondersteuning voor gpt-oss.

Als je de modellen wilt uitproberen, ga dan naar onze open model playground⁠(opent in een nieuw venster). Voor meer informatie over het gebruik van de modellen met verschillende ecosysteemproviders of het verfijnen van de modellen, raadpleeg je onze handleidingen⁠(opent in een nieuw venster).

De release van gpt-oss-120b en gpt-oss-20b betekent een belangrijke stap voorwaarts voor open-weight modellen. Gezien hun omvang bieden deze modellen aanzienlijke verbeteringen op het gebied van zowel redeneervermogen als veiligheid. Door deze open models toe te voegen aan onze bestaande API-aanbod, willen we baanbrekend onderzoek versnellen, innovatie stimuleren en veiligere, transparantere AI-ontwikkeling mogelijk maken voor een breed scala aan usecases.

Deze open models verlagen ook de drempels voor opkomende markten, sectoren met beperkte middelen en kleinere organisaties die mogelijk niet over het budget of de flexibiliteit beschikken om eigen modellen toe te passen. Met krachtige, toegankelijke tools in handen kunnen mensen over de hele wereld bouwen, innoveren en nieuwe kansen creëren voor zichzelf en anderen. Brede toegang tot deze krachtige open-weights modellen die in de VS zijn ontwikkeld, draagt bij aan de uitbreiding van democratische AI-kaders.

Een gezond, open model-ecosysteem is een van de manieren om AI voor iedereen toegankelijk en nuttig te maken. We brengen onze eigen open models uit om te onderzoeken hoe we kunnen bijdragen aan dit ecosysteem en of de sterke punten en voordelen van deze models het voor OpenAI rechtvaardigen om in de toekomst in open models te investeren. Als je met onze open models werkt, zal je feedback over de sterke punten en praktische toepassingen van de models een belangrijke rol spelen bij het nemen van onze beslissing.

We nodigen ontwikkelaars en onderzoekers uit om deze models te gebruiken om te experimenteren, samen te werken en de grenzen van het mogelijke te verleggen. We kijken ernaar uit om te zien wat je bouwt.