Lancement de gpt-oss

gpt-oss-120b et gpt-oss-20b, deux modèles de langage open-weight de pointe proposant des performances de haut niveau pour un coût réduit, sont désormais disponibles. Soumis à la licence Apache 2.0, une licence permissive, ces modèles se montrent plus performants que les modèles de taille comparable sur les tâches de raisonnement, sont très efficaces pour l’utilisation d’outils et sont optimisés pour des déploiements efficients sur le matériel des clients. Ils ont été entraînés sur la base d’un apprentissage par renforcement et de techniques liées aux modèles internes les plus avancés d’OpenAI, notamment OpenAI o3.

Le modèle gpt-oss-120b se rapproche des performances d’OpenAI o4-mini sur les principales évaluations portant sur le raisonnement, mais peut être exécuté sur un unique GPU doté de 80 Go de mémoire. gpt-oss-20b offre quant à lui des résultats similaires à OpenAI o3‑mini sur les évaluations les plus courantes et peut être exécuté sur des appareils ne disposant que de 16 Go de mémoire, ce qui en fait l’option idéale pour l’exécution sur des appareils, l’inférence locale ou l’itération rapide sans investissement massif dans des infrastructures. Nos deux modèles présentent également d’excellents résultats en matière d’utilisation d’outils, d’appels de fonctions à partir de quelques exemples, de raisonnement avec chaîne de pensée (comme l’illustre la suite d’évaluation agentique Tau-Bench) et sur HealthBench (évaluation sur laquelle ils dépassent même certains modèles propriétaires, comme OpenAI o1 et GPT‑4o).

Ces deux modèles sont compatibles avec notre API Responses⁠(ouverture dans une nouvelle fenêtre) et pensés pour s’intégrer à des workflows agentiques en raison de leur capacité exceptionnelle à suivre des instructions, à utiliser des outils comme la recherche Web et l’exécution de code Python, et à raisonner. Ils permettent également d’abaisser le niveau de raisonnement pour les tâches ne demandant pas un raisonnement complexe ou visant une latence réduite. Ils sont entièrement personnalisables, donnent accès à l’intégralité de leur chaîne de pensée et prennent en charge les sorties structurées⁠(ouverture dans une nouvelle fenêtre).

Nous accordons une grande importance à la sécurité des modèles que nous publions et avons particulièrement travaillé cet aspect pour nos open models. Ainsi, nous avons non seulement soumis ces modèles à un entraînement et des évaluations de sécurité complets, mais aussi testé une version ajustée à des fins malveillantes de gpt-oss-120b par rapport à notre cadre de préparation⁠(ouverture dans une nouvelle fenêtre). Nous avons constaté que les modèles gpt-oss proposent un niveau de sécurité similaire à nos modèles les plus avancés sur nos évaluations internes et offrent donc aux développeurs les mêmes garantie de sécurité que nos modèles propriétaires récents. Vous trouverez les résultats de ces initiatives et davantage d’informations à ce sujet dans notre article de recherche et la fiche système des modèles. Notre méthodologie a été auditée par des experts tiers et marque un réel progrès dans l’établissement de nouvelles normes de sécurité applicables aux modèles open-weight.

Nous travaillons également avec des partenaires comme AI Sweden⁠(ouverture dans une nouvelle fenêtre), Orange⁠(ouverture dans une nouvelle fenêtre) et Snowflake⁠(ouverture dans une nouvelle fenêtre) pour comprendre les applications réelles de nos open models, notamment en hébergeant ces modèles sur site pour assurer la sécurité des données et en les ajustant sur la base de jeux de données spécifiques. Nous sommes très heureux de permettre aux développeurs individuels, aux grandes entreprises et même aux administrations d’exécuter et de personnaliser ces modèles de pointe sur leur propre infrastructure. Cette nouvelle option vient compléter les modèles proposés via notre API et donne la possibilité aux développeurs d’opter pour un niveau de performance, de coût et de latence plus proche des besoins de leurs workflows basés sur l’IA.

Les modèles gpt-oss ont bénéficié de nos techniques de pré-entraînement et post-entraînement les plus évoluées à ce jour. Nous avons particulièrement travaillé sur les questions de raisonnement, d’efficience et d’utilisation réelle dans une large palette d’environnements de déploiement. Nous disposons d’autres modèles ouverts, comme Whisper⁠ et CLIP⁠, mais les modèles gpt-oss sont nos premiers modèles de langage open-weight depuis GPT‑2^[1].

Chaque modèle est un transformeur qui utilise la technique Mixture-of-Experts (MoE^[2]) pour réduire le nombre de paramètres actifs nécessaires au traitement des saisies. Ainsi, gpt-oss-120b active 5,1 milliards de paramètres par jeton, et gpt-oss-20b 3,6 milliards, alors qu’ils comptent respectivement 117 milliards et 21 milliards de paramètres au total. Ils alternent entre analyse globale de l’information et analyse plus ciblée, comme le fait GPT‑3^[3]. Pour économiser des ressources de calcul lors de l’inférence et de la mémoire, ils concentrent leur attention sur des blocs de 8 mots. Enfin, ils utilisent le Rotary Positional Embedding (RoPE^[4]) pour déterminer la position de chaque mot dans la phrase et prennent en charge nativement un contexte pouvant atteindre 128 000 jetons.

Nous avons entraîné les modèles sur des données de grande qualité, majoritairement en anglais et uniquement composées de texte. Les thèmes abordés concernent principalement les STEM, le codage et les connaissances générales. Nous avons converti les données en jetons à l’aide d’un sous-ensemble de notre transformateur déjà utilisé pour OpenAI o4-mini et GPT‑4o : o200k_harmony. Cet outil est lui aussi accessible sous licence open source dès aujourd’hui.

Pour en savoir plus sur l’architecture et l’entraînement des modèles, consultez leur fiche système.

Les modèles gpt-oss ont suivi un post-entraînement similaire à celui dont a bénéficié o4-mini, et notamment un ajustement supervisé et un apprentissage par renforcement très intensif en calcul. Notre objectif était de les aligner sur la spécification des modèles OpenAI⁠(ouverture dans une nouvelle fenêtre), et de leur apprendre à appliquer un raisonnement par chaîne de pensée⁠ et à utiliser des outils avant de générer une réponse. Ils ont bénéficié des mêmes techniques que nos modèles de raisonnement propriétaires de pointe, ce qui leur permet de proposer des capacités de haut niveau à l’issue de la phase post-entraînement.

Comme les modèles de raisonnement OpenAI série o accessibles via l’API, nos deux modèles open-weight proposent trois niveaux de raisonnement : bas, intermédiaire et élevé. Chacun de ces niveaux offre un compromis différent entre latence et performance. Les développeurs peuvent définir le niveau de raisonnement en une simple phrase dans le message système.

Nous avons soumis gpt-oss-120b et gpt-oss-20b à des évaluations académiques standard pour mesurer leurs capacités dans les domaines du codage, des concours de mathématiques, de la santé et de l’utilisation agentique d’outils par rapport aux autres modèles de raisonnement d’OpenAI, comme OpenAI o3, o3‑mini et o4-mini.

gpt-oss-120b se montre plus performant qu’OpenAI o3‑mini et se rapproche ou fait mieux qu’OpenAI o4-mini sur les tâches de codage de haut niveau (Codeforces), la résolution de problèmes généralistes (MMLU et HLE) et l’appel d’outils (TauBench). Il fait même mieux qu’OpenAI o4-mini sur les questions liées à la santé (HealthBench⁠) et les concours de mathématiques (AIME 2024 & 2025). gpt-oss-20b atteint une performance équivalente ou supérieure à OpenAI o3‑mini sur les premières évaluations mentionnées malgré sa petite taille, et fait même mieux sur les concours de mathématiques et les questions de santé.

Notre étude récente⁠ a montré que la surveillance de la chaîne de pensée d’un modèle de raisonnement peut permettre de détecter les comportements inappropriés si le modèle en question n’a pas été directement supervisé de sorte à aligner sa chaîne de pensée. D’autres acteurs du secteur partagent⁠(ouverture dans une nouvelle fenêtre) cette idée. Conformément aux principes que nous suivons depuis le lancement d’OpenAI o1‑preview⁠, nous n’avons soumis la chaîne de pensée des modèles gpt-oss à aucune supervision directe. Nous pensons qu’il s’agit d’un point essentiel pour suivre les mauvais comportements, tromperies et détournements du modèle. Nous espérons que la publication d’un open model avec une chaîne de pensée non supervisée permettra aux développeurs et chercheurs de mettre au point et déployer leurs propres systèmes de surveillance.

D’ailleurs, les développeurs ne doivent pas directement présenter la chaîne de pensée aux utilisateurs. En effet, elle peut contenir des hallucinations ou des contenus dangereux, y compris des formulations qui ne respectent pas les politiques de sécurité standard d’OpenAI. Elle peut aussi inclure des informations que le modèle est explicitement invité à ne pas mentionner dans la sortie finale.

Les modèles gpt-oss bénéficient de nos approches de pointe en matière d’entraînement de sécurité. Pendant la phase de pré-entraînement, nous avons éliminé un certain nombre de données dangereuses liées aux armes nucléaires, radiologiques, biologiques et chimiques. Pendant la phase post-entraînement, nous avons utilisé une stratégie d’alignement délibératif⁠ et de hiérarchie des instructions⁠(ouverture dans une nouvelle fenêtre) pour apprendre au modèle à refuser les prompts dangereux et à se protéger des injections de prompt.

Une fois qu’un modèle open-weight est disponible publiquement, des acteurs mal intentionnés peuvent l’ajuster à des fins malveillantes. Nous avons évalué directement ces risques en ajustant nous-mêmes le modèle sur la base de données liées à la biologie et la cybersécurité de sorte à créer une version non soumise à des règles de refus et spécialisée dans chacun de ces thèmes, comme pourrait le faire un attaquant. Nos tests ont révélé que même avec un ajustement très complet basé sur les outils d’entraînement de pointe d’OpenAI, ces modèles malveillants sont incapables d’atteindre le niveau de capacité élevé défini par notre cadre de préparation⁠. Cette méthode d’ajustement a été auditée par trois groupes d’experts indépendants qui ont formulé diverses recommandations visant à optimiser le processus d’entraînement et nos évaluations. Nous avons suivi une grande partie de leurs suggestions, Nous détaillons ces recommandations dans la fiche système. Ces processus marquent un progrès notable de la sécurité des open models, et leurs résultats ont confirmé notre décision de publier les modèles gpt-oss. Nous espérons que ces modèles contribueront à l’accélération de la recherche sur l’entraînement à des fins de sécurité et sur l’alignement dans tout le secteur.

Pour contribuer à la sécurisation de l’écosystème open source, nous invitons chercheurs, développeurs et amateurs enthousiastes du monde entier à nous aider à identifier⁠(ouverture dans une nouvelle fenêtre) les problèmes de sécurité encore inconnus. Cette initiative bénéficie d’une dotation de 500 000 $ qui seront distribués conformément aux recommandations d’un panel d’experts provenant d’OpenAI et d’autres laboratoires de pointe. Une fois terminée, nous publierons un rapport et mettrons à disposition de la communauté sous licence open source un jeu de données d’évaluations basés sur les résultats validés pour que chacun puisse s’en emparer immédiatement. Cliquez ici⁠(ouverture dans une nouvelle fenêtre) pour en savoir plus et participer.

Les poids de gpt-oss-120b et gpt-oss-20b peuvent être téléchargés librement sur Hugging Face et sont nativement quantifiés au format MXFP4. Le modèle gpt-oss-120B peut ainsi s’exécuter avec seulement 80 Go de mémoire et gpt-oss-20b avec seulement 16 Go.

Ces modèles ont bénéficié d’un post-entraînement basé sur notre format de prompt harmony⁠(ouverture dans une nouvelle fenêtre). À cette occasion, nous publions sous licence open source le code d’un outil de rendu harmony⁠(ouverture dans une nouvelle fenêtre) en Python et Rust pour en faciliter l’adoption. Nous mettons également à disposition des développeurs des implémentations de référence pour l’exécution d’inférences avec PyTorch et sur la plateforme Metal d’Apple, ainsi que divers exemples d’outils basés sur nos modèles.

Nous avons conçu les modèles gpt-oss dans une optique de flexibilité : ils doivent pouvoir être exécutés partout très facilement, que ce soit en local, sur un appareil, ou via des fournisseurs de solutions d’IA tierces. Dans cette optique, nous nous sommes associés à de grandes plateformes de déploiement comme Hugging Face, Azure, vLLM, Ollama, llama.cpp, LM Studio, AWS, Fireworks, Together AI, Baseten, Databricks, Vercel, Cloudflare et OpenRouter afin de nous assurer que les modèles sont largement accessibles aux développeurs. Sur le plan du matériel, nous avons travaillé avec de très grands acteurs comme NVIDIA, AMD, Cerebras et Groq pour que les performances des modèles soient optimisées sur un grand nombre de systèmes.

En parallèle de la publication de ces modèles, Microsoft propose des versions de gpt-oss-20b optimisées pour les GPU des appareils Windows. Basés sur le runtime ONNX, ces modèles prennent en charge l’inférence locale et sont disponibles via Foundry Local et AI Toolkit for VS Code, ce qui permet aux développeurs Windows de les utiliser plus facilement.

Les modèles gpt-oss constituent le choix idéal pour les développeurs en quête de modèles entièrement personnalisables, qu’ils peuvent ajuster et déployer dans leurs propres environnements. Ceux qui privilégient une prise en charge multimodale, des outils intégrés et une intégration parfaite à notre plateforme se tourneront vers les modèles accessibles via notre API. Nous restons à l’écoute des retours des développeurs et pourrons ajouter les modèles gpt-oss aux modèles pris en charge par l’API.

Pour tester les modèles, rendez-vous dans le Playground consacré aux open models⁠(ouverture dans une nouvelle fenêtre). Pour en savoir plus sur l’utilisation des modèles avec différents fournisseurs d’écosystèmes ou leur ajustement, consultez nos guides⁠(ouverture dans une nouvelle fenêtre).

La disponibilité de gpt-oss-120b et gpt-oss-20b marque une étape clé pour les modèles open-weight. Pour leur taille, ces modèles constituent une avancée notable à la fois sur le plan des capacités de raisonnement et de la sécurité. Si nous les ajoutons aux modèles accessibles via notre API, c’est pour accélérer la recherche, encourager l’innovation et permettre un développement plus sûr et plus transparent de l’IA dans de nombreux cas d’utilisation.

Ces open models simplifient aussi l’adoption de l’IA sur les marchés émergents, dans les secteurs disposant de peu de ressources et au sein des petites organisations qui ne disposent pas toujours du budget et de la flexibilité nécessaires à l’adoption de modèles propriétaires. Partout dans le monde, ces outils puissants et accessibles permettront de créer, d’innover et d’ouvrir de nouvelles opportunités. L’accès étendu à ces modèles open-weight performants créés aux États-Unis permettra de démocratiser l’IA.

Un écosystème florissant d’open models est l’une des clés pour rendre l’IA accessible largement et permettre à tout le monde de bénéficier des avantages de cette technologie. Nous publions nos propres modèles pour comprendre comment nous pouvons contribuer à cet écosystème et déterminer si leurs points forts et avantages justifient de nouveaux investissements. Si vous utilisez nos open models, vos commentaires sur leurs avantages et applications concrètes joueront un rôle central dans notre décision.

Nous invitons ainsi développeurs et chercheurs à les utiliser pour mener des tests, collaborer et repousser les limites du possible. Nous avons hâte de découvrir ce que vous allez faire de ces nouvelles possibilités.