Apresentamos o gpt-oss
O gpt-oss-120b e o gpt-oss-20b abrem novas fronteiras para os modelos de raciocínio “open weight”
Estamos lançando o gpt-oss-120b e o gpt-oss-20b, dois modelos de linguagem open-weight avançados, que oferecem desempenho potente para aplicações reais a um baixo custo. Disponibilizados com a flexível licença Apache 2.0, são modelos que superam open models de tamanho semelhante em tarefas de reflexão, demonstram alta capacidade de uso de ferramentas e foram otimizados para implementação eficiente em hardwares disponíveis comercialmente. Eles foram treinados com um misto de aprendizagem por reforço e técnicas orientadas pelos modelos internos mais avançados da OpenAI, inclusive o o3 e outros sistemas de vanguarda.
O modelo gpt-oss-120b praticamente iguala-se ao OpenAI o4-mini em parâmetros fundamentais de reflexão, podendo ser operado com eficiência em uma única GPU de 80 GB. O modelo gpt-oss-20b oferece resultados semelhantes aos do OpenAI o3‑mini em parâmetros comuns e pode rodar em dispositivos de ponta com apenas 16 GB de memória, sendo ideal para uso no próprio dispositivo, inferência local ou iterações rápidas sem infraestrutura dispendiosa. Ambos os modelos têm ótimo desempenho com uso de ferramentas, chamada de funções com poucos exemplos, reflexão com linha de raciocínio (conforme mostram os resultados do pacote de avaliações agênticas Tau-Bench) e no HealthBench (inclusive superando modelos fechados, como o OpenAI o1 e o GPT‑4o).
Esses modelos são compatíveis com nossa API Responses(abre em uma nova janela) e foram desenvolvidos para uso em fluxos de trabalho agênticos com capacidade excepcional para seguir instruções, uso de ferramentas como pesquisa online ou execução de código Python e capacidade de reflexão, inclusive com ajuste de esforço de reflexão em tarefas que não exijam raciocínios complexos e/ou busquem resultados com latência muito reduzida. Eles são totalmente personalizáveis, fornecendo linha de raciocínio (CoT) completa e compatibilidade com Saídas estruturadas(abre em uma nova janela).
A segurança é primordial para o lançamento de todos os nossos modelos, particularmente os open models. Além de avaliar os modelos em amplos treinamentos e avaliações de segurança, também introduzimos mais uma camada de avaliação, testando uma versão ajustada de forma adversária do gpt-oss-120b com nossa Estrutura de preparo(abre em uma nova janela). Os modelos gpt-oss têm desempenho comparável ao de nossos modelos de vanguarda nos parâmetros internos de segurança, oferecendo aos desenvolvedores o mesmo nível de segurança dos nossos últimos modelos proprietários. Compartilhamos o resultado desse trabalho e mais detalhes em um artigo de pesquisa e no cartão do modelo. Nossa metodologia foi revisada pelos especialistas internos, estabelecendo um avanço nos padrões de segurança de open-weight models.
Também trabalhamos com parceiros de longa data, como a AI Sweden(abre em uma nova janela), a Orange(abre em uma nova janela) e a Snowflake(abre em uma nova janela), para entender as aplicações reais de nossos open models, desde a hospedagem local por questões de segurança dos dados ao ajuste fino com conjuntos de dados especializados. Estamos empolgados com o lançamento desses open models de ponta para permitir que todos, sejam desenvolvedores autônomos, grandes empresas ou governos, possam operar e personalizar a IA em suas próprias infraestruturas. Em conjunto com os modelos disponíveis em nossa API, os desenvolvedores podem escolher desempenho, custo e latência conforme as necessidades de seus fluxos de trabalho de IA.
Os modelos gpt-oss foram treinados com nossas técnicas mais avançadas de pré e pós-treinamento, concentradas especificamente em reflexão, eficiência e usabilidade no mundo real nos mais diversos ambientes de implementação. Mesmo que já tenhamos lançado outros modelos abertos, como o Whisper e o CLIP, os modelos gpt-oss são os primeiros modelos de linguagem open-weight desde o GPT‑2[1].
Cada modelo é um transformador, aplicando um “misto de especialistas” (MoE[2]) para reduzir o número de parâmetros ativos necessários para o processamento de entradas. O gpt-oss-120b ativa 5,1 bilhões de parâmetros por token, enquanto o gpt-oss-20b ativa 3,6 bi. Os modelos têm, respectivamente, 117 bi e 21 bi de parâmetros no total. Os modelos alternam padrões de atenção densos e esparsos com banda local, de forma semelhante à do GPT‑3[3]. Para promover inferência e eficiência de memória, também usam atenção agrupada para várias consultas, com agrupamentos de 8. Usamos Rotary Positional Embedding (RoPE[4]) para a codificação de posição, com suporte nativo para contextos com até 128k de comprimento.
Modelo | Camadas | Total de parâmetros | Parâmetros ativos por token | Total de especialistas | Especialistas ativos por token | Comprimento de contexto |
gpt-oss-120b | 36 | 117b | 5.1b | 128 | 4 | 128k |
gpt-oss-20b | 24 | 21b | 3.6b | 32 | 4 | 128k |
Treinamos os modelos com o conjunto de dados de alta qualidade, principalmente em inglês, com foco em ciências e tecnologia, programação e conhecimentos gerais. Os dados foram tokenizados com um superconjunto de nosso tokenizador usado para o OpenAI o4-mini e o GPT‑4o: “o200k_harmony”, que também estão sendo disponibilizados com código aberto hoje.
Saiba mais sobre a arquitetura e o treinamento de nossos modelos no cartão do modelo.
Os modelos foram pós-treinados em processo similar ao usado no o4-mini, inclusive com um estágio de ajuste fino supervisionado e um estágio de aprendizado por reforço com alta computação. Nosso objetivo foi alinhar o modelo às Especificações para modelos OpenAI(abre em uma nova janela) e ensiná-lo a aplicar reflexão com linha de raciocínio e a usar ferramentas antes de apresentar uma resposta. Usando as mesmas técnicas dos nossos modelos de raciocínio SoTA, eles demonstraram capacidade excepcional depois do pós-treinamento.
Assim como os modelos de raciocínio da série o da OpenAI na API, os dois open-weight models operam com três níveis de reflexão (alto, médio e baixo), equilibrando latência e desempenho. Para os desenvolvedores, é fácil ajustar o esforço de reflexão inserindo apenas uma frase no sistema.
Aplicando parâmetros acadêmicos padronizados, medimos a capacidade do gpt-oss-120b e do gpt-oss-20b em programação, matemática competitiva, saúde e uso de ferramenta agêntica em comparação com outros modelos de raciocínio da OpenAI, inclusive o o3, o o3‑mini e o o4-mini.
O gpt-oss-120b supera o o3‑mini e é igual ou superior ao o4-mini em competições de programação (Codeforces), solução geral de problemas (MMLU e HLE) e chamada de ferramentas (TauBench). Além disso, ele é superior ao o4-mini em consultas relacionadas à saúde (HealthBench) e matemática competitiva (AIME 2024 e 2025). O gpt-oss-20b é igual ou superior ao o3‑mini nas mesmas avaliações, apesar de seu tamanho reduzido, e chega a ser superior em matemática competitiva e saúde.
gpt-oss models do not replace a medical professional and are not intended for the diagnosis or treatment of disease
Example rollouts
O gpt-oss-120b consegue agregar informações rapidamente usando uma ferramenta de navegação, inclusive encadeando 10s de chamadas subsequentes.
Nossas pesquisas recentes demonstraram que monitorar a linha de raciocínio do modelo pode ajudar a detectar comportamentos inadequados, caso o modelo não tenha sido treinado com supervisão direta para alinhamento da linha de raciocínio. Essa também é a perspectiva de outros(abre em uma nova janela) no setor. Mantendo nossos princípios desde o lançamento do OpenAI o1‑preview, não inserimos nenhum tipo de supervisão direta na linha de raciocínio em nenhum dos modelos gpt-oss. Consideramos essa medida fundamental para monitorar comportamentos indesejados, enganos intencionais e uso inadequado do modelo. Esperamos que o lançamento de um open model com linhas de raciocínio sem supervisão permita a desenvolvedores e pesquisadores investigar e implementar seus próprios sistemas para monitoramento de linhas de raciocínio.
Os desenvolvedores não devem mostrar a linha de raciocínio diretamente aos usuários em seus aplicativos. Ela pode conter material alucinatório ou prejudicial e inclusive expressões que não refletem as políticas de segurança padrão da OpenAI, além de informações que o modelo foi explicitamente instruído a não incluir no resultado final.
O gpt-oss-120b segue muito bem as instruções do sistema nos resultados, mas é comum que elas sejam explicitamente desobedecidas na CoT.
Os modelos gpt-oss aplicam nossas abordagens mais avançadas de treinamento de segurança. Durante o pré-treinamento, filtramos certos dados prejudiciais químicos, biológicos, radiológicos e nucleares (CBRN). No pós-treinamento, usamos alinhamento deliberativo e hierarquia de instruções(abre em uma nova janela) para ensinar o modelo a recusar prompts perigosos e defender-se de injeções de prompts.
Após o lançamento de um open-weight model, é possível que adversários façam ajustes finos com propósitos escusos. Avaliamos diretamente esses riscos ajustando o modelo com dados especializados de biologia e cibersegurança, criando uma versão especializada em cada domínio que não se recusa a responder, assim como faria um hacker. Os testes indicam que, mesmo com ajustes finos extremos nos quais aplicamos a robusta tecnologia em treinamento da OpenAI, esses modelos adaptados de forma maliciosa não conseguem atingir altos níveis de capacidade de acordo com nossa Estrutura de preparo. Essa metodologia para ajuste fino mal-intencionado foi analisada por três grupos independentes de especialistas, que recomendaram melhorias no processo e nas avaliações do treinamento, muitas das quais foram adotadas. As recomendações estão detalhadas no cartão do modelo. Esses processos representam um avanço significativo em termos de segurança de open models. As constatações reforçam nossa decisão de lançar os modelos gpt-oss. Esperamos que eles ajudem a acelerar os treinamentos de segurança e as pesquisas de alinhamento em todo o setor.
Para contribuir com a segurança do ecossistema de código aberto, vamos hospedar um Desafio para Red Teams(abre em uma nova janela) para estimular pesquisadores, desenvolvedores e entusiastas do mundo todo a identificar novos problemas de segurança. O desafio oferecerá US$ 500.000 em prêmios, a serem distribuídos conforme a análise de um painel de juízes especialistas da OpenAI e de outros grandes laboratórios. Ao final do desafio, publicaremos um relatório e um conjunto de dados de avaliação com código aberto baseado nas constatações validadas, promovendo benefícios imediatos para toda a comunidade. Veja aqui(abre em uma nova janela) mais detalhes e como participar.
Os pesos do gpt-oss-120b e do gpt-oss-20b estão disponíveis para download gratuito no Hugging Face, quantificados nativamente em MXFP4. Com isso, o modelo gpt-oss-120B pode ser executado com 80 GB de memória, enquanto o gpt-oss-20b exige somente 16 GB.
Os modelos foram pós-treinados em nosso formato de prompt harmony(abre em uma nova janela), e vamos oferecer em código aberto um renderizador harmony(abre em uma nova janela) em Python e em Rust para facilitar a adoção. Também vamos lançar implementações de referência para execução de inferências com PyTorch e na plataforma Metal da Apple, além de uma coleção de exemplos de ferramentas para o modelo.
Esses modelos foram projetados para serem flexíveis e fáceis de executar em qualquer lugar: hospedagem local, no próprio dispositivo ou em provedores de inferência externos. Para permitir isso, fizemos parcerias antes do lançamento com grandes plataformas de implementação, como Hugging Face, Azure, vLLM, Ollama, llama.cpp, LM Studio, AWS, Fireworks, Together AI, Baseten, Databricks, Vercel, Cloudflare e OpenRouter, para que os modelos fiquem amplamente disponíveis a desenvolvedores. Para as funções de hardware, colaboramos com líderes do setor, como NVIDIA, AMD, Cerebras e Groq para garantir otimização de desempenho em diversos sistemas.
Durante o lançamento de hoje, a Microsoft também apresenta versões com otimização para GPU do modelo gpt-oss-20b inseridas em dispositivos Windows. Operados pelo ONNX Runtime, os modelos permitem inferência local e estão disponíveis pelo Foundry Local e o AI Toolkit for VS Code, facilitando o uso de open models para desenvolvedores que trabalham em Windows.
O gpt-oss é perfeito para desenvolvedores que queiram modelos totalmente personalizáveis que possam ser ajustados e implementados em seus próprios ambientes. Para quem procura suporte multimodal, ferramentas incorporadas e integração otimizada à nossa plataforma, os modelos oferecidos pela plataforma de APIs ainda são a melhor opção. Continuamos acompanhando atentamente o feedback dos desenvolvedores e não descartamos a possibilidade de, no futuro, oferecer suporte ao gpt-oss na API.
Se quiser testar os modelos, acesse nosso playground de open models(abre em uma nova janela). Para entender melhor como usar esses modelos com diferentes provedores de ecossistemas, ou como fazer ajustes finos, confira nossos guias(abre em uma nova janela).
O lançamento do gpt-oss-120b e do gpt-oss-20b é um avanço marcante para os open-weight models. Com tamanho reduzido, são modelos que trazem melhora significativa tanto em termos de capacidade de raciocínio quanto de segurança. Com a disponibilização desses open models em nossas APIs, esperamos acelerar pesquisas de ponta, promover inovação e o desenvolvimento mais seguro e transparente da IA nos mais diversos casos de uso.
Esses open models também reduzem a barreira de entrada em mercados emergentes, setores com recursos limitados e organizações menores, sem orçamento ou flexibilidade para adotar modelos pagos. Com acesso a ferramentas potentes e acessíveis, pessoas de qualquer lugar do mundo podem desenvolver, inovar e criar novas oportunidades para si mesmas e para outrem. O amplo acesso a esses avançados open-weight models desenvolvidos nos EUA expande as possibilidades democráticas da IA.
Um ecossistema saudável de open models é um dos fatores que permitirá a ampla disponibilidade da IA de forma benéfica para todos. Estamos lançando nossos próprios open models para explorar nossa contribuição com esse ecossistema e saber se, dadas as vantagens desses modelos, a OpenAI deve investir em mais deles no futuro. Se você estiver usando nossos open models para desenvolver, seu feedback sobre as vantagens e aplicações concretas dos modelos será muito importante para nossas decisões.
Agradecemos aos desenvolvedores e pesquisadores que usarem os modelos para experimentar, colaborar e expandir os limites das possibilidades. Mal podemos esperar para ver o que você vai criar!
Autoria
Citações
Contributors
Zoran Martinovic, Zhuohan Li, Zhiqing Sun, Zach Johnson, Yu Yang, Yu Bai, Yang Song, Xin Wang, Wenting Zhan, Volodymyr Kyrylov, Vlad Fomenko, Tyler Bertao, Tong Mu, Timur Garipov, Tarun Gogineni, Suvansh Sanjeev, Steve Mostovoy, Song Mei, Shengjia Zhao, Sebastien Bubeck, Scott McKinney, Scott Lessans, Sandhini Agarwal, Sam Toizer, Sam Altman, Saachi Jain, Romain Huet, Rahul K. Arora, Philippe Tillet, Olivia Watkins, Nivedita Brett, Nikhil Vyas, Miles Wang, Michihiro Yasunaga, Michelle Pokrass, Mia Glaese, Max Schwarzer, Mark Chen, Mario Lezcano-Casado, Marat Dukhan, Lukas Gross, Ludovic Peran, Ludovic Peran, Lindsay McCallum, Lin Yang, Lily (Xiaoxuan) Liu, Leher Pathak, Lama Ahmad, Kristian Georgiev, Kristen Ying, Kimmy Richardson, Kevin Whinnery, Kevin Weil, Kevin Lu, Kevin Fives, Kendal Simon, Katia Gil Guzman, Karan Singhal, Karan Singhal, Kai Chen, Josh McGrath, Jordan Liss, Jongsoo Park, John Hallman, Johannes Heidecke, Jiancheng Liu, Ji Lin, Jason Kwon, Jason Ai, James Park Lennon, Jakub Pachocki, Jacob Huh, Jackie Hehir, Irina Kofman, Huida Qiu, Hongyu Ren, Harshit Sikchi, Hannah Wong, Haitang Hu, Haitang Hu, Haiming Bao, Hadi Salman, Guillaume Leclerc, Greg Brockman, Gideon Myles, Giambattista Parascandolo, Gaby Raila, Foivos Tsimpourlas, Filippo Raso, Eugene Brevdo, Eric Wallace, Enoch Cheung, Elizabeth Proehl, Elaine Ya Le, Edwin Arbus, Eddie Zhang, Dominik Kundel, Dmitry Pimenov, David Robinson, Dane Stuckey, Dana Palmie, Dan Cook, Cyril Zhang, Chris Lu, Chris Koch, Che Chang, Cedric Whitney, Casey Dvorak, Carolina Paz, Brian Zhang, Bowen Baker, Bob Rotsted, Boaz Barak, Ashley Pantuliano, Andy Applebaum, Amy Wendling, Ally Bennett, Alexander Neitz, Alex Paino, Alex Nichol, Alec Helyar, Aidan McLaughlin, Aidan Clark, Adam Goucher


