Memperkenalkan gpt-oss
gpt-oss-120b dan gpt-oss-20b meneroka sempadan model penaakulan berwajaran terbuka
Kami melancarkan gpt-oss-120b dan gpt-oss-20b—dua model bahasa berwajaran terbuka terkini yang menawarkan prestasi dunia sebenar yang kukuh pada kos rendah. Tersedia di bawah lesen Apache 2.0 yang fleksibel, model-model ini mengatasi model terbuka bersaiz serupa dalam tugas penaakulan, menunjukkan keupayaan penggunaan alat yang kuat, dan dioptimumkan untuk penggunaan yang cekap pada perkakasan pengguna. Mereka dilatih menggunakan gabungan pembelajaran pengukuhan dan teknik yang dimaklumkan oleh model dalaman OpenAI yang paling canggih, termasuk o3 dan sistem perintis lain.
Model gpt-oss-120b mencapai hampir setara dengan OpenAI o4-mini pada penanda aras penaakulan teras, sambil beroperasi dengan cekap pada satu GPU 80 GB. Model gpt-oss-20b memberikan hasil yang serupa dengan OpenAI o3‑mini pada penanda aras biasa dan boleh berjalan pada peranti tepi dengan hanya 16 GB memori, menjadikannya ideal untuk kes penggunaan pada peranti, inferens tempatan, atau iterasi pantas tanpa infrastruktur yang mahal. Kedua-dua model juga berprestasi cemerlang dalam penggunaan alat, panggilan fungsi beberapa contoh, penaakulan CoT (seperti yang dilihat dalam keputusan pada suit penilaian agen Tau-Bench) dan HealthBench (malah mengatasi model proprietari seperti OpenAI o1 dan GPT‑4o).
Model ini serasi dengan Responses API(dibuka dalam tetingkap baru) kami dan direka untuk digunakan dalam aliran kerja agentik dengan mengikuti arahan yang luar biasa, penggunaan alat seperti carian web atau pelaksanaan kod Python, dan keupayaan penaakulan—termasuk keupayaan untuk melaraskan usaha penaakulan untuk tugas yang tidak memerlukan penaakulan yang kompleks dan/atau menyasarkan output akhir dengan kependaman yang sangat rendah. Ia boleh disesuaikan sepenuhnya, menyediakan rantaian pemikiran (CoT) penuh, dan mempunyai sokongan Output Berstruktur(dibuka dalam tetingkap baru).
Keselamatan adalah asas kepada pendekatan kami untuk mengeluarkan semua model kami, dan sangat penting untuk model terbuka. Selain menjalankan model melalui latihan dan penilaian keselamatan yang komprehensif, kami juga memperkenalkan lapisan penilaian tambahan dengan menguji versi gpt-oss-120b yang diperhalusi secara berlawanan di bawah Rangka Kerja Kesiapsiagaan(dibuka dalam tetingkap baru) kami. model GPT‑oss berprestasi setanding dengan model terdepan kami pada penanda aras keselamatan dalaman, menawarkan pembangun standard keselamatan yang sama seperti model proprietari terkini kami. Kami berkongsi hasil kerja tersebut dan butiran lanjut dalam kertas penyelidikan(dibuka dalam tetingkap baru) serta dalam kad model(dibuka dalam tetingkap baru). Metodologi kami telah disemak oleh pakar luar dan menandakan satu langkah ke hadapan dalam menetapkan piawaian keselamatan baharu untuk model berwajaran terbuka.
Kami juga telah bekerjasama dengan rakan kongsi awal seperti AI Sweden(dibuka dalam tetingkap baru), Orange(dibuka dalam tetingkap baru) dan Snowflake(dibuka dalam tetingkap baru) untuk mempelajari tentang aplikasi dunia sebenar open model kami, daripada mengehoskan model ini di premis untuk keselamatan data kepada melaraskannya secara halus pada set data khusus. Kami teruja untuk menyediakan model terbuka terbaik dalam kelas ini untuk memperkasakan orang ramai—dari pembangun individu hingga perusahaan besar hingga kepada kerajaan—untuk menjalankan dan menyesuaikan AI pada infrastruktur mereka sendiri. Bersama dengan model yang tersedia dalam API kami, pembangun boleh memilih prestasi, kos, dan kependaman yang mereka perlukan untuk menggerakkan aliran kerja AI.
Model gpt-oss telah dilatih menggunakan teknik pra-latihan dan pasca-latihan kami yang paling canggih, dengan penekanan khusus pada penaakulan, kecekapan, dan kebolehgunaan dunia sebenar merentas pelbagai persekitaran penggunaan. Walaupun kami telah menyediakan model lain termasuk Whisper dan CLIP secara terbuka, model gpt-oss ialah model bahasa berwajaran terbuka pertama kami sejak GPT‑2[1].
Setiap model adalah Transformer yang menggunakan campuran pakar (MoE[2]) untuk mengurangkan bilangan parameter aktif yang diperlukan untuk memproses input. GPT‑oss‑120b mengaktifkan 5.1B parameter setiap token, manakala GPT‑oss‑20b mengaktifkan 3.6B. Model tersebut mempunyai 117b dan 21b jumlah parameter masing-masing. Model ini menggunakan corak perhatian padat dan jarang berjalur tempatan secara bergantian, serupa dengan GPT‑3[3]. Untuk inferens dan kecekapan memori, model juga menggunakan perhatian pelbagai pertanyaan berkumpulan, dengan saiz kumpulan 8. Kami menggunakan Pembenaman Kedudukan Putar (RoPE[4]) untuk pengekodan kedudukan, dan secara asli memberikan sokongan untuk panjang konteks sehingga 128k.
Model | Lapisan | Jumlah Params | Parameter Aktif Setiap Token | Pakar Keseluruhan | Pakar Aktif Per Token | Panjang Konteks |
gpt-oss-120b | 36 | 117B | 5.1B | 128 | 4 | 128k |
gpt-oss-20b | 24 | 21B | 3.6B | 32 | 4 | 128k |
Kami melatih model pada set data yang kebanyakannya dalam bahasa Inggeris dan hanya mengandungi teks, dengan tumpuan pada STEM, pengekodan, dan pengetahuan am. Kami mentokenkan data menggunakan superset penanda token kami yang digunakan untuk OpenAI o4-mini dan GPT‑4o: o200k_harmony, yang kami juga menyediakan sumber terbuka hari ini.
Untuk maklumat lanjut tentang seni bina dan latihan model kami, baca kad model(dibuka dalam tetingkap baru).
Model-model tersebut dilatih selepas menggunakan proses yang serupa seperti yang digunakan untuk o4-mini, termasuk tahap pelarasan halus terselia dan tahap RL berkomputer tinggi. Objektif kami adalah untuk menyelaraskan model dengan OpenAI Model Spec(dibuka dalam tetingkap baru) dan mengajarnya untuk menggunakan penaakulan CoT dan penggunaan alat sebelum menghasilkan jawapannya. Dengan menggunakan teknik yang sama seperti model penaakulan proprietari SoTA kami, model-model ini menunjukkan keupayaan yang luar biasa selepas proses pasca latihan.
Sama seperti model penaakulan OpenAI o-series dalam API, dua model berwajaran terbuka mempunyai sokongan untuk tiga tahap usaha penaakulan—rendah, sederhana, dan tinggi—yang menyeimbangkan kependaman dan prestasi. Pembangun boleh dengan mudah menetapkan usaha penaakulan dengan satu ayat dalam mesej sistem.
Kami menilai gpt-oss-120b dan gpt-oss-20b merentasi penanda aras akademik standard untuk mengukur keupayaan mereka dalam pengekodan, matematik pertandingan, kesihatan, dan penggunaan alat agen apabila dibandingkan dengan model penaakulan OpenAI lain termasuk o3, o3‑mini dan o4-mini.
gpt-oss-120b mengatasi OpenAI o3‑mini dan menyamai atau melebihi OpenAI o4-mini dalam pengekodan pertandingan (Codeforces), penyelesaian masalah umum (MMLU dan HLE) dan panggilan alat (TauBench). Ia juga lebih baik daripada o4-mini dalam pertanyaan berkaitan kesihatan (HealthBench) dan matematik pertandingan (AIME 2024 & 2025). gpt-oss-20b sepadan atau melebihi OpenAI o3‑mini pada penilaian yang sama, walaupun saiznya kecil, bahkan mengatasinya dalam matematik pertandingan dan kesihatan.
Model GPT‑OSS tidak menggantikan profesional perubatan dan tidak bertujuan untuk diagnosis atau rawatan penyakit
Contoh pelancaran
gpt-oss-120b dengan cepat dapat mengumpulkan maklumat terkini menggunakan alat pelayaran, termasuk menghubungkan puluhan panggilan berikutnya.
Penyelidikan terkini kami telah menunjukkan bahawa memantau CoT model penaakulan boleh membantu mengesan salah laku selagi model itu tidak dilatih dengan pengawasan langsung untuk menyelaraskan CoT. Pandangan ini dikongsi(dibuka dalam tetingkap baru) oleh orang lain yang berada dalam industri juga. Selaras dengan prinsip kami sejak melancarkan OpenAI o1‑pratonton, kami tidak meletakkan sebarang penyeliaan langsung pada CoT untuk mana-mana model GPT. Kami percaya ini adalah penting untuk memantau salah laku model, penipuan dan penyalahgunaan. Harapan kami adalah dengan mengeluarkan model terbuka dengan rantaian pemikiran yang tidak diselia, ia memberi peluang kepada pembangun dan penyelidik untuk menyelidik dan melaksanakan sistem pemantauan CoT mereka sendiri.
Pembangun tidak seharusnya menunjukkan CoTs secara langsung kepada pengguna dalam aplikasi mereka. Ia mungkin mengandungi kandungan halusinasi atau berbahaya, termasuk bahasa yang tidak mencerminkan dasar keselamatan standard OpenAI, dan mungkin termasuk maklumat yang diminta dari model secara eksplisit untuk tidak disertakan dalam output akhir.
GPT‑oss‑120b dengan teguh mengikuti arahan sistem dalam outputnya, tetapi sering kali secara jelas tidak mematuhi arahan dalam CoTnya.
Model gpt-oss menggunakan pendekatan canggih kami untuk latihan keselamatan. Semasa pra-latihan, kami menapis data berbahaya tertentu yang berkaitan dengan Kimia, Biologi, Radiologi, dan Nuklear (CBRN). Semasa pasca-latihan, kami menggunakan penjajaran deliberatif dan hierarki arahan(dibuka dalam tetingkap baru) untuk mengajar model menolak prom yang tidak selamat dan mempertahankan diri daripada suntikan prom.
Setelah model terbuka dikeluarkan, pihak lawan mungkin dapat menyempurnakan model untuk tujuan jahat. Kami secara langsung menilai risiko ini dengan melaraskan model pada data biologi dan keselamatan siber khusus, cipta versi khusus domain yang tidak menolak untuk setiap domain seperti yang mungkin dilakukan oleh penyerang. Kami kemudian menilai tahap keupayaan model-model ini melalui ujian dalaman dan luaran. Ujian ini, seperti yang diperincikan dalam kertas keselamatan kami yang disertakan, menunjukkan bahawa, walaupun dengan pelarasan halus yang teguh yang memanfaatkan timbunan latihan terkemuka OpenAI, model yang diperhalusi dengan niat jahat ini tidak dapat mencapai tahap keupayaan yang tinggi mengikut Rangka Kerja Kesiapsiagaan kami. Metodologi pelarasan halus berniat jahat ini telah disemak oleh tiga kumpulan pakar bebas yang membuat cadangan untuk memperbaiki proses latihan dan penilaian, yang kebanyakannya kami terima. Kami memperincikan cadangan ini dalam kad model. Proses-proses ini menandakan kemajuan yang bermakna untuk keselamatan model terbuka. Penemuan ini mempengaruhi keputusan kami untuk melancarkan model gpt-oss. Kami berharap model-model ini akan membantu mempercepat latihan keselamatan dan penyelidikan penjajaran merentas industri.
Untuk menyumbang kepada ekosistem sumber terbuka yang lebih selamat, kami menganjurkan Cabaran Berpasukan Merah(dibuka dalam tetingkap baru) untuk menggalakkan penyelidik, pembangun, dan peminat dari seluruh dunia untuk membantu mengenal pasti isu keselamatan baharu. Cabaran ini mempunyai dana hadiah $500,000 yang akan diberikan berdasarkan penilaian oleh panel hakim pakar dari OpenAI dan makmal terkemuka lain. Pada akhir cabaran, kami akan terbitkan laporan dan membuka sumber set data penilaian berdasarkan penemuan yang disahkan, supaya komuniti yang lebih luas dapat segera mendapat manfaat. Ketahui lebih lanjut dan sertai di sini(dibuka dalam tetingkap baru).
Berat untuk kedua-dua GPT‑oss‑120b dan GPT‑oss‑20b boleh dimuat turun secara percuma di Hugging Face dan sudah dikuantiti secara asli dalam MXFP4. Ini membolehkan model gpt-oss-120B beroperasi dalam memori 80GB, manakala gpt-oss-20B hanya memerlukan 16GB.
Model telah diberikan pasca-latihan pada format prom harmoni(dibuka dalam tetingkap baru) kami, dan kami membuka sumber pemapar harmoni(dibuka dalam tetingkap baru) dalam kedua-dua Python dan Rust untuk memudahkan penerimaan. Kami juga mengeluarkan pelaksanaan rujukan untuk menjalankan inferens dengan PyTorch dan pada platform Metal Apple, bersama dengan koleksi alat contoh untuk model tersebut.
Kami telah merancang model-model ini agar fleksibel dan mudah dijalankan di mana-mana — secara tempatan, pada peranti, atau melalui penyedia inferensi pihak ketiga. Untuk sokongan ini, kami bekerjasama sebelum pelancaran dengan platform penyebaran terkemuka seperti Azure, Hugging Face, vLLM, Ollama, llama.cpp, LM Studio, AWS, Fireworks, Together AI, Baseten, Databricks, Vercel, Cloudflare, dan OpenRouter untuk menjadikan model dapat diakses secara meluas oleh pembangun. Di bahagian perkakasan, kami bekerjasama dengan pemimpin industri termasuk NVIDIA, AMD, Cerebras, dan Groq untuk memastikan prestasi yang dioptimumkan merentas pelbagai sistem.
Sebagai sebahagian daripada keluaran hari ini, Microsoft juga memperkenalkan versi model gpt-oss-20b yang dioptimumkan untuk GPU ke peranti Windows. Dikuasakan oleh ONNX Runtime, model-model ini mempunyai sokongan inferens tempatan dan boleh didapati melalui Foundry Local dan AI Toolkit untuk VS Code, memudahkan pembangun Windows untuk membina dengan model terbuka.
Untuk pembangun yang inginkan model yang boleh disesuaikan sepenuhnya dan boleh diperhalusi serta digunakan dalam persekitaran mereka sendiri, gpt-oss adalah pilihan yang tepat. Bagi sesiapa yang mencari sokongan multimodal, alat terbina dalam, dan integrasi lancar dengan platform kami, model yang tersedia melalui platform API kami adalah pilihan terbaik. Kami terus mendengar maklum balas pembangun dengan teliti dan mungkin akan mempertimbangkan sokongan API untuk GPT‑oss pada masa hadapan.
Jika anda ingin mencuba model-model ini, sila pergi ke Playground open model(dibuka dalam tetingkap baru) kami. Untuk mengetahui lebih lanjut tentang cara menggunakan model dengan penyedia ekosistem yang berbeza atau cara memperhalusi model, semak panduan kami(dibuka dalam tetingkap baru).
Pelancaran gpt-oss-120b dan gpt-oss-20b menandakan langkah penting ke hadapan untuk model berwajaran terbuka. Pada saiz mereka, model-model ini memberikan kemajuan yang bermakna dalam kedua-dua keupayaan penaakulan dan keselamatan. Model terbuka melengkapkan model yang dihoskan oleh kami, memberikan pembangun pelbagai alat yang lebih luas untuk mempercepat penyelidikan termaju, memupuk inovasi dan dayakan pengembangan AI yang lebih selamat dan lebih telus merentasi pelbagai kes penggunaan.
Model terbuka ini juga mengurangkan halangan untuk pasaran baharu muncul, sektor yang kekurangan sumber, dan organisasi yang lebih kecil yang mungkin tidak mempunyai belanjawan atau fleksibiliti untuk mengguna pakai model proprietari. Dengan alat yang berkuasa dan mudah diakses di tangan mereka, semua orang di seluruh dunia boleh membina, berinovasi, dan mencipta peluang baharu untuk diri mereka sendiri dan orang lain. Akses luas kepada model wajaran terbuka yang berkeupayaan ini yang dicipta di AS membantu mengembangkan landasan AI demokratik.
Ekosistem open model yang sihat adalah satu dimensi untuk membantu menjadikan AI boleh diakses secara meluas dan bermanfaat untuk orang ramai. Kami mengajak pembangun dan penyelidik untuk menggunakan model ini bagi mencuba, bekerjasama, dan meneroka batasan kemungkinan. Kami tidak sabar untuk melihat apa yang akan anda bina.
Penulis
Kutipan
Penyumbang
Zoran Martinovic, Zhuohan Li, Zhiqing Sun, Zach Johnson, Yu Yang, Yu Bai, Yang Song, Xin Wang, Wenting Zhan, Volodymyr Kyrylov, Vlad Fomenko, Tyler Bertao, Tong Mu, Timur Garipov, Tarun Gogineni, Suvansh Sanjeev, Steve Mostovoy, Song Mei, Shengjia Zhao, Sebastien Bubeck, Scott McKinney, Scott Lessans, Sandhini Agarwal, Sam Toizer, Sam Altman, Saachi Jain, Romain Huet, Rahul K. Arora, Philippe Tillet, Olivia Watkins, Nivedita Brett, Nikhil Vyas, Miles Wang, Michihiro Yasunaga, Michelle Pokrass, Mia Glaese, Max Schwarzer, Mark Chen, Mario Lezcano-Casado, Marat Dukhan, Lukas Gross, Ludovic Peran, Ludovic Peran, Lindsay McCallum, Lin Yang, Lily (Xiaoxuan) Liu, Leher Pathak, Lama Ahmad, Kristian Georgiev, Kristen Ying, Kimmy Richardson, Kevin Whinnery, Kevin Weil, Kevin Lu, Kevin Fives, Kendal Simon, Katia Gil Guzman, Karan Singhal, Karan Singhal, Kai Chen, Josh McGrath, Jordan Liss, Jongsoo Park, John Hallman, Johannes Heidecke, Jiancheng Liu, Ji Lin, Jason Kwon, Jason Ai, James Park Lennon, Jakub Pachocki, Jacob Huh, Jackie Hehir, Irina Kofman, Huida Qiu, Hongyu Ren, Harshit Sikchi, Hannah Wong, Haitang Hu, Haitang Hu, Haiming Bao, Hadi Salman, Guillaume Leclerc, Greg Brockman, Gideon Myles, Giambattista Parascandolo, Gaby Raila, Foivos Tsimpourlas, Filippo Raso, Eugene Brevdo, Eric Wallace, Enoch Cheung, Elizabeth Proehl, Elaine Ya Le, Edwin Arbus, Eddie Zhang, Dominik Kundel, Dmitry Pimenov, David Robinson, Dane Stuckey, Dana Palmie, Dan Cook, Cyril Zhang, Chris Lu, Chris Koch, Che Chang, Cedric Whitney, Casey Dvorak, Carolina Paz, Brian Zhang, Bowen Baker, Bob Rotsted, Boaz Barak, Ashley Pantuliano, Andy Applebaum, Amy Wendling, Ally Bennett, Alexander Neitz, Alex Paino, Alex Nichol, Alec Helyar, Aidan McLaughlin, Aidan Clark, Adam Goucher

