Predstavljamo GPT‑4.5
Raziskovalna predogledna različica našega najmočnejšega modela GPT doslej. Na voljo uporabnikom Pro in razvijalcem po vsem svetu.
Izdajamo raziskovalno predogledno različico GPT‑4.5 – našega doslej največjega in najzmogljivejšega modela za klepet. GPT‑4.5 predstavlja velik korak naprej pri skaliranju predtreniranja in naknadnega treniranja. S skaliranjem nenadzorovanega učenja GPT‑4.5 izboljša prepoznavanje vzorcev, povezovanje informacij in ustvarjanje ustvarjalnih uvidov brez eksplicitnega sklepanja.
Prvi testi kažejo, da je pogovor z GPT‑4.5 še bolj naraven. Širša baza znanja, boljše razumevanje uporabnikovih namenov in višja »čustvena inteligenca« ga naredijo izjemno uporabnega za izboljševanje pisanja, programiranje in reševanje praktičnih problemov. Prav tako pričakujemo manj halucinacij.
GPT‑4.5 objavljamo kot raziskovalni predogled, da bolje spoznamo njegove prednosti in omejitve. Še vedno raziskujemo, kaj vse zmore, in nestrpno pričakujemo, kako ga bodo ljudje uporabljali na načine, ki jih morda nismo predvideli.
Napredek umetne inteligence dosegamo s skaliranjem dveh dopolnjujočih se pristopov: nenadzorovanega učenja in sklepanja. Gre za dve glavni osi inteligence.
- Nenadzorovano učenje izboljšuje natančnost notranjega modela sveta in intuicijo. V tej smeri napredujejo modeli, kot so GPT‑3.5, GPT‑4 in GPT‑4.5.
- Po drugi strani pa skaliranje sklepanja modele uči razmišljati in oblikovati verigo misli, preden odgovorijo, kar jim omogoča reševanje zahtevnih nalog s področja naravoslovja, tehnike in logike. V tej smeri napredujeta na primer OpenAI o1 in OpenAI o3‑mini.
GPT‑4.5 je plod skaliranja nenadzorovanega učenja z večanjem računske moči, količine podatkov ter inovacijami v arhitekturi in optimizaciji. GPT‑4.5 je bil treniran na superračunalnikih Microsoft Azure AI. Rezultat je model s širšim znanjem in globljim razumevanjem sveta, ki povzroča manj halucinacij ter je zanesljivejši na najrazličnejših področjih.
Skaliranje paradigme GPT
Poglobljeno splošno znanje
Točnost po SimpleQA (višja je boljša)
Stopnja halucinacij po SimpleQA (nižja je boljša)
SimpleQA ocenjuje faktografsko natančnost velikih jezikovnih modelov (LLM) na preprostih, a zahtevnih vprašanjih splošnega znanja.
Večji in zmogljivejši kot postajajo naši modeli, pomembneje je, da jih naučimo globljega razumevanja človeških potreb in namenov. Za GPT‑4.5 smo razvili nove skalabilne tehnike, ki omogočajo urjenje večjih modelov s podatki, pridobljenimi iz manjših modelov. Te tehnike izboljšujejo vodljivost modela, razumevanje nians in naravnost pogovorov.
Primerjalne evalvacije s človeškimi preizkuševalci
Meritev človeških preferenc kaže odstotek poizvedb, pri katerih so preizkuševalci raje izbrali odgovor GPT‑4.5 kot GPT‑4o.
Združevanje globokega razumevanja sveta z izboljšanim sodelovanjem ustvari model, ki ideje naravno vpleta v tople, intuitivne in človeku bližje pogovore. GPT‑4.5 bolje razume, kaj uporabnik zares misli, in s še večjo občutljivostjo ter »čustveno inteligenco« zaznava subtilne namige ali implicitna pričakovanja. GPT‑4.5 kaže tudi izrazitejši estetski čut in ustvarjalnost. Še posebej blesti pri pomoči pri pisanju in oblikovanju.
Primeri uporabe
GPT-4.5
GPT‑4.5 kaže višjo »čustveno inteligenco« in bolje presodi, kdaj povabiti k nadaljnjemu pogovoru in kdaj podati obsežne informacije.
GPT‑4.5 ne razmisli preden odgovori, zato so njegove prednosti povsem drugačne od modelov s sklepanjem, kot je OpenAI o1. V primerjavi z OpenAI o1 in OpenAI o3‑mini je GPT‑4.5 bolj vsestranski in naravno pametnejši model. Prepričani smo, da bo sklepanje osrednja zmožnost prihodnjih modelov in da se bosta pristopa skaliranja – predtreniranje in sklepanje – odlično dopolnjevala. Bolj pametni in vsevedni kot postajajo modeli kakršen je GPT‑4.5 na predtreniranju, močnejšo osnovo bodo predstavljali za agente s sklepanjem in uporabo orodij.
Vsaka izboljšava zmogljivosti modela je hkrati priložnost, da modele naredimo varnejše. GPT‑4.5 je bil treniran z novimi tehnikami nadzora, ki jih kombiniramo s klasičnim nadzorovanim fino nastavljanjem (SFT) in učenjem z ojačitvijo na podlagi povratnih informacij ljudi (RLHF), kot smo to počeli pri GPT‑4o. Upamo, da bo to delo služilo kot osnova za usklajevanje še zmogljivejših prihodnjih modelov.
Da bi preizkusili izboljšave varnosti, smo pred uvedbo izvedli obsežen nabor varnostnih testov v skladu z našim Okvirom pripravljenosti(odpre se v novem oknu). Ugotovili smo, da skaliranje paradigme GPT prispeva k izboljšavam zmogljivosti na vseh naših evalvacijah. Podrobne rezultate teh evalvacij objavljamo v spremljevalni kartici sistema. sistemski kartici.
Od danes dalje lahko naročniki ChatGPT Pro v izbirniku modelov na spletu, v mobilnih aplikacijah in na namizju izberejo GPT‑4.5. Naslednji teden bomo začeli z uvajanjem za uporabnike Plus in Team, teden za tem pa za uporabnike Enterprise in Edu.
GPT‑4.5 ima dostop do najnovejših informacij prek iskanja, podpira nalaganje datotek in slik ter lahko uporablja canvas za delo s pisanjem in kodo. Trenutno pa GPT‑4.5 še ne podpira večmodalnih funkcionalnosti, kot so glasovni način, video in deljenje zaslona v ChatGPT‑ju. V prihodnje si bomo prizadevali poenostaviti uporabniško izkušnjo, da bo umetna inteligenca »preprosto delovala« za vas.
GPT‑4.5 že danes predogledno ponujamo tudi v API-jih Chat Completions, Assistants in Batch vsem razvijalcem na plačljivih stopnjah(odpre se v novem oknu). Model podpira ključne funkcije, kot so priklic orodja, strukturirani izhodi, pretakanje in sistemski pozivi. Podpira tudi vidne zmožnosti prek vnosov slik.
Po prvih preizkusih se zdi, da je GPT‑4.5 še posebej primeren za aplikacije, ki izkoriščajo njegovo višjo čustveno inteligenco in ustvarjalnost – na primer pomoč pri pisanju, komunikaciji, učenju, coachingu in iskanju novih idej. Kaže tudi odlične rezultate pri agentskem načrtovanju in izvajanju, vključno z delovnimi tokovi večstopenjskega kodiranja in zahtevno avtomatizacijo opravil.
GPT‑4.5 je zelo velik in računalniško zahteven model, zaradi česar je dražji od GPT‑4o in ga ne more nadomestiti. Zato trenutno presojamo, ali ga bomo dolgoročno obdržali v ponudbi API-jev, saj želimo uravnotežiti podporo trenutnim zmožnostim z razvojem prihodnjih modelov. Veselimo se novih spoznanj o njegovih prednostih, zmožnostih in možnih uporabah v resničnem okolju. Če GPT‑4.5 za vaš primer uporabe prinaša edinstveno vrednost, bodo vaše povratne informacije(odpre se v novem oknu) ključne pri naši odločitvi.
Z vsako novo stopnjo računske moči pridobimo povsem nove zmožnosti. GPT‑4.5 je trenutno na samem robu možnega pri nenadzorovanem učenju. Še vedno nas preseneča ustvarjalnost skupnosti, ki odkriva nove zmožnosti in nepričakovane načine uporabe. Z GPT‑4.5 vas vabimo, da skupaj raziščete meje nenadzorovanega učenja in odkrijete še neznane zmožnosti.
Spodaj prikazujemo dosežke GPT‑4.5 na standardnih akademskih testih uspešnosti, ki ponazarjajo njegovo trenutno zmogljivost pri nalogah, tradicionalno povezanih s sklepanjem. Že zgolj s skaliranjem nenadzorovanega učenja GPT‑4.5 dosega opazne izboljšave v primerjavi s prejšnjimi modeli, kot je GPT‑4o. Veselimo se celovitejšega vpogleda v zmožnosti GPT‑4.5 prek te izdaje, saj se zavedamo, da akademski testi ne odražajo vedno uporabnosti v resničnem svetu.
Rezultati evalvacije modela
GPT‑4.5 | GPT‑4o | OpenAI o3‑mini (high) | |
GPQA (znanost) | 71,4 % | 53,6 % | 79,7 % |
AIME '24 (matematika) | 36,7 % | 9,3 % | 87,3 % |
MMMLU (večjezično) | 85,1 % | 81,5 % | 81,1% |
MMMU (multimodalno) | 74,4 % | 69,1 % | - |
SWE-Lancer Diamond (kodiranje)* | 32,6 % $186,125 | 23,3 % $138,750 | 10,8 % $89,625 |
SWE-Bench Verified (kodiranje)* | 38,0 % | 30,7 % | 61,0% |
*Številke predstavljajo najboljše interne dosežke.
Avtorji
Izvorni avtorji prispevkov
Adam Goucher, Alex Paino, Ali Kamali, Amin Tootoonchian, Andrew Tulloch, Ben Sokolowsky, Clemens Winter, Colin Wei, Daniel Kappler, Daniel Levy, Felipe Petroski Such, Geoff Salmon, Ian O’Connell, Jason Teplitz, Kai Chen, Nik Tezak, Prafulla Dhariwal, Rapha Gontijo Lopes, Sam Schoenholz, Youlong Cheng, Yujia Jin in Yunxing Dai
Raziskave
Glavni avtorji prispevkov
Aiden Low, Alec Radford, Alex Carney, Alex Nichol, Alexis Conneau, Ananya Kumar, Ben Wang, Charlotte Cole, Elizabeth Yang, Gabriel Goh, Hadi Salman, Haitang Hu, Heewoo Jun, Ian Sohl, Ishaan Gulrajani, Jacob Coxon, James Betker, Jamie Kiros, Jessica Landon, Kyle Luther, Lia Guy, Lukas Kondraciuk, Lyric Doshi, Mikhail Pavlov, Qiming Yuan, Reimar Leike, Rowan Zellers, Sean Metzger, Shengjia Zhao, Spencer Papay, Tao Wang
Avtorji prispevkov
Adam Lerer, Adrien Ecoffet, Aidan McLaughlin, Alexander Prokofiev, Alexandra Barr, Allan Jabri, Andrew Gibiansky, Andrew Schmidt, Casey Chu, Chak Li, Chelsea Voss, Chris Hallacy, Chris Koch, Christine McLeavey, David Mely, Dimitris Tsipras, Eric Sigler, Erin Kavanaugh, Farzad Khorasani, Huiwen Chang, Ilya Kostrikov, Ishaan Singal, Ji Lin, Jiahui Yu, Jing Yu Zhang, John Rizzo, Jong Wook Kim, Joyce Lee, Juntang Zhuang, Leo Liu, Li Jing, Long Ouyang, Louis Feuvrier, Mo Bavarian, Nick Stathas, Nitish Keskar, Oleg Murk, Preston Bowman, Scottie Yan, SQ Mah, Tao Xu, Taylor Gordon, Valerie Qi, Wenda Zhou, Yu Zhang
Skaliranje
Glavni avtorji prispevkov
Alex Chow, Alex Renzin, Aleksandra Spyra, Avi Nayak, Ben Leimberger, Christopher Hesse, Duc Phong Nguyen, Dinghua Li, Eric Peterson, Francis Zhang, Gene Oden, Kai Fricke, Kai Hayashi, Larry Lv, Leqi Zou, Lin Yang, Madeleine Thompson, Michael Petrov, Miguel Castro, Natalia Gimelshein, Phil Tillet, Reza Zamani, Ryan Cheu Stanley Hsieh, Steve Lee, Stewart Hall, Thomas Raoux, Tianhao Zheng, Vishal Kuo, Yongjik Kim, Yuchen Zhang, Zhuoran Liu
Avtorji prispevkov
Alvin Wan, Andrew Cann, Andrew Codispoti, Antoine Pelisse, Anuj Kalia, Aaron Hurst, Avital Oliver, Brad Barnes, Brian Hsu, Chen Ding, Chen Shen, Cheng Chang, Christian Gibson, Christopher Berner, Duncan Findlay, Fan Wang, Fangyuan Li, Gianluca Borello, Heather Schmidt, Henrique Ponde de Oliveira Pinto, Ikai Lan, Jiayi Weng, James Crooks, Jos Kraaijeveld, Junru Shao, Kenny Hsu, Kenny Nguyen, Kevin King, Leah Burkhardt, Leo Chen, Linden Li, Lu Zhang, Mahmoud Eariby, Marat Dukhan, Mateusz Litwin, Miki Habryn, Natan LaFontaine, Pavel Belov, Peng Su, Prasad Chakka, Rachel Lim, Rajkumar Samuel, Renaud Gaubert, Rory Carmichael, Sarah Dong, Shantanu Jain, Shuaiqi Xia, Stephen Logsdon, Todd Underwood, Tony Zhao, Weixing Zhang, Will Sheu, Weiyi Zheng, Yinghai Lu, Yunqiao Zhang
Varnostni sistemi
Andrea Vallone, Andy Applebaum, Cameron Raymond, Chong Zhang, Dan Mossing, Elizabeth Proehl, Eric Wallace, Evan Mays, Grace Zhao, Ian Kivlichan, Irina Kofman, Joel Parish, Kevin Liu, Keren Gu-Lemberg, Kristen Ying, Lama Ahmad, Lilian Weng, Leon Maksin, Leyton Ho, Meghan Shah, Michael Lampe, Michele Wang, Miles Wang, Olivia Watkins, Phillip Guo, Samuel Miserendino, Sam Toizer, Sandhini Agarwal, Tejal Patwardhan, Tom Dupré la Tour, Tong Mu, Tyna Eloundou in Yunyun Wang
Uvajanje
Adam Brandon, Adam Perelman, Adele Li, Akshay Nathan, Alan Hayes, Alfred Xue, Alison Ben, Alec Gorge, Alex Guziel, Alex Iftimie, Ally Bennett, Andrew Chen, Andy Wang, Andy Wood, Angad Singh, Anoop Kotha, Antonia Woodford, Anuj Saharan, Ashley Tyra, Atty Eleti, Ben Schneider, Bessie Ji, Beth Hoover, Bill Chen, Blake Samic, Britney Smith, Brian Yu, Caleb Wang, Cary Bassin, Cary Hudson, Charlie Jatt, Chengdu Huang, Chris Beaumont, Christina Huang, Cristina Scheau, Dana Palmie, Daniel Levine, Daryl Neubieser, Dave Cummings, David Sasaki, Dibya Bhattacharjee, Dylan Hunn, Edwin Arbus, Elaine Ya Le, Enis Sert, Eric Kramer, Fred von Lohmann, Freddie Sulit, Gaby Janatpour, Garrett McGrath, Garrett Ollinger, Gary Yang, Hao Sheng, Harold Hotelling, Janardhanan Vembunarayanan, Jeff Harris, Jeffrey Sabin Matsumoto, Jennifer Robinson, Jessica Liang, Jessica Shieh, Jiacheng Yang, Joel Morris, Joseph Florencio, Josh Kaplan, Kan Wu, Karan Sharma, Karen Li, Katie Pypes, Kendal Simon, Kendra Rimbach, Kevin Park, Kevin Rao, Laurance Fauconnet, Lauren Workman, Leher Pathak, Liang Wu, Liang Xiong, Lien Mamitsuka, Lindsay McCallum, Lukas Gross, Manoli Liodakis, Matt Nichols, Michelle Fradin, Minal Khan, Mingxuan Wang, Nacho Soto, Natalie Staudacher, Nikunj Handa, Niko Felix, Ning Liu, Olivier Godement, Oona Gleeson, Philip Pronin, Raymond Li, Reah Miyara, Robert Xiong, Rohan Nuttall, R.J. Marsan, Sara Culver, Scott Ethersmith, Sean Fitzgerald, Shamez Hemani, Sherwin Wu, Shiao Lee, Shuyang Cheng, Siyuan Fu, Spug Golden, Steve Coffey, Steven Heidel, Sundeep Tirumalareddy, Tabarak Khan, Thomas Degry, Thomas Dimson, Tom Stasi, Tomo Hiratsuka, Trevor Creech, Uzair Navid Iftikhar, Victoria Chernova, Victoria Spiegel, Wanning Jiang, Wenlei Xie, Yaming Lin, Yara Khakbaz, Yilei Qian, Yilong Qin, Yo Shavit in Zhi Bie
Vodstvo
Aidan Clark, Bob McGrew, David Farhi, Greg Brockman, Hannah Wong, Jakub Pachocki, Johannes Heidecke, Joanne Jang, Kate Rouch, Kevin Weil, Lauren Itow, Liam Fedus, Mark Chen, Mia Glaese, Mira Murati, Nick Ryder, Sam Altman, Srinivas Narayanan in Tal Broda