Predstavljamo GPT‑4.5
Pregled istraživanja našeg najjačeg GPT modela. Dostupno Pro korisnicima i programerima širom svijeta.
Objavljujemo istraživački pregled GPT‑4.5—naš najveći i najbolji model za chat do sada. GPT‑4.5 je korak naprijed u skaliranju predobuka i postobuka. Skaliranjem nenadziranog učenja, GPT‑4.5 poboljšava svoju sposobnost prepoznavanja obrazaca, uspostavljanja veza i generiranja kreativnih uvida bez rezonovanja.
Rana testiranja pokazuju da interakcija sa GPT‑4.5 djeluje prirodnije. Njegova šira baza znanja, poboljšana sposobnost praćenja korisničke namjere i veći “EQ” čine ga korisnim za zadatke kao što su poboljšanje pisanja, programiranje i rješavanje praktičnih problema. Također očekujemo da će manje biti sklon halucinacijama.
Dijelimo GPT‑4.5 kao istraživački pregled kako bismo bolje razumjeli njegove prednosti i ograničenja. Još uvijek istražujemo šta sve može i željno iščekujemo da vidimo kako će ga ljudi koristiti na načine koje možda nismo očekivali.
Unapređujemo mogućnosti vještačke inteligencije skaliranjem dviju komplementarnih paradigmi: nenadziranog učenja i rezonovanja. Ovo predstavljaju dvije ose inteligencije.
- Nenadzirano učenje povećava tačnost i intuiciju modela svijeta. Modeli poput GPT‑3.5, GPT‑4 i GPT‑4.5 unapređuju ovu paradigmu.
- S druge strane, skaliranje rezonovanja uči modele da razmisliti i proizvode lanac misli prije nego što odgovore, što im omogućava da se nose sa složenim STEM ili logičkim problemima. Modeli poput OpenAI o1 i OpenAI o3‑mini unapređuju ovu paradigmu.
GPT‑4.5 je primjer skaliranja nenadziranog učenja povećanjem računalne snage i podataka, zajedno s inovacijama u arhitekturi i optimizaciji. GPT‑4.5 je treniran na Microsoft Azure AI superračunarima. Rezultat je model koji posjeduje šire znanje i dublje razumijevanje svijeta, što dovodi do smanjenja halucinacija i veće pouzdanosti u širokom spektru tema.
Skaliranje GPT paradigme
Dublje znanje o svijetu
SimpleQA tačnosti (više je bolje)
Stopa halucinacija SimpleQA (niža je bolja)
SimpleQA mjeri činjeničnost LLM-a (velikog jezičkog modela) na jednostavnim, ali izazovnim pitanjima znanja.
Kako skaliramo naše modele i oni rješavaju sve složenije probleme, postaje sve važnije naučiti ih boljem razumijevanju ljudskih potreba i namjera. Za GPT‑4.5, razvili smo nove, skalabilne tehnike koje omogućuju obuku većih i snažnijih modela koristeći podatke izvedene iz manjih modela. Ove tehnike poboljšavaju mogućnost usmjeravanja GPT‑4.5, razumijevanje nijansi i prirodnost razgovora.
Usporedne evaluacije s ljudskim testerima
Ljudske preferencije mjere postotak upita u kojima su testeri preferirali GPT‑4.5 nad GPT‑4o.
Kombinovanje dubokog razumijevanja svijeta sa poboljšanom saradnjom rezultira modelom koji prirodno integriše ideje u tople i intuitivne razgovore, više usklađene sa ljudskom saradnjom. GPT‑4.5 bolje razumije šta ljudi misle i interpretira suptilne znakove ili implicitna očekivanja s većom nijansom i „EQ-om“. GPT‑4.5 također pokazuje snažniju estetsku intuiciju i kreativnost. Izvrsno pomaže pri pisanju i dizajnu.
Slučajevi upotrebe
GPT-4.5
GPT‑4.5 pokazuje veći "EQ" i zna kada treba pozvati na dalji razgovor, a kada korisniku pružiti opsežne informacije.
GPT‑4.5 ne razmišlja prije nego što odgovori, što njegove prednosti čini posebno različitim od modela rezonovanja kao što je OpenAI o1. U poređenju s OpenAI o1 i OpenAI o3‑mini, GPT‑4.5 je model opće namjene i inherentno pametniji. Vjerujemo da će rezonovanje biti ključna sposobnost budućih modela, i da će se dva pristupa skaliranju—prethodna obuka i rezonovanje—međusobno dopunjavati. Kako modeli poput GPT‑4.5 postaju pametniji i stiču više znanja kroz prethodnu obuku, poslužit će kao još jača osnova za agente koji koriste rezonovanje i alate.
Svako povećanje sposobnosti modela takođe je prilika da modeli postanu sigurniji. GPT‑4.5 je obučavan novim tehnikama za nadzor koje su kombinovane s tradicionalnim metodama finog podešavanja pod nadzorom (SFT) i pojačanog učenja iz ljudskog povratnog odgovora (RLHF), kao što su one korištene za GPT‑4o. Nadamo se da će ovaj rad poslužiti kao temelj za usklađivanje još sposobnijih budućih modela.
Kako bismo testirali naša poboljšanja pod stresom, proveli smo niz sigurnosnih testova prije implementacije, u skladu sa našim Okvirom za pripravnost(otvara se u novom prozoru). Otkrili smo da je skaliranje GPT paradigme doprinijelo poboljšanju sposobnosti u svim našim evaluacijama. Objavljujemo detaljne rezultate ovih evaluacija u priloženoj sistemskoj kartici.
Počevši od danas, korisnici ChatGPT Pro moći će odabrati GPT‑4.5 u meniju modela na webu, mobilnim uređajima i stolnim računalima. Sljedeće sedmice ćemo početi uvoditi za korisnike Plus i Team, a zatim za korisnike Enterprise i Edu sljedeće sedmice.
GPT‑4.5 ima pristup najnovijim informacijama putem pretrage, podržava otpremanje datoteka i slika, te može koristiti canvas za rad na pisanju i kodu. Međutim, GPT‑4.5 trenutno ne podržava multimodalne funkcije kao što su glasovni način rada, video i dijeljenje ekrana u ChatGPT‑u. U budućnosti ćemo raditi na pojednostavljenju korisničkog iskustva kako bi AI "jednostavno radio" za vas.
Također prikazujemo pregled GPT‑4.5 u chat Completions API-ju, Assistants API-ju i Batch API-ju programerima na svim plaćenim nivoima korištenja(otvara se u novom prozoru). Model podržava ključne funkcije kao što su pozivanje funkcija, strukturirani izlazi, strimovanje i sistemske poruke. Također podržava vizuelne mogućnosti putem unosa slika.
Na osnovu ranih testiranja, programeri mogu smatrati GPT‑4.5 posebno korisnim za aplikacije koje imaju koristi od njegove veće emocionalne inteligencije i kreativnosti—kao što su pomoć pri pisanju, komunikacija, učenje, koučing i razmišljanje. Također pokazuje snažne sposobnosti u planiranju i izvršavanju zadataka, uključujući višestepene tokove rada kodiranja i automatizaciju složenih zadataka.
GPT‑4.5 je veoma veliki i računarski intenzivan model, što ga čini skupljim od GPT‑4o i ne predstavlja njegovu zamjenu. Zbog toga procjenjujemo hoćemo li dugoročno nastaviti pružati uslugu u API-ju dok balansiramo između podrške trenutnim mogućnostima i izgradnje budućih modela. Radujemo se što ćemo saznati više o njegovim snagama, sposobnostima i potencijalnim aplikacijama u stvarnim okruženjima. Ako GPT‑4.5 pruži jedinstvenu vrijednost za vaš slučaj upotrebe, vaš povratni odgovor(otvara se u novom prozoru) će igrati važnu ulogu u usmjeravanju naše odluke.
Sa svakim novim redom veličine računarske snage dolaze nove mogućnosti. GPT‑4.5 je model na granici onoga što je moguće u nenadziranom učenju. Nastavi biti iznenađeni kreativnošću zajednice u otkrivanju novih sposobnosti i neočekivanih slučajeva upotrebe. Sa GPT‑4.5, pozivamo Vas da istražite granice nenadziranog učenja i otkrijete nove mogućnosti s nama.
U nastavku pružamo GPT‑4.5 rezultate na standardnim akademskim mjerilima koja ilustruju trenutni učinak na zadacima tradicionalno povezanim s rezonovanjem. Čak i samo povećanjem skaliranja nenadziranog učenja, GPT‑4.5 pokazuje značajna poboljšanja u odnosu na prethodne modele poput GPT‑4o. Ipak, radujemo se sticanju potpunije slike o mogućnostima GPT‑4.5 kroz ovo izdanje, jer prepoznajemo da akademski mjerila ne odražavaju uvijek korisnost u stvarnom svijetu.
Rezultati evaluacije modela
GPT‑4.5 | GPT‑4o | OpenAI o3‑mini (visok) | |
GPQA (nauka) | 71,4% | 53,6% | 79,7% |
AIME '24 (matematika) | 36,7% | 9,3% | 87,3% |
MMMLU (multilingual) | 85,1% | 81,5% | 81,1% |
MMMU (multimodalno) | 74,4% | 69,1% | - |
SWE-Lancer Diamond (coding)* | 32,6% 186.125 dolara | 23,3% 138.750 USD | 10,8% 89.625 USD |
SWE-Bench potvrđeno (kodiranje)* | 38,0% | 30,7% | 61,0% |
*Prikazani brojevi predstavljaju najbolje interne performanse.
Autori
Osnivači
Adam Goucher, Alex Paino, Ali Kamali, Amin Tootoonchian, Andrew Tulloch, Ben Sokolowsky, Clemens Winter, Colin Wei, Daniel Kappler, Daniel Levy, Felipe Petroski Such, Geoff Salmon, Ian O’Connell, Jason Teplitz, Kai Chen, Nik Tezak, Prafulla Dhariwal, Rapha Gontijo Lopes, Sam Schoenholz, Youlong Cheng, Yujia Jin i Yunxing Dai
Istraživanje
Glavni saradnici
Aiden Low, Alec Radford, Alex Carney, Alex Nichol, Alexis Conneau, Ananya Kumar, Ben Wang, Charlotte Cole, Elizabeth Yang, Gabriel Goh, Hadi Salman, Haitang Hu, Heewoo Jun, Ian Sohl, Ishaan Gulrajani, Jacob Coxon, James Betker, Jamie Kiros, Jessica Landon, Kyle Luther, Lia Guy, Lukas Kondraciuk, Lyric Doshi, Mikhail Pavlov, Qiming Yuan, Reimar Leike, Rowan Zellers, Sean Metzger, Shengjia Zhao, Spencer Papay, Tao Wang
Saradnici
Adam Lerer, Adrien Ecoffet, Aidan McLaughlin, Alexander Prokofiev, Alexandra Barr, Allan Jabri, Andrew Gibiansky, Andrew Schmidt, Casey Chu, Chak Li, Chelsea Voss, Chris Hallacy, Chris Koch, Christine McLeavey, David Mely, Dimitris Tsipras, Eric Sigler, Erin Kavanaugh, Farzad Khorasani, Huiwen Chang, Ilya Kostrikov, Ishaan Singal, Ji Lin, Jiahui Yu, Jing Yu Zhang, John Rizzo, Jong Wook Kim, Joyce Lee, Juntang Zhuang, Leo Liu, Li Jing, Long Ouyang, Louis Feuvrier, Mo Bavarian, Nick Stathas, Nitish Keskar, Oleg Murk, Preston Bowman, Scottie Yan, SQ Mah, Tao Xu, Taylor Gordon, Valerie Qi, Wenda Zhou, Yu Zhang
Širenje
Glavni saradnici
Alex Chow, Alex Renzin, Aleksandra Spyra, Avi Nayak, Ben Leimberger, Christopher Hesse, Duc Phong Nguyen, Dinghua Li, Eric Peterson, Francis Zhang, Gene Oden, Kai Fricke, Kai Hayashi, Larry Lv, Leqi Zou, Lin Yang, Madeleine Thompson, Michael Petrov, Miguel Castro, Natalia Gimelshein, Phil Tillet, Reza Zamani, Ryan Cheu Stanley Hsieh, Steve Lee, Stewart Hall, Thomas Raoux, Tianhao Zheng, Vishal Kuo, Yongjik Kim, Yuchen Zhang, Zhuoran Liu
Saradnici
Alvin Wan, Andrew Cann, Andrew Codispoti, Antoine Pelisse, Anuj Kalia, Aaron Hurst, Avital Oliver, Brad Barnes, Brian Hsu, Chen Ding, Chen Shen, Cheng Chang, Christian Gibson, Christopher Berner, Duncan Findlay, Fan Wang, Fangyuan Li, Gianluca Borello, Heather Schmidt, Henrique Ponde de Oliveira Pinto, Ikai Lan, Jiayi Weng, James Crooks, Jos Kraaijeveld, Junru Shao, Kenny Hsu, Kenny Nguyen, Kevin King, Leah Burkhardt, Leo Chen, Linden Li, Lu Zhang, Mahmoud Eariby, Marat Dukhan, Mateusz Litwin, Miki Habryn, Natan LaFontaine, Pavel Belov, Peng Su, Prasad Chakka, Rachel Lim, Rajkumar Samuel, Renaud Gaubert, Rory Carmichael, Sarah Dong, Shantanu Jain, Shuaiqi Xia, Stephen Logsdon, Todd Underwood, Tony Zhao, Weixing Zhang, Will Sheu, Weiyi Zheng, Yinghai Lu, Yunqiao Zhang
Sigurnosni sistemi
Andrea Vallone, Andy Applebaum, Cameron Raymond, Chong Zhang, Dan Mossing, Elizabeth Proehl, Eric Wallace, Evan Mays, Grace Zhao, Ian Kivlichan, Irina Kofman, Joel Parish, Kevin Liu, Keren Gu-Lemberg, Kristen Ying, Lama Ahmad, Lilian Weng, Leon Maksin, Leyton Ho, Meghan Shah, Michael Lampe, Michele Wang, Miles Wang, Olivia Watkins, Phillip Guo, Samuel Miserendino, Sam Toizer, Sandhini Agarwal, Tejal Patwardhan, Tom Dupré la Tour, Tong Mu, Tyna Eloundou i Yunyun Wang
Implementacija
Adam Brandon, Adam Perelman, Adele Li, Akshay Nathan, Alan Hayes, Alfred Xue, Alison Ben, Alec Gorge, Alex Guziel, Alex Iftimie, Ally Bennett, Andrew Chen, Andy Wang, Andy Wood, Angad Singh, Anoop Kotha, Antonia Woodford, Anuj Saharan, Ashley Tyra, Atty Eleti, Ben Schneider, Bessie Ji, Beth Hoover, Bill Chen, Blake Samic, Britney Smith, Brian Yu, Caleb Wang, Cary Bassin, Cary Hudson, Charlie Jatt, Chengdu Huang, Chris Beaumont, Christina Huang, Cristina Scheau, Dana Palmie, Daniel Levine, Daryl Neubieser, Dave Cummings, David Sasaki, Dibya Bhattacharjee, Dylan Hunn, Edwin Arbus, Elaine Ya Le, Enis Sert, Eric Kramer, Fred von Lohmann, Freddie Sulit, Gaby Janatpour, Garrett McGrath, Garrett Ollinger, Gary Yang, Hao Sheng, Harold Hotelling, Janardhanan Vembunarayanan, Jeff Harris, Jeffrey Sabin Matsumoto, Jennifer Robinson, Jessica Liang, Jessica Shieh, Jiacheng Yang, Joel Morris, Joseph Florencio, Josh Kaplan, Kan Wu, Karan Sharma, Karen Li, Katie Pypes, Kendal Simon, Kendra Rimbach, Kevin Park, Kevin Rao, Laurance Fauconnet, Lauren Workman, Leher Pathak, Liang Wu, Liang Xiong, Lien Mamitsuka, Lindsay McCallum, Lukas Gross, Manoli Liodakis, Matt Nichols, Michelle Fradin, Minal Khan, Mingxuan Wang, Nacho Soto, Natalie Staudacher, Nikunj Handa, Niko Felix, Ning Liu, Olivier Godement, Oona Gleeson, Philip Pronin, Raymond Li, Reah Miyara, Robert Xiong, Rohan Nuttall, R.J. Marsan, Sara Culver, Scott Ethersmith, Sean Fitzgerald, Shamez Hemani, Sherwin Wu, Shiao Lee, Shuyang Cheng, Siyuan Fu, Spug Golden, Steve Coffey, Steven Heidel, Sundeep Tirumalareddy, Tabarak Khan, Thomas Degry, Thomas Dimson, Tom Stasi, Tomo Hiratsuka, Trevor Creech, Uzair Navid Iftikhar, Victoria Chernova, Victoria Spiegel, Wanning Jiang, Wenlei Xie, Yaming Lin, Yara Khakbaz, Yilei Qian, Yilong Qin, Yo Shavit i Zhi Bie
Izvršno rukovodstvo
Aidan Clark, Bob McGrew, David Farhi, Greg Brockman, Hannah Wong, Jakub Pachocki, Johannes Heidecke, Joanne Jang, Kate Rouch, Kevin Weil, Lauren Itow, Liam Fedus, Mark Chen, Mia Glaese, Mira Murati, Nick Ryder, Sam Altman, Srinivas Narayanan i Tal Broda