GPT‑4.5 tutvustus
Meie tugevaima GPT‑mudeli uurimiseelvaade. Saadaval Pro kasutajatele ja arendajatele üle kogu maailma.
Avaldame GPT‑4.5 uurimise eelvaate – meie seni suurim ja parim vestlusmudel. GPT‑4.5 on samm edasi eel- ja järelkoolituse laiendamisel. Järelevalveta õppimist skaleerides parandab GPT‑4.5 oma võimet mustreid ära tunda, seoseid luua ja koosta loomingulisi teadmisi ilma arutlemiseta.
Varased testid näitavad, et GPT‑4.5‑ga suhtlemine tundub loomulikum. Selle laiem teadmine, parem võime järgida kasutaja kavatsusi ja suurem „EQ“ muudavad selle kasulikuks selliste ülesannete jaoks nagu kirjutamine, programmeerimine ja praktiliste probleemide lahendamine. Me ootame ka, et see hallutsineerib vähem.
Jagame GPT‑4.5 uurimistöö eelvaadena, et paremini mõista selle tugevusi ja piiranguid. Me tutvume endiselt, milleks see võimeline on, ja oleme innukad nägema, kuidas inimesed seda kasutavad viisil, mida me poleks osanud oodata.
Me arendame tehisintellekti võimekust, skaleerides kahte üksteist täiendavat paradigmat: järelevalveta õppimist ja arutlemist. Need esindavad kahte intelligentsuse telge.
- Järelevalveta õppimine suurendab maailmamudeli täpsust ja intuitsiooni. Mudelid nagu GPT‑3.5, GPT‑4 ja GPT‑4.5 viivad seda paradigmat edasi.
- Skaaleeruv arutlus, seevastu õpetab mudeleid mõtlema ja koostama mõtteahelat enne vastamist, mis võimaldab neil lahendada keerulisi STEM- või loogikaprobleeme. Mudelid nagu OpenAI o1 ja OpenAI o3‑mini viivad seda paradigmat edasi.
GPT‑4.5 on näide juhendamata õppe skaleerimisest, suurendades arvutusvõimsust ja andmeid ning rakendades arhitektuuri ja optimeerimise uuendusi. GPT‑4.5 koolitati Microsoft Azure AI superarvutitel. Tulemuseks on mudel, millel on laiem teadmine ja sügavam arusaam maailmast, mis vähendab hallutsinatsioone ja suurendab usaldusväärsust paljudes teemades.
GPT paradigma laiendamine
Sügavam maailmateadmine
SimpleQA täpsus (mida suurem, seda parem)
SimpleQA hallutsinatsioonimäär (mida madalam, seda parem)
SimpleQA mõõdab LLM-i (suur keelemudel) faktipõhisust lihtsate, kuid keeruliste teadmiste küsimuste puhul.
Kui me oma mudeleid laiendame ja need lahendavad keerukamaid probleeme, muutub üha olulisemaks õpetada neile sügavamat arusaamist inimeste vajadustest ja kavatsustest. GPT‑4.5 jaoks töötasime välja uusi, skaleeritavaid tehnikaid, mis võimaldavad koolitada suuremaid ja võimsamaid mudeleid väiksematest mudelitest saadud andmetega. Need tehnikad parandavad GPT‑4.5 võimekust. Juhitavus, nüansside mõistmine ja loomulik vestlus.
Võrdlevad hindamised inimtestijatega
Inimese eelistus mõõdab päringute protsenti, kus testijad eelistasid GPT‑4.5‑t GPT‑4o‑le.
Sügava maailmamõistmise ja parema koostöö ühendamine loob mudeli, mis integreerib ideid loomulikult soojadesse ja intuitiivsetesse vestlustesse, mis on paremini häälestatud inimlikule koostööle. GPT‑4.5 mõistab paremini, mida inimesed mõtlevad, ning tõlgendab peeneid vihjeid või varjatud ootusi suurema nüansi ja emotsionaalse intelligentsusega. GPT‑4.5 näitab samuti tugevamat esteetilist intuitsiooni ja loovust. See paistab silma kirjutamise ja kujundamise abistamisel.
Kasutusjuhtumid
GPT-4.5
GPT‑4.5 näitab suuremat „EQ“-d ja teab, millal kutsuda esile edasist vestlust versus millal anda kasutajale põhjalikku teavet.
GPT‑4.5 ei mõtle enne vastamist, mis teeb selle tugevused eriti erinevaks mõtlemismudelitest nagu OpenAI o1. Võrreldes OpenAI o1 ja OpenAI o3‑mini mudelitega on GPT‑4.5 üldotstarbelisem ja loomupäraselt nutikam mudel. Usume, et arutlemine saab tulevaste mudelite põhivõimeks ning et kaks lähenemist skaleerimisele – eelkoolitus ja arutlemine – täiendavad üksteist. Kui mudelid nagu GPT‑4.5 muutuvad koolituse käigus targemaks ja teadlikumaks, saavad need veelgi tugevamaks aluseks arutlemis- ja tööriistade kasutamise agentidele.
Iga kord, kui mudeli võimalused suurenevad, avaneb ka võimalus muuta mudelid turvalisemaks. GPT‑4.5 koolitati uute juhendamistehnikatega, mis on kombineeritud traditsioonilise järelevalvega peenhäälestuse (SFT) ja inimtagasiside põhjal kinnistava õppimise (RLHF) meetoditega, nagu neid kasutati GPT‑4o puhul. Loodame, et see töö saab aluseks veelgi võimekamate tulevaste mudelite kooskõlastamiseks.
Meie täiustuste koormustestimiseks viisime enne kasutuselevõttu läbi rea ohutusteste vastavalt meie Valmisoleku raamistikule(avaneb uues aknas). Leidsime, et GPT‑paradigma skaleerimine aitas meie hindamistes kaasa võimekuse paranemisele. Avaldame nende hindamiste üksikasjalikud tulemused lisatud süsteemikaardis.
Alates tänasest saavad ChatGPT Pro kasutajad valida GPT‑4.5 mudelivalijast veebis, mobiilis ja töölaual. Alustame levitamist Plus ja Team kasutajatele järgmisel nädalal, seejärel Enterprise ja Edu kasutajatele ülejärgmisel nädalal.
GPT‑4.5‑l on juurdepääs uusimale ja ajakohasele teabele otsingu kaudu, pakub tuge failide ja piltide laadimiseks üles ning saab kasutada canvase kirjutamise ja koodi kallal töötamiseks. Kuid GPT‑4.5 ei toeta praegu ChatGPT‑s multimodaalseid funktsioone, nagu häälrežiim, video ja ekraani jagamine. Tulevikus töötame selle nimel, et lihtsustada kasutajakogemust, nii et AI „lihtsalt töötaks” sinu heaks.
Samuti tutvustame GPT‑4.5 Chat Completions API-s, Assistants API-s ja Batch API-s arendajatele kõigil tasulistel kasutustasemetel(avaneb uues aknas). Mudel pakub tuge põhifunktsioonidele nagu funktsioonikutsumine, struktureeritud väljundid, voogedastus ja süsteemisõnumid. See toetab ka nägemisvõimekust pildisisendite kaudu.
Varajaste testide põhjal võivad arendajad leida, et GPT‑4.5 on eriti kasulik rakenduste jaoks, mis saavad kasu selle kõrgemast emotsionaalsest intelligentsusest ja loovusest – näiteks kirjutamisabi, suhtlemine, õppimine, juhendamine ja ajurünnak. Samuti näitab see tugevaid võimeid agentlikus planeerimises ja teostamises, sealhulgas mitmeastmelistes kodeerimise töövoogudes ja keerukate ülesannete automatiseerimises.
GPT‑4.5 on väga suur ja arvutusmahukas mudel, mis teeb selle kallimaks kui GPT‑4o ja ei asenda seda. Seetõttu hindame, kas jätka selle pakkumist API-s pikaajaliselt, kuna tasakaalustame praeguste võimaluste toetamise tulevaste mudelite loomisega. Ootame põnevusega, et saaksime rohkem teada selle tugevustest, võimetest ja võimalikest rakendustest päriselu olukordades. Kui GPT‑4.5 pakub sinu kasutusjuhtumile ainulaadset väärtust, mängib sinu tagasiside(avaneb uues aknas) olulist rolli meie otsuse tegemisel.
Iga uue arvutusvõimsuse suurusjärguga kaasnevad uued võimekused. GPT‑4.5 on mudel, mis asub järelevalveta õppe võimaluste esirinnas. Meid üllatab, et me jätkame kogukonna loovust uute võimete ja ootamatute kasutusjuhtumite leidmisel. GPT‑4.5‑ga kutsume sind tutvu järelevalveta õppimise piiridega ja avastama koos meiega uudseid võimalusi.
Allpool esitame mudeli GPT‑4.5 tulemused tavapärastel akadeemilistel võrdlusalustel, et näidata selle praegust sooritust ülesannetes, mis on traditsiooniliselt seotud arutlemisega. Isegi lihtsalt järelevalveta õppimist suurendades näitab GPT‑4.5 märkimisväärseid täiustusi võrreldes varasemate mudelitega nagu GPT‑4o. Sellegipoolest ootame põnevusega, et saaksime GPT‑4.5‑st täielikuma pildi võimalustest selle versiooni kaudu, sest me mõistame, et akadeemilised võrdlusnäitajad ei kajasta alati tegelikku kasulikkust.
Mudelihindamisskoorid
GPT‑4.5 | GPT‑4o | OpenAI o3‑mini (kõrge) | |
GPQA (teadus) | 71,4% | 53,6% | 79,7% |
AIME ‘24 (matemaatika) | 36,7% | 9,3% | 87,3% |
MMMLU (mitmekeelne) | 85,1% | 81,5% | 81,1% |
MMMU (multimodaalne) | 74,4% | 69,1% | - |
SWE-Lancer Diamond (kodeerimine)* | 32,6% 186 125 dollarit | 23,3% 138 750 dollarit | 10,8% 89 625 dollarit |
SWE-Bench kinnitatud (kodeerimine)* | 38,0% | 30,7% | 61,0% |
*Näidatud numbrid esindavad parimat sisemist jõudlust.
Autorid
Alusepanijad
Adam Goucher, Alex Paino, Ali Kamali, Amin Tootoonchian, Andrew Tulloch, Ben Sokolowsky, Clemens Winter, Colin Wei, Daniel Kappler, Daniel Levy, Felipe Petroski Such, Geoff Salmon, Ian O’Connell, Jason Teplitz, Kai Chen, Nik Tezak, Prafulla Dhariwal, Rapha Gontijo Lopes, Sam Schoenholz, Youlong Cheng, Yujia Jin, Yunxing Dai
Teadustöö
Põhikaastöötajad
Aiden Low, Alec Radford, Alex Carney, Alex Nichol, Alexis Conneau, Ananya Kumar, Ben Wang, Charlotte Cole, Elizabeth Yang, Gabriel Goh, Hadi Salman, Haitang Hu, Heewoo Jun, Ian Sohl, Ishaan Gulrajani, Jacob Coxon, James Betker, Jamie Kiros, Jessica Landon, Kyle Luther, Lia Guy, Lukas Kondraciuk, Lyric Doshi, Mikhail Pavlov, Qiming Yuan, Reimar Leike, Rowan Zellers, Sean Metzger, Shengjia Zhao, Spencer Papay, Tao Wang
Kaastöötajad
Adam Lerer, Adrien Ecoffet, Aidan McLaughlin, Alexander Prokofiev, Alexandra Barr, Allan Jabri, Andrew Gibiansky, Andrew Schmidt, Casey Chu, Chak Li, Chelsea Voss, Chris Hallacy, Chris Koch, Christine McLeavey, David Mely, Dimitris Tsipras, Eric Sigler, Erin Kavanaugh, Farzad Khorasani, Huiwen Chang, Ilya Kostrikov, Ishaan Singal, Ji Lin, Jiahui Yu, Jing Yu Zhang, John Rizzo, Jong Wook Kim, Joyce Lee, Juntang Zhuang, Leo Liu, Li Jing, Long Ouyang, Louis Feuvrier, Mo Bavarian, Nick Stathas, Nitish Keskar, Oleg Murk, Preston Bowman, Scottie Yan, SQ Mah, Tao Xu, Taylor Gordon, Valerie Qi, Wenda Zhou, Yu Zhang
Skaleerimine
Põhikaastöötajad
Alex Chow, Alex Renzin, Aleksandra Spyra, Avi Nayak, Ben Leimberger, Christopher Hesse, Duc Phong Nguyen, Dinghua Li, Eric Peterson, Francis Zhang, Gene Oden, Kai Fricke, Kai Hayashi, Larry Lv, Leqi Zou, Lin Yang, Madeleine Thompson, Michael Petrov, Miguel Castro, Natalia Gimelshein, Phil Tillet, Reza Zamani, Ryan Cheu Stanley Hsieh, Steve Lee, Stewart Hall, Thomas Raoux, Tianhao Zheng, Vishal Kuo, Yongjik Kim, Yuchen Zhang, Zhuoran Liu
Kaastöötajad
Alvin Wan, Andrew Cann, Andrew Codispoti, Antoine Pelisse, Anuj Kalia, Aaron Hurst, Avital Oliver, Brad Barnes, Brian Hsu, Chen Ding, Chen Shen, Cheng Chang, Christian Gibson, Christopher Berner, Duncan Findlay, Fan Wang, Fangyuan Li, Gianluca Borello, Heather Schmidt, Henrique Ponde de Oliveira Pinto, Ikai Lan, Jiayi Weng, James Crooks, Jos Kraaijeveld, Junru Shao, Kenny Hsu, Kenny Nguyen, Kevin King, Leah Burkhardt, Leo Chen, Linden Li, Lu Zhang, Mahmoud Eariby, Marat Dukhan, Mateusz Litwin, Miki Habryn, Natan LaFontaine, Pavel Belov, Peng Su, Prasad Chakka, Rachel Lim, Rajkumar Samuel, Renaud Gaubert, Rory Carmichael, Sarah Dong, Shantanu Jain, Shuaiqi Xia, Stephen Logsdon, Todd Underwood, Tony Zhao, Weixing Zhang, Will Sheu, Weiyi Zheng, Yinghai Lu, Yunqiao Zhang
Turvasüsteemid
Andrea Vallone, Andy Applebaum, Cameron Raymond, Chong Zhang, Dan Mossing, Elizabeth Proehl, Eric Wallace, Evan Mays, Grace Zhao, Ian Kivlichan, Irina Kofman, Joel Parish, Kevin Liu, Keren Gu-Lemberg, Kristen Ying, Lama Ahmad, Lilian Weng, Leon Maksin, Leyton Ho, Meghan Shah, Michael Lampe, Michele Wang, Miles Wang, Olivia Watkins, Phillip Guo, Samuel Miserendino, Sam Toizer, Sandhini Agarwal, Tejal Patwardhan, Tom Dupré la Tour, Tong Mu, Tyna Eloundou, Yunyun Wang
Rakendamine
Adam Brandon, Adam Perelman, Adele Li, Akshay Nathan, Alan Hayes, Alfred Xue, Alison Ben, Alec Gorge, Alex Guziel, Alex Iftimie, Ally Bennett, Andrew Chen, Andy Wang, Andy Wood, Angad Singh, Anoop Kotha, Antonia Woodford, Anuj Saharan, Ashley Tyra, Atty Eleti, Ben Schneider, Bessie Ji, Beth Hoover, Bill Chen, Blake Samic, Britney Smith, Brian Yu, Caleb Wang, Cary Bassin, Cary Hudson, Charlie Jatt, Chengdu Huang, Chris Beaumont, Christina Huang, Cristina Scheau, Dana Palmie, Daniel Levine, Daryl Neubieser, Dave Cummings, David Sasaki, Dibya Bhattacharjee, Dylan Hunn, Edwin Arbus, Elaine Ya Le, Enis Sert, Eric Kramer, Fred von Lohmann, Freddie Sulit, Gaby Janatpour, Garrett McGrath, Garrett Ollinger, Gary Yang, Hao Sheng, Harold Hotelling, Janardhanan Vembunarayanan, Jeff Harris, Jeffrey Sabin Matsumoto, Jennifer Robinson, Jessica Liang, Jessica Shieh, Jiacheng Yang, Joel Morris, Joseph Florencio, Josh Kaplan, Kan Wu, Karan Sharma, Karen Li, Katie Pypes, Kendal Simon, Kendra Rimbach, Kevin Park, Kevin Rao, Laurance Fauconnet, Lauren Workman, Leher Pathak, Liang Wu, Liang Xiong, Lien Mamitsuka, Lindsay McCallum, Lukas Gross, Manoli Liodakis, Matt Nichols, Michelle Fradin, Minal Khan, Mingxuan Wang, Nacho Soto, Natalie Staudacher, Nikunj Handa, Niko Felix, Ning Liu, Olivier Godement, Oona Gleeson, Philip Pronin, Raymond Li, Reah Miyara, Robert Xiong, Rohan Nuttall, R.J. Marsan, Sara Culver, Scott Ethersmith, Sean Fitzgerald, Shamez Hemani, Sherwin Wu, Shiao Lee, Shuyang Cheng, Siyuan Fu, Spug Golden, Steve Coffey, Steven Heidel, Sundeep Tirumalareddy, Tabarak Khan, Thomas Degry, Thomas Dimson, Tom Stasi, Tomo Hiratsuka, Trevor Creech, Uzair Navid Iftikhar, Victoria Chernova, Victoria Spiegel, Wanning Jiang, Wenlei Xie, Yaming Lin, Yara Khakbaz, Yilei Qian, Yilong Qin, Yo Shavit, Zhi Bie
Tippjuhtkond
Aidan Clark, Bob McGrew, David Farhi, Greg Brockman, Hannah Wong, Jakub Pachocki, Johannes Heidecke, Joanne Jang, Kate Rouch, Kevin Weil, Lauren Itow, Liam Fedus, Mark Chen, Mia Glaese, Mira Murati, Nick Ryder, Sam Altman, Srinivas Narayanan, Tal Broda