Predstavujeme GPT‑4.5
Ukážka výskumu nášho najsilnejšieho modelu GPT. Dostupné pre používateľov Pro a vývojárov na celom svete.
Vydávame ukážku výskumu GPT‑4.5—nášho doteraz najväčšieho a najlepšieho modelu pre čet. GPT‑4.5 je krokom vpred v rozširovaní pred-tréningu a post-tréningu. Škálovaním učenia bez dozoru GPT‑4.5 zlepšuje svoju schopnosť rozpoznávať vzory, vytvárať súvislosti a generovať kreatívne poznatky bez myslenia.
Počiatočné testovanie ukazuje, že interakcia s GPT‑4.5 pôsobí prirodzenejšie. Jeho širšia znalostná základňa, vylepšená schopnosť sledovať zámer používateľa a lepšia „EQ“ ho robia užitočným pre úlohy, ako je zlepšovanie písania, programovania a riešenie praktických problémov. Tiež očakávame, že bude menej náchylný na halucinácie.
Zdieľame GPT‑4.5 ako ukážku výskumu, aby sme lepšie pochopili jeho silné stránky a obmedzenia. Stále skúmame, čoho je schopný, a sme zvedaví, ako ho ľudia využijú spôsobmi, ktoré by sme možno neočakávali.
Rozvíjame schopnosti umelej inteligencie škálovaním dvoch doplnkových paradigiem: učenia bez dozoru a myslenia. Tieto predstavujú dve osi inteligencie.
- Učenie bez dozoru zvyšuje presnosť modelu sveta a intuíciu. Modely ako GPT‑3.5, GPT‑4 a GPT‑4.5 posúvajú túto paradigmu vpred.
- Škálovanie myslenia na druhej strane učí modely premýšľať a vytvárať reťazec myšlienok predtým, ako zareagujú, čo im umožňuje riešiť zložité problémy v oblasti STEM alebo logiky. Modely ako OpenAI o1 a OpenAI o3‑mini posúvajú túto paradigmu vpred.
GPT‑4.5 je príkladom škálovania učenia bez dozoru prostredníctvom zväčšovania výpočtových a dátových kapacít spolu s inováciami v oblasti architektúry a optimalizácie. GPT‑4.5 bol trénovaný na superpočítačoch Microsoft Azure AI. Výsledkom je model, ktorý má širšie znalosti a hlbšie pochopenie sveta, čo vedie k zníženiu halucinácií a väčšej spoľahlivosti v širokej škále tém.
Škálovanie paradigmy GPT
Hlbšie znalosti o svete
Správnosť SimpleQA (vyššia je lepšia)
Miera halucinácií SimpleQA (nižšia je lepšia)
SimpleQA meria faktickosť LLM (veľkých jazykových modelov) na priamych, ale náročných znalostných otázkach.
Ako škálujeme naše modely a tieto riešia zložitejšie problémy, je čoraz dôležitejšie naučiť ich lepšie chápať ľudské potreby a zámery. Pre GPT‑4.5 sme vyvinuli nové, škálovateľné techniky, ktoré povoľujú tréning väčších a výkonnejších modelov s použitím dát odvodených z menších modelov. Tieto techniky vylepšujú ovládateľnosť, pochopenie nuáns a prirodzenú konverzáciu GPT‑4.5.
Porovnávacie vyhodnotenia s ľudskými testermi
Ľudská preferencia meria percento dotazov, v ktorých testeri uprednostnili GPT‑4.5 pred GPT‑4o.
Kombinácia hlbokého porozumenia sveta s lepšou spoluprácou vedie k modelu, ktorý prirodzene integruje myšlienky do príjemných a intuitívnych konverzácií, ktoré sú viac naladené na ľudskú spoluprácu. GPT‑4.5 má lepšie pochopenie toho, čo ľudia myslia, a interpretuje jemné signály alebo implicitné očakávania s väčšou nuansou a „EQ“. GPT‑4.5 tiež prejavuje silnejšiu estetickú intuíciu a kreativitu. Vyniká v pomoci s písaním a dizajnom.
Prípady použitia
GPT-4.5
GPT‑4.5 vykazuje vyššiu „EQ“ a vie, kedy vyzvať na ďalšiu konverzáciu a kedy poskytnúť používateľovi rozsiahle informácie.
GPT‑4.5 nepremýšľa predtým, ako odpovie, čo robí jeho silné stránky obzvlášť odlišnými od modelov myslenia, ako je OpenAI o1. V porovnaní s OpenAI o1 a OpenAI o3‑mini je GPT‑4.5 univerzálnejší a prirodzene inteligentnejší model. Veríme, že myslenie bude základnou schopnosťou budúcich modelov a že dva prístupy k škálovaniu – predtréning a myslenie– sa budú navzájom dopĺňať. Keďže modely ako GPT‑4.5 sa vďaka predtréningu stanú inteligentnejšími a informovanejšími, budú slúžiť ako ešte silnejší základ pre agentov využívajúcich myslenie a nástroje.
Každé zvýšenie schopností modelu je zároveň príležitosťou na zvýšenie bezpečnosti modelu. GPT‑4.5 bol trénovaný pomocou nových techník dohľadu, ktoré sú kombinované s tradičnými metódami jemného ladenia pod dohľadom (SFT) a učenia posilňovaním z ľudskej spätnej väzby (RLHF), ako sú tie, ktoré sa používajú pre GPT‑4o. Dúfame, že táto práca poslúži ako základ pre zosúladenie ešte schopnejších budúcich modelov.
Aby sme dôkladne otestovali naše vylepšenia, vykonali sme pred nasadením sériu bezpečnostných testov v súlade s naším Rámcom pripravenosti(otvorí sa v novom okne). Zistili sme, že škálovanie paradigmy GPT prispelo k zlepšeniu schopností v rámci našich hodnotení. Podrobné výsledky týchto hodnotení zverejňujeme v priloženej systémovej karte.
Od dnešného dňa si používatelia ChatGPT Pro budú môcť vybrať GPT‑4.5 vo výbere modelu na webe, mobile a počítači. Pre používateľov Plus a Team začneme s jej zavádzaním budúci týždeň a pre používateľov Enterprise a Edu nasledujúci týždeň.
GPT‑4.5 má prístup k najnovším aktuálnym informáciám pomocou vyhľadávania, podporuje nahrávanie súborov a obrázkov a môže používať canvas na prácu s písaním a kódovaním. GPT‑4.5 však v súčasnosti nepodporuje multimodálne funkcie, ako je hlasový režim, video a zdieľanie obrazovky v ChatGPT. V budúcnosti budeme pracovať na zjednodušení používateľského rozhrania, aby umelá inteligencia „jednoducho fungovala“ pre vás.
Zároveň ponúkame ukážku GPT‑4.5 v Chat Completions API, Assistants API a Batch API pre vývojárov na všetkých platených úrovniach používania(otvorí sa v novom okne). Model má podporu kľúčových funkcií ako volanie funkcií, štruktúrované výstupy, streamovanie a systémové správy. Takisto podporuje funkcie videnia prostredníctvom vstupov z obrázkov.
Na základe skorého testovania môžu vývojári považovať GPT‑4.5 za obzvlášť užitočný pre aplikácie, ktoré profitujú z jeho vyššej emocionálnej inteligencie a kreativity – ako je pomoc s písaním, komunikácia, učenie, koučing a brainstorming. Takisto ukazuje silné schopnosti v agentnom plánovaní a vykonávaní, vrátane viackrokových kódovacích pracovných postupov a automatizácie komplexných úloh.
GPT‑4.5 je veľmi rozsiahly a výpočtovo náročný model, vďaka čomu je drahší ako GPT‑4o a nie je jeho náhradou. Z tohto dôvodu zvažujeme, či ho budeme naďalej dlhodobo poskytovať v rozhraní API, keďže hľadáme rovnováhu medzi podporou súčasných funkcií a budovaním budúcich modelov. Tešíme sa, že sa dozvieme viac o jeho silných stránkach, schopnostiach a potenciálnych aplikáciách v reálnych podmienkach. Ak GPT‑4.5 prináša jedinečnú hodnotu pre váš prípad použitia, vaše pripomienky(otvorí sa v novom okne) budú hrať dôležitú rolu pri usmerňovaní nášho rozhodnutia.
S každým novým rádom výpočtového výkonu prichádzajú nové schopnosti. GPT‑4.5 je model na hranici toho, čo je možné v učení bez dozoru. Neustále nás prekvapuje kreativita komunity pri objavovaní nových schopností a neočakávaných prípadov použitia. S GPT‑4.5 vás pozývame skúmať hranice učenia bez dozoru a objaviť s nami nové schopnosti.
Nižšie uvádzame výsledky GPT‑4.5 na štandardných akademických referenčných hodnotách na ilustráciu jeho aktuálnej výkonnosti v úlohách tradične spojených s myslením. Dokonca aj čistým rozšírením učenia bez dozoru vykazuje GPT‑4.5 významné zlepšenia oproti predchádzajúcim modelom, ako napríklad GPT‑4o. Napriek tomu sa tešíme, že získame úplnejší obraz o schopnostiach GPT‑4.5 prostredníctvom tejto verzie, pretože si uvedomujeme, že akademické referenčné kritériá nie vždy odrážajú užitočnosť v reálnom svete.
Skóre hodnotenia modelu
GPT‑4.5 | GPT‑4o | OpenAI o3‑mini (vysoký) | |
GPQA (veda) | 71,4 % | 53,6 % | 79,7 % |
AIME ‘24 (matematika) | 36,7 % | 9,3 % | 87,3 % |
MMMLU (viacjazyčný) | 85,1 % | 81,5 % | 81,1 % |
MMMU (multimodálny) | 74,4 % | 69,1 % | - |
SWE-Lancer Diamond (kódovanie)* | 32,6 % 186 125 USD | 23,3 % 138 750 USD | 10,8 % 89 625 USD |
SWE-Bench Verified (kódovanie)* | 38,0 % | 30,7 % | 61,0% |
* Zobrazené čísla predstavujú najlepší interný výkon.
Autori
Základní prispievatelia
Adam Goucher, Alex Paino, Ali Kamali, Amin Tootoonchian, Andrew Tulloch, Ben Sokolowsky, Clemens Winter, Colin Wei, Daniel Kappler, Daniel Levy, Felipe Petroski Such, Geoff Salmon, Ian O’Connell, Jason Teplitz, Kai Chen, Nik Tezak, Prafulla Dhariwal, Rapha Gontijo Lopes, Sam Schoenholz, Youlong Cheng, Yujia Jin a Yunxing Dai
Vyhľadávanie
Hlavní prispievatelia
Aiden Low, Alec Radford, Alex Carney, Alex Nichol, Alexis Conneau, Ananya Kumar, Ben Wang, Charlotte Cole, Elizabeth Yang, Gabriel Goh, Hadi Salman, Haitang Hu, Heewoo Jun, Ian Sohl, Ishaan Gulrajani, Jacob Coxon, James Betker, Jamie Kiros, Jessica Landon, Kyle Luther, Lia Guy, Lukas Kondraciuk, Lyric Doshi, Mikhail Pavlov, Qiming Yuan, Reimar Leike, Rowan Zellers, Sean Metzger, Shengjia Zhao, Spencer Papay, Tao Wang
Prispievatelia
Adam Lerer, Adrien Ecoffet, Aidan McLaughlin, Alexander Prokofiev, Alexandra Barr, Allan Jabri, Andrew Gibiansky, Andrew Schmidt, Casey Chu, Chak Li, Chelsea Voss, Chris Hallacy, Chris Koch, Christine McLeavey, David Mely, Dimitris Tsipras, Eric Sigler, Erin Kavanaugh, Farzad Khorasani, Huiwen Chang, Ilya Kostrikov, Ishaan Singal, Ji Lin, Jiahui Yu, Jing Yu Zhang, John Rizzo, Jong Wook Kim, Joyce Lee, Juntang Zhuang, Leo Liu, Li Jing, Long Ouyang, Louis Feuvrier, Mo Bavarian, Nick Stathas, Nitish Keskar, Oleg Murk, Preston Bowman, Scottie Yan, SQ Mah, Tao Xu, Taylor Gordon, Valerie Qi, Wenda Zhou, Yu Zhang
Škálovanie
Hlavní prispievatelia
Alex Chow, Alex Renzin, Aleksandra Spyra, Avi Nayak, Ben Leimberger, Christopher Hesse, Duc Phong Nguyen, Dinghua Li, Eric Peterson, Francis Zhang, Gene Oden, Kai Fricke, Kai Hayashi, Larry Lv, Leqi Zou, Lin Yang, Madeleine Thompson, Michael Petrov, Miguel Castro, Natalia Gimelshein, Phil Tillet, Reza Zamani, Ryan Cheu Stanley Hsieh, Steve Lee, Stewart Hall, Thomas Raoux, Tianhao Zheng, Vishal Kuo, Yongjik Kim, Yuchen Zhang, Zhuoran Liu
Prispievatelia
Alvin Wan, Andrew Cann, Andrew Codispoti, Antoine Pelisse, Anuj Kalia, Aaron Hurst, Avital Oliver, Brad Barnes, Brian Hsu, Chen Ding, Chen Shen, Cheng Chang, Christian Gibson, Christopher Berner, Duncan Findlay, Fan Wang, Fangyuan Li, Gianluca Borello, Heather Schmidt, Henrique Ponde de Oliveira Pinto, Ikai Lan, Jiayi Weng, James Crooks, Jos Kraaijeveld, Junru Shao, Kenny Hsu, Kenny Nguyen, Kevin King, Leah Burkhardt, Leo Chen, Linden Li, Lu Zhang, Mahmoud Eariby, Marat Dukhan, Mateusz Litwin, Miki Habryn, Natan LaFontaine, Pavel Belov, Peng Su, Prasad Chakka, Rachel Lim, Rajkumar Samuel, Renaud Gaubert, Rory Carmichael, Sarah Dong, Shantanu Jain, Shuaiqi Xia, Stephen Logsdon, Todd Underwood, Tony Zhao, Weixing Zhang, Will Sheu, Weiyi Zheng, Yinghai Lu, Yunqiao Zhang
Bezpečnostné systémy
Andrea Vallone, Andy Applebaum, Cameron Raymond, Chong Zhang, Dan Mossing, Elizabeth Proehl, Eric Wallace, Evan Mays, Grace Zhao, Ian Kivlichan, Irina Kofman, Joel Parish, Kevin Liu, Keren Gu-Lemberg, Kristen Ying, Lama Ahmad, Lilian Weng, Leon Maksin, Leyton Ho, Meghan Shah, Michael Lampe, Michele Wang, Miles Wang, Olivia Watkins, Phillip Guo, Samuel Miserendino, Sam Toizer, Sandhini Agarwal, Tejal Patwardhan, Tom Dupré la Tour, Tong Mu, Tyna Eloundou a Yunyun Wang
Nasadenie
Adam Brandon, Adam Perelman, Adele Li, Akshay Nathan, Alan Hayes, Alfred Xue, Alison Ben, Alec Gorge, Alex Guziel, Alex Iftimie, Ally Bennett, Andrew Chen, Andy Wang, Andy Wood, Angad Singh, Anoop Kotha, Antonia Woodford, Anuj Saharan, Ashley Tyra, Atty Eleti, Ben Schneider, Bessie Ji, Beth Hoover, Bill Chen, Blake Samic, Britney Smith, Brian Yu, Caleb Wang, Cary Bassin, Cary Hudson, Charlie Jatt, Chengdu Huang, Chris Beaumont, Christina Huang, Cristina Scheau, Dana Palmie, Daniel Levine, Daryl Neubieser, Dave Cummings, David Sasaki, Dibya Bhattacharjee, Dylan Hunn, Edwin Arbus, Elaine Ya Le, Enis Sert, Eric Kramer, Fred von Lohmann, Freddie Sulit, Gaby Janatpour, Garrett McGrath, Garrett Ollinger, Gary Yang, Hao Sheng, Harold Hotelling, Janardhanan Vembunarayanan, Jeff Harris, Jeffrey Sabin Matsumoto, Jennifer Robinson, Jessica Liang, Jessica Shieh, Jiacheng Yang, Joel Morris, Joseph Florencio, Josh Kaplan, Kan Wu, Karan Sharma, Karen Li, Katie Pypes, Kendal Simon, Kendra Rimbach, Kevin Park, Kevin Rao, Laurance Fauconnet, Lauren Workman, Leher Pathak, Liang Wu, Liang Xiong, Lien Mamitsuka, Lindsay McCallum, Lukas Gross, Manoli Liodakis, Matt Nichols, Michelle Fradin, Minal Khan, Mingxuan Wang, Nacho Soto, Natalie Staudacher, Nikunj Handa, Niko Felix, Ning Liu, Olivier Godement, Oona Gleeson, Philip Pronin, Raymond Li, Reah Miyara, Robert Xiong, Rohan Nuttall, R.J. Marsan, Sara Culver, Scott Ethersmith, Sean Fitzgerald, Shamez Hemani, Sherwin Wu, Shiao Lee, Shuyang Cheng, Siyuan Fu, Spug Golden, Steve Coffey, Steven Heidel, Sundeep Tirumalareddy, Tabarak Khan, Thomas Degry, Thomas Dimson, Tom Stasi, Tomo Hiratsuka, Trevor Creech, Uzair Navid Iftikhar, Victoria Chernova, Victoria Spiegel, Wanning Jiang, Wenlei Xie, Yaming Lin, Yara Khakbaz, Yilei Qian, Yilong Qin, Yo Shavit a Zhi Bie
Vrcholové vedenie
Aidan Clark, Bob McGrew, David Farhi, Greg Brockman, Hannah Wong, Jakub Pachocki, Johannes Heidecke, Joanne Jang, Kate Rouch, Kevin Weil, Lauren Itow, Liam Fedus, Mark Chen, Mia Glaese, Mira Murati, Nick Ryder, Sam Altman, Srinivas Narayanan a Tal Broda