Introducing GPT‑4.5
A research preview of our strongest GPT model. Available to Pro users and developers worldwide.
Po publikojmë një pamje paraprake kërkimore të GPT‑4.5 — modeli ynë më i madh dhe më i mirë për biseda deri më sot. GPT‑4.5 është një hap përpara në zgjerimin e paratrajnimit dhe pastrajnimit. Duke shkallëzuar të mësuarit pa mbikëqyrje, GPT‑4.5 përmirëson aftësinë e tij për të njohur modele, për të krijuar lidhje dhe gjeneruar njohuri krijuese pa arsyetim.
Testimet e hershme tregojnë se ndërveprimi me GPT‑4.5 ndihet më natyral. Baza e tij më e gjerë e njohurive, aftësia e përmirësuar për të ndjekur qëllimin e përdoruesit dhe një “EQ” më i madh e bëjnë të dobishëm për detyra si përmirësimi i shkrimit, programimit dhe zgjidhja e problemeve praktike. Gjithashtu presim që të “halucinojë” më pak.
Ne po e ndajmë GPT‑4.5 si një variant paraprak kërkimor për të kuptuar më mirë pikat e forta dhe kufizimet e tij. Ne ende po eksplorojmë se çfarë mund të bëjë dhe mezi presim të shohim se si njerëzit e përdorin në mënyra që nuk i kemi pritur.
Ne avancojmë aftësitë e AI duke zgjeruar dy paradigma plotësuese: mësimin pa mbikëqyrje dhe arsyetimin. Këto përfaqësojnë dy akse të inteligjencës.
- Mësimi i pa mbikëqyrë rrit saktësinë dhe intuitën e modelit të botës. Modelet si GPT‑3.5, GPT‑4 dhe GPT‑4.5 e avancojnë këtë paradigmë.
- Arsyetimi i zgjeruar, nga ana tjetër, i mëson modelet të mendojnë dhe të krijojnë një zinxhir mendimesh përpara se të përgjigjen, duke u mundësuar të zgjidhin probleme komplekse STEM ose logjike. Modele si OpenAI o1 dhe OpenAI o3‑mini e avancojnë këtë paradigmë.
GPT‑4.5 është një shembull i zgjerimit të të mësuarit pa mbikëqyrje duke rritur fuqinë llogaritëse dhe të dhënat, së bashku me risitë në arkitekturë dhe optimizim. GPT‑4.5 është trajnuar në superkompjuterët e AI të Microsoft Azure. Rezultati është një model që ka njohuri më të gjera dhe një kuptim më të thellë të botës, duke çuar në ulje të halucinacioneve dhe më shumë besueshmëri në një gamë të gjerë temash.
Zgjerimi i paradigmës GPT
Njohuri më të thella për botën
Saktësia e SimpleQA (më lart është më mirë)
Shkalla e halucinimit SimpleQA (më poshtë është më mirë)
SimpleQA mat faktualitetin e LLM (model gjuhe i madh) në pyetje të thjeshta por sfiduese të njohurive.
Ndërsa ne shkallëzojmë modelet tona dhe ato zgjidhin probleme më komplekse, bëhet gjithnjë e më e rëndësishme t'u mësojmë atyre një kuptim më të thelluar të nevojave dhe të qëllimeve njerëzore. Për GPT‑4.5, ne zhvilluam teknika të reja, të shkallëzueshme që aktivizojnë trajnim më të madh dhe më të fuqishëm me të dhëna të marra nga modele më të vogla. Këto teknika përmirësojnë GPT‑4.5 drejtueshmëri, kuptim i nuancave dhe bisedë e natyrshme.
Vlerësime krahasuese me testues njerëzorë
Preferenca njerëzore mat përqindjen e pyetjeve ku testuesit preferuan GPT‑4.5 mbi GPT‑4o.
Duke kombinuar një kuptim të thelluar të botës me bashkëpunim të përmirësuar, krijohet një model që integron idetë në mënyrë natyrale në biseda të ngrohta dhe intuitive, të cilat janë më të përshtatura për bashkëpunimin njerëzor. GPT‑4.5 ka një kuptim më të mirë të asaj që duan të shprehin njerëzit dhe interpreton sinjalet delikate ose pritshmëritë e nënkuptuara me më shumë nuanca dhe “EQ” më të lartë. GPT‑4.5 gjithashtu shfaq intuitë estetike dhe krijimtari më të fortë. Shkëlqen në ndihmën për shkrim dhe projektim.
Rastet e përdorimit
GPT-4.5
GPT‑4.5 tregon një "EQ" më të lartë dhe di kur të ftojë në bisedë të mëtejshme dhe kur t'i ofrojë përdoruesit informacion të detajuar.
GPT‑4.5 nuk mendon para se të përgjigjet, gjë që e bën atë veçanërisht të ndryshëm nga modelet e arsyetimit si OpenAI o1. Krahasuar me OpenAI o1 dhe OpenAI o3‑mini, GPT‑4.5 është një model më i përgjithshëm dhe natyrshëm më i zgjuar. Ne besojmë se arsyetimi do të jetë një aftësi thelbësore e modeleve të ardhshme dhe se dy qasjet ndaj shkallëzimit – paratrajnimi dhe arsyetimi – do të plotësojnë njëra-tjetrën. Ndërsa modelet si GPT‑4.5 bëhen më inteligjente dhe më të ditura përmes trajnimit paraprak, ato do të shërbejnë si një bazë edhe më e fortë për arsyetimin dhe agjentët që përdorin mjetet.
Çdo rritje në aftësitë e modelit është gjithashtu një mundësi për t'i bërë modelet më të sigurta. GPT‑4.5 u trajnua me teknika të reja për mbikëqyrje që kombinohen me rregullimin e hollësishëm të mbikëqyrur tradicional (SFT) dhe të mësuarit përforcues nga përshtypje njerëzore (RLHF) si ato të përdorura për GPT‑4o. Shpresojmë që kjo punë të shërbejë si një bazë për përafrimin e modeleve të ardhshme edhe më të afta.
Për të testuar qëndrueshmërinë e përmirësimeve tona, ne kryem një sërë testesh sigurie para vendosjes, në përputhje me kuadrin tonë të gatishmërisë(hapet në një dritare të re). Ne vumë re se shkallëzimi i paradigmës GPT kontribuoi në përmirësimin e aftësive në të gjitha vlerësimet tona. Ne po publikojmë rezultatet e detajuara nga këto vlerësime në kartën e sistemit shoqëruese.
Duke filluar nga sot, përdoruesit e ChatGPT Pro do të mund të zgjedhin GPT‑4.5 në zgjedhësin e modelit në internet, celular dhe desktop. Ne do të fillojmë ta qarkullojmë për përdoruesit e Plus dhe Team javën e ardhshme, pastaj për përdoruesit e Enterprise dhe Edu javën pasuese.
GPT‑4.5 ka akses në informacionin më të fundit me kërkim, mbështetje për ngarkimin e skedarëve dhe imazheve dhe mund të përdorë kanavacën për të punuar në shkrim dhe programim. Megjithatë, GPT‑4.5 aktualisht nuk ka mbështetje për veçoritë multimodale si Modaliteti me Zë, video dhe ndarja e ekranit në ChatGPT. Në të ardhmen, ne do të punojmë për të thjeshtuar përvojën e përdoruesit në mënyrë që AI "thjesht të funksionojë" për ty.
Ne gjithashtu po ofrojmë pamje paraprake të GPT‑4.5 në Chat Completions API, Assistants API dhe Batch API për zhvilluesit në të gjitha nivelet e përdorimit me pagesë(hapet në një dritare të re). Modeli mbështet veçori kryesore si thirrja e funksioneve, outputet e strukturuara, transmetimi dhe mesazhet e sistemit. Ai gjithashtu ofron mbështetje për aftësitë vizive përmes inputit të imazheve.
Bazuar në testimet e hershme, zhvilluesve mund t'u rezultojë GPT‑4.5 veçanërisht i dobishëm për aplikacionet që përfitojnë nga inteligjenca emocionale dhe krijimtaria e tij e lartë — si ndihma për shkrim, komunikim, mësim, trajnim dhe gjenerim idesh. Ai gjithashtu tregon aftësi të forta në planifikimin dhe ekzekutimin si agjent, duke përfshirë ciklet e punës së programimit me shumë hapa dhe automatizimin kompleks të detyrave.
GPT‑4.5 është një model shumë i madh dhe që kërkon shumë burime kompjuterike, duke e bërë më të shtrenjtë se GPT‑4o dhe jo një zëvendësim për të. Për këtë arsye, po vlerësojmë nëse do të vazhdojmë ta ofrojmë në API për një kohë të gjatë, ndërsa balancojmë mbështetjen e aftësive aktuale me ndërtimin e modeleve të ardhshme. Presim me padurim të mësojmë më shumë rreth pikave të forta, aftësive dhe zbatimeve të mundshme në mjediset e botës reale. Nëse GPT‑4.5 ofron vlerë unike për rastin tënd të përdorimit, përshtypje(hapet në një dritare të re) e tua do të luajë një rol të rëndësishëm në orientimin e vendimit tonë.
Me çdo rritje të aftësive llogaritëse vijnë mundësi krejtësisht të reja. GPT‑4.5 është një model në pararojë të asaj që është e mundur në të mësuarit pa mbikëqyrje. Ne vazhdojmë të befasohemi nga krijimtaria e komunitetit në zbulimin e aftësive të reja dhe rasteve të reja të përdorimit. Me GPT‑4.5, të ftojmë të eksplorosh kufijtë e të mësuarit pa mbikëqyrje dhe të zbulosh aftësi të reja me ne.
Më poshtë, ne ofrojmë rezultatet e GPT‑4.5 në standardet akademike për të ilustruar performancën e tij aktuale në detyrat që tradicionalisht lidhen me arsyetimin. Edhe duke e zgjeruar thjesht të mësuarit pa mbikëqyrje, GPT‑4.5 paraqet përmirësime domethënëse krahasuar me modelet e mëparshme si GPT‑4o. Megjithatë, mezi presim të kemi një pamje më të plotë të aftësive të GPT‑4.5 përmes këtij publikimi, sepse e pranojmë që standardet akademike nuk pasqyrojnë gjithmonë dobinë në botën reale.
Pikët e vlerësimit të modelit
GPT‑4.5 | GPT‑4o | OpenAI o3‑mini (high) | |
GPQA (science) | 71,4% | 53,6% | 79,7% |
AIME ‘24 (matematikë) | 36,7% | 9,3% | 87,3% |
MMMLU (shumëgjuhësh) | 85,1% | 81,5% | 81,1% |
MMMU (multimodal) | 74,4% | 69,1% | - |
SWE-Lancer Diamond (programim)* | 32,6% 186 125 USD | 23,3% 138 750 USD | 10,8% 89 625 USD |
SWE-Bench Verified (programim)* | 38,0% | 30,7% | 61,0% |
* Shifrat e treguara përfaqësojnë performancën më të mirë të brendshme.
Autorët
Kontribuesit themelues
Adam Goucher, Alex Paino, Ali Kamali, Amin Tootoonchian, Andrew Tulloch, Ben Sokolowsky, Clemens Winter, Colin Wei, Daniel Kappler, Daniel Levy, Felipe Petroski Such, Geoff Salmon, Ian O’Connell, Jason Teplitz, Kai Chen, Nik Tezak, Prafulla Dhariwal, Rapha Gontijo Lopes, Sam Schoenholz, Youlong Cheng, Yujia Jin dhe Yunxing Dai
Kërkime
Kontribuesit kryesorë
Aiden Low, Alec Radford, Alex Carney, Alex Nichol, Alexis Conneau, Ananya Kumar, Ben Wang, Charlotte Cole , Elizabeth Yang, Gabriel Goh, Hadi Salman, Haitang Hu, Heewoo Jun, Ian Sohl, Ishaan Gulrajani, Jacob Coxon, James Betker, Jamie Kiros, Jessica Landon, Kyle Luther, Lia Guy, Lukas Kondraciuk, Lyric Doshi, Mikhail Pavlov, Qiming Yuan, Reimar Leike, Rowan Zellers, Sean Metzger, Shengjia Zhao, Spencer Papay, Tao Wang
Kontribuesit
Adam Lerer, Adrien Ecoffet, Aidan McLaughlin, Alexander Prokofiev, Alexandra Barr, Allan Jabri, Andrew Gibiansky, Andrew Schmidt, Casey Chu, Chak Li, Chelsea Voss, Chris Hallacy, Chris Koch, Christine McLeavey, David Mely, Dimitris Tsipras, Eric Sigler, Erin Kavanaugh, Farzad Khorasani, Huiwen Chang, Ilya Kostrikov, Ishaan Singal, Ji Lin, Jiahui Yu, Jing Yu Zhang, John Rizzo, Jong Wook Kim, Joyce Lee, Juntang Zhuang, Leo Liu, Li Jing, Long Ouyang, Louis Feuvrier, Mo Bavarian, Nick Stathas, Nitish Keskar, Oleg Murk, Preston Bowman, Scottie Yan, SQ Mah, Tao Xu, Taylor Gordon, Valerie Qi, Wenda Zhou, Yu Zhang
Zgjerimi
Kontributorët kryesorë
Alex Chow, Alex Renzin, Aleksandra Spyra, Avi Nayak, Ben Leimberger, Christopher Hesse, Duc Phong Nguyen, Dinghua Li, Eric Peterson, Francis Zhang, Gene Oden, Kai Fricke, Kai Hayashi, Larry Lv, Leqi Zou, Lin Yang, Madeleine Thompson, Michael Petrov, Miguel Castro, Natalia Gimelshein, Phil Tillet, Reza Zamani, Ryan Cheu Stanley Hsieh, Steve Lee, Stewart Hall, Thomas Raoux, Tianhao Zheng, Vishal Kuo, Yongjik Kim, Yuchen Zhang, Zhuoran Liu
Kontribuesit
Alvin Wan, Andrew Cann, Andrew Codispoti, Antoine Pelisse, Anuj Kalia, Aaron Hurst, Avital Oliver, Brad Barnes, Brian Hsu, Chen Ding, Chen Shen, Cheng Chang, Christian Gibson, Christopher Berner, Duncan Findlay, Fan Wang, Fangyuan Li, Gianluca Borello, Heather Schmidt, Henrique Ponde de Oliveira Pinto, Ikai Lan, Jiayi Weng, James Crooks, Jos Kraaijeveld, Junru Shao, Kenny Hsu, Kenny Nguyen, Kevin King, Leah Burkhardt, Leo Chen, Linden Li, Lu Zhang, Mahmoud Eariby, Marat Dukhan, Mateusz Litwin, Miki Habryn, Natan LaFontaine, Pavel Belov, Peng Su, Prasad Chakka, Rachel Lim, Rajkumar Samuel, Renaud Gaubert, Rory Carmichael, Sarah Dong, Shantanu Jain, Shuaiqi Xia, Stephen Logsdon, Todd Underwood, Tony Zhao, Weixing Zhang, Will Sheu, Weiyi Zheng, Yinghai Lu, Yunqiao Zhang
Sistemet e sigurisë
Andrea Vallone, Andy Applebaum, Cameron Raymond, Chong Zhang, Dan Mossing, Elizabeth Proehl, Eric Wallace, Evan Mays, Grace Zhao, Ian Kivlichan, Irina Kofman, Joel Parish, Kevin Liu, Keren Gu-Lemberg, Kristen Ying, Lama Ahmad, Lilian Weng, Leon Maksin, Leyton Ho, Meghan Shah, Michael Lampe, Michele Wang, Miles Wang, Olivia Watkins, Phillip Guo, Samuel Miserendino, Sam Toizer, Sandhini Agarwal, Tejal Patwardhan, Tom Dupré la Tour, Tong Mu, Tyna Eloundou dhe Yunyun Wang
Implementimi
Adam Brandon, Adam Perelman, Adele Li, Akshay Nathan, Alan Hayes, Alfred Xue, Alison Ben, Alec Gorge, Alex Guziel, Alex Iftimie, Ally Bennett, Andrew Chen, Andy Wang, Andy Wood, Angad Singh, Anoop Kotha, Antonia Woodford, Anuj Saharan, Ashley Tyra, Atty Eleti, Ben Schneider, Bessie Ji, Beth Hoover, Bill Chen, Blake Samic, Britney Smith, Brian Yu, Caleb Wang, Cary Bassin, Cary Hudson, Charlie Jatt, Chengdu Huang, Chris Beaumont, Christina Huang, Cristina Scheau, Dana Palmie, Daniel Levine, Daryl Neubieser, Dave Cummings, David Sasaki, Dibya Bhattacharjee, Dylan Hunn, Edwin Arbus, Elaine Ya Le, Enis Sert, Eric Kramer, Fred von Lohmann, Freddie Sulit, Gaby Janatpour, Garrett McGrath, Garrett Ollinger, Gary Yang, Hao Sheng, Harold Hotelling, Janardhanan Vembunarayanan, Jeff Harris, Jeffrey Sabin Matsumoto, Jennifer Robinson, Jessica Liang, Jessica Shieh, Jiacheng Yang, Joel Morris, Joseph Florencio, Josh Kaplan, Kan Wu, Karan Sharma, Karen Li, Katie Pypes, Kendal Simon, Kendra Rimbach, Kevin Park, Kevin Rao, Laurance Fauconnet, Lauren Workman, Leher Pathak, Liang Wu, Liang Xiong, Lien Mamitsuka, Lindsay McCallum, Lukas Gross, Manoli Liodakis, Matt Nichols, Michelle Fradin, Minal Khan, Mingxuan Wang, Nacho Soto, Natalie Staudacher, Nikunj Handa, Niko Felix, Ning Liu, Olivier Godement, Oona Gleeson, Philip Pronin, Raymond Li, Reah Miyara, Robert Xiong, Rohan Nuttall, R.J. Marsan, Sara Culver, Scott Ethersmith, Sean Fitzgerald, Shamez Hemani, Sherwin Wu, Shiao Lee, Shuyang Cheng, Siyuan Fu, Spug Golden, Steve Coffey, Steven Heidel, Sundeep Tirumalareddy, Tabarak Khan, Thomas Degry, Thomas Dimson, Tom Stasi, Tomo Hiratsuka, Trevor Creech, Uzair Navid Iftikhar, Victoria Chernova, Victoria Spiegel, Wanning Jiang, Wenlei Xie, Yaming Lin, Yara Khakbaz, Yilei Qian, Yilong Qin, Yo Shavit dhe Zhi Bie
Administrimi i biznesit
Aidan Clark, Bob McGrew, David Farhi, Greg Brockman, Hannah Wong, Jakub Pachocki, Johannes Heidecke, Joanne Jang, Kate Rouch, Kevin Weil, Lauren Itow, Liam Fedus, Mark Chen, Mia Glaese, Mira Murati, Nick Ryder, Sam Altman, Srinivas Narayanan dhe Tal Broda