Przedstawiamy model GPT‑4.5
Badawcza wersja poglądowa naszego najlepszego modelu GPT. Dostępna dla użytkowników korzystających z planu Pro i dla programistów na całym świecie.
Udostępniamy badawczą wersję poglądową GPT‑4.5. To jak do tej pory nasz największy i najlepszy model czatu. GPT‑4.5 to krok naprzód w trenowaniu przed- i potreningowym. Dzięki skalowaniu uczenia nienadzorowanego model GPT‑4.5 lepiej rozpoznaje wzorce, dostrzega powiązania i generuje kreatywne spostrzeżenia bez rozumowania.
Wstępne testy pokazują, że korzystanie z modelu GPT‑4.5 jest bardziej naturalne. Większa baza wiedzy, lepsze rozumienie intencji użytkownika i większa inteligencja emocjonalna sprawiają, że jest on przydatny w zadaniach dotyczących na przykład poprawiania tekstów, programowania i rozwiązywania problemów praktycznych. Spodziewamy się również rzadszego występowania halucynacji.
Model GPT‑4.5 udostępniamy jako badawczą wersję poglądową, aby lepiej zrozumieć jego mocne strony i ograniczenia. Wciąż badamy jego możliwości i nie możemy się doczekać, aby zobaczyć, jak użytkownicy będą go wykorzystywać w zaskakujący dla nas sposób.
Rozwijamy zdolności AI, skalując dwa uzupełniające się paradygmaty: uczenie nienadzorowane i rozumowanie. Reprezentują one dwie osie inteligencji.
- Uczenie nienadzorowane zwiększa dokładność modelu świata i intuicję. GPT‑3.5, GPT‑4 i GPT‑4.5 to przykłady modeli, w których jest rozwijany ten paradygmat.
- Tymczasem skalowanie rozumowania uczy modele myślenia i tworzenia łańcucha myśli przed udzieleniem odpowiedzi. Umożliwia im to rozwiązywanie złożonych problemów z zakresu nauki, technologii, inżynierii i matematyki (STEM) lub logiki. OpenAI o1 i OpenAI o3‑mini to przykłady modeli, w których jest rozwijany ten paradygmat.
GPT‑4.5 jest przykładem skalowania uczenia nienadzorowanego. Jest to możliwe dzięki zwiększeniu mocy obliczeniowej i ilości danych, a także innowacjom w zakresie architektury i optymalizacji. Trening GPT‑4.5 odbywał się na superkomputerach Microsoft Azure AI. W rezultacie powstał model charakteryzujący się większą wiedzą i lepszym zrozumieniem świata. Umożliwia to rzadsze występowanie halucynacji i większą wiarygodność dotyczącą szerokiego zakresu tematów.
Skalowanie paradygmatu GPT
Większa wiedza na temat świata
Dokładność SimpleQA (im wyższa wartość, tym lepiej)
Wskaźnik halucynacji SimpleQA (im niższa wartość, tym lepiej)
SimpleQA mierzy zgodność odpowiedzi modelu LLM (Large Language Model) z faktami przy użyciu prostych, ale wymagających pytań sprawdzających wiedzę.
W miarę skalowania naszych modeli i rozwiązywania przez nie coraz bardziej złożonych problemów wzrasta znaczenie uczenia ich lepszego rozumienia ludzkich potrzeb i intencji. W przypadku modelu GPT‑4.5 opracowaliśmy nowe, skalowalne techniki, które umożliwiają trening większych i bardziej zaawansowanych modeli przy użyciu danych uzyskanych z mniejszych modeli. Techniki te poprawiają sterowalność modelu GPT‑4.5, rozumienie niuansów i naturalność konwersacji.
Oceny porównawcze z ludzkimi testerami
Preferencja człowieka mierzy procent zapytań, w przypadku których testerzy preferowali model GPT‑4.5 zamiast GPT‑4o.
Połączenie lepszego rozumienia świata z ulepszoną współpracą przekłada się na model w naturalny sposób uwzględniający pomysły, pojęcia i koncepcje w serdecznych i intuicyjnych konwersacjach, które bardziej nadają się do współpracy z ludźmi. GPT‑4.5 lepiej rozumie intencje ludzi i interpretuje subtelne sygnały lub niewypowiedziane oczekiwania dzięki lepszemu rozumieniu niuansów i większej inteligencji emocjonalnej. GPT‑4.5 cechuje się też większą intuicją estetyczną i kreatywnością. Doskonale nadaje się do pomocy przy pisaniu i projektowaniu.
Przykłady użycia
GPT-4.5
GPT‑4.5 cechuje się większą inteligencją emocjonalną i wie, kiedy należy zachęcić użytkownika do dalszej konwersacji, a kiedy przekazać mu obszerne informacje.
GPT‑4.5 nie myśli przed udzieleniem odpowiedzi. To sprawia, że jego mocne strony bardzo różnią się od modeli rozumowania, na przykład OpenAI o1. W porównaniu z modelami OpenAI o1 i OpenAI o3‑mini GPT‑4.5 to model o bardziej ogólnym przeznaczeniu i większej inteligencji. Uważamy, że rozumowanie będzie podstawową zdolnością przyszłych modeli, a dwa podejścia do skalowania – wstępne trenowanie i rozumowanie – będą się wzajemnie uzupełniać. W miarę jak takie modele jak GPT‑4.5 będą stawały się coraz inteligentniejsze i bardziej kompetentne dzięki wstępnemu trenowaniu, będą one stanowić jeszcze silniejszą podstawę dla agentów potrafiących rozumować i korzystać z narzędzi.
Każde zwiększenie zdolności modelu stanowi również okazję do poprawy jego bezpieczeństwa. GPT‑4.5, jak model GPT‑4o, został wytrenowany przy użyciu nowych technik nadzorowania w połączeniu z tradycyjnymi metodami nadzorowanej konfiguracji precyzyjnej i RLHF (Reinforcement Learning From Human Feedback). Mamy nadzieję, że praca ta posłuży jako podstawa do uzgodnienia jeszcze bardziej wydajnych modeli w przyszłości.
Aby przetestować nasze ulepszenia, przed wdrożeniem przeprowadziliśmy serię testów bezpieczeństwa zgodnie z naszymi Ramami gotowości(otwiera nowe okno). Okazało się, że skalowanie paradygmatu GPT przyniosło poprawę zdolności we wszystkich naszych ocenach. Szczegółowe rezultaty ocen publikujemy w karcie systemu dla modelu.
Od dzisiaj użytkownicy korzystający z planu ChatGPT Pro mogą wybrać model GPT‑4.5 w przeglądarce internetowej, na urządzeniach mobilnych i w aplikacji na komputery. W następnym tygodniu rozpoczniemy wdrażanie dla użytkowników korzystających z planów Plus i Team, a w kolejnym – dla użytkowników korzystających z planów Enterprise i Edu.
GPT‑4.5 potrafi wyszukiwać informacje, obsługuje przesyłanie plików i obrazów oraz może używać kanwy do pracy nad tekstem i kodem. Jednak GPT‑4.5 nie obsługuje obecnie funkcji multimodalnych, takich jak tryb głosowy, wideo i udostępnianie ekranu w ChatGPT. W przyszłości będziemy pracować nad uproszczeniem obsługi, aby sztuczna inteligencja „po prostu działała”.
Wersję poglądową modelu GPT‑4.5 udostępniliśmy również programistom korzystającym z poziomów płatnego użytkowania(otwiera nowe okno). Mogą oni używać interfejsów Chat Completions API, Assistants API i Batch API. Model obsługuje najważniejsze funkcjonalności, takie jak wywoływanie funkcji, ustrukturyzowane dane wyjściowe, strumieniowanie i komunikaty systemowe. Obsługuje również zdolności dotyczące wizji poprzez dane wejściowe obrazu.
Sądząc po wczesnych testach, model GPT‑4.5 może najbardziej pomagać programistom w zastosowaniach, w których przydatna jest jego większa inteligencja emocjonalna i kreatywność, takich jak pomoc w pisaniu, komunikacja, nauka, coaching i burza mózgów. Oferuje on również duże zdolności w zakresie planowania i wykonywania agentowego, w tym wieloetapowych przepływów pracy programowania i automatyzacji złożonych zadań.
GPT‑4.5 to bardzo duży model, który wymaga znacznej mocy obliczeniowej, dlatego jest droższy od modelu GPT‑4o i go nie zastępuje. Z tego względu zastanawiamy się, czy kontynuować w długim okresie udostępnianie go przez interfejs API. Staramy się zachować równowagę między wspieraniem obecnych zdolności i tworzeniem przyszłych modeli. Chcemy dowiedzieć się więcej na temat jego zalet, zdolności i potencjalnych zastosowań w prawdziwym świecie. Jeśli model GPT‑4.5 jest szczególnie przydatny w Twoim przypadku, Twoja opinia(otwiera nowe okno) odegra ważną rolę przy podejmowaniu przez nas tej decyzji.
Każdy znaczny wzrost mocy obliczeniowej wiąże się z nowymi zdolnościami. GPT‑4.5 to model wykorzystujący najnowsze osiągnięcia w dziedzinie uczenia nienadzorowanego. Nieustannie zaskakuje nas kreatywność społeczności odkrywającej nowe zdolności i nieoczekiwane zastosowania. Wraz z nami poznawaj pionierskie możliwości uczenia nienadzorowanego i nowe zdolności, jakie oferuje GPT‑4.5.
Poniżej znajdują się wyniki modelu GPT‑4.5 w standardowych testach akademickich, które ilustrują jego aktualną wydajność w zadaniach tradycyjnie kojarzonych z rozumowaniem. Nawet przy samym skalowaniu uczenia nienadzorowanego model GPT‑4.5 wykazuje znaczną poprawę w stosunku do poprzednich modeli, np. GPT‑4o. Niemniej jednak oczekujemy, że dzięki tej wersji uzyskamy pełniejszy obraz zdolności modelu GPT‑4.5, ponieważ zdajemy sobie sprawę, że testy akademickie nie zawsze odzwierciedlają użyteczność w prawdziwym świecie.
Wyniki oceny modelu
GPT‑4.5 | GPT‑4o | OpenAI o3‑mini (wysoki) | |
GPQA (nauka) | 71,4% | 53,6% | 79,7% |
AIME ‘24 (matematyka) | 36,7% | 9,3% | 87,3% |
MMMLU (wiele języków) | 85,1% | 81,5% | 81,1% |
MMMU (multimodalny) | 74,4% | 69,1% | - |
SWE-Lancer Diamond (programowanie)* | 32,6% 186 125 USD | 23,3% 138 750 USD | 10,8% 89 625 USD |
SWE-Bench Verified (programowanie)* | 38,0% | 30,7% | 61,0% |
* Podane liczby odzwierciedlają najlepsze wyniki wewnętrzne.
Autorzy
Podstawowi współpracownicy
Adam Goucher, Alex Paino, Ali Kamali, Amin Tootoonchian, Andrew Tulloch, Ben Sokolowsky, Clemens Winter, Colin Wei, Daniel Kappler, Daniel Levy, Felipe Petroski Such, Geoff Salmon, Ian O’Connell, Jason Teplitz, Kai Chen, Nik Tezak, Prafulla Dhariwal, Rapha Gontijo Lopes, Sam Schoenholz, Youlong Cheng, Yujia Jin i Yunxing Dai
Badania
Główni współpracownicy
Aiden Low, Alec Radford, Alex Carney, Alex Nichol, Alexis Conneau, Ananya Kumar, Ben Wang, Charlotte Cole , Elizabeth Yang, Gabriel Goh, Hadi Salman, Haitang Hu, Heewoo Jun, Ian Sohl, Ishaan Gulrajani, Jacob Coxon, James Betker, Jamie Kiros, Jessica Landon, Kyle Luther, Lia Guy, Lukas Kondraciuk, Lyric Doshi, Mikhail Pavlov, Qiming Yuan, Reimar Leike, Rowan Zellers, Sean Metzger, Shengjia Zhao, Spencer Papay, Tao Wang
Współpracownicy
Adam Lerer, Adrien Ecoffet, Aidan McLaughlin, Alexander Prokofiev, Alexandra Barr, Allan Jabri, Andrew Gibiansky, Andrew Schmidt, Casey Chu, Chak Li, Chelsea Voss, Chris Hallacy, Chris Koch, Christine McLeavey, David Mely, Dimitris Tsipras, Eric Sigler, Erin Kavanaugh, Farzad Khorasani, Huiwen Chang, Ilya Kostrikov, Ishaan Singal, Ji Lin, Jiahui Yu, Jing Yu Zhang, John Rizzo, Jong Wook Kim, Joyce Lee, Juntang Zhuang, Leo Liu, Li Jing, Long Ouyang, Louis Feuvrier, Mo Bavarian, Nick Stathas, Nitish Keskar, Oleg Murk, Preston Bowman, Scottie Yan, SQ Mah, Tao Xu, Taylor Gordon, Valerie Qi, Wenda Zhou, Yu Zhang
Skalowanie
Główni współpracownicy
Alex Chow, Alex Renzin, Aleksandra Spyra, Avi Nayak, Ben Leimberger, Christopher Hesse, Duc Phong Nguyen, Dinghua Li, Eric Peterson, Francis Zhang, Gene Oden, Kai Fricke, Kai Hayashi, Larry Lv, Leqi Zou, Lin Yang, Madeleine Thompson, Michael Petrov, Miguel Castro, Natalia Gimelshein, Phil Tillet, Reza Zamani, Ryan Cheu Stanley Hsieh, Steve Lee, Stewart Hall, Thomas Raoux, Tianhao Zheng, Vishal Kuo, Yongjik Kim, Yuchen Zhang, Zhuoran Liu
Współpracownicy
Alvin Wan, Andrew Cann, Andrew Codispoti, Antoine Pelisse, Anuj Kalia, Aaron Hurst, Avital Oliver, Brad Barnes, Brian Hsu, Chen Ding, Chen Shen, Cheng Chang, Christian Gibson, Christopher Berner, Duncan Findlay, Fan Wang, Fangyuan Li, Gianluca Borello, Heather Schmidt, Henrique Ponde de Oliveira Pinto, Ikai Lan, Jiayi Weng, James Crooks, Jos Kraaijeveld, Junru Shao, Kenny Hsu, Kenny Nguyen, Kevin King, Leah Burkhardt, Leo Chen, Linden Li, Lu Zhang, Mahmoud Eariby, Marat Dukhan, Mateusz Litwin, Miki Habryn, Natan LaFontaine, Pavel Belov, Peng Su, Prasad Chakka, Rachel Lim, Rajkumar Samuel, Renaud Gaubert, Rory Carmichael, Sarah Dong, Shantanu Jain, Shuaiqi Xia, Stephen Logsdon, Todd Underwood, Tony Zhao, Weixing Zhang, Will Sheu, Weiyi Zheng, Yinghai Lu, Yunqiao Zhang
Systemy bezpieczeństwa
Andrea Vallone, Andy Applebaum, Cameron Raymond, Chong Zhang, Dan Mossing, Elizabeth Proehl, Eric Wallace, Evan Mays, Grace Zhao, Ian Kivlichan, Irina Kofman, Joel Parish, Kevin Liu, Keren Gu-Lemberg, Kristen Ying, Lama Ahmad, Lilian Weng, Leon Maksin, Leyton Ho, Meghan Shah, Michael Lampe, Michele Wang, Miles Wang, Olivia Watkins, Phillip Guo, Samuel Miserendino, Sam Toizer, Sandhini Agarwal, Tejal Patwardhan, Tom Dupré la Tour, Tong Mu, Tyna Eloundou i Yunyun Wang
Wdrażanie
Adam Brandon, Adam Perelman, Adele Li, Akshay Nathan, Alan Hayes, Alfred Xue, Alison Ben, Alec Gorge, Alex Guziel, Alex Iftimie, Ally Bennett, Andrew Chen, Andy Wang, Andy Wood, Angad Singh, Anoop Kotha, Antonia Woodford, Anuj Saharan, Ashley Tyra, Atty Eleti, Ben Schneider, Bessie Ji, Beth Hoover, Bill Chen, Blake Samic, Britney Smith, Brian Yu, Caleb Wang, Cary Bassin, Cary Hudson, Charlie Jatt, Chengdu Huang, Chris Beaumont, Christina Huang, Cristina Scheau, Dana Palmie, Daniel Levine, Daryl Neubieser, Dave Cummings, David Sasaki, Dibya Bhattacharjee, Dylan Hunn, Edwin Arbus, Elaine Ya Le, Enis Sert, Eric Kramer, Fred von Lohmann, Freddie Sulit, Gaby Janatpour, Garrett McGrath, Garrett Ollinger, Gary Yang, Hao Sheng, Harold Hotelling, Janardhanan Vembunarayanan, Jeff Harris, Jeffrey Sabin Matsumoto, Jennifer Robinson, Jessica Liang, Jessica Shieh, Jiacheng Yang, Joel Morris, Joseph Florencio, Josh Kaplan, Kan Wu, Karan Sharma, Karen Li, Katie Pypes, Kendal Simon, Kendra Rimbach, Kevin Park, Kevin Rao, Laurance Fauconnet, Lauren Workman, Leher Pathak, Liang Wu, Liang Xiong, Lien Mamitsuka, Lindsay McCallum, Lukas Gross, Manoli Liodakis, Matt Nichols, Michelle Fradin, Minal Khan, Mingxuan Wang, Nacho Soto, Natalie Staudacher, Nikunj Handa, Niko Felix, Ning Liu, Olivier Godement, Oona Gleeson, Philip Pronin, Raymond Li, Reah Miyara, Robert Xiong, Rohan Nuttall, R.J. Marsan, Sara Culver, Scott Ethersmith, Sean Fitzgerald, Shamez Hemani, Sherwin Wu, Shiao Lee, Shuyang Cheng, Siyuan Fu, Spug Golden, Steve Coffey, Steven Heidel, Sundeep Tirumalareddy, Tabarak Khan, Thomas Degry, Thomas Dimson, Tom Stasi, Tomo Hiratsuka, Trevor Creech, Uzair Navid Iftikhar, Victoria Chernova, Victoria Spiegel, Wanning Jiang, Wenlei Xie, Yaming Lin, Yara Khakbaz, Yilei Qian, Yilong Qin, Yo Shavit i Zhi Bie
Kierownictwo
Aidan Clark, Bob McGrew, David Farhi, Greg Brockman, Hannah Wong, Jakub Pachocki, Johannes Heidecke, Joanne Jang, Kate Rouch, Kevin Weil, Lauren Itow, Liam Fedus, Mark Chen, Mia Glaese, Mira Murati, Nick Ryder, Sam Altman, Srinivas Narayanan i Tal Broda