我们即将发布迄今为止规模最大、性能最优的聊天模型 — GPT‑4.5 的研究预览版。在扩大训练前和训练后规模方面,GPT‑4.5 又向前迈出了一步。通过扩大无监督学习的规模,GPT‑4.5 无需推理即可提高识别模式、建立联系和生成创造性见解的能力。
早期测试表明,用户与 GPT‑4.5 互动的感觉更自然。凭借更广泛的知识库、更强的用户意图执行能力和更高的“情商”,它在写作润色、编程和解决实际问题等任务中大显身手。另外,它还有望减少幻觉。
为了更好地了解 GPT‑4.5 的优势和局限性,我们将与大家分享它的研究预览版。我们仍在探索它的能力上限,同时也渴望看到用户以我们意想不到的方式来使用它。
我们通过扩大无监督学习和推理这两种互补范式的规模来提高 AI 能力。它们代表着智力的两个轴心。
- 无监督学习有助于提高世界模型的准确性和直观性。GPT‑3.5、GPT‑4 和 GPT‑4.5 等模型推进了这一范式。
- 另一方面,扩大推理规模有助于教会模型在给出回复之前先行思考并形成思维链,从而帮助它们解决复杂的科学、技术、工程和数学或逻辑问题。OpenAI o1 和 OpenAI o3‑mini 等模型推进了这一范式。
GPT‑4.5 是通过扩展计算和数据以及架构和优化创新来扩大无监督学习规模的一个例子。GPT‑4.5 在 Microsoft Azure AI 超级计算机上进行了训练。结果表明,该模型拓展了知识面、加深了对世界的了解,进而减少了幻觉并提高了多个主题的回复可靠性。
扩展 GPT 范式
加深对世界的了解
SimpleQA 准确率(数值越高越好)
SimpleQA 幻觉率(数值越低越好)
SimpleQA 可通过提出直截了当而不乏挑战性的知识性问题来衡量 LLM(大语言模型)的事实性。
随着规模不断扩大,模型能够解决的问题也越来越复杂,而教会它们更好地理解人类的需求和意图也因此变得越来越重要。我们为 GPT‑4.5 开发了可扩展的新技术,能够利用从较小模型提取的数据来训练规模更大、功能更强的模型。这些技术改善了 GPT‑4.5 的可控性、对细微差别的理解能力和自然对话。
通过人类测试人员进行的对比性评估
人类偏好可通过查询百分比评估测试人员偏好 GPT‑4.5 而非 GPT‑4o 的程度。
将对世界的深刻理解与更优质的协作结合起来,由此得出的模型能够在更适合人类协作的对话中自然而然地整合各种想法,给人以温馨、直观的感受。GPT‑4.5 能够更好地理解人类的意图,并以更高的“情商”来解读微妙的暗示或隐含的期待。GPT‑4.5 还表现出更强的审美品味和创造力。它擅长提供写作和设计方面的协助。
用例
GPT-4.5
GPT‑4.5 表现出更高的“情商”,知道何时邀请用户进一步对话,何时向用户提供大量信息。
GPT‑4.5 在给出回复之前不会先行思考,因此具备与 OpenAI o1 等推理模型尤为不同的优势。相较于 OpenAI o1 和 OpenAI o3‑mini 等模型,GPT‑4.5 的通用性更强,而且天生更加智能。我们相信,推理将是未来模型的核心能力,而预训练和推理这两种扩展方法之间将会是相辅相成的关系。随着预训练让 GPT‑4.5 等模型变得更加智能、知识更加渊博,它们将为推理和工具使用智能体奠定更加坚实的基础。
模型能力每提升一次,它的安全性也随之提高。我们采用新的监督技术对 GPT‑4.5 进行训练,并将这些技术与传统的监督微调(SFT)和人类反馈强化学习(RLHF)等方法(例如为 GPT‑4o 采用的方法)相结合。我们希望这项工作能为今后调教出功能更强大的模型奠定基础。
为了对改进措施进行压力测试,我们在部署前根据我们的防范准备框架(在新窗口中打开)进行了一系列安全测试。所有评估结果都表明,扩展 GPT 范式有助于提高模型能力。我们将在随附的系统卡中公布这些评估的详细结果。
从今天开始,ChatGPT Pro 用户可以在网页、移动端和台式机的模型选择器中选择 GPT‑4.5。从下周开始,我们将逐步向 Plus 和 Team 用户推出,然后在下下周向 Enterprise 和 Edu 用户推出。
GPT‑4.5 可通过搜索访问最新信息,支持文件和图片上传,还能使用画布进行写作和编码。但是,GPT‑4.5 目前还不支持 ChatGPT 中的语音模式、视频和屏幕共享等多模态功能。未来,我们将努力简化用户体验,为您提供量身定制的 AI 服务。
我们还将在聊天完成 API、助手 API 和批处理 API 中向所有付费使用层级(在新窗口中打开)的开发人员提供 GPT‑4.5 预览。该模型支持函数调用、结构化输出、流媒体和系统消息等主要功能。另外,它还通过图片输入支持视觉功能。
根据早期测试结果,开发人员可能会发现 GPT‑4.5 特别适用于需要它发挥高情商和创造力的应用场景,例如写作辅助、交流、学习、辅导和头脑风暴。它还表现出了强大的代理规划和执行能力,包括多步骤编码工作流程和复杂任务自动化。
GPT‑4.5 是体量非常庞大的计算密集型模型,因此价格高于 GPT‑4o,但不能代替 GPT‑4o。出于这个原因,我们正在评估是否继续在 API 中为它提供长期支持,因为我们需要在支持当前功能和构建未来模型之间取得平衡。我们期待进一步了解它的优势、功能以及在真实环境中的潜在应用。如果 GPT‑4.5 为您的用例提供了独特的价值,您的反馈(在新窗口中打开)将对我们的决策起到重要的指导作用。
计算能力每提升一个数量级,就会催生新的功能。在探索无监督学习的潜力方面,GPT‑4.5 模型位居前沿。社区不断发挥创造力去发掘新的能力和意想不到的用例,也不断给我们带来惊喜。借由 GPT‑4.5,我们邀请您与我们一起探索无监督学习的前沿领域,携手开发新的功能。
下面,我们将提供 GPT‑4.5 在标准学术基准方面的成绩,说明其目前在处理传统推理任务时的表现。即使单纯扩大无监督学习的规模,GPT‑4.5 也比 GPT‑4o 等前代模型有了显著的提升。尽管如此,我们仍期待通过此次发布更全面地了解 GPT‑4.5 的功能,因为我们认识到,学术基准并不总能反映其在真实世界中的实用性。
模型评估分数
GPT‑4.5 | GPT‑4o | OpenAI o3‑mini(高性能版) | |
GPQA(科学) | 71.4% | 53.6% | 79.7% |
AIME ‘24(数学) | 36.7% | 9.3% | 87.3% |
MMMLU(多语言) | 85.1% | 81.5% | 81.1% |
MMMU(多模态) | 74.4% | 69.1% | - |
SWE-Lancer Diamond(编码)* | 32.6% $186,125 | 23.3% $138,750 | 10.8% $89,625 |
SWE-Bench 验证(编码)* | 38.0% | 30.7% | 61.0% |
*所示数字代表最佳内部性能。
作者
OpenAI主要贡献者
Adam Goucher、Alex Paino、Ali Kamali、Amin Tootoonchian、Andrew Tulloch、Ben Sokolowsky、Clemens Winter、Colin Wei、Daniel Kappler、Daniel Levy、Felipe Petroski Such、Geoff Salmon、Ian O’Connell、Jason Teplitz、Kai Chen、Nik Tezak、Prafulla Dhariwal、Rapha Gontijo Lopes、Sam Schoenholz、Youlong Cheng、Yujia Jin、Yunxing Dai
研究
核心贡献者
Aiden Low、Alec Radford、Alex Carney、Alex Nichol、Alexis Conneau、Ananya Kumar、Ben Wang、Charlotte Cole、Elizabeth Yang、Gabriel Goh、Hadi Salman、Haitang Hu、Heewoo Jun、Ian Sohl、Ishaan Gulrajani、Jacob Coxon、James Betker、Jamie Kiros、Jessica Landon、Kyle Luther、Lia Guy、Lukas Kondraciuk、Lyric Doshi、Mikhail Pavlov、Qiming Yuan、Reimar Leike、Rowan Zellers、Sean Metzger、Shengjia Zhao、Spencer Papay、Tao Wang
贡献者
Adam Lerer、Adrien Ecoffet、Aidan McLaughlin、Alexander Prokofiev、Alexandra Barr、Allan Jabri、Andrew Gibiansky、Andrew Schmidt、Casey Chu、Chak Li、Chelsea Voss、Chris Hallacy、Chris Koch、Christine McLeavey、David Mely、Dimitris Tsipras、Eric Sigler、Erin Kavanaugh、Farzad Khorasani、Huiwen Chang、Ilya Kostrikov、Ishaan Singal、Ji Lin、Jiahui Yu、Jing Yu Zhang、John Rizzo、Jong Wook Kim、Joyce Lee、Juntang Zhuang、Leo Liu、Li Jing、Long Ouyang、Louis Feuvrier、Mo Bavarian、Nick Stathas、Nitish Keskar、Oleg Murk、Preston Bowman、Scottie Yan、SQ Mah、Tao Xu、Taylor Gordon、Valerie Qi、Wenda Zhou、Yu Zhang
扩展
核心贡献者
Alex Chow、Alex Renzin、Aleksandra Spyra、Avi Nayak、Ben Leimberger、Christopher Hesse、Duc Phong Nguyen、Dinghua Li、Eric Peterson、Francis Zhang、Gene Oden、Kai Fricke、Kai Hayashi、Larry Lv、Leqi Zou、Lin Yang、Madeleine Thompson、Michael Petrov、Miguel Castro、Natalia Gimelshein、Phil Tillet、Reza Zamani、Ryan Cheu Stanley Hsieh、Steve Lee、Stewart Hall、Thomas Raoux、Tianhao Zheng、Vishal Kuo、Yongjik Kim、Yuchen Zhang、Zhuoran Liu
贡献者
Alvin Wan、Andrew Cann、Andrew Codispoti、Antoine Pelisse、Anuj Kalia、Aaron Hurst、Avital Oliver、Brad Barnes、Brian Hsu、Chen Ding、Chen Shen、Cheng Chang、Christian Gibson、Christopher Berner、Duncan Findlay、Fan Wang、Fangyuan Li、Gianluca Borello、Heather Schmidt、Henrique Ponde de Oliveira Pinto、Ikai Lan、Jiayi Weng、James Crooks、Jos Kraaijeveld、Junru Shao、Kenny Hsu、Kenny Nguyen、Kevin King、Leah Burkhardt、Leo Chen、Linden Li、Lu Zhang、Mahmoud Eariby、Marat Dukhan、Mateusz Litwin、Miki Habryn、Natan LaFontaine、Pavel Belov、Peng Su、Prasad Chakka、Rachel Lim、Rajkumar Samuel、Renaud Gaubert、Rory Carmichael、Sarah Dong、Shantanu Jain、Shuaiqi Xia、Stephen Logsdon、Todd Underwood、Tony Zhao、Weixing Zhang、Will Sheu、Weiyi Zheng、Yinghai Lu、Yunqiao Zhang
安全系统
Andrea Vallone、Andy Applebaum、Cameron Raymond、Chong Zhang、Dan Mossing、Elizabeth Proehl、Eric Wallace、Evan Mays、Grace Zhao、Ian Kivlichan、Irina Kofman、Joel Parish、Kevin Liu、Keren Gu-Lemberg、Kristen Ying、Lama Ahmad、Lilian Weng、Leon Maksin、Leyton Ho、Meghan Shah、Michael Lampe、Michele Wang、Miles Wang、Olivia Watkins、Phillip Guo、Samuel Miserendino、Sam Toizer、Sandhini Agarwal、Tejal Patwardhan、Tom Dupré la Tour、Tong Mu、Tyna Eloundou、Yunyun Wang
部署
Adam Brandon、Adam Perelman、Adele Li、Akshay Nathan、Alan Hayes、Alfred Xue、Alison Ben、Alec Gorge、Alex Guziel、Alex Iftimie、Ally Bennett、Andrew Chen、Andy Wang、Andy Wood、Angad Singh、Anoop Kotha、Antonia Woodford、Anuj Saharan、Ashley Tyra、Atty Eleti、Ben Schneider、Bessie Ji、Beth Hoover、Bill Chen、Blake Samic、Britney Smith、Brian Yu、Caleb Wang、Cary Bassin、Cary Hudson、Charlie Jatt、Chengdu Huang、Chris Beaumont、Christina Huang、Cristina Scheau、Dana Palmie、Daniel Levine、Daryl Neubieser、Dave Cummings、David Sasaki、Dibya Bhattacharjee、Dylan Hunn、Edwin Arbus、Elaine Ya Le、Enis Sert、Eric Kramer、Fred von Lohmann、Freddie Sulit、Gaby Janatpour、Garrett McGrath、Garrett Ollinger、Gary Yang、Hao Sheng、Harold Hotelling、Janardhanan Vembunarayanan、Jeff Harris、Jeffrey Sabin Matsumoto、Jennifer Robinson、Jessica Liang、Jessica Shieh、Jiacheng Yang、Joel Morris、Joseph Florencio、Josh Kaplan、Kan Wu、Karan Sharma、Karen Li、Katie Pypes、Kendal Simon、Kendra Rimbach、Kevin Park、Kevin Rao、Laurance Fauconnet、Lauren Workman、Leher Pathak、Liang Wu、Liang Xiong、Lien Mamitsuka、Lindsay McCallum、Lukas Gross、Manoli Liodakis、Matt Nichols、Michelle Fradin、Minal Khan、Mingxuan Wang、Nacho Soto、Natalie Staudacher、Nikunj Handa、Niko Felix、Ning Liu、Olivier Godement、Oona Gleeson、Philip Pronin、Raymond Li、Reah Miyara、Robert Xiong、Rohan Nuttall、R.J. Marsan、Sara Culver、Scott Ethersmith、Sean Fitzgerald、Shamez Hemani、Sherwin Wu、Shiao Lee、Shuyang Cheng、Siyuan Fu、Spug Golden、Steve Coffey、Steven Heidel、Sundeep Tirumalareddy、Tabarak Khan、Thomas Degry、Thomas Dimson、Tom Stasi、Tomo Hiratsuka、Trevor Creech、Uzair Navid Iftikhar、Victoria Chernova、Victoria Spiegel、Wanning Jiang、Wenlei Xie、Yaming Lin、Yara Khakbaz、Yilei Qian、Yilong Qin、Yo Shavit、Zhi Bie
执行领导团队
Aidan Clark、Bob McGrew、David Farhi、Greg Brockman、Hannah Wong、Jakub Pachocki、Johannes Heidecke、Joanne Jang、Kate Rouch、Kevin Weil、Lauren Itow、Liam Fedus、Mark Chen、Mia Glaese、Mira Murati、Nick Ryder、Sam Altman、Srinivas Narayanan、Tal Broda