Jetzt neu: Audio-Modelle der nächsten Generation in der API
Eine neue Suite von Audio-Modellen zur Unterstützung von Sprachagenten, jetzt weltweit für Entwickler verfügbar.

Update vom 28. August 2025: Wir haben die allgemeine Verfügbarkeit der Realtime API angekündigt. Hier erfährst du mehr.
In den letzten Monaten haben wir intensiv daran gearbeitet, die Intelligenz, Fähigkeiten und Praxistauglichkeit von textbasierten Agenten, also Systemen, die Aufgaben eigenständig im Auftrag der Nutzerinnen und Nutzer ausführen, weiterzuentwickeln. Dazu gehören unter anderem Veröffentlichungen von Operator, Deep Research, Computer-Using Agents sowie der Responses API mit integrierten Tools. Damit Agenten jedoch wirklich nützlich sind, müssen Interaktionen über reinen Text hinausgehen. Menschen benötigen tiefere und intuitivere Möglichkeiten der Zusammenarbeit, wie etwa die natürliche gesprochene Sprache als effektives Kommunikationsmittel.
Heute stellen wir neue Speech-to-Text- und Text-to-Speech-Audiomodelle in der API vor. Damit wird es möglich, leistungsstärkere, anpassbare und intelligentere Sprachagenten zu entwickeln, die echten Mehrwert bieten. Unsere neuesten Speech-to-Text-Modelle setzen neue Maßstäbe und übertreffen bestehende Lösungen in Bezug auf Genauigkeit und Zuverlässigkeit – insbesondere in anspruchsvollen Szenarien mit Akzenten, Hintergrundgeräuschen oder unterschiedlichen Sprechgeschwindigkeiten. Diese Verbesserungen erhöhen die Zuverlässigkeit von Transkriptionen und machen die Modelle besonders geeignet für Anwendungsfälle wie Kundenservice-Callcenter, Meeting-Transkriptionen und vieles mehr.
Erstmals können Entwicklerinnen und Entwickler das Text-to-Speech-Modell gezielt anweisen, auf eine bestimmte Weise zu sprechen, beispielsweise „wie ein empathischer Kundenservice-Agent“. Dadurch eröffnen sich neue Möglichkeiten zur individuellen Anpassung von Sprachagenten. Dies ermöglicht eine breite Palette maßgeschneiderter Anwendungen – von einfühlsameren und dynamischeren Kundenservice-Stimmen bis hin zu ausdrucksstarker Vertonung für kreatives Storytelling.
Wir haben unser erstes Audio-Modell 2022 vorgestellt und arbeiten seitdem kontinuierlich daran, die Intelligenz, Genauigkeit und Zuverlässigkeit dieser Modelle zu verbessern. Mit den neuen Audiomodellen können Entwicklerinnen und Entwickler über die API präzisere und robustere Speech-to-Text-Systeme sowie ausdrucksstarke, charaktervolle Text-to-Speech-Stimmen entwickeln.
Wir führen neue gpt-4o-transcribe- und gpt-4o-mini-transcribe-Modelle ein, die im Vergleich zu den ursprünglichen Whisper-Modellen Verbesserungen bei der Word Error Rate sowie eine bessere Spracherkennung und Genauigkeit bieten.
gpt-4o-transcribe zeigt eine verbesserte Leistung bei der Word Error Rate (WER) im Vergleich zu bestehenden Whisper-Modellen über mehrere etablierte Benchmarks hinweg und spiegelt damit erhebliche Fortschritte in unserer Speech-to-Text-Technologie wider. Diese Fortschritte resultieren direkt aus gezielten Innovationen im Reinforcement Learning und umfangreichem Midtraining mit vielfältigen, hochwertigen Audio-Datensätzen.
Infolgedessen können diese neuen Speech-to-Text-Modelle Sprachnuancen besser erfassen, Fehlinterpretationen reduzieren und die Zuverlässigkeit der Transkription insbesondere in herausfordernden Szenarien mit Akzenten, lauten Umgebungen und variierenden Sprechgeschwindigkeiten erhöhen. Diese Modelle sind jetzt in der Speech-to-Text-API(wird in einem neuen Fenster geöffnet) verfügbar.
Die Word Error Rate (WER) misst die Genauigkeit von Spracherkennungsmodellen, indem sie den Prozentsatz falsch transkribierter Wörter im Vergleich zu einer Referenztranskription berechnet. Eine niedrigere WER ist besser und bedeutet, dass weniger Fehler auftreten. Unsere neuesten Speech-to-Text-Modelle erzielen über verschiedene Benchmarks hinweg niedrigere WER-Werte, darunter auch FLEURS (Few-shot Learning Evaluation of Universal Representations of Speech), ein mehrsprachiger Sprachbenchmark mit über 100 Sprachen, der auf manuell transkribierten Audiodaten basiert. Diese Ergebnisse zeigen eine höhere Transkriptionsgenauigkeit und eine robustere Sprachabdeckung. Wie hier dargestellt, übertreffen unsere Modelle Whisper v2 und Whisper v3 in allen Sprachbewertungen konsequent.
Auf FLEURS erreichen unsere Modelle eine niedrigere WER und zeigen eine starke mehrsprachige Leistung. Eine niedrigere WER ist besser und bedeutet, dass weniger Fehler auftreten. Wie hier gezeigt, erreichen unsere Modelle in den meisten großen Sprachen eine vergleichbare oder bessere Leistung als andere führende Modelle.
Wir stellen außerdem ein neues Modell namens gpt-4o-mini-tts mit verbesserter Steuerbarkeit bereit. Zum ersten Mal können Entwicklerinnen und Entwickler das Modell nicht nur darin anleiten, was gesagt werden soll, sondern auch wie es gesagt wird. Dadurch entstehen individuellere Nutzererlebnisse, von Kundenservice-Anwendungen bis hin zu kreativem Storytelling. Das Modell ist über die Text-to-Speech-API(wird in einem neuen Fenster geöffnet) verfügbar. Hinweis: Diese Text-to-Speech-Modelle sind derzeit auf künstliche vordefinierte Stimmen beschränkt, die wir überwachen, um sicherzustellen, dass sie den festgelegten synthetischen Vorgaben entsprechen.
Unsere neuen Audiomodelle basieren auf den Architekturen von GPT‑4o und GPT‑4o mini und wurden umfangreich mit spezialisierten, audiozentrierten Datensätzen vortrainiert, die entscheidend zur Optimierung der Modellleistung beigetragen haben. Dieser gezielte Ansatz ermöglicht ein tieferes Verständnis sprachlicher Nuancen und sorgt für eine herausragende Performance bei audiobezogenen Aufgaben.
Wir haben unsere Destillationsverfahren weiterentwickelt und ermöglichen damit den Wissenstransfer von unseren größten Audiomodellen auf kleinere, effizientere Modelle. Mithilfe fortschrittlicher Self-Play-Methoden erfassen unsere Destillationsdatensätze realistische Gesprächsdynamiken und bilden authentische Interaktionen zwischen Nutzer und Assistent nach. So können auch kleinere Modelle eine hervorragende Gesprächsqualität und hohe Reaktionsfähigkeit bieten.
Für unsere Speech-to-Text-Modelle haben wir einen Ansatz integriert, der stark auf Reinforcement Learning (RL) basiert und die Transkriptionsgenauigkeit auf ein dem neuesten Stand der Technik entsprechendes Niveau hebt. Diese Methodik verbessert die Präzision deutlich, reduziert Halluzinationen und macht unsere Speech-to-Text-Lösungen insbesondere in komplexen Spracherkennungsszenarien äußerst wettbewerbsfähig.
Diese Entwicklungen stellen einen Fortschritt im Bereich der Audiomodellierung dar. Sie verbinden innovative Methoden mit praxisnahen Verbesserungen und erhöhen so die Leistungsfähigkeit in Sprachanwendungen.
Diese neuen Audiomodelle sind jetzt für alle Entwickler verfügbar. Weitere Informationen zum Entwickeln mit Audio findest du hier(wird in einem neuen Fenster geöffnet). Für Entwickler, die bereits konversationsbasierte Anwendungen mit textbasierten Modellen erstellen, ist die Integration unserer Speech-to-Text- und Text-to-Speech-Modelle der einfachste Weg, um Sprachagenten zu entwickeln. Zusätzlich veröffentlichen wir eine Integration mit dem Agents SDK(wird in einem neuen Fenster geöffnet), die den Entwicklungsprozess deutlich vereinfacht. Für Anwendungen mit besonders geringer Latenz im Speech-to-Speech-Bereich empfehlen wir die Nutzung unserer Speech-to-Speech-Modelle über die Realtime API.
Mit Blick nach vorn planen wir, weiterhin in die Verbesserung der Intelligenz und Genauigkeit unserer Audiomodelle zu investieren. Gleichzeitig arbeiten wir daran, Entwicklerinnen und Entwicklern neue Möglichkeiten zu eröffnen, eigene Stimmen einzubringen und noch stärker personalisierte Erlebnisse zu schaffen – selbstverständlich im Einklang mit unseren Sicherheitsstandards. Darüber hinaus setzen wir den Austausch mit politischen Verantwortlichen, Forschenden, Entwicklerinnen und Entwicklern sowie Kreativen fort, um die Herausforderungen und Chancen synthetischer Stimmen gemeinsam zu erörtern. Wir sind gespannt auf die innovativen und kreativen Anwendungen, die Entwicklerinnen und Entwickler mit diesen verbesserten Audiofunktionen realisieren werden. Außerdem investieren wir in weitere Modalitäten, darunter Video, um die Entwicklung multimodaler agentenbasierter Anwendungen zu ermöglichen.
Autoren
Forschungsleitung
Christina Kim, Junhua Mao, Yi Shen, Yu Zhang
Beitragende
Forschung
Alex Paino, Bowen Cheng, Chengxu Zhuang, Chris Koch, Damian Mrowca, Erik Ritter, Jacob Menick, James Betker, Ji Lin, Jamie Kiros, Jiahui Yu, Liang Zhou, Liyu Chen, Kevin Lu, Madeline Boyd, Michael Lampe, Mike Heaton, Nanxin Chen, Nitish Keskar, Saachi Jain, Sam Toizer, Somay Jain, Tao Xu, Tomer Kaplan, Wei Han, Xiangning Chen, Ye Jia
Ingenieurwesen
Alina Wu, Andres Garcia Garcia, Arshi Bhatnagar, Avital Oliver, Brendan Quinn, Christina Huang, David Fang, Dragos Oprica, Dominik Kundel, Edede Oiwoh, Iaroslav Tverdokhlib, Jiacheng Feng, Jay Chen, Jenia Varavva, Jordan Sitkin, Joseph Florencio, Lien Mamitsuka, Mada Aflak, Manoli Liodakis, Mark Hudnall, Noah MacCallum, Ola Okelola, Peter Bakkum, Rohan Mehta, Romain Huet, Wanning Jiang, Wayne Chang, Yilei Qian
Produkt
Anubha Srivastava, Jackie Shannon, Jeff Harris, Reah Miyara, Xiaolin Hao
Führungskräfte als Sponsoren
Aidan Clark, Andrew Gibiansky, David Sasaki, Kevin Weil, Liam Fedus, Mark Chen, Nick Ryder, Nick Turley, Olivier Godement, Prafulla Dhariwal, Shengjia Zhao, Shuchao Bi, Sherwin Wu, Sulman Choudhry