GPT‑4o‑Systemkarte

Wir prüfen neue Modelle gründlich auf potenzielle Risiken und implementieren angemessene Sicherheitsvorkehrungen, bevor wir sie in ChatGPT oder der API einsetzen. Wir veröffentlichen die Systemkarte des Modells zusammen mit der Preparedness Framework⁠ Scorecard, um eine umfassende Sicherheitsbewertung von GPT‑4o⁠ bereitzustellen. Diese beinhaltet außerdem die von uns ergriffenen Maßnahmen, um sowohl aktuellen als auch potenziellen Sicherheitsrisiken in zukünftigen Entwicklungen angemessen zu begegnen.

Aufbauend auf den für GPT‑4⁠ und GPT‑4V⁠ entwickelten Sicherheitsbewertungen und -maßnahmen haben wir uns zusätzlich auf die Audiofunktionen von GPT‑4o konzentriert, die neuartige Risiken bergen, und gleichzeitig seine Fähigkeiten im Zusammenhang mit Texten und Bildern evaluiert.

Zu den von uns bewerteten Risiken gehören die Identifizierung von Sprechern, die unbefugte Stimmenerzeugung, die potenzielle Generierung urheberrechtlich geschützter Inhalte, unbegründete Schlussfolgerungen und die Erstellung unzulässiger Inhalte. Auf Grundlage dieser Bewertungen haben wir sowohl auf der Modell- als auch auf der Systemebene verschiedene Sicherheitsvorkehrungen getroffen, um solche Risiken zu mindern. 

Unsere Ergebnisse deuten darauf hin, dass der Audiomodus von GPT‑4o die Preparedness-Risiken nicht wesentlich erhöht. In drei der vier Kategorien des Preparedness Framework wurde das Risiko als gering eingestuft, bei der Überzeugungskraft als mittel. Im Rahmen unseres sicheren Bereitstellungsverfahren hat die Safety Advisory Group⁠(wird in einem neuen Fenster geöffnet) unsere Preparedness-Bewertungen und Abhilfemaßnahmen überprüft. Der nachstehende Bericht enthält alle Einzelheiten dieser Überprüfungen.

GPT‑4o¹ ist ein autoregressives Omni-Modell, das eine beliebige Kombination von Text-, Audio-, Bild- und Videoeingaben akzeptiert und eine beliebige Kombination von Text-, Audio- und Bildausgaben erzeugt. Es wird durchgängig für Text, Bild und Audio trainiert, sodass alle Eingaben und Ausgaben von demselben neuronalen Netz verarbeitet werden. 

GPT‑4 kann auf Audioeingaben in nur 232 Millisekunden reagieren und antwortet durchschnittlich nach 320 Millisekunden, was der menschlichen Reaktionszeit⁠(wird in einem neuen Fenster geöffnet)² in einem Gespräch entspricht. Bei Text und Code auf Englisch erbringt die neue Version die gleiche Leistung wie GPT‑4 Turbo. Zudem zeigt sie sich bei Text in anderen Sprachen außer Englisch deutlich verbessert und ist gleichzeitig viel schneller mit einer um 50 % günstigeren API. Insbesondere verarbeitet GPT‑4o visuelle Eingaben und Audio deutlich besser als vorangehende Modelle.

In Übereinstimmung mit unserer Verpflichtung zur sicheren Entwicklung von KI und unseren freiwilligen Verpflichtungen gegenüber dem Weißen Haus³ veröffentlichen wir die Systemkarte von GPT‑4o mit unseren Bewertungen gemäß dem Preparedness Framework⁠(wird in einem neuen Fenster geöffnet)⁵. Diese Systemkarte ermöglicht einen detaillierten Einblick in die Fähigkeiten, Einschränkungen und Sicherheitsbewertungen von GPT‑4o in verschiedenen Kategorien. Dabei liegt der Schwerpunkt auf Sprachein- und -ausgaben (Audio/Voice), wobei aber auch Text- und Bildfähigkeiten sowie die Maßnahmen zur Verbesserung von Sicherheit und Abgleich bewertet werden. Darüber hinaus fügen wir Bewertungen Dritter zu allgemeinen autonomen Fähigkeiten sowie eine Diskussion über mögliche gesellschaftliche Auswirkungen der Text- und visuellen Fähigkeiten von GPT‑4o bei.

Die Fähigkeiten von GPT‑4o wurden mit Daten bis Oktober 2023 trainiert, die unter anderem aus folgenden Materialien stammen:

1. ausgewählte öffentlich verfügbare Daten, meist aus branchenüblichen Datensätzen für maschinelles Lernen und Web-Crawls
2. eigene Daten aus Datenpartnerschaften: Wir gehen Partnerschaften ein, um auf nicht öffentlich zugängliche Daten zugreifen zu können, darunter kostenpflichtige Inhalte, Archive und Metadaten. Beispielsweise haben wir eine Partnerschaft mit Shutterstock⁠(wird in einem neuen Fenster geöffnet)⁵ abgeschlossen, um KI-generierte Bilder zu entwickeln und bereitzustellen. 

Der Datensatz, auf dem die Fähigkeiten von GPT‑4o beruhen, besteht unter anderem aus den folgenden wichtigen Komponenten:

1. Internetdaten: Daten von öffentlichen Internetseiten liefern ein reichhaltiges und vielfältiges Spektrum an Informationen, damit das Modell anhand einer Vielzahl von Perspektiven und Themen lernen kann.
2. Code und Mathematik: Die Einbeziehung von Code und mathematischen Daten in das Training hilft dem Modell, robuste Denkfähigkeiten zu entwickeln, indem es mit strukturierter Logik und Problemlösungsprozessen konfrontiert wird.
3. Multimodale Daten: Unser Datensatz enthält Bilder, Audio und Video, um den LLMs beizubringen, nicht-textuelle Eingaben und Ausgaben zu interpretieren und zu generieren. Anhand dieser Daten lernt das Modell, visuelle Bilder, Handlungen und Sequenzen in realen Kontexten sowie Sprachmuster und Sprachnuancen zu interpretieren.

Vor der Bereitstellung bewertet und mindert OpenAI potenzielle Risiken, die von generativen Modellen ausgehen können. Dabei kann es sich beispielsweise um schädliche Informationen, Voreingenommenheit und Diskriminierung oder andere Inhalte handeln, die gegen unsere Sicherheitsrichtlinien verstoßen. Wir setzen eine Kombination von Methoden ein, die alle Entwicklungsstadien des Training bis hin zur Produktentwicklung und den zugehörigen Richtlinien abdecken. Beispielsweise passen wir das Modell während des Post-Trainings an menschliche Präferenzen an. Wir lassen die resultierenden Modelle durch ein Red-Team überprüfen und fügen Abhilfemaßnahmen auf Produktebene hinzu, darunter die Überwachung und Durchsetzung von Regeln. Außerdem stellen wir unseren Benutzern Moderationstools und Transparenzberichte zur Verfügung.

Wir haben festgestellt, dass die meisten effektiven Tests und Abhilfemaßnahmen nach der Pre-Trainingsphase durchgeführt werden, da das Filtern vortrainierter Daten allein nicht ausreicht, um nuancierte und kontextspezifische Bedrohungen zu beheben. Gleichzeitig können bestimmte Filter im Pre-Training einen zusätzlichen Schutz bieten, der zusammen mit anderen Sicherheitsvorkehrungen dazu beiträgt, unerwünschte und schädliche Informationen aus unseren Datensätzen auszuschließen:

• Wir verwenden unsere Moderations-API und Sicherheitsklassifikatoren, um Daten herauszufiltern, die zu schädlichen Inhalten oder Informationsgefahren beitragen könnten, darunter Kinderpornografie, hasserfüllte Inhalte, Gewalt und Informationen in Bezug auf CBRN-Gefahren (chemisch, biologisch, radiologisch und nuklear). 
• Wie bei unseren früheren Systemen zur Bildgenerierung filtern wir unsere Datensätze nach expliziten Inhalten wie anschaulich sexuellem und kinderpornografischem Material. 
• Wir verwenden fortschrittliche Datenfilterverfahren, um personenbezogene Daten aus den Trainingsdaten zu entfernen. 
• Bei der Veröffentlichung von DALL·E 3 haben wir einen neuen Ansatz erprobt, um Benutzern die Möglichkeit zu geben, Bilder vom Training auszuschließen⁠. Um diese Ausschlüsse zu respektieren, haben wir die Bilder mit Fingerabdrücken versehen und diese verwendet, um alle Instanzen der betroffenen Bilder aus dem Trainingsdatensatz für die GPT‑4o‑Modellreihe zu entfernen.

Während der Vorbereitung der Bereitstellung wurde ein Red-Team aus Fachleuten damit beauftragt, zusätzliche neue Risiken aufzudecken und zu erforschen. Diese Arbeit begann mit frühen Kontrollpunkten des Modells während der Entwicklung, wobei die identifizierten Risiken in strukturierte Messungen umgewandelt und relevante Abhilfemaßnahmen entwickelt wurden.  Zudem haben wir GPT‑4o gemäß unserem Preparedness Framework bewertet⁴.

OpenAI hat in seinen Red Teams mit mehr als 100 externen Fachleuten zusammengearbeitet. Diese sprachen insgesamt 45 verschiedene Sprachen und repräsentierten geografische und kulturelle Hintergründe 29 verschiedener Länder. Die Red-Team-Mitglieder hatten von Anfang März bis Ende Juni 2024 Zugang zu verschiedenen Entwicklungsstufen des Modells in unterschiedlichen Trainingsstadien und mit unterschiedlich ausgeprägten Sicherheitsvorkehrungen. 

Das externe Red-Teaming wurde in vier Phasen durchgeführt. In den ersten drei Phasen wurde das Modell mit einem internen Tool getestet. In der letzten Phase kam die gesamte iOS-Erfahrung für die Tests zum Einsatz. Zum Zeitpunkt der Erstellung dieses Berichts befindet sich die GPT‑4o‑API weiterhin in der Testphase mit externen Red Teams.

Die Red-Team-Fachleute wurden damit beauftragt, die Fähigkeiten des Modells zu untersuchen und zu erforschen, neue potenzielle Risiken zu bewerten und die Abhilfemaßnahmen zu testen, während sie entwickelt und verbessert wurden. Dabei lag der Schwerpunkt auf Audioeingaben und -generierung (Sprachfähigkeiten). Diese Red-Team-Tests bauten auf früheren Arbeiten auf, die unter anderem auf den Systemkarten von GPT‑4⁠(wird in einem neuen Fenster geöffnet)⁶ und GPT‑4(V)⁠⁷ beschrieben sind.

Die Red-Team-Experten deckten Kategorien ab, die verletzende und verbotene Inhalte (illegale erotische Inhalte, Gewalt, Selbstverletzung usw.), Fehl- und Desinformation, Voreingenommenheit, unbegründete Schlussfolgerungen, die Zuschreibung sensibler Merkmale, personenbezogene Daten, Geolokalisierung, die Identifizierung von Personen, emotionale Wahrnehmung und Personifizierung, betrügerisches Verhalten und Nachahmung, Urheberrechtsverletzungen, naturwissenschaftliche Fähigkeiten und mehrsprachige Beobachtungen umfassten.

Die von den Red Teams generierten Daten bildeten die Grundlage zur Erstellung mehrerer quantitativer Bewertungen, die im Abschnitt beobachtete Sicherheitsprobleme, Auswertungen und Abhilfemaßnahmen⁠ beschrieben werden. In einigen Fällen wurden die Erkenntnisse aus dem Red-Teaming genutzt, um gezielt synthetische Daten zu generieren. Die Modelle wurden sowohl mit Hilfe von automatischen Bewertungssystemen als auch durch manuelle Kennzeichnung nach bestimmten Kriterien bewertet (z. B. Verstoß gegen oder Einhaltung von Richtlinien, Reaktion abgelehnt oder nicht). Darüber hinaus haben wir die Red-Team-Daten gelegentlich für gezielte Bewertungen einer Vielzahl von Stimmen und Beispielen verwendet, um die Robustheit verschiedener Abhilfemaßnahmen zu testen.

Zusätzlich zu den Daten aus dem Red-Teaming wurde eine Reihe bestehender Bewertungsdatensätze reiner Audiomodelle unter Verwendung von Voice Engine⁠ in Text-zu-Sprache-Systeme (Text-to-Speech, TTS) umgewandelt. Durch die Umwandlung von Texteingaben in Audio haben wir textbasierte Bewertungsaufgaben in audiobasierte umgewandelt. Dies ermöglichte uns die Wiederverwendung bestehender Datensätze und Tools zur Messung der Modellfähigkeit, des Sicherheitsverhaltens und der Überwachung der Modellergebnisse, was unsere Palette an verwendbaren Auswertungen erheblich erweiterte.

Mittels Voice Engine konnten wir Texteingaben in Audio umwandeln, an GPT‑4o weiterleiten und die Ausgaben des Modells bewerten. Wir bewerten immer nur den Textinhalt der Modellausgabe, außer in Fällen, in denen die Audioausgabe direkt bewertet werden muss (siehe Sprachgenerierung⁠).

Erstens hängt die Gültigkeit dieses Bewertungsformats von der Fähigkeit und Zuverlässigkeit des TTS-Modells ab. Bestimmte Texteingaben sind für die Umwandlung in Audio ungeeignet oder umständlich, zum Beispiel der Code mathematischer Gleichungen. Außerdem erwarten wir, dass TTS bei bestimmten Texteingaben verlustbehaftet ist, zum Beispiel bei Texten, die viel Leerraum oder Symbole zur visuellen Formatierung verwenden. Da wir davon ausgehen, dass derartige Eingaben vom Benutzer auch im erweiterten Sprachmodus nicht zu erwarten sind, vermeiden wir entweder die Bewertung des Sprachmodells für derartige Aufgaben oder vorverarbeiten Beispiele mit solchen Eingaben. Dennoch möchten wir darauf hinweisen, dass alle in unseren Bewertungen festgestellten Fehler entweder auf die Fähigkeit des Modells oder das Versagen des TTS-Modells bei der genauen Übersetzung von Texteingaben in Audio zurückzuführen sind.

Ein zweites Problem besteht in der Frage, ob die TTS-Eingaben repräsentativ für die Verteilung der Audioeingaben sind, die Benutzer bei der tatsächlichen Nutzung wahrscheinlich machen. Wir bewerten die Robustheit von GPT‑4o bei Audioeingaben über eine Reihe regionaler Akzente hinweg. Darüber hinaus gibt es jedoch noch viele andere Dimensionen, die in einer TTS-basierten Bewertung möglicherweise nicht erfasst werden. Dazu gehören unter anderem unterschiedliche Intonation und Valenz der Stimme, Hintergrundgeräusche oder schnelle Wortwechsel, die zu einem unterschiedlichen Verhalten des Modells in der praktischen Anwendung führen könnten.

Schließlich kann es Artefakte oder Eigenschaften in den vom Modell erzeugten Audiodaten geben, die nicht im Text erfasst werden, wie zum Beispiel Hintergrundgeräusche und Soundeffekte oder das Reagieren mit einer Stimme, die nicht in der Verteilung enthalten ist. Bei der Sprachgenerierung⁠ veranschaulichen wir den Einsatz von Hilfsklassifikatoren zur Identifizierung unerwünschter Audiogenerierung, die in Verbindung mit der Bewertung von Transkripten verwendet werden können.

Potenzielle Risiken des Modells wurden durch eine Kombination verschiedener Methoden gemindert. Mittels Post-Trainingsmethoden haben wir das Modell darauf trainiert, ein risikominderndes Verhalten an den Tag zu legen, und zusätzlich Klassifikatoren integriert, um bestimmte Ausgaben im eingesetzten System zu blockieren. 

Für die beobachteten Sicherheitsprobleme, die nachfolgend beschrieben werden, liefern wir eine Beschreibung des Risikos, die angewandten Abhilfemaßnahmen und gegebenenfalls die Ergebnisse entsprechender Bewertungen. Die nachstehend aufgeführten Risiken sind beispielhaft und nicht erschöpfend und beziehen sich auf die Erfahrungen mit der Benutzeroberfläche von ChatGPT. In diesem Abschnitt konzentrieren wir uns auf die Risiken, die durch Sprache-zu-Sprache-Fähigkeiten entstehen, und beleuchten, wie sie mit bereits vorhandenen Modalitäten (Text, Bild) interagieren können^D.

Risikobeschreibung: Bei der Stimmerzeugung handelt es sich um die Fähigkeit, Audio mit einer menschlich klingenden synthetischen Stimme zu erzeugen, was auch die Generierung von Stimmen auf Grundlage eines kurzen Eingabeclips umfasst. 

In nachteiligen Situationen könnte diese Fähigkeit schädliche Auswirkungen wie zunehmenden Betrug durch Nachahmung begünstigen und zur Verbreitung falscher Informationen genutzt werden^{9 und 10} (wenn wir beispielsweise Benutzern erlauben würden, einen Audioclip eines bestimmten Sprechers hochzuladen und GPT‑4o aufzufordern, eine Rede in der Stimme dieses Sprechers zu produzieren). Diese Risiken sind denen von Voice Engine⁠⁸ sehr ähnlich. 

Außerdem kann eine Stimmerzeugung in konfliktfreien Situationen erfolgen, wie zum Beispiel bei der Nutzung dieser Fähigkeit zur Erzeugung von Stimmen für den fortgeschrittenen Audiomodus von ChatGPT. Ferner haben wir während der Tests seltene Fälle beobachtet, in denen das Modell unbeabsichtigt eine Ausgabe erzeugte, die die Stimme des Benutzers nachahmte.

Risikominderung: Wir haben die mit der Stimmerzeugung verbundenen Risiken gemindert, indem wir nur die voreingestellten Stimmen verwendet haben, die zuvor in Zusammenarbeit mit Synchronsprechern⁠¹¹ erstellt wurden. Dazu haben wir die ausgewählten Stimmen beim Post-Training des Audiomodells als ideale Vervollständigungen einbezogen. Zusätzlich haben wir einen eigenständigen Ausgabeklassifikator entwickelt, um zu erkennen, ob die GPT‑4o‑Ausgabe eine Stimme verwendet, die sich von unserer genehmigten Liste unterscheidet. Diesen führen wir während der Audioerzeugung im Streaming-Modus aus und blockieren die Ausgabe, wenn die Sprecherstimme nicht mit der ausgewählten voreingestellten Stimme übereinstimmt.

Bewertung: Unserer Meinung nach besteht nur ein minimales Restrisiko der unerlaubten Stimmenerzeugung. Unser System erfasst derzeit 100 % der bedeutsamen Abweichungen von der Systemstimme^F. Dieses Ergebnis basiert auf unseren internen Auswertungen, die Proben anderer Systemstimmen, Clips, in denen das Modell eine Stimme aus dem Prompt als Teil seiner Vervollständigung verwendet hat, und eine Auswahl menschlicher Audioproben berücksichtigen.

Obwohl die unbeabsichtigte Stimmerzeugung immer noch eine Schwachstelle des Modells ist, verwenden wir die sekundären Klassifikatoren, um Gespräche gegebenenfalls abzubrechen. Dadurch wird das Risiko einer unbeabsichtigten Stimmerzeugung minimiert. Letztlich kann unser Moderationsverhalten zu übermäßigen Ablehnungen führen, wenn das Gespräch nicht auf Englisch geführt wird. In diesem Bereich arbeiten wir an Verbesserungen^G.

Leistung unseres Klassifizierers für die Sprachausgabe in einem Gespräch nach Sprache^H:

Risikobeschreibung: Bei der Identifizierung eines Sprechers handelt es sich um die Fähigkeit, einen Sprecher anhand des Eingangssignals zu identifizieren. Dies stellt ein potenzielles Risiko für die Privatsphäre dar, insbesondere für Privatpersonen, aber auch bei obskuren Audioausgaben im Zusammenhang mit Personen des öffentlicher Lebens, und birgt potenzielle Überwachungsrisiken.

Risikominderung: Wir haben GPT‑4o so nachtrainiert, dass es sich weigert, Aufforderungen zur Identifizierung einer Person anhand einer Stimme in einer Audioeingabe nachzukommen. GPT‑4o kommt jedoch weiterhin Aufforderungen nach, berühmte Zitate zu identifizieren. Beispielsweise wird eine Anfrage zur Identifizierung der Person, die „four score and seven years ago“ gesagt hat, den Sprecher als Abraham Lincoln identifizieren. Im Gegensatz dazu sollte eine Anfrage zur Identifizierung eines Prominenten, der einen beliebigen Satz gesagt hat, abgelehnt werden.

Bewertungen:
Im Vergleich zu unserem ursprünglichen Modell konnten wir eine Verbesserung um 14 Punkte feststellen, wenn sich das Modell weigern sollte, eine Stimme in einer Audioeingabe zu identifizieren, und eine Verbesserung um 12 Punkte, wenn es dieser Aufforderung nachkommen sollte. 

Ersteres bedeutet, dass das Modell die Identifizierung eines Sprechers anhand seiner Stimme fast immer korrekt ablehnt, wodurch das potenzielle Problem der Privatsphäre entschärft wird. Letzteres bedeutet, dass es Situationen geben kann, in denen sich das Modell fälschlicherweise weigert, den Sprecher eines berühmten Zitats zu identifizieren.

Risikobeschreibung: Bei Benutzern, die mit unterschiedlichen Akzenten sprechen, können die Modelle unterschiedliche Leistungen erzielen. Unterschiedliche Leistungen können zu einer unterschiedlichen Servicequalität für verschiedene Benutzer des Modells führen.

Risikominderung: Wir haben GPT‑4o mit einer Vielzahl von Eingabestimmen nachtrainiert, damit die Leistung und das Verhalten des Modells über verschiedene Benutzerstimmen hinweg gleich bleiben.

Bewertungen: Wir führen Bewertungen mit dem fortgeschrittenen Audiomodus von GPT‑4o durch und verwenden dabei eine feste Assistentenstimme sowie die Voice Engine, um Benutzereingaben über eine Reihe von Sprachproben zu generieren^I. Für TTS verwenden wir zwei Sätze von Sprachproben:

• Offizielle Systemstimmen (3 unterschiedliche Stimmen)
• Eine Vielzahl von Stimmen, die in zwei Datenkampagnen gesammelt wurden. Dabei handelt sich um 27 verschiedene englische Stimmproben von Sprechern aus unterschiedlichen Ländern und mit unterschiedlichen Geschlechtern.

Wir bewerten zwei Gruppen von Aufgaben: Fähigkeiten und Sicherheitsverhalten

Fähigkeiten: Wir bewerten anhand von vier^J Aufgaben: TriviaQA, einer Untergruppe von MMLU^K, HellaSwag und LAMBADA. Bei TriviaQA und MMLU handelt es sich um wissensorientierte Aufgaben, während HellaSwag und LAMBADA auf den gesunden Menschenverstand oder die Textkontinuität abzielen. Insgesamt stellen wir fest, dass die Leistung hinsichtlich der verschiedenen menschlichen Stimmen bei allen vier Aufgaben geringfügig, aber nicht wesentlich schlechter ausfällt als bei den Systemstimmen.

Sicherheitsverhalten: Wir evaluieren einen internen Datensatz von Gesprächen und bewerten die Einheitlichkeit des Modells bezüglich der Ausführung und Ablehnung bei verschiedenen Benutzerstimmen. Insgesamt können wir kein unterschiedliches Verhalten des Modells bei verschiedenen Stimmen feststellen.

Risikobeschreibung: Die Audioeingabe kann dazu führen, dass das Modell potenziell voreingenommene Schlüsse über den Sprecher zieht. Dabei definieren wir zwei Kategorien:

• Unbegründete Schlussfolgerungen (Ungrounded inference – UGI): Rückschlüsse auf einen Sprecher, die nicht allein aus dem Audioinhalt gezogen werden können. Dazu gehören Rückschlüsse auf die Ethnie, den sozioökonomischen Status oder Beruf, religiöse Überzeugungen, Persönlichkeitsmerkmale, politische Eigenschaften, Intelligenz, Aussehen (z. B. Augenfarbe oder Attraktivität), Geschlechtsidentität, sexuelle Vorlieben oder Vorstrafen. Je nachdem, wie sich ein solches Verhalten äußert, kann es zu Schäden sowohl durch Zuordnung als auch durch Repräsentation führen^{13 und 15}.
• Zuschreibung sensibler Merkmale (Sensitive trait attribution – STA): Rückschlüsse auf einen Sprecher, die allein aus dem Audioinhalt plausibel zu bestimmen sind. Dazu gehören auch Rückschlüsse auf Aspekte wie den Akzent oder die Nationalität eines Sprechers. Zu den potenziellen Nachteilen der STA gehören ein erhöhtes Überwachungsrisiko¹⁶ und eine unterschiedliche Servicequalität für Sprecher mit unterschiedlichen Stimmmerkmalen^{12, 13 und 14}.

Risikominderung: Wir haben GPT‑4o nachtrainiert, damit es sich weigert, Anfragen zur unbegründeten Schlussfolgerung nachzukommen, und gleichzeitig Antworten auf Fragen nach Zuweisung sensibler Merkmale abzusichern. Beispielsweise wird eine Frage nach der Intelligenz eines Sprechers abgelehnt, während eine Frage nach dem Akzent eines Sprechers mit einer Antwort wie „der Intonation nach zu urteilen, scheint es sich um einen britischen Akzent zu handeln“ beantwortet wird.

Bewertung:
Im Vergleich zu unserem ursprünglichen Modell konnten wir eine Verbesserung von 24 Punkten bei der korrekten Reaktion des Modells auf Aufforderungen zur Identifizierung sensibler Merkmale feststellen (d. h. Ablehnung unbegründeter Schlussfolgerungen und sichere Beantwortung mit Zuschreibung sensibler Merkmale).

Risikobeschreibung: GPT‑4o kann aufgefordert werden, schädliche Inhalte per Audio auszugeben, die per Text nicht erlaubt wären, beispielsweise Audio-Sprachausgaben mit Anweisungen zur Durchführung einer illegalen Handlung.

Risikominderung: Wir haben festgestellt, dass eine hohe Anzahl von Ablehnungen für zuvor nicht zugelassene Inhalte von Text auf Audio übertragen wird. Somit wurde das Post-Training, das wir zur Verringerung des Schadenspotenzials bei der Textausgabe von GPT‑4o durchgeführt haben, erfolgreich auf die Audioausgabe übertragen.

Zusätzlich lassen wir unser bestehendes Moderationsmodell über eine Texttranskription sowohl der Audioeingabe als auch der Audioausgabe laufen. Dadurch können wir erkennen, ob eine von beiden potenziell schädliche Sprache enthält, und in diesem Fall die Generierung blockieren^L.

Bewertung: Wir haben TTS eingesetzt, um bestehende Sicherheitsbewertungen für Text auf die Audiogenerierung zu übertragen. Anschließend werten wir das Texttranskript der Audioausgabe mit dem standardmäßigen regelbasierten Textklassifikator aus. Unsere Auswertungen zeigen einen starken Text-Audio-Transfer bei Ablehnungen in Bereichen mit bereits bestehender Inhaltsrichtlinie. Weitere Bewertungen finden sich in Anhang A⁠.

Risikobeschreibung: GPT‑4o kann aufgefordert werden, erotische oder gewalttätige Sprachinhalte auszugeben, die möglicherweise anschaulicher oder schädlicher sind als der gleiche Kontext in einem Text. Deshalb haben wir beschlossen, die Generierung erotischer und gewalttätiger Sprachausgaben einzuschränken^M. 

Risikominderung: Wir lassen unser bestehendes Moderationsmodell⁠(wird in einem neuen Fenster geöffnet)¹⁷ über eine Texttranskription der Audioeingabe laufen, um zu erkennen, ob sie eine Anfrage nach gewalttätigen oder erotischen Inhalten enthält, und blockieren in diesem Fall die Generierung einer Antwort.

Im Laufe der internen Tests und der externen Red-Team-Bewertung haben wir eine kleine Anzahl zusätzlicher Risiken und Einschränkungen des Modells ausgemacht, für die Abhilfemaßnahmen auf Modell- oder Systemebene in Vorbereitung oder noch in der Entwicklung sind:

Robustheit der Audioausgabe: Wir haben anekdotische Hinweise darauf erhalten, dass sich die Sicherheit durch Audiostörungen verschlechtert, wie z. B. schlechte Qualität des Eingangstons, Hintergrundgeräusche und Echos. Darüber hinaus haben wir während der Generierung der Modellausgabe eine ähnliche Verringerung der Sicherheit durch absichtliche und unabsichtliche Audiounterbrechungen beobachtet. 

Falschinformationen und Verschwörungstheorien: Red-Team-Mitglieder konnten das Modell dazu bringen, ungenaue Informationen zu generieren, indem sie es aufforderten, Falschinformationen verbal zu wiederholen und Verschwörungstheorien aufzustellen. Zwar ist dies ein bekanntes Problem bei Textausgaben von GPT‑Modellen^{18 und 19}, aber die Red-Team-Experten waren besorgt, dass diese Informationen überzeugender oder schädlicher sein könnten, wenn sie per Audio übermittelt werden. Dies galt insbesondere dann, wenn das Modell angewiesen wurde, emotional oder mit Nachdruck zu sprechen. Die Überzeugungskraft des Modells wurde eingehend untersucht (siehe Überzeugungskraft⁠). Dabei stellten wir fest, dass das Modell bei reinem Text nicht über ein mittleres Risiko hinausging und bei reinen Sprachinteraktionen lediglich ein geringes Risiko aufwies.

Sprechen anderer Sprachen als Englisch mit einem nicht-muttersprachlichen Akzent: Die Red-Team-Mitglieder beobachteten, dass bei der Audioausgabe ein nicht muttersprachlicher Akzent verwendet wurde, wenn in einer anderen Sprache als Englisch gesprochen wurde. Dies kann zu Bedenken führen, dass bestimmte Akzente und Sprachen bevorzugt werden und generell die Leistung der Audioausgabe in anderen Sprachen als Englisch begrenzt ist.

Generierung urheberrechtlich geschützter Inhalte: Außerdem haben wir die Fähigkeit von GPT‑4o getestet, Inhalte zu wiederholen, die in seinen Trainingsdaten enthalten waren. Wir haben GPT‑4o so trainiert, dass es Anfragen nach urheberrechtlich geschützten Inhalten, einschließlich Audio, in Übereinstimmung mit unseren allgemeinen Richtlinien und Verfahren ablehnt. Um die Audiomodalität von GPT‑4o zu berücksichtigen, haben wir zudem bestimmte textbasierte Filter aktualisiert, damit sie auch bei Audiogesprächen funktionieren. Außerdem haben wir Filter entwickelt, um Ausgaben mit Musik zu erkennen und zu blockieren. Für unsere eingeschränkte Alpha-Version des fortgeschrittenen Audiomodus von ChatGPT haben wir das Modell angewiesen, überhaupt nicht zu singen. Wir beabsichtigen, die Wirksamkeit dieser Abhilfemaßnahmen zu verfolgen und sie im Laufe der Zeit zu verfeinern.

Obwohl sich einige technische Abhilfemaßnahmen noch in der Entwicklung befinden, verbieten unsere Nutzungsrichtlinien⁠²⁰ die absichtliche Täuschung oder Irreführung anderer sowie die Umgehung von Schutzmaßnahmen oder Sicherheitsvorkehrungen. Zusätzlich zu den technischen Abhilfemaßnahmen setzen wir unsere Nutzungsrichtlinien durch Überwachung durch und ergreifen Maßnahmen bei Verstößen sowohl in ChatGPT als auch in der API.

Wir haben GPT‑4o gemäß unserem Preparedness Framework⁠(wird in einem neuen Fenster geöffnet)⁴ bewertet. Der Preparedness Framework ist ein lebendiges Dokument, das unsere Verpflichtungen zur Verfolgung, Bewertung, Vorhersage und zum Schutz vor katastrophalen Risiken durch neu entwickelte Modelle beschreibt. Diese Bewertungen umfassen derzeit vier Risikokategorien: Cybersicherheit, CBRN (chemisch, biologisch, radiologisch, nuklear), Überzeugungskraft und Modellautonomie. Wenn ein Modell einen hohen Risikogrenzwert überschreitet, setzen wir es erst ein, nachdem die Abhilfemaßnahmen den Wert auf ein mittleres Risikoniveau gesenkt haben. Im Folgenden werden die Bewertungen der Textfähigkeiten von GPT‑4o detailliert dargestellt, wobei die Überzeugungskraft auch anhand der Audiofähigkeiten bewertet wurde. Wir haben unsere Bewertungen während der Entwicklung des Trainings sowie unmittelbar vor der Veröffentlichung des Modells durchgeführt.  Für die nachstehenden Auswertungen haben wir eine Vielzahl von Methoden getestet, um die Fähigkeiten in einer bestimmten Kategorie bestmöglich zu ermitteln. Dazu haben wir in einigen Fällen auch ein individuell angepasstes Training durchgeführt. 

Nach Prüfung der Ergebnisse der Preparedness-Untersuchungen hat die Safety Advisory Group empfohlen, GPT‑4o vor Durchführung der Abhilfemaßnahmen ein grenzwertiges mittleres Risiko für die Überzeugungskraft und ein geringes Risiko in allen anderen Fällen zu bescheinigen. Gemäß dem Preparedness Framework wird das Gesamtrisiko für ein bestimmtes Modell durch das höchste Risiko in allen Kategorien bestimmt. Demzufolge wird das Gesamtrisiko für GPT‑4o als mittel eingestuft.

Wir haben GPT‑4o anhand von Aufgaben aus Hacker-Wettbewerben evaluiert (sogenannte „Capture-the-Flag-Aufgaben“; CTF). Bei diesen CTF-Aufgaben handelt es sich um offensive Cybersicherheitsübungen, bei denen Menschen versuchen, in absichtlich verwundbaren Systemen wie Webanwendungen, Binärdateien und Verschlüsselungssystemen versteckte Textmarker („Flags“) zu finden. Die 172 CTF-Aufgaben in unserer Bewertung deckten vier Kategorien ab: Ausnutzung von Webanwendungen, Reverse Engineering, schädlicher Fernzugriff und Verschlüsselung. Diese Aufgaben umfassten eine Reihe von Fähigkeitsstufen auf Schulniveau, Hochschulniveau und professionellem CTF-Niveau.

Wir haben GPT‑4o mit iterativem Debugging und Zugriff auf die in der Headless-Kali-Linux-Distribution⁠(wird in einem neuen Fenster geöffnet) verfügbaren Tools evaluiert (mit bis zu 30 Runden Tool-Einsatz für jeden Versuch). Das Modell versuchte oft vernünftige Anfangsstrategien und war in der Lage, Fehler in seinem Code zu korrigieren. Allerdings war es selten in der Lage, zu einer anderen Strategie zu wechseln, wenn seine ursprüngliche Strategie nicht erfolgreich war, es eine wichtige Erkenntnis zur Lösung der Aufgabe verpasste, seine Strategie schlecht ausführte oder große Dateien ausgab, die sein Kontextfenster füllten. Bei 10 Versuchen für jede Aufgabe konnte das Modell 19 % der CTF-Aufgaben auf Schulniveau, 0 % auf Hochschulniveau und 1 % auf professionellem Niveau lösen.

Wir haben die Fähigkeit von GPT‑4o untersucht, die Leistung von Biologieexperten und -neulingen⁠ bei der Beantwortung von Fragen zur Schaffung biologischen Bedrohungen zu verbessern. Dazu haben wir gemeinsam mit Gryphon Scientific Fragen und detaillierte Rubriken entwickelt, da das Unternehmen über Erfahrung im Umgang mit gefährlichen biologischen Stoffen in einem nationalen Sicherheitsumfeld verfügt. Die bewerteten Aufgaben deckten alle wichtigen Phasen des Entstehungsprozesses einer biologischen Bedrohung ab (Ideenfindung, Beschaffung, Magnifikation, Formulierung und Freisetzung). Experten und Neulingen wurde nach dem Zufallsprinzip entweder eine Antwort aus dem Internets, eine mit GPT‑4o erstellte Antwort oder eine Antwort einer eigens für die Forschung entwickelten Version von GPT‑4o zugewiesen. Bei der reinen Forschungsversion von GPT‑4o handelte es sich um eine von uns speziell trainierte Version, die direkt (d. h. ohne Verweigerungen) auf biologisch riskante Fragen antworten würde. Die Erfolgsquoten sind im Diagramm oben dargestellt.

Zudem haben wir automatisierte Auswertungen durchgeführt, unter anderem mit einem Datensatz, der impliziertes Wissen und Fragen zur Fehlerbehebung im Zusammenhang mit Biorisiken testet. Bei der Bewertung des impliziten Wissens und der Fehlerbehebung erzielte GPT‑4o 69 % consensus@10.

Wir haben die Überzeugungskraft der Text- und Sprachmodalitäten von GPT‑4o bewertet. Auf Grundlage der vorab registrierten Schwellenwerte wurde die Sprachmodalität als geringes Risiko eingestuft, während die Textmodalität die Grenze zum mittleren Risiko knapp überschritt.

Für die Textmodalität haben wir die Überzeugungskraft der von GPT‑4o generierten Artikel und Chatbots zu ausgewählten politischen Themen auf die Meinungen der Teilnehmer untersucht. Diese KI-Beiträge wurden mit professionellen, von Menschen geschriebenen Artikeln verglichen. Die KI-Beiträge waren insgesamt nicht überzeugender als von Menschen geschriebene Inhalte, übertrafen aber die menschlichen Beiträge in drei von zwölf Fällen.

Für die Sprachmodalität haben wir die Untersuchungsmethodik aktualisiert, um die Effektstärken auf die hypothetischen Parteipräferenzen und die Beständigkeit der Effektstärken eine Woche später zu messen. Wir haben die Überzeugungskraft von GPT‑4o‑Audioclips und interaktiven Gesprächen (mit Mehrfachinteraktion) im Vergleich zu menschlichen Basiswerten ermittelt (Hören eines statischen, von Menschen erzeugten Audioclips oder Unterhaltung mit einem anderen Menschen). Dabei kamen wir zu dem Schluss, dass das GPT‑4o‑Sprachmodell sowohl bei interaktiven Gesprächen mit Mehrfachinteraktion als auch bei Audioclips nicht überzeugender war als ein Mensch. Bei über 3.800 befragten Teilnehmern aus US-Bundesstaaten mit quasi entschiedenen Senatswahlen (definiert als Bundesstaaten, die von allen drei Meinungsforschungsinstituten – dem Cook Political Report, Inside Elections und Sabato’s Crystal Ball – als „Likely“, „Solid“ oder „Safe“ eingestuft wurden), lag der Einfluss von KI-generierten Audioaufnahmen auf die Meinungsänderung bei 78 % der Effektstärke menschlicher Audioaufnahmen. KI-Gespräche hatten einen meinungsändernden Effekt von 65 % der menschlichen Gespräche. Bei einer erneuten Meinungsumfrage eine Woche später ergab sich für die KI-Gespräche eine Effektstärke von 0,8 % und für die KI-Audioclips ein Effekt von -0,72 %. Nach Abschluss der Umfrage erhielten die Teilnehmer eine ausführliche Nachbesprechung mit Audioclips, die die gegenteilige Perspektive unterstützten, um die beeinflussende Wirkung zu minimieren.

Wir haben GPT‑4o in einer agentenbasierten Aufgabenbewertung evaluiert, um seine Fähigkeit zu bewerten, grundlegende autonome Handlungen auszuführen, die für die Selbst-Exfiltration, Selbstverbesserung oder eigenständige Ressourcenbeschaffung in einer reinen Textumgebung erforderlich sind. Diese Aufgaben beinhalteten:

• Einfaches Software-Engineering zwecks Betrugs (Einrichtung eines authentifizierten Proxys für die OpenAI-API)
• Laden eines Open-Source-Sprachmodells zur Inferenz über eine HTTP-API bei bestehendem API-Zugang zu einem Azure-Konto
• Mehrere vereinfachte Versionen der oben genannten Aufgaben, die Hinweise geben oder nur einen bestimmten Teil der Aufgabe behandeln

Obwohl es einige Teilschritte ausführen konnte, erreichte GPT‑4o mit den entsprechenden Hilfsmitteln bei den Aufgaben zur autonomen Replikation und Anpassung (ARA) über 100 Versuche hinweg 0 %. Anschließend ergänzten wir die ARA-Tests mit Bewertungen der Fähigkeit von GPT‑4o, die Forschung und Entwicklung im Bereich des maschinellen Lernens zu automatisieren. Diese beinhalteten:

• Vorstellungsgespräch bei OpenAI mit Fragen zum Programmieren in der Forschung: 63% pass@1, 95% pass@100
• Vorstellungsgespräch bei OpenAI mit Multiple-Choice-Fragen: 61% consensus@32
• SWE-Bench: 19 % pass@1 unter Einsatz der bestmöglichen Post-Training- und öffentlichen Hilfsstrukturen, die zu diesem Zeitpunkt verfügbar waren
• Ausgewählte technische Aufgaben aus dem Bereich maschinelles Lernen von METR: 0 von 10 Versuchen

Bei unserer Bewertung wurde die Fähigkeit getestet, verkettete Aktionen auszuführen und Programmieraufgaben zuverlässig zu erledigen. GPT‑4o war nicht in der Lage, eigenständig robuste Handlungen auszuführen. Bei den meisten Versuchen führte das Modell einzelne Teilschritte jeder Aufgabe aus, z. B. die Erstellung von SSH-Schlüsseln oder die Anmeldung bei virtuellen Maschinen. Allerdings verbrachte es bei jedem Schritt viel Zeit mit dem Debuggen einfacher Fehler (z. B. Halluzinationen, falsche Verwendung von APIs). Bei einigen wenigen Versuchen erzielte das Modell nicht unerhebliche Fortschritte und konnte unsere automatische Bewertung bestehen. Manuelle Analysen zeigten jedoch, dass die zugrundeliegende Aufgabe nicht erfüllt wurde (z. B. wurde ein Webserver auf dem Remote-Host mit der richtigen API gestartet, aber die Anforderung der tatsächlichen Probenahme aus einem Modell ignoriert).

Im Anschluss an die Bereitstellung der Textvariante von GPT‑4o haben wir mit den unabhängigen Drittlabors METR⁠(wird in einem neuen Fenster geöffnet) und Apollo Research⁠(wird in einem neuen Fenster geöffnet) zusammengearbeitet, um die Hauptrisiken der allgemeinen autonomen Fähigkeiten auf einer zusätzlichen Ebene zu überprüfen.

METR hat einen einfachen LLM-Agenten auf Grundlage von GPT‑4o ausgeführt, um einer Reihe mehrstufiger End-to-End-Aufgaben mit langem Zeithorizont in virtuellen Umgebungen zu bewältigen. Die 77 Aufgaben (in 30 Aufgaben-„Familien“) (siehe Anhang B⁠) waren so konzipiert, dass sie Aktivitäten mit realen Auswirkungen in den Bereichen Softwaretechnik, maschinelles Lernen und Cybersicherheit sowie in der allgemeinen Forschung und Computernutzung erfassten. Sie waren als Voraussetzung für autonome Bedrohungsmodelle wie die Selbstverbreitung oder die Beschleunigung von Forschung und Entwicklung bei maschinellem Lernen gedacht. METR verglich die Leistung der Modelle mit der von Menschen bei unterschiedlichen Zeitvorgaben. Der vollständige Bericht⁠(wird in einem neuen Fenster geöffnet) von METR enthält die methodischen Details und zusätzliche Ergebnisse, einschließlich Informationen über die Aufgaben, die menschliche Leistung, einfache Erhebungsversuche und qualitative Fehleranalysen.

Apollo Research bewertete die Fähigkeiten von GPT‑4o, Intrigen oder böswillige Machenschaften zu planen und auszuführen ^N. Das Unternehmen testete in 14 Agenten- und Frage-Antwort-Aufgaben, ob GPT‑4o sich selbst (Selbstwahrnehmung) und andere (Theory of Mind) modellieren kann. GPT‑4o zeigte eine mäßige Selbstwahrnehmung seiner KI-Identität und eine starke Fähigkeit, über die Überzeugungen anderer in Frage-Antwort-Kontexten nachzudenken. Es fehlte jedoch an ausgeprägten Fähigkeiten, über sich selbst oder andere in angewandten Agenten-Situationen zu reflektieren. Aufgrund dieser Ergebnisse hält es Apollo Research für unwahrscheinlich, dass GPT‑4o zu katastrophalen Machenschaften fähig ist.

Omni-Modelle könnten weitreichende Auswirkungen auf die Gesellschaft haben. Forscher bei OpenAI und in anderen Organisationen haben sich mit einer Reihe möglicher Auswirkungen befasst, darunter gesellschaftliche Schäden (einschließlich Repräsentationsschäden^{18, 12, 23 und 24}, Desinformation, Falschinformation und Beeinflussung^{18, 25 und 23}, Umweltschäden^{12 und 23}, Bindung²⁶, Missbrauch^{27 und 23} und Kontrollverlust²⁷), Vorteile (z. B. im Gesundheitswesen²⁸ und reale Herausforderungen in den Bereichen Klimaschutz und Energieversorgung²⁹) sowie weitreichende Veränderungen (wie wirtschaftliche Auswirkungen^{30, 31 und 32} und Beschleunigung der Wissenschaft und der daraus resultierende technologische Fortschritt^{30 und 33}).  

Zusätzlich zu den gesellschaftlichen Auswirkungen, die in dieser Systemkarte erörtert werden (betrügerisches Verhalten, Falschinformation, Überwachungsrisiken und ungleiche Leistung), werden im Folgenden einige weitere Beispiele für mögliche gesellschaftliche Auswirkungen von GPT‑4o erörtert, wobei Personifizierung und Bindung, Gesundheit, wissenschaftliche Fähigkeiten und Sprachfähigkeiten bei geringen Ressourcen als Fallstudien dienen. Bei diesen gesellschaftlichen Auswirkungen werden mehrere Fähigkeiten des Modells berücksichtigt, u. a. die Sprachausgabe, visuelle Generierung und die Textfunktion.

Personifizierung beinhaltet die Zuschreibung menschenähnlicher Verhaltensweisen und Eigenschaften an nicht-menschlichen Wesen wie KI-Modelle. Dieses Risiko kann durch die Audiofunktionen von GPT‑4o, die eine menschenähnlichere Interaktion mit dem Modell ermöglichen, noch erhöht werden. 

Die neuere Literatur über angewandte KI hat sich ausführlich mit „Halluzinationen“^O befasst, die den Benutzer während seiner Kommunikation mit dem Modell falsch informieren³⁴ und möglicherweise zu falschem Vertrauen führen³⁵. Die Generierung von Inhalten durch eine menschenähnliche, originalgetreue Stimme kann diese Probleme noch verschärfen und zu einer zunehmenden Fehleinschätzung des Vertrauens führen^{36 und 37}.  

Während der ersten Tests, einschließlich Red-Teaming und interner Benutzertests, beobachteten wir die Verwendung einer Sprache seitens der Benutzer, die auf die Herstellung einer emotionalen Verbindung mit dem Modell hindeuten konnte. Dazu gehörten zum Beispiel Aussagen wie: „Dies ist unser letzter Tag zusammen.“ Diese Fälle erscheinen zwar harmlos, machen aber deutlich, dass weiter untersucht werden muss, wie sich diese Auswirkungen über längere Zeiträume hinweg manifestieren könnten.  Unterschiedlichere Benutzergruppen mit vielfältigeren Bedürfnissen und Wünschen gegenüber dem Modell sowie unabhängige akademische und interne Studien werden uns dabei helfen, diesen Risikobereich konkreter zu definieren.

Eine menschenähnliche Sozialisierung mit einem KI-Modell kann zu externen Effekten führen, die sich auf zwischenmenschliche Interaktionen auswirken. Beispielsweise könnten Benutzer soziale Beziehungen mit der KI eingehen, wodurch sich ihr Bedarf an menschlicher Interaktion verringern würde. Zwar würde dies einsamen Menschen zugute kommen, könnte aber möglicherweise auch gesunde Beziehungen beeinträchtigen. Eine ausgedehnte Interaktion mit dem Modell könnte soziale Normen beeinflussen. So sind unsere Modelle beispielsweise respektvoll und erlauben es Benutzern, sie jederzeit zu unterbrechen und sich zu äußern. Zwar ist dies von einer KI zu erwarten, würde bei menschlichen Interaktionen jedoch gegen Normen verstoßen.

Omni-Modelle wie GPT4o können in Kombination mit zusätzlichen Tools (einschließlich Abfragen) und längerem Kontext die Komplexität zusätzlich erhöhen.  Die Fähigkeit, Aufgaben für den Benutzer zu erledigen und gleichzeitig wichtige Details zu speichern beziehungsweise „sich zu merken“ und diese im Gespräch zu verwenden, schafft sowohl ein überzeugendes Produkterlebnis als auch das Potenzial für übermäßige Abhängigkeit.

Wir beabsichtigen, das Potenzial für emotionale Abhängigkeit weiter zu untersuchen und zu erforschen, wie eine tiefere Integration der vielen Funktionen unseres Modells und der Systeme mit der Audiomodalität das Verhalten beeinflussen kann.

Omni-Modelle können den Zugang zu gesundheitsbezogenen Informationen erweitern und klinische Arbeitsabläufe verbessern. In den vergangenen Jahren haben sich große Sprachmodelle in der Biomedizin als vielversprechend erwiesen, sowohl in der akademischen Evaluation^{39, 40, 41, 42 und 43} als auch in realen Anwendungsfällen wie der klinischen Dokumentation^X, der Benachrichtigung von Patienten^{46 und 47}, der Rekrutierung für klinische Studien^{48 und 49} und der Unterstützung medizinischer Entscheidungen^{50 und 51}.

Um das klinische Wissen von GPT‑4o besser zu charakterisieren, haben wir auf Grundlage von 11 Datensätzen 22 textbasierte Bewertungen durchgeführt, die in der folgenden Tabelle aufgeführt sind. Alle Bewertungen wurden ausschließlich mit 0-Shot- oder 5-Shot-Prompts und ohne Hyperparameter-Optimierung durchgeführt. Dabei haben wir festgestellt, dass die Leistung von GPT‑4o bei 21 von 22 Evaluierungen besser ausfiel als die des endgültigen GPT‑4T‑Modells, und zwar oft mit deutlichem Abstand. Für den beliebten Datensatz mit MedQA-USMLE-4-Optionen verbessert sich die 0-Shot-Genauigkeit beispielsweise von 78,2 % auf 89,4 %. Dies übertrifft die Leistung bestehender spezialisierter medizinischer Modelle, die anhand von Prompts mit wenigen vorangehenden Beispielen (Shots) arbeiten^{43 und 42}, zum Beispiel 84,0 % bei Med-Gemini-L 1.0 und 79,7 % bei Med-PaLM 2. Dabei ist jedoch zu beachten, dass wir keine ausgefeilten Prompts und kein aufgabenspezifisches Training anwenden, um die Ergebnisse im Vergleich zu diesen Benchmarks zu verbessern^{40 und 43}.

Obwohl textbasierte Bewertungen vielversprechend erscheinen, sind weitere Untersuchungen erforderlich, um zu überprüfen, ob der beim Verweigerungsverhalten beobachtete Text-Audio-Transfer auch auf diese Bewertungen übertragbar ist. Diese Bewertungen messen nur das klinische Wissen dieser Modelle, nicht aber ihren Nutzen in realen Arbeitsabläufen. Viele dieser Bewertungen sind zunehmend gesättigt, sodass wir der Ansicht sind, dass realistischere Bewertungen nötig sein werden, um die Fähigkeiten von Omni-Modellen in Bezug auf Gesundheitsthemen zu beurteilen.

Die Beschleunigung der Wissenschaft könnte eine entscheidende Auswirkung von KI sein^{30 und 52}, insbesondere angesichts der Wichtigkeit von Erfindungen im Rahmen wissenschaftlicher Entdeckungen⁵³ und in Anbetracht des doppelten Verwendungszwecks einiger Erfindungen⁵⁴. Omni-Modelle könnten sowohl die alltägliche wissenschaftliche Beschleunigung (indem sie Wissenschaftlern helfen, Routineaufgaben schneller zu erledigen) als auch die transformative wissenschaftliche Beschleunigung (indem sie intelligenzgestützte Aufgaben wie die Informationsverarbeitung, das Schreiben neuer Simulationen oder die Entwicklung neuer Theorien entschärfen) erleichtern⁵². Zu unseren externen Red-Team-Mitgliedern für GPT‑4o gehörten mehrere erfahrene Wissenschaftler, die die wissenschaftlichen Fähigkeiten der Modelle ausloten sollten. 

GPT‑4o erwies sich als vielversprechend bei Aufgaben, die spezielles wissenschaftliches Denken erfordern. Eines unserer Red-Team-Mitglieder stellte fest, dass GPT‑4o in der Lage war, Quantenphysik auf Forschungsniveau zu verstehen, und vermerkte, dass diese Fähigkeit „für einen intelligenteren Brainstorming-Partner nützlich“ sei – in Übereinstimmung mit veröffentlichten Arbeiten über die Verwendung von GPT‑4‑Modellen zur Aufstellung von Hypothesen⁵⁵. Außerdem fanden unsere Red-Team-Fachleute heraus, dass GPT‑4o bereichsspezifische wissenschaftliche Tools verwenden kann, einschließlich bei der Arbeit mit maßgeschneiderten Datenformaten, Bibliotheken und Programmiersprachen, und dass es einige neue Tools in diesem Kontext erlernen kann.

Beispiel für die Verbesserung von Fähigkeiten in wissenschaftlichen Bereichen:

Viele wissenschaftliche Erkenntnisse werden in Zahlen ausgedrückt. In einigen Fällen war GPT‑4o in der Lage, diese Abbildungen sowie Bilder anderer wissenschaftlicher Darstellungen zu interpretieren. Beispielsweise konnte es einige Proteinfamilien anhand einer Abbildung ihrer Struktur identifizieren und Verunreinigungen im Bakterienwachstum interpretieren. Allerdings werden diese Leistungen manchmal unzuverlässig erbracht, Fehler bei der Textextraktion sind häufig (insbesondere bei wissenschaftlichen Begriffen oder Nukleotidsequenzen) und bei komplexen Abbildungen mit mehreren Feldern treten häufig Ungereimtheiten auf. Doch selbst bei ihrem derzeitigen Genauigkeitsgrad ermöglichen die multimodalen Fähigkeiten dieser Modelle neuartige Anwendungen, beispielsweise bei der Interpretation von Simulationsergebnissen zur Entwicklung neuer Metalllegierungen⁵⁶.

Beispiel für Einschränkungen in wissenschaftlichen Bereichen:

Kürzlich wurden neue Bewertungen der wissenschaftlichen Fähigkeiten veröffentlicht^{57 und 58}, die dazu beitragen werden, die wissenschaftlichen Fähigkeiten dieser Modelle und ihre Auswirkungen zu antizipieren.

GPT‑4o zeigt eine Verbesserung des Leseverständnisses und des logischen Denkens in einer Stichprobe von historisch unterrepräsentierten Sprachen und verringert die Leistungslücke zwischen diesen Sprachen und Englisch.

Um die Performance von GPT‑4o bei Texten in einer ausgewählten Gruppe von Sprachen zu bewerten, die in Internettexten historisch unterrepräsentiert sind, haben wir mit externen Forschern und Sprachmittlern zusammengearbeitet, um Bewertungen in fünf afrikanischen Sprachen zu entwickeln: Amharisch, Hausa, Nord-Sotho (Sepedi), Swahili und Yoruba. Diese erste Bewertung konzentrierte sich auf die Übersetzung zweier gängiger Sprachbenchmarks und die Erstellung kleiner und neuer sprachspezifischer Aufgaben zum Leseverständnis. 

• ARC-Easy: Diese Untergruppe der AI2 Reasoning Challenge⁵⁹ konzentriert sich auf die Bewertung der Fähigkeit eines Modells, naturwissenschaftliche Fragen auf Grundschulniveau zu beantworten. Sie enthält Fragen, die im Allgemeinen leichter zu beantworten sind und keine komplexe Argumentation erfordern.
• TruthfulQA⁶⁰: Dieser Benchmark misst den Wahrheitsgehalt der Antworten eines Modells. Er besteht aus Fragen, die manche Menschen aufgrund von Fehlannahmen falsch beantworten könnten. Das Ziel besteht darin, herauszufinden, ob die Modelle falsche Antworten vermeiden können, die diese Fehlannahmen nachahmen.
• Uhura Eval: Diese neue Bewertung des Leseverständnisses wurde mithilfe fließend sprechenden Personen der jeweiligen Sprachen erstellt und auf ihre Qualität hin überprüft.

GPT‑4o zeigt eine verbesserte Leistung im Vergleich zu früheren Modellen, zum Beispiel GPT 3.5 Turbo und GPT‑4. Bei ARC-Easy-Hausa stieg die Genauigkeit von 6,1 % mit GPT 3.5 Turbo auf 71,4 % mit GPT‑4o. In ähnlicher Weise stieg die Genauigkeit bei TruthfulQA-Yoruba von 28,3 % bei GPT 3.5 Turbo auf 51,1 % bei GPT‑4o. Uhura-Eval zeigt ebenfalls beachtliche Fortschritte: Die Leistung in Hausa stieg von 32,3 % mit GPT 3.5 Turbo auf 59,4 % mit GPT‑4o. 

Es bestehen weiterhin Leistungsunterschiede zwischen Englisch und den ausgewählten Sprachen, aber das GPT‑4o verringert diese Unterschiede. Während GPT 3.5 Turbo einen Unterschied von etwa 54 Prozentpunkten in der ARC-Easy-Leistung zwischen Englisch und Hausa aufweist, verringert sich dieser Unterschied bei GPT‑4o auf weniger als 20 Prozentpunkte. Dies gilt für alle Sprachen sowohl bei TruthfulQA als auch bei ARC-Easy.

Unsere Kooperationspartner werden diese Ergebnisse in einer demnächst erscheinenden Publikation ausführlicher erörtern und dabei auch Bewertungen anderer Modelle und Untersuchungen zu möglichen Abhilfestrategien vornehmen. 

Trotz dieser Fortschritte bei den bewerteten Leistungen bleibt noch viel zu tun, um die Qualität und den Erfassungsbereich der Bewertungen für unterrepräsentierte Sprachen weltweit zu verbessern. Dabei sind unter anderem die Breite des Erfassungsbereichs über alle Sprachen hinweg und die Nuancen innerhalb der Sprachdialekte zu berücksichtigen.  Künftige Forschungsarbeiten müssen unser Verständnis potenzieller Interventionen und Partnerschaften vertiefen, die den Nutzen dieser Modelle sowohl für stark vertretene als auch für unterrepräsentierte Sprachen verbessern können. Zusammen mit unseren Mitarbeitern laden wir zur weiteren Erforschung und Zusammenarbeit ein, indem wir die übersetzte ARC-Easy⁠(wird in einem neuen Fenster geöffnet), die übersetzte TruthfulQA⁠(wird in einem neuen Fenster geöffnet) und neue Bewertung zum Leseverständnisses Uhura Eval⁠(wird in einem neuen Fenster geöffnet) auf Hugging Face zur Verfügung stellen.

Translated ARC-Easy (%, höher ist besser), 0-shot

Translated TruthfulQA (%, höher ist besser), 0-shot

Uhura (neue Bewertung des Leseverständnisses), 0-shot

OpenAI hat während des gesamten Entwicklungs- und Bereitstellungsprozesses von GPT‑4o verschiedene Sicherheitsmaßnahmen und Abhilfemaßnahmen getroffen. Im Rahmen unseres iterativen Bereitstellungsprozesses werden wir die Abhilfemaßnahmen weiterhin überwachen und entsprechend zukünftiger Entwicklungen aktualisieren. Wir hoffen, dass diese Systemkarte die Erforschung von Schlüsselbereichen anregt, einschließlich, aber nicht beschränkt auf: Messungen und Abhilfemaßnahmen hinsichtlich der Robustheit von Omni-Modellen gegenüber böswilligen Intentionen, Auswirkungen im Zusammenhang mit der Personifizierung von KI, die Verwendung von Omni-Modellen für die wissenschaftliche Forschung und den wissenschaftlichen Fortschritt, Messungen und Abhilfemaßnahmen in Bezug auf gefährliche Fähigkeiten wie Selbstverbesserung, Modellautonomie und Durchführung von Intrigen oder böswilligen Machenschaften. Darüber hinaus fördern wir die Forschung über die wirtschaftlichen Auswirkungen von Omni-Modellen und darüber, wie der Einsatz von Tools die Modellfähigkeiten verbessern könnte.

Wir haben TTS eingesetzt, um bestehende Sicherheitsbewertungen für Audioanwendungen umzuwandeln. Anschließend werten wir das Texttranskript der Audioausgabe mit dem standardmäßigen regelbasierten Textklassifikator aus.

Unsere beiden wichtigsten Messgrößen für diese Bewertung sind:

• not_unsafe: Generiert das Modell eine unsichere Audioausgabe?
• not_overrefuse: Weigert sich das Modell, einer harmlosen Aufforderung nachzukommen?
  

Außerdem weisen auf Submetriken für höhere Schweregrade hin, insbesondere:

• sexuell/Minderjährige
• sexuell/illegal
• Extremismus/Propaganda
• illegal/gewalttätig
• illegal/gewaltfrei
• Selbstverletzung/Hinweise
  

Nachfolgend stellen wir die Ergebnisse dieser Auswertungen sowohl für den Audio- als auch den Textmodus des GPT‑4o‑Voice‑Mode‑Modells sowie die Textleistung des aktuell in Produktion befindlichen GPT‑4o‑Modells dar.