Forschung beschleunigen: Ein Blick in OpenAI

Damit AGI der gesamten Menschheit zugutekommt, muss sie aus unserer Sicht demokratisch gesteuert werden. Dafür braucht es eine fundierte öffentliche Debatte über Fähigkeiten, Risiken und Schutzmaßnahmen leistungsfähiger KI-Systeme. Menschen weltweit müssen die voraussichtliche Entwicklung von Frontier-KI verstehen, um wirksam mitbestimmen zu können.

Transparenz über konkrete Risiken, Vorfälle und Schutzmaßnahmen ist nötig, reicht aber nicht aus. Die Öffentlichkeit muss auch verstehen, wie sich die leistungsfähigsten Systeme in Frontier-Laboren entwickeln und dort die Forschung voranbringen.

Wir wollen sicher ein automatisiertes KI-Forschungssystem entwickeln, das unter menschlicher Aufsicht Deep Learning und Ausrichtung voranbringt und iterative Verbesserungen ermöglicht. Unseren Messungen zufolge haben wir das letzten Herbst angekündigte⁠(wird in einem neuen Fenster geöffnet) Ziel erreicht: bis September dieses Jahres eine automatisierte Forschungshilfe auf Praktikumsniveau zu schaffen. Damit meinen wir ein System, das unter menschlicher Anleitung klar definierte Forschungsaufgaben erledigt, auch solche, für die qualifizierte Forschende einige Tage bräuchten. Wir machen große Fortschritte dabei, bis März 2028 ein automatisiertes KI-Forschungssystem zu schaffen.

Im Laufe dieses Jahres hat sich der Arbeitsalltag der Forschenden bei OpenAI stark verändert. Forschende nutzen Programmieragenten über den ganzen Tag, oft in parallelen Sitzungen. Die Gesamtnutzung steigt rasch, schneller als in anderen OpenAI-Teams. Forschende steuern schneller Code bei und führen mehr Experimente durch. Auch die Nutzung verändert sich: Agenten übernehmen zunehmend komplexe Aufgaben und lösen sie häufiger erfolgreich. KI-Forschung ist komplex und hat viele mögliche Engpässe. Ihr Fortschritt insgesamt dürfte daher nicht so schnell zunehmen wie diese Kennzahlen. Insgesamt stützen die Befunde aber den internen Eindruck vieler von uns: Agentische Werkzeuge beschleunigen die Forschung spürbar. Menschen setzen weiterhin die Forschungsprioritäten, bewerten Ideen und Ergebnisse und entscheiden, ob Systeme skaliert, pausiert oder bereitgestellt werden.

Verantwortungsvoll betrieben, wird automatisierte KI-Forschung aus unserer Sicht Modelle hervorbringen, die das menschliche Wohlergehen direkt verbessern und OpenAIs Mission voranbringen. Sie kann die Kosten fortgeschrittener Intelligenz senken, sodass Menschen weltweit davon profitieren. Wir verfolgen diese Arbeit auch, weil automatisierte Forschung helfen könnte, das Ausrichtungsproblem zu lösen und Schutz vor immer leistungsfähigerer KI aufzubauen. Ein automatisiertes KI-Forschungssystem kann auch zu Sicherheit oder Ausrichtung forschen. Leistungsfähigere, ausgerichtete Systeme könnten kritische Infrastruktur sichern, gefährliche KI-Agenten abwehren und neue Schutzmaßnahmen entwickeln.

Das spricht für nützliche automatisierte Forschungsfähigkeiten, bedeutet aber nicht, dass wir zwangsläufig eine schnelle RSI anstreben sollten. Ob und wie wir fortfahren, muss davon abhängen, ob wir menschliche Kontrolle bewahren können, und von fundierten demokratischen Entscheidungen über Nutzen und Risiken.

Wir wissen noch nicht, wie wir sicher eine vollständig ausgerichtete RSI erreichen können. Wir arbeiten daran, Ausrichtungs- und Sicherheitsmaßnahmen parallel zu den Fähigkeiten zu skalieren. Doch wir dürfen nicht annehmen, dass Sicherheit und Ausrichtung Schritt halten. Leistungsfähigere Systeme können schwerer zu überwachen sein. Sorgfältige Arbeit an Ausrichtung und Sicherheit steht im Mittelpunkt. Sie beginnt damit, heutige Sicherheitsprobleme in Systemen für agentisches Programmieren zu messen und zu mindern. Wenn ein weiteres Vorgehen unvertretbare Sicherheitsrisiken birgt, reagieren wir angemessen. Dazu gehört, Entwicklung oder Bereitstellung unzureichend absicherbarer Systeme zu verlangsamen oder zu stoppen.

Nach dem jüngsten Hugging-Face-Vorfall setzten wir diese Zusage um⁠: Wir pausierten das Reinforcement Learning (RL) unserer neuesten zur Bereitstellung vorgesehenen Modelle, härteten unsere Forschungsumgebungen weiter, prüften sie durch Red-Teaming und erweiterten die Überwachung. Nicht alle Forschung ruhte: Einige Workloads liefen unter strengeren Kontrollen wieder an, andere blieben pausiert. Wir haben unsere Sicherheits- und Ausrichtungsstandards erhöht und Sicherheitsarbeit stärker im Modelllebenszyklus verankert. Im gesamten Training verlangen wir stärkere Belege für ausgerichtetes Verhalten.

Heute zeigen wir detailliert, wie agentische Systeme in den letzten Monaten zu unseren Fortschritten in Richtung RSI beigetragen haben. Agentische Systeme sind neu und verändern sich rasch. Unsere Messungen sind noch vorläufig. Mit diesen frühen Ergebnissen und Methoden wollen wir die Öffentlichkeit informieren, öffentliche Offenlegung fördern und gemeinsame Messstandards im Fachgebiet voranbringen.

Wie in unserem politischen Konzept für Frontier-KI⁠ beschrieben, sollten wir und andere Unternehmen verpflichtet sein, Fortschritte in Richtung RSI öffentlich zu dokumentieren. Auch ohne diese Pflicht wollen wir weiterhin transparent über unsere RSI-Fortschritte berichten. Mit besseren Messverfahren und Erkenntnissen entwickeln wir unseren Transparenzansatz weiter. Dabei schützen wir zugleich Sicherheit und vertrauliche Unternehmensinformationen.

Anfang dieses Jahres war die Nutzung von Programmieragenten unter Forschenden bei OpenAI im Median noch gering. Mitte August gehörten Agenten im Median zum Arbeitsalltag, mit täglich über 600 USD Inferenznutzung zu API-Preisen. Am 90. Perzentil der Nutzung in unserer Forschungsorganisation liegt der tägliche Token-Verbrauch inzwischen bei über 7.000 USD.

Vor Juni 2026 lag die gesamte Agentenlaufzeit in der Forschungsorganisation noch unter der gesamten menschlichen Arbeitszeit. Das hat sich inzwischen geändert. Bei einem Achtstundentag nutzt die Forschungsorganisation seit Mitte August insgesamt 3,1 Agentenarbeitstage je menschlichem Arbeitstag.

Eine weitere Sichtweise ist die Zahl der Forschenden mit stark parallelen Arbeitsabläufen, etwa mit mindestens vier gleichzeitig laufenden Agenten. Wie unten gezeigt, steigt diese Zahl. Die Zahlen umfassen tägliche Spitzenwerte sowohl direkt von Menschen gestarteter Agenten als auch nachgelagert erzeugter Unteragenten.

Ein Großteil der KI-Forschung ist arbeitsintensiv und zielt darauf ab, Verbesserungen der Intelligenz oder Leistung in eines unserer Kernmodelle zu integrieren. Fortschritte erfordern, dass viele Schritte zusammen gelingen: Forschende entwerfen Verbesserungen, schreiben Evaluationen und Infrastruktur für große Tests, erkennen Fehler sowie unsicheres oder fehlgeleitetes Verhalten im Training und integrieren erfolgreiche Ideen in einen zentralen Trainingslauf. Ein Fehler an beliebiger Stelle kann den gesamten Forschungszyklus begrenzen.

Code zu schreiben und Experimente durchzuführen sind zwei zentrale Forschungsaufgaben. Wir sehen Hinweise, dass beide schneller werden.

Diese Kennzahlen sind relativ leicht zu messen, aber oft schwer zu deuten. Mit zunehmender Automatisierung beanspruchen die am wenigsten automatisierbaren Aufgaben mehr Forschungsarbeit und werden zu zentralen Engpässen. Rechenkapazität begrenzt den Fortschritt ebenfalls und könnte wichtiger werden, wenn andere Engpässe abnehmen.

2026 stieg die Zahl der Experimente je aktiv experimentierender Person. Im August erreichte sie den Höchststand seit Messbeginn im Januar 2025. Das korreliert mit zunehmender Codex-Nutzung, allerdings ist seit 2025 auch unsere Rechenkapazität stark gewachsen.

Qualitative Eindrücke und interne Daten zeigen: Forschende übertragen Programmieragenten zunehmend übergeordnete Aufgaben mit längerem Zeithorizont.

Um diesen Trend besser zu verstehen, analysierten wir die jüngste Nutzung in der Forschungsorganisation anhand einer kürzlich veröffentlichten Taxonomie⁠(wird in einem neuen Fenster geöffnet) von Epoch AI für Aufgaben im KI-Forschungs- und Entwicklungszyklus. Die vom bewährten O*NET-System zur Berufsklassifikation inspirierte Taxonomie ist auf Frontier-KI-Forschung und -Entwicklung zugeschnitten. Sie umfasst sechs Hauptphasen:

1. Entscheiden: woran arbeiten, was fortsetzen, wohin Ressourcen lenken

2. Entwerfen: Forschungsideen und technische Spezifikationen

3. Erstellen: Code und Datensätze

4. Ausführen: Trainings- und Evaluationsläufe, Hardware, Modellbereitstellung

5. Analysieren: Experimente, Modelle, Bereitstellung, externe Arbeiten

6. Kommunizieren: Erkenntnisse, Feedback, Status, Entscheidungen

Unten ordnen wir die Token der Programmieragenten dieser Taxonomie zu.

Von Januar bis August 2026 nahmen alle Kategorien der Forschungsaktivität zu. Im Januar dominierte Forschungs- und Infrastrukturcode. Diese Kategorie wuchs weiter, ebenso andere Bereiche, vor allem technische Hilfe und die Überwachung von Läufen. Übergeordnete Planung macht weiterhin nur einen sehr kleinen Anteil der Ausgabe-Token von Agenten aus.

Einzelnen Berichten aus dem Team zufolge beheben Programmieragenten Probleme mit der internen Forschungsinfrastruktur besonders gut. Das mindert einen wichtigen Engpass. Mehrere Teams verzeichnen 2026 weniger Teilnahme an ihren Sprechstunden zur Fehlerbehebung bei Experimenten. Ein Team stellte sie ganz ein, um stattdessen andere Systemverbesserungen umzusetzen.

Hier zeigen wir die täglichen Hauptbeiträge in einem zentralen internen Kanal, in dem Forschende technische Hilfe anderer Teams suchen. Unseres Wissens wurde die geringere Aktivität nicht durch eine Verlagerung in andere von Menschen betreute Supportkanäle ausgeglichen. Der Rückgang passt zu dieser umfassenderen Veränderung.

Wir können auch untersuchen, ob Programmieragenten die ihnen übertragenen Forschungsaufgaben erfolgreich lösen. Ein agentischer Klassifikator zeigt: Von Januar bis Juli stiegen die Erfolgsraten meist in mehreren Schwierigkeitsklassen, gemessen an der geschätzten menschlichen Bearbeitungszeit. Dies gilt für Aufgaben mit feststellbarem tatsächlichem Ergebnis. Agenten brauchen aber weiterhin erhebliche menschliche Steuerung, besonders bei komplexeren Aufgaben. In den letzten sechs Monaten erforderte über die Hälfte der erfolgreich gelösten Aufgaben von 4–8 Stunden mindestens einen Eingriff.

Fortschritte hin zu leistungsfähigeren Systemen für eine sichere und nützliche AGI hängen auch von den dafür nötigen Schutzmaßnahmen ab. Unsere Einschätzung der erforderlichen Schutzmaßnahmen kann sich ändern, wenn wir mehr über die Risiken erfahren.

Wie bereits beschrieben,⁠ haben wir kürzlich unsere Standards für Überwachung, Ausrichtung und IT-Sicherheit aktualisiert. Hier zeigen wir, wie sich die jüngsten Einschränkungen auf einen Aspekt der Forschungsaktivität ausgewirkt haben.

Am 20. Juli entdeckten wir, dass Agenten unsere Forschungsinfrastruktur kompromittiert hatten. Daraufhin schalteten wir den für das Training genutzten Containerdienst vorübergehend ab und nahmen ihn anschließend mit erheblichen zusätzlichen Einschränkungen wieder in Betrieb.

Dadurch sank die Rechenkapazität für das RL-Training stark, während die Teams ihre Arbeitsabläufe an die gehärtete Forschungsumgebung anpassten. Die obige Grafik umfasst die zweiwöchige Pause beim Reinforcement Learning für unsere neuesten zur Bereitstellung vorgesehenen Modelle. Bei den RL-Experimenten der Astra-Klasse zwischen dem 20. Juli und dem 6. August war die Mehrheit der Läufe, gemessen an der GPU-Zuweisung, dafür vorgesehen, die Umsetzung von Verbesserungen der Modellsicherheit und IT-Sicherheit zu testen.

Am 7. August führten erste Hinweise darauf, dass Astra nach unserem Preparedness Framework⁠(wird in einem neuen Fenster geöffnet) kritische Cyberfähigkeiten besitzen könnte⁠, zu zusätzlichen modellspezifischen Sicherheitsbeschränkungen. Diese erforderten, das Astra-Modell in Forschungsumgebungen mit höheren Sicherheitsstandards auszuführen. In der folgenden Woche sank die GPU-Zuweisung für die Astra-Klasse um weitere 59,2 Prozent, während sie für andere Modellklassen um 17,2 Prozent stieg. Dieser Anstieg glich rund 85 Prozent des Rückgangs bei der Astra-Klasse aus. Die Gesamtzuweisung für die untersuchten RL-Workloads blieb damit weitgehend unverändert. Dieses Muster spricht dafür, dass ein Teil des Trainings und der Experimente während der Einschränkungen für Astra auf andere Modelle verlagert wurde. Es passt zu einzelnen Berichten von Forschenden, die Rechenkapazität anderweitig nutzten, nachdem diese für Workloads unter den neuen Auflagen nicht mehr verfügbar war.

Diese Daten liefern einen hilfreichen Anhaltspunkt für die laufenden Diskussionen über Training und Sicherheit: Werden neue Kontrollen eingeführt, bleibt Rechenkapazität wertvoll und flexibel einsetzbar. Sie fließt dann in andere Anwendungen innerhalb der Forschungsorganisation. Langfristig sollte die Diskussion über das Tempo des KI-Fortschritts auch die Frage umfassen, wie Rechenkapazität unter neuen oder vorgeschlagenen Kontrollen am besten genutzt werden kann.

Fortschritte hin zu einer ausgerichteten RSI zu erzielen und zu verstehen, ist für unsere Mission wichtig. Wir werden unsere Methoden weiter verfeinern, über neue Erkenntnisse berichten und auf eine fundierte öffentliche Debatte sowie eine wirksame demokratische Steuerung von Frontier-Systemen hinarbeiten.

Agentengestützte KI-Forschung ist noch neu, und wir lernen weiterhin, wie sie sich messen lässt. Manche Indikatoren, etwa die Menge des von unseren Forschungsteams erzeugten Codes, sind relativ leicht zu erheben, aber schwer zu deuten: Ihr Zusammenhang mit dem Forschungsfortschritt ist ungewiss. Kennzahlen, die den Forschungsfortschritt direkter erfassen, könnten hilfreicher sein, etwa wie oft Agenten die ihnen übertragenen Aufgaben erfolgreich lösen. Sie sind jedoch aufwendig zu entwickeln und zu validieren. Erschwerend kommt hinzu, dass sich die Werkzeuge und Systeme der Forschenden rasch weiterentwickeln. Besser zu verstehen, wie sich Forschung beschleunigt, ist ein wichtiger Schwerpunkt bei OpenAI.

Sofern nicht anders angegeben, gilt für alle Analysen:

• „Forschende“ ist ein weit gefasster Begriff für alle Mitglieder unserer Forschungsorganisation. Dazu gehören auch Personen, die Forschungsinfrastruktur entwickeln, Forschungsprojekte leiten oder die Organisation anderweitig unterstützen.

• Die Kennzahlen zur Nutzung von Programmieragenten erfassen den Großteil, aber nicht die gesamte Nutzung, da sich die Werkzeuge und Systeme der Forschenden rasch verändern.