Forschung beschleunigen: Ein Blick in OpenAI

Damit AGI der gesamten Menschheit zugutekommt, muss sie aus unserer Sicht demokratisch gesteuert werden. Dafür braucht es eine fundierte öffentliche Debatte über Fähigkeiten, Risiken und Schutzmaßnahmen leistungsfähiger KI-Systeme. Menschen weltweit müssen die voraussichtliche Entwicklung von Frontier-KI verstehen, um wirksam mitbestimmen zu können.

Transparenz über konkrete Risiken, Vorfälle und Schutzmaßnahmen ist nötig, reicht aber nicht aus. Die Öffentlichkeit muss auch verstehen, wie sich die leistungsfähigsten Systeme in Frontier-Laboren entwickeln und dort die Forschung voranbringen.

Wir wollen auf sichere Weise ein automatisiertes KI-Forschungssystem entwickeln, das unter menschlicher Aufsicht Deep Learning und Alignment voranbringt und iterative Verbesserungen ermöglicht. Unseren Messungen zufolge haben wir das letzten Herbst angekündigte⁠(wird in einem neuen Fenster geöffnet) Ziel erreicht: bis September dieses Jahres eine automatisierte Forschungshilfe auf Praktikantenniveau zu schaffen. Damit meinen wir ein System, das unter menschlicher Anleitung klar definierte Forschungsaufgaben erledigt, auch solche, für die qualifizierte Forschende einige Tage bräuchten. Wir machen große Fortschritte dabei, bis März 2028 ein automatisiertes KI-Forschungssystem zu schaffen.

Im Laufe dieses Jahres hat sich der Arbeitsalltag der Forschenden bei OpenAI stark verändert. Forschende nutzen Programmieragenten über den ganzen Tag, oft in parallelen Sitzungen. Die Gesamtnutzung steigt rasch, schneller als in anderen OpenAI-Teams. Forschende steuern schneller Code bei und führen mehr Experimente durch. Auch die Nutzung verändert sich: Agenten übernehmen zunehmend komplexe Aufgaben und lösen sie häufiger erfolgreich. KI-Forschung ist komplex und hat viele mögliche Engpässe. Ihr Fortschritt insgesamt dürfte daher nicht so schnell zunehmen wie diese Kennzahlen. Insgesamt stützen die Befunde aber den internen Eindruck vieler von uns: Agentische Tools beschleunigen die Forschung spürbar. Menschen setzen weiterhin die Forschungsprioritäten, bewerten Ideen und Ergebnisse und entscheiden, ob Systeme skaliert, pausiert oder bereitgestellt werden.

Verantwortungsvoll betrieben, wird automatisierte KI-Forschung aus unserer Sicht Modelle hervorbringen, die das menschliche Wohlergehen direkt verbessern und OpenAIs Mission voranbringen. Sie kann die Kosten fortgeschrittener Intelligenz senken, sodass Menschen weltweit davon profitieren. Wir verfolgen diese Arbeit auch, weil automatisierte Forschung helfen könnte, das Alignment-Problem zu lösen und Schutz vor immer leistungsfähigerer KI aufzubauen. Ein automatisiertes KI-Forschungssystem kann auch zu Sicherheit oder Alignment forschen. Leistungsfähigere, ausgerichtete Systeme könnten kritische Infrastruktur sichern, gefährliche KI-Agenten abwehren und neue Schutzmaßnahmen entwickeln.

Das spricht für nützliche automatisierte Forschungsfähigkeiten, bedeutet aber nicht, dass wir zwangsläufig eine schnelle RSI anstreben sollten. Ob und wie wir fortfahren, muss davon abhängen, ob wir menschliche Kontrolle bewahren können, und von fundierten demokratischen Entscheidungen über Nutzen und Risiken.

Wir wissen noch nicht, wie wir sicher eine ausgerichtete, vollständige RSI erreichen können. Wir arbeiten daran, Alignment- und Sicherheitsmaßnahmen parallel zu den Fähigkeiten zu skalieren. Doch wir dürfen nicht annehmen, dass Sicherheit und Alignment Schritt halten. Leistungsfähigere Systeme können schwerer zu überwachen sein. Sorgfältige Arbeit an Alignment und Sicherheit steht im Mittelpunkt. Sie beginnt damit, heutige Sicherheitsprobleme in Systemen für agentisches Programmieren zu messen und zu mindern. Wenn ein weiteres Vorgehen unvertretbare Sicherheitsrisiken birgt, reagieren wir angemessen. Dazu gehört, Entwicklung oder Bereitstellung unzureichend absicherbarer Systeme zu verlangsamen oder zu stoppen.

Nach dem jüngsten Hugging-Face-Vorfall setzten wir diese Zusage um⁠: Wir pausierten das Reinforcement Learning (RL) unserer neuesten zur Bereitstellung vorgesehenen Modelle, härteten unsere Forschungsumgebungen weiter, prüften sie durch Red-Teaming und erweiterten die Überwachung. Nicht alle Forschung ruhte: Einige Workloads liefen unter strengeren Kontrollen wieder an, andere blieben pausiert. Wir haben unsere Sicherheits- und Alignment-Standards erhöht und Sicherheitsarbeit stärker im Modelllebenszyklus verankert. Im gesamten Training verlangen wir stärkere Belege für ausgerichtetes Verhalten.

Heute zeigen wir detailliert, wie agentische Systeme in den letzten Monaten zu unseren Fortschritten in Richtung RSI beigetragen haben. Agentische Systeme sind neu und verändern sich rasch. Unsere Messungen sind noch vorläufig. Mit diesen frühen Ergebnissen und Methoden wollen wir die Öffentlichkeit informieren, öffentliche Offenlegung fördern und gemeinsame Messstandards im Fachgebiet voranbringen.

Wie in unserem Konzept für Frontier-KI-Politik⁠ beschrieben, sollten wir und andere Unternehmen verpflichtet sein, Fortschritte in Richtung RSI öffentlich zu dokumentieren. Auch ohne diese Pflicht wollen wir weiterhin transparent über unsere RSI-Fortschritte berichten. Mit besseren Messverfahren und Erkenntnissen entwickeln wir unseren Transparenzansatz weiter. Dabei schützen wir zugleich Sicherheit und vertrauliche Unternehmensinformationen.

Anfang dieses Jahres war die Nutzung von Programmieragenten unter Forschenden bei OpenAI im Median noch gering. Mitte August gehörten Agenten im Median zum Arbeitsalltag, mit täglich über 600 USD Inferenznutzung zu API-Preisen. Der tägliche Token-Verbrauch von Nutzer:innen am 90. Perzentil in unserer Forschungsorganisation liegt inzwischen bei über 7.000 USD.

Vor Juni 2026 lag die gesamte Agentenlaufzeit in der Forschungsorganisation noch unter der gesamten menschlichen Arbeitszeit. Das hat sich inzwischen geändert. Bei einem Achtstundentag nutzt die Forschungsorganisation mittlerweile insgesamt 3,1 Agentenarbeitstage je menschlichem Arbeitstag (Stand: Mitte August).

Eine weitere Sichtweise ist die Zahl der Forschenden mit stark parallelen Arbeitsabläufen, etwa mit vier oder mehr gleichzeitig laufenden Agenten. Wie unten gezeigt, steigt diese Zahl. Die Zahlen umfassen tägliche Spitzenwerte sowohl der direkt von Nutzer:innen gestarteten Agenten als auch der von diesen Agenten nachgelagert erzeugten Unteragenten.

Ein Großteil der KI-Forschung ist arbeitsintensiv und zielt darauf ab, Verbesserungen der Intelligenz oder Leistung in eines unserer Kernmodelle zu integrieren. Fortschritte erfordern, dass viele Schritte zusammen gelingen: Forschende entwerfen Verbesserungen, schreiben Evaluationen zur Beurteilung der Modellleistung und entwickeln Infrastruktur zum Testen dieser Verbesserungen in großem Maßstab, erkennen Fehler sowie unsicheres oder fehlgeleitetes Verhalten im Training und integrieren erfolgreiche Ideen in einen zentralen Trainingslauf. Ein Fehler an beliebiger Stelle kann den gesamten Forschungszyklus begrenzen.

Code zu schreiben und Experimente durchzuführen sind zwei zentrale Forschungsaufgaben. Wir sehen Hinweise, dass beide schneller werden.

Diese Kennzahlen sind relativ leicht zu messen, aber oft schwer zu deuten. Mit zunehmender Automatisierung beanspruchen die am wenigsten automatisierbaren Aufgaben mehr Forschungsarbeit und werden zu zentralen Engpässen. Rechenkapazität begrenzt den Fortschritt ebenfalls und könnte wichtiger werden, wenn andere Engpässe abnehmen.

2026 stieg die Zahl der Experimente je aktiv experimentierender Person. Im August erreichte sie den Höchststand seit Messbeginn im Januar 2025. Das korreliert mit zunehmender Codex-Nutzung, allerdings ist seit 2025 auch unsere Rechenkapazität stark gewachsen.

Qualitative Eindrücke und interne Daten zeigen: Forschende übertragen Programmieragenten zunehmend übergeordnete Aufgaben mit längerem Zeithorizont.

Um diesen Trend besser zu verstehen, analysierten wir die jüngste Nutzung in der Forschungsorganisation anhand einer kürzlich veröffentlichten Taxonomie⁠(wird in einem neuen Fenster geöffnet) von Epoch AI für Aufgaben im KI-Forschungs- und Entwicklungszyklus. Die vom bewährten O*NET-System zur Berufsklassifikation inspirierte Taxonomie ist auf Frontier-KI-Forschung und -Entwicklung zugeschnitten. Sie umfasst sechs Hauptphasen:

1. Entscheiden: woran arbeiten, was fortsetzen, wohin Ressourcen lenken

2. Entwerfen: Forschungsideen und technische Spezifikationen

3. Erstellen: Code und Datensätze

4. Ausführen: Trainings- und Evaluationsläufe, Hardware, Modellbereitstellung

5. Analysieren: Experimente, Modelle, Bereitstellung, externe Arbeiten

6. Kommunizieren: Erkenntnisse, Feedback, Status, Entscheidungen

Unten ordnen wir die Tokens der Programmieragenten dieser Taxonomie zu.

Von Januar bis August 2026 nahmen alle Kategorien der Forschungsaktivität zu. Im Januar dominierte Forschungs- und Infrastrukturcode. Diese Kategorie wuchs weiter, ebenso andere Bereiche, vor allem technische Hilfe und die Überwachung von Läufen. Übergeordnete Planung macht weiterhin nur einen sehr kleinen Anteil der Ausgabe-Tokens von Agenten aus.

Einzelnen Berichten von Kolleg:innen zufolge beheben Programmieragenten Probleme mit der internen Forschungsinfrastruktur besonders gut. Das mindert einen wichtigen Engpass. Mehrere Teams verzeichnen 2026 weniger Teilnahme an ihren Sprechstunden zur Fehlerbehebung bei Experimenten. Ein Team stellte sie ganz ein, um stattdessen andere Systemverbesserungen umzusetzen.

Hier zeigen wir die täglichen Hauptbeiträge in einem zentralen internen Kanal, in dem Forschende technische Hilfe anderer Teams suchen. Unseres Wissens wurde die geringere Aktivität nicht durch eine Verlagerung in andere von Menschen betreute Supportkanäle ausgeglichen. Der Rückgang passt zu dieser umfassenderen Veränderung.

Wir können auch untersuchen, ob Programmieragenten die ihnen übertragenen Forschungsaufgaben erfolgreich lösen. Ein agentischer Klassifikator zeigt: Von Januar bis Juli stiegen die Erfolgsraten meist in mehreren Schwierigkeitsklassen, gemessen an der geschätzten menschlichen Bearbeitungszeit. Dies gilt für Aufgaben mit feststellbarem tatsächlichem Ergebnis. Agenten brauchen aber weiterhin erhebliche menschliche Steuerung, besonders bei komplexeren Aufgaben. In den letzten sechs Monaten erforderte über die Hälfte der erfolgreich gelösten Aufgaben von 4–8 Stunden mindestens einen Eingriff.

Der Fortschritt hin zu leistungsfähigeren Systemen für sichere und nutzbringende AGI wird auch von den Schutzmaßnahmen abhängen, die für solche Arbeiten erforderlich sind. Unsere Einschätzung der erforderlichen Schutzmaßnahmen kann sich ändern, wenn wir mehr über die Risiken erfahren.

Wie bereits beschrieben⁠, haben wir vor Kurzem unsere Standards für die Überwachung, das Alignment und die Sicherheit aktualisiert. Hier zeigen wir, wie sich die jüngsten Einschränkungen auf einen Aspekt der Forschungstätigkeit ausgewirkt haben.

Am 20. Juli haben wir, nachdem festgestellt worden war, dass Agenten unsere Forschungsinfrastruktur kompromittiert hatten, den für das Training verwendeten Containerdienst vorübergehend abgeschaltet und ihn anschließend mit erheblichen zusätzlichen Einschränkungen wiederhergestellt.

Dies führte zu einem starken Rückgang der für das RL-Training eingesetzten Rechenkapazität, während die Teams ihre Workflows neu konfigurierten, um innerhalb der abgesicherten Forschungsumgebung zu arbeiten. Die obige Grafik berücksichtigt die zweiwöchige Pause im Reinforcement Learning bei unseren neuesten, für den Einsatz vorgesehenen Modellen. Die RL-Experimente der Astra-Klasse zwischen dem 20. Juli und dem 6. August umfassen den Großteil der Läufe (nach GPU-Zuteilung), die darauf ausgelegt sind, die Implementierung von Sicherheitsverbesserungen zu testen.

Am 7. August führten vorläufige Hinweise darauf, dass Astra möglicherweise kritische Cyberfähigkeiten besitzt⁠ im Rahmen unseres Preparedness Framework⁠(wird in einem neuen Fenster geöffnet) zu zusätzlichen modellspezifischen Sicherheitsbeschränkungen, die vorschrieben, dass das Astra-Modell in Forschungsumgebungen mit höherem Sicherheitsniveau betrieben werden muss. In der darauffolgenden Woche sank die Zuteilung von GPUs der Astra-Klasse um weitere 59,2 Prozent, während die Zuteilung an andere Modellklassen um 17,2 Prozent stieg. Dieser Anstieg glich etwa 85 Prozent des Rückgangs der Astra-Klasse aus, sodass die Gesamtallokation in den analysierten RL-Workloads weitgehend unverändert blieb. Dieses Muster steht im Einklang mit der Verlagerung einiger Trainings- und Experimentierarbeiten auf Nicht-Astra-Modelle während der Einschränkung von Arbeiten mit Astra und passt zu anekdotischen Berichten von Forschenden, die andere Verwendungsmöglichkeiten für Rechenkapazität fanden, die nicht mehr für Arbeitslasten genutzt werden konnte, die unter die neuen Beschränkungen fielen.

Diese Daten liefern einen nützlichen Hinweis für laufende Diskussionen über Training und Sicherheit: Wenn neue Kontrollmaßnahmen eingeführt werden, bleiben Rechenressourcen wertvoll und flexibel und werden auf natürliche Weise in alternative Verwendungszwecke innerhalb des Forschungsbetriebs gelenkt. Langfristig sollten sich Diskussionen über das Tempo des KI-Fortschritts auch auf die Frage erstrecken, wie Rechenkapazität, die neuen oder vorgeschlagenen Kontrollen unterliegt, am besten genutzt werden kann.

Fortschritte auf dem Weg zu einer ausgerichteten RSI zu erzielen und zu verstehen, ist wichtig für unsere Mission. Wir werden unsere Methoden weiter verfeinern, über unser sich weiterentwickelndes Verständnis berichten und auf eine fundierte öffentliche Debatte sowie eine sinnvolle demokratische Governance von Frontier-Systemen hinarbeiten.

Agentengestützte KI-Forschung ist noch neu, und wir lernen noch, wie wir sie messen können. Einige Indikatoren, etwa die Menge an Code, die unsere Forschungsteams erstellen, lassen sich relativ leicht erfassen, sind aber schwer zu interpretieren, da ihr Zusammenhang mit dem Forschungsfortschritt ungewiss ist. Metriken, die sich direkter auf den Forschungsfortschritt konzentrieren – etwa darauf, wie häufig Agenten die Aufgaben erfolgreich bewältigen, die Forschende ihnen stellen – könnten nützlicher sein, sind jedoch komplex zu entwickeln und zu validieren. Erschwerend kommt hinzu, dass sich die Tools und Systeme, auf die Forschende angewiesen sind, rasant weiterentwickeln. Die Vertiefung unseres Verständnisses der Beschleunigung von Forschung ist ein wichtiger Schwerpunkt bei OpenAI.

Für diese Analysen gilt, sofern nicht anders angegeben:

• „Forschender“ ist ein weit gefasster Begriff für alle Mitglieder unserer Forschungsorganisation, einschließlich einiger, die Forschungsinfrastruktur aufbauen, Forschungsprojekte leiten oder das Unternehmen auf andere Weise unterstützen.

• Kennzahlen zur Nutzung von Coding-Agenten decken aufgrund der rasanten Entwicklung der Tools und Systeme, auf die Forschende angewiesen sind, den Großteil, aber nicht die gesamte Nutzung ab.