Praxisleitfaden zu GPT‑5.6

Die GPT‑5.6‑Modellfamilie macht die Leistung von Agenten auf Frontier-Niveau deutlich erschwinglicher und erweitert zugleich die Grenzen des Machbaren.

Dieser Leitfaden zeigt, wie Start-ups mit einer intelligenteren Modellauswahl und neuen API-Steuerungsmöglichkeiten für kontinuierliches Reasoning, Multi-Agenten-Orchestrierung und programmatische Tool-Aufrufe schneller leistungsfähigere Agenten zu einem Bruchteil der Kosten entwickeln.

Seit GPT‑5 ist jede Modellgeneration darauf ausgelegt, länger dauernde Aufgaben mit weniger Tokens zu bewältigen. GPT‑5.6 setzt diese Entwicklung fort: stärkere Agentenleistung und niedrigere Kosten bei minimalen Änderungen am zugrunde liegenden Harness.

Zur insgesamt höheren Kosteneffizienz kommt eine größere Genauigkeit bei geringerem Reasoning-Aufwand hinzu. Bei Agents’ Last Exam übertraf GPT‑5.6 Sol beispielsweise mit „niedrigem“ Reasoning GPT‑5.5 mit „hohem“ Reasoning, während der Harness unverändert blieb. Ähnliche Erfolge haben wir in Tests für den Produktivbetrieb beobachtet. Start-ups berichten von erheblichen Kostensenkungen in unterschiedlichen Workflows, nachdem sie den Reasoning-Aufwand gegenüber den bisherigen Voreinstellungen reduziert hatten.

Bisher war für lang laufende Anwendungsfälle meist ein Upgrade auf ein Flagship-Modell mit dem höchsten verfügbaren Reasoning die beste Wahl. Das lag vor allem daran, dass diese Modelle längere Kontexte und Tool-Aufrufe deutlich besser bewältigen konnten als kostenoptimierte Modelle. Mit der 5.6-Familie hat sich das geändert: Mit mehr Rechenleistung zur Laufzeit erzielen Luna und Terra oft ähnliche Ergebnisse wie GPT‑5.4 und 5.5, sind dabei aber deutlich günstiger.

Betrachten wir Aufgaben aus BrowseComp, einem suchbasierten Benchmark, der die Fähigkeit eines Modells testet, schwer auffindbare Fakten zu recherchieren. Vor drei Monaten erzielte GPT‑5.5 (Sehr hoch) bei diesem Benchmark 84,36 % zu Gesamtkosten von 33,27 USD. Bei seiner Einführung erreicht GPT‑5.6 Luna (Sehr hoch) mit 84,04 % praktisch dieselbe Leistung, kostet aber nur 1,33 USD. Seitdem haben wir die Preise weiter gesenkt. Weitere Informationen zu unseren jüngsten Preissenkungen.

Die kleineren Modelle der 5.6-Familie eignen sich besonders für Arbeitslasten mit hohem Volumen, latenzkritische Interaktionen und wiederkehrende Schritte in Agenten-Workflows. Betreibst du beispielsweise ein Legal-Tech-Start-up, das handschriftliche Notizen vor einer Analyse durch Agenten ausliest, kannst du für die Extraktion nun Terra oder Luna statt eines Frontier-Modells für den gesamten Anwendungsfall einsetzen und erheblich Kosten sparen.

GPT‑5.6 liefert nicht nur ohne zusätzliche Anpassungen mehr Leistung. Wir haben die Responses API außerdem um neue Grundfunktionen ergänzt, die weitere Verbesserungen ermöglichen. Wir haben GPT‑5.6 durchgängig mit drei sich ergänzenden Architekturmaßnahmen trainiert, durch die Agenten effizienter arbeiten können:

1. Bereits geleistete Arbeit wiederverwenden: Indem Reasoning über Aufrufe hinweg erhalten bleibt⁠(wird in einem neuen Fenster geöffnet) und lange Unterhaltungen durch native Kontextverdichtung⁠(wird in einem neuen Fenster geöffnet) komprimiert werden, kann das Modell seine Arbeit auch bei länger dauernden Aufgaben schlüssig fortsetzen, ohne den Überblick zu verlieren oder früheren Kontext rekonstruieren zu müssen.

2. Aufgaben nach Bedarf parallel aufteilen: Mit nativer Multi-Agenten-Orchestrierung⁠(wird in einem neuen Fenster geöffnet) lassen sich mehrere Agenten in parallelen Arbeitsabläufen koordinieren, sodass komplexe Aufgaben schneller abgeschlossen werden.

3. Deterministische Arbeit in Code verlagern: Mit programmatischen Tool-Aufrufen⁠(wird in einem neuen Fenster geöffnet) lassen sich Tool-Ergebnisse außerhalb des Kontextfensters des Modells filtern, aggregieren und orchestrieren. So bleiben Modell-Tokens der Bewertung vorbehalten, während Kosten, Latenz und Kontextverlust sinken.

Zusammen eingesetzt können diese Funktionen einen enormen Unterschied bewirken. Bei ARC-AGI-3 erzielte GPT‑5.6 Sol mit dem Standard-Harness beispielsweise 13,3 %. Nachdem beibehaltenes Reasoning und Kontextverdichtung aktiviert worden waren, stieg der Wert auf 38,3 %, bei rund sechsmal weniger Ausgabe-Tokens. Keine Änderungen am Modell, aber fast die dreifache Leistung. Mehr dazu erfährst du in unserer Untersuchung des ARC-AGI-3-Harness.

Agenten-Workflows umfassen häufig zwei Arten von Arbeit:

1. Aufgaben, die Urteilsvermögen erfordern

2. Arbeit, bei der Daten vor allem verschoben, gefiltert und kombiniert werden

Wenn ein Agent 100 Unterlagen abruft, nach Datum filtert und relevante Transaktionen ermittelt, sollte das Modell nicht jedes Zwischenergebnis in seinem Kontextfenster analysieren müssen. Mit programmatischen Tool-Aufrufen kann GPT‑5.6 JavaScript schreiben, um Tools zu orchestrieren, unabhängige Aufrufe parallel auszuführen und deren Ergebnisse außerhalb des Kontextfensters zu verarbeiten. So kann sich das Modell auf das konzentrieren, was Intelligenz erfordert: Sachverhalte zu beurteilen.

Bei komplexen, parallelisierbaren Aufgaben lassen sich Aktionen und Reasoning auf mehrere Arbeitsabläufe von Agenten verteilen. Dadurch werden Aufgaben schneller und mit höherer Intelligenz erledigt. In solchen Konfigurationen orchestriert der primäre Agent die untergeordneten Agenten und delegiert Aufgaben an sie. Die untergeordneten Agenten verfolgen ihre Ziele parallel und übermitteln ihre Ergebnisse schließlich zur abschließenden Zusammenführung an den primären Agenten. Teams können native Multi-Agenten-Funktionen nutzen, indem sie in der Responses API Multi-Agenten aktivieren⁠(wird in einem neuen Fenster geöffnet). So funktioniert auch die Fähigkeitseinstellung Ultra in ChatGPT.

GPT‑5.6 erkennt zwar zuverlässig, wie viele untergeordnete Agenten angemessen sind und wann sie eingesetzt werden sollten, doch das Multi-Agenten-Verhalten lässt sich sehr gezielt steuern. Anweisungen dazu, wann das Modell untergeordnete Agenten aufrufen soll, erhöhen die Wahrscheinlichkeit, dass es Agenten nur dann einsetzt, wenn der zusätzliche Token-Verbrauch die Leistung verbessern würde.

Für die gesamte Modellfamilie wurde die Gültigkeitsdauer des Prompt-Caches auf mindestens 30 Minuten verlängert. Zudem lassen sich Cache-Haltepunkte nun deterministisch im Kontextfenster eines Modells festlegen. Dadurch konnten Start-ups ihre Cache-Trefferquote deutlich erhöhen.

Zusätzlich zum Festlegen von Cache-Haltepunkten erhöht die weitere Verwendung eines geeigneten prompt_cache_key⁠(wird in einem neuen Fenster geöffnet) die Wahrscheinlichkeit, dass Anfragen dieselbe Inferenz-Engine erreichen, die zuvor dasselbe Präfix verarbeitet hat. Das verringert die Latenz.

Diese Beispiele zeigen vor allem, wie stark sich die wirtschaftlichen Rahmenbedingungen für die Entwicklung von Agenten verändert haben.

Anwendungsfälle, die früher bei jedem Schritt ein Frontier-Modell erforderten, können heute zu einem Bruchteil der Kosten vergleichbare oder bessere Ergebnisse erzielen. Dafür werden kleinere Modelle eingesetzt, der Reasoning-Aufwand angepasst und effiziente Architekturentscheidungen getroffen.

Wir sind gespannt, was ihr entwickelt!