Vývojářův průvodce GPT‑5.6

Rodina modelů GPT‑5.6 výrazně zpřístupňuje výkon agentů na průkopnické úrovni a zároveň posouvá hranice možného.

V tomto průvodci objasňujeme, jak startupy díky chytřejšímu výběru modelů a novým ovládacím prvkům API – podporujícím kontinuitu uvažování, orchestraci více agentů a programové volání nástrojů – vytvářejí rychlejší a schopnější agenty za zlomek nákladů.

Od uvedení GPT‑5 se každá nová generace modelů snaží zvládat dlouhodobější úlohy s menším počtem tokenů. GPT‑5.6 v tomto trendu pokračuje: nabízí vyšší výkon agentů a nižší náklady s minimálními změnami základního harnessu.

Celkové zlepšení nákladové efektivity navíc umocňuje vyšší přesnost při nižší míře uvažování. Například v testu Agents’ Last Exam překonal GPT‑5.6 Sol s „nízkou“ mírou uvažování model GPT‑5.5 s „vysokou“ mírou uvažování, když harness zůstal stejný. Podobné úspěchy jsme zaznamenali i při testování v produkci, kde startupy díky snížení míry uvažování oproti předchozím výchozím hodnotám vykazují výrazné úspory nákladů v celé řadě pracovních postupů.

Pro dlouhodobější případy použití bylo dosud nejlepší přejít na vlajkový model s nejvyšší dostupnou mírou uvažování. Z velké části to bylo proto, že tyto modely zvládaly delší kontexty a volání nástrojů výrazně lépe než modely optimalizované na náklady. S rodinou 5.6 se to změnilo: Luna a Terra mohou díky vyššímu výpočetnímu výkonu při zpracování často dosahovat podobných výsledků jako GPT‑5.4 a 5.5, ale za výrazně nižší cenu.

Patrné je to například na úlohách v na vyhledávání založeném benchmarku BrowseComp, který testuje schopnost modelu dohledávat obtížně dostupná fakta. Před třemi měsíci dosáhl GPT‑5.5 (Velmi vysoká inteligence) v tomto benchmarku skóre 84,36 % při celkových nákladech 33,27 USD. Při uvedení dosahuje GPT‑5.6 Luna (Velmi vysoká inteligence) prakticky stejného výkonu: skóre 84,04 % při nákladech 1,33 USD. Ceny jsme od té doby snížili ještě více. Další informace o našem nejnovějším snížení cen.

Menší modely z rodiny 5.6 jsou vhodné pro vysokoobjeové úlohy, interakce citlivé na latenci a opakované kroky v pracovních postupech agentů. Pokud například provozujete legaltech startup, který před analýzou pomocí agentů zpracovává ručně psané poznámky, nemusíte už pro celý proces používat průkopnický model. K extrakci můžete využít model Terra nebo Luna a výrazně ušetřit.

Vedle zvýšení základního výkonu GPT‑5.6 jsme do Responses API přidali také nové základní funkce, které umožňují dosáhnout dalšího zlepšení. GPT‑5.6 jsme komplexně natrénovali se třemi vzájemně se doplňujícími architektonickými zásahy, díky nimž mohou agenti pracovat efektivněji:

1. Opakované využití již provedené práce: díky možnosti uchovávat uvažování⁠(otevře se v novém okně) mezi jednotlivými tahy modelu a použití nativní kompakce⁠(otevře se v novém okně) ke zkrácení dlouhých konverzací si model dokáže zachovat souvislost práce i u dlouhodobějších úloh, aniž by se ztrácel nebo musel znovu vytvářet předchozí kontext.

2. Paralelní rozdělení tam, kde je vhodné: nativní orchestrace více agentů⁠(otevře se v novém okně) umožňuje koordinovat několik agentů v paralelních pracovních proudech, a složité úlohy se zvládnou rychleji.

3. Přesun deterministické práce do kódu: programové volání nástrojů⁠(otevře se v novém okně) umožňuje filtrovat, agregovat a orchestrovat výstupy nástrojů mimo kontextové okno modelu. Tokeny modelu tak zůstávají vyhrazené pro úsudek a snižují se náklady, latence i degradace kontextu.

Při společném použití může být rozdíl dramatický. Například v testu ARC-AGI-3 dosáhl GPT‑5.6 Sol se standardním harnessem skóre 13,3 %. Po zapnutí uchovávání uvažování a kompakce však skóre vzrostlo na 38,3 %, přičemž model použil přibližně šestkrát méně výstupních tokenů. Model se nezměnil, ale výkon se téměř ztrojnásobil. Více se dočtete v našem zkoumání harnessu ARC-AGI-3.

Pracovní postupy agentů často zahrnují dva druhy práce:

1. Úlohy vyžadující úsudek

2. Práce spočívající převážně v přesouvání, filtrování a kombinování dat

Když agent získá 100 regulatorních dokumentů, filtruje je podle data a vyhledává relevantní transakce, model by neměl být nucen uvažovat v kontextovém okně nad každým mezivýsledkem. Programové volání nástrojů umožňuje modelu GPT‑5.6 psát JavaScript pro orchestraci nástrojů, spouštět nezávislá volání paralelně a zpracovávat jejich výstupy mimo kontextové okno. Model se tak může soustředit na to, co vyžaduje inteligenci: uplatnění úsudku.

U složitých úloh, které lze zpracovávat paralelně, umožňuje rozdělení akcí a uvažování mezi několik pracovních proudů agentů rychlejší provedení i vyšší inteligenci. V takovém uspořádání hlavní agent orchestruje dílčí agenty a deleguje jim úlohy. Dílčí agenti plní své cíle paralelně a nakonec předají výstupy hlavnímu agentovi k závěrečné syntéze. Týmy mohou nativní podporu více agentů začít využívat zapnutím multiagentního režimu⁠(otevře se v novém okně) v Responses API. Stejným způsobem funguje i nastavení schopností „Ultra“ v ChatGPT.

Přestože GPT‑5.6 dobře odhaduje vhodný počet dílčích agentů i okamžik jejich spuštění, jeho chování v multiagentním režimu je velmi ovladatelné. Pokyny, kdy má model spouštět dílčí agenty, mohou zvýšit pravděpodobnost, že je vytvoří jen v situacích, kdy tato vyšší spotřeba tokenů povede k lepšímu výkonu.

U celé rodiny modelů byla minimální doba platnosti mezipaměti promptů prodloužena na 30 minut a body přerušení mezipaměti lze nyní deterministicky nastavit v kontextovém okně modelu. Startupy tak mohou výrazně zvýšit podíl požadavků obsloužených z mezipaměti.

Vedle nastavení bodů přerušení mezipaměti zvyšuje další používání příslušného klíče prompt_cache_key⁠(otevře se v novém okně) pravděpodobnost, že požadavek zpracuje stejný inferenční modul, který už dříve obsloužil totožný prefix, a tím se sníží latence.

Na těchto příkladech vyniká především to, jak výrazně se změnila ekonomika vývoje agentů.

Případy použití, které dříve v každém kroku vyžadovaly průkopnický model, mohou nyní dosahovat srovnatelných či lepších výsledků za zlomek nákladů díky menším modelům, vyladění míry uvažování a efektivním architektonickým rozhodnutím.

Těšíme se, co všechno vytvoříte!