Geliştiriciler için GPT‑5.6 rehberi

GPT‑5.6 model ailesi, en üst seviye ajan performansını çok daha erişilebilir hâle getirirken mümkün olanın sınırlarını da ileri taşıyor.

Bu rehberde startup’ların daha akıllı model seçimi ile akıl yürütme sürekliliğini, çok ajanlı orkestrasyonu ve programatik araç çağırmayı destekleyen yeni API kontrollerinden yararlanarak çok daha düşük maliyetle nasıl daha hızlı ve yetenekli ajanlar geliştirdiğini gösteriyoruz.

GPT‑5’ten bu yana her model nesli, daha uzun vadeli görevleri daha az tokenle yerine getirmeyi hedefledi. GPT‑5.6 bu ilerlemeyi sürdürüyor: Temel düzenekte asgari değişiklikle daha güçlü ajan performansı ve daha düşük maliyetler sunuyor.

Genel maliyet verimliliğindeki iyileşme, daha düşük akıl yürütme düzeylerinde artan doğrulukla daha da güçleniyor. Örneğin Agents’ Last Exam’de düzenek sabit tutulduğunda, “düşük” akıl yürütme düzeyindeki GPT‑5.6 Sol, “yüksek” akıl yürütme düzeyindeki GPT‑5.5’i geride bıraktı. Üretim testlerinde de benzer başarı öyküleri gördük: Startup’lar, önceki varsayılanlara kıyasla akıl yürütme düzeyini düşürerek çeşitli iş akışlarında maliyetleri önemli ölçüde azalttıklarını bildiriyor.

Geçmişte uzun vadeli kullanım senaryoları için en iyi seçenek, mevcut en yüksek akıl yürütme düzeyinde en gelişmiş modele geçmekti. Bunun temel nedeni, bu modellerin uzun bağlamları ve araç çağırmayı yönetmede maliyet odaklı modellere göre çok daha yetenekli olmasıydı. 5.6 ailesiyle bu durum değişti: Luna ve Terra, çıkarım sırasında daha fazla hesaplama kullanarak genellikle GPT‑5.4 ve 5.5’e benzer performansı çok daha düşük maliyetle sunabiliyor.

Bir modelin az bilinen bilgileri arayıp bulma becerisini ölçen arama tabanlı BrowseComp karşılaştırma testindeki görevleri ele alalım. Üç ay önce GPT‑5.5 (Çok Yüksek), bu karşılaştırma testinde toplam 33,27 ABD doları maliyetle %84,36 puan aldı. GPT‑5.6 Luna (Çok Yüksek) ise piyasaya çıktığında 1,33 ABD doları maliyetle %84,04 puan alarak esasen aynı performansı sunuyor. O zamandan beri fiyatları daha da düşürdük. Son fiyat indirimlerimiz hakkında daha fazla bilgi edinin.

5.6 ailesindeki daha küçük modeller; yüksek hacimli iş yükleri, gecikmeye duyarlı etkileşimler ve ajan tabanlı iş akışlarındaki tekrarlanan adımlar için son derece uygun. Örneğin ajan tabanlı analiz öncesinde el yazısı notları ayrıştıran bir hukuk teknolojisi startup’ı işletiyorsanız artık kullanım senaryosunun tamamında en üst seviye bir model kullanmak yerine ayıklama için Terra veya Luna’yı seçerek ciddi tasarruf sağlayabilirsiniz.

GPT‑5.6’nın kullanıma hazır performansını artırmanın yanı sıra daha fazla kazanım sağlamak için Responses API’ye yeni temel bileşenler de ekledik. GPT‑5.6’yı, ajanların daha verimli çalışmasını sağlayan ve birbirini tamamlayan üç mimari müdahaleyle uçtan uca eğittik:

1. Daha önce yapılan çalışmayı yeniden kullanın: Model turları arasında akıl yürütmenin korunması⁠(yeni bir pencerede açılır) ve uzun süren konuşmaları sıkıştırmak için yerleşik bağlam yoğunlaştırma⁠(yeni bir pencerede açılır) sayesinde model, kafası karışmadan veya önceki bağlamı yeniden oluşturmadan daha uzun görevlerde tutarlılığını koruyabilir.
2. Uygun olduğunda paralel olarak ayrıştırın: Yerleşik çok ajanlı orkestrasyon⁠(yeni bir pencerede açılır), karmaşık görevleri daha hızlı tamamlamak için birden fazla ajanın paralel iş akışlarında koordine edilmesini sağlar.
3. Belirlenimci işleri koda taşıyın: Araç çıktılarını modelin bağlam kapasitesi dışında filtrelemek, birleştirmek ve koordine etmek için programatik araç çağırmayı⁠(yeni bir pencerede açılır) kullanın. Böylece model tokenleri muhakeme için ayrılır; maliyet, gecikme ve bağlam bozulması azalır.

Birlikte kullanıldıklarında aradaki fark çarpıcı olabilir. Örneğin GPT‑5.6 Sol, ARC-AGI-3’te standart düzenekle %13,3 puan aldı. Ancak korunan akıl yürütme ve bağlam yoğunlaştırma etkinleştirildiğinde puan %38,3’e fırladı; üstelik yaklaşık 6 kat daha az çıktı tokeni kullandı. Modelde hiçbir değişiklik olmadan neredeyse üç kat performans. ARC-AGI-3 düzenek incelememiz hakkında daha fazla bilgiyi burada bulabilirsiniz.

Ajan tabanlı iş akışları genellikle iki tür iş içerir:

1. Muhakeme gerektiren görevler
2. Çoğunlukla verileri taşıma, filtreleme ve birleştirme gerektiren işler

Bir ajan 100 bildirimi aldığında, bunları tarihe göre filtrelediğinde ve ilgili işlemleri belirlediğinde modelin bağlam kapasitesindeki her ara sonuç üzerinde akıl yürütmesi gerekmemelidir. Programatik Araç Çağırma, GPT‑5.6’nın araçları koordine etmek, bağımsız çağrıları paralel yürütmek ve çıktılarını bağlam kapasitesinin dışında işlemek için JavaScript yazmasını sağlar. Böylece model, zekâ gerektiren asıl işe, yani muhakemeye odaklanır.

Karmaşık ve paralelleştirilebilir görevlerde eylemleri ve akıl yürütmeyi birden fazla ajan iş akışına dağıtmak, görevlerin daha hızlı ve daha yüksek akıl yürütme düzeyiyle tamamlanmasını sağlar. Bu düzenlerde birincil ajan, alt ajanları koordine etmekten ve görevleri onlara devretmekten sorumludur. Alt ajanlar hedeflerini paralel olarak izler ve son olarak çıktılarını nihai sentez için birincil ajana iletir. Ekipler, Responses API’de çok ajan özelliğini etkinleştirerek⁠(yeni bir pencerede açılır) yerleşik çok ajan desteğinden yararlanmaya başlayabilir. ChatGPT’deki Ultra yetenek ayarı da bu şekilde çalışır.

GPT‑5.6 uygun alt ajan sayısını ve bunların ne zaman devreye alınacağını iyi belirlese de çok ajanlı davranış büyük ölçüde yönlendirilebilir. Modele alt ajanları ne zaman çağırması gerektiğini belirtmek, ajanların yalnızca ek token harcamasının daha iyi performans sağlayacağı durumlarda devreye alınma olasılığını artırabilir.

Tüm model ailesinde prompt önbelleğinin TTL değeri en az 30 dakikaya uzatıldı ve artık bir modelin bağlam kapasitesi içinde belirlenimci önbellek kesme noktaları ayarlanabiliyor. Bu sayede startup’lar önbellek isabet oranlarını önemli ölçüde artırabildi.

Önbellek kesme noktaları belirlemenin yanı sıra uygun bir prompt_cache_key⁠(yeni bir pencerede açılır) kullanmayı sürdürmek, isteklerin aynı öneki daha önce işleyen çıkarım motoruna ulaşma olasılığını artırarak gecikmeyi azaltır.

Bu örneklerde öne çıkan nokta, ajan geliştirmenin ekonomik koşullarının ne kadar değiştiğidir.

Eskiden her adımda en üst seviye model gerektiren kullanım senaryoları artık daha küçük modeller kullanarak, akıl yürütme düzeyini ayarlayarak ve verimli mimari seçimler yaparak maliyetin çok küçük bir kısmıyla benzer veya daha iyi sonuçlara ulaşabiliyor.

Neler geliştireceğinizi görmek için sabırsızlanıyoruz!