راهنمای سازندگان برای GPT‑5.6

خانواده مدل‌های GPT‑5.6 عملکرد عامل‌ها در سطح پیشرو را بسیار مقرون‌به‌صرفه‌تر می‌کند و هم‌زمان مرزهای آنچه امکان‌پذیر است را گسترش می‌دهد.

در این راهنما نشان می‌دهیم استارتاپ‌ها چگونه با انتخاب هوشمندانه‌تر مدل و کنترل‌های جدید API که به حفظ پیوستگی استدلال، هماهنگ‌سازی چند عامل و فراخوانی برنامه‌نویسی‌شده ابزارها کمک می‌کنند، عامل‌هایی سریع‌تر و توانمندتر را با کسری از هزینه می‌سازند.

از زمان GPT‑5، هر نسل از مدل‌ها در پی انجام وظایف بلندمدت‌تر با توکن‌های کمتر بوده است. GPT‑5.6 این مسیر را ادامه می‌دهد: عملکرد قوی‌تر عامل‌ها و هزینه کمتر، با حداقل تغییر در چارچوب آزمون زیربنایی.

بهبود بهره‌وری کلی هزینه با افزایش دقت در سطوح پایین‌تر تلاش استدلالی، اثر مضاعفی پیدا می‌کند. برای نمونه، در Agents’ Last Exam، وقتی چارچوب آزمون ثابت نگه داشته شد، GPT‑5.6 Sol با استدلال «کم» عملکرد بهتری از GPT‑5.5 با استدلال «بالا» داشت. در آزمون‌های محیط عملیاتی نیز نتایج موفق مشابهی دیده‌ایم؛ استارتاپ‌ها گزارش می‌دهند که با کاهش تلاش استدلالی نسبت به مقادیر پیش‌فرض قبلی، در طیف وسیعی از گردش‌کارها شاهد بهبود چشمگیر هزینه‌ها بوده‌اند.

در گذشته، ارتقا به یک الگو پرچمی با بالاترین سطح استدلال موجود، بهترین گزینه برای کاربردهای بلندمدت بود. دلیل عمده این بود که این مدل‌ها در مدیریت زمینه‌های طولانی‌تر و فراخوانی ابزار، بسیار توانمندتر از مدل‌های بهینه‌شده برای هزینه بودند. این وضعیت با خانواده 5.6 تغییر کرده است: Luna و Terra با محاسبات بیشتر هنگام آزمون، اغلب عملکردی مشابه GPT‑5.4 و 5.5 دارند، اما بسیار ارزان‌ترند.

وظایف BrowseComp را در نظر بگیرید؛ معیاری مبتنی بر جست‌وجو که توانایی مدل را در یافتن اطلاعات کم‌یاب می‌سنجد. سه ماه پیش، GPT‑5.5 با تنظیم «بسیار بالا» در این معیار امتیاز ۸۴٫۳۶٪ را با هزینه کل ۳۳٫۲۷ دلار کسب کرد. هنگام عرضه، GPT‑5.6 Luna با تنظیم «بسیار بالا» عملاً همان عملکرد را ارائه می‌دهد: امتیاز ۸۴٫۰۴٪ با هزینه ۱٫۳۳ دلار. از آن زمان قیمت‌ها را باز هم کاهش داده‌ایم. درباره تازه‌ترین کاهش قیمت‌های ما بیشتر بخوانید.

مدل‌های کوچک‌تر خانواده 5.6 برای بارهای کاری پرتعداد، تعاملات حساس به تأخیر و مراحل تکراری در گردش‌کارهای عاملی بسیار مناسب‌اند. برای مثال، اگر استارتاپ فناوری حقوقی شما یادداشت‌های دست‌نویس را پیش از تحلیل عاملی پردازش می‌کند، اکنون می‌توانید به‌جای استفاده از یک مدل پیشرو برای تمام مراحل، استخراج را به Terra یا Luna بسپارید و هزینه را به‌طور چشمگیری کاهش دهید.

علاوه بر بهبود عملکرد آماده‌به‌کار GPT‑5.6، اجزای پایه جدیدی نیز به API پاسخ‌ها افزودیم تا دستاوردهای بیشتری ممکن شود. GPT‑5.6 را از ابتدا تا انتها با سه مداخله معماری مکمل آموزش دادیم که به عامل‌ها امکان می‌دهند کارآمدتر عمل کنند:

1. بازاستفاده از کارهای انجام‌شده: با امکان حفظ استدلال⁠(در یک پنجره جدید باز می‌شود) میان نوبت‌های مدل و استفاده از فشرده‌سازی بومی⁠(در یک پنجره جدید باز می‌شود) برای خلاصه‌سازی گفت‌وگوهای طولانی، مدل می‌تواند در وظایف بلندمدت انسجام خود را حفظ کند، بدون آنکه سردرگم شود یا ناچار به بازسازی زمینه قبلی باشد.

2. تفکیک موازی در مواقع مناسب: استفاده از هماهنگ‌سازی بومی چندعاملی⁠(در یک پنجره جدید باز می‌شود) امکان هماهنگی چند عامل را در جریان‌های کاری موازی فراهم می‌کند تا وظایف پیچیده سریع‌تر تمام شوند.

3. انتقال کارهای قطعی به کد: با استفاده از فراخوانی برنامه‌نویسی‌شده ابزار⁠(در یک پنجره جدید باز می‌شود) برای پالایش، تجمیع و هماهنگ‌سازی خروجی ابزارها بیرون از پنجره زمینه مدل، توکن‌های مدل برای قضاوت حفظ می‌شوند و هزینه، تأخیر و فرسودگی زمینه کاهش می‌یابد.

استفاده هم‌زمان از این قابلیت‌ها می‌تواند تفاوت چشمگیری ایجاد کند. برای نمونه، GPT‑5.6 Sol در ARC-AGI-3 و با چارچوب آزمون استاندارد، امتیاز ۱۳٫۳٪ را کسب کرد. اما پس از فعال‌سازی حفظ استدلال و فشرده‌سازی، امتیاز به ۳۸٫۳٪ جهش کرد؛ آن هم با حدود ۶ برابر توکن خروجی کمتر. بدون هیچ تغییری در مدل، عملکرد تقریباً سه برابر شد. می‌توانید جزئیات بیشتری را در بررسی چارچوب آزمون ARC-AGI-3 ما بخوانید.

گردش‌کارهای عاملی اغلب شامل دو نوع کار هستند:

1. وظایفی که به قضاوت نیاز دارند

2. کارهایی که عمدتاً مستلزم جابه‌جایی، پالایش و ترکیب داده‌ها هستند

وقتی عاملی ۱۰۰ سند ثبتی را بازیابی و براساس تاریخ پالایش می‌کند و تراکنش‌های مرتبط را می‌یابد، مدل نباید ناچار باشد در پنجره زمینه خود درباره تک‌تک نتایج میانی استدلال کند. فراخوانی برنامه‌نویسی‌شده ابزار به GPT‑5.6 امکان می‌دهد برای هماهنگ‌سازی ابزارها، اجرای موازی فراخوانی‌های مستقل و پردازش خروجی آن‌ها بیرون از پنجره زمینه، کد JavaScript بنویسد. در نتیجه مدل بر کاری تمرکز می‌کند که به هوشمندی نیاز دارد: قضاوت.

در وظایف پیچیده‌ای که قابلیت اجرای موازی دارند، توزیع اقدام‌ها و استدلال میان چند جریان کاری عاملی، هم انجام کار را سریع‌تر می‌کند و هم هوشمندی را افزایش می‌دهد. در این ساختارها، عامل اصلی وظیفه هماهنگ‌سازی زیرعامل‌ها و واگذاری وظایف به آن‌ها را بر عهده دارد. زیرعامل‌ها اهداف خود را به‌صورت موازی دنبال می‌کنند و در پایان خروجی را برای تلفیق نهایی به عامل اصلی بازمی‌گردانند. تیم‌ها می‌توانند با فعال‌کردن قابلیت چندعاملی⁠(در یک پنجره جدید باز می‌شود) در API پاسخ‌ها، به‌صورت بومی از آن بهره ببرند. تنظیم قابلیت Ultra در ChatGPT نیز به همین شیوه کار می‌کند.

GPT‑5.6 به‌خوبی تشخیص می‌دهد چه تعداد زیرعامل مناسب است و چه زمانی باید آن‌ها را ایجاد کند؛ بااین‌حال، رفتار چندعاملی را می‌توان به‌راحتی هدایت کرد. اگر به مدل بگویید چه زمانی زیرعامل‌ها را فراخوانی کند، احتمالاً عامل‌ها را فقط در موقعیت‌هایی ایجاد می‌کند که مصرف توکن بیشتر به عملکرد بهتر منجر شود.

در سراسر خانواده مدل‌ها، زمان ماندگاری ذخیره‌سازی پرامپت در حافظهٔ نهان به حداقل ۳۰ دقیقه افزایش یافته و اکنون می‌توان نقاط شکست حافظه نهان را به‌صورت قطعی در پنجره زمینه مدل تعیین کرد. این قابلیت به استارتاپ‌ها امکان داده است نرخ اصابت حافظه نهان خود را به‌طور چشمگیری بهبود دهند.

علاوه بر تعیین نقاط شکست حافظه نهان، ادامه استفاده از یک prompt_cache_key⁠(در یک پنجره جدید باز می‌شود) مناسب، احتمال رسیدن درخواست‌ها به همان موتور استنتاجی را افزایش می‌دهد که پیش‌تر همان پیشوند را پردازش کرده است و در نتیجه تأخیر کاهش می‌یابد.

نکته برجسته در همه این نمونه‌ها، میزان تغییر اقتصاد ساخت عامل‌هاست.

کاربردهایی که زمانی در هر مرحله به یک مدل پیشرو نیاز داشتند، اکنون می‌توانند با مدل‌های کوچک‌تر، تنظیم تلاش استدلالی و انتخاب‌های معماری کارآمد، نتایجی مشابه یا بهتر را با کسری از هزینه به دست آورند.

مشتاقیم ببینیم شما چه می‌سازید!