המדריך למפתחים ל-GPT‑5.6
תובנות טכניות מסטארטאפים הפועלים בסביבות ייצור
משפחת המודלים GPT‑5.6 מוזילה באופן דרמטי את העלות של ביצועי סוכנים ברמת חזית הטכנולוגיה, ובמקביל מרחיבה את גבולות האפשר.
במדריך הזה נציג כיצד חברות סטארטאפ בונות סוכנים מהירים ובעלי יכולות משופרות בשבריר מהעלות: באמצעות בחירה חכמה יותר של מודלים ואפשרויות שליטה חדשות ב-API, שמסייעות לשמור על רציפות ה-reasoning, לתזמר סוכנים מרובים ולקרוא לכלים באמצעות קוד.
מאז GPT‑5, כל דור של מודלים נועד להתמודד עם משימות ממושכות יותר באמצעות פחות טוקנים. GPT‑5.6 ממשיך בכיוון הזה: ביצועי סוכנים משופרים ועלויות נמוכות יותר, עם שינויים מזעריים ב-harness שעליו הם פועלים.
לשיפור הכולל ביעילות העלויות מצטרף דיוק גבוה יותר ברמות מאמץ reasoning נמוכות יותר. לדוגמה, במבחן Agents’ Last Exam, הביצועים של GPT‑5.6 Sol ברמת מאמץ reasoning ״נמוכה״ עלו על אלה של GPT‑5.5 ברמה ״גבוהה״, ללא שינוי ב-harness. ראינו סיפורי הצלחה דומים גם בבדיקות בסביבות ייצור: חברות סטארטאפ מדווחות על חיסכון משמעותי בעלויות במגוון תהליכי עבודה, בעקבות הפחתת מאמץ ה-reasoning ביחס להגדרות ברירת המחדל הקודמות.
בעבר, שדרוג למודל הדגל ברמת ה-reasoning הגבוהה ביותר הזמינה היה האפשרות הטובה ביותר לתרחישי שימוש ממושכים. הסיבה העיקרית לכך הייתה שמודלים אלה היו טובים משמעותית בטיפול בהקשרים ארוכים ובקריאה לכלים, בהשוואה למודלים שתוכננו לחיסכון בעלויות. משפחת 5.6 שינתה את התמונה: עם יותר משאבי חישוב בזמן ההסקה, Luna ו-Terra יכולים במקרים רבים להגיע לביצועים דומים לאלה של GPT‑5.4 ו-5.5, בעלות נמוכה משמעותית.
ניקח לדוגמה משימות ב-BrowseComp: מבחן ביצועים מבוסס חיפוש, שבוחן את יכולת המודל למצוא עובדות שקשה לאתר. לפני שלושה חודשים, GPT‑5.5 ברמת מאמץ גבוהה מאוד השיג ציון של 84.36% במבחן הזה, בעלות כוללת של 33.27 דולר. בעת ההשקה, GPT‑5.6 Luna ברמת מאמץ גבוהה מאוד מספק ביצועים כמעט זהים: ציון של 84.04% בעלות של 1.33 דולר. מאז הורדנו את המחירים עוד יותר. קראו עוד על הורדות המחירים האחרונות שלנו.
המודלים הקטנים יותר במשפחת 5.6 מתאימים במיוחד לעומסי עבודה בהיקף גדול, לאינטראקציות שרגישות לזמן ההשהיה ולשלבים חוזרים בתהליכי עבודה אג'נטיים. לדוגמה, אם אתם מנהלים סטארטאפ בתחום הטכנולוגיה המשפטית שמפענח מזכרים בכתב יד לפני ניתוח אג'נטי, אין עוד צורך במודל מחזית הטכנולוגיה לכל התהליך. כעת תוכלו להשתמש ב-Terra או ב-Luna לחילוץ המידע ולחסוך משמעותית בעלויות.
מלבד שיפור הביצועים של GPT‑5.6 כבר בשימוש הראשוני, הוספנו גם אבני בניין חדשות ל-Responses API כדי לאפשר שיפורים נוספים. אימנו את GPT‑5.6 מקצה לקצה עם שלושה שינויים ארכיטקטוניים משלימים, שמאפשרים לסוכנים לפעול ביעילות רבה יותר:
שימוש חוזר בעבודה שכבר בוצעה: האפשרות לשמר reasoning(נפתח בחלון חדש) בין תורות של המודל, והשימוש ב-compaction מובנה(נפתח בחלון חדש) לדחיסת שיחות ממושכות, מאפשרים למודל לשמור על עקביות בעבודתו לאורך משימות ארוכות יותר, בלי להתבלבל או לשחזר הקשר קודם.
פירוק לעבודה במקביל כשזה מתאים: שימוש בתזמור מובנה של סוכנים מרובים(נפתח בחלון חדש) מאפשר לתאם בין כמה סוכנים הפועלים במקביל, כדי להשלים משימות מורכבות מהר יותר.
העברת עבודה דטרמיניסטית לקוד: שימוש בקריאה לכלים באמצעות קוד(נפתח בחלון חדש) כדי לסנן, לצבור ולתזמר פלטים של כלים מחוץ לחלון ההקשר של המודל. כך הטוקנים של המודל נשמרים להפעלת שיקול דעת, והעלויות, זמן ההשהיה והידרדרות ההקשר מצטמצמים.
בשימוש משולב, ההבדל יכול להיות דרמטי. לדוגמה, ב-ARC-AGI-3, מודל GPT‑5.6 Sol השיג ציון של 13.3% עם ה-harness הסטנדרטי. אבל לאחר הפעלת שימור reasoning ו-compaction, הציון זינק ל-38.3% — תוך שימוש בכשישית ממספר טוקני הפלט. בלי לשנות את המודל, הביצועים השתפרו כמעט פי שלושה. אפשר לקרוא כאן עוד על המחקר שלנו על ה-harness של ARC-AGI-3.
תהליכי עבודה אג'נטיים כוללים לעיתים קרובות שני סוגי עבודה:
משימות שדורשות שיקול דעת
עבודה שדורשת בעיקר העברה, סינון ושילוב של נתונים
כשסוכן מאחזר 100 דיווחים, מסנן אותם לפי תאריך ומזהה עסקאות רלוונטיות, המודל לא אמור להידרש לנתח כל תוצאת ביניים בחלון ההקשר שלו. קריאה לכלים באמצעות קוד מאפשרת ל-GPT‑5.6 לכתוב JavaScript כדי לתזמר כלים, להריץ קריאות בלתי תלויות במקביל ולעבד את הפלטים שלהן מחוץ לחלון ההקשר. כך המודל יכול להתמקד במה שדורש תבונה: הפעלת שיקול דעת.
במשימות מורכבות שניתן לפצל לעבודה במקביל, חלוקת הפעולות וה-reasoning בין כמה סוכנים הפועלים במקביל מאפשרת להשלים את המשימה מהר יותר, וגם להגיע לרמת תבונה גבוהה יותר. במערכים כאלה, הסוכן הראשי אחראי לתזמור סוכני המשנה ולהאצלת משימות להם. סוכני המשנה פועלים במקביל להשגת יעדיהם, ובסיום מחזירים את הפלט שלהם לסוכן הראשי כדי שיגבש תוצאה סופית משולבת. צוותים יכולים להתחיל לנצל את התמיכה המובנית בסוכנים מרובים באמצעות הפעלת סוכנים מרובים(נפתח בחלון חדש) ב-Responses API. כך פועלת גם הגדרת היכולת אולטרה ב-ChatGPT.
“Qualia מפעילה צוותי סוכנים על בעיות מחקר פתוחות, ו-GPT‑5.6 Sol פשוט התאים בול. הוא הציג שיפור ניכר לעומת GPT‑5.5, סיים מהר יותר מכמעט כל מודל אחר שבדקנו, והפך במהירות למודל של OpenAI שאנחנו בוחרים בו באופן קבוע.”
“GPT‑5.6 הוא המודל הטוב ביותר שראינו מ-OpenAI לתזמור משימות. נתנו לו שישה מפרטים בבת אחת — כתיבה, בנייה ודיון בכולם — והוא הצליח לעקוב אחרי הכול בלי שהאיכות תיפגע.”
אף ש-GPT‑5.6 יודע היטב כמה סוכני משנה מתאימים למשימה ומתי ליצור אותם, אפשר לכוון במידה רבה את אופן הפעולה של מערך הסוכנים. הנחיות למודל לגבי מועד הפעלת סוכני משנה יכולות להגדיל את הסיכוי שסוכנים ייווצרו רק במצבים שבהם הוצאת הטוקנים הנוספת תשפר את הביצועים.
בכל משפחת המודלים, משך החיים (TTL) של מטמון הפרומפטים הוארך ל-30 דקות לפחות, וכעת אפשר להגדיר באופן דטרמיניסטי נקודות עצירה למטמון בתוך חלון ההקשר של המודל. השינוי אפשר לחברות סטארטאפ לשפר משמעותית את שיעור הפגיעות במטמון.
לצד הגדרת נקודות עצירה למטמון, המשך שימוש ב-prompt_cache_key(נפתח בחלון חדש) מתאים מגדיל את הסיכוי שבקשות ינותבו לאותו מנוע הסקה שכבר טיפל באותה קידומת, וכך מצמצם את זמן ההשהיה.
מה שבולט בכל הדוגמאות האלה הוא עד כמה השתנו השיקולים הכלכליים של פיתוח סוכנים.
תרחישי שימוש שבעבר דרשו מודל מחזית הטכנולוגיה בכל שלב יכולים כיום להשיג תוצאות דומות או טובות יותר בשבריר מהעלות, באמצעות מודלים קטנים יותר, התאמת מאמץ ה-reasoning ובחירות ארכיטקטוניות יעילות.
אנחנו מצפים בהתרגשות לראות מה תבנו!
- 2026
- פלטפורמת API
על המחברים
המדריך הזה נכתב על ידי סמארת' מדורו(נפתח בחלון חדש), פרשאנט מיטל(נפתח בחלון חדש), דייב לאו(נפתח בחלון חדש) וז'וליאן ריימן(נפתח בחלון חדש), על סמך ניסיונם בעבודה צמודה עם חברות סטארטאפ המפתחות על בסיס GPT‑5.6, מהבדיקות הראשונות ועד לשימוש בסביבת ייצור.
