Οδηγός δημιουργίας εφαρμογών με το GPT‑5.6

Η οικογένεια μοντέλων GPT‑5.6 καθιστά τις επιδόσεις πρακτόρων κορυφαίου επιπέδου πολύ πιο προσιτές, διευρύνοντας παράλληλα τα όρια του εφικτού.

Σε αυτόν τον οδηγό παρουσιάζουμε πώς οι νεοφυείς επιχειρήσεις αξιοποιούν εξυπνότερη επιλογή μοντέλων και νέα στοιχεία ελέγχου API για τη συνέχεια της συλλογιστικής, την ενορχήστρωση πολλών πρακτόρων και την προγραμματική κλήση εργαλείων, ώστε να δημιουργούν ταχύτερους και ικανότερους πράκτορες με ελάχιστο κόστος.

Από το GPT‑5 και μετά, κάθε γενιά μοντέλων επιδιώκει να αντιμετωπίζει εργασίες μεγαλύτερου χρονικού ορίζοντα με λιγότερα token. Το GPT‑5.6 συνεχίζει σε αυτή την κατεύθυνση: ισχυρότερες επιδόσεις πρακτόρων και χαμηλότερο κόστος, με ελάχιστες αλλαγές στον υποκείμενο μηχανισμό.

Η συνολική βελτίωση της αποδοτικότητας κόστους ενισχύεται περαιτέρω από την αυξημένη ακρίβεια σε χαμηλότερα επίπεδα συλλογιστικής. Για παράδειγμα, στο Agents’ Last Exam, το GPT‑5.6 Sol με «χαμηλή» συλλογιστική ξεπέρασε το GPT‑5.5 με «υψηλή» συλλογιστική, με τον μηχανισμό να παραμένει ίδιος. Παρόμοια αποτελέσματα έχουμε δει και σε δοκιμές παραγωγής, όπου νεοφυείς επιχειρήσεις αναφέρουν σημαντική μείωση κόστους σε ποικίλες ροές εργασίας, μειώνοντας το επίπεδο συλλογιστικής σε σχέση με τις προηγούμενες προεπιλογές.

Παραδοσιακά, η αναβάθμιση σε ένα κορυφαίο μοντέλο με το υψηλότερο διαθέσιμο επίπεδο συλλογιστικής ήταν η καλύτερη επιλογή για περιπτώσεις χρήσης μεγάλου χρονικού ορίζοντα. Αυτό οφειλόταν σε μεγάλο βαθμό στο ότι αυτά τα μοντέλα διαχειρίζονταν πολύ αποτελεσματικότερα από τα μοντέλα βελτιστοποιημένου κόστους τα μεγαλύτερα πλαίσια και τις κλήσεις εργαλείων. Αυτό άλλαξε με την οικογένεια 5.6: με περισσότερη υπολογιστική ισχύ κατά την εκτέλεση, τα Luna και Terra συχνά επιτυγχάνουν επιδόσεις παρόμοιες με τα GPT‑5.4 και 5.5, με σημαντικά χαμηλότερο κόστος.

Ας εξετάσουμε τις εργασίες του BrowseComp, ενός benchmark αναζήτησης που δοκιμάζει την ικανότητα ενός μοντέλου να εντοπίζει δυσεύρετα στοιχεία. Πριν από τρεις μήνες, το GPT‑5.5 (Πολύ υψηλό) πέτυχε βαθμολογία 84,36% σε αυτό το benchmark, με συνολικό κόστος 33,27 $. Κατά την κυκλοφορία του, το GPT‑5.6 Luna (Πολύ υψηλό) προσφέρει ουσιαστικά τις ίδιες επιδόσεις, με βαθμολογία 84,04% και κόστος 1,33 $. Έκτοτε μειώσαμε ακόμη περισσότερο τις τιμές. Διαβάστε περισσότερα για τις πιο πρόσφατες μειώσεις τιμών.

Τα μικρότερα μοντέλα της οικογένειας 5.6 είναι ιδιαίτερα κατάλληλα για φόρτους εργασίας μεγάλου όγκου, αλληλεπιδράσεις ευαίσθητες στην καθυστέρηση και επαναλαμβανόμενα βήματα σε ροές εργασίας πρακτόρων. Για παράδειγμα, αν διευθύνετε μια νεοφυή επιχείρηση νομικής τεχνολογίας που αναλύει χειρόγραφα υπομνήματα πριν από την ανάλυση από πράκτορες, μπορείτε πλέον να χρησιμοποιείτε Terra ή Luna για την εξαγωγή, αντί για ένα κορυφαίο μοντέλο σε όλη τη διαδικασία, εξοικονομώντας σημαντικά ποσά.

Πέρα από τη βελτίωση των έτοιμων επιδόσεων του GPT‑5.6, προσθέσαμε και νέα δομικά στοιχεία στο Responses API, που επιτρέπουν ακόμη μεγαλύτερα οφέλη. Εκπαιδεύσαμε το GPT‑5.6 από άκρο σε άκρο με τρεις συμπληρωματικές αρχιτεκτονικές παρεμβάσεις, που επιτρέπουν στους πράκτορες να λειτουργούν αποδοτικότερα:

1. Επαναχρησιμοποίηση ήδη ολοκληρωμένης εργασίας: επιτρέποντας τη διατήρηση της συλλογιστικής⁠(ανοίγει σε νέο παράθυρο) μεταξύ των διαδοχικών αποκρίσεων του μοντέλου και χρησιμοποιώντας εγγενή συμπύκνωση⁠(ανοίγει σε νέο παράθυρο) για τη συμπίεση μακροσκελών συνομιλιών, το μοντέλο διατηρεί τη συνοχή της εργασίας του σε μεγαλύτερους χρονικούς ορίζοντες, χωρίς να μπερδεύεται ή να χρειάζεται να ανασυνθέσει το προηγούμενο πλαίσιο.

2. Παράλληλη ανάλυση όπου ενδείκνυται: η εγγενής ενορχήστρωση πολλών πρακτόρων⁠(ανοίγει σε νέο παράθυρο) επιτρέπει τον συντονισμό πολλών πρακτόρων σε παράλληλες ροές εργασίας, ώστε οι σύνθετες εργασίες να ολοκληρώνονται ταχύτερα.

3. Μεταφορά της ντετερμινιστικής εργασίας στον κώδικα: η προγραμματική κλήση εργαλείων⁠(ανοίγει σε νέο παράθυρο) φιλτράρει, συγκεντρώνει και ενορχηστρώνει τα αποτελέσματα των εργαλείων έξω από το θεματικό πλαίσιο του μοντέλου, διατηρώντας τα token του μοντέλου για κρίσεις και μειώνοντας το κόστος, την καθυστέρηση και την υποβάθμιση του πλαισίου.

Όταν χρησιμοποιούνται μαζί, η διαφορά μπορεί να είναι εντυπωσιακή. Για παράδειγμα, στο ARC-AGI-3, το GPT‑5.6 Sol πέτυχε 13,3% με τον τυπικό μηχανισμό. Ωστόσο, μετά την ενεργοποίηση της διατήρησης συλλογιστικής και της συμπύκνωσης, η βαθμολογία εκτινάχθηκε στο 38,3% — με περίπου 6 φορές λιγότερα token εξόδου. Χωρίς αλλαγές στο μοντέλο, αλλά με σχεδόν τριπλάσιες επιδόσεις. Μπορείτε να διαβάσετε περισσότερα στην έρευνά μας για τον μηχανισμό του ARC-AGI-3.

Οι ροές εργασίας πρακτόρων περιλαμβάνουν συχνά δύο είδη εργασίας:

1. Εργασίες που απαιτούν κρίση

2. Εργασίες που απαιτούν κυρίως μετακίνηση, φιλτράρισμα και συνδυασμό δεδομένων

Όταν ένας πράκτορας ανακτά 100 γνωστοποιήσεις, τις φιλτράρει κατά ημερομηνία και εντοπίζει σχετικές συναλλαγές, το μοντέλο δεν θα πρέπει να επεξεργάζεται με συλλογιστική κάθε ενδιάμεσο αποτέλεσμα στο θεματικό πλαίσιό του. Η Προγραμματική Κλήση Εργαλείων επιτρέπει στο GPT‑5.6 να γράφει JavaScript για να ενορχηστρώνει εργαλεία, να εκτελεί ανεξάρτητες κλήσεις παράλληλα και να επεξεργάζεται τα αποτελέσματά τους έξω από το θεματικό πλαίσιο. Έτσι, το μοντέλο επικεντρώνεται σε αυτό που απαιτεί ευφυΐα: την άσκηση κρίσης.

Σε σύνθετες εργασίες που μπορούν να παραλληλοποιηθούν, η κατανομή ενεργειών και συλλογιστικής σε πολλαπλές ροές εργασίας πρακτόρων επιτρέπει ταχύτερη ολοκλήρωση και υψηλότερο επίπεδο ευφυΐας. Σε αυτές τις διαμορφώσεις, ο κύριος πράκτορας είναι υπεύθυνος για την ενορχήστρωση των υποπρακτόρων και την ανάθεση εργασιών σε αυτούς. Οι υποπράκτορες επιδιώκουν παράλληλα τους στόχους τους και, στο τέλος, επιστρέφουν τα αποτελέσματά τους στον κύριο πράκτορα για την τελική σύνθεση. Οι ομάδες μπορούν να αρχίσουν να αξιοποιούν εγγενώς πολλούς πράκτορες, ενεργοποιώντας τη λειτουργία πολλών πρακτόρων⁠(ανοίγει σε νέο παράθυρο) στο Responses API. Με αυτόν τον τρόπο λειτουργεί και η ρύθμιση δυνατοτήτων Ultra στο ChatGPT.

Παρότι το GPT‑5.6 αντιλαμβάνεται καλά ποιος είναι ο κατάλληλος αριθμός υποπρακτόρων και πότε πρέπει να τους δημιουργήσει, η συμπεριφορά πολλών πρακτόρων μπορεί να καθοδηγηθεί σε μεγάλο βαθμό. Οι οδηγίες προς το μοντέλο σχετικά με το πότε πρέπει να καλεί υποπράκτορες μπορούν να αυξήσουν την πιθανότητα δημιουργίας τους μόνο όταν η πρόσθετη δαπάνη token θα προσφέρει καλύτερες επιδόσεις.

Σε ολόκληρη την οικογένεια μοντέλων, το TTL της προσωρινής αποθήκευσης προτροπών αυξήθηκε σε τουλάχιστον 30 λεπτά και τα σημεία διακοπής cache μπορούν πλέον να ορίζονται ντετερμινιστικά μέσα στο θεματικό πλαίσιο ενός μοντέλου. Έτσι, οι νεοφυείς επιχειρήσεις μπόρεσαν να βελτιώσουν σημαντικά το ποσοστό επιτυχιών της cache.

Εκτός από τον ορισμό σημείων διακοπής cache, η συνεχιζόμενη χρήση ενός κατάλληλου prompt_cache_key⁠(ανοίγει σε νέο παράθυρο) αυξάνει την πιθανότητα τα αιτήματα να δρομολογούνται στην ίδια μηχανή συναγωγής που είχε εξυπηρετήσει προηγουμένως το ίδιο πρόθεμα, μειώνοντας έτσι την καθυστέρηση.

Αυτό που ξεχωρίζει σε όλα αυτά τα παραδείγματα είναι το πόσο έχουν αλλάξει τα οικονομικά δεδομένα της δημιουργίας πρακτόρων.

Περιπτώσεις χρήσης που κάποτε απαιτούσαν ένα κορυφαίο μοντέλο σε κάθε βήμα μπορούν πλέον να επιτύχουν παρόμοια ή καλύτερα αποτελέσματα με ελάχιστο κόστος, χρησιμοποιώντας μικρότερα μοντέλα, προσαρμόζοντας το επίπεδο συλλογιστικής και κάνοντας αποδοτικές αρχιτεκτονικές επιλογές.

Ανυπομονούμε να δούμε τι θα δημιουργήσετε!