Πώς χτίσαμε το νέο σύστημα διαφημίσεων του ChatGPT με έμφαση στην εμπιστοσύνη και τη συνάφεια

Τα παραδοσιακά συστήματα διαφήμισης έχουν σχεδιαστεί για να ανταποκρίνονται σε μεμονωμένες εκδηλώσεις της πρόθεσης του χρήστη. Ο χρήστης αναζητά ή βλέπει κάτι στο διαδίκτυο, το σύστημα διαφημίσεων λαμβάνει αυτά τα ερωτήματα και τις προβολές σελίδων ως συμβάντα και αναζητά διαφημίσεις που ταιριάζουν με βάση αυτά. Η δημιουργία διαφημιστικής υποδομής για το ChatGPT ήταν διαφορετική: η πρόθεση του χρήστη διαμορφώνεται μέσα από συνομιλίες και αλλάζει σε πολλούς γύρους μιας συνομιλίας, μερικές φορές χωρίς να προκύπτει κατάλληλη στιγμή για διαφήμιση. Για να υποστηρίξουμε αυτό το νέο πρότυπο, δημιουργήσαμε ένα ειδικά σχεδιασμένο σύστημα παράδοσης διαφημίσεων. Αυτός ο νέος τύπος διαφημιστικής υποδομής βασίζεται σε ένα προσαρμοσμένο, μετεκπαιδευμένο κορυφαίο LLM, που καλεί εργαλεία για ανάκτηση (εντοπισμό των καλύτερων επιλογών), κατάταξη (πρόβλεψη αλληλεπίδρασης του χρήστη), συνάφεια (αξιολόγηση της χρησιμότητας της διαφήμισης) και διεξαγωγή δημοπρασιών για την τελική επιλογή και τιμολόγηση διαφημίσεων.

Το σύστημα διαφημίσεών μας λαμβάνει υπόψη τις λεπτές αποχρώσεις των εξελισσόμενων στόχων του χρήστη χάρη σε τρεις βασικές σχεδιαστικές αποφάσεις: 1) συνεδρίες διαφημίσεων με διατήρηση κατάστασης, δηλαδή απομνημόνευση πληροφοριών από γύρο σε γύρο και μεταξύ διαφορετικών συνομιλιών, 2) ένα προσαρμοσμένο, μετεκπαιδευμένο LLM με αρχιτεκτονική κλήσης εργαλείων, που ερμηνεύει το πλαίσιο και την υποκείμενη πρόθεση της συνομιλίας και έπειτα επιλέγει, κατατάσσει και παραδίδει αποτελεσματικά διαφημίσεις, και 3) εκτέλεση της επιλογής διαφημίσεων σε δική της υπηρεσία, χωριστά από την παραγωγή απαντήσεων του ChatGPT, ώστε οι διαφημίσεις να μην επηρεάζουν τις απαντήσεις και το ChatGPT να διατηρεί ουδέτερο ύφος. Χρησιμοποιούμε το μετεκπαιδευμένο LLM μας για να συντονίζει ολόκληρη τη ροή διαφημίσεων, καθορίζοντας ποια διαφήμιση πρέπει να εμφανιστεί και πότε, με βάση τόσο τον τρέχοντα γύρο της συνομιλίας όσο και το ιστορικό της. Ενώ παλαιότερα η δημιουργία ενός τέτοιου αυτοβελτιούμενου συστήματος διαφημίσεων από το μηδέν απαιτούσε χρόνια, το ChatGPT Ads έφτασε σε έσοδα 1 δισ. δολαρίων σε ετήσια αναγωγή σε λιγότερες από 200 ημέρες από την κυκλοφορία του. Πλέον, περισσότεροι από 100.000 διαφημιζόμενοι έχουν προβάλει διαφημίσεις στο ChatGPT από την έναρξη λειτουργίας.

Ένα συμβατικό αίτημα διαφήμισης ξεκινά συνήθως με ένα σαφώς καθορισμένο συμβάν. Ο χρήστης υποβάλλει ένα ερώτημα αναζήτησης ή ανοίγει μια ιστοσελίδα και το σύστημα διαφημίσεων λαμβάνει ένα αίτημα. Αυτός ο τύπος συστήματος είναι αρκετά απλός: ανακτά υποψήφιες διαφημίσεις, τις κατατάσσει, διεξάγει δημοπρασία για να τιμολογήσει κατάλληλα την ευκαιρία προβολής και εμφανίζει στον χρήστη τη διαφήμιση που προκύπτει. Στο ChatGPT δεν προκύπτει από τη φύση της λειτουργίας του μια τόσο συγκεκριμένη στιγμή.

Σε μια συνομιλία με το ChatGPT, οι άνθρωποι έρχονται με στόχους και όχι με ένα ερώτημα αναζήτησης που ζητά μία απάντηση. Μπορεί να σχεδιάζουν ένα ταξίδι, να επιλέγουν λογισμικό για την επιχείρησή τους, να επιπλώνουν ένα σπίτι ή να μαθαίνουν ένα νέο χόμπι. Όλα αυτά δεν συμβαίνουν σε έναν μόνο γύρο της συνομιλίας. Το ChatGPT συχνά βοηθά τον χρήστη να ξεκαθαρίσει στην πορεία τι έχει σημασία.

Για παράδειγμα, η ομάδα μηχανικών μας ρώτησε το ChatGPT πώς να προπονηθεί για έναν αγώνα. Η συνομιλία ξεκινά με μια γενική ερώτηση για το τρέξιμο. Αρκετούς γύρους αργότερα, ρωτούν για παπούτσια που θα βοηθήσουν στην προπόνηση. Η εμπορική σημασία της συνομιλίας αλλάζει με κάθε νέο περιορισμό, και αυτό το εξατομικευμένο πλαίσιο εξελίσσεται σε πολλές συνεδρίες. Ένα σύστημα που θα ενεργούσε με βάση το πρώτο μήνυμα θα μπορούσε να παρερμηνεύσει εντελώς την πρόθεση, υποβαθμίζοντας ενδεχομένως την εμπειρία του χρήστη και εμποδίζοντάς τον.

Για να δημιουργήσουμε το σύστημα διαφημίσεών μας, έπρεπε να ξεπεράσουμε την αρχιτεκτονική διαφήμισης αιτήματος-απόκρισης και να χτίσουμε μια υποδομή από το μηδέν, ώστε να εντοπίζουμε πιθανές οικονομικές ευκαιρίες δίνοντας προτεραιότητα στην εμπιστοσύνη και την αξία για τον χρήστη.

Η μετατροπή κάθε μηνύματος σε αυτόνομο αίτημα, όπως σε ένα παραδοσιακό σύστημα διαφημίσεων, θα ενείχε ορισμένους κινδύνους στο δικό μας περιβάλλον συνομιλίας: 1) παρερμηνεία του στόχου του χρήστη λόγω υπεραπλούστευσης, 2) πρόωρη έναρξη της ροής διαφήμισης, πριν ξεκαθαρίσει η πραγματική ανάγκη του χρήστη, 3) εμφάνιση διαφημίσεων που εμποδίζουν αντί να υποστηρίζουν την πορεία του χρήστη και 4) αναποτελεσματική επανεκτέλεση της ροής διαφημίσεων κάθε φορά που αλλάζει το αίτημα, δημιουργώντας θόρυβο και άσκοπο κόστος. Αντί να βασίζεται σε μεμονωμένα συμβάντα, το σύστημα διαφημίσεων (που περιλαμβάνει ανάκτηση, κατάταξη και παράδοση) διατηρεί μια συνεδρία με κατάσταση. Δηλαδή, η συνεδρία διαφημίσεων εκτελείται όσο διαρκεί ένας γύρος συνομιλίας κατάλληλος για διαφήμιση, απομνημονεύοντας και ενημερώνοντας τις πληροφορίες καθώς εξελίσσονται. Το ChatGPT στέλνει το αρχικό πλαίσιο του αιτήματος στον διακομιστή διαφημίσεων. Το σύστημα διαφημίσεων παρακολουθεί την εξέλιξη της συνομιλίας και προσαρμόζεται σε αυτήν, αντί να βασίζεται σε ένα μόνο απλουστευμένο ερώτημα.

Η επιλογή διαφημίσεων εκτελείται παράλληλα με την κανονική παραγωγή απαντήσεων του ChatGPT, ώστε η ροή διαφημίσεων να μην επηρεάζει τις απαντήσεις του. Οι διαφημίσεις φιλτράρονται και επιλέγονται από ένα ξεχωριστό σύστημα, το οποίο επεξεργάζεται τη συνομιλία με τους δικούς του περιορισμούς καταλληλότητας, ποιότητας και παράδοσης. Αυτός ο σημαντικός αρχιτεκτονικός διαχωρισμός —διαφορετικές υπηρεσίες με ξεχωριστά μοντέλα και κώδικα— αφήνει στους βασικούς διακομιστές του ChatGPT την παραγωγή της οργανικής απάντησης. Παράλληλα, το σύστημα διαφημίσεων αξιολογεί ανεξάρτητα αν υπάρχει κατάλληλη ευκαιρία διαφήμισης και, αν υπάρχει, προετοιμάζει μια χορηγούμενη τοποθέτηση μέσω ξεχωριστής διαδικασίας προβολής.

Πέρα από την προστασία της εμπειρίας χρήσης, αυτός ο διαχωρισμός έχει και ορισμένες πρακτικές συνέπειες. Το ChatGPT δεν εξαρτάται καθόλου από το σύστημα διαφημίσεων: οι υπηρεσίες δεν συνδέονται με κανέναν τρόπο και δεν μοιράζονται μοντέλο παραγωγής περιεχομένου. Έτσι, αν το σύστημα προβολής διαφημίσεων δεν είναι διαθέσιμο ή καθυστερεί, η οργανική απάντηση του ChatGPT συνεχίζει να παράγεται ανεπηρέαστη. Αυτό σημαίνει ότι το σύστημα διαφημίσεων δεν μπορεί να προκαλέσει διακοπή ή καθυστέρηση στη λειτουργία του ChatGPT. Το άλλο όφελος αυτού του διαχωρισμού είναι ότι διατηρεί πολύ ψηλά τον πήχη ως προς την αξία των διαφημίσεων. Το να μην επιστραφεί καμία διαφήμιση είναι ένα φυσιολογικό και επιτυχημένο αποτέλεσμα. Το σύστημα παραδίδει μια διαφήμιση μόνο αν ωφελεί ξεκάθαρα τους χρήστες και τους διαφημιζόμενους.

Το άλλο βασικό αρχιτεκτονικό στοιχείο της διαφημιστικής μας υποδομής είναι το μετεκπαιδευμένο LLM που ερμηνεύει τις συνομιλίες και εκτελεί ολόκληρη τη ροή διαφημίσεων σε έναν βρόχο αυτόνομου πράκτορα. Καλεί εργαλεία για τις βασικές λειτουργίες του συστήματος διαφημίσεων, από την ανάκτηση και την κατάταξη έως τη δημοπρασία και, τελικά, την παράδοση. Αποκαλούμε αυτό το LLM συντονιστή.

Το πρώτο στάδιο της ροής διαφημίσεων είναι η κατανόηση της πρόθεσης του χρήστη, ώστε να ξεκινήσει η διαδικασία ανάκτησης: μια γρήγορη και σκόπιμα ευρεία συλλογή πιθανών διαφημίσεων, που θα φιλτραριστούν στη συνέχεια. Η σταδιακή λήψη της συνομιλίας εμπλουτίζει το πρόβλημα της ανάκτησης, αλλά το κάνει και πιο αμφίσημο, καθώς το σύστημα διαφημίσεων πρέπει να διακρίνει την τρέχουσα πρόθεση από το παλαιότερο πλαίσιο που δεν ισχύει πλέον. Ο συντονιστής πρέπει να ερμηνεύει αναφορές σε προηγούμενα μηνύματα, να αναγνωρίζει πότε ο χρήστης μιλά υποθετικά και να μην αντιμετωπίζει κάθε αναφορά σε προϊόν ή υπηρεσία ως αίτημα αγοράς.

Ο συντονιστής διαφημίσεων αξιοποιεί τη διαθέσιμη συνομιλία και το πλαίσιο του χρήστη, αναζητώντας επαναληπτικά καλές διαφημίσεις και επιλέγοντας κάθε φορά πότε θα καλέσει ποιο εργαλείο. Βασικός στόχος είναι να βρει την καταλληλότερη διαφήμιση για τη συγκεκριμένη συνομιλία και το πλαίσιό της: εκείνη που συνδυάζει υψηλή αξία για τον χρήστη και τον διαφημιζόμενο. Αν ο χρήστης επιλέξει την εξατομίκευση διαφημίσεων, ο συντονιστής λαμβάνει επίσης υπόψη διαθέσιμες μη ευαίσθητες πληροφορίες από προηγούμενες συνομιλίες του, ώστε να βρει τις διαφημίσεις που ταιριάζουν καλύτερα.

Καθώς η συνομιλία προχωρά και ο συντονιστής διαφημίσεων λαμβάνει νεότερες πληροφορίες, μπορεί να εκτελέσει μια νέα σειρά κλήσεων εργαλείων με το ενημερωμένο πλαίσιο, ώστε να βρει καλύτερες διαφημίσεις και να τις επιστρέψει στην εφαρμογή-πελάτη. Η εφαρμογή μπορεί τότε να τις χρησιμοποιήσει, εφόσον φτάσουν εγκαίρως.

Ο συντονιστής έχει σχεδιαστεί ώστε να εξισορροπεί την αξία για τον χρήστη και τον διαφημιζόμενο, δίνοντας πάντα προτεραιότητα στους χρήστες.

Το σύστημα διαφημίσεων αποτελείται από επιμέρους εργαλεία, τα οποία ο συντονιστής καλεί επαναληπτικά για να βρει τις καλύτερες διαφημίσεις για μια συνομιλία. Σε γενικές γραμμές, ο συντονιστής μετατρέπει τις συνομιλίες σε σύντομες περιλήψεις κειμένου και, στη συνέχεια, σε σημασιολογικά διανύσματα: αποθηκευμένες αναπαραστάσεις νοήματος που διευκολύνουν την αναζήτηση από το σύστημα διαφημίσεων. Με αυτά ανακτά υποψήφιες διαφημίσεις, τις φιλτράρει ως προς την καταλληλότητα προβολής (βάσει προϋπολογισμού, ρυθμίσεων χρήστη και άλλων προκαταρκτικών ελέγχων), αξιολογεί την ποιότητα και τη συνάφειά τους και τις κατατάσσει τελικά, ώστε να εντοπίσει ευκαιρίες υψηλής αξίας για τοποθέτηση στο τέλος μιας απάντησης. Επομένως, κάθε διαφήμιση πρέπει να πληροί αυστηρά κριτήρια καταλληλότητας και συνάφειας για να μπορεί να τοποθετηθεί.

Το LLM συντονισμού προετοιμάζει πρώτα ένα ή περισσότερα ερωτήματα που αποτυπώνουν τη σχετική εμπορική πρόθεση. Αυτό μπορεί να περιλαμβάνει αναδιατύπωση του πλαισίου της συνομιλίας, ώστε να διευρυνθούν οι εμπορικές δυνατότητες πέρα από ερωτήματα αναζήτησης με αντιστοίχιση 1:1, και στη συνέχεια δημιουργία σημασιολογικών αναπαραστάσεων. Ο συντονιστής συμπυκνώνει μια συνομιλία πολλών γύρων σε μια περίληψη για το σύστημα ανάκτησης, ώστε να ανακτά στοχευμένα διαφημίσεις από τη βάση δεδομένων μας.

Οι διαφημιστικές τοποθετήσεις θα ωφελούν περισσότερο τόσο τους χρήστες όσο και τους διαφημιζόμενους, αν εμφανίζονται μόνο όταν υπάρχει βαθιά κατανόηση της πρόθεσης του χρήστη. Τα πολλαπλά ερωτήματα μπορούν να διατηρούν διαφορετικές πτυχές της πρόθεσης. Μια συνομιλία για τον προγραμματισμό ενός ταξιδιού, για παράδειγμα, μπορεί να περιλαμβάνει διακριτές ανάγκες για μετακίνηση, διαμονή ή δραστηριότητες. Το σύστημα ανάκτησης μπορεί να διατηρεί αυτές τις διακρίσεις, αντί να συμπιέζει ολόκληρη τη συνομιλία σε μία συμβολοσειρά με την κατά λέξη διατύπωσή της.

Ας δούμε, για παράδειγμα, μια πιθανή ακολουθία μηνυμάτων για παπούτσια πεζοπορίας:

1. Τι να δω και να κάνω σε ένα διήμερο ταξίδι στο Γιοσέμιτι;

2. Θα κάνει κρύο την επόμενη εβδομάδα;

3. Νέες σειρές προϊόντων της [εισαγάγετε μάρκα];

Παρότι ο χρήστης δεν έχει συνδέσει την ερώτηση για τη μάρκα παπουτσιών με το ταξίδι στο Γιοσέμιτι, αυτή η συνομιλία μπορεί να αναπαρασταθεί στο σύστημα διαφημίσεών μας με δύο ερωτήματα, όπως [κατάλληλα παπούτσια για πεζοπορία] και [νέες σειρές προϊόντων της [μάρκα] κατάλληλες για ταξίδια]. Αυτή μπορεί να είναι μόνο η πρώτη προσπάθεια. Ο συντονιστής έχει σχεδιαστεί ώστε να αναθεωρεί επαναληπτικά αυτές τις αναπαραστάσεις, μέχρι να βρει στο απόθεμά μας διαφημίσεις με μεγάλη αξία για τον χρήστη.

Η ανάκτηση είναι η διαδικασία δημιουργίας ενός σκόπιμα ευρέος συνόλου επιλογών διαφήμισης. Οι υποψήφιες διαφημίσεις μπορεί να προέρχονται από διαφορετικές στρατηγικές ανάκτησης και στη συνέχεια να ανταγωνίζονται υπό τους ίδιους περιορισμούς προβολής. Δημιουργούμε πολλαπλά ευρετήρια, βελτιστοποιημένα για διαφορετικούς περιορισμούς του συστήματος και του προϊόντος. Για παράδειγμα, το ευρετήριο διαφημίσεων από ροές προϊόντων έχει σχεδιαστεί ώστε να λαμβάνει υπόψη θετικές ή αρνητικές κριτικές προϊόντων κατά την ανάκτηση των καλύτερων δυνατών διαφημίσεων. Αυτό δεν αφορά άλλες διαφημίσεις, με τις οποίες ενδέχεται να μη συνδέονται κριτικές. Κάθε ευρετήριο είναι βελτιστοποιημένο για κάποια παραλλαγή προσεγγιστικής αναζήτησης πλησιέστερων γειτόνων (ANN), με χρήση διανυσμάτων που αναπαριστούν την πρόθεση του χρήστη. Αυτή η αναζήτηση ANN είναι ένας προσεγγιστικός αλγόριθμος ανάκτησης σε μεγάλα σημασιολογικά ευρετήρια. Ανακτά διαφημίσεις πολύ γρήγορα, προσεγγίζοντας μια καλή λύση αντί να αναζητά «τη σωστή», ενώ διατηρεί τις περισσότερες συναφείς υποψήφιες διαφημίσεις.

Στόχος του φιλτραρίσματος είναι να αποκλείσει όλες τις υποψήφιες διαφημίσεις που δεν πληρούν τα κριτήρια τοποθέτησης ως προς τη συνάφεια, τις προσφορές και τον προϋπολογισμό. Ανάλογα με την υποψήφια διαφήμιση και τη διαμόρφωση, οι έλεγχοι φιλτραρίσματος μπορεί να περιλαμβάνουν: διαθεσιμότητα δημιουργικού και καμπάνιας (αν η καμπάνια ή τα διαφημιστικά δημιουργικά είναι ενεργά), στόχευση καμπάνιας (π.χ. σε ποιες τοπικές αγορές επιτρέπεται να προβάλλεται), περιορισμούς πολιτικής (απαιτήσεις συμμόρφωσης για το τι μπορεί να διαφημιστεί), διαθέσιμο προϋπολογισμό (αν η καμπάνια έχει ακόμη χρήματα προς δαπάνη), ρυθμό δαπάνης (αν πρέπει να δαπανήσει χρήματα τώρα ή κάποια άλλη ώρα της ημέρας), συμβατότητα τοποθέτησης (σε τι είδους συνομιλίες επιτρέπεται η διαφήμιση) και εξάλειψη διπλοτύπων σε επίπεδο διαφημιζόμενου και καμπάνιας (επιλογή κατάλληλου αριθμού διαφημίσεων ανά διαφημιζόμενο, ώστε να διασφαλίζεται η δίκαιη συμμετοχή των επιχειρήσεων).

Οι υποψήφιες διαφημίσεις που περνούν τους ελέγχους καταλληλότητας προχωρούν στη βαθμολόγηση. Εκεί, ο συντονιστής καλεί εργαλεία διαφόρων συστημάτων βαθμολόγησης για να εξετάσει παράγοντες προβολής, όπως η σημασιολογική συνάφεια (σχετίζεται η διαφήμιση με τον στόχο του χρήστη;), η προβλεπόμενη αλληλεπίδραση (είναι πιθανό να τη δει ο χρήστης, να κάνει κλικ και να προκύψει το επιθυμητό αποτέλεσμα για τον διαφημιζόμενο;) και η προηγούμενη απόδοση (έχει αποδώσει καλά η διαφήμιση όταν προβλήθηκε σε χρήστες μέχρι τώρα;). Ο συντονιστής φιλτράρει επίσης τις διαφημίσεις πριν από τη δημοπρασία, ώστε να διασφαλίζει τη συνάφεια και την ασφάλειά τους. Αυτά τα συστήματα περιορίζουν τις επιλογές σε ένα μικρότερο σύνολο υποψήφιων διαφημίσεων, έτοιμο για δημοπρασία, αλλά δεν καθορίζουν ακόμη ποια διαφήμιση θα παραδοθεί τελικά.

Ο συντονιστής αξιολογεί τις προετοιμασμένες υποψήφιες διαφημίσεις στο πλαίσιο της συνομιλίας και επιλέγει ποιες είναι αρκετά κατάλληλες ώστε να συμμετάσχουν στην τελική δημοπρασία. Ο συντονιστής δεν αποφασίζει απευθείας ποια διαφήμιση θα προβληθεί, ούτε ορίζει την τιμή. Προτείνει υποψήφιες διαφημίσεις που ταιριάζουν στο πλαίσιο, ώστε να τις αξιολογήσει το εργαλείο δημοπρασίας.

Η δημοπρασία εφαρμόζει τους τελικούς μηχανισμούς προβολής: αποδοχή στη δημοπρασία (υπέρβαση ενός ελάχιστου ορίου συνάφειας και αξίας), ρύθμιση του ρυθμού δαπάνης (πιο ομοιόμορφη κατανομή του διαφημιστικού προϋπολογισμού), υπολογισμό προσφορών και χαρακτηριστικών δημοπρασίας, κατάταξη προσαρμοσμένη στην ποιότητα, τιμολόγηση και τελική επιλογή.

Μετά τη δημοπρασία, μια διαφήμιση μπορεί να μην παραδοθεί για δύο λόγους, που σχετίζονται με τις ιδιαιτερότητες του περιβάλλοντος συνομιλίας του ChatGPT.

1. Η διαφήμιση μπορεί να φαίνεται ακατάλληλη μέσα στη συνομιλία: Παρότι τα μοντέλα ακεραιότητας (τα μοντέλα που αποφασίζουν πότε είναι κατάλληλη η προβολή διαφήμισης) έκριναν τη συνομιλία ασφαλή για διαφημιστική τοποθέτηση και η ίδια η διαφήμιση κρίθηκε συμβατή με τις πολιτικές, μερικές φορές μπορεί να φαίνεται ακατάλληλη στο πλαίσιο ορισμένων συνομιλιών. Ο συντονιστής εμποδίζει την εμφάνιση αυτών των διαφημίσεων.

2. Το αίτημα διαφήμισης μπορεί να μην ολοκληρωθεί εγκαίρως: Αν το μοντέλο του ChatGPT είναι έτοιμο να απαντήσει, αλλά η διαφήμιση δεν είναι ακόμη έτοιμη για τοποθέτηση, το αίτημα διαφήμισης λήγει λόγω υπέρβασης χρόνου και η διαφήμιση δεν παραδίδεται. Ένας στόχος του συστήματος διαφημίσεων, επομένως, είναι να εκτελείται όσο το δυνατόν ταχύτερα. Ο χρόνος απόκρισης του μοντέλου του ChatGPT μεταβάλλεται και δεν καθυστερούμε τις απαντήσεις στη συνομιλία περιμένοντας να φορτώσουν οι διαφημίσεις.

Αν η διαφήμιση περάσει όλους τους παραπάνω ελέγχους, τη στέλνουμε στο frontend για απόδοση. Αυτό το θεωρούμε παράδοση διαφήμισης από την πλευρά του διακομιστή, αλλά μπορεί και πάλι να μην εμφανίσουμε τη διαφήμιση στον χρήστη — και αυτό είναι σκόπιμο.

Σε ένα προϊόν συνομιλίας όπως το ChatGPT, η παράδοση ενός διαφημιστικού δημιουργικού από την πλευρά του διακομιστή δεν εγγυάται την εμφάνιση της διαφήμισης. Πρέπει επίσης να φτάσει εγκαίρως για να συμπεριληφθεί στον τρέχοντα γύρο της συνομιλίας. Το διαφημιστικό δημιουργικό περιλαμβάνει τον τίτλο, την περιγραφή, τον σύνδεσμο προορισμού και τυχόν προτροπή για ενέργεια. Επιπλέον, το σύστημα διαφημίσεων επιστρέφει ένα εισαγωγικό κείμενο που παράγεται από μοντέλο: μια σύντομη, ουδέτερη εισαγωγή που εξηγεί πώς συνδέεται η διαφήμιση με τη συνομιλία. Ο διαχωρισμός της εισαγωγής από το δημιουργικό διατηρεί το μήνυμα του διαφημιζόμενου και παράλληλα κρατά ουδέτερο το ύφος του ChatGPT.

Το frontend του ChatGPT λαμβάνει την εισαγωγή και το διαφημιστικό δημιουργικό ως ενιαίο πακέτο. Αν το πακέτο φτάσει πριν ολοκληρωθεί η παραγωγή της απάντησης του ChatGPT, το frontend εμφανίζει τη διαφήμιση κάτω από την απάντηση, με σαφή σήμανση χορηγούμενου περιεχομένου. Αν φτάσει πολύ αργά, η διαφήμιση δεν εμφανίζεται σε εκείνον τον γύρο της συνομιλίας. Αυτή είναι η διαφορά ανάμεσα στην παράδοση μιας διαφήμισης από την πλευρά του διακομιστή και στην εμφάνισή της στον χρήστη.

Η διαφημιστική μας υποδομή χρησιμοποιεί συμβατικά συστήματα καταγραφής και ροές επεξεργασίας δεδομένων, με τρία βασικά οφέλη: οι διαφημιζόμενοι μπορούν να συνδέουν ευκολότερα τα υπάρχοντα συστήματά τους με την υποδομή μας, να βελτιώνουν τις στρατηγικές τους με τα δεδομένα των αναφορών, ενώ η ομάδα μας μπορεί να εντοπίζει σημεία του συστήματος που χρειάζονται βελτίωση. Πέρα από αυτά τα εργαλεία αναφορών και βελτιστοποίησης, χρησιμοποιούμε ένα μοντέλο υψηλής ποιότητας για να αξιολογεί την παράδοση διαφημίσεων και να εκπαιδεύει άλλα διαφημιστικά μοντέλα, δημιουργώντας έναν ισχυρό κύκλο αυτοβελτίωσης.

Η λεπτομερής ανάλυση όσων συνέβησαν μας βοηθά να κατανοούμε και να βελτιώνουμε κάθε μέρος του συστήματος διαφημίσεων ξεχωριστά. Το σύστημα επεξεργασίας αρχείων καταγραφής καταγράφει επίσης επιμέρους αποτελέσματα, όπως:

• Ο γύρος της συνομιλίας δεν ήταν κατάλληλος για διαφήμιση.

• Ξεκίνησε συνεδρία διαφημίσεων, αλλά δεν ζητήθηκε ανάκτηση.

• Η ανάκτηση δεν επέστρεψε υποψήφιες διαφημίσεις.

• Ανακτήθηκαν υποψήφιες διαφημίσεις, αλλά απέτυχε η συμπλήρωση των δεδομένων τους ή ο έλεγχος καταλληλότητας.

• Παραδόθηκε μια διαφήμιση και αργότερα καταγράφηκε αλληλεπίδραση με αυτήν.

Αυτές οι λεπτομερείς αναλύσεις μάς βοηθούν να βελτιώνουμε κάθε μέρος του συστήματος προβολής διαφημίσεων ξεχωριστά. Η βελτίωση του εντοπισμού ευκαιριών απαιτεί διαφορετικά στοιχεία από τη βελτίωση της ανάκτησης, της ποιότητας των υποψήφιων διαφημίσεων, της συμμετοχής στη δημοπρασία ή της αξιοπιστίας της παράδοσης.

Η ιδέα πίσω από την αξιολόγηση μέσω μοντέλων είναι ότι τα ισχυρότερα μοντέλα μας, με τις πιο ανεπτυγμένες δυνατότητες συλλογιστικής, παρακολουθούν και κρίνουν τα αποτελέσματα του συστήματος. Έπειτα βελτιώνουν το μετεκπαιδευμένο LLM, εκπαιδεύοντάς το ώστε να αποδίδει καλύτερα. Για παράδειγμα, μπορούμε να χρησιμοποιούμε μικρότερα και πιο αποδοτικά μοντέλα ή μοντέλα με λιγότερο ανεπτυγμένες δυνατότητες συλλογιστικής για τον συντονισμό ή την ανάκτηση, εφόσον το ισχυρότερο μοντέλο μας συγκεντρώνει ανατροφοδότηση και εκπαιδεύει αυτά τα μικρά μοντέλα ώστε να εκτελούν όσο το δυνατόν καλύτερα την εργασία τους.

Συλλέγουμε και αξιοποιούμε ανθρώπινη ανατροφοδότηση (κλικ και αποκρύψεις από χρήστες), καθώς και έρευνες χρηστών και άμεσα σχόλια διαφημιζόμενων μέσω του Ads Manager. Επίσης, όσο αναπτύσσουμε το σύστημα, η ομάδα μας είναι διαθέσιμη για σχόλια και ακούει απευθείας τι θέλουν τόσο οι χρήστες του ChatGPT όσο και οι διαφημιζόμενοι. Αυτή η πηγή ανατροφοδότησης διαμορφώνει την κατεύθυνσή μας ακόμη περισσότερο από τις παρατηρήσεις του μοντέλου και συνέβαλε στο να καταλήξουμε γρήγορα, μέσα από διαδοχικές βελτιώσεις, στις σωστές αποφάσεις για το προϊόν. Το μοντέλο μπορεί να κατανοεί την πρόθεση του χρήστη και να σκέφτεται κριτικά για να προσφέρει κάτι χρήσιμο, αλλά οι άνθρωποι είναι αυτοί που καθορίζουν τι συνιστά μια καλή διαφημιστική εμπειρία.

Πριν από έναν χρόνο, δεν είχαμε σύστημα διαφημίσεων και μόνο λίγοι άνθρωποι ασχολούνταν με αυτό το πεδίο. Τώρα διαθέτουμε ένα στιβαρό σύστημα διαφημίσεων που υποστηρίζει έσοδα άνω του 1 δισ. δολαρίων σε ετήσια αναγωγή, με έναν συντονιστή βασισμένο σε LLM να εκτελεί τη ροή διαφημίσεων. Το Codex πολλαπλασίασε καθοριστικά τις δυνατότητές μας, επιτρέποντάς μας να στήσουμε το σύστημά μας από το μηδέν και να φτάσουμε σε αυτό το σημαντικό ορόσημο χρήσης με ασύγκριτη ταχύτητα. Από την αρχή, οργανώσαμε την ομάδα και τις ροές ανάπτυξης έτσι ώστε να χρησιμοποιούν το Codex για τη γρήγορη δημιουργία και κλιμάκωση του συστήματος. Δημιουργήσαμε δικλίδες ασφαλείας ώστε το Codex να διαθέτει κώδικα αξιόπιστα και με ασφάλεια. Παράλληλα, δημιουργήσαμε plugin υποδομής δεδομένων για το Codex, ώστε να μειώσουμε δραστικά τον χρόνο από τη συγκέντρωση χρήσιμων ευρημάτων έως την εφαρμογή βελτιώσεων στο σύστημα, όπως νέες λειτουργίες προϊόντος, βελτιώσεις ποιότητας και καλύτερη απόδοση.

Ο συνδυασμός των ορίων του συστήματός μας (που βασίζονται στις αρχές μας για τη διαφήμιση⁠) και του συντονιστή μας που βασίζεται σε LLM μάς επιτρέπει να κάνουμε τη διαφήμιση χρήσιμη, χωρίς να αντιμετωπίζουμε κάθε συνομιλία ως αίτημα διαφήμισης. Στο μέλλον, θα συνεχίσουμε να πειραματιζόμαστε με πιο δυναμικές μορφές διαφήμισης, ώστε να αυξήσουμε την αξία για τους χρήστες (π.χ. δίνοντάς τους τη δυνατότητα να μιλούν απευθείας με επιχειρήσεις μέσω διαφημίσεων) και για τους διαφημιζόμενους. Η αυτοβελτιούμενη αρχιτεκτονική της υποδομής, που βασίζεται σε μοντέλα της OpenAI με συνεχείς κύκλους ανατροφοδότησης, θα μας επιτρέψει να βελτιώνουμε τη συνάφεια και την εξατομίκευση όλο και ταχύτερα με την πάροδο του χρόνου.