Carane kita mbangun sistem iklan anyar ChatGPT kanggo kapercayan pangguna lan relevansi

Sistem iklan konvensional dibangun kanggo nanggapi maksud pangguna minangka unit-unit kapisah. Pangguna nggoleki utawa ndeleng sawijining bab kanthi online, sistem iklan nampa kueri lan kunjungan kaca kasebut minangka kedadeyan, banjur sistem nggoleki iklan sing cocog adhedhasar kedadeyan kasebut. Mbangun susunan teknologi iklan kanggo ChatGPT iku beda: maksud pangguna tuwuh sajrone pacelathon lan owah ing pirang-pirang giliran, kadhangkala tanpa ana wektu sing trep kanggo iklan. Kanggo nyengkuyung paradigma anyar iki, kita mbangun sistem pangiriman iklan sing dirancang mligi. Susunan teknologi iklan jinis anyar iki adhedhasar LLM tercanggih sing dirancang mligi lan wis dilatih sawisé pralatihan. LLM iki ngundang piranti kanggo panjupuk (ngenali pilihan paling apik), pangurutan peringkat (mrediksi interaksi pangguna), relevansi (mbiji paedahe iklan), lan nglakokake lelang kanggo pamilihan iklan pungkasan lan panetepan rega.

Sistem iklan kita nanggapi rincian tujuane pangguna sing terus owah kanthi telung keputusan desain utama: 1) ngetrapake sesi iklan stateful, tegese informasi dieling-eling antargiliran lan antarpacelathon, 2) ngandelake LLM mligi sing wis dilatih sawisé pralatihan lan nggunakake arsitektur pangundangan piranti kanggo napsirake konteks lan maksud dhasar pacelathon, banjur milih, ngurutake, lan ngirim iklan kanthi efektif, lan 3) nglakokake proses pamilihan iklan kanthi kapisah saka pangasilan wangsulan ChatGPT, ing layanan dhewe, supaya iklan ora mengaruhi wangsulan lan cara tutur ChatGPT tetep netral. Kita nggunakake LLM sing wis dilatih sawisé pralatihan kanggo ngatur kabeh alur iklan, nemtokake iklan sing trep kanggo ditampilake ing wektu sing trep adhedhasar giliran pangguna saiki lan riwayat pacelathon. Biyen, mbangun sistem iklan saka wiwitan sing bisa nyempurnakake awake dhewe kaya iki butuh wektu taunan. Nanging, Iklan ChatGPT wis tekan tingkat penghasilan sing yen diitung setaun udakara $1 milyar kurang saka 200 dina sawisé diluncurake; saiki, luwih saka 100.000 pengiklan wis masang iklan ing ChatGPT wiwit diluncurake.

Panjaluk iklan konvensional biasane diwiwiti saka kedadeyan sing cetha. Pangguna ngirim kueri panggolekan utawa mbukak kaca web, banjur sistem iklan nampa panjaluk. Sistem kaya iki cukup prasaja: njupuk calon iklan, ngurutake peringkate, nglakokake lelang kanggo nemtokake rega kesempatan kasebut kanthi trep, banjur nampilake iklan sing kapilih marang pangguna. ChatGPT ora kanthi alamiah ngasilake wektu sing cetha kaya mangkono.

Ing pacelathon ChatGPT, wong teka kanthi tujuan, dudu kueri panggolekan sing mung butuh siji wangsulan. Dheweke bisa uga lagi ngrancang lelungan, milih piranti lunak kanggo bisnise, ngisi omah nganggo mebel, utawa sinau hobi anyar. Kabeh iki ora kelakon mung ing siji giliran pacelathon. ChatGPT kerep mbantu pangguna njlentrehake apa sing wigati sajrone proses kasebut.

Contone, tim rekayasa kita takon marang ChatGPT carane latihan kanggo lomba mlayu: pacelathon diwiwiti saka pitakon umum bab mlayu. Sawisé sawetara giliran, dheweke takon bab sepatu kanggo nyengkuyung latihan. Makna komersial pacelathon owah saben ana syarat anyar—lan konteks pribadi iki terus tuwuh ing pirang-pirang sesi. Sistem sing langsung tumindak adhedhasar pesen kapisan bisa nangkep maksud sing babar pisan kliru, saengga bisa ngrusak pengalaman pangguna lan malah ngganggu.

Kanggo mbangun sistem iklan iki, kita kudu ngluwihi arsitektur iklan panjaluk-tanggepan lan mbangun susunan teknologi iklan saka nol kanggo nemokake kesempatan ekonomi, kanthi tetep ngutamakake kapercayan lan paedah tumrap pangguna.

Ngowahi saben pesen dadi panjaluk kapisah, kaya sistem iklan konvensional, bakal nggawa sawetara risiko ing panggunaan obrolan kita: 1) salah nangkep tujuane pangguna amarga disederhanakake banget, 2) miwiti alur iklan kasepaten, sadurunge kabutuhan sejatine pangguna cetha, 3) nampilake iklan sing ngalangi lampahing pangguna tinimbang nyengkuyung, lan 4) nglakokake maneh alur iklan saben panjaluk owah kanthi ora efisien, saengga nuwuhake gangguan lan mbuwang biaya. Tinimbang adhedhasar kedadeyan siji-siji, sistem iklan (sing dumadi saka panjupuk, pangurutan peringkat, lan pangiriman) njaga sesi stateful. Tegese, sesi iklan lumaku sajrone giliran sing layak, kanthi ngeling-eling lan nganyari informasi manut perkembangane. ChatGPT ngirim konteks panjaluk awal menyang server iklan. Sistem iklan ngetutake lan nyelarasake awake karo pacelathon sing terus tuwuh, tinimbang mung ngandelake siji kueri sing wis disederhanakake.

Proses pamilihan iklan lumaku bebarengan karo pangasilan tanggepan normal ChatGPT kanggo mesthekake alur iklan ora mengaruhi tanggepan ChatGPT. Iklan disaring lan dipilih liwat sistem kapisah sing ngolah pacelathon kanthi watesan kelayakan, mutu, lan pangirimane dhewe. Wates arsitektur sing wigati iki—layanan beda sing nggunakake model lan kode kapisah—ndadekake server inti ChatGPT bisa nangani pangasilan tanggepan organik. Sauntara iku, sistem iklan kanthi mandiri mbiji apa ana kesempatan iklan sing trep, lan yen ana, nyiyapake papan sponsor liwat proses panyuguhan kapisah.

Saliyane njaga pengalaman pangguna, pamisahan iki uga nduweni sawetara dampak praktis. ChatGPT ora gumantung marang sistem iklan—layanan-layanan kasebut ora ana gandheng cenenge lan ora nganggo model pangasil konten sing padha. Dadi, yen sistem panyuguhan iklan ora kasedhiya utawa alon, tanggepan organik ChatGPT tetep lumaku tanpa kena pengaruh. Tegese, sistem iklan ora bisa ndadekake produk ChatGPT mandheg utawa telat. Paedah liyane saka pamisahan iki yaiku njaga standar sing dhuwur banget kanggo iklan sing migunani. Ora ngasilake iklan iku asil sing lumrah lan dianggep kasil. Sistem mung ngirim iklan yen cetha migunani tumrap pangguna lan pengiklan.

Komponen arsitektur utama liyane ing susunan teknologi iklan kita yaiku LLM sing wis dilatih sawisé pralatihan. LLM iki napsirake pacelathon lan nglakokake kabeh alur iklan ing siklus agentik—ngundang piranti kanggo fungsi inti sistem iklan, wiwit saka panjupuk, pangurutan peringkat, lelang, nganti pungkasane pangiriman. LLM iki kita arani orkestrator.

Bagean kapisan ing alur iklan yaiku mangerteni maksud pangguna kanggo miwiti proses panjupuk, yaiku nglumpukake calon iklan kanthi cepet lan sengaja kanthi jangkauan amba kanggo disaring mengko. Nampa pacelathon kanthi bertahap ndadekake proses panjupuk luwih sugih informasi nanging uga luwih ambigu, amarga sistem iklan kudu mbedakake maksud saiki saka konteks lawas sing wis ora cocog. Orkestrator kudu napsirake rujukan marang pesen sadurunge, ngenali nalika pangguna lagi ngomong kanthi pangangen-angen, lan ora nganggep saben nyebut produk utawa layanan minangka panjaluk tuku.

Orkestrator iklan nggunakake pacelathon lan konteks pangguna sing kasedhiya, bola-bali nggoleki iklan sing apik lan nemtokake kapan kudu ngundang piranti endi. Tujuan utamane yaiku nemokake iklan sing paling cocog karo pacelathon lan konteks kasebut, kanthi ngimbangi paedah sing gedhe tumrap pangguna lan pengiklan. Yen pangguna milih personalisasi iklan, orkestrator uga nimbang informasi nonsensitif sing kasedhiya saka pacelathon sadurunge kanggo nemokake iklan sing paling cocog.

Nalika pacelathon saya maju lan orkestrator iklan nampa informasi luwih anyar, orkestrator bisa nglakokake rerangken pangundangan piranti anyar nganggo konteks sing wis dianyari kanggo nemokake iklan sing luwih apik lan ngirimake menyang klien. Klien banjur bisa nggunakake iklan anyar kasebut yen teka pas wektune.

Orkestrator dirancang kanggo ngimbangi paedah tumrap pangguna lan pengiklan, kanthi tansah ngutamakake pangguna.

Sistem iklan dumadi saka piranti-piranti kapisah, lan orkestrator ngundang piranti kasebut bola-bali kanggo nemokake iklan sing paling apik kanggo sawijining pacelathon. Kanthi garis gedhe, orkestrator ngowahi pacelathon dadi ringkesan teks cekak, sing banjur diowahi dadi embedding semantik (makna sing disimpen kanthi wujud sing luwih gampang ditelusuri sistem iklan). Orkestrator nggunakake embedding kasebut kanggo njupuk calon iklan, nyaring kelayakane (adhedhasar anggaran, setelan pangguna, lan pamriksan awal liyane), mbiji mutu lan relevansine, banjur nindakake pangurutan pungkasan kanggo nemokake kesempatan sing migunani banget kanggo masang iklan ing pungkasan tanggepan obrolan. Mula, saben iklan kudu nyukupi standar kelayakan lan relevansi sing dhuwur supaya layak ditayangake.

Kaping pisan, LLM orkestrator nyiyapake siji utawa luwih kueri sing makili maksud komersial sing relevan. Iki bisa kalebu nulis maneh konteks pacelathon supaya kemungkinan komersiale luwih amba tinimbang kueri panggolekan 1:1, banjur nggawe representasi semantik. Ing kene, orkestrator ngringkes pacelathon pirang-pirang giliran kanggo sistem panjupuk—supaya bisa njupuk iklan saka basis data kita kanthi luwih fokus.

Pamasangan iklan bakal luwih migunani tumrap pangguna lan pengiklan yen mung muncul nalika maksud pangguna wis dimangerteni kanthi jero. Kanthi sawetara kueri, macem-macem aspek maksud pangguna bisa tetep kajaga. Contone, pacelathon bab ngrancang lelungan bisa ngemot kabutuhan sing beda-beda gegayutan karo transportasi, panginepan, utawa kegiyatan. Sistem panjupuk bisa njaga prabédan iki, tinimbang nyepetake kabeh pacelathon dadi siji string literal.

Minangka conto, ayo dideleng rerangken pacelathon sing bisa kedadeyan bab sepatu munggah gunung:

1. What should I cover on a two-day trip to Yosemite?

2. Will it be cold next week?

3. New [insert brand] product lines?

Sanajan pangguna durung nggandhengake pitakon bab merek sepatu karo lelungan menyang Yosemite, pacelathon iki bisa diwakili ing sistem iklan kita nganggo rong kueri, kayata [shoes appropriate for hiking trip] lan [new [brand] product lines good for travel]. Iki bisa uga mung upaya kapisan; orkestrator dirancang kanggo bola-bali nyempurnakake representasi kasebut nganti nemokake iklan ing inventaris kita sing migunani banget tumrap pangguna.

Panjupuk yaiku proses nggawe kumpulan pilihan iklan sing sengaja digawe amba. Calon bisa asale saka strategi panjupuk sing beda-beda lan mengko bisa saingan kanthi watesan panyuguhan sing padha. Kita nggawe sawetara indeks sing dioptimalake kanggo watesan sistem lan produk sing beda-beda. Contone, indeks kanggo iklan feed produk dirancang supaya nimbang ulasan produk sing positif utawa negatif nalika njupuk iklan sing paling apik. Iki ora relevan kanggo iklan liyane sing bisa uga ora duwe ulasan. Saben indeks dioptimalake kanggo sawijining versi panggolekan approximate-nearest-neighbor (ANN), nganggo embedding sing makili maksud pangguna. Panggolekan ANN iki minangka algoritma perkiraan kanggo njupuk asil saka indeks semantik gedhe. Tegese, iklan dijupuk kanthi cepet banget, kanthi nyedhaki solusi sing apik tinimbang nggoleki solusi “sing bener”, lan tetep nyakup sapérangan gedhe calon sing relevan.

Tujuane panyaringan yaiku nyingkirake kabeh calon iklan sing ora nyukupi standar pamasangan ing babagan relevansi, tawaran, lan anggaran. Gumantung calon lan konfigurasine, pamriksan panyaringan bisa kalebu kasedhiyan materi iklan lan kampanye (apa kampanye utawa materi iklane aktif), target kampanye (umpamane, lokal endi wae sing diidini kanggo kampanye), watesan kabijakan (syarat kepatuhan bab apa wae sing kena diiklanake), kasedhiyan anggaran (apa kampanye isih duwe anggaran kanggo dienggo), pangaturan laju belanja (apa kampanye kudu nggunakake anggaran saiki utawa ing wektu liyane dina iku), kecocokan pamasangan (jinis pacelathon apa sing layak kanggo iklan iki), lan deduplikasi ing tingkat pengiklan lan kampanye (milih cacah iklan sing cocog kanggo saben pengiklan supaya kabeh bisnis bisa melu kanthi adil).

Calon sing lolos pamriksan kelayakan nerusake menyang tahap pambiji skor. Ing kene, orkestrator ngundang piranti menyang maneka sistem pambiji kanggo nimbang panyuguhan, kayata relevansi semantik (apa iklan relevan karo tujuane pangguna?), prediksi interaksi (apa iklan kamungkinan bakal dideleng, diklik, lan ngasilake asil sing dikarepake pengiklan?), lan kinerja sadurunge (apa iklan kasebut wis nuduhake kinerja apik nalika ditampilake marang pangguna?). Orkestrator uga nyaring iklan kanggo mesthekake relevansi lan keamanane sadurunge lelang. Sistem-sistem iki nyilikake pilihan dadi kumpulan calon sing luwih sithik lan siap dilelang, nanging durung nemtokake iklan pungkasan sing bakal dikirim.

Orkestrator mbiji calon sing wis disiyapake miturut konteks pacelathon lan milih calon iklan sing cukup cocog kanggo melu lelang pungkasan. Orkestrator ora langsung nemtokake iklan endi sing bakal disuguhake, lan uga ora nemtokake regane. Orkestrator ngusulake calon sing cocog karo konteks supaya dibiji dening piranti lelang.

Lelang ngetrapake mekanisme panyuguhan pungkasan, kalebu syarat mlebu lelang (nyukupi ambang minimal relevansi lan paedah), pangaturan laju belanja (nggunakake anggaran iklan kanthi luwih rata), pitungan tawaran lan fitur lelang, pangurutan sing diselarasake karo mutu, panetepan rega, lan pamilihan pungkasan.

Sawisé lelang, ana rong sebab iklan bisa gagal dikirim, lan loro-lorone mligi gegayutan karo media pacelathon ChatGPT.

1. Iklan bisa krasa ora trep ing obrolan: Sanajan pacelathon wis dianggep aman kanggo pamasangan iklan dening model integritas (model sing nemtokake kapan iklan trep disuguhake), lan iklane dhewe wis dianggep manut kabijakan, kadhangkala iklan isih bisa krasa ora trep ing konteks pacelathon tartamtu. Orkestrator ngalangi iklan-iklan iki supaya ora ditampilake.

2. Panjaluk iklan bisa ora teka pas wektune: Yen model ChatGPT wis siyap mangsuli nanging iklan durung siyap dipasang, wektu panjaluk iklan entek lan iklane ora dikirim. Mula, salah siji tujuane sistem iklan yaiku lumaku kanthi sacepete. Wektu tanggepan model ChatGPT owah-owahan, lan kita ora nundha tanggepan obrolan kanggo ngenteni iklan dimuat.

Yen kabeh pamriksan ing ndhuwur wis kasil diliwati, kita ngirim iklan menyang frontend kanggo dirender. Iki kita anggep minangka pangiriman iklan ing sisih server, nanging iklan isih bisa ora ditampilake marang pangguna—lan iki pancen disengaja ing rancangane.

Ing produk pacelathon kaya ChatGPT, pangiriman materi iklan saka sisih server ora njamin iklan bakal ditampilake; iklan uga kudu teka pas wektune supaya bisa dilebokake ing giliran saiki. Materi iklan nyakup judhul, katrangan, pranala tujuan, lan ajakan tumindak yen ana. Saliyane iku, sistem iklan uga ngirim pambuka sing digawe model, yaiku andharan cekak lan netral sing nerangake sesambungane iklan karo pacelathon. Misahake pambuka saka materi iklan njaga pesene pengiklan lan tetep njaga cara tutur ChatGPT supaya netral.

Frontend ChatGPT nampa pambuka lan materi iklan minangka siji paket. Yen paket kasebut teka sadurunge tanggepan ChatGPT rampung digawe, frontend nampilake iklan ing sangisore tanggepan ChatGPT, kanthi label sponsor sing cetha. Yen tekane kasep, iklan ora ditampilake ing giliran kasebut. Iki prabédane pangiriman iklan ing sisih server lan tayangan iklan sing katon dening pangguna.

Susunan teknologi iklan kita nggunakake pencathetan log lan jalur pangolahan data konvensional, sing nduweni telung paedah utama: pengiklan luwih gampang nggabungake sistem sing wis diduweni karo teknologi kita, pengiklan bisa nyempurnakake strategine nganggo data laporan, lan tim kita bisa nemokake bagean sistem sing perlu didandani. Saliyane piranti laporan lan optimisasi iki, kita nggunakake model kanthi mutu dhuwur kanggo mbiji pangiriman iklan lan nglatih model iklan liyane, saengga nggawe siklus panyempurnaan mandiri sing kuwat.

Rincian bab apa sing kedadeyan mbantu kita mangerteni lan nyempurnakake saben bagean sistem iklan kanthi kapisah. Sistem pangolahan log uga nyathet asil kanthi rinci, kayata:

• Giliran kasebut ora layak kanggo iklan.

• Sesi iklan diwiwiti, nanging ora ana panjaluk panjupuk.

• Panjupuk ora ngasilake calon.

• Calon kasil dijupuk, nanging gagal ing proses nglengkapi data utawa pamriksan kelayakan.

• Iklan dikirim lan banjur nampa interaksi.

Rincian iki mbantu kita nyempurnakake saben bagean sistem panyuguhan iklan kanthi kapisah. Nyempurnakake deteksi kesempatan mbutuhake bukti sing beda karo sing dibutuhake kanggo nyempurnakake panjupuk, mutu calon, partisipasi lelang, utawa kaandalan pangiriman.

Gagasan dhasar evaluasi adhedhasar model yaiku model kita sing paling kuwat lan nduweni kemampuan nalar paling dhuwur ngamati lan mbiji asil sistem kita, banjur nyempurnakake LLM sing wis dilatih sawisé pralatihan kanthi nglatih maneh supaya kinerjane luwih apik. Contone, kita bisa nggunakake model sing luwih cilik lan efisien utawa model kanthi kemampuan nalar luwih sithik kanggo orkestrasi utawa panjupuk, yen model kita sing paling kuwat nglumpukake umpan balik lan nglatih model-model cilik iki supaya bisa makarya kanthi paling apik.

Kita nglumpukake lan nindaklanjuti umpan balik manungsa (klik lan tumindak ndhelikake iklan dening pangguna), uga survei pangguna lan umpan balik langsung saka pengiklan liwat Manajer Iklan kita. Sajrone pangembangan, tim kita uga siyap nampa umpan balik lan ngrungokake langsung apa sing dikarepake pangguna ChatGPT lan pengiklan. Umpan balik iki luwih nemtokake arah kita tinimbang umpan balik saka pengamatan model, lan dadi salah siji sebab kita bisa cepet nyempurnakake produk nganti tekan keputusan sing trep. Model bisa wae mangerteni maksud pangguna lan mikir kritis kanggo menehi asil sing migunani, nanging manungsa sing mbentuk rasa.

Setaun kepungkur, kita durung duwe sistem iklan lan mung sawetara wong sing mikirake babagan iki. Saiki kita duwe sistem iklan sing kukuh, kanthi tingkat penghasilan saiki sing yen diitung setaun ngluwihi $1 milyar, lan orkestrator adhedhasar LLM sing nglakokake alur iklane. Codex dadi panyengkuyung utama sing nggedhekake kemampuan kita, saengga kita bisa mbangun sistem saka wiwitan nganti tekan tonggak panggunaan gedhe iki kanthi kacepetan sing durung ana tandhingane. Wiwit awal, kita nata tim lan alur pangembangan supaya nggunakake Codex kanggo mbangun lan nggedhekake skala sistem kanthi cepet. Kita nggawe watesan pengaman supaya Codex bisa ngrilis kode kanthi andal lan aman. Bebarengan karo iku, kita nyiyapake plugin infrastruktur data kanggo Codex supaya siklus nglumpukake wawasan lan ngetrapake panyempurnaan sistem dadi luwih cekak banget, kalebu fitur produk anyar, paningkatan mutu, lan kinerja sistem sing luwih apik.

Gabungan watesan sistem kita (sing adhedhasar prinsip pariwara⁠ kita) lan orkestrator adhedhasar LLM ndadekake kita bisa nyuguhake iklan sing migunani tanpa nganggep saben pacelathon minangka panjaluk iklan. Ing tembe, kita bakal terus nyoba format iklan sing luwih dinamis kanggo nambah paedah tumrap pangguna (umpamane, menehi pangguna kemampuan guneman langsung karo bisnis liwat iklan) lan pengiklan. Arsitektur susunan teknologi sing bisa nyempurnakake awake dhewe iki, sing dibangun nganggo model OpenAI lan siklus umpan balik terus-terusan, bakal nyepetake kemampuan kita kanggo terus ningkatake relevansi lan personalisasi saka wektu menyang wektu.