Lumaktaw sa pangunahing content
OpenAI

Oktubre 21, 2026

Engineering

Pagbuo ng bagong ad stack ng ChatGPT para sa tiwala ng user at kaugnayan ng mga ad

Nina Ritendra Datta at Karthik Gopalratnam, mga Miyembro ng Technical Staff

Naglo-load…

Binuo ang mga tradisyonal na sistema ng advertising para tumugon sa magkakahiwalay na pahiwatig ng layunin ng user. May hinahanap o tinitingnan ang user online, natatanggap ng sistema ng mga ad ang mga query at pagtingin sa pahina bilang mga event, at naghahanap ito ng katugmang mga ad batay sa mga event na iyon. Iba ang pagbuo ng ad stack para sa ChatGPT: nabubuo ang layunin ng user sa mga usapan at nagbabago sa ilang palitan, na kung minsan ay walang angkop na sandali para sa advertising. Para suportahan ang bagong paraang ito, bumuo kami ng pasadyang sistema ng paghahatid ng mga ad. Nakabatay ang bagong uri ng ad stack na ito sa isang pasadyang frontier LLM na iniangkop pagkatapos ng pagsasanay. Tumatawag ito ng mga tool para sa paghahanap (pagtukoy sa pinakamagagandang pagpipilian), pagraranggo (paghula ng pakikipag-ugnayan ng user), kaugnayan (pagsusuri sa pakinabang ng ad), at pagpapatakbo ng mga auction para sa huling pagpili at pagpepresyo ng ad.

Isinasaalang-alang ng aming sistema ng mga ad ang masalimuot at nagbabagong mga layunin ng user sa pamamagitan ng tatlong pangunahing desisyon sa disenyo: 1) paggamit ng mga stateful na session ng ad, ibig sabihin, naaalala ang impormasyon sa mga palitan sa isang usapan at sa maraming usapan; 2) pag-asa sa isang pasadyang LLM na iniangkop pagkatapos ng pagsasanay at gumagamit ng arkitekturang tumatawag ng mga tool para unawain ang konteksto at pinagbabatayang layunin ng usapan, at pagkatapos ay mahusay na pumili, magranggo, at maghatid ng mga ad; at 3) pagpapatakbo ng proseso ng pagpili ng ad sa sarili nitong serbisyo, na hiwalay sa pagbuo ng sagot ng ChatGPT, para hindi maimpluwensiyahan ng mga ad ang mga sagot at manatiling neutral ang tinig ng ChatGPT. Ginagamit namin ang aming LLM na iniangkop pagkatapos ng pagsasanay para pag-ugnayin ang buong daloy ng mga ad at tukuyin ang tamang ad na ipapakita sa tamang oras, batay sa kasalukuyang palitan ng user at kasaysayan ng usapan. Dati, inaabot ng ilang taon ang pagbuo mula sa simula ng ganitong sistema ng mga ad na nagpapahusay sa sarili. Pero naabot ng ChatGPT Ads ang takbo ng kita na katumbas ng $1 bilyon bawat taon sa loob ng wala pang 200 araw mula nang ilunsad; ngayon, mahigit 100,000 advertiser na ang nagpatakbo ng mga ad sa ChatGPT mula nang ilunsad ito.

Paano dapat gumana ang mga ad sa agentic chat?

Karaniwang nagsisimula sa isang malinaw na event ang tradisyonal na kahilingan para sa ad. Nagsusumite ang user ng query sa paghahanap o nagbubukas ng webpage, at nakakatanggap ng kahilingan ang sistema ng mga ad. Medyo simple ang ganitong sistema: naghahanap ito ng mga posibleng kandidatong ad, niraranggo ang mga ito, nagpapatakbo ng auction para maitakda ang angkop na presyo ng pagkakataong magpakita ng ad, at ipinapakita sa user ang napiling ad. Hindi likas na nagkakaroon ng ganoong malinaw na sandali sa ChatGPT.

Sa usapan sa ChatGPT, may mga layunin ang mga tao sa halip na query sa paghahanap na may iisang sagot. Maaaring nagpaplano sila ng biyahe, pumipili ng software para sa kanilang negosyo, naghahanap ng mga muwebles para sa bahay, o natututo ng bagong libangan. Hindi ito nangyayari lahat sa iisang palitan sa usapan. Madalas tulungan ng ChatGPT ang user na linawin kung ano ang mahalaga habang umuusad ang usapan.

Halimbawa, tinanong ng aming engineering team ang ChatGPT kung paano magsanay para sa isang karera: nagsisimula ang usapan sa isang pangkalahatang tanong tungkol sa pagtakbo. Makalipas ang ilang palitan, nagtatanong sila tungkol sa mga sapatos na makakatulong sa pagsasanay. Nagbabago ang komersiyal na kahulugan ng usapan sa bawat bagong kondisyon—at patuloy na umuunlad ang personalisadong kontekstong ito sa maraming session. Maaaring lubusang magkamali sa pag-unawa sa layunin ang isang sistemang kikilos agad batay sa unang mensahe, na posibleng makasira sa karanasan ng user at makaabala sa kanya.

Para mabuo ang aming sistema ng mga ad, kinailangan naming lumampas sa arkitektura ng advertising na nakabatay sa kahilingan at tugon. Bumuo kami ng ad stack mula sa simula para makahanap ng mga posibleng pagkakataong pangkabuhayan habang inuuna ang tiwala at pakinabang ng user.

Pag-alala sa usapan nang hindi naiimpluwensiyahan ang mga sagot ng ChatGPT

May ilang panganib sa paggamit namin ng chat kung gagawing hiwalay na kahilingan ang bawat mensahe, gaya sa tradisyonal na sistema ng mga ad: 1) maling pag-unawa sa layunin ng user dahil sa sobrang pagpapasimple nito, 2) masyadong maagang pagsisimula ng daloy ng advertising bago luminaw ang tunay na pangangailangan ng user, 3) pagpapakita ng mga ad na nakakasagabal sa ginagawa ng user sa halip na sumuporta rito, at 4) hindi episyenteng pag-uulit ng daloy ng mga ad sa tuwing nagbabago ang kahilingan, na nagdaragdag ng kalituhan at nagsasayang ng gastos. Sa halip na ibatay sa magkakahiwalay na event, nagpapanatili ng stateful na session ang sistema ng mga ad (na binubuo ng paghahanap, pagraranggo, at paghahatid). Ibig sabihin, tumatakbo ang session ng mga ad sa buong tagal ng isang kwalipikadong palitan, habang inaalala at ina-update ang impormasyon habang nagbabago ito. Ipinapadala ng ChatGPT ang paunang konteksto ng kahilingan sa server ng mga ad. Sinusubaybayan ng sistema ng mga ad ang umuusad na usapan at umaangkop dito sa halip na umasa sa iisang pinasimpleng query.

Hiwalay na tumatakbo ang proseso ng pagpili ng ad kasabay ng normal na pagbuo ng sagot ng ChatGPT para matiyak na hindi naiimpluwensiyahan ng daloy ng mga ad ang mga sagot nito. Sinasala at pinipili ang mga ad sa pamamagitan ng hiwalay na sistemang tumatanggap ng usapan at sumusunod sa sarili nitong mga limitasyon sa pagiging kwalipikado, kalidad, at paghahatid. Dahil sa mahalagang hangganang ito sa arkitektura—magkakaibang serbisyong gumagamit ng magkahiwalay na mga modelo at code—ang mga pangunahing server ng ChatGPT ang bumubuo ng sagot na hindi bayad. Samantala, hiwalay na sinusuri ng sistema ng mga ad kung may angkop na pagkakataong magpakita ng ad at, kung mayroon, naghahanda ito ng sponsored na ad sa pamamagitan ng hiwalay na proseso ng paghahatid.

Flow diagram na nagpapakita ng usapan ng user na naghahati sa dalawang daloy: ang pagsagot ng ChatGPT na bumubuo ng sagot na hindi bayad, at ang hiwalay na pagsusuri at paghahatid ng mga ad na naglalabas ng ad na malinaw na may label na sponsored.

Hiwalay na tumatakbo ang advertising kasabay ng daloy ng pagsagot ng ChatGPT.

Bukod sa pagprotekta sa karanasan ng user, may ilang praktikal na epekto ang paghihiwalay na ito. Hindi umaasa ang ChatGPT sa sistema ng mga ad—walang pagkakaugnay ang mga serbisyo at hindi sila gumagamit ng iisang modelo para bumuo ng content. Kaya kung hindi available o mabagal ang sistema ng paghahatid ng mga ad, tuloy pa rin ang pagsagot ng ChatGPT nang walang impluwensiya ng ad. Ibig sabihin, hindi kayang patigilin o pabagalin ng sistema ng mga ad ang ChatGPT. Isa pang pakinabang ng paghihiwalay na ito ang pagpapanatili ng napakataas na pamantayan para sa mga kapaki-pakinabang na ad. Ang hindi paglalabas ng ad ay isang normal at matagumpay na resulta. Naghahatid lang ang sistema ng ad kung malinaw na kapaki-pakinabang ito sa mga user at advertiser.

Isang LLM ang umuunawa sa mga usapan at tumatawag ng mga tool

Ang isa pang mahalagang bahagi ng arkitektura ng aming ad stack ay ang LLM na iniangkop pagkatapos ng pagsasanay. Inuunawa nito ang mga usapan at pinapatakbo ang buong daloy ng mga ad sa isang agentic loop—tumatawag ng mga tool para sa mga pangunahing function ng sistema ng mga ad, mula sa paghahanap, pagraranggo, at auction hanggang sa paghahatid. Tinatawag namin ang LLM na ito na orchestrator.

Nagsisimula ang daloy ng mga ad sa pag-unawa sa layunin ng user para masimulan ang paghahanap: isang mabilis at sadyang malawak na pangangalap ng mga posibleng ad na sasalain sa susunod. Mas maraming impormasyong magagamit kapag unti-unting natatanggap ang usapan, pero nagiging mas mahirap din ang paghahanap dahil kailangang matukoy ng sistema ng mga ad kung alin ang kasalukuyang layunin at alin ang lipas nang konteksto. Kailangang maunawaan ng orchestrator ang mga pagtukoy sa mga naunang mensahe, matukoy kung haka-haka lang ang sinasabi ng user, at iwasang ituring na kahilingang bumili ang bawat pagbanggit ng produkto o serbisyo.

Ginagamit ng ads orchestrator ang available na usapan at konteksto ng user, paulit-ulit na naghahanap ng magagandang ad at nagpapasya kung kailan tatawag at aling tool ang gagamitin. Layunin nitong mahanap ang pinakaangkop na ad para sa usapan at kontekstong iyon—ang ad na nagbabalanse ng malaking pakinabang para sa user at advertiser. Kung pipiliin ng user na i-personalize ang mga ad, isinasaalang-alang din ng orchestrator ang available na hindi sensitibong impormasyon tungkol sa mga nakaraan niyang usapan para mahanap ang mga pinakabagay na ad.

Diagram ng arkitektura na nagpapakita ng konteksto ng usapan at profile ng user na ipinapasa sa isang ads orchestrator. May mga tool ito para sa paghahanap, pagtatantiya ng kaugnayan, paghula ng mga pangyayari, pagiging kwalipikado, pacing at mga badyet, at auction at pagpepresyo, na nagbabalanse ng pakinabang para sa user at advertiser.

Paulit-ulit na tumatawag ang ads orchestrator ng mga tool sa paghahatid ng ad para makahanap ng mga kapaki-pakinabang na ad.

Habang umuusad ang usapan at nakakatanggap ng mas bagong impormasyon ang ads orchestrator, maaari itong muling tumawag ng mga tool gamit ang na-update na konteksto para maghanap ng mas magagandang ad at ibalik ang mga ito sa client. Magagamit ng client ang mga bagong ad kung darating ang mga ito sa tamang oras.

Idinisenyo ang orchestrator para balansehin ang pakinabang para sa user at advertiser, habang laging inuuna ang mga user.

Paano tumatawag ang orchestrator ng mga ad tool sa isang agentic loop

Binubuo ang sistema ng mga ad ng magkakahiwalay na tool, at paulit-ulit na tumatawag sa mga ito ang orchestrator para mahanap ang pinakamagagandang ad para sa isang usapan. Sa pangkalahatan, ginagawang maiikling buod ng orchestrator ang mga usapan. Ginagawa naman ang mga itong semantic embedding (mga nakaimbak na kahulugan na mas madaling suriin ng sistema ng mga ad). Gamit ang mga embedding na ito, naghahanap ito ng mga kandidatong ad, sinasala ang mga kwalipikado (batay sa badyet, mga setting ng user, at iba pang paunang pagsusuri), tinatasa ang kalidad at kaugnayan ng mga ito, at nagsasagawa ng huling pagraranggo para matukoy kung aling mga ad ang higit na kapaki-pakinabang na ilagay sa dulo ng sagot sa chat. Kaya kailangang maabot ng bawat ad ang mataas na pamantayan sa pagiging kwalipikado at kaugnayan bago ito maipakita.

Paghahanda ng mga query sa paghahanap na sumasalamin sa layunin

Naghahanda muna ang orchestrator LLM ng isa o higit pang query na kumakatawan sa kaugnay na komersiyal na layunin. Maaaring kabilang dito ang muling pagsulat sa konteksto ng usapan para mapalawak ang mga komersiyal na posibilidad lampas sa mga query na 1:1 ang pagtutugma, at pagkatapos ay paglikha ng mga semantikong representasyon. Dito, binubuod ng orchestrator ang usapang may ilang palitan para sa sistema ng paghahanap—upang makuha ang mga ad sa aming database sa isang nakatuong paraan.

Mas makakabuti sa mga user at advertiser ang pagpapakita ng mga ad kung lalabas lang ang mga ito kapag malalim na ang pag-unawa sa layunin ng user. Napapanatili ng maraming query ang iba't ibang aspeto ng layunin. Halimbawa, maaaring may magkakaibang pangangailangan sa transportasyon, matutuluyan, o mga aktibidad ang isang usapan tungkol sa pagpaplano ng biyahe. Kayang panatilihin ng sistema ng paghahanap ang mga pagkakaibang ito sa halip na pagsamahin ang buong usapan sa iisang literal na string.

Bilang halimbawa, tingnan natin ang isang posibleng pagkakasunod-sunod ng usapan tungkol sa sapatos na pang-hiking:

  1. What should I cover on a two-day trip to Yosemite?

  2. Will it be cold next week?

  3. New [insert brand] product lines?

Bagama't hindi iniugnay ng user ang tanong tungkol sa brand ng sapatos sa biyahe sa Yosemite, maaaring katawanin ang usapang ito sa aming sistema ng mga ad ng dalawang query, gaya ng [shoes appropriate for hiking trip] at [new [brand] product lines good for travel]. Maaaring unang pagtatangka pa lang ito; idinisenyo ang orchestrator para paulit-ulit na ayusin ang mga representasyong ito hanggang makahanap ito sa aming imbentaryo ng mga ad na lubos na kapaki-pakinabang sa user.

Paghahanap ng mga posibleng ad

Ang paghahanap ay ang proseso ng pagbuo ng sadyang malawak na pangkat ng mga pagpipiliang ad. Maaaring manggaling ang mga kandidato sa iba't ibang estratehiya ng paghahanap at maglaban sa kalaunan sa ilalim ng parehong mga limitasyon sa paghahatid. Bumubuo kami ng maraming index na naka-optimize para sa iba't ibang limitasyon ng sistema at produkto. Halimbawa, idinisenyo ang index para sa mga product feed ad na isaalang-alang ang mga positibo o negatibong review ng produkto habang kinukuha ang pinakamagagandang posibleng ad. Hindi ito mahalaga para sa ibang ad na maaaring walang kaugnay na mga review. Naka-optimize ang bawat index para sa isang bersiyon ng approximate-nearest-neighbor (ANN) search, gamit ang mga embedding na kumakatawan sa layunin ng user. Ang ANN search na ito ay isang algorithm ng pagtatantiya para sa paghahanap sa malalaking semantic index. Ibig sabihin, napakabilis nitong nakukuha ang mga ad sa pamamagitan ng paglapit sa isang magandang solusyon sa halip na paghahanap ng “tamang” solusyon, habang napapanatili ang karamihan ng mga kaugnay na kandidato.

Flow diagram na nagpapakita ng mga binagong query na ginagawang mga semantic embedding na maraming dimensiyon, ginagamit sa paghahanap sa mga karaniwang ad, product ad, at opsyonal na estratehiya, at pagkatapos ay pinagsasama sa isang malawak na pangkat ng mga kandidato.

Ginagamit ng sistema ng mga ad ang mga binagong query para lumikha ng mga semantic embedding habang naghahanap ng mga ad at bumuo ng malawak na pangkat ng mga kandidatong ad.

Pagsala sa mga hindi kwalipikadong kandidato

Layunin ng pagsala na alisin sa mga pinagpipilian ang lahat ng kandidatong ad na hindi pumapasa sa pamantayan para maipakita, pagdating sa kaugnayan, mga bid, at badyet. Depende sa kandidato at configuration, maaaring suriin sa pagsala ang availability ng creative at campaign (kung aktibo ang campaign o mga ad creative), pag-target ng campaign (hal., kung saang mga locale ito pinapayagang tumakbo), mga paghihigpit sa patakaran (mga kinakailangan sa pagsunod hinggil sa maaaring i-advertise), availability ng badyet (kung may natitira pang badyet na magagastos ang campaign), pacing (kung dapat bang gumastos ng badyet ngayon o sa ibang oras ng araw), pagiging angkop ng paglalagyan (kung sa anong mga usapan kwalipikado ang ad na ito), at pag-aalis ng mga duplicate sa antas ng advertiser at campaign (pagpili ng angkop na bilang ng mga ad bawat advertiser para matiyak ang patas na paglahok ng mga negosyo).

Pagsusuri sa kaugnayan at kalidad

Dumadaan sa pagmamarka ang mga kandidatong pumasa sa mga pagsusuri sa pagiging kwalipikado. Dito, tumatawag ang orchestrator ng mga tool sa iba't ibang sistema ng pagmamarka para sa mga salik sa paghahatid, gaya ng semantikong kaugnayan (may kaugnayan ba ang ad sa layunin ng user?), inaasahang pakikipag-ugnayan (malamang bang matingnan at ma-click ang ad at humantong sa resultang gusto ng advertiser?), at nakaraang performance (maganda ba ang naging performance ng ad nang ipakita ito sa mga user hanggang ngayon?). Sinasala rin ng orchestrator ang mga ad para matiyak ang kaugnayan at kaligtasan bago ang auction. Pinapaliit ng mga sistemang ito ang pangkat ng mga kandidato para maging handa sa auction, pero hindi pa rin nila tinutukoy ang ad na ihahatid sa huli.

Pagpapatakbo ng auction ng mga ad

Sinusuri ng orchestrator ang mga inihandang kandidato ayon sa konteksto ng usapan at pinipili kung alin ang sapat na angkop para makapasok sa huling auction. Hindi direktang nagpapasya ang orchestrator kung aling ad ang ihahatid, at hindi rin ito nagtatakda ng presyo. Nagmumungkahi ito ng mga kandidatong angkop sa konteksto para suriin ng auction tool.

Inilalapat ng auction ang mga huling mekanismo ng paghahatid, kabilang ang pagtanggap sa auction (pagpasa sa minimum na antas ng kaugnayan at pakinabang), pacing (mas pantay na paggastos ng badyet sa ad), pagkalkula ng bid at mga feature ng auction, pagraranggong isinasaayos ayon sa kalidad, pagpepresyo, at huling pagpili.

Mga huling pagsusuri sa pagiging kwalipikado

Pagkatapos ng auction, may dalawang dahilan kung bakit maaaring hindi maihatid ang isang ad, na kapwa natatangi sa pakikipag-usap sa ChatGPT.

  1. Maaaring hindi bagay ang ad sa chat: Kahit itinuring nang ligtas lagyan ng ad ang usapan ng mga modelo para sa integridad (ang mga modelong nagpapasya kung kailan angkop maghatid ng ad), at itinuring na sumusunod sa patakaran ang mismong ad, maaari pa rin itong hindi maging angkop sa konteksto ng ilang usapan. Hinaharang ng orchestrator ang pagpapakita ng mga ad na ito.

  2. Maaaring hindi umabot sa oras ang kahilingan para sa ad: Kung handa nang sumagot ang modelo ng ChatGPT pero hindi pa handang ilagay ang ad, magta-time out ang kahilingan at hindi maihahatid ang ad. Kaya isa sa mga layunin ng sistema ng mga ad ang tumakbo nang pinakamabilis hangga't maaari. Nagbabago ang oras ng pagsagot ng modelo ng ChatGPT, at hindi namin pinapatagal ang mga sagot sa chat para hintaying mag-load ang mga ad.

Kung pasado sa lahat ng pagsusuri sa itaas, ipinapadala namin ang ad sa frontend para i-render. Itinuturing namin itong paghahatid ng ad sa panig ng server, pero maaari pa ring hindi namin ipakita ang ad sa user—at sinadya ito sa disenyo.

Ang huling hakbang: pagpapakita ng mga ad sa user

Sa isang produktong nakabatay sa pakikipag-usap gaya ng ChatGPT, hindi garantiya ang paghahatid ng ad creative sa panig ng server na maipapakita ang ad; kailangan din itong dumating sa tamang oras para maisama sa kasalukuyang palitan. Kasama sa ad creative ang pamagat, paglalarawan, link na pupuntahan, at anumang panawagan sa pagkilos. Nagbabalik din ang sistema ng mga ad ng pambungad na binuo ng modelo—isang maikli at neutral na panimula na nagpapaliwanag kung paano nauugnay ang ad sa usapan. Sa paghihiwalay ng pambungad at creative, napapanatili ang mensahe ng advertiser habang nananatiling neutral ang tinig ng ChatGPT.

Magkasamang natatanggap ng frontend ng ChatGPT ang pambungad at ad creative. Kung dumating ang mga ito bago matapos buuin ang sagot ng ChatGPT, ipinapakita ng frontend ang ad sa ibaba ng sagot ng ChatGPT, na malinaw na may label na sponsored. Kung huli na itong dumating, hindi ipapakita ang ad sa palitang iyon. Ito ang kaibahan ng paghahatid ng ad sa panig ng server at ng aktuwal na pagpapakita ng ad sa user.

Sequence diagram na nagpapakita ng paghahanda ng nanalong ad ng sistema ng paghahatid, mga huling pagsusuri ng ChatGPT, pagpapakita sa user, at mga kumpirmasyong nagtatangi sa pagpili at matagumpay na paghahatid.

Magkahiwalay na pangyayari ang pagpili ng mananalo at ang paghahatid. Maituturing lang na naihatid ang napiling ad kapag inaprubahan at ipinakita na ito ng ChatGPT at nakumpirma ang paghahatid.

Ano ang nangyayari pagkatapos ipakita ang ad

Gumagamit ang aming advertising stack ng karaniwang pag-log at mga data pipeline, na may tatlong pangunahing pakinabang: mas madaling maisasama ng mga advertiser ang kanilang mga kasalukuyang sistema sa aming stack, mapapahusay nila ang kanilang mga estratehiya gamit ang data sa mga ulat, at matutukoy ng aming team ang mga bahagi ng sistemang dapat pagbutihin. Bukod sa mga tool na ito para sa pag-uulat at pag-optimize, gumagamit kami ng mataas na kalidad na modelo para suriin ang aming paghahatid at sanayin ang iba pang modelo para sa mga ad, na lumilikha ng mabisang siklo ng sariling pagpapahusay.

Tinutulungan kami ng mga detalyadong tala ng nangyari na maunawaan at mapahusay ang bawat bahagi ng sistema ng mga ad nang magkakahiwalay. Itinatala rin ng sistema ng pagproseso ng mga log ang mga tiyak na resulta gaya ng:

  • Hindi kwalipikadong lagyan ng ad ang palitan.

  • Nagsimula ang isang session ng mga ad pero walang hiniling na paghahanap.

  • Walang ibinalik na kandidato ang paghahanap.

  • May nakuhang mga kandidato pero nabigo ang hydration o hindi pumasa sa pagiging kwalipikado.

  • Naihatid ang isang ad at kalaunan ay may nakipag-ugnayan dito.

Tinutulungan kami ng mga detalyadong talang ito na mapahusay ang bawat bahagi ng sistema ng paghahatid ng mga ad nang magkakahiwalay. Ibang ebidensiya ang kailangan para mapahusay ang pagtukoy ng mga pagkakataon kaysa sa pagpapahusay ng paghahanap, kalidad ng mga kandidato, paglahok sa auction, o pagiging maaasahan ng paghahatid.

Flow diagram na nagpapakita ng isang kwalipikadong palitan sa ChatGPT na nagbubunga ng mga resulta sa produkto, paghahatid ng mga ad, at kalidad. Dumadaan ang mga ito sa analytics na may mga kontrol sa privacy para makabuo ng pinagsama-samang mga sukat at pinapayagang data para sa pagpapahusay ng modelo.

Magkakaibang bahagi ng siklo ang sinusubaybayan ng mga sistema ng delivery, serving, at kalidad. Tinutukoy ng pagprosesong may mga kontrol sa privacy kung ano ang maaaring gamitin para sa pagsukat at pagpapahusay ng modelo.

Sinusuri at pinapahusay ng mga makapangyarihang modelo ang buong stack

Ang ideya sa pagsusuring nakabatay sa modelo ay gamitin ang aming pinakamalalakas na modelo na may pinakamataas na kakayahan sa pangangatwiran para magmasid at humusga sa mga resulta ng aming sistema. Pagkatapos, pinapahusay nila ang LLM na iniangkop pagkatapos ng pagsasanay sa pamamagitan ng pagsasanay dito para mas gumaling. Halimbawa, makakagamit kami ng mas maliliit at mas episyenteng modelo o mga modelong may mas mababang kakayahan sa pangangatwiran para sa pag-uugnay o paghahanap, kung ang pinakamakapangyarihan naming modelo ang mangangalap ng feedback at magsasanay sa maliliit na modelong ito para gawin ang pinakamahusay na trabahong posible.

Feedback ng tao ang gumagabay sa angkop na direksiyon

Nangangalap kami at kumikilos batay sa feedback ng tao (mga pag-click at pagtatago ng ad ng mga user), pati sa mga survey sa mga user at direktang feedback ng mga advertiser sa pamamagitan ng aming Ads Manager. Bukas din ang aming team sa feedback habang bumubuo kami, at direkta naming pinakikinggan ang gusto ng mga user ng ChatGPT at mga advertiser. Mas malaki pa ang impluwensiya ng feedback na ito sa aming direksiyon kaysa sa feedback mula sa mga obserbasyon ng modelo. Isa ito sa mga dahilan kung bakit mabilis kaming nakapag-ayos tungo sa mga tamang desisyon sa produkto. Maaaring kayang unawain ng modelo ang layunin ng user at mag-isip nang kritikal para makapaghatid ng kapaki-pakinabang na resulta, pero mga tao ang humuhubog sa panlasa.

Ano ang susunod

Isang taon na ang nakalipas, wala pa kaming sistema ng mga ad at iilan pa lang ang nag-iisip tungkol sa larangang ito. Ngayon, mayroon na kaming matatag na sistema ng mga ad na sumusuporta sa kita na katumbas ng mahigit $1 bilyon bawat taon batay sa kasalukuyang takbo, at isang orchestrator na nakabatay sa LLM ang nagpapatakbo sa daloy ng mga ad. Malaki ang naitulong ng Codex sa pagpapalakas ng aming kakayahan, kaya naitayo namin mula sa simula ang aming sistema at naabot ang mahalagang antas na ito ng paggamit sa walang-kapantay na bilis. Sa simula pa lang, inayos na namin ang team at mga workflow sa development para gamitin ang Codex sa mabilis na pagbuo at pagpapalawak ng sistema. Bumuo kami ng mga pananggalang para makapaglabas ang Codex ng code nang ligtas at maaasahan. Kasabay nito, nag-set up kami ng mga plugin sa imprastraktura ng data para sa Codex upang lubos na mapabilis ang siklo ng pangangalap ng mga insight at pagpapatupad ng mga pagpapahusay sa sistema, kabilang ang mga bagong feature ng produkto, pagpapahusay sa kalidad, at mas mahusay na performance ng sistema.

Sa pagsasama ng mga hangganan ng aming sistema (na nakabatay sa aming mga prinsipyo sa advertising⁠) at ng aming orchestrator na nakabatay sa LLM, nagagawa naming maging kapaki-pakinabang ang advertising nang hindi itinuturing na kahilingan para sa ad ang bawat usapan. Sa hinaharap, patuloy kaming mag-eeksperimento sa mas dinamikong mga format ng ad para madagdagan ang pakinabang para sa user (hal., pagbibigay sa mga user ng kakayahang direktang makipag-usap sa mga negosyo sa pamamagitan ng mga ad) at para sa advertiser. Ang arkitektura ng stack na nagpapahusay sa sarili, na binuo gamit ang mga modelo ng OpenAI at tuloy-tuloy na mga siklo ng feedback, ay magpapabilis sa aming kakayahang patuloy na mapahusay ang kaugnayan at personalization sa paglipas ng panahon.

May-akda

Ritendra Datta, Karthik Gopalratnam