Негізгі мазмұнға өту
OpenAI

2026 ж. 21 қазан

Инженерия

ChatGPT‑дің пайдаланушы сенімі мен жарнама өзектілігін ескеретін жаңа жүйесін қалай құрдық

Авторлар: техникалық мамандар Ритендра Датта және Картик Гопалратнам

Жүктелуде…

Дәстүрлі жарнама жүйелері пайдаланушы ниетінің жекелеген көріністеріне жауап беруге арналған. Пайдаланушы интернеттен бірдеңе іздейді не қарайды, жарнама жүйесі сол сұраулар мен бет қаралымдарын оқиға ретінде қабылдап, соларға сәйкес жарнамаларды іздейді. ChatGPT үшін жарнама жүйесін құру өзгеше болды: пайдаланушы ниеті әңгімелер барысында қалыптасып, бір әңгіменің бірнеше кезегінде өзгеріп отырады, кейде жарнама көрсетуге қолайлы сәт мүлде болмайды. Осы жаңа тәсілді қолдау үшін біз арнайы жарнама жеткізу жүйесін құрдық. Бұл жаңа үлгідегі жарнама жүйесінің негізінде арнайы кейін дайындатылған озық LLM (үлкен тілдік модель) жатыр. Ол іздеп іріктеу (ең жақсы нұсқаларды анықтау), ранжирлеу (пайдаланушы әрекеттесуін болжау), өзектілікті бағалау (жарнаманың пайдасын анықтау), сондай-ақ соңғы жарнаманы таңдап, бағасын белгілеуге арналған аукциондарды өткізу үшін құралдарды шақырады.

Пайдаланушы мақсаттарының өзгеруіндегі ерекшеліктерді ескеру үшін жарнама жүйесін жобалауда үш негізгі шешім қабылдадық: 1) күйін сақтайтын жарнама сеанстарын енгіздік — ақпарат бір әңгіменің кезектері арасында да, бірнеше әңгіме арасында да есте қалады; 2) құрал шақыру архитектурасы арқылы әңгіме контексі мен астарындағы ниетті түсініп, жарнамаларды тиімді таңдайтын, ранжирлейтін және жеткізетін арнайы кейін дайындатылған LLM (үлкен тілдік модель) жүйесіне сүйендік; 3) жарнаманың жауаптарға ықпалын болдырмау және ChatGPT үнін бейтарап сақтау үшін жарнама таңдау процесін ChatGPT жауабын жасаудан бөлек, жеке қызметте іске қостық. Кейін дайындатылған LLM (үлкен тілдік модель) жүйеміз бүкіл жарнама процесін үйлестіреді: пайдаланушының ағымдағы кезегі мен әңгіме тарихына сүйеніп, қай жарнаманы қай сәтте көрсету орынды екенін анықтайды. Бұрын мұндай өздігінен жетілетін жарнама жүйесін нөлден құруға жылдар кететін. Ал ChatGPT Ads жылдық есепке шаққандағы табыс қарқынын іске қосылғаннан кейін 200 күнге жетпей 1 миллиард долларға жеткізді. Қазір іске қосылған кезден бері ChatGPT‑де жарнама орналастырған жарнама берушілер саны 100 000-нан асты.

Агенттік чатта жарнама қалай жұмыс істеуі керек?

Әдеттегі жарнама сұрауы көбіне нақты анықталған оқиғадан басталады. Пайдаланушы іздеу сұрауын жібереді немесе веб-бетті ашады, сонда жарнама жүйесіне сұрау түседі. Мұндай жүйе біршама қарапайым: ықтимал үміткер жарнамаларды іздеп табады, ранжирлейді, орналастыру мүмкіндігінің бағасын дұрыс белгілеу үшін аукцион өткізіп, таңдалған жарнаманы пайдаланушыға көрсетеді. ChatGPT‑де мұндай нақты сәт өздігінен қалыптаса бермейді.

Адамдар ChatGPT‑пен сөйлесуге бір ғана жауап іздеген сұраумен емес, белгілі бір мақсатпен келеді. Олар сапар жоспарлауы, бизнесіне бағдарлама таңдауы, үйін жиһазбен жабдықтауы немесе жаңа әуестік үйренуі мүмкін. Мұның бәрі бір ғана сұрақ-жауаппен бітпейді. ChatGPT көбіне әңгіме барысында пайдаланушыға ненің маңызды екенін нақтылауға көмектеседі.

Мысалы, инженерлік командамыз ChatGPT‑ден жүгіру жарысына қалай дайындалу керегін сұрады: әңгіме жүгіру туралы жалпы сұрақтан басталды. Бірнеше сұрақ-жауаптан кейін олар жаттығуға қолайлы аяқкиім туралы сұрады. Әр жаңа шарт қосылған сайын әңгіменің коммерциялық мәні өзгереді, ал бұл жекелендірілген контекст бірнеше сеанс бойы дамып отырады. Алғашқы хабарламаға ғана сүйенген жүйе ниетті мүлде қате анықтап, пайдаланушы тәжірибесін нашарлатуы және оған кедергі келтіруі мүмкін.

Жарнама жүйемізді құру үшін сұрау-жауапқа негізделген жарнама архитектурасынан шығып, жүйені нөлден жасауға тура келді. Мақсат — пайдаланушы сенімі мен пайдасын бірінші орынға қоя отырып, ықтимал экономикалық мүмкіндіктерді табу.

ChatGPT жауаптарына ықпал етпей, әңгімені есте сақтау

Дәстүрлі жарнама жүйесіндегідей әр хабарламаны жеке сұрауға айналдыру біздің чатта бірнеше қауіп туғызар еді: 1) пайдаланушы мақсатын тым қарапайымдатып, қате түсіну; 2) нақты қажеттілік айқындалмай тұрып, жарнама процесін ерте бастау; 3) пайдаланушыға көмектесудің орнына, оның мақсатына жетуіне кедергі болатын жарнамаларды көрсету; 4) сұрау өзгерген сайын процесті тиімсіз қайта іске қосып, артық әрекет пен шығынға жол беру. Жекелеген оқиғаларға сүйенудің орнына, іздеп іріктеу, ранжирлеу және жеткізуден тұратын жарнама жүйесі күйін сақтайтын сеансты жүргізеді. Яғни жарнама сеансы әңгіменің жарнамаға жарамды кезегі бойы жұмыс істеп, ақпаратты есте сақтайды және өзгерген сайын жаңартады. ChatGPT бастапқы сұрау контексін жарнама серверіне жібереді. Жарнама жүйесі бір ғана ықшамдалған сұрауға сүйенбей, дамып жатқан әңгімені қадағалап, соған бейімделеді.

Жарнама процесі ChatGPT жауаптарына ықпал етпеуі үшін жарнама таңдау ChatGPT‑дің қалыпты жауап жасау процесімен қатар жүреді. Жарнамаларды әңгімені өңдейтін бөлек жүйе өзінің жарамдылық, сапа және жеткізу шектеулеріне сай сүзгіден өткізіп, таңдайды. Бұл маңызды архитектуралық шекара — бөлек модельдер мен бөлек код қолданатын әртүрлі қызметтер — ChatGPT‑дің негізгі серверлеріне жарнамасыз жауап жасауға мүмкіндік береді. Ал жарнама жүйесі қолайлы жарнама мүмкіндігі бар-жоғын өз бетінше бағалап, бар болса, жеке ұсыну процесі арқылы демеушілік материалды дайындайды.

Пайдаланушы әңгімесінің екі тармаққа бөлінуін көрсететін блок-схема: бірі ChatGPT-дің жарнамасыз жауабын жасайды, екіншісі жарнаманың жарамдылығын тексеріп, демеушілік материал екені анық белгіленген жарнаманы ұсынады.

Жарнама процесі ChatGPT жауабын жасау процесімен қатар жүреді.

Мұндай бөлу пайдаланушы тәжірибесін қорғаумен қатар, іс жүзінде де бірқатар нәтиже береді. ChatGPT жарнама жүйесіне тәуелді емес: бұл қызметтер бір-бірімен еш байланыспайды және контент жасау үшін ортақ модель қолданбайды. Сондықтан жарнама ұсыну жүйесі істемей қалса немесе баяуласа, бұл ChatGPT‑дің жарнамасыз жауабына әсер етпейді. Демек, жарнама жүйесі ChatGPT жұмысын тоқтата да, баяулата да алмайды. Бұл бөлудің тағы бір артықшылығы — жарнаманың пайдалылығына қойылатын талап өте жоғары болып қалады. Ешқандай жарнама ұсынбау да қалыпты әрі сәтті нәтиже саналады. Жүйе жарнаманы пайдаланушы мен жарнама берушіге пайдасы анық болғанда ғана жеткізеді.

LLM (үлкен тілдік модель) әңгімелерді түсіндіреді және құралдарды шақырады

Жарнама жүйеміздің тағы бір негізгі архитектуралық құрамдасы — кейін дайындатылған LLM (үлкен тілдік модель). Ол әңгімелердің мәнін түсініп, жарнама процесін агенттік циклде толық басқарады: іздеп іріктеуден бастап ранжирлеуге, аукционға және ақырғы жеткізуге дейін жүйенің негізгі функцияларына құрал шақыруларын жасайды. Біз бұл LLM (үлкен тілдік модель) жүйесін оркестратор деп атаймыз.

Жарнама процесі пайдаланушы ниетін түсінуден басталады. Осыдан кейін іздеп іріктеу іске қосылып, кейін сүзгіден өткізілетін ықтимал жарнамалар әдейі кең ауқымда әрі жылдам жиналады. Әңгіменің біртіндеп келіп түсуі іздеп іріктеуге көбірек ақпарат береді, бірақ белгісіздікті де арттырады: жарнама жүйесі қазіргі ниетті өзектілігін жоғалтқан контекстен ажыратуы керек. Оркестратор алдыңғы хабарламаларға сілтемелерді түсініп, пайдаланушының жорамал жағдайды айтып отырғанын танып, өнім не қызмет туралы әрбір сөзді бірдеңе сатып алу өтініші деп қабылдамауы керек.

Жарнама оркестраторы қолда бар әңгіме мен пайдаланушы контексіне сүйеніп, қолайлы жарнамаларды бірнеше рет іздейді және қай құралды қашан шақыру керегін қайта-қайта таңдайды. Негізгі мақсат — сол әңгіме мен контекске ең лайық жарнаманы, яғни пайдаланушыға да, жарнама берушіге де мол пайда әкелетін теңгерімді нұсқаны табу. Пайдаланушы жарнамаларды жекелендіруді таңдаса, оркестратор ең үйлесімді жарнамаларды табу үшін оның бұрынғы әңгімелері туралы қолжетімді, сезімтал емес ақпаратты да ескереді.

Әңгіме контексі мен пайдаланушы профилі жарнама оркестраторына берілетінін көрсететін архитектура схемасы. Оның іздеп іріктеу, өзектілікті бағалау, оқиғаларды болжау, жарамдылық, шығын қарқыны мен бюджет, аукцион және баға белгілеу құралдары пайдаланушы мен жарнама берушінің пайдасын теңгереді.

Жарнама оркестраторы пайдалы жарнамаларды табу үшін жарнама жеткізу құралдарын қайталап шақырады.

Әңгіме жалғасып, жарнама оркестраторына жаңа ақпарат түскен сайын, ол жаңартылған контекстке сүйеніп, құралдарды қайта шақыра алады. Осылайша қолайлырақ жарнамаларды тауып, оларды клиенттік қолданбаға жібереді. Жаңа жарнамалар уақытында келсе, клиенттік қолданба оларды пайдалана алады.

Оркестратор пайдаланушы мен жарнама берушіге келетін пайданы теңгеруге арналған, бірақ пайдаланушы мүддесі әрдайым бірінші орында тұрады.

Оркестратор жарнама құралдарын агенттік циклде қалай шақырады

Жарнама жүйесі жеке құралдардан тұрады. Оркестратор әңгімеге ең лайық жарнамаларды табу үшін оларды қайталап шақырады. Жалпы алғанда, оркестратор әңгімені қысқа мәтіндік түйіндерге айналдырады. Олар кейін семантикалық векторларға — жарнама жүйесіне іріктеуге ыңғайлы сақталған мағыналық көріністерге — түрленеді. Оркестратор осы векторлар арқылы үміткер жарнамаларды іздеп табады, жарамдылығын сүзгіден өткізеді (бюджет, пайдаланушы баптаулары және басқа бастапқы тексерулер негізінде), сапасы мен өзектілігін бағалайды. Соңында чат жауабының аяғына орналастыруға ең пайдалы нұсқаларды анықтау үшін ақырғы ранжирлеуді орындайды. Сондықтан орналастыруға рұқсат алу үшін әр жарнама жарамдылық пен өзектілікке қойылатын жоғары талаптарға сай болуы керек.

Ниетті дәл көрсететін іздеу сұрауларын дайындау

Оркестратор қызметін атқаратын LLM (үлкен тілдік модель) алдымен тиісті коммерциялық ниетті білдіретін бір немесе бірнеше сұрау дайындайды. Бұл іздеу сұрауларын сөзбе-сөз қайталаумен шектелмей, коммерциялық мүмкіндіктерді кеңейту үшін әңгіме контексін қайта тұжырымдауды және одан семантикалық көріністер жасауды қамтуы мүмкін. Оркестратор бірнеше хабарлама алмасудан тұратын әңгімені іздеп іріктеу жүйесіне арналған қысқаша нұсқаға жинақтап, дерекқорымыздан жарнамаларды нысаналы түрде табады.

Жарнама пайдаланушының ниеті терең түсінілген кезде ғана көрсетілсе, бұл пайдаланушыға да, жарнама берушіге де тиімдірек болады. Бірнеше сұрау ниеттің әртүрлі қырын сақтай алады. Мысалы, сапар жоспарлау туралы әңгімеде көлікке, тұратын жерге немесе демалыс шараларына қатысты бөлек қажеттіліктер болуы мүмкін. Іздеп іріктеу жүйесі бүкіл әңгімені бір ғана мәтін жолына сыйғызбай, осы айырмашылықтарды сақтай алады.

Мысал ретінде жорық аяқкиімі туралы ықтимал әңгіме тізбегін қарастырайық:

  1. What should I cover on a two-day trip to Yosemite?

  2. Will it be cold next week?

  3. New [insert brand] product lines?

Пайдаланушы аяқкиім бренді туралы сұрағын Йосемитиге сапарымен байланыстырмаса да, жарнама жүйеміз бұл әңгімені, мысалы, [shoes appropriate for hiking trip] және [new [brand] product lines good for travel] деген екі сұраумен бере алады. Бұл тек алғашқы әрекет болуы мүмкін: оркестратор қорымыздан пайдаланушыға аса пайдалы жарнамаларды тапқанша осы көріністерді қайта жетілдіре беруге арналған.

Ықтимал жарнамаларды іздеп іріктеу

Іздеп іріктеу — жарнама нұсқаларының әдейі кең қорын құру процесі. Үміткерлер әртүрлі іздеп іріктеу стратегиялары арқылы табылып, кейін бірдей ұсыну шектеулері аясында бәсекеге түсе алады. Біз жүйе мен өнімнің әртүрлі шектеулеріне бейімделген бірнеше индекс құрамыз. Мысалы, тауарлар лентасындағы жарнама индексі ең қолайлы жарнамаларды іздегенде тауар туралы оң не теріс пікірлерді ескеруге арналған. Ал пікірлері болмауы мүмкін басқа жарнамаларға бұл қатысы жоқ. Әр индекс пайдаланушы ниетін білдіретін векторларды қолдана отырып, жуық ең жақын көршіні (ANN) іздеу әдісінің белгілі бір нұсқасына оңтайландырылған. ANN іздеуі — үлкен семантикалық индекстерден іріктеуге арналған жуықтау алгоритмі. Ол «дәл дұрыс» шешімді іздеудің орнына жақсы шешімге жуықтап, сәйкес үміткерлердің көбін сақтайды және жарнамаларды өте жылдам табады.

Қайта тұжырымдалған сұраулардың жоғары өлшемді семантикалық векторларға кодталуын, осы векторлар арқылы кәдімгі жарнамалар мен тауар жарнамалары арасынан, сондай-ақ қосымша іздеу стратегиялары арқылы ықтимал жарнамаларды іздеуді және нәтижелерді үміткерлердің кең қорына біріктіруді көрсететін блок-схема.

Жарнама жүйесі іздеп іріктеу барысында қайта тұжырымдалған сұраулардан семантикалық векторлар жасап, үміткер жарнамалардың кең қорын қалыптастырады.

Жарамсыз үміткерлерді сүзгіден шығару

Сүзгінің мақсаты — өзектілік, баға ұсынысы және бюджет бойынша орналастыру талаптарына сай келмейтін барлық үміткер жарнаманы қарастырудан алып тастау. Үміткер мен конфигурацияға қарай сүзгі тексерулері мыналарды қамтуы мүмкін: жарнама материалы мен науқанның қолжетімділігі (олардың белсенді болуы), науқан таргетингі (мысалы, қай тілдік-аймақтық ортада жұмыс істей алатыны), саясат шектеулері (нені жарнамалауға болатынына қойылатын талаптар), бюджеттің болуы (жұмсауға қаражат қалғаны), шығын қарқыны (бюджетті қазір әлде күннің басқа уақытында жұмсау керегі), орналастыру үйлесімділігі (бұл жарнама қандай әңгімелерде көрсетіле алатыны), сондай-ақ жарнама беруші және науқан деңгейіндегі қайталануларды жою (бизнестердің әділ қатысуы үшін әр жарнама берушіден орынды мөлшерде жарнама таңдау).

Өзектілік пен сапаны бағалау

Жарамдылық тексерулерінен өткен үміткерлер балл қою кезеңіне өтеді. Онда оркестратор әртүрлі бағалау жүйелерінің құралдарын шақырып, ұсынуға қатысты өлшемдерді тексереді: семантикалық өзектілік (жарнама пайдаланушы мақсатына сай ма?), болжамды әрекеттесу (жарнаманың қаралуы, басылуы және жарнама беруші көздеген нәтижеге жеткізуі ықтимал ма?), бұрынғы тиімділік (осы уақытқа дейін пайдаланушыларға көрсетілгенде жақсы нәтиже берді ме?). Оркестратор аукционға дейін жарнамалардың өзектілігі мен қауіпсіздігін қамтамасыз ету үшін де оларды сүзгіден өткізеді. Бұл жүйелер үміткерлер санын азайтып, аукционға дайын шағын қор жасайды, бірақ ақырында жеткізілетін жарнаманы әлі анықтамайды.

Жарнама аукционын өткізу

Оркестратор дайындалған үміткерлерді әңгіме контексінде бағалап, қайсысының соңғы аукционға қатысуға жеткілікті дәрежеде лайық екенін таңдайды. Оркестратор қай жарнама ұсынылатынын тікелей шешпейді және баға белгілемейді. Ол контекске сай үміткерлерді аукцион құралының бағалауына ұсынады.

Аукцион ұсынудың соңғы тетіктерін қолданады: аукционға жіберу (өзектілік пен пайдалылықтың ең төменгі шегінен өту), шығын қарқынын реттеу (жарнама бюджетін біркелкі жұмсау), баға ұсынысы мен аукцион белгілерін есептеу, сапаны ескеріп ранжирлеу, баға белгілеу және түпкілікті таңдау.

Жарамдылықты соңғы рет тексеру

Аукционнан кейін жарнама екі себеппен жеткізілмеуі мүмкін. Екеуі де ChatGPT‑дің әңгімелесу ортасына тән.

  1. Жарнама чатта орынсыз көрінуі мүмкін: жарнама көрсетудің орындылығын бағалайтын модельдер (жарнаманы қашан көрсету орынды екенін анықтайтын модельдер) әңгімені жарнама орналастыруға қауіпсіз деп, ал жарнаманың өзін саясат талаптарына сай деп танығанның өзінде, кейбір әңгімелердің контексінде жарнама орынсыз көрінуі мүмкін. Оркестратор мұндай жарнамалардың көрсетілуіне жол бермейді.

  2. Жарнама сұрауы уақытында жетпеуі мүмкін: егер ChatGPT моделі жауап беруге дайын болып, ал жарнама әлі орналастыруға дайын болмаса, жарнама сұрауының күту мерзімі аяқталып, жарнама көрсетілмейді. Сондықтан жарнама жүйесінің мақсаттарының бірі — мүмкіндігінше жылдам жұмыс істеу. ChatGPT моделінің жауап беру уақыты өзгеріп отырады, ал біз жарнаманың жүктелуін күту үшін чат жауаптарын кідіртпейміз.

Жоғарыдағы барлық тексеруден өткен жарнаманы көрсету үшін фронтендке жібереміз. Біз мұны сервер жағынан жарнама жеткізу деп санаймыз, бірақ жарнама пайдаланушыға әлі де көрсетілмеуі мүмкін — жүйе әдейі осылай жасалған.

Соңғы қадам: жарнаманы пайдаланушыға көрсету

ChatGPT сияқты әңгімелесу өнімінде жарнама материалының серверден жеткізілуі оның көрсетілетініне кепіл болмайды: жарнама ағымдағы жауапқа қосылу үшін уақытында келуі де керек. Жарнама материалына тақырып, сипаттама, мақсатты сілтеме және әрекетке шақыру мәтіні кіреді. Жарнама жүйесі бұған қоса модель жасаған кіріспені де жібереді. Бұл — жарнаманың әңгімеге қатысын түсіндіретін қысқа, бейтарап мәтін. Кіріспені жарнама материалынан бөлек ұстау жарнама берушінің хабарын сақтайды әрі ChatGPT үнін бейтарап қалдырады.

ChatGPT фронтенді кіріспе мен жарнама материалын бір топтамамен алады. Топтама ChatGPT жауабы толық жасалып біткенше келсе, фронтенд жарнаманы жауаптың астына шығарып, оның демеушілік материал екенін анық белгілейді. Тым кеш келсе, жарнама сол жауаппен бірге көрсетілмейді. Сервер жағынан жарнама жеткізу мен оны пайдаланушыға көрсетудің айырмасы — осы.

Ұсыну жүйесінің жеңімпаз жарнаманы дайындауын, ChatGPT-дің соңғы тексерулерін, пайдаланушы интерфейсінде көрсетуді және таңдауды сәтті жеткізуден ажырататын растауларды бейнелейтін реттілік диаграммасы.

Жеңімпазды таңдау мен жеткізу — бөлек оқиғалар. Таңдалған жарнама ChatGPT оны мақұлдап, көрсеткеннен және жеткізілгені расталғаннан кейін ғана жеткізілді деп саналады.

Жарнама көрсетілгеннен кейін не болады

Жарнама жүйеміз дәстүрлі журналдау және деректерді өңдеу конвейерлерін пайдаланады. Мұның үш негізгі артықшылығы бар: жарнама берушілер өз жүйелерін біздің жүйемен оңайырақ біріктіреді, есеп деректері арқылы стратегияларын жетілдіреді, ал біздің команда жақсартуға болатын тұстарды анықтайды. Осы есеп беру және оңтайландыру құралдарынан бөлек, біз жеткізу нәтижелерін бағалап, басқа жарнама модельдерін үйрететін жоғары сапалы модель қолданамыз. Бұл өздігінен жетілудің қуатты циклін қалыптастырады.

Болған оқиғалар туралы егжей-тегжейлі мәліметтер жарнама жүйесінің әр бөлігін жеке-жеке түсініп, жетілдіруге көмектеседі. Журналдарды өңдеу жүйесі мынадай егжей-тегжейлі нәтижелерді де тіркейді:

  • Әңгіменің бұл кезегі жарнама көрсетуге жарамсыз болды.

  • Жарнама сеансы басталды, бірақ іздеп іріктеу сұралмады.

  • Іздеп іріктеу ешбір үміткер таппады.

  • Үміткерлер табылды, бірақ олар қосымша деректермен толықтырудан немесе жарамдылық тексеруінен өтпеді.

  • Жарнама жеткізіліп, кейін пайдаланушы онымен әрекеттесті.

Бұл егжей-тегжейлі мәліметтер жарнама ұсыну жүйесінің әр бөлігін жеке жетілдіруге көмектеседі. Мүмкіндіктерді анықтауды жетілдіруге қажет деректер іздеп іріктеуді, үміткерлер сапасын, аукционға қатысуды немесе жеткізу сенімділігін жақсартуға қажет деректерден өзгеше.

ChatGPT әңгімесінің жарнамаға жарамды кезегінен өнімге, жарнама ұсынуға және сапаға қатысты нәтижелер алынатынын көрсететін блок-схема. Бұл нәтижелер құпиялық талаптары сақталатын талдаудан өтіп, жиынтық өлшемдер мен модельді жетілдіруге рұқсат етілген деректерге айналады.

Жеткізу, ұсыну және сапа жүйелері өмірлік циклдің әртүрлі бөлігін бақылайды. Құпиялық талаптары сақталатын өңдеу өлшеу мен модельді жетілдіру үшін қандай деректерді пайдалануға болатынын анықтайды.

Қуатты модельдер бүкіл жүйені бағалап, жетілдіреді

Модель арқылы бағалаудың мәні мынада: ең қуатты, ой қорыту қабілеті ең жоғары модельдеріміз жүйе нәтижелерін бақылап, бағалайды. Осы бағалау негізінде кейін дайындатылған LLM (үлкен тілдік модель) жүйесін жақсырақ жұмыс істеуге үйретіп, жетілдіреді. Мысалы, ең қуатты моделіміз кері байланыс жинап, шағын орындаушы модельдерді барынша жақсы жұмыс істеуге үйретсе, оркестрация немесе іздеп іріктеу үшін шағын әрі үнемді не ой қорыту қабілеті төменірек модельдерді қолдана аламыз.

Адамдардың кері байланысы талғамға сай бағытты айқындайды

Біз адамдардан келетін кері байланысты (пайдаланушылардың жарнаманы басуы мен жасыруы), пайдаланушы сауалнамаларын және Ads Manager арқылы жарнама берушілердің тікелей пікірлерін жинап, соларға сүйеніп әрекет етеміз. Әзірлеу барысында командамыз пікірлерді қабылдауға ашық болып, ChatGPT пайдаланушылары мен жарнама берушілердің қалауын тікелей тыңдайды. Бұл кері байланыс бағытымызға модельдің бақылауға негізделген пікірінен де көбірек ықпал етеді. Ол өнімге қатысты дұрыс шешімдерді жылдам қабылдауымызға мүмкіндік берген факторлардың бірі болды. Модель пайдаланушы ниетін түсініп, пайдалы нәтиже ұсыну үшін сыни ойлай алуы мүмкін, бірақ талғамды адамдар қалыптастырады.

Алда не күтіп тұр

Бір жыл бұрын бізде жарнама жүйесі жоқ еді, бұл бағытты небәрі бірнеше адам ғана қарастырып жүрген. Қазір бізде жылдық есепке шаққандағы табыс қарқыны 1 миллиард доллардан асатын сенімді жарнама жүйесі бар. Оның жарнама процесін LLM (үлкен тілдік модель) негізіндегі оркестратор басқарады. Codex мүмкіндіктерімізді еселеп, жүйені нөлден құрып, қолданыстың осы маңызды межесіне теңдессіз жылдамдықпен жетуімізге негіз болды. Бастапқыдан-ақ команда мен әзірлеу процестерін жүйені жылдам құрып, ауқымын кеңейту үшін Codex қолданатындай ұйымдастырдық. Codex кодты сенімді әрі қауіпсіз қолданысқа енгізуі үшін қорғаныс тетіктерін жасадық. Сонымен қатар, Codex үшін деректер инфрақұрылымының плагиндерін орнаттық. Олар жаңа тұжырымдар жинаудан бастап жүйеге жетілдірулер енгізуге дейінгі циклді едәуір қысқартты. Бұған өнімнің жаңа мүмкіндіктері, сапаны жақсарту және жүйе өнімділігін арттыру кіреді.

Жүйеміздің жарнама қағидаттарымызға⁠ негізделген шекаралары мен LLM (үлкен тілдік модель) негізіндегі оркестратордың үйлесімі әр әңгімені жарнама сұрауы деп қабылдамай-ақ, жарнаманы пайдалы етуге мүмкіндік береді. Алдағы уақытта пайдаланушы мен жарнама берушіге келетін пайданы арттыру үшін неғұрлым динамикалық жарнама форматтарын сынауды жалғастырамыз. Мысалы, пайдаланушыларға жарнама арқылы бизнеспен тікелей сөйлесу мүмкіндігін беру. OpenAI модельдеріне және үздіксіз кері байланыс циклдеріне сүйенетін, өздігінен жетілетін жүйе архитектурасы уақыт өте өзектілік пен жекелендіруді жақсарту мүмкіндігімізді жеделдетеді.

Авторлар

Ritendra Datta және Karthik Gopalratnam