OpenAI-дағы клиент ортасында жұмыс істейтін инженердің рөлі
Не істейміз, қалай жұмыс істейміз және кәсіпорындардың ең күрделі мәселелерін шешіп, нақты нәтиже қалай әкелеміз.
Авторы: Колин Джарвис, OpenAI компаниясының клиент ортасында жұмыс істейтін инженерлер бағытының жетекшісі
Codex шыққанда, командамыздағы бір әріптесім: «Біз соңғы бірнеше айда әзірлеген шешімдерді Codex бір мысалмен орындай алса, не істейміз?» — деп сұрады.
Бұл сұрақ OpenAI-дағы клиент ортасында жұмыс істейтін инженер рөлінің мәнін дәл ашады. Біз клиенттермен бірге жұмыс істеп, олардың ең күрделі мәселелерін түсінеміз және олар сенім арта алатын шешімдер құрамыз. Жинаған тәжірибеміз өнімдеріміздің қалыптасуына ықпал етіп, зерттеу тобына шешуге тиіс нақты мәселелер береді.
Ілгерілеу дегеніміз — осы. Егер әр екі ай сайын өз көмегімізге деген қажеттілікті жоя алсақ, клиент ортасында жұмыс істейтін инженерлер тобымыз өз міндетін атқарып жатыр деген сөз.
Мен бұл топты 2025 жылдың басында біз «қолданысқа енгізудегі алшақтық» деп атайтын айырмашылықты жою үшін құрдым. Бұл — модельдердің қолынан келетіндей көрінетін мүмкіндіктер мен адамдар жұмыста сенімді пайдалана алатын мүмкіндіктер арасындағы алшақтық.
Модель мүмкіндіктері оларды қолдануға қажет жүйелер мен процестерге қарағанда жылдамырақ дамыды. Кейде жетіспейтіні — дайын өнім. Кейде модель салыстырмалы сынақта жақсы нәтиже көрсеткенімен, нақты өмірдегі өзгермелі жағдайлар мен шектеулер кезінде міндетті орындай алмайды.
Біз клиенттердің ең күрделі мәселелеріне назар аударамыз. Модельдеріміз міндетті қазірдің өзінде орындай алса, өнім тобымен және клиентпен бірге шешімді қайта қолдануға жарамды етеміз. Ал мүмкіндіктері жетпесе, клиенттермен және зерттеу тобымен бірге олқылықты анықтап, жетілдіреміз. Мақсатымыз — әр жоба келесі клиентке жұмысты жақсырақ негізден бастауға мүмкіндік беруі. Егер бастапқы деңгейді клиенттер келесі жолы осы тектес мәселені клиент ортасында жұмыс істейтін инженерлерсіз шеше алатындай көтерсек, жұмысымызды жақсы атқардық деген сөз.
200 жылдық тарихы бар ауыл шаруашылығы компаниясы John Deere алдында фермерлерге жеке кеңес беруді кең ауқымда қалай ұйымдастыруға болады деген міндет тұрды.
Мысалдардың бірі — арамшөптермен дәлме-дәл күресуге арналған See & Spray технологиясы. Ол камералар мен машиналық оқыту арқылы арамшөптерді анықтап, бүкіл алқапты өңдеудің орнына тек соларға препарат бүркеді. Бұл химикаттарды қолдануды 70%-ға дейін азайтады.
Алайда бұл артықшылықтарды іске асыру үшін фермерлер технологияны қалай баптауды, маусымдық жұмыстарды жоспарлауды және жағдай өзгергенде жұмыс тәсілдерін бейімдеуді білуі керек.
John Deere осы қолдауды әр фермерге бейімдеп, кең ауқымда ұсыну үшін OpenAI API-лерін енгізді.
ЖИ фермерлердің сұрақтарына табиғи тілде жауап беріп, олардың жағдайына сай баптау нұсқаулары мен ұсыныстар бере алады. Сондай-ақ техниканың толық әлеуетін іске асырмай тұрғанын анықтап, фермерлерге технологиядан қандай пайда алып отырғанын түсінуге көмектеседі.
Бұл мүмкіндік бір реттік кеңеспен шектелмейді: клиентпен қарым-қатынастың барлық кезеңінде орынды кеңес беріп, фермерлерге техниканы тиімдірек пайдалануға, жұмыс тиімділігі мен экологиялық тұрақтылықты арттыруға көмектесуге болады.
OpenAI-дың клиент ортасында жұмыс істейтін инженерлері осындай міндеттерді шешеді: ұйымдарға ЖИ мүмкіндіктерін күрделі нақты жағдайларда практикалық пайда әкелетін жүйелерге айналдыруға көмектеседі.
Бірақ көбіне мәселелердің шегі анық емес, дұрыстықтың бекітілген өлшемі де, дайын нұсқаулық та болмауы мүмкін. Бәрі бұрын болмаған нәрсені жасағысы келеді. Бірақ соған жету үшін қажет істің бәрін жасауға дайын адамдар аз.
Клиент ортасында жұмыс істейтін дарынды инженерлерді табумен қатар, «жеткілікті жақсы» деген сапа межесін көтеру үнемі тәжірибе жасап, оны іс жүзінде қолдануды талап етті.
Клиент ортасында жұмыс істейтін инженерлер тобының әр жиыны басында мен бір негізгі құндылық жазылған слайдты көрсетемін: «Алдымен көздеген нәтижені анықтаңыз, оған жету үшін қажет істің бәрін жасаңыз, содан кейін ауқымын кеңейтіңіз».
Әсерлі демоға жұрт ұзақ уақыт тәнті болып, оның нақты жағдайда жұмыс істейтінін тек кейін сұрауы мүмкін.
Біздің міндетіміз — клиенттің мәселесін нақты қолданыста сапасына жауап бере алатындай деңгейде шешу.
2025 жылдың ортасында клиент ортасында жұмыс істейтін 15-ке жуық инженеріміз жартылай өткізгіштер саласындағы ірі клиентпен 10-нан астам қолдану сценарийі бойынша жұмыс істеді. Мақсат — олардың верификация процесін ЖИ-ге негіздеп қайта құру еді. Ол мына бағыттарды қамтыды:
Нысаналы тесттер жасау
Түпкі себептерді талдау және қателерді түзету
Архитектура бойынша көмекші
Бұл салада жобаға жұмсалатын еңбектің шамамен 70%-ы верификацияға кетуі мүмкін. Мүмкіндік орасан зор еді, ал жұмысты бастауға болатын бағыттар көп болды.
Клиент ортасында жұмыс істейтін кейбір инженерлеріміз OpenAI-ға небәрі бірнеше күн бұрын қосылған еді және жартылай өткізгіштер саласында бұрын тәжірибесі болмаған. Олар клиенттің верификация тобына қосылып, бос уақытында чиптерді жобалауды үйренді. Инженерлермен бірге ЖИ-дің пайдалы тесттер жасап, чип ақауларының себептерін дұрыс анықтай алатынын тексеруге арналған бағалау сынақтарын әзірледі.
Осы тәжірибемен қатар, әр қолдану сценарийіне арналған арнайы орындау және бағалау орталарын құрдық. Алғашқы 3–6 айда барлық шешім нақты қолданысқа енгізіліп, оларды алғашқы пайдаланушылар қолдана бастады. Жұмысымыздың нәтижесін мына көрсеткіштерден көрдік:
ЖИ арқылы нысаналы тесттер жасау уақытты шамамен 48%-ға үнемдеді.
Есептеу ядроларын оңтайландыру өнімділіктің медианалық көрсеткішін 22%-ға арттырды.
Апталарға созылатын қате түзету жұмысы бірнеше сағатта орындалатын болды
Нәтижелерді таныстырғанымызда, аппараттық құралдар жөніндегі басшы: «Сіздер мұнда келгенге дейін чип жобалаушы болып жұмыс істедіңіздер ме?» — деп сұрады.
Клиент ортасында жұмыс істейтін инженерлеріміз саланы бірінші күннен білуге міндетті емес,бірақ оны меңгеруге жауапты.
Код жазу көмекшілері бағдарламалық жасақтаманы әзірлеуді жеделдеткен сайын, клиенттің бизнесін түсіну бұрынғыдан да маңызды бола түседі. Біз топтарға әрі кең бейінді, әрі белгілі бір салаға маманданған мамандарды жинаймыз.
Салмақты шешім қабылдауға жеткілікті білім және қалыптасқан тәртіп туралы түсініктерге күмән келтіре алатындай ізденімпаздық қажет.
Мысалы, тіршілік туралы ғылымдар саласында клиент ортасында жұмыс істейтін инженерлеріміздің ғылыми білімі зерттеушілердің сеніміне ие болуға көмектеседі. Бұл зерттеушілер дәрі әзірлеудің клиникаға дейінгі кезеңінде нысаналарды растау және басымдығына қарай іріктеу, гендер экспрессиясын талдау, химиялық синтез жолдарын қайта құру сияқты міндеттерді атқарады. Осы біліктілік инженерлерімізге мұндай жұмыс процестерін қалай жақсартуға болатыны туралы негізді ұсыныстар беруге мүмкіндік береді.
Біз бұл жұмыс процестерінің пайда әкеле алатынын көрсеттік. Бірақ әрқайсысын басқа топқа енгізу үшін әлі де тым көп арнайы интеграция қажет еді. Келесі міндет — қол жеткізген нәтижелерді сақтай отырып, бағдарламалық жасақтаманы енгізу мен сүйемелдеуді жеңілдету болды.
Ол кезде Codex мүмкіндіктері кеңейген еді. Клиент ортасында жұмыс істейтін бір инженер қолданбаны Codex негізінде қайта құрып көруді сынады. Содан кейін командамен бірге қолдану сценарийлерін Codex өзегіне негізделген ортақ орындау және бағалау жүйесіне көшірді.
Арнайы қолданбалар Codex-тің ортақ базалық құрамдастарына негізделген плагиндер мен дағдыларға айналды. Codex интерфейс қызметін де атқара бастады. Соның арқасында жекелеген қолдану сценарийлері үшін жазған бөлек терминалдық интерфейстер мен пәрмен жолы интерфейстерінен бас тарта алдық.
Әр жобадағы арнайы кодтың шамамен 90%-ын алып тастай алдық. Бұл осы жұмыс процестерін құру, сүйемелдеу және ауқымын кеңейту тәсілімізді өзгертті:
Codex-ке орталықтандырылған түрде енгізілген жақсартуларды пайдаланып, әр қолдану сценарийіне қажет байланыстырушы код көлемін азайта алдық
Негізгі функциялар дағдылар мен плагиндер түрінде біріктірілді. Оларды өзара бөлісу және ЖИ құзыреттер орталығы арқылы орталықтан басқарып отыру жеңілдеді. Осының арқасында шешімді бір топтан екіншісіне тарату үшін жаңа коннекторлар мен MCP серверлерін қосып, жаңа бағалау сынақтарын әзірлеп (бұған да арналған дағдымыз бар еді), жұмысты бастап кету жеткілікті болуы мүмкін еді.
2026 жылғы тамыздағы бір мысалда бастапқы енгізуге екі ай кетті. Ал шешімді екінші топқа енгізуге бір күн қажет болды. Ауқымды кеңейткен сайын келесі топтар жылдамырақ қосыла бастады. Бұл үрдіс жалғасты: 2026 жылғы тамыздағы бір сценарийде бастапқы енгізуге 2 ай кетсе, екінші топқа енгізу 1 күнде орындалды.
Өз көмегімізге деген қажеттілікті жоюдың бір жолы — осы. Нақты қолданысқа жету үшін атқарған жұмысымыз ненің маңызды екенін көрсетті. Негізгі өнім жақсарған сайын арнайы әзірлемеміздің көп бөлігін сонымен алмастырып, одан алынатын пайданы сақтап қала алдық.
Сондықтан реттілік маңызды. LLM (үлкен тілдік модель) жүйелері шешімдерді жылдам құруға мүмкіндік береді. Осы жылдамдықты пайдаланушыларға пайдалы нәрсе ұсынуға жұмсаңыз, оның іс жүзінде қаншалықты тиімді екенін біліп алыңыз, содан кейін нәтиже беретін шешімнің ауқымын кеңейтіңіз.
Осы қағида барлық бірлескен жобаға қолданылады.
Кәсіпорындарға арналған дауыстық және чат агенттеріне бағытталған OpenAI Presence өніміміз клиенттерде нақты қолданысқа енгізілген шешімдер негізінде пайда болды. Жұмыс Swarm(жаңа терезеде ашылады) -жүйесінен басталып, кейін Agents API арқылы дамыды. Бүгінде клиенттеріміздің бірі қоңырауларының жартысынан көбін ЖИ көмегімен өңдейді.
Осы шешімдерді нақты қолданысқа енгізу барысында қандай мәселелерге арнайы шешім қажет екенін және қандай базалық құрамдастарды басқа командалардың да пайдалана алатынын түсіндік. Біз осы базалық құрамдастарды Presence жүйесіне енгіздік. Бұл әзірлеушілерге негізгі инфрақұрылымды қайта құрмай-ақ, нормативтік талаптармен реттелетін жұмыс процестерін автоматтандыруды жеңілдетті. Әрбір енгізу тәжірибесі өнімді жетілдіруге ықпал етіп, келесі клиентке жұмысты жақсырақ негізден бастауға мүмкіндік берді.
Бірге Thrive Holdings компаниясымен бірлесіп, OpenAI-дың клиент ортасында жұмыс істейтін инженерлері мен зерттеушілері Crete желісіне кіретін бухгалтерлік фирмаларға арналған Tax AI жүйесін әзірлеу үшін инженерлермен және бухгалтерлермен бірге жұмыс істеді. Пилоттық жоба барысында Tax AI 7000 салық декларациясын өңдеп, өткізу көлемін шамамен 50%-ға арттырды.
Ең күрделі міндеттердің бірі жалға берілетін жылжымайтын мүлікке қатысты салық декларацияларын өңдеуді автоматтандыру болды. Дәлдік пен толықтық көрсеткіштерін 90%-ға жеткізу үшін инженерлер мен сала мамандары алты апта бойы әзірлеу және тексеру жұмыстарын жүргізді. Бұл жұмыс Tax AI жүйесін салық декларациясының басқа да күрделі қосымшаларын өңдеуге бейімдеуді жеңілдететін қайта қолдануға болатын үлгілерді қалыптастырды.
Командалар қазір бухгалтерлік есеп, аудит және IT қолдау саласында дәл осындай тәсілді қолданып жатыр — мамандардың пікірлері мен нақты өмірде пайдалану арқылы жетілдірілетін жүйелер құруда.
Кейде жетілдірілген өнім бұрын жасаған шешімімізді жеңілдетуге мүмкіндік береді, ал кейде модельдің өзі бұл міндетті әлі орындай алмайды.
Егер тек қазіргі модельдердің қолынан келетін нәрсені ғана жасасақ, зерттеу тобы келесі кезекте жоюы тиіс қабілет олқылықтарын анықтай алмаймыз. Сондықтан маңызды жобаларымыздың көбі осы шектеулерден басталады: клиент, клиент ортасында жұмыс істейтін инженер және зерттеу тобы оларды бірге еңсеруге міндеттенеді.
Біз телекоммуникация саласындағы ірі клиентпен бірге клиенттерге қызмет көрсету платформасын әзірлеп қойған едік. Енді олар оған дауыстық қызмет көрсетуді қосуды қалады.
Клиенттерге қызмет көрсетуге түскен өтініштердің шамамен 90%-ы дауыстық арна арқылы келетін. Мұндай өтініштерді операторға бағыттамай шешу чаттағы өтініштерге қарағанда қымбатырақ болды. Сондай-ақ акценттерді тануды, дауыс реңкін, жауап беру кідірісі мен дәлдігін нақты қолданысқа жарамды деңгейге жеткізу жаңа техникалық қиындықтар туғызды. Осы міндеттерді сәтті шешу клиенттің бизнесіне елеулі пайда әкелер еді.
Жұмыс ауқымын анықтау кезінде модельдің нақты қолданыста бұл міндетті атқара алатынын бағалайтын негізгі сынақтарымызда оның нәтижесі шамамен 60% болды. Біз оның мүмкіндіктерінің шегіне жеткен едік. Клиенттерге қызмет көрсету сценарийлерінде функция шақыру мен нұсқауларды орындауды жақсарту қажет болды.
Біз мұны клиентке түсіндіріп, жұмысқа зерттеу тобын тарттық. Клиент ортасында жұмыс істейтін инженер клиентпен бірге платформаны құрып, модельдің қандай міндеттерді орындауы керегін анықтады. Зерттеу тобы модель мүмкіндіктеріндегі олқылықтарды жоюмен айналысты. Модельдің бірінен соң бірі шыққан нұсқалары ілгерілеуді клиент талаптарына сай тексеруге мүмкіндік берді.
Алты айда негізгі сынақтардағы нәтиже шамамен 60%-дан 80%-ға, кейін 90%-дан жоғары көтеріліп, нақты қолданысқа қажетті деңгейге жетті.
Осы жұмыстың нәтижесінде жасалған дауыс моделі қазір сол клиенттің жүйесінде, клиенттерге қызмет көрсетуге арналған басқа арнайы шешімдерде және Presence арқылы басқарылатын жүйелерде қолданылады. Бір клиенттің бизнесінде кездескен мәселе көптеген басқа клиентке де пайдасы тиетін жақсартуларды анықтауға көмектесті.
Әр тараптың үлесі маңызды болды. Клиент модель әлі шеше алмайтын мәселені шешуге атсалысуға міндеттенді. Клиент ортасында жұмыс істейтін инженер клиентпен тығыз байланыста болып, мәселені нақты тұжырымдады, платформаны құрды және жобаны басынан аяғына дейін жүргізді. Зерттеу тобы негізгі модельдің мүмкіндіктерін жетілдірді.
Өз көмегімізге деген қажеттілікті жоюдың екінші жолы — бүгінгі модельдер шеше алмайтын мәселені болашақ модельдердің қолынан келетін міндетке айналдыруға көмектесу. Жұмысымыздың қайтарымы бір клиентпен өткізген сағаттарымызбен шектелмейді.
Мен OpenAI-ға ЖИ-ді адамдардың күнделікті жұмысына пайдалы етуге көмектесу үшін қосылдым. Командамыз әлі де осы мақсатты басшылыққа алады. Мен командама үлкен тілдік модельдерді (LLM) әзірлеуде көбіне Оккам ұстарасы қағидасы қолданылатынын жиі айтамын: ең қарапайым шешім — ең жақсы шешім. Озық зерттеулерімен танылған компанияда, асыра айтылған мәлімдемелер жиі кездесетін салада жұмыс істей отырып, біз іс жүзінде сенімді жұмыс істейтін, сала мамандары арқа сүйей алатын шешімдер жасағымыз келеді.
Мақсат — әр жоба келесі жұмысқа жағдайды жақсартуы: өнімді енгізу жеңілдеуі, модель күрделірек міндетті орындай алуы немесе келесі клиентке арнайы әзірлеме азырақ қажет болуы керек.
Шешкіңіз келетін күрделі мәселе болса, сізбен қуана жұмыс істейміз. Осындай мәселелерді шешуге үлес қосқыңыз келсе, командамызға қосылуға шақырамыз.
Сонымен, біз айлар бойы шешімін әзірлеген міндетті Codex өзі орындай алатын болса, не істейміз?
Одан да күрделі мәселені іздейміз.
