Шта значи бити инжењер за директну примену у компанији OpenAI
Чиме се бавимо, како радимо и како решавамо најтеже проблеме предузећа да бисмо остварили стварне резултате.
Аутор: Колин Џарвис, руководилац инжењерства за директну примену у компанији OpenAI
Када се појавио Codex, неко из тима ме је питао: „Шта да радимо када Codex из првог покушаја може да реши случајеве употребе за које смо последњих неколико месеци градили решења?“
То питање погађа суштину улоге инжењера за директну примену у компанији OpenAI. Радимо раме уз раме с клијентима да бисмо разумели њихове најтеже проблеме и изградили решења на која могу да се ослоне. Оно што научимо помаже да обликујемо наше производе и истраживачком тиму даје конкретне проблеме које треба решити.
То је напредак. Ако сваких неколико месеци сопствени ангажман учинимо непотребним, наш тим инжењера за директну примену добро ради свој посао.
Основао сам тим почетком 2025. године да премостимо оно што зовемо „јаз у примени“: разлику између онога за шта модели делују способно и онога што људи могу поуздано да користе у свом раду.
Могућности модела напредовале су брже од система и процеса потребних да се оне искористе. Понекад недостаје производ. Понекад модел постиже добре резултате на референтном тесту, али не може да обави посао уз променљиве услове и ограничења стварног света.
Усредсређени смо на најтеже проблеме клијената. Тамо где наши модели већ могу да обаве посао, сарађујемо с тимом за производе и клијентом како би решење могло поново да се примени. Тамо где нису довољно способни, с клијентима и истраживачким тимом утврђујемо шта недостаје и радимо на побољшањима. Наш циљ је да сваки ангажман следећем клијенту остави бољу полазну основу. Ако је унапредимо толико да клијентима следећи пут не буду потребни инжењери за директну примену да реше ту врсту проблема, добро смо обавили свој посао.
За John Deere, компанију која већ 200 година послује у пољопривреди, изазов је био како да персонализовани савети постану доступни већем броју пољопривредника.
Један пример је See & Spray, њихова технологија за прецизно сузбијање корова. Она користи камере и машинско учење за препознавање и прскање корова уместо третирања целих њива, чиме се употреба хемикалија смањује до 70%.
Али остваривање тих предности зависи од тога да ли пољопривредници знају како да подесе технологију, испланирају сезону и прилагоде начин рада променама услова.
John Deere је увео API-је компаније OpenAI како би та подршка била персонализована и доступна све већем броју корисника.
ВИ може да одговара на питања пољопривредника природним језиком, даје прилагођена упутства за подешавање и препоруке, препознаје када опрема можда не остварује свој пуни потенцијал и помаже пољопривредницима да разумеју какву корист имају од те технологије.
Могућности се не завршавају на појединачном разговору: релевантне смернице могу се пружати током целокупног корисничког искуства, помажући пољопривредницима да боље искористе опрему и истовремено унапреде ефикасност и одрживост.
Управо такве изазове решавају инжењери за директну примену компаније OpenAI: помажу организацијама да од могућности ВИ дођу до система који доносе практичну вредност у сложеним условима стварног света.
Али проблеми су често сасвим отворени, можда нема утврђеног мерила тачности, а нема ни готовог рецепта. Сви желе да направе нешто што никада није постојало. Мање је оних који су спремни да ураде све што је потребно да до тога дођу.
Проналажење талентованих инжењера за директну примену уз подизање прага за „довољно добро“ захтевало је стално експериментисање и примену у пракси.
На почетку сваког састанка тима инжењера за директну примену прикажем слајд с једним основним начелом: „Почните од исхода, урадите све што је потребно за успех, а затим проширите примену“.
Упечатљива демонстрација може дуго да одушевљава пре него што ико упита да ли решење функционише у стварном свету.
Наш посао је да решимо проблем клијента уз квалитет за који можемо да гарантујемо у продукцији.
Средином 2025. године, око 15 наших инжењера за директну примену радило је с великим клијентом из сектора полупроводника на више од 10 случајева употребе. Циљ је био да вештачка интелигенција постане основа њиховог процеса верификације, што је обухватало:
Генерисање усмерених тестова
Анализу основног узрока и отклањање грешака
Асистента за архитектуру
У овом сектору на верификацију може отпасти око 70% рада на пројекту. Потенцијал је био огроман, а постојало је много могућих полазних тачака.
Неки инжењери за директну примену придружили су се компанији OpenAI тек неколико дана раније и никада нису радили у сектору полупроводника. Укључили су се у клијентов тим за верификацију, у слободно време проучавали пројектовање чипова и с инжењерима развијали евалуације како би проверили да ли ВИ може да генерише корисне тестове и правилно дијагностикује отказе чипова.
Упоредо с тим учењем, градили смо прилагођена окружења за појединачне случајеве употребе. Током првих 3–6 месеци, сва решења су стигла до продукције и првих корисника. Уложени труд се исплатио, што су показали и резултати:
Око 48% уштеде времена захваљујући генерисању усмерених тестова помоћу ВИ.
Медијана побољшања перформанси од 22% захваљујући оптимизацији кернела.
Недеље отклањања грешака сведене на сате
Када смо представили све те резултате, директор за хардвер је упитао: „Да ли сте пре доласка овде радили као пројектанти чипова?“
Наши инжењери за директну применуне морају да познају сектор од првог дана, али су одговорни за то да га упознају.
Како асистенти за програмирање убрзавају развој софтвера, разумевање пословања клијента постаје још важније. Градимо тимове који спајају људе широког знања и стручњаке за поједине области.
Потребно је довољно знања за исправне процене и довољно радозналости да се преиспитају претпоставке о постојећем начину рада.
На пример, у биолошким наукама, научно образовање наших инжењера за директну примену помаже им да стекну поверење истраживача који раде на претклиничком откривању лекова, на задацима као што су валидација и приоритизација терапијских мета, анализа експресије гена и реконструкција путева хемијске синтезе. Та стручност им омогућава да понуде утемељену процену о томе како би ти радни токови могли да се унапреде.
Показали смо да ти радни токови могу да донесу вредност, али је за проширење сваког од њих на други тим и даље било потребно превише прилагођавања при интеграцији. Следећи изазов био је да сачувамо те резултате, а да софтвер учинимо лакшим за увођење и одржавање.
До тада су могућности система Codex већ биле напредовале. Један инжењер за директну примену испробао је поновну изградњу апликације око њега, а затим је с тимом пребацио случајеве употребе у заједничко окружење чију основу чини Codex.
Прилагођене апликације постале су додаци и вештине изграђени на заједничким основним елементима система Codex. Codex је постао и интерфејс, што нам је омогућило да укинемо засебне терминалске корисничке интерфејсе и интерфејсе командне линије које смо написали за појединачне случајеве употребе.
Успели смо да уклонимо приближно 90% прилагођеног кода из сваког пројекта, што је променило начин на који смо градили, одржавали и ширили ове радне токове:
Могли смо да користимо централизована побољшања система Codex и тако смањимо количину кода за повезивање компоненти потребног за сваки појединачни случај употребе
Кључне функционалности обједињене су у вештине и додатке, што је олакшало њихово међусобно дељење и централизовано управљање преко центра изврсности за ВИ. То је значило да је проширење примене с једног тима на други могло да се сведе на увођење нових конектора/MCP сервера, израду нових евалуација (за шта смо такође имали вештину) и покретање рада.
У једном примеру из августа 2026. године, почетна имплементација трајала је два месеца. Проширење решења на други тим трајало је један дан. Како смо ширили примену, сваки следећи тим укључивао се брже. Тај тренд се наставио: у једном случају употребе из августа 2026. године, другом тиму је био потребан 1 дан, након што је почетна имплементација трајала 2 месеца.
То је један од начина да сопствени ангажман учинимо непотребним. Рад који смо уложили да стигнемо до продукције показао је шта је важно. Како се основни производ побољшавао, могли смо да заменимо велики део прилагођене имплементације и задржимо вредност коју је доносила.
Зато је редослед важан. Велики језички модели (LLM) омогућавају нам да брзо градимо решења. Искористите ту брзину да корисницима пружите нешто вредно, сазнајте шта се показује добро у пракси, а затим проширите оно што функционише.
Исти принцип важи за све наше ангажмане.
OpenAI Presence, наш производ за гласовне и агенте за ћаскања за предузећа, развио се на основу стварних имплементација код клијената. Рад је почео са Swarm(отвара се у новом прозору) и еволуирао кроз API агенте, а данас један клијент већ обрађује више од половине својих позива помоћу ВИ.
Увођење тих решења у продукционо окружење показало нам је за које проблеме је било потребно прилагођено решење, а које градивне блокове би могли да користе и други тимови. Те градивне блокове смо увели у Presence, олакшавајући програмерима да аутоматизују регулисане токове рада без поновне изградње основне инфраструктуре. Свако увођење у продукцију помогло је у обликовању производа и омогућило следећем клијенту да лакше започне.
Sa Thrive Holdings, OpenAI инжењери за директну примену и истраживачи радили су заједно са инжењерима и рачуновођама на изградњи Tax AI за рачуноводствене фирме на Криту. Током свог пилот пројекта, Tax AI је обрадио 7.000 пореских пријава и повећао пропусну моћ за око 50%.
Један од најтежих изазова била је аутоматизација пореских пријава за имовину у закупу, што је захтевало шест недеља инжењерског рада и стручне провере да би се достигла прецизност и одзив од 90%. Овај рад је створио обрасце за вишекратну употребу који су олакшали проширење Tax AI на друге сложене пореске обрасце.
Тимови сада примењују исти приступ на књиговодство, ревизију и ИТ подршку — градећи системе који се унапређују на основу повратних информација стручњака и употребе у стварним условима.
Понекад нам бољи производ омогућава да поједноставимо оно што смо изградили, али понекад сам модел још не може да обави посао.
Ако градимо само оно што данашњи модели већ омогућавају, нећемо открити недостатке у њиховим способностима које истраживачки тим треба следеће да отклони. Зато многи наши важни ангажмани почињу управо на тим границама, уз посвећеност клијента, инжењера за директну примену и истраживачког тима да их заједно превазиђу.
Већ смо били развили платформу за корисничку подршку с великим клијентом из телекомуникационог сектора, који је желео да је прошири на гласовне позиве.
Гласовни позиви чинили су око 90% укупног обима њихове корисничке подршке. Решавање тих захтева без укључивања оператера било је скупље него у ћаскању и доносило је низ нових техничких изазова: рад с различитим акцентима, тон, кашњење и тачност требало је довести на ниво потребан за продукцију. Успешно решење донело би значајну промену у њиховом пословању.
Током дефинисања обима пројекта, наш модел је постизао око 60% на кључним евалуацијама којима смо процењивали да ли може да обавља тај посао у продукцији. Достигли смо границе његових могућности. Било је потребно унапредити позивање функције и праћење упутстава у сценаријима корисничке подршке.
То смо објаснили клијенту и укључили истраживачки тим у рад. Инжењери за директну примену радили су с клијентом на изградњи платформе и дефинисању онога што модел треба да ради. Истраживачки тим радио је на отклањању недостатака у способностима модела, а узастопне верзије омогућавале су нам да проверавамо напредак у односу на захтеве клијента.
За шест месеци, резултати на кључним евалуацијама порасли су са око 60% на 80%, а затим на преко 90%, достигавши ниво потребан за продукцију.
Тако развијен гласовни модел сада покреће решење тог клијента, друга прилагођена решења за корисничку подршку и управљана решења на платформи Presence. Проблем у пословању једног клијента помогао је да се препознају побољшања која могу користити многим другима.
Сваки део био је важан. Клијент се обавезао да ради на проблему који модел још није могао да реши. Инжењери за директну примену били су довољно укључени да јасно дефинишу проблем, изграде платформу и воде ангажман од почетка до краја. Истраживачки тим унапредио је основне способности модела.
Ово је други начин да сопствени ангажман учинимо непотребним: да помогнемо да проблем који данашњи модели не могу да реше постане нешто што ће будући модели моћи да ураде. Корист од нашег рада превазилази сате које проведемо с било којим појединачним клијентом.
Придружио сам се компанији OpenAI да помогнем да ВИ постане корисна људима у свакодневном раду. То и даље води наш тим. Често кажем тиму да у већини случајева при развоју великих језичких модела (LLM) важи Окамова бритва — најједноставније решење је најбоље. У компанији коју одликују врхунска истраживања и сектору чији углед нарушавају претерана обећања, желимо да градимо решења која поуздано раде и на која људи у пракси могу да се ослоне.
Циљ је да сваки ангажман унапреди оно што следи: производ који је лакше увести, модел који може да реши тежи задатак или мање прилагођавања за следећег клијента.
Ако имате тежак проблем који желите да решите, радо бисмо сарађивали с вама. Ако желите да помогнете у решавању тих проблема, волели бисмо да нам се придружите.
Шта онда радимо када Codex може да преузме посао за који смо месецима градили решење?
Пронађемо тежи проблем.
