Šta znači biti inženjer za direktnu implementaciju u kompaniji OpenAI
Šta radimo, kako radimo i kako rješavamo najteže probleme preduzeća da bismo ostvarili stvaran učinak.
Autor: Colin Jarvis, rukovodilac direktne inženjerske implementacije u kompaniji OpenAI
Kada je Codex izašao, neko iz tima me je upitao: „Šta ćemo raditi kada Codex iz prvog pokušaja bude mogao riješiti slučajeve upotrebe na kojima smo radili posljednjih nekoliko mjeseci?“
To pitanje pogađa suštinu uloge inženjera za direktnu implementaciju u kompaniji OpenAI. Radimo zajedno s klijentima da bismo razumjeli njihove najteže probleme i izgradili rješenja na koja se mogu osloniti. Ono što naučimo pomaže u oblikovanju naših proizvoda i istraživačkom timu daje konkretne probleme za rješavanje.
To je napredak. Ako svakih nekoliko mjeseci vlastiti angažman učinimo suvišnim, naš tim inženjera za direktnu implementaciju radi svoj posao.
Osnovao sam tim početkom 2025. kako bismo premostili ono što nazivamo „jazom u primjeni“: razliku između onoga za šta modeli djeluju sposobni i onoga što ljudi mogu pouzdano koristiti u svom radu.
Sposobnosti modela napredovale su brže od sistema i procesa potrebnih da se iskoriste. Ponekad je proizvod ono što nedostaje. Ponekad model postiže dobre rezultate na referentnom testu, ali ne može obaviti posao uz promjenjive uslove i ograničenja stvarnog svijeta.
Fokusiramo se na najteže probleme klijenata. Tamo gdje naši modeli već danas mogu obaviti posao, sarađujemo s timom za proizvode i klijentom kako bismo rješenje učinili ponovljivim. Tamo gdje njihove sposobnosti nisu dovoljne, s klijentima i istraživačkim timom utvrđujemo šta nedostaje i radimo na poboljšanjima. Naš cilj je da svaki projekat sljedećem klijentu pruži bolje polazište. Ako početni nivo podignemo toliko da klijentima sljedeći put ne trebaju inženjeri za direktnu implementaciju za rješavanje te vrste problema, dobro smo obavili posao.
Kompanija John Deere, koja posluje u poljoprivredi već 200 godina, suočila se s izazovom: kako personalizovane savjete učiniti dostupnim većem broju poljoprivrednika.
Jedan primjer je See & Spray, njena tehnologija za precizno suzbijanje korova, koja pomoću kamera i mašinskog učenja prepoznaje i prska korov umjesto da tretira cijele njive, čime se upotreba hemikalija smanjuje do 70%.
Ali ostvarivanje tih prednosti zavisi od toga znaju li poljoprivrednici podesiti tehnologiju, isplanirati sezonu i prilagoditi način rada promjenama uslova.
John Deere je uveo API-je kompanije OpenAI kako bi ta podrška bila personalizovana i dostupna većem broju korisnika.
AI može odgovarati na pitanja poljoprivrednika prirodnim jezikom, pružati prilagođene upute za podešavanje i preporuke, prepoznati kada oprema možda ne ostvaruje puni potencijal i pomoći poljoprivrednicima da razumiju kakvu vrijednost dobijaju od tehnologije.
Mogućnosti se ne završavaju na pojedinačnoj interakciji: relevantne smjernice mogu se pružati tokom cijelog korisničkog iskustva, pomažući poljoprivrednicima da bolje koriste opremu i istovremeno unaprijede efikasnost i održivost.
Upravo takve izazove rješavaju inženjeri za direktnu implementaciju kompanije OpenAI: pomažu organizacijama da mogućnosti AI-ja pretvore u sisteme koji donose praktičnu vrijednost u složenim, stvarnim okruženjima.
Ali problemi su često nedefinisani, možda ne postoje utvrđeni referentni podaci, a nema ni gotovih uputa. Svi žele napraviti nešto što nikada nije postojalo. Manje je onih koji žele uraditi sve što je potrebno da se do toga dođe.
Pronalaženje talentovanih inženjera za direktnu implementaciju uz stalno podizanje praga za ono što smatramo „dovoljno dobrim“ zahtijevalo je neprestano eksperimentisanje i primjenu u praksi.
Na početku svakog sastanka tima inženjera za direktnu implementaciju prikažem slajd s jednom temeljnom vrijednošću: „Počnite od ishoda, uradite ono što je potrebno za uspjeh, a zatim proširite primjenu“.
Impresivna demonstracija može daleko dogurati prije nego što iko upita funkcioniše li to u stvarnom svijetu.
Naš posao je riješiti problem klijenta uz nivo kvaliteta iza kojeg možemo stati u produkciji.
Sredinom 2025. godine oko 15 naših inženjera za direktnu implementaciju radilo je s velikim klijentom iz industrije poluprovodnika na više od 10 slučajeva upotrebe. Cilj je bio da AI postane temelj njihovog procesa verifikacije, što je obuhvatalo:
Generisanje ciljanih testova
Analizu osnovnih uzroka i otklanjanje grešaka
Asistenta za arhitekturu
U ovoj industriji verifikacija može činiti oko 70% ukupnog rada na projektu. Potencijal je bio ogroman, a mogućih polazišta bilo je mnogo.
Neki inženjeri za direktnu implementaciju pridružili su se kompaniji OpenAI tek nekoliko dana ranije i nikada nisu radili u industriji poluprovodnika. Uključili su se u svakodnevni rad klijentovog tima za verifikaciju, u slobodno vrijeme učili o dizajnu čipova i s inženjerima razvijali evaluacije kako bi provjerili može li AI generisati korisne testove i ispravno utvrditi uzroke otkaza čipova.
Uporedo s tim učenjem razvijali smo prilagođene harnesse za pojedinačne slučajeve upotrebe. U prvih 3–6 mjeseci sva ta rješenja ušla su u produkciju i dobila prve korisnike. Uloženi trud potvrdili su rezultati:
Oko 48% uštede vremena zahvaljujući generisanju ciljanih testova pomoću AI-ja.
Medijalno poboljšanje performansi od 22% zahvaljujući optimizaciji kernela.
Sedmice otklanjanja grešaka svedene na sate
Kada smo predstavili sve ove rezultate, glavni direktor za hardver upitao je: „Jeste li prije dolaska ovdje radili kao dizajneri čipova?“
Naši inženjeri za direktnu implementaciju ne moraju poznavati industriju od prvog dana, ali su odgovorni za to da je upoznaju.
Kako asistenti za programiranje ubrzavaju razvoj softvera, razumijevanje poslovanja klijenta postaje još važnije. Gradimo timove koji spajaju stručnjake širokog profila i stručnjake za određene oblasti.
Potrebno je dovoljno znanja za donošenje utemeljenih procjena i dovoljno radoznalosti za preispitivanje pretpostavki o postojećem stanju.
Naprimjer, u biološkim naukama naučno obrazovanje naših inženjera za direktnu implementaciju pomaže im da steknu povjerenje istraživača koji rade na pretkliničkom otkrivanju lijekova, uključujući validaciju i određivanje prioriteta terapijskih meta, analizu ekspresije gena i rekonstrukciju puteva hemijske sinteze. Ta stručnost omogućava im da daju utemeljene procjene o tome kako bi se ti radni tokovi mogli poboljšati.
Pokazali smo da ti radni tokovi mogu donijeti vrijednost, ali je za prenošenje svakog od njih u drugi tim i dalje bilo potrebno previše prilagođene integracije. Sljedeći izazov bio je očuvati te rezultate, a istovremeno olakšati uvođenje i održavanje softvera.
Do tada su se mogućnosti sistema Codex već proširile. Jedan inženjer za direktnu implementaciju isprobao je preoblikovanje aplikacije tako da joj Codex bude osnova, a zatim je s timom prenio slučajeve upotrebe na zajednički harness s tim sistemom u središtu.
Prilagođene aplikacije postale su dodaci i vještine izgrađeni na zajedničkim osnovnim komponentama sistema Codex. Codex je postao i interfejs, pa smo mogli ukinuti zasebne terminalske korisničke interfejse i interfejse komandne linije koje smo napisali za pojedinačne slučajeve upotrebe.
Uspjeli smo ukloniti približno 90% prilagođenog koda iz svakog projekta, što je promijenilo način na koji smo razvijali, održavali i širili ove radne tokove:
Mogli smo koristiti centralizovana poboljšanja sistema Codex i tako smanjiti količinu koda za povezivanje potrebnog za svaki pojedinačni slučaj upotrebe
Ključne funkcionalnosti objedinjene su u vještine i dodatke, što je olakšalo njihovo dijeljenje među timovima i centralno upravljanje putem centra izvrsnosti za AI. To je značilo da je za proširenje na sljedeći tim moglo biti dovoljno zamijeniti konektore ili MCP servere, izraditi nove evaluacije, za šta smo također imali vještinu, i pokrenuti rješenje.
U jednom primjeru iz augusta 2026. početna implementacija trajala je dva mjeseca. Proširenje rješenja na drugi tim trajalo je jedan dan. Kako smo širili primjenu, naredni timovi sve su brže počinjali raditi s rješenjem. Taj trend se nastavio: u jednom slučaju upotrebe iz augusta 2026. drugom timu bio je potreban jedan dan nakon početne implementacije koja je trajala dva mjeseca.
To je jedan način da vlastiti angažman učinimo suvišnim. Rad do ulaska u produkciju pokazao nam je šta je važno. Kako se osnovni proizvod poboljšavao, mogli smo zamijeniti veliki dio prilagođene implementacije i zadržati vrijednost koju je donosila.
Zato je redoslijed važan. LLM-ovi nam omogućavaju brz razvoj. Iskoristite tu brzinu da korisnicima ponudite nešto vrijedno, saznajte šta se pokazuje pouzdanim u praksi, a zatim proširite ono što funkcioniše.
Isti princip važi za sve projekte s klijentima.
OpenAI Presence, naš proizvod za glasovne i chat agente za preduzeća, nastao je iz stvarnih implementacija kod korisnika. Rad je započeo sa Swarmom(otvara se u novom prozoru) i razvijao se kroz API za agente, a danas jedan klijent obrađuje više od polovine svojih poziva pomoću umjetne inteligencije.
Uvođenje tih implementacija u produkciju nas je naučilo koji problemi zahtijevaju prilagođeno rješenje i koje gradivne blokove drugi timovi mogu koristiti. U Presence smo unijeli te gradivne blokove, olakšavajući programerima automatizaciju reguliranih tokova rada bez ponovne izgradnje osnovne infrastrukture. Svako uvođenje je pomoglo u oblikovanju proizvoda i dalo sljedećem kupcu bolju početnu tačku.
Sa Thrive Holdings , OpenAI FDE-ovi i istraživači su sarađivali sa inženjerima i računovođama na izgradnji poreske umjetne inteligencije za računovodstvene firme na Kreti. Tokom pilot projekta, Tax AI je obradio 7.000 poreskih prijava i povećao protok za oko 50%.
Jedan od najtežih izazova bila je automatizacija povrata nekretnina za iznajmljivanje, što je zahtijevalo šest sedmica inženjerskog i praktičnog pregleda kako bi se postigla preciznost i pouzdanost od 90%. Rad je stvorio obrasce za višekratnu upotrebu koji su olakšali proširenje porezne umjetne inteligencije na druge složene porezne rasporede.
Timovi sada primjenjuju isti pristup na knjigovodstvo, reviziju i IT podršku – gradeći sisteme koji se poboljšavaju kroz povratne informacije od praktičara i upotrebu u stvarnom svijetu.
Ponekad nam bolji proizvod omogućava da pojednostavimo ono što smo izgradili, ali ponekad sam model još nije sposoban obaviti zadatak.
Ako budemo gradili samo ono što današnji modeli već omogućavaju, nećemo otkriti nedostatke u sposobnostima koje istraživački tim treba sljedeće otkloniti. Zato mnogi naši važni projekti počinju upravo na tim granicama, uz predanost klijenta, inženjera za direktnu implementaciju i istraživačkog tima da ih zajedno prevaziđu.
S velikim klijentom iz telekomunikacijskog sektora već smo razvili platformu za korisničku podršku, a klijent ju je želio proširiti na glasovne pozive.
Glasovni pozivi činili su oko 90% ukupnog obima korisničke podrške. Rješavanje tih upita bez uključivanja operatera bilo je skuplje nego u chatu, a donijelo je i niz novih tehničkih izazova: prepoznavanje naglasaka, ton te vrijeme odziva i tačnost morali su dostići nivo potreban za produkciju. Uspješno rješenje značajno bi unaprijedilo poslovanje klijenta.
Tokom definisanja obima projekta, naš model ostvarivao je oko 60% na ključnim evaluacijama kojima smo procjenjivali može li obavljati taj posao u produkciji. Dosegli smo granice njegovih mogućnosti. Trebalo je poboljšati pozivanje funkcija i praćenje uputa u scenarijima korisničke podrške.
To smo objasnili klijentu i u rad uključili istraživački tim. Inženjeri za direktnu implementaciju radili su s klijentom na izgradnji platforme i definisanju onoga što model treba raditi. Istraživački tim radio je na otklanjanju nedostataka u sposobnostima modela, a uzastopne verzije modela omogućavale su nam da provjeravamo napredak u odnosu na zahtjeve klijenta.
Tokom šest mjeseci, rezultati na ključnim evaluacijama porasli su s oko 60% na 80%, a zatim na više od 90%, dostigavši nivo potreban za produkciju.
Tako razvijeni glasovni model sada podržava rješenje tog klijenta, druga prilagođena rješenja za korisničku podršku i upravljane implementacije putem proizvoda Presence. Problem u poslovanju jednog klijenta pomogao je da se prepoznaju poboljšanja koja mogu koristiti mnogim drugima.
Svaki dio bio je važan. Klijent se obavezao da će raditi na problemu koji model još nije mogao riješiti. Inženjeri za direktnu implementaciju ostali su dovoljno blisko uključeni da definišu problem, izgrade platformu i vode projekat od početka do kraja. Istraživački tim unaprijedio je osnovne sposobnosti modela.
To je drugi način da vlastiti angažman učinimo suvišnim: pomažemo da problem koji današnji modeli ne mogu riješiti postane zadatak za koji će budući modeli biti sposobni. Vrijednost našeg rada seže dalje od sati provedenih s pojedinačnim klijentom.
Pridružio sam se kompaniji OpenAI da pomognem ljudima da koriste AI u svakodnevnom radu. To i dalje vodi naš tim. Često govorim timu da u razvoju LLM-ova uglavnom važi princip Occamove britve: najjednostavnije rješenje je najbolje. U kompaniji koju određuju vrhunska istraživanja i industriji čiji ugled narušavaju pretjerane tvrdnje, želimo graditi rješenja koja pouzdano rade i na koja se ljudi u praksi mogu osloniti.
Cilj je da svaki projekat unaprijedi ono što slijedi: proizvod koji je lakše uvesti, model koji može obaviti teži zadatak ili manje prilagođenog rada za sljedećeg klijenta.
Ako imate težak problem koji želite riješiti, rado bismo sarađivali s vama. Ako želite pomoći u rješavanju takvih problema, voljeli bismo da nam se pridružite.
Šta onda radimo kada Codex može preuzeti posao za koji smo mjesecima gradili rješenja?
Potražimo teži problem.
