Što znači biti inženjer za implementaciju kod klijenata u tvrtki OpenAI
Što radimo, kako radimo i kako rješavamo najteže probleme tvrtki da bismo ostvarili konkretne rezultate.
Autor: Colin Jarvis, voditelj tima za inženjersku implementaciju kod klijenata u tvrtki OpenAI
Kad je Codex izašao, netko iz tima upitao me: „Što ćemo kad Codex bude mogao iz jednog pokušaja riješiti slučajeve primjene na kojima smo radili proteklih nekoliko mjeseci?“
To pitanje pogađa bit onoga što znači biti inženjer za implementaciju kod klijenata u tvrtki OpenAI. Radimo uz klijente kako bismo razumjeli njihove najteže probleme i razvili rješenja na koja se mogu osloniti. Ono što naučimo pomaže oblikovati naše proizvode i istraživačkom timu daje konkretne probleme koje treba riješiti.
To je napredak. Ako svakih nekoliko mjeseci postignemo da naš angažman više nije potreban, naš tim inženjera za implementaciju kod klijenata dobro obavlja svoj posao.
Osnovao sam tim početkom 2025. kako bismo premostili ono što zovemo „jazom u primjeni”: razliku između onoga za što se modeli čine sposobnima i onoga što ljudi mogu pouzdano koristiti u svojem radu.
Mogućnosti modela napredovale su brže od sustava i procesa potrebnih za njihovu primjenu. Ponekad nedostaje proizvod. Ponekad model postiže dobre rezultate na referentnom testu, ali ne može obaviti posao uz varijable i ograničenja iz stvarnog života.
Usredotočeni smo na najteže probleme klijenata. Ondje gdje naši modeli već danas mogu obaviti posao, surađujemo s timom za proizvode i klijentom kako bismo omogućili ponovnu primjenu rješenja. Ondje gdje njihove sposobnosti nisu dovoljne, s klijentima i istraživačkim timom utvrđujemo što nedostaje i radimo na poboljšanjima. Cilj nam je da svaki projekt sljedećem klijentu osigura bolje polazište. Ako podignemo osnovnu razinu do te mjere da klijentima sljedeći put ne trebaju inženjeri za implementaciju kod klijenata za rješavanje takvih problema, dobro smo obavili svoj posao.
Tvrtka John Deere, koja posluje u poljoprivredi već 200 godina, suočila se s izazovom kako personaliziranim savjetima obuhvatiti veći broj poljoprivrednika.
Jedan je primjer See & Spray, njihova tehnologija za precizno suzbijanje korova, koja kamerama i strojnim učenjem prepoznaje i prska korov umjesto da tretira cijela polja, čime se uporaba kemikalija smanjuje do 70 %.
No ostvarenje tih prednosti ovisi o tome znaju li poljoprivrednici konfigurirati tehnologiju, planirati sezonu i prilagoditi način rada promjenama uvjeta.
John Deere uveo je API-je tvrtke OpenAI kako bi ta podrška bila personalizirana i dostupna sve većem broju korisnika.
Umjetna inteligencija može odgovarati na pitanja poljoprivrednika prirodnim jezikom, pružati prilagođene upute za postavljanje i preporuke, prepoznati kada oprema možda ne ostvaruje svoj puni potencijal te pomoći poljoprivrednicima da razumiju kakvu im vrijednost tehnologija donosi.
Mogućnosti nadilaze pojedinačne interakcije: relevantne smjernice mogu se pružati tijekom cijelog korisničkog iskustva, pomažući poljoprivrednicima da bolje iskoriste opremu te povećaju učinkovitost i održivost.
Upravo takve izazove rješavaju inženjeri za implementaciju kod klijenata tvrtke OpenAI: pomažu organizacijama da mogućnosti umjetne inteligencije pretvore u sustave koji donose praktičnu vrijednost u složenim stvarnim okruženjima.
No problemi su često posve otvoreni, možda nema utvrđenih referentnih podataka ni provjerenog recepta. Svi žele stvoriti nešto što nikada nije postojalo. Manje je onih koji žele učiniti sve što je potrebno da bi to ostvarili.
Pronalaženje talentiranih inženjera za implementaciju kod klijenata, uz istodobno podizanje ljestvice za ono što smatramo „dovoljno dobrim”, zahtijevalo je stalno eksperimentiranje i primjenu u praksi.
Na početku svakog sastanka tima inženjera za implementaciju kod klijenata prikažem slajd s jednom temeljnom vrijednošću: „Krenite od željenog ishoda, učinite sve što je potrebno za uspjeh, a zatim proširite primjenu.”
Impresivna demonstracija može vas daleko odvesti prije nego što itko upita funkcionira li to i u stvarnim uvjetima.
Naš je posao riješiti klijentov problem uz razinu kvalitete iza koje možemo stajati u produkciji.
Sredinom 2025. oko 15 naših inženjera za implementaciju kod klijenata radilo je s velikim klijentom iz industrije poluvodiča na više od 10 slučajeva primjene. Cilj je bio da se njihov postupak verifikacije od temelja zasniva na umjetnoj inteligenciji, uz sljedeće mogućnosti:
Generiranje usmjerenih testova
Analiza temeljnih uzroka i otklanjanje pogrešaka
Asistent za arhitekturu
U ovoj industriji verifikacija može činiti oko 70 % ukupnog rada na projektu. Potencijal je bio golem, a postojalo je mnogo mogućih polazišta.
Neki inženjeri za implementaciju kod klijenata pridružili su se tvrtki OpenAI tek nekoliko dana ranije i nikada nisu radili u industriji poluvodiča. Pridružili su se klijentovu timu za verifikaciju, u slobodno vrijeme proučavali projektiranje čipova te s inženjerima izrađivali evaluacije kako bi provjerili može li umjetna inteligencija generirati korisne testove i ispravno dijagnosticirati kvarove čipova.
Usporedno s tim učenjem izrađivali smo prilagođene testne sklopove za pojedinačne slučajeve primjene. Tijekom prvih 3–6 mjeseci svi su uvedeni u produkciju i dobili prve korisnike. Da se trud isplatio, pokazali su rezultati:
Oko 48 % uštede vremena zahvaljujući generiranju usmjerenih testova s pomoću umjetne inteligencije.
Medijan poboljšanja performansi od 22 % zahvaljujući optimizaciji kernela.
Tjedni otklanjanja pogrešaka svedeni na sate
Kad smo predstavili sve te rezultate, glavni direktor za hardver upitao je: „Jeste li se bavili projektiranjem čipova prije nego što ste došli ovamo?“
Naši inženjeri za implementaciju kod klijenata ne moraju poznavati industriju od prvog dana, ali njihova je odgovornost upoznati je.
Kako asistenti za programiranje ubrzavaju razvoj softvera, razumijevanje klijentova poslovanja postaje još važnije. Sastavljamo timove koji spajaju stručnjake širokog profila i stručnjake za pojedina područja.
Potrebno vam je dovoljno znanja za utemeljene prosudbe i dovoljno znatiželje da preispitate pretpostavke o postojećem stanju.
Primjerice, u biološkim znanostima znanstveno obrazovanje naših inženjera za implementaciju kod klijenata pomaže im steći povjerenje istraživača koji rade na pretkliničkom otkrivanju lijekova, na zadacima poput validacije i prioritizacije ciljnih molekula, analize ekspresije gena i rekonstrukcije putova kemijske sinteze. Ta im stručnost omogućuje da utemeljeno procijene kako bi se ti radni procesi mogli poboljšati.
Pokazali smo da ti radni procesi mogu donijeti vrijednost, no svaki je i dalje zahtijevao previše prilagođene integracije da bi se mogao proširiti na drugi tim. Sljedeći je izazov bio zadržati te rezultate, a istodobno olakšati uvođenje i održavanje softvera.
Do tada su mogućnosti sustava Codex već napredovale. Jedan inženjer za implementaciju kod klijenata isprobao je pregradnju njihove aplikacije oko tog sustava, a zatim je s timom prenio slučajeve primjene na zajednički testni sklop sa sustavom Codex u središtu.
Prilagođene aplikacije postale su dodaci i vještine izgrađeni na zajedničkim osnovnim komponentama sustava Codex. Codex je postao i sučelje, što nam je omogućilo da ukinemo zasebna terminalska korisnička sučelja i sučelja naredbenog retka koja smo izradili za pojedinačne slučajeve primjene.
Iz svakog smo projekta uspjeli ukloniti oko 90 % prilagođenog koda, što je promijenilo način na koji smo razvijali, održavali i širili te radne procese:
Mogli smo iskoristiti centralizirana poboljšanja sustava Codex i tako smanjiti količinu integracijskog koda potrebnog za svaki pojedinačni slučaj primjene
Ključne funkcionalnosti objedinjene su u vještine i dodatke, što je olakšalo njihovo dijeljenje među timovima i centralizirano upravljanje putem centra izvrsnosti za umjetnu inteligenciju. To je značilo da je za proširenje s jednog tima na drugi moglo biti dovoljno zamijeniti konektore odnosno MCP poslužitelje, izraditi nove evaluacije (za što smo također imali vještinu) i započeti s radom.
U jednom primjeru iz kolovoza 2026. početna implementacija trajala je dva mjeseca. Proširenje rješenja na drugi tim trajalo je jedan dan. Kako smo širili primjenu, sljedeći su se timovi uključivali sve brže. Taj se trend nastavio: za jedan slučaj primjene u kolovozu 2026. uključivanje drugog tima trajalo je jedan dan, nakon što je početna implementacija trajala dva mjeseca.
To je jedan od načina da naš angažman više ne bude potreban. Rad kojim smo došli do produkcije pokazao je što je važno. Kako se temeljni proizvod poboljšavao, mogli smo zamijeniti velik dio svoje prilagođene implementacije, a zadržati vrijednost koju je donosila.
Zato je redoslijed važan. LLM-ovi nam omogućuju brz razvoj. Iskoristite tu brzinu da korisnicima pružite nešto vrijedno, naučite što se pokazuje dobrim u praksi, a zatim proširite ono što funkcionira.
Isto načelo vrijedi za sve projekte s klijentima.
OpenAI Presence, naš proizvod za glasovne i chat agente za tvrtke, nastao je iz stvarnih implementacija kod korisnika. Rad je započeo sa Swarmom(otvara se u novom prozoru) i razvijao se kroz API agenata, a danas jedan klijent obrađuje više od polovice svojih poziva pomoću umjetne inteligencije.
Puštanje tih implementacija u produkciju naučilo nas je koji problemi zahtijevaju prilagođeno rješenje i koje gradivne blokove drugi timovi mogu koristiti. Te smo gradivne blokove unijeli u Presence, olakšavajući programerima automatizaciju reguliranih tijekova rada bez ponovne izgradnje temeljne infrastrukture. Svako uvođenje pomoglo je oblikovati proizvod i dalo sljedećem kupcu bolju početnu točku.
S Thrive Holdings , OpenAI FDE-ovi i istraživači surađivali su s inženjerima i računovođama kako bi izgradili poreznu umjetnu inteligenciju za računovodstvene tvrtke na Kreti. Tijekom pilot-projekta, Tax AI je obradio 7000 poreznih prijava i povećao propusnost za oko 50%.
Jedan od najtežih izazova bila je automatizacija povrata nekretnina za najam, što je zahtijevalo šest tjedana inženjerskog i praktičnog pregleda kako bi se postigla 90%-tna preciznost i prisjetljivost. Rad je stvorio obrasce za višekratnu upotrebu koji su olakšali proširenje porezne umjetne inteligencije na druge složene porezne rasporede.
Timovi sada primjenjuju isti pristup na knjigovodstvo, reviziju i IT podršku – gradeći sustave koji se poboljšavaju kroz povratne informacije praktičara i upotrebu u stvarnom svijetu.
Ponekad nam bolji proizvod omogućuje da pojednostavimo ono što smo izradili, no ponekad sam model još nije dorastao zadatku.
Ako razvijamo samo ono što današnji modeli već omogućuju, nećemo otkriti nedostatke u njihovim sposobnostima koje istraživački tim treba sljedeće otkloniti. Zato mnogi naši važni projekti počinju upravo na tim granicama, uz predanost klijenta, inženjera za implementaciju kod klijenata i istraživačkog tima da ih zajedno prevladaju.
Već smo razvili platformu za korisničku podršku s velikim klijentom iz telekomunikacijskog sektora, koji ju je želio proširiti i na glasovne pozive.
Glasovni pozivi činili su oko 90 % svih kontakata s njihovom korisničkom podrškom. Automatsko rješavanje tih upita bilo je skuplje nego putem chata te je donijelo niz novih tehničkih izazova: prepoznavanje naglasaka, ton govora, latenciju i točnost trebalo je dovesti na razinu potrebnu za produkciju. Uspješno rješenje znatno bi unaprijedilo njihovo poslovanje.
Pri definiranju opsega projekta naš je model postizao oko 60 % na ključnim evaluacijama kojima smo procjenjivali može li obavljati taj posao u produkciji. Dosegnuli smo granice njegovih mogućnosti. Trebalo je poboljšati pozivanje funkcija i praćenje uputa u scenarijima korisničke podrške.
To smo objasnili klijentu i u rad uključili istraživački tim. Inženjeri za implementaciju kod klijenata surađivali su s klijentom na izgradnji platforme i definiranju onoga što model treba raditi. Istraživački tim radio je na uklanjanju nedostataka u sposobnostima modela, a njegove uzastopne verzije omogućile su nam provjeru napretka prema zahtjevima klijenta.
Tijekom šest mjeseci rezultati na ključnim evaluacijama porasli su s oko 60 % na 80 %, a zatim na više od 90 %, dosegnuvši razinu potrebnu za produkciju.
Glasovni model koji je nastao tim radom sada podržava rješenje uvedeno kod tog klijenta, druga prilagođena rješenja za korisničku podršku i upravljana rješenja putem proizvoda Presence. Problem iz poslovanja jednog klijenta pomogao je prepoznati poboljšanja koja mogu koristiti mnogim drugima.
Svaki je dio bio važan. Klijent se obvezao raditi na problemu koji model još nije mogao riješiti. Inženjeri za implementaciju kod klijenata ostali su dovoljno uključeni da jasno definiraju problem, izgrade platformu i vode projekt od početka do kraja. Istraživački tim unaprijedio je temeljne sposobnosti modela.
To je drugi način da naš angažman više ne bude potreban: pomoći da problem koji današnji modeli ne mogu riješiti postane zadatak kojem će budući modeli biti dorasli. Vrijednost našeg rada nadilazi sate koje provodimo s pojedinačnim klijentom.
Pridružio sam se tvrtki OpenAI kako bih pomogao da umjetna inteligencija bude korisna ljudima u svakodnevnom radu. To i dalje vodi naš tim. Često kažem timu da u većini slučajeva u razvoju LLM-ova vrijedi Occamova britva: najjednostavnije rješenje je najbolje. U tvrtki koju određuju pionirska istraživanja i industriji čiji ugled narušavaju pretjerane tvrdnje želimo razvijati rješenja koja pouzdano rade i na koja se ljudi u praksi mogu osloniti.
Cilj je da svaki projekt unaprijedi ono što slijedi: proizvod koji je lakše uvesti, model koji može obaviti teži zadatak ili manje prilagođenog rada za sljedećeg klijenta.
Ako imate težak problem koji želite riješiti, rado bismo surađivali s vama. Ako želite pomoći u rješavanju takvih problema, voljeli bismo da nam se pridružite.
Što ćemo, dakle, učiniti kad Codex bude mogao obavljati posao za koji smo mjesecima razvijali rješenja?
Potražiti teži problem.
