Ce înseamnă rolul de inginer detașat la OpenAI
Ce facem, cum lucrăm și cum rezolvăm cele mai dificile probleme ale companiilor pentru a avea un impact real.
Autor: Colin Jarvis, coordonatorul echipei de ingineri detașați la OpenAI
Când a fost lansat Codex, cineva din echipă m-a întrebat: „Ce facem când Codex poate rezolva dintr-o singură încercare cazurile de utilizare pentru care noi am construit soluții în ultimele luni?”
Această întrebare surprinde esența rolului de inginer detașat la OpenAI. Lucrăm alături de clienți pentru a le înțelege cele mai dificile probleme și a construi soluții pe care se pot baza. Ceea ce învățăm contribuie la conturarea produselor noastre și îi oferă echipei de cercetare probleme concrete de rezolvat.
Asta înseamnă progres. Dacă, o dată la câteva luni, facem ca intervenția noastră să nu mai fie necesară, echipa noastră de ingineri detașați își face treaba.
Am înființat echipa la începutul anului 2025 pentru a elimina ceea ce numim „decalajul de implementare”: distanța dintre ceea ce modelele par capabile să facă și ceea ce oamenii pot folosi în mod fiabil în munca lor.
Capacitățile modelelor au avansat mai repede decât sistemele și procesele necesare pentru a le pune în practică. Uneori, piesa lipsă este un produs. Alteori, un model obține rezultate bune la un test de referință, dar nu poate îndeplini sarcina în condițiile și cu restricțiile din lumea reală.
Ne concentrăm pe cele mai dificile probleme ale clienților. Acolo unde modelele noastre pot îndeplini sarcina astăzi, colaborăm cu echipa de produs și cu clientul pentru a face soluția repetabilă. Acolo unde nu reușesc, lucrăm cu clienții și cu echipa de cercetare pentru a defini limitele și a aduce îmbunătățiri. Scopul nostru este ca fiecare colaborare să îi ofere următorului client un punct de plecare mai bun. Dacă ridicăm nivelul de bază până când clienții nu mai au nevoie de ingineri detașați pentru a rezolva acest tip de problemă data viitoare, ne-am făcut bine treaba.
Provocarea pentru John Deere, o companie din agricultură cu o istorie de 200 de ani, era să ofere consultanță personalizată fermierilor la scară largă.
Un exemplu este See & Spray, tehnologia sa de combatere de precizie a buruienilor, care folosește camere și învățare automată pentru a identifica și pulveriza buruienile, în loc să trateze câmpuri întregi, reducând astfel utilizarea substanțelor chimice cu până la 70%.
Dar obținerea acestor beneficii depinde de capacitatea fermierilor de a configura tehnologia, de a-și planifica sezonul și de a-și adapta practicile pe măsură ce condițiile se schimbă.
John Deere a implementat API-urile OpenAI pentru a putea oferi acest sprijin personalizat la scară largă.
AI poate răspunde la întrebările fermierilor în limbaj natural, poate oferi îndrumări și recomandări de configurare adaptate nevoilor lor, poate identifica situațiile în care echipamentele nu funcționează la întregul potențial și îi poate ajuta pe fermieri să înțeleagă beneficiile pe care le obțin din tehnologie.
Potențialul depășește orice interacțiune individuală: oferirea de îndrumări relevante pe tot parcursul relației cu clientul, pentru a ajuta fermierii să își folosească mai bine echipamentele și, în același timp, să îmbunătățească eficiența și sustenabilitatea.
Acesta este tipul de provocare la care lucrează inginerii detașați ai OpenAI: să ajute organizațiile să treacă de la capacitățile AI la sisteme care aduc valoare practică în medii reale și complexe.
Dar problemele sunt adesea complet deschise, poate să nu existe un reper de referință validat și nu există o rețetă de urmat. Toată lumea vrea să construiască ceva ce nu a mai existat. Mai puțini sunt dispuși să facă tot ce este necesar pentru a ajunge acolo.
Găsirea unor ingineri detașați talentați, în paralel cu ridicarea standardului pentru ceea ce înseamnă „suficient de bun”, a presupus experimentare și aplicare constantă în practică.
La începutul fiecărei ședințe a echipei de ingineri detașați, afișez un slide cu o valoare esențială: „Pornește de la rezultat, fă tot ce este necesar pentru a reuși, apoi extinde la scară largă”.
O demonstrație impresionantă poate câștiga mult teren înainte ca cineva să întrebe dacă funcționează și în lumea reală.
Treaba noastră este să rezolvăm problema clientului la un standard pentru care ne putem asuma răspunderea în producție.
La mijlocul anului 2025, aveam aproximativ 15 ingineri detașați care lucrau cu un client important din industria semiconductorilor la peste 10 cazuri de utilizare. Obiectivul era ca procesul de verificare să fie construit în jurul AI, acoperind:
Generarea de teste țintite
Analiza cauzelor de bază și depanarea
Un asistent pentru arhitectură
În această industrie, verificarea poate reprezenta aproximativ 70% din efortul necesar unui proiect. Potențialul era enorm și existau multe puncte de plecare posibile.
Unii ingineri detașați se alăturaseră OpenAI cu doar câteva zile înainte și nu lucraseră niciodată în industria semiconductorilor. S-au integrat în echipa de verificare a clientului, au studiat proiectarea cipurilor în timpul liber și au creat evaluări împreună cu inginerii pentru a verifica dacă AI putea genera teste utile și diagnostica corect defecțiunile cipurilor.
În paralel cu acest proces de învățare, am construit cadre de testare personalizate pentru fiecare caz de utilizare. În primele 3–6 luni, toate au ajuns în producție și au început să fie adoptate de utilizatori. Rezultatele măsurate ne-au răsplătit efortul:
Aproximativ 48% din timp economisit prin generarea de teste țintite cu ajutorul AI.
O îmbunătățire mediană a performanței de 22% prin optimizarea kernelurilor.
Săptămâni de depanare reduse la câteva ore
Când am prezentat toate aceste rezultate, directorul de hardware a întrebat: „Ați lucrat ca proiectanți de cipuri înainte să veniți aici?”
Inginerii noștri detașați nu trebuie să cunoască industria din prima zi, dar au responsabilitatea de a o învăța.
Pe măsură ce asistenții de programare accelerează dezvoltarea software, înțelegerea activității clientului devine și mai importantă. Formăm echipe care îmbină generaliști și experți în domeniu.
Ai nevoie de suficiente cunoștințe pentru a lua decizii bine fundamentate și de suficientă curiozitate pentru a pune la îndoială presupunerile despre felul în care se lucrează în prezent.
În științele vieții, de exemplu, pregătirea științifică a inginerilor noștri detașați îi ajută să câștige încrederea cercetătorilor care lucrează la descoperirea preclinică a medicamentelor, în activități precum validarea și prioritizarea țintelor, analiza expresiei genice și reconstrucția căilor de sinteză chimică. Această expertiză le permite să contribuie cu opinii fundamentate despre cum ar putea fi îmbunătățite aceste fluxuri de lucru.
Demonstraserăm că aceste fluxuri de lucru puteau aduce valoare, dar fiecare necesita încă prea multă muncă de integrare personalizată pentru a putea fi extins la o altă echipă. Următoarea provocare era să păstrăm aceste rezultate, făcând totodată software-ul mai ușor de implementat și întreținut.
Între timp, capacitățile Codex se îmbunătățiseră. Un inginer detașat a testat reconstruirea aplicației în jurul Codex, apoi a lucrat cu echipa pentru a muta cazurile de utilizare într-un cadru de testare comun, cu Codex în centru.
Aplicațiile personalizate au devenit pluginuri și competențe construite pe primitive Codex comune. Codex a devenit și interfața, permițându-ne să renunțăm la interfețele de terminal și de linie de comandă separate, pe care le scriseserăm pentru fiecare caz de utilizare.
Am putut elimina aproximativ 90% din codul personalizat din fiecare proiect, ceea ce a schimbat felul în care construiam, întrețineam și extindeam aceste fluxuri de lucru:
Puteam beneficia de îmbunătățirile centralizate aduse Codex, reducând cantitatea de cod de legătură necesară fiecărui caz de utilizare
Funcționalitățile-cheie au fost grupate în competențe și pluginuri, devenind mai ușor de partajat între echipe și de gestionat centralizat de centrul de excelență în AI. Astfel, extinderea de la o echipă la alta putea fi la fel de simplă ca înlocuirea conectorilor sau a serverelor MCP, crearea unor evaluări noi (pentru care aveam deja o abilitate) și punerea în funcțiune.
Într-un exemplu din august 2026, implementarea inițială a durat două luni. Extinderea soluției la o a doua echipă a durat o zi. Pe măsură ce ne extindeam, următoarele echipe adoptau soluția mai repede. Tendința a continuat: pentru un caz de utilizare din august 2026, implementarea la a doua echipă a durat o zi, după ce implementarea inițială durase două luni.
Acesta este un mod de a face ca intervenția noastră să nu mai fie necesară. Munca depusă pentru a ajunge în producție ne-a arătat ce conta. Pe măsură ce produsul de bază se îmbunătățea, puteam înlocui o mare parte din implementarea personalizată, păstrând valoarea pe care o oferea.
De aceea contează ordinea. LLM-urile ne permit să construim rapid. Folosește această viteză pentru a pune ceva valoros în mâinile utilizatorilor, învață ce rezistă în practică, apoi extinde la scară largă ceea ce funcționează.
Același principiu se aplică în toate colaborările.
OpenAI Presence, produsul nostru pentru agenți de voce și chat în mediul enterprise, a apărut ca urmare a implementărilor realizate de clienți reali. Activitatea a început cu Swarm(se deschide într-o fereastră nouă) și a evoluat prin intermediul API-ului Agents, iar în prezent, unul dintre clienți gestionează cu ajutorul AI peste jumătate dintre apelurile pe care le primește.
Introducerea acelor implementări în producție ne-a învățat ce probleme necesitau o soluție personalizată și ce elemente constitutive puteau folosi alte echipe. Am integrat aceste elemente constitutive în Presence, facilitând automatizarea fluxurilor de lucru reglementate de către dezvoltatori fără a fi nevoie să reconstruim infrastructura subiacentă. Fiecare implementare a contribuit la conturarea produsului și i-a oferit următorului client un punct de plecare mai bun.
Cu Thrive Holdings, inginerii detașați OpenAI și cercetătorii au lucrat alături de ingineri și contabili pentru a construi inteligență artificială fiscală pentru firmele de contabilitate din Creta. În timpul programului pilot, Tax AI a procesat 7.000 de declarații fiscale și a crescut randamentul cu aproximativ 50%.
Una dintre cele mai dificile provocări a fost automatizarea returnărilor proprietăților închiriate, care a necesitat șase săptămâni de inginerie și revizuire din partea practicienilor pentru a atinge o precizie și o rechemare de 90%. Lucrarea a creat modele reutilizabile care au facilitat extinderea inteligenței artificiale fiscale la alte programe fiscale complexe.
Echipele aplică acum aceeași abordare în ceea ce privește contabilitatea, auditul și asistența IT - construind sisteme care se îmbunătățesc prin feedback-ul practicienilor și utilizarea în lumea reală.
Uneori, un produs mai bun ne permite să simplificăm ceea ce am construit, dar alteori modelul în sine nu poate încă îndeplini sarcina.
Dacă construim doar ceea ce modelele actuale permit deja, nu vom descoperi limitele de inteligență pe care echipa de cercetare trebuie să le depășească în continuare. De aceea, multe dintre colaborările noastre importante pornesc de la aceste limite, iar clientul, inginerii detașați și echipa de cercetare se angajează să le depășească împreună.
Dezvoltaserăm deja o platformă de asistență pentru clienți împreună cu un client important din telecomunicații, care dorea să o extindă la interacțiunile vocale.
Interacțiunile vocale reprezentau aproximativ 90% din volumul solicitărilor de asistență. Rezolvarea automată a acestor solicitări era mai costisitoare decât în chat și aducea noi provocări tehnice: gestionarea accentelor și a tonului, precum și atingerea nivelurilor de latență și acuratețe necesare în producție. O soluție reușită ar fi avut un impact semnificativ asupra afacerii clientului.
În etapa de definire a proiectului, modelul nostru obținea aproximativ 60% la evaluările-cheie prin care verificam dacă putea îndeplini sarcina în producție. Ajunseserăm la limitele capacităților sale. Apelarea funcțiilor și respectarea instrucțiunilor în scenariile de asistență pentru clienți trebuiau îmbunătățite.
I-am explicat acest lucru clientului și am implicat echipa de cercetare. Inginerii detașați au colaborat cu clientul pentru a construi platforma și a defini ce trebuia să facă modelul. Echipa de cercetare a lucrat la remedierea limitărilor, iar versiunile succesive ale modelului ne-au permis să verificăm progresul în raport cu cerințele clientului.
În șase luni, performanța la evaluările-cheie a crescut de la aproximativ 60% la 80%, apoi la peste 90%, atingând nivelurile necesare pentru producție.
Modelul vocal rezultat stă acum la baza soluției implementate de acel client, a altor soluții personalizate de asistență pentru clienți și a implementărilor gestionate prin Presence. O problemă întâlnită în activitatea unui client a ajutat la identificarea unor îmbunătățiri de care puteau beneficia mulți alții.
Fiecare contribuție a contat. Clientul s-a angajat să lucreze la o problemă pe care modelul nu o putea încă rezolva. Inginerii detașați au păstrat o legătură suficient de strânsă cu clientul pentru a defini problema, a construi platforma și a coordona colaborarea de la început până la sfârșit. Echipa de cercetare a îmbunătățit capacitățile de bază ale modelului.
Acesta este celălalt mod de a face ca intervenția noastră să nu mai fie necesară: să contribuim la transformarea unei probleme pe care modelele actuale nu o pot rezolva într-o capacitate pe care modelele viitoare o pot oferi. Beneficiile muncii noastre depășesc orele petrecute cu un singur client.
M-am alăturat OpenAI pentru a contribui la transformarea AI într-un instrument util în munca de zi cu zi a oamenilor. Acest obiectiv continuă să ghideze echipa. Le spun adesea colegilor că, în majoritatea situațiilor din dezvoltarea LLM-urilor, se aplică principiul briciului lui Occam: soluția cea mai simplă este și cea mai bună. Într-o companie definită de cercetarea de vârf și într-o industrie afectată de exagerări, vrem să construim soluții fiabile, pe care oamenii din teren se pot baza.
Scopul este ca fiecare colaborare să îmbunătățească ceea ce urmează: un produs mai ușor de implementat, un model capabil să îndeplinească o sarcină mai dificilă sau mai puțină muncă de personalizare pentru următorul client.
Dacă ai o problemă dificilă pe care vrei să o rezolvi, ne-ar plăcea să colaborăm. Dacă vrei să contribui la rezolvarea acestor probleme, ne-ar plăcea să ni te alături.
Așadar, ce facem când Codex poate prelua munca pentru care noi am construit soluții timp de luni întregi?
Căutăm o problemă mai dificilă.
