Ang kahulugan ng pagiging Forward Deployed Engineer sa OpenAI
Ang aming gawain, paraan ng pagtatrabaho, at paglutas sa pinakamahihirap na problema ng negosyo para sa tunay na epekto.
Ni: Colin Jarvis, Pinuno ng Forward Deployed Engineering sa OpenAI
Nang lumabas ang Codex, may nagtanong sa akin sa team, “Ano ang gagawin natin kapag kaya na ng Codex na gawin sa isang subok lang ang mga gamit na ilang buwan nating binuo?”
Tinutumbok ng tanong na iyon ang diwa ng pagiging Forward Deployed Engineer sa OpenAI. Nakikipagtulungan kami sa mga kliyente upang maunawaan ang kanilang pinakamahihirap na problema at bumuo ng mga solusyong maaasahan nila. Ang mga natututuhan namin ay tumutulong sa paghubog ng aming mga produkto at nagbibigay sa team sa pananaliksik ng mga konkretong problemang lulutasin.
Iyan ang pag-unlad. Kung tuwing ilang buwan ay nagagawa naming hindi na kami kailangan, nagagampanan ng aming team ng mga Forward Deployed Engineer ang trabaho nito.
Itinatag ko ang team noong unang bahagi ng 2025 upang punan ang tinatawag naming “agwat sa deployment”: ang pagitan ng tila kayang gawin ng mga modelo at ng maaasahang magagamit ng mga tao sa kanilang trabaho.
Mas mabilis na umunlad ang mga kakayahan ng modelo kaysa sa mga sistema at prosesong kailangan upang magamit ang mga ito. Minsan, isang produkto ang kulang. Minsan, mahusay ang modelo sa isang benchmark pero hindi nito magawa ang trabaho sa harap ng pabago-bagong mga salik at limitasyon sa totoong buhay.
Nakatuon kami sa pinakamahihirap na problema ng mga kliyente. Kapag kaya na ng aming mga modelo ang gawain ngayon, nakikipagtulungan kami sa team ng produkto at sa kliyente upang gawing magagamit muli ang solusyon. Kapag kulang pa ang kakayahan ng mga ito, nakikipagtulungan kami sa mga kliyente at sa team sa pananaliksik upang tukuyin ang kakulangan at gumawa ng mga pagpapahusay. Layunin naming magbigay ang bawat pakikipagtulungan ng mas magandang panimulang pundasyon para sa susunod na kliyente. Kung maitataas namin ang batayang kakayahan hanggang sa hindi na kailangan ng mga kliyente ang mga Forward Deployed Engineer upang lutasin ang ganitong uri ng problema sa susunod, mahusay naming nagawa ang aming trabaho.
Para sa John Deere, isang 200 taong gulang na negosyo sa agrikultura, ang hamon ay kung paano makapagbibigay ng payong angkop sa bawat magsasaka sa mas malawak na saklaw.
Isang halimbawa ang See & Spray, ang teknolohiya nito para sa eksaktong pagkontrol sa damo. Gumagamit ito ng mga camera at machine learning upang tukuyin at ispreyan ang mga damo sa halip na ang buong bukid, na nagbabawas sa paggamit ng kemikal nang hanggang 70%.
Pero para makamit ang mga benepisyong iyon, kailangang alam ng mga magsasaka kung paano i-configure ang teknolohiya, magplano para sa panahon ng pagtatanim, at iakma ang kanilang mga pamamaraan sa nagbabagong kondisyon.
Ginamit ng John Deere ang mga API ng OpenAI upang makatulong na maibigay ang suportang iyon nang angkop sa bawat magsasaka at sa mas malawak na saklaw.
Kayang sagutin ng AI ang mga tanong ng mga magsasaka sa karaniwang wika, magbigay ng angkop na gabay at rekomendasyon sa pag-setup, tukuyin kung kailan maaaring hindi nagagamit nang lubos ang kakayahan ng kagamitan, at tulungan silang maunawaan ang pakinabang na nakukuha nila sa teknolohiya.
Hindi ito limitado sa iisang pakikipag-ugnayan: maaari itong magbigay ng angkop na gabay sa bawat yugto ng karanasan ng customer, na tumutulong sa mga magsasaka na mas mapakinabangan ang kanilang kagamitan habang pinapahusay ang kahusayan at pangmatagalang pangangalaga sa kapaligiran.
Ito ang uri ng hamong nilulutas ng mga Forward Deployed Engineer ng OpenAI: pagtulong sa mga organisasyon na gawing mga sistemang may praktikal na pakinabang ang mga kakayahan ng AI sa masalimuot na mga kalagayan sa tunay na mundo.
Pero kadalasan, hindi pa malinaw ang direksiyon ng paglutas sa mga problema, maaaring wala pang tiyak na batayan ng tamang sagot, at walang nakahandang gabay. Gusto ng lahat na bumuo ng isang bagay na hindi pa umiiral. Mas kaunti ang handang gawin ang kailangan para maisakatuparan ito.
Ang paghahanap ng mahuhusay na Forward Deployed Engineer habang itinataas ang pamantayan ng “sapat na” ay nangangailangan ng tuloy-tuloy na pag-eeksperimento at pagsasagawa.
Sa simula ng bawat sesyon ng team ng mga Forward Deployed Engineer, nagpapakita ako ng slide na may isang pangunahing prinsipyo: “Magsimula sa nais na resulta, gawin ang kailangan upang magtagumpay, saka palawakin ang saklaw.”
Malayo ang mararating ng isang kahanga-hangang demo bago may magtanong kung gumagana ba ito sa tunay na mundo.
Trabaho naming lutasin ang problema ng kliyente sa pamantayang kaya naming panindigan sa aktuwal na operasyon.
Noong kalagitnaan ng 2025, mayroon kaming humigit-kumulang 15 Forward Deployed Engineer na nakikipagtulungan sa isang malaking kliyente sa industriya ng semiconductor sa mahigit 10 gamit ng AI. Layunin naming gawing likas na bahagi ng kanilang proseso ng beripikasyon ang AI, kabilang ang:
Pagbuo ng mga test para sa mga tiyak na sitwasyon
Pagsusuri ng ugat ng problema at pag-debug
Isang assistant para sa arkitektura
Sa industriyang ito, maaaring mapunta sa beripikasyon ang humigit-kumulang 70% ng kabuuang trabaho sa isang proyekto. Napakalaki ng oportunidad, at maraming posibleng pagsimulan.
Ilang araw pa lang sa OpenAI ang ilan sa mga Forward Deployed Engineer at hindi pa sila kailanman nakapagtrabaho sa larangan ng semiconductor. Direkta silang sumama sa verification team ng kliyente, nag-aral ng pagdisenyo ng chip sa kanilang libreng oras, at bumuo ng mga pagsusuri kasama ang mga engineer upang malaman kung makakagawa ang AI ng mga kapaki-pakinabang na test at matutukoy nang tama ang mga sanhi ng pagkabigo ng chip.
Kasabay ng pag-aaral na iyon, bumuo kami ng mga pasadyang harness para sa bawat gamit ng AI. Sa unang 3–6 na buwan, lahat ng ito ay umabot sa aktuwal na operasyon at nagsimulang gamitin ng mga unang user. Nakita namin ang bunga ng aming pagsisikap sa mga sukatan:
Humigit-kumulang 48% na oras ang natipid sa paggamit ng AI upang bumuo ng mga test para sa mga tiyak na sitwasyon.
22% ang median na pagbuti ng pagganap sa pamamagitan ng pag-optimize ng kernel.
Ang ilang linggong pag-debug ay naging ilang oras na lang
Nang ibinahagi namin ang lahat ng ito, nagtanong ang Chief Hardware Officer, “Nagtrabaho ba kayo bilang mga chip designer bago kayo pumunta rito?”
Hindi kailangang alam na ng aming mga Forward Deployed Engineer ang industriya sa unang araw, pero responsibilidad nilang pag-aralan ito.
Habang pinapabilis ng mga coding assistant ang pagbuo ng software, lalong nagiging mahalaga ang pag-unawa sa negosyo ng kliyente. Bumubuo kami ng mga team na may halong mga propesyonal na malawak ang kaalaman at mga eksperto sa partikular na larangan.
Kailangan mo ng sapat na kaalaman upang makapagpasya nang tama, at sapat na pag-uusisa upang kuwestiyunin ang mga palagay tungkol sa nakagawian.
Sa agham ng buhay, halimbawa, nakatutulong ang kaalaman sa agham ng aming mga Forward Deployed Engineer upang makuha ang tiwala ng mga mananaliksik na nagtatrabaho sa pagtuklas ng gamot bago ang mga klinikal na pagsubok. Kabilang dito ang pagpapatunay at pagbibigay-priyoridad sa mga target, pagsusuri sa gene expression, at muling pagbubuo ng mga ruta ng sintesis ng kemikal. Dahil sa kadalubhasaang iyon, nakapagbibigay sila ng mga mungkahing may matibay na batayan tungkol sa kung paano mapapabuti ang mga workflow na iyon.
Naipakita naming may pakinabang ang mga workflow na ito, pero bawat isa ay nangangailangan pa rin ng napakaraming pasadyang integrasyon para magamit ng ibang team. Ang susunod na hamon ay panatilihin ang mga resultang iyon habang ginagawang mas madaling i-deploy at panatilihin ang software.
Noon ay lumawak na ang mga kakayahan ng Codex. Sinubukan ng isang Forward Deployed Engineer na buuing muli ang kanilang application gamit ito bilang pundasyon. Pagkatapos, nakipagtulungan siya sa team upang ilipat ang mga gamit nito sa isang magkakaparehong harness na may Codex sa sentro.
Ang mga pasadyang application ay naging mga plugin at skill na binuo gamit ang magkakaparehong pangunahing bahagi ng Codex. Naging interface rin ang Codex, kaya naalis na namin ang magkakahiwalay na terminal UI at CLI na isinulat namin para sa bawat gamit.
Naalis namin ang humigit-kumulang 90% ng pasadyang code sa bawat proyekto, at binago nito kung paano namin binuo, pinanatili, at pinalawak ang mga workflow na ito:
Napakinabangan namin ang mga sentralisadong pagpapahusay sa Codex, na nagbawas sa code na kailangan upang pagdugtungin ang mga bahagi para sa bawat gamit
Pinagsama-sama ang mahahalagang function bilang mga skill at plugin, kaya mas madaling ibahagi ang mga ito sa isa’t isa at kontrolin nang sentralisado ng AI CoE. Dahil dito, ang pagpapalawak mula sa isang team patungo sa susunod ay maaaring maging kasingsimple ng pagpapalit ng mga connector/MCP server, pagbuo ng mga bagong pagsusuri (na mayroon din kaming skill para rito), at pagsisimula ng paggamit.
Sa isang halimbawa noong Agosto 2026, umabot ng dalawang buwan ang unang deployment. Isang araw lang ang inabot ng pagpapalawak ng solusyon sa pangalawang team. Mas mabilis na nakapagsimula ang mga sumunod na team habang lumalawak kami. Nagpatuloy ito: sa isang gamit noong Agosto 2026, 1 araw lang ang kinailangan para sa pangalawang team matapos abutin ng 2 buwan ang unang deployment.
Iyan ang isang paraan upang dumating sa puntong hindi na kami kailangan. Sa gawaing ginawa namin upang umabot sa aktuwal na operasyon, natukoy namin kung ano ang mahalaga. Habang humuhusay ang pinagbabatayang produkto, napalitan namin ang malaking bahagi ng aming pasadyang implementasyon habang pinananatili ang pakinabang nito.
Ito ang dahilan kung bakit mahalaga ang pagkakasunod-sunod. Napapabilis ng mga LLM ang pagbuo namin. Gamitin ang bilis na iyon upang maihatid sa mga user ang isang bagay na kapaki-pakinabang, alamin kung ano ang maaasahan sa aktuwal na paggamit, at saka palawakin ang gumagana.
Ang parehong prinsipyo ay naaangkop sa lahat ng pakikipagtulungan.
Ang OpenAI Presence, ang aming produkto para sa mga voice at chat agent ng negosyo, ay nabuo mula sa mga aktuwal na deployment ng mga kliyente. Nagsimula ang gawain sa Swarm(magbubukas sa bagong window) at umunlad sa pamamagitan ng Agents API. Ngayon, gumagamit na ng AI ang isang kliyente upang hawakan ang mahigit kalahati ng mga tawag nito.
Sa pagdadala ng mga deployment na iyon sa aktuwal na operasyon, natutuhan namin kung aling mga problema ang nangangailangan ng pasadyang solusyon at kung aling mga bahagi ang magagamit ng ibang team. Isinama namin sa Presence ang mga bahaging iyon, kaya mas madali nang mag-automate ang mga developer ng mga workflow na saklaw ng regulasyon nang hindi muling binubuo ang pinagbabatayang imprastraktura. Nakatulong ang bawat deployment sa paghubog ng produkto at nagbigay sa susunod na kliyente ng mas magandang panimulang pundasyon.
Kasama ang Thrive Holdings, nakipagtulungan ang mga Forward Deployed Engineer at mananaliksik ng OpenAI sa mga engineer at accountant upang bumuo ng Tax AI para sa mga accounting firm ng Crete. Sa paunang pagsubok nito, nagproseso ang Tax AI ng 7,000 tax return at nagpataas ng throughput nang humigit-kumulang 50%.
Isa sa pinakamahihirap na hamon ang pag-automate ng mga tax return para sa mga ipinapaupahang ari-arian. Kinailangan ito ng anim na linggong engineering at pagsusuri ng mga propesyonal sa larangan upang maabot ang 90% precision at recall. Nakabuo ang gawaing ito ng mga pamamaraang magagamit muli, kaya mas madaling mapalawak ang Tax AI sa iba pang masalimuot na tax schedule.
Ginagamit na ngayon ng mga team ang parehong paraan sa bookkeeping, audit, at IT support—bumubuo ng mga sistemang humuhusay sa pamamagitan ng puna ng mga propesyonal at aktuwal na paggamit.
Minsan, napapasimple namin ang binuo namin dahil sa mas mahusay na produkto. Pero minsan, hindi pa kaya ng mismong modelo ang gawain.
Kung bubuo lang kami ng mga bagay na kaya na ng mga modelo ngayon, hindi namin matutuklasan ang mga kakulangan sa kakayahan na susunod na kailangang tugunan ng team sa pananaliksik. Kaya marami sa mahahalagang pakikipagtulungan namin ang nagsisimula sa mga limitasyong iyon, kung saan nakatuon ang kliyente, mga Forward Deployed Engineer, at team sa pananaliksik na sama-samang lampasan ang mga ito.
Nakabuo na kami ng platform para sa serbisyo sa customer kasama ang isang malaking kliyente sa telekomunikasyon, at gusto nilang palawakin ito para sa mga tawag.
Humigit-kumulang 90% ng mga pakikipag-ugnayan sa kanilang serbisyo sa customer ay sa pamamagitan ng tawag. Mas magastos lutasin ang mga kasong ito nang hindi ipinapasa sa tao kaysa sa chat. Nagdala rin ang mga ito ng mga bagong teknikal na hamon sa paghawak ng punto, tono, bilis ng pagtugon at katumpakan upang maging handa para sa aktuwal na operasyon. Malaking tulong sa kanilang negosyo kung magagawa ito nang tama.
Habang tinutukoy ang saklaw ng proyekto, nasa 60% ang marka ng aming modelo sa mahahalagang pagsusuring ginamit namin para malaman kung kaya nito ang gawain sa aktuwal na operasyon. Naabot na namin ang hangganan ng mga kakayahan nito. Kailangang pagbutihin ang pagtawag ng function at pagsunod sa mga tagubilin sa mga sitwasyon ng serbisyo sa customer.
Ipinaliwanag namin iyon sa kliyente at isinama sa gawain ang team sa pananaliksik. Nakipagtulungan ang mga Forward Deployed Engineer sa kliyente upang buuin ang platform at tukuyin kung ano ang kailangang gawin ng modelo. Tinutukan ng team sa pananaliksik ang mga kakulangang iyon sa kakayahan. Sa bawat sunod na bersyon ng modelo, nasubukan namin ang pag-usad nito batay sa mga kinakailangan ng kliyente.
Sa loob ng anim na buwan, tumaas ang pagganap sa mahahalagang pagsusuri mula sa humigit-kumulang 60% tungo sa 80% at pagkatapos ay 90%+, na umabot sa antas na kailangan para sa aktuwal na operasyon.
Sinusuportahan na ngayon ng nabuong modelo para sa boses ang deployment ng kliyenteng iyon, ang iba pang pasadyang deployment para sa serbisyo sa customer, at ang mga pinamamahalaang deployment sa pamamagitan ng Presence. Nakatulong ang problemang naranasan sa negosyo ng isang kliyente upang matukoy ang mga pagpapahusay na mapapakinabangan ng marami pang iba.
Mahalaga ang bawat bahagi. Nangako ang kliyente na makikipagtulungan sa isang problemang hindi pa kayang lutasin ng modelo. Nanatiling malapit sa kliyente ang mga Forward Deployed Engineer upang malinaw na tukuyin ang problema, buuin ang platform, at pangunahan ang proyekto mula simula hanggang katapusan. Pinahusay ng team sa pananaliksik ang mga kakayahan ng pinagbabatayang modelo.
Ito ang isa pang paraan upang dumating sa puntong hindi na kami kailangan: pagtulong na gawing kakayahan ng mga susunod na modelo ang paglutas sa problemang hindi kaya ng mga modelo ngayon. Ang pakinabang ng aming trabaho ay lampas pa sa mga oras na ginugugol namin sa alinmang kliyente.
Sumali ako sa OpenAI upang tumulong na gawing kapaki-pakinabang ang AI sa araw-araw na trabaho ng mga tao. Iyon pa rin ang gumagabay sa team. Madalas kong sabihin sa team na sa karamihan ng mga kaso sa pagbuo ng LLM, naaangkop ang prinsipyo ni Occam—ang pinakasimpleng solusyon ang pinakamahusay. Bilang bahagi ng isang kumpanyang kilala sa makabagong pananaliksik at ng industriyang nababahiran ng mga eksaheradong pahayag, gusto naming bumuo ng mga bagay na gumagana nang maaasahan at mapagkakatiwalaan ng mga taong aktuwal na gumagamit nito.
Layunin naming mapahusay ng bawat pakikipagtulungan ang susunod: isang produktong mas madaling i-deploy, isang modelong kayang humawak ng mas mahirap na gawain, o mas kaunting pasadyang trabaho para sa susunod na kliyente.
Kung mayroon kang mahirap na problemang gusto mong lutasin, ikagagalak naming makipagtulungan sa iyo. Kung gusto mong tumulong sa paglutas ng mga problemang iyon, ikagagalak naming makasama ka.
Kaya ano ang gagawin natin kapag kaya na ng Codex ang gawaing ilang buwan nating binuo?
Hanapin ang mas mahirap na problema.
