Makna FDE di OpenAI
Apa yang kami lakukan, cara kami bekerja dan menyelesaikan masalah paling sukar perusahaan untuk menghasilkan impak nyata.
Oleh: Colin Jarvis, Ketua Kejuruteraan Dikerahkan Ke Hadapan di OpenAI
Apabila Codex dilancarkan, seseorang dalam pasukan bertanya kepada saya, “Apa yang kita perlu lakukan apabila Codex boleh menyelesaikan dalam satu percubaan sahaja kes penggunaan yang kita luangkan beberapa bulan lalu untuk membinanya?”
Soalan itu menyentuh inti peranan FDE di OpenAI. Kami bekerjasama rapat dengan pelanggan untuk memahami masalah paling sukar mereka dan membina penyelesaian yang boleh mereka andalkan. Apa yang kami pelajari bantu membentuk produk kami dan memberikan masalah nyata untuk diselesaikan oleh pasukan Penyelidikan.
Itulah kemajuan. Jika setiap beberapa bulan kami menjadikan diri kami sendiri tidak lagi diperlukan, bermakna pasukan FDE kami telah menjalankan tugasnya dengan baik..
Saya menubuhkan pasukan ini pada awal 2025 untuk merapatkan apa yang kami panggil “jurang pelaksanaan”: jurang antara keupayaan yang kelihatan mampu dicapai oleh model dengan perkara yang boleh diandalkan oleh orang ramai untuk melaksanakan kerja mereka.
Keupayaan model berkembang lebih pantas daripada sistem dan proses yang diperlukan untuk memanfaatkannya. Kadangkala, perkara yang masih diperlukan ialah produk. Kadangkala, model menunjukkan prestasi baik dalam penanda aras tetapi tidak dapat menjalankan tugas apabila berdepan pemboleh ubah dan kekangan dunia sebenar.
Kami menumpukan pada masalah paling sukar yang dihadapi pelanggan. Apabila model kami sudah mampu menjalankan tugas, kami bekerjasama dengan pasukan Produk dan pelanggan untuk menjadikan penyelesaian itu boleh diulangi. Apabila keupayaannya belum mencukupi, kami bekerjasama dengan pelanggan dan pasukan Penyelidikan untuk menentukan jurang tersebut serta membuat penambahbaikan. Matlamat kami adalah supaya setiap kerjasama memberikan titik permulaan yang lebih baik kepada pelanggan seterusnya—jika kami meningkatkan tahap asas sehingga pelanggan tidak lagi memerlukan FDE untuk menyelesaikan masalah seumpama ini pada masa hadapan, kami telah menjalankan tugas dengan baik.
Cabaran bagi John Deere, sebuah perniagaan pertanian berusia 200 tahun, ialah cara untuk menyediakan nasihat yang disesuaikan kepada lebih ramai petani.
Satu contoh ialah See & Spray, teknologi kawalan rumpai jitu yang menggunakan kamera dan pembelajaran mesin untuk mengenal pasti dan menyembur rumpai dan bukannya merawat seluruh ladang untuk mengurangkan penggunaan bahan kimia sehingga 70%.
Namun, manfaat itu hanya dapat dicapai jika petani tahu cara mengkonfigurasi teknologi tersebut, merancang musim pertanian mereka dan menyesuaikan amalan apabila keadaan berubah.
John Deere menggunakan API OpenAI untuk bantu menyesuaikan sokongan itu mengikut keperluan individu dan menyediakannya pada skala yang lebih besar.
AI boleh menjawab soalan petani dalam bahasa semula jadi, memberikan panduan persediaan dan cadangan yang disesuaikan, mengenal pasti apabila peralatan mungkin tidak berfungsi pada potensi penuhnya, dan membantu petani memahami nilai yang mereka peroleh daripada teknologi itu.
Peluangnya melangkaui satu-satu interaksi: memberikan panduan yang relevan sepanjang perjalanan pelanggan, membantu petani memanfaatkan peralatan mereka dengan lebih baik serta meningkatkan kecekapan dan kemampanan.
Inilah jenis cabaran yang diusahakan oleh FDE OpenAI: membantu organisasi mengubah keupayaan AI menjadi sistem yang memberikan nilai praktikal dalam persekitaran dunia sebenar yang kompleks.
Namun, masalah itu selalunya masih terbuka luas, mungkin tiada kebenaran asas yang telah ditetapkan, dan tiada panduan sedia ada. Semua orang mahu membina sesuatu yang belum pernah wujud. Namun, tidak ramai yang sanggup melakukan apa yang diperlukan untuk merealisasikannya.
Usaha mencari FDE yang berbakat sambil meningkatkan standard asas bagi “cukup baik” memerlukan percubaan dan penerapan yang berterusan.
Pada awal setiap sesi pasukan FDE, saya memaparkan slaid dengan satu nilai teras: “Mulakan dengan hasil yang ingin dicapai, lakukan apa yang perlu untuk berjaya, kemudian perluaskan skalanya”.
Demo yang mengagumkan boleh mendapat sambutan luas sebelum sesiapa bertanya sama ada ia berfungsi dalam dunia sebenar.
Tugas kami adalah untuk menyelesaikan masalah pelanggan pada standard yang kami yakin boleh diandalkan dalam persekitaran produksi.
Pada pertengahan 2025, kira-kira 15 FDE kami bekerjasama dengan sebuah syarikat semikonduktor besar yang menjadi pelanggan kami untuk lebih daripada 10 kes penggunaan. Matlamatnya adalah untuk menjadikan AI teras proses pengesahan mereka, yang merangkumi:
Penjanaan ujian terarah
Analisis punca masalah dan penyahpepijatan
Pembantu seni bina
Pengesahan boleh merangkumi kira-kira 70% daripada usaha yang diperlukan bagi sesuatu projek dalam industri ini. Peluangnya amat besar, dan terdapat banyak titik permulaan yang boleh dipilih.
Sesetengah FDE baru menyertai OpenAI beberapa hari sebelumnya dan tidak pernah bekerja dalam industri semikonduktor. Mereka bekerja bersama pasukan pengesahan pelanggan, mempelajari reka bentuk cip pada masa lapang, dan membina penilaian bersama para jurutera untuk menguji sama ada AI boleh menjana ujian yang berguna dan mendiagnosis kegagalan cip dengan betul.
Semasa mempelajarinya, kami membina harnes tersuai untuk setiap kes penggunaan. Dalam tempoh 3–6 bulan pertama, semuanya telah digunakan dalam produksi dan mula diterima pakai oleh pengguna. Hasil usaha ini terserlah melalui metrik berikut:
Kira-kira 48% masa dijimatkan melalui penjanaan ujian terarah berasaskan AI.
Peningkatan prestasi median sebanyak 22% melalui pengoptimuman kernel.
Penyahpepijatan yang mengambil masa berminggu-minggu disingkatkan kepada beberapa jam
Apabila kami membentangkan semua hasil ini, Ketua Pegawai Perkakasan bertanya, “Adakah anda semua pernah bekerja sebagai pereka cip sebelum datang ke sini?”
FDE kami tidak perlu mengenali industri itu sejak hari pertama, tetapi mereka bertanggungjawab untuk mempelajarinya.
Apabila pembantu pengekodan mempercepat pembinaan perisian, pemahaman tentang perniagaan pelanggan menjadi semakin penting. Kami membentuk pasukan yang menggabungkan ahli yang berpengetahuan luas dan pakar bidang.
Anda memerlukan pengetahuan yang cukup untuk membuat pertimbangan yang wajar, serta rasa ingin tahu yang cukup untuk mempersoalkan andaian tentang keadaan sedia ada.
Dalam sains hayat, misalnya, latar belakang sains FDE kami membantu mereka meraih kepercayaan penyelidik yang menjalankan tugas penemuan ubat praklinikal seperti pengesahan dan penetapan keutamaan sasaran, analisis ekspresi gen serta pembinaan semula laluan sintesis kimia. Kepakaran itu membolehkan mereka memberikan pertimbangan berasaskan pengetahuan tentang cara menambah baik aliran kerja tersebut.
Kami telah menunjukkan aliran kerja ini boleh memberikan nilai, tetapi setiap satunya masih memerlukan terlalu banyak kerja penyepaduan tersuai untuk diperluas kepada pasukan lain. Cabaran seterusnya ialah mengekalkan hasil tersebut serta memudahkan pelaksanaan dan penyelenggaraan perisian.
Pada masa itu, keupayaan Codex telah meningkat. Seorang FDE menguji pembinaan semula aplikasinya berasaskan Codex, kemudian bekerjasama dengan pasukan untuk memindahkan kes-kes penggunaan tersebut ke satu harness bersama yang berteraskan Codex.
Aplikasi tersuai menjadi pemalam dan kemahiran yang dibina berasaskan primitif Codex yang dikongsi bersama. Codex juga menjadi antara muka, membolehkan kami menghentikan penggunaan UI terminal dan CLI berasingan yang telah kami bangunkan untuk setiap kes penggunaan.
Kami dapat membuang kira-kira 90% kod tersuai daripada setiap projek, dan ini mengubah cara kami membina, menyelenggara serta memperluas skala aliran kerja ini:
Kami dapat memanfaatkan penambahbaikan berpusat pada Codex, sekali gus mengurangkan jumlah kod penghubung yang diperlukan bagi setiap kes penggunaan
Fungsi utama dihimpunkan sebagai kemahiran dan pemalam, memudahkan perkongsian antara pasukan serta kawalan berpusat oleh Pusat Kecemerlangan AI. Ini bermakna peluasan daripada satu pasukan kepada pasukan seterusnya boleh semudah menggantikan penyambung/pelayan MCP dengan yang baharu, membina penilaian baharu (yang turut disokong oleh kemahiran yang kami sediakan), lalu mula beroperasi.
Dalam satu contoh pada Ogos 2026, pelaksanaan awal mengambil masa dua bulan. Memperluas penyelesaian itu kepada pasukan kedua mengambil masa satu hari. Pasukan seterusnya dapat mula menggunakannya dengan lebih cepat apabila skalanya diperluas. Perkembangan ini berterusan: satu kes penggunaan pada Ogos 2026 mengambil masa 1 hari untuk pasukan kedua selepas pelaksanaan awal mengambil masa 2 bulan.
Itulah salah satu cara kami menjadikan khidmat kami sendiri tidak lagi diperlukan. Usaha yang kami lakukan untuk mencapai tahap produksi telah memperjelas perkara yang penting. Apabila produk asas bertambah baik, kami dapat menggantikan sebahagian besar pelaksanaan tersuai kami di samping itu mengekalkan nilai yang diberikannya.
Inilah sebabnya urutan itu penting. LLM membolehkan kami membina dengan pantas. Gunakan kepantasan itu untuk menyediakan sesuatu yang bernilai kepada pengguna, pelajari perkara yang berkesan dalam amalan, kemudian perluaskan skala penyelesaian yang berhasil.
Prinsip yang sama terpakai dalam semua kerjasama.
OpenAI Presence, produk kami untuk ejen suara dan sembang perusahaan, berkembang daripada penggunaan pelanggan sebenar. Kerja itu bermula dengan Swarm(dibuka dalam tetingkap baru) dan berkembang melalui API Ejen, dan hari ini seorang pelanggan kini mengendalikan lebih separuh panggilannya dengan AI.
Memasukkan penggunaan tersebut ke dalam pengeluaran telah mengajar kami masalah mana yang memerlukan penyelesaian tersuai dan blok binaan mana yang boleh digunakan oleh pasukan lain. Kami membawa blok binaan tersebut ke dalam Presence, menjadikannya lebih mudah untuk pembangun mengautomasikan aliran kerja yang dikawal selia tanpa membina semula infrastruktur asas. Setiap penggunaan membantu membentuk produk dan memberikan pelanggan seterusnya titik permulaan yang lebih baik.
Dengan Thrive Holdings , FDE OpenAI dan penyelidik telah bekerjasama dengan jurutera dan akauntan untuk membina AI Cukai untuk firma perakaunan Crete. Semasa projek rintisnya, Tax AI memproses 7,000 penyata cukai dan meningkatkan daya pemprosesan sebanyak kira-kira 50%.
Salah satu cabaran paling sukar ialah mengautomasikan pulangan harta sewa, yang memerlukan enam minggu semakan kejuruteraan dan pengamal untuk mencapai ketepatan dan penarikan balik 90%. Kerja ini mewujudkan corak yang boleh diguna semula yang memudahkan untuk melanjutkan Tax AI kepada jadual cukai kompleks yang lain.
Pasukan-pasukan ini kini menggunakan pendekatan yang sama untuk pembukuan, audit dan sokongan IT—membina sistem yang bertambah baik melalui maklum balas pengamal dan penggunaan dunia sebenar.
Kadangkala produk yang lebih baik membolehkan kami mempermudah sistem yang telah dibina, tetapi ada kalanya model itu sendiri masih belum mampu menjalankan tugas tersebut.
Jika kita hanya membina perkara yang sudah dapat dilakukan oleh model hari ini, kita tidak akan mengenal pasti jurang kecerdasan yang perlu ditangani oleh pasukan Penyelidikan seterusnya. Oleh itu, banyak kerjasama penting kami bermula pada batas keupayaan tersebut, dengan pelanggan, FDE dan pasukan Penyelidikan komited untuk mengatasinya bersama-sama.
Kami telah pun membangunkan platform khidmat pelanggan untuk sebuah syarikat telekomunikasi besar, dan syarikat itu mahu memperluas platform tersebut kepada perkhidmatan suara.
Interaksi suara merangkumi kira-kira 90% daripada jumlah interaksi khidmat pelanggan mereka. Menyelesaikan kes ini tanpa campur tangan manusia lebih mahal berbanding sembang, dan membawa pelbagai cabaran teknikal baharu untuk memastikan loghat, nada, kependaman dan ketepatan memenuhi standard produksi. Kejayaan usaha ini akan membawa perubahan besar kepada perniagaan mereka.
Semasa penentuan skop, model kami memperoleh skor sekitar 60% dalam penilaian utama yang kami gunakan untuk menilai sama ada model itu boleh menjalankan tugas dalam produksi. Kami telah mencapai batas keupayaannya. Pemanggilan fungsi dan pematuhan arahan dalam senario khidmat pelanggan perlu ditingkatkan.
Kami menjelaskan perkara itu kepada pelanggan dan melibatkan pasukan Penyelidikan dalam usaha ini. Jurutera Dikerahkan Ke Hadapan bekerjasama dengan pelanggan untuk membina platform dan menentukan tugas yang perlu dilaksanakan oleh model. Pasukan penyelidikan berusaha merapatkan jurang keupayaan, dengan setiap versi model yang dikeluarkan membolehkan kami menguji kemajuan berdasarkan keperluan pelanggan.
Dalam tempoh enam bulan, prestasi dalam penilaian utama meningkat daripada sekitar 60% kepada 80%, dan kemudian melebihi 90%, mencapai tahap yang diperlukan untuk produksi.
Model suara yang terhasil kini menyokong pelaksanaan pelanggan itu, pelaksanaan khidmat pelanggan tersuai yang lain, serta pelaksanaan terurus melalui Presence. Masalah yang dihadapi dalam perniagaan seorang pelanggan bantu mengenal pasti penambahbaikan yang boleh memberi manfaat kepada ramai pelanggan lain.
Setiap bahagian memainkan peranan penting. Pelanggan komited untuk mengusahakan masalah yang belum dapat diselesaikan oleh model. FDE terus terlibat rapat untuk merumuskan masalah itu, membina platform dan memacu kerjasama dari awal hingga akhir. Pasukan Penyelidikan meningkatkan keupayaan model asas.
Inilah satu lagi cara kami menjadikan khidmat kami sendiri tidak lagi diperlukan: bantu mengubah masalah yang tidak dapat diselesaikan oleh model hari ini menjadi keupayaan yang boleh ditawarkan oleh model pada masa hadapan. Pulangan daripada usaha kami melangkaui masa yang kami luangkan bersama mana-mana pelanggan.
Saya menyertai OpenAI untuk bantu menjadikan AI berguna dalam kerja harian orang ramai. Matlamat itu masih menjadi panduan pasukan ini. Saya sering memberitahu pasukan bahawa dalam kebanyakan kes pembangunan LLM, prinsip Pisau Occam terpakai—penyelesaian paling ringkas ialah yang terbaik. Dalam syarikat yang terkenal dengan penyelidikan termajunya dan industri yang dicemari dakwaan berlebih-lebihan, Kami mahu membangunkan sesuatu yang berfungsi dengan andal dan boleh diharapkan oleh mereka yang bekerja di lapangan.
Matlamatnya adalah supaya setiap kerjasama menambah baik usaha seterusnya: produk yang lebih mudah dilaksanakan, model yang mampu mengendalikan tugas lebih sukar, atau pengurangan kerja tersuai untuk pelanggan seterusnya.
Jika anda mempunyai masalah sukar yang ingin diselesaikan, kami berbesar hati untuk bekerjasama dengan anda. Jika anda mahu bantu menyelesaikan masalah tersebut, kami mengalu-alukan anda untuk menyertai kami.
Jadi, apa yang kami lakukan apabila Codex mampu mengendalikan kerja yang kami luangkan selama berbulan-bulan untuk membinanya?
Cari masalah yang lebih sukar.
