Pelajaran Netomi untuk menskalakan sistem agentik ke perusahaan

Perusahaan mengharapkan ejen AI untuk mengendalikan aliran kerja yang rumit dengan boleh dipercayai, menghormati dasar secara lalai, beroperasi di bawah muatkan berat, dan menunjukkan hasil kerja mereka.

Netomi⁠⁠(dibuka dalam tetingkap baru) membina sistem yang memenuhi piawaian tinggi tersebut, melayani pelanggan Fortune 500 seperti United Airlines dan DraftKings. Platform mereka menggabungkan GPT‑4.1 untuk penggunaan alat yang rendah kependaman dan boleh dipercayai dengan GPT‑5.2 untuk perancangan yang lebih mendalam dan berbilang langkah, menjalankan kedua-duanya dalam lapisan pelaksanaan yang dikawal selia yang direka untuk memastikan tindakan yang didorong oleh model dapat diramalkan dalam keadaan pengeluaran sebenar.

Menjalankan sistem agentik pada skala ini telah memberikan Netomi rangka tindakan untuk apa yang membuatkan pelaksanaan ini berfungsi dalam perusahaan.

Permintaan perusahaan tunggal jarang sekali memetakan kepada satu API. Aliran kerja sebenar meliputi enjin tempahan, pangkalan data kesetiaan, sistem CRM, logik dasar, pembayaran, dan sumber pengetahuan. Data sering kali tidak lengkap, bercanggah, atau sensitif terhadap waktu. Sistem yang bergantung pada aliran rapuh akan runtuh di bawah kepelbagaian ini.

Netomi merancang Agentic OS supaya model OpenAI berada di pusat saluran pengorkestraan yang diatur untuk tahap ketidakpastian ini. Platform ini menggunakan GPT‑4.1 untuk penaakulan pantas dan boleh dipercayai serta panggilan alat—penting untuk aliran kerja masa nyata—dan GPT‑5.2 apabila perancangan berbilang langkah atau penaakulan lebih mendalam diperlukan.

Untuk memastikan tingkah laku ejen yang konsisten dalam tugas yang panjang dan kompleks, Netomi mengikuti corak pemantauan ejen yang disyorkan oleh OpenAI:

• Peringatan berterusan untuk membantu GPT‑5.2 membawa penaakulan merentasi aliran kerja berbilang langkah yang panjang
• Jangkaan penggunaan alat yang jelas, menekan jawapan yang dihasilkan secara halusinasi dengan mengarahkan GPT‑4.1 untuk memanggil alat bagi mendapatkan maklumat berwibawa semasa operasi transaksi
• Perancangan berstruktur, yang memanfaatkan GPT‑5.2 penaakulan yang lebih mendalam untuk menggariskan dan melaksanakan tugas berbilang langkah
• Keputusan media kaya yang dipacu ejen, bergantung pada GPT‑5.2 untuk mengesan dan memberi isyarat apabila panggilan alat harus mengembalikan imej, video, borang atau elemen multimodal kaya yang lain

Bersama-sama, corak ini membantu model memetakan permintaan tidak berstruktur kepada aliran kerja berbilang langkah dengan pasti dan mengekalkan keadaan merentasi interaksi yang tidak berterusan.

Beberapa industri mendedahkan keperluan untuk penaakulan berbilang langkah dengan jelas seperti syarikat penerbangan, di mana satu interaksi secara rutin merangkumi pelbagai sistem dan lapisan dasar. Satu soalan mungkin memerlukan semakan peraturan tambang, pengiraan semula faedah kesetiaan, memulakan perubahan tiket, dan menyelaraskan dengan operasi penerbangan.

Dalam syarikat penerbangan, konteks berubah setiap minit. "AI perlu membuat penaakulan tentang situasi pelanggan—bukan sekadar melaksanakan tugas yang terasing," kata Mehta. Itulah sebabnya kesedaran situasi lebih penting daripada sekadar aliran kerja, dan mengapa seni bina ensembel yang berasaskan konteks adalah penting.

Dengan GPT‑4.1 dan GPT‑5.2, Netomi boleh terus memperluaskan corak ini ke dalam automasi berbilang langkah yang lebih kaya—menggunakan model bukan sahaja untuk menjawab soalan, tetapi untuk rancangkan tugas, menyusun tindakan dan menyelaraskan sistem bahagian belakang di mana syarikat penerbangan utama bergantung kepada.

Dalam saat-saat tekanan tinggi—seperti menempah semula semasa ribut, menyelesaikan isu bil, atau mengendalikan lonjakan permintaan secara tiba-tiba—pengguna akan meninggalkan mana-mana sistem yang teragak-agak. Kependaman menentukan kepercayaan.

Kebanyakan sistem AI gagal kerana mereka melaksanakan tugas secara berurutan: klasifikasi → ambil → sahkan → panggil alat → jana output. Netomi direka untuk keserentakan, memanfaatkan penstriman kependaman rendah dan kestabilan panggilan alat GPT‑4.1.

GPT‑4.1 menyediakan masa-ke-token-pertama yang pantas dan tingkah laku panggilan alat yang boleh diramal, yang menjadikan seni bina ini berdaya maju pada skala besar; manakala GPT‑5.2 menyediakan laluan penaakulan berbilang langkah yang lebih mendalam apabila diperlukan. Rangka kerja serentak Netomi memastikan sistem keseluruhan, bukan hanya model, kekal di bawah ambang kependaman kritikal.

Permintaan serentak ini tidak unik kepada syarikat penerbangan. Mana-mana sistem yang terdedah kepada lonjakan trafik yang mendadak dan melampau memerlukan disiplin seni bina yang sama. Sebagai contoh, DraftKings kerap menguji ketahanan model ini, dengan trafik semasa peristiwa sukan utama melonjak melebihi 40,000 permintaan pelanggan serentak setiap saat. 

Semasa peristiwa sedemikian, Netomi telah mengekalkan tindak balas di bawah tiga saat dengan ketepatan pengelasan niat sebanyak 98%, walaupun aliran kerja melibatkan akaun, pembayaran, carian pengetahuan, dan pemeriksaan peraturan.

“AI adalah teras dan penting dalam cara kami memberikan sokongan kepada pelanggan pada saat-saat yang paling penting,” kata Paul Liberman, Pengasas Bersama dan Presiden Operasi di DraftKings. Platform Netomi membantu kami mengurus lonjakan aktiviti yang besar dengan tangkas dan tepat.

Pada skala, model keserentakan Netomi bergantung pada panggilan alat yang pantas dan boleh diramalkan oleh GPT‑4.1, yang memastikan aliran kerja berbilang langkah responsif di bawah muatan yang melampau.

AI Perusahaan mesti boleh dipercayai secara reka bentuk, dengan tadbir urus yang disepadukan terus ke dalam masa larian—bukan ditambah sebagai lapisan luaran.

Apabila keyakinan niat jatuh di bawah ambang, atau apabila permintaan tidak dapat diklasifikasikan dengan kepastian tinggi, mekanisme tadbir urus Netomi akan berfungsi untuk menentukan bagaimana permintaan tersebut dikendalikan, memastikan sistem kembali dari penjanaan bebas kepada laluan pelaksanaan yang terkawal.

Pada peringkat teknikal, lapisan tadbir urus mengendalikan:

• Pengesahan skema, yang memeriksa setiap panggilan alat terhadap hujah yang dijangka dan kontrak OpenAPI sebelum pelaksanaan
• Penguatkuasaan dasar yang menggunakan penapis topik, sekatan jenama, dan pemeriksaan pematuhan secara langsung semasa penaakulan dan penggunaan alat
• Perlindungan PII untuk mengesan dan menutupi data sensitif sebagai sebahagian daripada pra-pemprosesan dan pengendalian respons
• Sandaran deterministik, kembali kepada tingkah laku yang diketahui selamat apabila niat, data, atau panggilan alat tidak jelas
• Kebolehcerapan masa jalan, mendedahkan jejak token, langkah penaakulan dan log rantaian alat untuk pemeriksaan dan penyahpepijatan masa nyata

Dalam domain yang sangat dikawal selia seperti insurans pergigian, jenis tadbir urus ini tidak boleh dirunding. Seorang pelanggan Netomi dalam industri insurans memproses hampir dua juta permintaan penyedia setiap tahun di seluruh 50 negeri, termasuk pemeriksaan kelayakan, carian manfaat, dan pertanyaan status tuntutan di mana satu respons yang salah boleh mencipta risiko peraturan atau perkhidmatan yang berlanjutan. 

Semasa pendaftaran terbuka, apabila penelitian dan jumlah memuncak, syarikat memerlukan AI yang menguatkuasakan dasar sebagai sebahagian daripada masa jalan itu sendiri. Seni bina Netomi mampu memenuhi keperluan kompleks tersebut.

“Kami membina sistem supaya jika ejen mencapai ketidakpastian, ia tahu dengan tepat bagaimana untuk kembali dengan selamat,” kata Mehta. Tadbir urus bukanlah sesuatu yang ditambah—ia adalah sebahagian daripada masa larian.

Laluan Netomi menunjukkan apa yang diperlukan untuk mendapatkan kepercayaan perusahaan: membina untuk kerumitan, melaksanakan secara selari untuk memenuhi permintaan kependaman, dan menanamkan tadbir urus ke dalam setiap aliran kerja. Model OpenAI membentuk tulang belakang penaakulan, sementara kejuruteraan sistem Netomi memastikan kecerdasan adalah selamat secara operasi, boleh diaudit, dan bersedia untuk persekitaran Fortune 500.

Prinsip-prinsip ini membantu Netomi berkembang dalam beberapa industri yang paling mencabar di dunia—dan menawarkan pelan tindakan untuk mana-mana syarikat permulaan yang ingin mengubah AI agentik menjadi infrastruktur bertaraf pengeluaran.

Melaksanakan sistem agentik dalam persekitaran Fortune 500 menuntut kepantasan, ketepatan dan tadbir urus terbina dalam. Seni bina Netomi menyampaikan ketiga-tiganya, mengekalkan prestasi walaupun semasa lonjakan trafik yang ekstrem dan aliran kerja berbilang langkah yang kompleks. 

• Memberikan respons dalam masa kurang daripada tiga saat semasa acara trafik tinggi 
• Mengekalkan ketepatan pengelasan niat sebanyak 98% pada skala besar
• Mengendalikan lonjakan trafik yang melebihi 40,000 permintaan pelanggan serentak setiap saat
• Tadbir urus dibenamkan terus ke dalam persekitaran masa jalan dengan sandaran deterministik dan penguatkuasaan dasar