Cara mengurus pelaburan AI dalam era agentik

Matlamat OpenAI adalah untuk menjadikan AI lebih mudah diakses, lebih berupaya dan lebih mampu milik dari semasa ke semasa. Daripada GPT‑4 hingga GPT‑5.4, harga bagi setiap juta token turun 97%. GPT‑5.6⁠ meneruskan kemajuan itu, dengan prestasi lebih baik dalam Indeks Ejen Indeks Ejen Pengekodan Analisis Kecerdasan Buatan menggunakan 54% kurang token output dan 57% kurang masa bagi setiap tugasan.

Tetapi harga token semata-mata tidak menunjukkan sama ada AI mencipta nilai. Pemimpin harus melihat kerja berguna bagi setiap dolar: tugasan yang diselesaikan, masa yang dijimatkan, keputusan yang ditambah baik dan aliran kerja yang sedia diskalakan.

Apabila pasukan beralih daripada sembang kepada aliran kerja yang berjalan lebih lama, pentadbir memerlukan keterlihatan yang lebih jelas tentang permintaan, perbelanjaan dan risiko. 

Berikut ialah lima cara untuk melabur dengan yakin.

Pemimpin perusahaan memerlukan pandangan jelas tentang penggunaan AI: siapa yang menggunakannya, produk atau model mana yang digunakan, berapa banyak kapasiti yang digunakan dan jenis kerja yang disokong oleh penggunaan itu. Tanpa keterlihatan itu, bil yang semakin meningkat sukar ditafsirkan. Ia mungkin mencerminkan pembaziran, percubaan yang produktif atau aliran kerja yang mula menjadi kritikal kepada perniagaan.

ChatGPT Kerja⁠ menyokong tugasan berbilang langkah yang lebih panjang, jadi penggunaan boleh berbeza-beza mengikut aliran kerja. Pentadbir perlu melihat kerja di sebalik penggunaan itu, bukan sekadar kredit yang digunakan. Ini boleh dilakukan melalui pandangan bersama terhadap permintaan merentas ChatGPT. Analitik penggunaan dan kawalan perbelanjaan⁠ yang dikemas kini dalam Konsol Pentadbir⁠(dibuka dalam tetingkap baru) membantu pentadbir melihat penerimaan, penggunaan kredit dan perbelanjaan mengikut pengguna, produk dan model; menjejaki trend dari semasa ke semasa; mengenal pasti corak baharu; dan memahami bila penggunaan mencerminkan penerimaan meluas, aliran kerja pengguna berkuasa atau proses perniagaan berulang yang mungkin wajar menerima lebih banyak pelaburan.

Cerapan pada tahap berbeza membantu membimbing keputusan pelaburan dan pembolehan:

• Ruang kerja: Adakah penerimaan dan perbelanjaan bergerak seiring?
• Pasukan dan pengguna: Di mana permintaan sedang meningkat, dan siapa mungkin memerlukan lebih banyak sokongan?
• Produk dan model: Di mana kecerdasan yang lebih mahal digunakan, dan adakah permintaan itu berterusan?

Bersama-sama, pandangan ini membantu pentadbir menentukan tempat untuk melabur, membimbing atau menetapkan had.

Harga token paling rendah tidak semestinya menghasilkan jumlah kos paling rendah. Model yang lebih murah mungkin gagal, mencuba semula atau menghasilkan kerja yang perlu diperbetulkan. Model yang lebih berupaya mungkin lebih mahal bagi setiap token, tetapi mencapai hasil yang boleh diterima dengan lebih cepat, dengan percubaan yang lebih sedikit dan semakan yang kurang.

Nilai model berdasarkan kerja yang perlu dilaksanakannya. Gunakan eval yang mencerminkan tugasan sebenar⁠, termasuk kes pinggir, dan tetapkan maksud “cukup baik” sebelum ujian. Kemudian ukur kos penuh untuk mencapai standard itu: penggunaan model dan alat, percubaan, kadar penyelesaian, kependaman dan semakan manusia.

Untuk aliran kerja keutamaan, jejaki kos bagi setiap hasil yang diterima. Dalam sokongan pelanggan, itu mungkin kes yang diselesaikan. Dalam kejuruteraan, itu mungkin perubahan yang telah diuji dan lulus semakan. Padankan kos itu dengan nilai perniagaan seperti masa yang dijimatkan, masa kitaran yang dikurangkan, hasil yang dilindungi, risiko yang dielakkan atau kapasiti yang diwujudkan.

Pilihan model hanyalah sebahagian daripada persamaan. Arahan yang jelas, alat yang tertumpu, konteks yang boleh digunakan semula dan syarat berhenti yang nyata boleh mengurangkan gelung dan perbelanjaan sia-sia. Matlamatnya adalah memadankan model dan aliran kerja dengan tugasan: gunakan model yang lebih kecil atau lebih pantas apabila ia memenuhi tahap kualiti, dan simpan kecerdasan perbatasan untuk kerja yang kompleks, kabur atau berisiko tinggi.

Pemimpin perusahaan harus melihat tadbir urus sebagai lapisan operasi yang menentukan kerja AI mana yang boleh diskalakan. Kerja praktikalnya ialah mentakrifkan konteks yang boleh digunakan oleh ChatGPT, alat yang boleh diaksesnya, tindakan yang boleh diambilnya, siapa yang meluluskan langkah berisiko lebih tinggi dan cara kapasiti tambahan diberikan apabila pasukan menemui aliran kerja bernilai.

Ini menjadi lebih penting apabila pasukan menggunakan pemalam, penyambung, Penggunaan Komputer dan keupayaan perbatasan lain yang boleh beroperasi merentas sistem perusahaan. ChatGPT Work⁠ memberikan pentadbir kawalan berpusat untuk akses, konteks yang diluluskan, alat yang disambungkan, tindakan yang dibenarkan, penggunaan dan perbelanjaan. Kawalan perbelanjaan seperti lalai ruang kerja, had kumpulan, pengubahsuaian individu dan permintaan semakan dengan konteks projek membantu pemimpin menyokong kerja bernilai tinggi tanpa menaikkan had secara meluas.

Untuk pelaksanaan keutamaan, Jurutera Pelaksanaan⁠(dibuka dalam tetingkap baru) AI OpenAI boleh bekerjasama secara langsung dengan pelanggan pada eval, seni bina, kependaman, kebolehpercayaan dan reka bentuk aliran kerja untuk meningkatkan prestasi serta kecekapan kos. Privasi dan tadbir urus harus menjadi sebahagian daripada kerja itu sejak awal: aliran kerja sensitif memerlukan kawalan akses, pendirian pengekalan, keterlihatan pematuhan dan laluan kelulusan yang betul sebelum diskalakan. Jika berkenaan, kawalan privasi perusahaan OpenAI, termasuk pilihan Pengekalan Data Sifar⁠(dibuka dalam tetingkap baru), boleh membantu pelanggan melaksanakan AI dalam persekitaran berkepercayaan tinggi.

Pemimpin perusahaan harus mengurus pelaburan AI sebagai portfolio: akses meluas untuk produktiviti harian, aliran kerja khusus fungsi yang menambah baik kerja berulang dan sejumlah kecil pertaruhan strategik yang dibina berasaskan konteks proprietari syarikat. Calon terkuat ialah aliran kerja yang berulang pada skala bermakna, mempunyai pemilikan yang jelas dan boleh diukur dari segi kualiti, risiko dan nilai perniagaan.

Pembiayaan harus mengikut kematangan. Penerokaan harus menguji sama ada model boleh menangani tugasan; pengesahan harus menguji kes yang mewakili keadaan sebenar berbanding tahap kualiti yang jelas; pembiayaan produksi harus menyokong integrasi, kawalan, kebolehpercayaan dan pengurusan perubahan yang diperlukan untuk penskalaan. Keupayaan bersama seperti identiti, penyambung dipercayai, pengetahuan tersusun, penilaian, kebolehcerapan, penghalaan model dan corak ejen boleh guna semula harus dibiayai secara berpusat supaya setiap aliran kerja baharu lebih mudah dan selamat dilancarkan.

Apabila aliran kerja telah membuktikan nilainya, pemimpin harus memadankan produk, kapasiti dan model sokongan dengan permintaannya. ChatGPT Kerja⁠ menyediakan keupayaan siap guna untuk sembang, pengekodan, aliran kerja berasaskan ejen, penyambung, pemalam, Penggunaan Komputer dan pentadbiran. Syarikat boleh memperluas asas itu dengan data proprietari, kebenaran, penilaian dan logik aliran kerja apabila unsur-unsur itu mencipta nilai yang membezakan.

Untuk beban kerja produksi, struktur komersial harus sepadan dengan corak penggunaan: Kapasiti Terjamin⁠ untuk sistem produksi dan ejen yang memerlukan kepastian akses, Peringkat Skala⁠ untuk beban kerja API bervolum tinggi yang boleh diramal, dan API Kelompok⁠(dibuka dalam tetingkap baru), Pemprosesan Flex⁠(dibuka dalam tetingkap baru) atau Cache Prom⁠ untuk kerja tak segerak atau konteks berulang.

Untuk pelaksanaan strategik yang lebih besar, OpenAI Frontier⁠ dan Deployment Company⁠(dibuka dalam tetingkap baru) boleh membantu perusahaan membina, melaksanakan dan mengurus rakan sekerja AI merentas sistem perusahaan. Pendekatan ini membolehkan pemimpin menskalakan kerja yang terbukti dengan produk, kapasiti dan model sokongan yang tepat, bukannya memaksa setiap aliran kerja membina semula infrastrukturnya sendiri.