LegalOn: Kos Codex separuh, pembangunan kekal pantas

LegalOn Technologies menawarkan AI Profesional di seluruh dunia, menggunakan AI untuk menyokong kerja perundangan dan fungsi perniagaan utama yang lain. Dengan menggabungkan kepakaran bidang dan AI, syarikat ini membolehkan orang ramai menumpukan perhatian pada pertimbangan dan keputusan yang rumit. Matlamatnya ialah pengurusan dipacu AI yang meningkatkan kualiti dan mempercepat proses membuat keputusan perniagaan.

Pendekatan ini bukan sekadar diterapkan dalam produk, malah menjadikan AI asas operasi organisasi itu sendiri. Syarikat ini menyepadukan Codex ke dalam proses pembangunan dan meluaskan penerimaannya di seluruh organisasi melalui penggunaan harian.

Apabila penggunaannya semakin meluas, cabaran baharu muncul: kawalan kos. Penggunaan model berprestasi tinggi tanpa had boleh meningkatkan perbelanjaan, manakala sekatan menyeluruh berisiko menjejaskan peningkatan produktiviti yang terhasil daripada AI.

Bagaimanakah kos dapat dikurangkan tanpa memperlahankan pembangunan? LegalOn Technologies menangani cabaran ini dengan memilih antara GPT‑6 (Astra, Luna) dan GPT‑6.1 Sol berdasarkan kerumitan tugas dan peringkat pembangunan, serta menyelaraskan bajet dengan peringkat pertumbuhan setiap perniagaan. Syarikat ini mengurangkan kos sebanyak separuh sambil mengekalkan kelajuan pembangunan.

Pada mulanya, syarikat ini memberikan pembangun akses tanpa had kepada model utamanya, GPT‑5.5 dalam Mod pantas. Mereka meluaskan penggunaannya kepada reka bentuk, pelaksanaan dan kerja harian, sambil bereksperimen untuk mencari cara terbaik membahagikan tanggungjawab antara manusia dengan AI.

Namun, penggunaan model berprestasi tinggi tanpa had secara berterusan pasti akan melebihi bajet tahunan. Pusat Kecemerlangan Pembangunan Berkuasa AI (AID CoE) syarikat mula merangka garis panduan pemilihan model. AID CoE menguji dan memantau model, manakala pengurus berkongsi dapatan pusat itu dengan pasukan masing-masing. Ini membolehkan setiap jurutera memilih sendiri model yang paling sesuai untuk setiap tugas.

Garis panduan baharu ini mengalihkan amalan syarikat daripada menggunakan model paling berkeupayaan untuk semua tugas kepada memilih model yang sesuai bagi setiap tugas. Pasukan bermula dengan model ringan dan beralih kepada model yang lebih berkeupayaan apabila tugas semakin rumit.

Untuk menyokong tadbir urus, syarikat turut memperkenalkan kawalan sistem melalui tetapan pentadbir, dengan had penggunaan bulanan bagi jabatan dan individu. AID CoE memantau penggunaan dan melaraskan had mengikut keperluan perniagaan.

Ujian dalaman di bawah kawalan ini membantu memperincikan kriteria pemilihan. GPT‑6 Luna, model paling ringan, mengendalikan pelaksanaan kod dengan keperluan yang jelas; GPT‑6.1 Sol menyokong reka bentuk standard, analisis data dan penyediaan dokumen; manakala GPT‑6 Astra, model paling berkeupayaan, mengendalikan pertimbangan lanjutan, termasuk reka bentuk seni bina. Pemadanan model dengan tugas beransur-ansur menjadi amalan bersama merentas pasukan.

Selain pemilihan model, syarikat mula menyekat Mod pantas secara lalai dan hanya membenarkan permohonan individu apabila perlu. Walaupun perubahan ini menimbulkan kebimbangan tentang kelajuan pembangunan, pasukan menggunakan pendekatan seperti menjalankan tugas secara selari untuk mengekalkan prestasi dan memastikan peralihan yang lancar.

Syarikat turut menetapkan had bajet untuk perbelanjaan AI pada peringkat jabatan, kumpulan dan individu. Perniagaan LegalOn yang sudah mantap diminta meningkatkan kecekapan kos sehingga kira-kira 20%, manakala perniagaan baharu dalam fasa pelancaran menerima bajet yang besar untuk menggalakkan penggunaan AI secara aktif.

Yuta Tokitake, Pengurus Kanan Kejuruteraan di LegalOn Technologies, menjelaskan bahawa perniagaan baharu mengutamakan kepantasan operasi berbanding kecekapan kos. Tujuannya adalah untuk menggunakan AI secara meluas bagi meningkatkan hasil kerja dan akhirnya memacu pertumbuhan perniagaan.

Gabungan pemilihan model, sekatan ciri dan bajet yang disesuaikan untuk setiap perniagaan mengurangkan anggaran kos harian sebanyak kira-kira 65%. Pendekatan ini memastikan bajet keseluruhan terkawal sambil menyalurkan sumber kepada perniagaan yang ingin dikembangkan oleh syarikat.

Pengoptimuman model dan peruntukan sumber secara strategik membuahkan hasil berikut:

• Peralihan daripada penggunaan model paling berkeupayaan untuk semua tugas kepada pemilihan GPT‑6 Astra, GPT‑6.1 Sol atau GPT‑6 Luna berdasarkan kerumitan tugas dan peringkat pembangunan.

• Prestasi pembangunan dikekalkan selepas Mod pantas disekat secara lalai, dengan sokongan amalan pasukan seperti pelaksanaan tugas secara selari.

• Had bajet yang menggabungkan peningkatan kecekapan kira-kira 20% dalam perniagaan matang dengan pelaburan aktif dalam perniagaan baharu.

• Pengurangan anggaran kos harian sebanyak 65% berbanding GPT‑5.5 melalui pemilihan antara model GPT‑6 dan 6.1.

Melalui pengoptimuman model, syarikat mengurangkan kos tanpa mengorbankan kelajuan atau kualiti pembangunan. Pasukan turut mendapati AI semakin memendekkan kitaran daripada pembangunan hingga pelancaran.

Namun, syarikat ini memandang lebih jauh ke hadapan. Adakah pembangunan yang lebih pantas sahaja menandakan kejayaan pelaburan AI? Hubungan antara pembangunan yang lebih pantas dengan nilai kepada pelanggan masih belum jelas. “Hampir tidak diragui lagi bahawa AI boleh mempercepat pembangunan dan kemas kini sistem,” kata Tokitake. “Apa yang benar-benar ingin kami fahami ialah sama ada pembangunan yang lebih pantas itu benar-benar memberikan nilai kepada pelanggan.”

Persoalan ini mendorong syarikat membangunkan metriknya sendiri, dengan mengubah asas penilaian pelaburan AI daripada kelajuan pembangunan dan jumlah penggunaan kepada nilai kepada pelanggan.

Tokitake menjelaskan: “Apabila menggunakan AI, kami boleh menjejaki kos setiap tugas, tetapi jumlah kos bagi satu kerja yang lengkap—iaitu pelancaran ciri—sering kali tidak jelas. Jadi, kami merancang pengukuran dengan menjadikan setiap pelancaran ciri sebagai satu unit. Dengan mengaitkan nilai yang diberikan oleh pelancaran itu kepada pelanggan dengan kos AI sebenar yang dilaburkan, kami mahu menunjukkan pulangan pelaburan dengan jelas dan tepat.”

Syarikat kini sedang membina saluran pemprosesan untuk mengira metrik ini. Setelah siap, saluran ini akan memperlihatkan ROI sebenar dari segi nilai kepada pelanggan. LegalOn Technologies melangkaui pengurusan kos AI dengan berusaha menghubungkan pelaburan teknologi secara langsung dengan nilai perniagaan.

Matlamat seterusnya ialah menjadikan kepakaran AI jurutera individu sebagai keupayaan seluruh organisasi. Sebagai langkah pertama, syarikat merancang untuk membina pangkalan pengetahuan bagi mengumpul dan berkongsi pengalaman praktikal. Pangkalan ini akan merekodkan pengetahuan seperti gabungan model terbaik untuk reka bentuk, pelaksanaan dan semakan, serta segera menjadikan kejayaan individu sebagai amalan terbaik seluruh syarikat.

Perubahan yang didorong oleh pengalaman praktikal pasukan ini turut membentuk organisasi dan pengambilan pekerja. Peningkatan produktiviti yang dipacu AI mendorong syarikat menilai semula secara menyeluruh pembahagian kerja antara manusia dengan AI, serta perancangan tenaga kerjanya. Syarikat sudah mula menekankan kemahiran AI dalam pengambilan pekerja, seiring perubahan strategi pelaburan dan struktur organisasinya.

Untuk menjadikan penerapan AI suatu kelebihan daya saing yang berkekalan, keseimbangan antara tadbir urus dengan kebebasan pasukan untuk bertindak perlu terus diperhalusi. AID CoE dan pasukan keselamatan bekerjasama untuk mengoptimumkan prestasi, kos dan risiko dari pelbagai sudut, sambil membina rangka kerja fleksibel yang menyokong eksperimen di seluruh organisasi.