LegalOn: Hati ang gastos sa Codex, tuloy ang bilis ng development

Nag-aalok ang LegalOn Technologies ng Professional AI sa buong mundo, gamit ang AI para suportahan ang gawaing legal at iba pang mahahalagang tungkulin sa negosyo. Pinagsasama nito ang espesyalisadong kaalaman at AI upang makapagtuon ang mga tao sa masalimuot na pagsusuri at pagpapasya. Layunin nitong gamitin ang AI sa pamamahala para mapahusay at mapabilis ang mga desisyon sa negosyo.

Hindi lang sa mga produkto nito ginagamit ang pamamaraang ito: layunin ding gawing likas na bahagi ng organisasyon ang AI. Isinama ng kumpanya ang Codex sa proseso ng development at pinalawak ang paggamit nito sa buong organisasyon sa pamamagitan ng pang-araw-araw na gawain.

Habang lumalaganap ang paggamit, lumitaw ang isang bagong hamon: pagkontrol sa gastos. Maaaring lumobo ang gastos sa walang limitasyong paggamit ng mga modelong mahusay ang performance. Pero maaaring mawala ang dagdag na produktibidad mula sa AI kung maghihigpit sa lahat ng paggamit.

Paano nito mababawasan ang gastos nang hindi pinapabagal ang development? Tinugunan ito ng LegalOn Technologies sa pagpili sa GPT‑6 (Astra, Luna) at GPT‑6.1 Sol batay sa hirap ng gawain at yugto ng development, at pagtutugma ng badyet sa yugto ng paglago ng bawat negosyo. Napababa ng kumpanya sa kalahati ang gastos habang pinananatili ang bilis ng development.

Sa simula, binigyan ng kumpanya ang mga developer ng walang limitasyong access sa pangunahing modelo nito, ang GPT‑5.5 sa Fast mode. Pinalawak nila ang paggamit nito sa disenyo, implementasyon, at pang-araw-araw na gawain. Sa pag-eksperimento, natutuhan nila ang pinakamahusay na paghahati ng tungkulin sa mga tao at AI.

Ngunit tiyak na lalampas sa taunang badyet kung patuloy na gagamit ng mga modelong mahusay ang performance nang walang limitasyon. Nagsimulang bumuo ng mga gabay sa pagpili ng modelo ang AI-powered Development CoE (AID CoE) ng kumpanya. Sinubukan at sinubaybayan ng AID CoE ang mga modelo, habang ibinahagi naman ng mga manager ang mga natuklasan nito sa kani-kanilang team. Dahil dito, nakapagpasya ang bawat engineer kung aling modelo ang pinakaangkop sa bawat gawain.

Dahil sa mga bagong gabay, lumipat ang kumpanya mula sa paggamit ng pinakamakapangyarihang modelo para sa lahat tungo sa pagpili ng angkop na modelo para sa bawat gawain. Nagsimula ang mga team sa magaan na modelo at lumipat sa mas makapangyarihang mga modelo habang nagiging mas masalimuot ang gawain.

Para suportahan ang pamamahala, nagtakda rin ang kumpanya ng mga kontrol sa system gamit ang mga setting ng administrator, kabilang ang buwanang limitasyon sa paggamit ng mga departamento at indibidwal. Sinusubaybayan ng AID CoE ang paggamit at inaayos ang mga limitasyon ayon sa pangangailangan ng negosyo.

Nakatulong ang panloob na pagsubok sa ilalim ng mga kontrol na ito upang maging mas tiyak ang pamantayan sa pagpili. Ang GPT‑6 Luna, ang pinakamagaan na modelo, ay para sa pagsulat ng code na may malinaw na mga requirement; ang GPT‑6.1 Sol ay para sa karaniwang disenyo, pagsusuri ng data, at paghahanda ng dokumento; at ang GPT‑6 Astra, ang pinakamakapangyarihang modelo, ay para sa masalimuot na pagpapasya, kabilang ang disenyo ng arkitektura. Unti-unting naging karaniwang gawain sa mga team ang pagtutugma ng modelo sa gawain.

Bukod sa pagpili ng modelo, sinimulan ng kumpanya na higpitan ang Fast mode bilang default, at pinapayagan lamang ito sa indibidwal na kahilingan kapag kailangan. Bagama't nagdulot ito ng pangamba sa bilis ng development, gumamit ang mga team ng mga paraang tulad ng sabayang pagpapatakbo ng mga gawain para mapanatili ang performance at maging maayos ang paglipat.

Nagtakda rin ito ng pinakamataas na badyet para sa AI sa antas ng departamento, grupo, at indibidwal. Hiniling sa matatag nang negosyo ng LegalOn na paghusayin ang paggamit ng pondo nang hanggang humigit-kumulang 20%. Samantala, binigyan ng malaking badyet ang mga bagong negosyong inilulunsad pa lang para hikayatin ang aktibong paggamit ng AI.

Ayon kay Yuta Tokitake, Senior Engineering Manager sa LegalOn Technologies, mas inuna ng mga bagong negosyo ang bilis ng operasyon kaysa pagtitipid. Layunin nilang malawakang gamitin ang AI para makagawa ng mas marami at mapalago ang negosyo.

Sa pinagsamang pagpili ng modelo, paghihigpit sa mga feature, at badyet na angkop sa bawat negosyo, bumaba nang humigit-kumulang 65% ang tinatayang arawang gastos. Napanatili nitong kontrolado ang kabuuang badyet habang inilalaan ang mga resource sa mga negosyong gustong palaguin ng kumpanya.

Nagbunga ng mga sumusunod ang pag-optimize ng modelo at madiskarteng paglalaan ng mga resource:

• Paglipat mula sa paggamit ng pinakamakapangyarihang modelo para sa lahat tungo sa pagpili ng GPT‑6 Astra, GPT‑6.1 Sol, o GPT‑6 Luna batay sa hirap ng gawain at yugto ng development.

• Napanatili ang performance sa development matapos higpitan ang Fast mode bilang default, sa tulong ng mga gawi ng team gaya ng sabayang pagpapatakbo ng mga gawain.

• Mga limitasyon sa badyet na nagsama ng humigit-kumulang 20% mas mahusay na paggamit ng pondo sa mga matatag nang negosyo at aktibong pamumuhunan sa mga bagong negosyo.

• 65% na pagbawas sa tinatayang arawang gastos kumpara sa GPT‑5.5, sa pamamagitan ng pagpili sa mga modelo ng GPT‑6 at 6.1.

Sa pag-optimize ng modelo, nabawasan ng kumpanya ang gastos nang hindi isinasakripisyo ang bilis o kalidad ng development. Nakikita rin ng mga team na patuloy na pinaiikli ng AI ang proseso mula development hanggang release.

Pero mas malayo pa ang tinatanaw ng kumpanya. Sapat na ba ang mas mabilis na development para masabing matagumpay ang pamumuhunan sa AI? Hindi pa malinaw ang ugnayan ng mas mabilis na development at pakinabang para sa customer. “Halos tanggap na ng lahat na kayang pabilisin ng AI ang pagbuo at pag-update ng system,” sabi ni Tokitake. “Ang gusto talaga naming maunawaan ay kung nagdudulot ba ng tunay na pakinabang sa mga customer ang mas mabilis na development.”

Dahil sa tanong na ito, bumuo ang kumpanya ng sariling sukatan. Inilipat nito ang batayan ng pagsusuri sa pamumuhunan sa AI mula sa bilis ng development at dami ng paggamit tungo sa pakinabang para sa customer.

Paliwanag ni Tokitake: “Kapag gumagamit ng AI, nasusubaybayan namin ang gastos sa bawat gawain. Pero madalas ay hindi malinaw ang kabuuang gastos para sa isang kumpletong proyekto—ang paglabas ng isang feature. Kaya ginawa naming yunit ng pagsukat ang bawat paglabas ng feature. Sa pag-uugnay ng pakinabang nito sa customer sa aktuwal na ginastos sa AI, layunin naming malinaw at tumpak na maipakita ang balik sa puhunan.”

Kasalukuyang binubuo ng kumpanya ang pipeline para makalkula ang sukatang ito. Kapag nakumpleto, maipapakita nito ang tunay na ROI batay sa pakinabang para sa customer. Lumalampas na ang LegalOn Technologies sa pamamahala ng gastos sa AI tungo sa direktang pag-uugnay ng pamumuhunan sa teknolohiya at pakinabang sa negosyo.

Ang susunod na layunin ay gawing kakayahan ng buong organisasyon ang kaalaman sa AI ng bawat engineer. Bilang unang hakbang, plano ng kumpanya na bumuo ng knowledge base para tipunin at ibahagi ang praktikal na karanasan. Itatala rito ang kaalaman gaya ng pinakamahusay na kombinasyon ng modelo para sa disenyo, implementasyon, at pagsusuri, at agad na gagawing pinakamahusay na gawi sa buong kumpanya ang mga tagumpay ng bawat isa.

Ang mga pagbabagong ito, na nagmumula sa praktikal na karanasan ng mga team, ay humuhubog din sa organisasyon at pagkuha ng empleyado. Dahil sa dagdag na produktibidad mula sa AI, lubusang pinag-iisipang muli ng kumpanya ang paghahati ng trabaho sa mga tao at AI, pati ang mga plano nito para sa mga tauhan. Sinimulan na nitong bigyang-diin ang kasanayan sa AI sa pagkuha ng empleyado, habang nagbabago ang estratehiya sa pamumuhunan at istruktura ng organisasyon.

Para maging pangmatagalang bentahe sa kompetisyon ang paggamit ng AI, kailangang patuloy na pinapahusay ang balanse ng pamamahala at kalayaan ng mga team na kumilos. Nagtutulungan ang AID CoE at security team para i-optimize ang performance, gastos, at panganib mula sa iba't ibang pananaw. Bumubuo sila ng balangkas na madaling iangkop at sumusuporta sa pag-eksperimento sa buong organisasyon.