LegalOn: преполовени трошоци за Codex, исто темпо на развој

LegalOn Technologies нуди вештачка интелигенција (ВИ) за професионална употреба ширум светот, со поддршка за правни и други клучни деловни функции. Со спојување на стручните знаења со ВИ, им овозможува на луѓето да се посветат на сложени проценки и одлуки. Целта е управување засновано на ВИ што го подобрува квалитетот и ја зголемува брзината на деловното одлучување.

Овој пристап не се ограничува на производите: ВИ станува основа и на самата организација. Компанијата го вклучи Codex во развојниот процес и преку секојдневна употреба го прошири неговото користење низ организацијата.

Со поширокото користење се појави нов предизвик: контролата на трошоците. Неограниченото користење моќни модели можеше да ги зголеми трошоците, а општите ограничувања се закануваа да ја намалат продуктивноста постигната со ВИ.

Како да се намалат трошоците без да се забави развојот? LegalOn Technologies го реши предизвикот со избор меѓу GPT‑6 (Astra, Luna) и GPT‑6.1 Sol според сложеноста на задачата и фазата на развој, усогласувајќи ги буџетите со фазата на раст на секој деловен сегмент. Компанијата ги преполови трошоците, задржувајќи го темпото на развој.

На почетокот, програмерите имаа неограничен пристап до главниот модел на компанијата, GPT‑5.5 во Брз режим. Почнаа да го користат и за проектирање, имплементација и секојдневна работа, учејќи преку експериментирање како најдобро да ги поделат одговорностите меѓу луѓето и ВИ.

Но, натамошното неограничено користење моќни модели неизбежно би го надминало годишниот буџет. Центарот за извонредност за развој со ВИ (AID CoE) во компанијата почна да изработува насоки за избор на модели. AID CoE ги тестираше и следеше моделите, а менаџерите ги споделуваа неговите наоди со своите тимови. Така, секој инженер можеше самостојно да го избере најсоодветниот модел за секоја задача.

Со новите насоки, наместо да го користи најмоќниот модел за секоја задача, компанијата почна да го избира најсоодветниот. Тимовите почнуваа со полесен модел и преминуваа на помоќни модели како што растеше сложеноста на задачата.

За подобар надзор, компанијата воведе и системски контроли преку администраторските поставки, со месечни ограничувања на користењето за одделите и поединците. AID CoE го следи користењето и ги приспособува ограничувањата според деловните потреби.

Интерните тестирања со овие контроли помогнаа да се прецизираат критериумите за избор. GPT‑6 Luna, најлесниот модел, се користи за имплементација на код со јасни барања; GPT‑6.1 Sol поддржува стандардно проектирање, анализа на податоци и подготовка на документи; а GPT‑6 Astra, најмоќниот модел, решава задачи што бараат сложени проценки, вклучително и проектирање архитектура. Изборот на модели според задачите постепено стана заедничка практика на тимовите.

Покрај изборот на модели, компанијата го ограничи Брз режим како стандардна поставка, одобрувајќи поединечни барања само по потреба. Иако промената предизвика загриженост за темпото на развој, тимовите користеа пристапи како паралелно извршување задачи за да ги задржат перформансите и непречено да се приспособат.

Воведе и буџетски лимити за трошоците за ВИ на ниво на оддели, групи и поединци. Од веќе развиениот деловен сегмент LegalOn се бараше до околу 20% поефикасно трошење, додека новите сегменти во почетна фаза добија издашни буџети за поттикнување активно користење ВИ.

Јута Токитаке, виш менаџер за инженерство во LegalOn Technologies, објаснува дека новите деловни сегменти ѝ давале предност на брзината на работењето пред трошочната ефикасност. Целта беше широко користење ВИ за поголем обем на сработеното и, во крајна линија, за деловен раст.

Заедно, изборот на модели, ограничувањата на функциите и буџетите приспособени на секој деловен сегмент ги намалија проценетите дневни трошоци за околу 65%. Овој пристап го задржа вкупниот буџет под контрола, насочувајќи ги ресурсите кон сегментите што компанијата сакаше да ги развива.

Оптимизацијата на моделите и стратешката распределба на ресурсите ги дадоа следниве резултати:

• Наместо најмоќниот модел за секоја задача, избор на GPT‑6 Astra, GPT‑6.1 Sol или GPT‑6 Luna според сложеноста на задачата и фазата на развој.

• Задржани развојни перформанси по стандардното ограничување на Брз режим, со тимски практики како паралелно извршување задачи.

• Буџетски лимити што споија околу 20% поголема ефикасност во развиените деловни сегменти со активно вложување во новите.

• Намалување на проценетите дневни трошоци за 65% во споредба со GPT‑5.5, преку избор меѓу моделите GPT‑6 и 6.1.

Со оптимизација на моделите, компанијата ги намали трошоците без да ги жртвува темпото и квалитетот на развојот. Тимовите забележуваат и дека ВИ постојано го скратува циклусот од развој до објавување.

Но компанијата гледа подалеку. Дали побрзиот развој сам по себе значи успешно вложување во ВИ? Врската меѓу побрзиот развој и вредноста за клиентите остана нејасна. „Речиси се подразбира дека ВИ може да ги забрза развојот и ажурирањето на системите“, вели Токитаке. „Она што навистина сакаме да го разбереме е дали побрзиот развој навистина носи вредност за клиентите.“

Ова прашање ја поттикна компанијата да развие сопствен показател, префрлајќи ја основата за процена на вложувањето во ВИ од темпото на развој и обемот на користење кон вредноста за клиентите.

Токитаке објаснува: „Кога користиме ВИ, можеме да ги следиме трошоците за поединечни задачи, но вкупниот трошок за една заокружена целина — објавувањето функција — често останува непознат. Затоа го осмисливме мерењето така што секоја објавена функција се смета за една единица. Со поврзување на вредноста што таа функција ја носи за клиентите со реалните трошоци за ВИ вложени во неа, сакаме да го направиме повратот на инвестицијата видлив и прецизно измерен.“

Компанијата моментално го гради процесот за обработка на податоци за пресметување на овој показател. Кога ќе биде готов, ќе го прикаже вистинскиот поврат на инвестицијата изразен преку вредноста за клиентите. LegalOn Technologies оди подалеку од управувањето со трошоците за ВИ, кон директно поврзување на технолошките вложувања со деловната вредност.

Следната цел е практичните знаења за ВИ на поединечните инженери да станат способност на целата организација. Како прв чекор, компанијата планира база на знаење за собирање и споделување практични искуства. Во неа ќе се собираат знаења, како најдобрите комбинации на модели за проектирање, имплементација и проверка, а поединечните успеси брзо ќе стануваат најдобри практики за целата компанија.

Овие промени, поттикнати од практичното искуство на тимовите, ги обликуваат и организацијата и вработувањето. Зголемената продуктивност со ВИ ја поттикнува компанијата од корен да ги преиспита поделбата на работата меѓу луѓето и ВИ и своите кадровски планови. Веќе почна да им дава поголема важност на вештините за ВИ при вработувањето, паралелно со развојот на инвестициската стратегија и организациската структура.

За воведувањето ВИ да стане трајна конкурентска предност, потребно е постојано усовршување на рамнотежата меѓу надзорот и слободата на тимовите да дејствуваат. AID CoE и тимот за безбедност заедно ги оптимизираат перформансите, трошоците и ризикот од повеќе аспекти, градејќи флексибилна рамка што поддржува експериментирање низ целата организација.