LegalOn преполовио трошкове за Codex без успоравања развоја

LegalOn Technologies нуди Professional AI широм света, користећи вештачку интелигенцију (ВИ) као подршку правним пословима и другим кључним пословним функцијама. Спајањем стручног знања и ВИ омогућава људима да се усредсреде на сложене процене и одлуке. Циљ је управљање засновано на ВИ које побољшава квалитет и брзину доношења пословних одлука.

Овај приступ не обухвата само производе: компанија настоји да ВИ постане темељ рада саме организације. Компанија је увела Codex у процес развоја и кроз свакодневни рад проширила његову примену у целој организацији.

Како је примена постајала устаљена, појавио се нови изазов: контрола трошкова. Неограничена употреба модела високих перформанси могла је да повећа трошкове, док су општа ограничења могла да угрозе раст продуктивности постигнут захваљујући ВИ.

Како смањити трошкове, а не успорити развој? LegalOn Technologies је одговорио на овај изазов избором модела GPT‑6 (Astra, Luna) и GPT‑6.1 Sol према сложености задатка и фази развоја, уз прилагођавање буџета фази раста сваке пословне области. Компанија је преполовила трошкове и задржала исту брзину развоја.

Компанија је у почетку програмерима омогућила неограничен приступ свом главном моделу, GPT‑5.5 у Брзом режиму. Проширили су његову примену на пројектовање, имплементацију и свакодневни рад, учећи кроз експериментисање како најбоље поделити одговорности између људи и ВИ.

Међутим, наставак неограничене употребе модела високих перформанси неминовно би довео до прекорачења годишњег буџета. Компанијин Центар изврсности за развој уз помоћ ВИ (AID CoE) почео је да израђује смернице за избор модела. AID CoE је тестирао моделе и пратио њихов рад, а руководиоци су преносили налазе својим тимовима. То је омогућило сваком инжењеру да самостално изабере најприкладнији модел за сваки задатак.

Захваљујући новим смерницама, компанија је уместо употребе најспособнијег модела за сваки задатак прешла на избор модела који одговара конкретном послу. Тимови су почињали са мање захтевним моделом и прелазили на способније моделе како су задаци постајали сложенији.

Ради бољег управљања, компанија је кроз администраторска подешавања увела и системске контроле, са месечним ограничењима коришћења за одељења и појединце. AID CoE прати коришћење и прилагођава ограничења пословним потребама.

Интерно тестирање уз ове контроле помогло је да се критеријуми избора прецизније одреде. GPT‑6 Luna, најмање захтеван модел, служи за имплементацију кода са јасним захтевима; GPT‑6.1 Sol подржава стандардно пројектовање, анализу података и припрему докумената; а GPT‑6 Astra, најспособнији модел, служи за сложене процене, укључујући пројектовање архитектуре. Избор модела према задацима постепено је постао устаљена пракса у свим тимовима.

Уз избор модела, компанија је почела да подразумевано ограничава Брзи режим, одобравајући појединачне захтеве само када је то потребно. Иако је промена изазвала забринутост за брзину развоја, тимови су паралелним извршавањем задатака и сличним приступима одржали учинак и несметано се прилагодили.

Уведени су и лимити потрошње за ВИ на нивоу одељења, група и појединаца. Од већ развијеног пословања LegalOn тражено је да побољша трошковну ефикасност за до приближно 20%, док су нове пословне области у почетној фази добиле издашне буџете како би се подстакла активна употреба ВИ.

Јута Токитаке, виши руководилац инжењерског тима у компанији LegalOn Technologies, објашњава да је у новим пословним областима брзина пословања имала предност над трошковном ефикасношћу. Циљ је био да се широком применом ВИ повећа обим обављеног посла и на крају подстакне раст пословања.

Заједно, избор модела, ограничења функција и буџети прилагођени свакој пословној области смањили су процењене дневне трошкове за приближно 65%. Овим приступом укупан буџет је остао под контролом, а ресурси су усмерени ка областима пословања чији је раст компанија желела да подстакне.

Оптимизација модела и стратешка расподела ресурса донеле су следеће резултате:

• Прелазак са употребе најспособнијег модела за сваки задатак на избор модела GPT‑6 Astra, GPT‑6.1 Sol или GPT‑6 Luna према сложености задатка и фази развоја.

• Очуван учинак развоја након подразумеваног ограничавања Брзог режима, уз тимске праксе попут паралелног извршавања задатака.

• Буџетски лимити који су спојили приближно 20% већу ефикасност у развијеним пословним областима са активним улагањем у нове.

• Смањење процењених дневних трошкова за 65% у односу на GPT‑5.5, избором између модела GPT‑6 и 6.1.

Оптимизацијом модела компанија је смањила трошкове без губитка брзине или квалитета развоја. Тимови такође примећују да ВИ непрестано скраћује циклус од развоја до објављивања.

Али компанија гледа даље у будућност. Да ли је сам бржи развој довољан да улагање у ВИ буде успешно? Веза између бржег развоја и вредности за клијенте остала је нејасна. „Готово се подразумева да ВИ може да убрза развој и ажурирање система“, каже Токитаке. „Оно што заиста желимо да разумемо јесте да ли тај бржи развој заиста доноси вредност клијентима.“

Ово питање подстакло је компанију да развије сопствено мерило и да улагања у ВИ вреднује према вредности за клијенте, уместо према брзини развоја и обиму коришћења.

Токитаке објашњава: „Када користимо ВИ, можемо да пратимо трошкове појединачних задатака, али укупан трошак заокружене целине — објављивања једне функције — често остаје непознаница. Зато смо мерење осмислили тако да објављивање сваке функције буде засебна јединица. Повезујући вредност коју објављена функција доноси клијентима са стварним трошковима ВИ уложеним у њу, желимо да повраћај улагања учинимо видљивим и прецизно мерљивим.“

Компанија тренутно гради систем за обраду података потребних за израчунавање овог показатеља. Када буде завршен, показаће стварни повраћај улагања кроз вредност за клијенте. LegalOn Technologies иде даље од управљања трошковима ВИ, ка непосредном повезивању улагања у технологију са пословном вредношћу.

Следећи циљ је да практично знање појединачних инжењера о ВИ постане способност целе организације. Као први корак, компанија планира да изгради базу знања за прикупљање и размену практичних искустава. У њој ће се бележити сазнања попут најбољих комбинација модела за пројектовање, имплементацију и проверу, како би појединачни успеси брзо постали најбоље праксе у целој компанији.

Ове промене, подстакнуте практичним искуством тимова, утичу и на организацију и запошљавање. Раст продуктивности захваљујући ВИ подстиче компанију да из темеља преиспита поделу рада између људи и ВИ, као и кадровске планове. Већ је почела да даје већи значај вештинама рада са ВИ при запошљавању, упоредо са променама инвестиционе стратегије и организационе структуре.

Да би примена ВИ постала трајна конкурентска предност, неопходно је стално унапређивати равнотежу између управљања и слободе тимова да делују. AID CoE и безбедносни тим заједно раде на оптимизацији перформанси, трошкова и ризика из више углова, градећи флексибилан оквир који подржава експериментисање у целој организацији.