CodeRabbit уз агенте развија и испоручује 20 пута више софтвера

За Харџота Гила, суоснивача и извршног директора компаније CodeRabbit⁠(отвара се у новом прозору), провера кода који стварају агенти и изградња поверења у њега постају кључне области у којима тимови примењују сопствени суд на све већи обим рада који обавља AI. „Прво уско грло са којим се свака компанија суочи чим уведе агенте за програмирање јесте преглед кода“, каже Харџот.

CodeRabbit је направио платформу за управљање и контролу засновану на AI-ју, осмишљену за проверу ваљаности кода који генерише AI и изградњу поверења у тај код. CodeRabbit користи више од 20.000 организација и преко 150.000 пројеката отвореног кода. Помаже тимовима да разумеју, прегледају и заштите код који стварају AI агенти и одлуче шта је спремно за испоруку.

Према наводима компаније CodeRabbit, бољи однос цене и перформанси OpenAI модела омогућава јој да у прегледе укључи више AI агената и пренесе те предности на клијенте, док јој Codex⁠ помаже да са истим инжењерским тимом испоручи 20 пута више софтвера. Компанија користи и Daybreak⁠ за заштиту сопственог технолошког окружења и кода својих клијената. Њен најновији производ, CodeRabbit Secure, користи Daybreak са Codex моделима да би помоћу агената специјализованих за безбедност проналазио и отклањао рањивости.

CodeRabbit је свој први производ направио помоћу модела GPT‑3.5 Turbo. Харџот каже да је долазак модела GPT‑4 учинио производ ефикасним у прегледу кода. Компанија је потом међу првима усвојила OpenAI o1 и OpenAI o3. Пошто се прегледи кода обављају асинхроно у облаку, CodeRabbit је могао да користи моделе којима је за резоновање о проблему требало више времена, али су зато пружали квалитетнију анализу.

Тим оцењује нове моделе помоћу сопственог референтног теста са познатим проблемима. У време интервјуа, Харџот је проценио да је GPT‑6 Astra⁠ откривао 50% проблема у том скупу података, што га је сврстало на прво место међу моделима на том референтном тесту.

Референтни тест се стално мења јер агенти уносе нове врсте грешака, а исправке откривају проблеме који су промакли ранијим прегледима. „Природа грешака се стално мења, а како модели постају бољи, мења се и наш референтни тест“, каже Харџот.

Бољи однос цене и перформанси OpenAI модела помогао је компанији CodeRabbit да могућности из истраживачке фазе угради у свој производ. Харџот истиче повољније цене модела и унапређења кеширања која компанији омогућавају да више користи AI, додаје више подагената и преноси те предности на клијенте.

На почетку је CodeRabbit користио једног или два подагента за навигацију кроз код. Јефтинији модели, попут GPT‑6 Luna, сада омогућавају рад већег броја подагената широм платформе, док модели попут GPT‑6 Astra обављају планирање и оркестрацију.

„Сада користимо агенте свуда, за задатке за које раније нисмо ни могли да их приуштимо“, каже Харџот. То проширује обим провера које CodeRabbit може да обави и објашњења која може да пружи програмерима, помажући им да разумеју измене које нису сами написали и да стекну поверење у њих.

Харџот каже да је компанија, користећи Codex, током последњих шест месеци испоручивала око 20 пута више софтвера, без запошљавања додатних инжењера. Процењује да је лично послао између 2.500 и 3.000 захтева типа pull request током 30 дана пре интервјуа.

Да би то постигли, није било довољно само да уведу Codex. Покретање више агената разоткрило је ограничења у целом развојном процесу: од меморије и процесорске снаге лаптопова до тестирања, алата за компајлирање и паковање софтвера и софтверских зависности.

Тим је поједноставио процес објављивања верзија и преиспитао у којим фазама је потребно људско одобрење, а CodeRabbit је користио за аутоматску испоруку нискоризичних измена које нису захтевале људску интервенцију. „Морали смо заиста из темеља да преосмислимо цео процес испоруке софтвера“, каже Харџот.

Компанија је направила и бота за Slack заснованог на Codex-у, који разврстава инциденте у продукционом окружењу, поруке на Slack-у и захтеве за подршку по приоритету. Бот може да припреми pull request који тим затим прегледа и спаја са постојећим кодом. Харџот види развој у облаку као начин да се смање ограничења локалних рачунара и тимовима омогући боља контрола приступа и ревизије активности.

CodeRabbit користи Codex и ван развоја софтвера, између осталог за управљање маркетиншким и оперативним задацима кроз код. „Управљамо компанијом кроз код где год је то могуће“, каже Харџот.

У маркетингу, компанија управља огласима на платформи Google Ads путем захтева типа pull request. Тим отвара захтев и спаја предложене измене да би објавио огласе. Користи и депо студија за садржај, у ком Codex прави презентације и документе намењене клијентима. „Ако маркетиншке проблеме можете да претворите у програмерске задатке, радићете 10 пута брже“, каже Харџот.

CodeRabbit од 2023. покреће агенте у изолованим окружењима, клонира депое и омогућава агентима да пишу код како би помогли при прегледима. Недавно је CodeRabbit користио OpenAI модел Cyber преко Daybreak-а да тестира и заштити сопствену платформу.

Тим је користио модел за интерно пенетрационо тестирање, испитујући сопствену платформу у потрази за начинима на које би нападач могао да продре у њу. Харџот каже да је рани приступ помогао компанији CodeRabbit да заштити сопствено технолошко окружење. „Пронашли смо више рањивости, софистициране начине за упад за које нисмо ни могли да замислимо да су могући“, каже Харџот.

Компанија је од тада те могућности понудила тржишту и својим најновијим производом, CodeRabbit Secure, помаже клијентима да заштите свој код. Током протекле две недеље, компанија је у оквиру промотивне понуде корисницима обезбедила бесплатна дубинска скенирања у вредности од милион долара. У 13.000 дубинских скенирања откривено је више од 43.000 безбедносних рањивости, а сва скенирања су обављена помоћу Codex модела. Клијенти су већ отклонили хиљаде ових рањивости и тиме побољшали безбедност свог кода.

Како агенти у позадини почињу да реагују на упозорења и инциденте, а да човек не мора да покреће сваки задатак, Харџот очекује да ће тимовима требати више помоћи при одлучивању које измене треба спровести до краја.

CodeRabbit се даље шири ка развоју софтвера уз агенте, помажући тимовима да у великом обиму потврђују ваљаност измена кода које агенти генеришу, одређују њихов приоритет, објашњавају их, обезбеђују и проверавају.

Прилика је у томе да се програмерима помогне да задрже контролу док агенти преузимају све већи део развоја, уз проверу ваљаности, објашњења и одржавање који прате темпо настајања кода.