OpenAI se takkwista lil Promptfoo
Naċċelleraw il-kapaċitajiet tal-ittestjar u l-evalwazzjoni tas-sigurtà aġentika f’OpenAI Frontier
Se nakkwistaw lil Promptfoo, pjattaforma ta’ sigurtà tal-IA li tgħin lill-intrapriżi jidentifikaw u jirrimedjaw vulnerabbiltajiet fis-sistemi tal-IA waqt l-iżvilupp. Ladarba l-akkwist jiġi ffinalizzat, se nintegraw it-teknoloġija ta’ Promptfoo direttament f’OpenAI Frontier, il-pjattaforma tagħna biex nibnu u noperaw kollegi tal-IA.
Hekk kif l-intrapriżi jimplimentaw kollegi tal-IA fi proċessi reali tax-xogħol, l-evalwazzjoni, is-sigurtà u l-konformità jsiru rekwiżiti fundamentali. L-intrapriżi jeħtieġu modi sistematiċi biex jittestjaw l-imġiba tal-aġent, jindividwaw ir-riskji qabel l-implimentazzjoni, u jżommu rekords ċari biex jappoġġjaw is-sorveljanza, il-governanza u r-responsabbiltà maż-żmien.
It-tim ta’ Promptfoo, immexxi minn Ian Webster u Michael D’Angelo, bena sett qawwi ta’ għodod fdati minn aktar minn 25 fil-mija tal-kumpaniji tal-Fortune 500, flimkien ma’ CLI u librerija open-source(jinfetaħ f’tieqa ġdida) użati ħafna għall-evalwazzjoni u red-teaming ta’ applikazzjonijiet LLM. Flimkien, se nkomplu nibnu l-proġett open-source filwaqt li navvanzaw ukoll il-kapaċitajiet integrati għall-intrapriżi fi ħdan Frontier.
“Promptfoo jġib miegħu għarfien tekniku profond fl-evalwazzjoni, l-iżgurar u l-ittestjar tas-sistemi tal-IA fuq skala ta’ intrapriża. Ix-xogħol tagħhom jgħin lin-negozji jimplimentaw applikazzjonijiet tal-IA siguri u affidabbli, u aħna eċċitati li nġibu dawn il-kapaċitajiet direttament fi Frontier.”
Se nibnu fuq diversi kapaċitajiet ewlenin għall-intrapriżi li qed jibnu aġenti fuq Frontier:
- Sigurtà u ittestjar tas-sikurezza mibnija fil-pjattaforma: Kapaċitajiet awtomatizzati tal-ittestjar tas-sigurtà u red-teaming se jsiru parti nattiva mill-pjattaforma Frontier, u jgħinu lill-intrapriżi jidentifikaw u jirrimedjaw riskji bħal injezzjoni tal-prompts, jailbreaks, tnixxijiet ta’ data, użu ħażin tal-għodod, u mġibiet tal-aġenti barra l-politika.
- Sigurtà u evalwazzjoni integrati fil-proċessi tal-iżvilupp: Frontier se tintegra b’mod profond mal-proċessi meħtieġa biex jiġu identifikati, investigati u rrimedjati r-riskji tal-aġenti aktar kmieni, u tagħmel is-sigurtà parti ewlenija minn kif jiġu żviluppati u operati s-sistemi tal-IA għall-intrapriżi.
- Sorveljanza u responsabbiltà: Ir-rappurtar u t-traċċabbiltà integrati se jgħinu lill-organizzazzjonijiet jiddokumentaw l-ittestjar, jimmonitorjaw il-bidliet maż-żmien, u jissodisfaw l-aspettattivi dejjem jikbru ta’ governanza, riskju u konformità għall-IA.
“Bdejna Promptfoo għax l-iżviluppaturi kellhom bżonn mod prattiku biex jiżguraw is-sistemi tal-IA. Hekk kif l-aġenti tal-IA jsiru aktar konnessi ma’ data u sistemi reali, l-iżgurar u l-validazzjoni tagħhom isiru aktar diffiċli u aktar importanti minn qatt qabel. Li ningħaqdu ma’ OpenAI jippermettilna naċċelleraw dan ix-xogħol, billi nwasslu kapaċitajiet aktar b’saħħithom ta’ sigurtà, sikurezza u governanza lit-timijiet li qed jibnu sistemi tal-IA għad-dinja reali.”
Aħna eċċitati nilqgħu lit-tim ta’ Promptfoo u nkomplu nibnu l-għodod li l-intrapriżi jeħtieġu biex jimplimentaw IA sigura u affidabbli.
L-għeluq tal-akkwist huwa soġġett għal kundizzjonijiet ta’ għeluq tas-soltu.
