OpenAI iegādājas Promptfoo
Aģentiskās drošības testēšanas un novērtēšanas iespēju paātrināšana OpenAI Frontier platformā.
Mēs iegādājamies Promptfoo – MI drošības platformu, kas palīdz uzņēmumiem izstrādes laikā identificēt un novērst ievainojamības MI sistēmās. Kad iegāde būs pabeigta, mēs integrēsim Promptfoo tehnoloģiju tieši OpenAI Frtnier, savā platformā MI kolēģu veidošanai un izmantošanai.
Uzņēmumiem ieviešot mākslīgā intelekta kolēģus reālās darbplūsmās, novērtēšana, drošība un atbilstība kļūst par pamatprasībām. Uzņēmumiem ir nepieciešami sistemātiski veidi, kā pārbaudīt aģenta uzvedību, identificēt riskus pirms izvietošanas un uzturēt skaidrus ierakstus, lai nodrošinātu uzraudzību, pārvaldību un atbildību ilgtermiņā.
Promptfoo komanda Īena Vebstera un Maikla D’Andželo vadībā ir izveidojusi jaudīgu rīku kopumu, kam uzticas vairāk nekā 25 procenti Fortune 500 uzņēmumu, kā arī plaši izmantotu atvērtā pirmkoda(atveras jaunā logā) CLI un bibliotēku lielo valodu modeļu lietojumprogrammu novērtēšanai un drošības testēšanai. Kopā mēs turpināsim veidot atvērtā koda projektu, vienlaikus attīstot arī integrētās uzņēmumu iespējas Frotnier platformā.
“Promptfoo sniedz dziļas inženiertehniskās zināšanas MI sistēmu novērtēšanā, drošībā un testēšanā lielu uzņēmumu mērogā. Viņu darbs palīdz uzņēmumiem izvietot drošas un uzticamas MI lietojumprogrammas, un mēs priecāsimies ieviest šīs iespējas tieši Frontier platformā.”
Mēs balstīsimies uz vairākām pamatspējām uzņēmumiem, kas veido aģentus Frontier platformā:
- Platformā iebūvēta drošības un aizsardzības testēšana: automatizēta drošības testēšana un sarkanās komandas pārbaudes kļūs par Frontier platformas neatņemamu daļu, palīdzot uzņēmumiem identificēt un novērst riskus, piemēram, uzvedņu injekcijas, uzlaušanu, datu noplūdes, rīku ļaunprātīgu izmantošanu un politikai neatbilstošu aģentu uzvedību.
- Drošība un novērtēšana, kas integrētas izstrādes darbplūsmās: Frontier cieši integrēs darbplūsmas, kas nepieciešamas, lai agrāk identificētu, izmeklētu un novērstu aģentu riskus, padarot drošību par būtisku daļu no tā, kā tiek izstrādātas un lietotas uzņēmumu MI sistēmas.
- Uzraudzība un atbildība: integrēta ziņošana un izsekojamība palīdzēs organizācijām dokumentēt testēšanu, uzraudzīt izmaiņas laika gaitā un izpildīt augošās prasības mākslīgā intelekta pārvaldības, riska un atbilstības jomā.
“Mēs izveidojām Promptfoo, jo izstrādātājiem bija nepieciešams praktisks veids, kā parūpēties par MI sistēmu drošību. Tā kā MI aģenti kļūst arvien vairāk savienoti ar reāliem datiem un sistēmām, to drošības nodrošināšana un validēšana ir sarežģītāka un svarīgāka nekā jebkad agrāk. Pievienošanās OpenAI ļauj mums paātrināt šo darbu un sniegt spēcīgākas drošības, aizsardzības un pārvaldības iespējas komandām, kas veido reālās pasaules MI sistēmas.”
Esam priecīgi uzņemt Promptfoo komandu un turpināt veidot rīkus, kas nepieciešami uzņēmumiem, lai ieviestu drošu un uzticamu mākslīgo intelektu.
Darījuma noslēgšana ir atkarīga no standarta darījuma noslēgšanas nosacījumu izpildes.
