OpenAI hankkii Promptfoon
Agenttipohjaisten tietoturvatestaus- ja arviointiominaisuuksien nopeuttaminen OpenAI Frontierissa
Hankimme Promptfoon, tekoälyn tietoturva-alustan, joka auttaa yrityksiä tunnistamaan ja korjaamaan tekoälyjärjestelmien haavoittuvuuksia kehitysvaiheessa. Kun yrityskauppa on saatettu päätökseen, integroimme Promptfoon teknologian suoraan OpenAI Frontieriin, tekoälykollegoiden kehittämiseen ja operointiin suunniteltuun alustaamme.
Kun yritykset ottavat tekoälykollegoita käyttöön todellisissa työnkuluissa, arvioinnista, tietoturvasta ja vaatimustenmukaisuudesta tulee keskeisiä vaatimuksia. Yritykset tarvitsevat systemaattisia tapoja testata agenttien toimintaa, havaita riskit ennen käyttöönottoa ja ylläpitää selkeitä tietoja valvonnan, hallinnan ja vastuuvelvollisuuden tukemiseksi ajan mittaan.
Ian Websterin ja Michael D'Angelon johtama Promptfoo-tiimi on kehittänyt tehokkaan työkalupaketin, johon luottaa yli 25 prosenttia Fortune 500 -yrityksistä, sekä laajalti käytetyn avoimen lähdekoodin(avautuu uudessa ikkunassa) komentoliittymän ja kirjaston LLM-sovellusten arviointiin ja red-teaming-testaukseen. Yhdessä jatkamme avoimen lähdekoodin projektin kehittämistä ja samalla kehitämme integroituja yritysominaisuuksia Frontierissa.
”Promptfoo tuo syvällistä teknistä asiantuntemusta tekoälyjärjestelmien arviointiin, suojaamiseen ja testaamiseen yritystasolla. Heidän työnsä auttaa yrityksiä ottamaan käyttöön turvallisia ja luotettavia tekoälysovelluksia, ja olemme innoissamme voidessamme tuoda nämä ominaisuudet suoraan Frontieriin.”
Kehitämme useita keskeisiä ominaisuuksia yrityksille, jotka luovat agentteja Frontierissa:
- Alustaan integroitu tietoturva- ja suojaustestaus: Automaattiset tietoturvatestaus- ja red-teaming-ominaisuudet tulevat natiiviksi osaksi Frontier-alustaa, mikä auttaa yrityksiä tunnistamaan ja korjaamaan riskejä, kuten kehoteinjektiot, jailbreakit, tietovuodot, työkalujen väärinkäytön ja käytäntöjen vastaiset agenttien toimintatavat.
- Tietoturva ja arviointi integroituvat kehitystyönkulkuihin: Frontier integroituu syvästi työnkulkuihin, joita tarvitaan agenttien riskien tunnistamiseen, tutkimiseen ja korjaamiseen aikaisemmassa vaiheessa, mikä tekee tietoturvasta keskeisen osan sitä, miten yritysten tekoälyjärjestelmiä kehitetään ja operoidaan.
- Valvonta ja vastuuvelvollisuus: Integroitu raportointi ja jäljitettävyys auttavat organisaatioita dokumentoimaan testauksen, seuraamaan muutoksia ajan myötä ja täyttämään tekoälyä koskevat kasvavat hallinta-, riski- ja vaatimustenmukaisuusodotukset.
”Perustimme Promptfoon, koska kehittäjät tarvitsivat käytännöllisen tavan suojata tekoälyjärjestelmiä. Kun tekoälyagentit kytkeytyvät yhä tiiviimmin todelliseen dataan ja järjestelmiin, niiden suojaaminen ja validointi on haastavampaa ja tärkeämpää kuin koskaan. OpenAI:hin liittyminen antaa meille mahdollisuuden nopeuttaa tätä työtä ja tuoda vahvemmat tietoturva-, suojaus- ja hallintaominaisuudet tiimeille, jotka kehittävät reaalimaailman tekoälyjärjestelmiä.”
Meillä on ilo toivottaa Promptfoo-tiimi tervetulleeksi ja jatkaa sellaisten työkalujen kehittämistä, joita yritykset tarvitsevat turvallisen ja luotettavan tekoälyn käyttöönottoon.
Yrityskaupan toteutuminen edellyttää tavanomaisten kaupantekoehtojen täyttymistä.
