OpenAI kununua Promptfoo
Kuharakisha uwezo wa upimaji na tathmini ya usalama wa kiwakala katika Mpaka wa OpenAI
Tunanunua Promptfoo, jukwaa la usalama la AI linalosaidia mashirika kutambua na kurekebisha udhaifu katika mifumo ya AI wakati wa uundaji. Mara tu upatikanaji utakapokamilika tutaunganisha teknolojia ya Promptfoo moja kwa moja kwenye Mpaka wa OpenAI, jukwaa letu la kuunda na kuendesha wafanyakazi wenza wa AI.
Mashirika yanapotumia wafanyakazi wenza wa AI katika taratibu halisi za kazi, tathmini, usalama na kufuata sheria huwa mahitaji ya msingi. Mashirika yanahitaji njia za kimfumo za kupima tabia ya wakala, kutambua hatari kabla ya utekelezaji, na kudumisha rekodi zilizo wazi ili kusaidia uangalizi, usimamizi, na uwajibikaji kwa muda.
Timu ya Promptfoo, inayoongozwa na Ian Webster na Michael D’Angelo, imeunda seti imara ya zana inayoaminiwa na zaidi ya asilimia 25 ya kampuni za Fortune 500, pamoja na CLI na maktaba ya chanzo huria(fungua katika dirisha jipya) inayotumika sana kwa kutathmini na programu za LLM za kupima uwezekano wa kuathirika. Pamoja, tutaendelea kujenga mradi wa chanzo huria huku pia tukiendeleza uwezo jumuishi wa mashirika ndani ya Mpaka.
“Promptfoo inaleta utaalamu wa kina wa uhandisi katika kutathmini, kulinda na kupima mifumo ya AI kwa kiwango cha biashara. Kazi yao husaidia biashara kutumia programu za AI salama na za kuaminika, na tunafurahia kuleta uwezo huu moja kwa moja kwenye mpaka.”
Tutajenga juu ya uwezo kadhaa wa msingi kwa mashirika yanayounda mawakala kwenye Mpaka:
- Upimaji wa usalama na ulinzi uliojengwa ndani ya jukwaa: Jaribio la usalama la kiotomatiki na uwezo wa kupima uwezekano wa kuathirika vitakuwa sehemu asilia ya jukwaa la Mpaka, vikisaidia mashirika kutambua na kurekebisha hatari kama shambulio la dokeza, jailbreak, uvujaji wa data, matumizi mabaya ya zana na tabia za wakala zisizo ndani ya sera.
- Usalama na tathmini vilivyojumuishwa katika mitiririko ya kazi ya maendeleo: Mpaka itaunganishwa kwa undani na mitiririko ya kazi inayohitajika kutambua, kuchunguza na kurekebisha hatari za wakala mapema ikifanya usalama kuwa sehemu ya msingi ya jinsi mifumo ya AI ya biashara inavyotengenezwa na kuendeshwa.
- Usimamizi na uwajibikaji: Kuripoti na ufuatiliaji jumuishi kutasaidia mashirika kurekodi majaribio, kufuatilia mabadiliko baada ya muda na kukidhi matarajio yanayoongezeka ya utawala, hatari na kufuata sheria kwa AI.
“Tulianzisha Promptfoo kwa sababu wasanidi programu walihitaji njia ya vitendo ya kulinda mifumo ya AI. Kadiri mawakala wa AI wanavyozidi kuunganishwa na data na mifumo halisi, kuwalinda na kuwathibitisha ni changamoto zaidi na muhimu kuliko hapo awali. Kujiunga na OpenAI kunatuwezesha kuharakisha kazi hii na kuleta uwezo thabiti zaidi wa ulinzi, usalama na uwezo wa utawala kwa timu zinazounda mifumo ya AI ya ulimwengu halisi.”
Tunafurahi kuukaribisha timu ya Promptfoo na kuendelea kujenga zana ambazo mashirika yanahitaji ili kusambaza AI salama na ya kuaminika.
Kufungwa kwa ununuzi kunategemea masharti ya kawaida ya kufunga.
