OpenAI ќе го преземе Promptfoo
Забрзување на способностите за безбедносно тестирање и евалуација во OpenAI Frontier
Го преземаме Promptfoo, платформа за безбедност на вештачката интелигенција што им помага на претпријатијата да идентификуваат и отстранат ранливости во системите со вештачка интелигенција за време на развојот. Откако аквизицијата ќе биде финализирана, ќе ја интегрираме технологијата на Promptfoo директно во OpenAI Frontier, нашата платформа за градење и управување со соработници со вештачка интелигенција.
Како што претпријатијата воведуваат колеги со вештачка интелигенција во реални работни процеси, евалуацијата, безбедноста и усогласеноста стануваат основни барања. На претпријатијата им се потребни систематски начини за тестирање на однесувањето на агентите, откривање ризици пред пуштање во употреба и одржување јасни записи за поддршка на надзор, управување и отчетност со текот на времето.
Тимот на Promptfoo, предводен од Иан Вебстер и Мајкл Ди Анџело, изгради моќен пакет алатки на кој му веруваат над 25 проценти од компаниите од Fortune 500, заедно со широко користен CLI со отворен код(се отвора во нов прозорец) и библиотека за евалуација и тестирање на отпорноста на апликации со големи јазични модели (LLM). Заедно, ќе продолжиме да го градиме проектот со отворен код, а истовремено ќе ги унапредуваме интегрираните можности за претпријатија во рамките на Frontier.
„Promptfoo носи длабока инженерска експертиза во евалуација, обезбедување и тестирање на системи со вештачка интелигенција на ниво на претпријатие во голем обем. Нивната работа им помага на бизнисите да распоредуваат безбедни и сигурни апликации за вештачка интелигенција и возбудени сме што ќе ги донесеме овие можности директно во Frontier.“
Ќе се надоврземе на неколку основни способности за претпријатија што градат агенти на Frontier:
- Безбедносно и сигурносно тестирање вградено во платформата: Автоматизираното безбедносно тестирање и можностите за тестирање на отпорноста ќе станат нативен дел од платформата Frontier, помагајќи им на претпријатијата да ги идентификуваат и отстранат ризиците како вметнување злонамерни инструкции во промпт, jailbreak-ови, протекување податоци, злоупотреба на алатки и однесувања на агентите што не се во согласност со политиките.
- Безбедност и евалуација интегрирани во работните процеси за развој: Frontier ќе се интегрира длабоко со работните процеси потребни за порано да се идентификуваат, истражат и отстранат ризиците од агентите, правејќи ја безбедноста клучен дел од тоа како се развиваат и управуваат системите со вештачка интелигенција на ниво на претпријатие.
- Надзор и одговорност: Интегрираното известување и следењето ќе им помогнат на организациите да го документираат тестирањето, да ги следат промените со текот на времето и да ги исполнат растечките очекувања за управување, ризик и усогласеност за вештачка интелигенција.
„Го започнавме Promptfoo затоа што на програмерите им требаше практичен начин за обезбедување на системите со вештачка интелигенција. Како што агентите за вештачка интелигенција стануваат поповрзани со реални податоци и системи, нивното обезбедување и потврдување е попредизвикувачко и поважно од кога било. Приклучувањето кон OpenAI ни овозможува да ја забрзаме оваа работа, носејќи посилни можности за безбедност, сигурност и управување до тимовите што градат реални системи на вештачка интелигенција.
Со задоволство го поздравуваме тимот на Promptfoo и продолжуваме да ги развиваме алатките што им се потребни на претпријатијата за да распоредуваат безбедна, сигурна вештачка интелигенција.
Завршувањето на аквизицијата е предмет на вообичаени услови за завршување.
