OpenAI Promptfoo-г худалдан авна
OpenAI Frontier дахь агентын аюулгүй байдлын тест, үнэлгээний чадамжийг хурдасгаж байна
Бид хөгжүүлэлтийн явцад AI системийн эмзэг байдлыг илрүүлж, засахад байгууллагуудад тусалдаг AI аюулгүй байдлын платформ болох Promptfoo-г худалдан авч байна. Худалдан авалт эцэслэн дуусмагц бид Promptfoo-гийн технологийг AI хамтрагчдыг бүтээж, ажиллуулах манай платформ болох OpenAI Frontier-д шууд нэгтгэнэ.
Байгууллагууд AI хамтрагчдыг бодит ажлын урсгалд нэвтрүүлэхийн хэрээр үнэлгээ, аюулгүй байдал, нийцэл нь суурь шаардлага болж байна. Байгууллагуудад агентын зан төлөвийг системтэйгээр шалгах, нэвтрүүлэхээс өмнө эрсдэлийг илрүүлэх, мөн хугацааны явцад хяналт, засаглал, хариуцлагыг дэмжих тодорхой бүртгэл хөтлөх арга зам хэрэгтэй.
Ian Webster, Michael D’Angelo нарын удирдсан Promptfoo баг нь Fortune 500 компанийн 25 хувиас дээш хувийн итгэлийг хүлээсэн хүчирхэг хэрэгслүүдийн цогцыг, мөн Том хэлний загвар (LLM) хэрэглээг үнэлэх, red-teaming хийхэд өргөн хэрэглэгддэг нээлттэй эхийн(шинэ цонхонд нээгдэнэ) CLI болон санг бүтээсэн. Бид хамтдаа нээлттэй эхийн төслийг үргэлжлүүлэн хөгжүүлэхийн зэрэгцээ Frontier доторх нэгдсэн байгууллагын чадамжуудыг ахиулсаар байх болно.
«Promptfoo нь байгууллагын хэмжээний AI системийг үнэлэх, хамгаалах, турших чиглэлээр инженерчлэлийн гүнзгий туршлага авчирч байна. Тэдний ажил нь бизнесүүдэд аюулгүй, найдвартай AI хэрэглээг нэвтрүүлэхэд тусалдаг бөгөөд эдгээр чадамжийг Frontier-д шууд оруулж байгаадаа бид баяртай байна.»
Бид Frontier дээр агент бүтээж буй байгууллагуудад зориулсан хэд хэдэн үндсэн чадамж дээр ажиллана:
- Платформд суурилуулсан хамгаалалт, аюулгүй байдлын тест: Автоматжуулсан хамгаалалтын тест ба red-teaming чадамжууд нь Frontier платформын үндсэн хэсэг болж, зааварт халдлага, jailbreak, өгөгдөл алдагдал, хэрэгслийн буруу ашиглалт, бодлогод нийцэхгүй агентын үйлдэл зэрэг эрсдэлийг байгууллагуудад илрүүлж, засахад тусална.
- Хөгжүүлэлтийн ажлын урсгалд нэгтгэсэн хамгаалалт ба үнэлгээ: Frontier нь агентын эрсдэлийг эрт илрүүлэх, шалгах, засахад шаардлагатай ажлын урсгалуудтай гүнзгий нэгтгэгдэж, хамгаалалтыг байгууллагын AI системийг хэрхэн хөгжүүлж, ажиллуулдгийн үндсэн хэсэг болгоно.
- Хяналт ба хариуцлага: Нэгдсэн тайлагнал, мөрдөх чадвар нь байгууллагуудад тестийг баримтжуулах, өөрчлөлтийг хугацааны явцад хянах, мөн AI-д тавигдаж буй засаглал, эрсдэл, нийцлийн өсөн нэмэгдэж буй хүлээлтийг хангахад тусална.
«Хөгжүүлэгчдэд AI системийг хамгаалах бодит арга хэрэгтэй байсан учраас бид Promptfoo-г эхлүүлсэн. AI агентууд бодит өгөгдөл, системүүдтэй улам их холбогдохын хэрээр тэдгээрийг хамгаалж, баталгаажуулах нь урьд урьдаас илүү хэцүү, бас чухал болж байна. OpenAI-д нэгдсэнээр бид энэ ажлыг хурдасгаж, бодит ертөнцийн AI системийг бүтээж буй багуудад илүү хүчтэй хамгаалалт, аюулгүй байдал, засаглалын чадамжийг хүргэх боломжтой болно.»
Бид Promptfoo багийг хүлээн авч, байгууллагуудад аюулгүй, найдвартай AI нэвтрүүлэхэд хэрэгтэй хэрэгслүүдийг үргэлжлүүлэн бүтээхдээ баяртай байна.
Худалдан авалт хаагдах нь ердийн хаалтын нөхцөлүүдээс хамаарна.
