OpenAI เตรียมเข้าซื้อกิจการ Promptfoo
เร่งพัฒนาขีดความสามารถด้านการทดสอบและการประเมินความปลอดภัยของเอเจนต์ใน OpenAI Frontier
เรากำลังเข้าซื้อกิจการ Promptfoo ซึ่งเป็นแพลตฟอร์มด้านความปลอดภัยของ AI ที่ช่วยให้องค์กรต่างๆ สามารถค้นหาและแก้ไขจุดอ่อนในระบบ AI ระหว่างขั้นตอนการพัฒนาได้ เมื่อการเข้าซื้อกิจการเสร็จสิ้น เราจะนำเทคโนโลยีของ Promptfoo เข้ามารวมกับ OpenAI Frontier แพลตฟอร์มของเราสำหรับการสร้างและดำเนินงานร่วมกับ AI เสมือนเพื่อนร่วมงานโดยตรง
เมื่อองค์กรต่างๆ เริ่มนำเพื่อนร่วมงาน AI มาใช้งานจริงในกระบวนการทำงาน การประเมินผล ความปลอดภัย และการปฏิบัติตามข้อกำหนดจึงกลายเป็นรากฐานที่จำเป็นอย่างยิ่ง องค์กรต่างๆ จำเป็นต้องมีแนวทางที่เป็นระบบในการทดสอบพฤติกรรมของเอเจนต์ การตรวจหาความเสี่ยงก่อนเริ่มใช้งานจริง และการจัดเก็บบันทึกที่ชัดเจนเพื่อสนับสนุนการกำกับดูแล การบริหารจัดการ และความรับผิดชอบในระยะยาว
ทีม Promptfoo ซึ่งนำโดย Ian Webster และ Michael D’Angelo ได้สร้างชุดเครื่องมืออันทรงพลังที่ได้รับความไว้วางใจจากบริษัทใน Fortune 500 มากกว่า 25% พร้อมด้วย CLI และไลบรารี โอเพนซอร์ส(เปิดในหน้าต่างใหม่) ที่มีการใช้งานอย่างแพร่หลายการประเมินผลและ Red Teaming ของแอปพลิเคชัน LLM เราจะร่วมมือกันพัฒนาโครงการโอเพนซอร์สต่อไป พร้อมกับยกระดับขีดความสามารถสำหรับองค์กรที่ผสานอยู่ใน Frontier ให้ก้าวหน้ายิ่งขึ้น
“ทีม Promptfoo มีทักษะทางวิศวกรรมที่เชี่ยวชาญในการวิเคราะห์ วางระบบความปลอดภัย และทดสอบประสิทธิภาพของ AI สำหรับกลุ่มธุรกิจขนาดใหญ่ ผลงานของพวกเขาช่วยให้ธุรกิจต่างๆ สามารถใช้งานแอปพลิเคชัน AI ที่มีความปลอดภัยและน่าเชื่อถือ และเรารู้สึกตื่นเต้นที่จะนำขีดความสามารถเหล่านี้มาใส่ไว้ใน Frontier โดยตรง”
เราจะขยายศักยภาพหลักในหลายด้านเพื่อสนับสนุนองค์กรต่างๆ ที่พัฒนาเอเจนต์ผ่านแพลตฟอร์ม Frontier
- การทดสอบด้านความมั่นคงปลอดภัยและความปลอดภัยที่ผสานอยู่ในแพลตฟอร์ม: ความสามารถในการทดสอบความปลอดภัยแบบอัตโนมัติและการทำ Red Teaming จะกลายเป็นส่วนหนึ่งของแพลตฟอร์ม Frontier โดยตรง เพื่อช่วยให้องค์กรสามารถระบุและแก้ไขความเสี่ยงต่างๆ เช่น การเจาะระบบผ่านคำสั่ง การเจาะระบบรักษาความปลอดภัย การรั่วไหลของข้อมูล การใช้เครื่องมือผิดวัตถุประสงค์ และการปฏิบัติงานของเอเจนต์ที่ผิดนโยบายบริษัท
- การผสานรวมความปลอดภัยและการประเมินผลเข้ากับเวิร์กโฟลว์การพัฒนา: Frontier จะผสานการทำงานเข้ากับกระบวนการที่จำเป็นเพื่อระบุ ตรวจสอบ และแก้ไขความเสี่ยงของเอเจนต์ได้รวดเร็วยิ่งขึ้น ซึ่งช่วยให้ความปลอดภัยกลายเป็นส่วนสำคัญหลักในการพัฒนาและใช้งานระบบ AI ขององค์กร
- การกำกับดูแลและความรับผิดชอบ: ระบบรายงานและการตรวจสอบย้อนกลับแบบครบวงจรจะช่วยให้องค์กรสามารถจัดทำเอกสารการทดสอบ ติดตามความเปลี่ยนแปลงที่เกิดขึ้น และรองรับข้อกำหนดที่เข้มงวดขึ้นในด้านการควบคุมดูแล การจัดการความเสี่ยง และมาตรฐานความสอดคล้องทางกฎหมายของเทคโนโลยี AI
“จุดเริ่มต้นของ Promptfoo เกิดจากความต้องการของนักพัฒนาที่อยากได้แนวทางที่ใช้เห็นผลจริงเพื่อดูแลความปลอดภัยของระบบ AI การที่เอเจนต์ AI มีความเชื่อมโยงกับข้อมูลและระบบต่างๆ มากขึ้น การรักษาความปลอดภัยและการตรวจสอบความถูกต้องจึงมีความท้าทายและสำคัญมากกว่าที่เคย การเข้าร่วมกับ OpenAI ช่วยให้เราเร่งกระบวนการทำงานนี้ได้เร็วขึ้น พร้อมทั้งส่งมอบความสามารถด้านความปลอดภัย และการกำกับดูแลที่แข็งแกร่งยิ่งขึ้นให้แก่ทีมงานที่กำลังสร้างระบบ AI สำหรับใช้งานจริง”
เรายินดีเป็นอย่างยิ่งที่ได้ต้อนรับทีมงาน Promptfoo และพร้อมเดินหน้าพัฒนาเครื่องมือที่จำเป็นสำหรับองค์กรต่างๆ เพื่อการใช้งาน AI ที่มีความปลอดภัยและน่าเชื่อถือ
การปิดดีลการเข้าซื้อกิจการนี้ขึ้นอยู่กับเงื่อนไขทั่วไปในการปิดดีลตามธรรมเนียมปฏิบัติ
