การให้บริการการไม่เก็บข้อมูลสำหรับโมเดลระดับแนวหน้า

การไม่เก็บข้อมูลเป็นหลักประกันที่ชัดเจนสำหรับลูกค้า API ที่มีสิทธิ์ โดย OpenAI จะไม่เก็บรักษาพรอมต์หรือคำตอบของโมเดลเมื่อประมวลผลคำขอเสร็จสิ้นแล้ว บุคลากรของ OpenAI ไม่สามารถเข้าถึงเนื้อหาของลูกค้าเพื่อตรวจสอบได้¹ และข้อมูลของลูกค้าองค์กรจะไม่ถูกนำไปใช้ฝึกโมเดลของเรา เว้นแต่ลูกค้าจะให้ความยินยอมอย่างชัดแจ้ง

เมื่อโมเดลรับผิดชอบงานที่ยาวนานและซับซ้อนขึ้น ความเสี่ยงร้ายแรงบางประการอาจปรากฏให้เห็นก็ต่อเมื่อพิจารณาการโต้ตอบหลายครั้งร่วมกัน ระบบความปลอดภัยที่รองรับ ZDR ในปัจจุบันจะประเมินการโต้ตอบแต่ละครั้งแยกกัน วันนี้ เราเปิดตัวตัวอย่างการประมวลผลความปลอดภัยแบบส่วนตัว ซึ่งออกแบบมาให้ตรวจหารูปแบบจากปฏิสัมพันธ์ที่เกี่ยวข้องกันได้ โดยไม่ให้บุคลากรของ OpenAI เข้าถึงเนื้อหาต้นทาง

สำหรับการใช้งาน ZDR เนื้อหาของลูกค้าจะยังคงอยู่ในโครงสร้างพื้นฐานที่ลูกค้าเป็นผู้ควบคุม นอกจากนี้ เรายังกำลังพัฒนาตัวเลือกสำหรับจัดเก็บเนื้อหาบนโครงสร้างพื้นฐานของ OpenAI โดยใช้กุญแจเข้ารหัสที่อยู่ภายใต้การควบคุมของลูกค้า ในทั้งสองกรณี ระบบอัตโนมัติสามารถตรวจหาการใช้งานที่อาจไม่เหมาะสมและส่งกลับสัญญาณด้านความปลอดภัยที่จำกัดขอบเขต โดยไม่เปิดเผยพรอมต์หรือคำตอบต้นทางแก่บุคลากรของ OpenAI

ความเสี่ยงร้ายแรงที่สุดด้านความปลอดภัยของ AI อาจไม่ปรากฏให้เห็นจากการโต้ตอบเพียงครั้งเดียว บ่อยครั้ง เจตนาที่อาจก่อให้เกิดอันตรายจะชัดเจนขึ้นก็ต่อเมื่อพิจารณาการโต้ตอบหลายครั้งร่วมกัน ความเสี่ยงในลักษณะเดียวกันอาจเกิดขึ้นเมื่อผู้ไม่หวังดีพยายามทดสอบขีดจำกัดมาตรการป้องกันซ้ำๆ ประสานงานผ่านหลายบัญชี หรืออำพรางภัยคุกคามให้ดูเหมือนงานวิจัยทั่วไป ความเสี่ยงยังอาจพัฒนาขึ้นระหว่างงานที่เอเจนต์ดำเนินการ เช่น เมื่อระบบเริ่มเบี่ยงเบนจากเจตนาของผู้ใช้ด้วยการดำเนินการต่อหลังจากได้รับคำสั่งให้หยุดแล้ว

เมื่อระบบ AI รับผิดชอบงานที่ยาวนานและซับซ้อนขึ้น บริบทในภาพรวมนี้ยิ่งมีความสำคัญต่อการแยกแยะการใช้งานโดยสุจริตออกจากการใช้ในทางที่ผิด และช่วยให้เอเจนต์ AI ทำงานภายในขอบเขตอำนาจที่ได้รับมอบหมายไว้

เมื่อไม่นานมานี้ การใช้งานโมเดลระดับแนวหน้าบางรูปแบบกำหนดให้ลูกค้าอนุญาตให้ผู้ให้บริการ AI เก็บเนื้อหาละเอียดอ่อนไว้เพื่อตรวจสอบด้านความปลอดภัย สำหรับองค์กรจำนวนมาก ข้อกำหนดนี้ไม่สอดคล้องกับภาระหน้าที่ด้านความมั่นคงปลอดภัยหรือคำมั่นที่ให้ไว้กับผู้ที่องค์กรให้บริการ

การประมวลผลความปลอดภัยแบบส่วนตัวออกแบบมาเพื่อให้เรายังคงให้บริการ ZDR ต่อไปได้

การประมวลผลความปลอดภัยแบบส่วนตัวต่อยอดจากมาตรการป้องกันอัตโนมัติที่ใช้อยู่แล้วในการปรับใช้ ZDR และรูปแบบอื่นๆ ระบบความปลอดภัยที่รองรับ ZDR ในปัจจุบันจะประเมินการโต้ตอบแต่ละครั้งแยกกัน ส่วนการประมวลผลความปลอดภัยแบบส่วนตัวจะขยายมาตรการเหล่านั้นให้ครอบคลุมการโต้ตอบที่เกี่ยวข้องกัน ทำให้ระบบอัตโนมัติตรวจหารูปแบบได้โดยที่บุคลากรของ OpenAI ไม่สามารถเข้าถึงเนื้อหาของลูกค้าที่จัดเก็บไว้

สามารถประมวลผลเนื้อหาของลูกค้าได้ไม่ว่าจะจัดเก็บไว้ที่ใด ทั้งในโครงสร้างพื้นฐานที่ลูกค้าควบคุมสำหรับการใช้งาน ZDR หรือในพื้นที่จัดเก็บที่ OpenAI ให้บริการ เมื่อใช้พื้นที่จัดเก็บของ OpenAI เนื้อหาของลูกค้าจะได้รับการเข้ารหัสด้วยกุญแจที่ลูกค้าเป็นผู้ควบคุม บุคลากรของ OpenAI ไม่มีสำเนากุญแจดังกล่าว จึงไม่สามารถเข้าถึงเนื้อหาต้นทางได้

หากตรวจพบความเสี่ยง OpenAI จะได้รับข้อมูลสัญญาณแบบจำกัดที่ระบุเฉพาะประเภทของกิจกรรมที่เกี่ยวข้อง เช่นเดียวกับระบบความปลอดภัยในปัจจุบัน ข้อมูลดังกล่าวใช้ประกอบการพิจารณาว่าควรบังคับใช้นโยบายหรือไม่ โดยบุคลากรของ OpenAI จะไม่ได้รับสิทธิ์เข้าถึงเนื้อหาของลูกค้า แม้ระบบจะตั้งค่าสถานะเนื้อหานั้นแล้วก็ตาม

ลูกค้าสามารถตรวจสอบการแจ้งเตือนและการตัดสินใจบังคับใช้นโยบายได้โดยใช้ข้อมูลที่มีอยู่ในระบบของตนเอง หากต้องการยื่นอุทธรณ์ ชี้แจงการใช้งานโดยสุจริต หรือสนับสนุนการสอบสวนกรณีการใช้งานในทางที่ผิดซึ่งได้รับการยืนยันแล้ว ลูกค้าสามารถเลือกแชร์ข้อมูลที่เกี่ยวข้องกับ OpenAI ได้

ขณะนี้กำลังทดสอบการประมวลผลความปลอดภัยแบบส่วนตัวกับลูกค้ากลุ่มแรกเราตัดสินใจเผยรายละเอียดเบื้องต้นในตอนนี้ เพราะลูกค้าสื่อสารกับเราอย่างชัดเจนว่าพวกเขาต้องการทราบล่วงหน้าและวางใจได้ว่าเนื้อหาของตนจะได้รับการปกป้องอย่างไร เมื่อระบบ AI มีความสามารถเพิ่มขึ้น

พันธกิจของเราคือทำให้ปัญญาประดิษฐ์ทั่วไปเป็นประโยชน์ต่อมนุษยชาติทั้งมวล ความร่วมมือกับลูกค้าและพันธมิตรเป็นหัวใจสำคัญของการสร้างมาตรการป้องกันที่มีประสิทธิผล ดังที่หลักการของเราระบุไว้อย่างชัดเจน ไม่มีห้องปฏิบัติการ AI แห่งใดรับมือความเสี่ยงอุบัติใหม่ได้โดยลำพัง การประมวลผลความปลอดภัยแบบส่วนตัวสะท้อนแนวทางดังกล่าว และกำลังได้รับการพัฒนาร่วมกับลูกค้าจากหลากหลายอุตสาหกรรม ภูมิภาค และบริษัททุกขนาด

องค์กรที่เราร่วมงานด้วยดูแลข้อมูลที่ละเอียดอ่อนที่สุดบางส่วนในภาคส่วนของตน ไม่ว่าจะเป็นบันทึกทางการเงิน ข้อมูลสุขภาพ แผนธุรกิจที่เป็นความลับ และงานวิจัยที่เป็นกรรมสิทธิ์ การปกป้องข้อมูลเหล่านี้มีความสำคัญต่อการปฏิบัติตามข้อกำหนดของหน่วยงานกำกับดูแล การรักษาความไว้วางใจของลูกค้า และการคงไว้ซึ่งความได้เปรียบในการแข่งขัน

ความคิดเห็นของพวกเขาช่วยให้เราสร้างมาตรการป้องกันที่แข็งแกร่งขึ้น พร้อมคงข้อมูลไว้ภายใต้การควบคุมของพวกเขา

เราจะทำงานร่วมกับลูกค้าต่อไปในรายละเอียดด้านเทคนิคและการดำเนินงานของแนวทางนี้ เราวางแผนเริ่มทยอยเปิดตัวการประมวลผลความปลอดภัยแบบส่วนตัว พร้อมเผยแพร่เอกสารด้านเทคนิคในเดือนกันยายน เราจะแจ้งข้อมูลให้ลูกค้าทราบในทุกขั้นตอน ด้วยการเผยแพร่ข้อมูลอัปเดตล่วงหน้า อธิบายว่าการเปลี่ยนแปลงเหล่านั้นส่งผลต่อคำมั่นที่มีอยู่อย่างไร พร้อมมอบเวลาและการสนับสนุนที่ลูกค้าต้องใช้ในการวางแผนล่วงหน้า