ขอแนะนำโหมดโหมดล็อกดาวน์และป้ายกำกับความเสี่ยงสูงที่ใช้รูปแบบเดียวกันทั่วทั้ง ChatGPT
เมื่อ AI ทำงานที่ซับซ้อนมากขึ้น โดยเฉพาะงานที่ต้องใช้เว็บและแอปที่เชื่อมต่อกัน ระดับความเสี่ยงด้านความปลอดภัยก็เปลี่ยนไป
หนึ่งในความเสี่ยงใหม่ที่สำคัญอย่างยิ่งคือ การแทรกคำสั่ง การโจมตีแบบนี้เกิดขึ้นเมื่อบุคคลที่สามพยายามชักนำระบบสนทนา AI ให้ทำตามคำสั่งอันตรายหรือเผยข้อมูลสำคัญโดยไม่ตั้งใจ
วันนี้เราขอแนะนำการป้องกันใหม่สองรายการที่ออกแบบมาเพื่อช่วยให้ผู้ใช้และองค์กรลดความเสี่ยงจากการโจมตีด้วยการแทรกคำสั่ง โดยมีการมองเห็นความเสี่ยงที่ชัดเจนขึ้นและการควบคุมที่เข้มงวดขึ้น
- โหมดล็อกดาวน์ ใน ChatGPT เป็นการตั้งค่าความปลอดภัยขั้นสูงที่เลือกใช้ได้สำหรับผู้ใช้ที่มีความเสี่ยงสูง
- ป้ายกำกับ “ความเสี่ยงสูง” ใช้ในส่วนของความสามารถที่อาจทำให้ความเสี่ยงสูงขึ้นใน ChatGPT, ChatGPT Atlas และ Codex
การเพิ่มฟีเจอร์เหล่านี้ช่วยขยายการป้องกันที่เรามีอยู่แล้วในระดับโมเดล ระดับผลิตภัณฑ์ และระดับระบบ ซึ่งรวมถึงการทำแซนด์บ็อกซ์ การป้องกันการลอบนำข้อมูลออกโดยใช้ URL การตรวจสอบและการบังคับใช้ และ การควบคุมระดับองค์กร เช่น การควบคุมการเข้าถึงตามบทบาทและบันทึกการตรวจสอบ
โหมดล็อกดาวน์เป็นการตั้งค่าความปลอดภัยขั้นสูงแบบเลือกใช้ โดยออกแบบมาเพื่อกลุ่มผู้ใช้ที่ให้ความสำคัญกับความปลอดภัยเป็นหลัก เช่น ผู้บริหารหรือทีมความปลอดภัยขององค์กรขนาดใหญ่ที่ต้องการการป้องกันระดับสูงจากภัยคุกคามขั้นสูง ผู้ใช้ส่วนใหญ่ไม่จำเป็นต้องใช้โหมดนี้ โหมดล็อกดาวน์จำกัดการโต้ตอบของ ChatGPT กับระบบภายนอกอย่างเข้มงวด เพื่อลดความเสี่ยงของการรั่วไหลของข้อมูลที่เกิดจากการแทรกคำสั่ง
โหมดล็อกดาวน์ปิดการทำงานของเครื่องมือและความสามารถบางอย่างแบบกำหนดผลล่วงหน้า เพื่อกันไม่ให้ผู้ไม่หวังดีใช้ช่องโหว่ดึงข้อมูลอ่อนไหวจากการสนทนาหรือแอปที่เชื่อมต่อผ่านการโจมตีอย่างเช่น การแทรกคำสั่ง
ตัวอย่างเช่น การท่องเว็บในโหมดล็อกดาวน์ จะถูกจำกัดไว้เฉพาะเนื้อหาที่แคชไว้ ดังนั้นระบบไม่ส่งคำขอเครือข่ายแบบสดออกไปนอกเครือข่ายที่ OpenAI ดูแล ข้อจำกัดนี้ถูกออกแบบมาเพื่อป้องกันการรั่วไหลของข้อมูลที่มีความอ่อนไหวไปยังผู้โจมตีผ่านการท่องเว็บ ฟีเจอร์บางอย่างจะไม่สามารถใช้งานได้เลยเมื่อเราไม่สามารถรับประกันความปลอดภัยของข้อมูลได้อย่างแน่นอน
เราออกแบบโหมดล็อกดาวน์ ให้เป็นการตั้งค่าแบบกำหนดผลล่วงหน้าที่ช่วยลดความเสี่ยงของการแชร์ข้อมูลโดยไม่ตั้งใจ ด้วยการจำกัดการเชื่อมต่อของ ChatGPT กับระบบภายนอกบางระบบอย่างเข้มงวด
แผนธุรกิจของ ChatGPT มี ความปลอดภัยของข้อมูลในระดับองค์กร อยู่แล้ว โหมดล็อกดาวน์ได้รับการพัฒนาต่อยอดจากการปกกันเหล่านั้นและพร้อมใช้งานสำหรับ ChatGPT Enterprise, ChatGPT Edu, ChatGPT for Healthcare และ ChatGPT for Teachers ผู้ดูแลระบบสามารถเปิดใช้งานได้ใน การตั้งค่าเวิร์กสเปซ(เปิดในหน้าต่างใหม่) โดยสร้าง บทบาทใหม่(เปิดในหน้าต่างใหม่) เมื่อเปิดใช้งาน โหมดล็อกดาวน์จะเพิ่มข้อจำกัดเพิ่มเติมซ้อนทับกับการตั้งค่าของผู้ดูแลระบบที่มีอยู่
เรียนรู้เพิ่มเติมเกี่ยวกับโหมดล็อกดาวน์ได้ที่ ศูนย์ช่วยเหลือ(เปิดในหน้าต่างใหม่)ของเรา
เนื่องจากเวิร์กโฟลว์สำคัญบางอย่างทำงานผ่านแอป ผู้ดูแลระบบเวิร์กสเปซจึงต้องมีการควบคุมที่ละเอียดมากขึ้น พวกเขาสามารถระบุได้ว่าแอปไหนและการกระทำใดภายในแอปนั้นที่ผู้ใช้สามารถเข้าถึงได้ในโหมดล็อกดาวน์ นอกจากนี้โหมดล็อกดาวน์แล้ว ยังมีแพลตฟอร์มบันทึกการปฏิบัติตาม API(เปิดในหน้าต่างใหม่) ที่ให้การมองเห็นอย่างละเอียดเกี่ยวกับการใช้งานแอป ข้อมูลที่แชร์ และแหล่งที่มาเชื่อมต่อ ช่วยให้ผู้ดูแลระบบสามารถรักษาการกำกับดูแลได้
เราวางแผนที่จะทำให้โหมดล็อกดาวน์พร้อมใช้งานสำหรับผู้บริโภคในอีกไม่กี่เดือนข้างหน้า
ผลิตภัณฑ์ AI จะมีประโยชน์มากขึ้นเมื่อเชื่อมต่อกับแอปและเว็บของคุณ และเราได้ทุ่มเทอย่างหนักในการ รักษาความปลอดภัยของข้อมูลที่เชื่อมต่อ ในขณะเดียวกันความสามารถบางด้านของเครือข่ายนำมาซึ่งความเสี่ยงใหม่ โดยมาตรการความปลอดภัยในอุตสาหกรรมยังไม่ตอบโจทย์เต็มที่ ผู้ใช้บางคนอาจยอมรับความเสี่ยงเหล่านี้ได้ และเราเชื่อว่าผู้ใช้ควรมีอิสระในการตัดสินใจว่าจะใช้หรือไม่ และใช้ฟีเจอร์เหล่านี้อย่างไร โดยเฉพาะเมื่อทำงานกับข้อมูลส่วนตัวของตน
แนวทางของเราคือการให้คำแนะนำในผลิตภัณฑ์สำหรับฟีเจอร์ที่อาจเพิ่มความเสี่ยง เพื่อเพิ่มความชัดเจนและความสอดคล้อง เราจัดรูปแบบการติดป้ายให้ความสามารถที่มีอยู่บางส่วนให้เป็นมาตรฐานเดียวกัน ฟีเจอร์เหล่านี้จะใช้ป้ายกำกับ “ความเสี่ยงสูง” แบบเดียวกันในน ChatGPT, ChatGPT Atlas และ Codex เพื่อให้ผู้ใช้ได้รับคำแนะนำเดียวกันไม่ว่าจะพบฟีเจอร์เหล่านี้ที่ใดก็ตาม
ตัวอย่างเช่น ใน Codex ซึ่งเป็นผู้ช่วยด้านโค้ด นักพัฒนาสามารถอนุญาตให้ Codex เข้าถึงเครือข่าย เพื่อให้มันดำเนินการบนเว็บอย่างการค้นหาเอกสารได้ หน้าการตั้งค่าที่เกี่ยวข้องจะแสดงป้าย “ความเสี่ยงสูง” พร้อมคำอธิบายชัดเจนว่ามีการเปลี่ยนแปลงอะไร ความเสี่ยงใดที่อาจเกิดขึ้น และเมื่อใดที่การเข้าถึงนั้นเหมาะสม
ภาพหน้าจอของหน้าจอการตั้งค่า Codex ที่ผู้ใช้สามารถกำหนดการเข้าถึงเครือข่ายของ Codex ได้
เรายังคงทุ่มเทในการปรับปรุงมาตรการความปลอดภัยและการป้องกัน โดยเฉพาะสำหรับความเสี่ยงที่เป็นเรื่องใหม่ หรือความเสี่ยงที่เพิ่มขึ้น เมื่อเราปรับปรุงมาตรการป้องกันสำหรับฟีเจอร์เหล่านี้แล้ว เราจะลบป้าย “ความเสี่ยงสูง” เมื่อมั่นใจว่าความก้าวหน้าด้านความปลอดภัยได้ลดความเสี่ยงเหล่านี้เพียงพอสำหรับการใช้งานทั่วไป เรายังคงอัปเดตรายการฟีเจอร์ที่มีป้ายนี้อย่างต่อเนื่อง เพื่อให้ผู้ใช้รับทราบความเสี่ยงได้ดีที่สุด
ผู้เขียน
อ่านต่อ
