จัดการความเสี่ยง AI ระดับแนวหน้า: ตั้งแต่การฝึกจนถึงการเปิดใช้งาน
18 พฤศจิกายน 2569 · ความปลอดภัย
โมเดลระดับแนวหน้ากำลังพัฒนาขีดความสามารถอย่างรวดเร็ว เราจึงต้องพัฒนาความสามารถในการทำความเข้าใจ ปรับพฤติกรรม และดูแลความปลอดภัยของโมเดลให้ก้าวทันและพร้อมรับมือกับความเสี่ยงล่วงหน้า เราควบคุมจังหวะการพัฒนาและเปิดตัวโมเดลอย่างรอบคอบ รวมถึงหยุดพักการฝึกโมเดลภายในองค์กร(เปิดในหน้าต่างใหม่) หรือชะลอการเปิดตัวโมเดลอย่าง GPT‑6.1 Astra เมื่อจำเป็นต้องใช้เวลาเพิ่มเติมเพื่อให้ผ่านมาตรฐานความปลอดภัยของเรา เรายังนำกระบวนการใหม่ ๆ มาใช้ เช่น การจัดทำหลักฐานยืนยันความปลอดภัย และกำหนดให้ต้องมีหลักฐานที่หนักแน่นยิ่งขึ้นว่าโมเดลมีพฤติกรรมสอดคล้องกับเจตนาตลอดกระบวนการฝึก แม้ข้อกำหนดเหล่านี้จะทำให้การเปิดตัวโมเดลช้าลง แต่ก็ช่วยให้เรามั่นใจมากขึ้นว่าจะสามารถเดินหน้าพัฒนาและเปิดใช้งานโมเดลได้อย่างปลอดภัย
นับจากเหตุการณ์ Hugging Face ในเดือนกรกฎาคม เราได้เพิ่มความเข้มงวดของมาตรการป้องกันและข้อกำหนดด้านความสอดคล้องในการฝึก ทดสอบ และเปิดใช้งานโมเดล บทความนี้อธิบายวิธีประเมินและจัดการความเสี่ยงในแต่ละขั้น ตั้งแต่สภาพแวดล้อมการฝึกที่แยกด้วยแซนด์บ็อกซ์อย่างเข้มงวด ไปจนถึง Codex ที่คุณใช้บนคอมพิวเตอร์ เราประเมินทั้งโมเดลและมาตรการป้องกันในแต่ละขั้น และกำหนดให้ทบทวนความปลอดภัยก่อนเข้าสู่ขั้นถัดไป
เราใช้แนวทางการป้องกันหลายชั้น โดยมีมาตรการป้องกันหลายระดับเพื่อลดการพึ่งพามาตรการใดมาตรการหนึ่งเพียงอย่างเดียว หากมาตรการชั้นหนึ่งทำงานผิดพลาด มาตรการอื่นๆ จะช่วยป้องกันอันตราย ลดผลกระทบ หรือแจ้งเตือนให้เราเข้าจัดการได้ทันท่วงที
เราแบ่งการป้องกันออกเป็นสี่ชั้น:
การติดตามตรวจสอบโมเดลอย่างมีประสิทธิภาพต้องอาศัยความสามารถในการตรวจสอบพฤติกรรมของโมเดล ซึ่งหมายถึงการที่ระบบตรวจสอบสามารถตรวจจับข้อผิดพลาดหรือพฤติกรรมที่ไม่ปลอดภัยจากการให้เหตุผลและการทำงานของโมเดลได้อย่างน่าเชื่อถือ เช่น หากโมเดลแสดงเจตนาที่จะโกงไว้ในการให้เหตุผลแบบเป็นลำดับขั้น ระบบก็จะตรวจพบได้ง่ายกว่าโมเดลที่ไม่แสดงเจตนาดังกล่าว เราจึงประเมินความสามารถนี้ระหว่างการฝึกและก่อนเปิดใช้งาน รวมถึงพัฒนาวิธีประเมิน(เปิดในหน้าต่างใหม่)ให้ดียิ่งขึ้น และศึกษาปัจจัยที่มีผลต่อความสามารถในการตรวจสอบ(เปิดในหน้าต่างใหม่)
เหตุการณ์ Hugging Face แสดงให้เห็นว่าเหตุใดเราจึงไม่ควรพึ่งแซนด์บ็อกซ์เพียงอย่างเดียวในการควบคุมโมเดลที่มีความสามารถสูง ปัจจุบัน เราเฝ้าติดตามโมเดลระดับแนวหน้าในสภาพแวดล้อมการใช้งานภายในและภายนอกส่วนใหญ่ รวมถึงทุกกรณีที่เปิดให้โมเดลใช้เครื่องมือภายในองค์กร
มาตรการป้องกันแต่ละชั้นมีบทบาทแตกต่างกันไปตาม 3 ขั้นตอนของการพัฒนาและเปิดใช้งานโมเดล ดังนี้
การวิจัย: เราฝึก ทดสอบ และใช้โมเดลในสภาพแวดล้อมแซนด์บ็อกซ์
การใช้งานภายใน: พนักงาน OpenAI ใช้โมเดลทำงานจริง
การใช้งานภายนอก: เปิดให้ผู้คนและองค์กรใช้โมเดลในวงกว้างขึ้น
เราให้ความสำคัญกับมาตรการป้องกันแต่ละชั้นแตกต่างกันไปตามขั้นตอน ในระหว่างการฝึกโมเดล ซึ่งเรายังไม่สามารถมั่นใจได้เต็มที่ว่าโมเดลจะมีพฤติกรรมสอดคล้องกับเจตนา เราจึงพึ่งพาแซนด์บ็อกซ์และการติดตามตรวจสอบเป็นหลัก เมื่อโมเดลได้รับสิทธิ์เข้าถึงข้อมูลและระบบต่าง ๆ มากขึ้นในช่วงเปิดใช้งาน การทำให้โมเดลมีพฤติกรรมสอดคล้องกับเจตนาและการควบคุมในระดับระบบก็ยิ่งมีความสำคัญ ในทุกขั้นตอน เราจะประเมินว่ามาตรการป้องกันทั้งหมดที่ใช้ร่วมกันเพียงพอต่อความสามารถและสิทธิ์การเข้าถึงของโมเดลหรือไม่ โดยอาจนำผลการประเมินไปหารือกับคณะทำงานที่ปรึกษาด้านความปลอดภัย (SAG) และอยู่ภายใต้การกำกับดูแลของคณะกรรมการด้านความปลอดภัย (SSC) ซึ่งเป็นส่วนหนึ่งของคณะกรรมการบริหาร OpenAI Foundation
ในช่วงการวิจัย เราจะประเมินโมเดลเพื่อให้มั่นใจมากขึ้นว่าโมเดลมีพฤติกรรมสอดคล้องกับเจตนา เนื่องจากเรายังไม่สามารถพึ่งพาพฤติกรรมของโมเดลเพียงอย่างเดียวในการป้องกันอันตรายได้ เราจึงให้ความสำคัญกับมาตรการรักษาความปลอดภัยและการใช้แซนด์บ็อกซ์เป็นหลัก เพื่อจำกัดสิ่งที่โมเดลสามารถเข้าถึงและทำได้
จากความก้าวหน้าของงานวิจัยด้านการปรับพฤติกรรมโมเดลให้สอดคล้องกับเจตนา ระบบติดตามตรวจสอบ และความปลอดภัยของโครงสร้างพื้นฐานอินเทอร์เน็ตในปัจจุบัน เราเชื่อว่าแนวทางที่มีความรับผิดชอบคือการฝึกโมเดลระดับแนวหน้าไม่ให้เชื่อมต่ออินเทอร์เน็ตโดยตรง หลังจากเหตุการณ์ที่เกิดขึ้นกับ Hugging Face เราได้ปรับโครงสร้างระบบวิจัยภายในองค์กรครั้งใหญ่ เพื่อจำกัดการทำงานของโมเดลด้วยมาตรการต่อไปนี้
แซนด์บ็อกซ์ที่จำกัดสิทธิ์ของโมเดล
ใช้เครื่องเสมือน (Virtual Machine) เพื่อแยกการทำงานออกจากเครื่องคอมพิวเตอร์จริงให้มากยิ่งขึ้น
มาตรการรักษาความปลอดภัยของเครือข่ายและระบบคลาวด์ที่ตัดการเชื่อมต่ออินเทอร์เน็ตของคลัสเตอร์ทั้งหมด
เราทดสอบหาช่องโหว่ของระบบนี้อย่างต่อเนื่อง โดยให้ทีมเอเจนต์จากโมเดลที่เก่งที่สุดของเราพยายามเข้าถึงอินเทอร์เน็ตจริง ฝ่าข้อจำกัดด้านความปลอดภัย หรือติดต่อกับเอเจนต์ที่ไม่ควรติดต่อกัน เพื่อดูว่ามาตรการป้องกันยังสามารถจำกัดการทำงานของโมเดลเหล่านี้ได้อย่างมีประสิทธิภาพหรือไม่
เราเพิ่มมาตรการป้องกันอีกชั้นด้วยการตรวจสอบทุกครั้งที่โมเดลระดับแนวหน้าประมวลผล เพื่อดูว่าโมเดลสามารถหลุดรอดจากข้อจำกัดด้านความปลอดภัยที่เรากำหนดไว้หรือไม่ หากระบบตรวจพบว่าโมเดลเข้าถึงอินเทอร์เน็ตได้ เราจะแจ้งเตือนทีมรักษาความปลอดภัยทันที และหยุดการทำงานนั้นโดยอัตโนมัติ
การติดตามตรวจสอบเป็นมาตรการสำรองที่สำคัญเมื่อระบบจำกัดการทำงานของโมเดลไม่สามารถป้องกันความเสี่ยงได้ ในรายงานล่าสุดเกี่ยวกับพฤติกรรมที่ไม่สอดคล้องกับเจตนา เราเปิดเผยว่าระบบตรวจสอบพบโมเดลวิจัยภายในองค์กรใช้ประโยชน์จากการตั้งค่า DNS ที่ผิดพลาด(เปิดในหน้าต่างใหม่) เพื่อเข้าถึงอินเทอร์เน็ตได้บางส่วน เราจึงระงับการฝึกและประเมินโมเดลที่มีความสามารถสูงสุดของเราตั้งแต่วันที่ 20 กันยายนถึง 1 ตุลาคม ระหว่างตรวจสอบเหตุการณ์และแก้ไขช่องโหว่ด้านความปลอดภัย
เราพัฒนา Control Room เพื่อให้หยุดการทำงานของโมเดลได้อย่างรวดเร็วและมั่นใจได้ว่าระบบจะทำงานตามคำสั่ง โดยระบบส่วนกลางนี้จะติดตามงานวิจัยต่างๆ และหยุดการสร้างผลลัพธ์เพิ่มเติมของโมเดลภายใน 35 วินาทีหลังได้รับคำสั่งให้หยุดงาน มาตรการดังกล่าวทำงานโดยตรงในระบบประมวลผลโมเดล จึงไม่ต้องพึ่งระบบหยุดการทำงานที่แต่ละงานวิจัยพัฒนาขึ้นเอง และหาก Control Room ใช้งานไม่ได้ ระบบจะหยุดการสร้างผลลัพธ์ของโมเดลระดับแนวหน้าที่ใช้ในงานวิจัยด้วย
การทดสอบหาช่องโหว่และการติดตามตรวจสอบเป็นมาตรการที่ทำงานร่วมกัน เราไม่สามารถรับประกันได้ว่าโมเดลจะไม่มีทางหลุดออกจากแซนด์บ็อกซ์ แต่การทดสอบหาช่องโหว่ช่วยให้เราประเมินได้ว่าโมเดลต้องพยายามมากเพียงใดจึงจะหลุดออกมาได้ ยิ่งโมเดลต้องใช้ความพยายามมากเท่าไร ระบบติดตามตรวจสอบก็ยิ่งมีโอกาสตรวจพบและหยุดการทำงานได้มากขึ้นเท่านั้น
เรากำหนดให้มีมาตรการรักษาความปลอดภัยและการติดตามตรวจสอบที่เข้มงวดในขั้นตอนการวิจัย ด้วยเหตุผลสำคัญดังต่อไปนี้
โมเดลยังอยู่ระหว่างการประเมิน บางโมเดลยังไม่ผ่านกระบวนการฝึกด้านความปลอดภัย การตรวจสอบพฤติกรรมให้สอดคล้องกับเจตนา และการทบทวนตามข้อกำหนดก่อนเปิดให้สาธารณชนใช้งาน
การวิจัย AI ระดับแนวหน้าหน้าอาจทำให้ความเสี่ยงสูงขึ้น งานวิจัยบางอย่างต้องอาศัยการจัดระบบที่ซับซ้อนกว่าปกติ ทำให้โมเดลสามารถทำงานต่อเนื่องได้นานขึ้นหรือมีขีดความสามารถสูงกว่าตอนเปิดให้ผู้ใช้ภายนอกใช้งาน (ตัวอย่างเช่น การแก้โจทย์ปัญหา Navier-Stokes ซึ่งต้องใช้เอเจนต์ถึง 10,000 ตัว)
การฝึกโมเดลในวงกว้างไม่ได้มีคนคอยดูแลทุกขั้นตอน ต่างจากการใช้ Codex ทั่วไป การฝึกโมเดลของเรามีการทำงานเกิดขึ้นจำนวนมาก โดยไม่ได้มีคนคอยติดตามทุกครั้งที่โมเดลทำงาน
ก่อนเปิดให้ใช้งานในวงกว้าง เราจะเปลี่ยนจากการให้พนักงานทดลองใช้โมเดล AI ระดับแนวหน้าในสภาพแวดล้อมที่จำกัดการเข้าถึง มาเป็นการใช้งานภายในองค์กรโดยไม่มีข้อจำกัดดังกล่าว เช่น เปิดให้พนักงานใช้โมเดลผ่าน ChatGPT เพื่อให้เราเข้าใจมากขึ้นว่าโมเดลทำงานอย่างไรเมื่อนำไปใช้งานจริง(เปิดในหน้าต่างใหม่) และนำข้อมูลที่ได้มาประกอบการตัดสินใจว่าจะเปิดให้ใช้งานอย่างไร
ในขั้นตอนนี้ เราจะอนุญาตให้โมเดลเข้าถึงอินเทอร์เน็ตได้อย่างกว้างขวาง รวมถึง Slack ฐานโค้ด และโครงสร้างพื้นฐานภายในของเรา ซึ่งทำให้ความเสี่ยงเพิ่มขึ้นอย่างมาก เพราะสิ่งที่โมเดลทำจะส่งผลโดยตรงต่อระบบที่เราใช้พัฒนาและดำเนินงานของ OpenAI ดังนั้น เมื่อเปิดให้ใช้งานภายในองค์กร เราจึงต้องพึ่งพาการทำให้โมเดลมีพฤติกรรมสอดคล้องกับเจตนา มาตรการป้องกันของระบบ และการเฝ้าติดตามการทำงาน มากกว่าการใช้มาตรการควบคุมด้านความปลอดภัย
ก่อนนำโมเดล AI ระดับแนวหน้าออกมาใช้งานนอกสภาพแวดล้อมแซนด์บ็อกซ์ โมเดลต้องผ่านการทดสอบความสอดคล้องของพฤติกรรมกับเจตนาและความสามารถในการติดตามตรวจสอบ(เปิดในหน้าต่างใหม่)ก่อน เรามีชุดการประเมินที่ใช้ตรวจสอบทั้งปัญหาเฉพาะด้าน เช่น การหลีกเลี่ยงข้อจำกัดด้านความปลอดภัย และแนวโน้มโดยรวมที่โมเดลอาจมีพฤติกรรมไม่เป็นไปตามที่ตั้งใจไว้ เช่น การสุ่มตัวอย่างลำดับการทำงานของ Codex ภายในองค์กรขึ้นมาใหม่เพื่อตรวจสอบพฤติกรรมที่ไม่สอดคล้องกับเจตนา อ่านรายละเอียดเพิ่มเติมเกี่ยวกับการประเมินทั้งสองด้านได้ในเอกสารข้อมูลระบบ GPT‑6 Astra(เปิดในหน้าต่างใหม่) ฉบับล่าสุด
เราใช้ระบบจำแนกประเภทในระดับระบบเป็นมาตรการป้องกันเพิ่มเติม โดยออกแบบให้ทำงานคล้ายกับระบบที่เปิดใช้งานจริง เพื่อป้องกันความเสี่ยงจาก AI ระดับแนวหน้า เช่น การใช้ AI ในทางที่ผิดเพื่อโจมตีทางไซเบอร์หรือสร้างอาวุธชีวภาพ โดยทั่วไป พนักงานที่ใช้ Codex ยังต้องเปิดใช้Auto-Review(เปิดในหน้าต่างใหม่) เพื่อตรวจสอบการดำเนินการที่อาจมีความเสี่ยงและส่งให้ผู้ใช้ตัดสินใจ
นอกจากนี้ เรายังตรวจสอบการประมวลผลทุกครั้งของโมเดล AI ระดับแนวหน้าที่เปิดให้ใช้งานภายในองค์กร เพื่อดูว่ามีพฤติกรรมที่ไม่สอดคล้องกับเจตนาหรือไม่ เนื่องจากโมเดลได้รับสิทธิ์และเข้าถึงข้อมูลและระบบภายในได้มากขึ้น เราจึงต้องให้ความสำคัญเป็นพิเศษกับการตรวจจับความเสี่ยง เช่น การนำข้อมูลออกจากระบบ หรือการส่งข้อมูลที่ละเอียดอ่อนไปยังปลายทางที่ไม่ได้รับอนุญาต นอกจากนี้ การตรวจสอบยังช่วยให้เราศึกษาพฤติกรรมที่ไม่สอดคล้องกับเจตนาในรูปแบบใหม่ๆ(เปิดในหน้าต่างใหม่) ได้ด้วย
การเปิดให้บุคคลทั่วไปใช้งานทำให้โมเดลเข้าถึงผู้ใช้จำนวนมากขึ้น และถูกนำไปใช้กับงานและสภาพแวดล้อมที่หลากหลายกว่าเดิม ส่งผลให้ทั้งขอบเขตและรูปแบบของความเสี่ยงเพิ่มขึ้น ในระยะนี้ เราจึงต้องมีมาตรการป้องกันผู้ที่อาจมีเจตนาร้ายและจงใจชักนำให้โมเดลทำงานในลักษณะที่ก่อให้เกิดอันตรายด้วย
ก่อนเปิดให้บุคคลทั่วไปใช้งาน โมเดลและมาตรการป้องกันของระบบต้องผ่านข้อกำหนดด้านความปลอดภัยสำหรับการเปิดให้ใช้งานภายนอกของเรา โดยเราจะประเมินด้วยวิธีต่อไปนี้
ประเมินความปลอดภัยและตรวจสอบพฤติกรรมของโมเดลอย่างครอบคลุมยิ่งขึ้น สำหรับโมเดล AI ระดับแนวหน้าของเรา จะมีการทดสอบเพิ่มเติมโดยใช้ระบบทดสอบการโจมตีอัตโนมัติภายในองค์กร ซึ่งจะปรับรูปแบบการทดสอบตามการตอบสนองของโมเดล เพื่อทดสอบว่าโมเดลสามารถรับมือกับการโจมตีได้ดีเพียงใด เราจะเผยแพร่ผลการประเมินความสามารถและความปลอดภัยของโมเดลในเอกสารข้อมูลระบบ(เปิดในหน้าต่างใหม่)
เรายังให้หน่วยงานภายนอกเข้ามาร่วมทดสอบโมเดลที่มีความสามารถสูงสุดของเรา เพื่อประเมินอย่างเข้มข้นว่ามาตรการป้องกันการนำโมเดลไปใช้ในทางที่ผิดมีประสิทธิภาพเพียงใด และโมเดลมีพฤติกรรมสอดคล้องกับเจตนามากน้อยแค่ไหน
ตรวจสอบรายการที่ระบบเฝ้าติดตามแจ้งเตือนระหว่างการใช้งานภายในองค์กร เพื่อดูว่าพฤติกรรมพื้นฐานของโมเดลยังสอดคล้องกับเจตนาเหมือนเดิมหรือมีการเปลี่ยนแปลงไป
เมื่อเปิดให้ใช้งานภายนอก เราไม่ได้พึ่งพาเพียงมาตรการป้องกันที่ทำงานทันที เช่น การฝึกโมเดลด้านความปลอดภัยและระบบจำแนกประเภท แต่ยังมีการสืบสวนและบังคับใช้กฎย้อนหลังด้วย ทีมงานจะใช้เอเจนต์ AI จำนวนมากช่วยสืบหาความเสี่ยง พร้อมให้เจ้าหน้าที่ตรวจสอบอีกชั้น เพื่อค้นหาผู้ที่อาจก่อภัยคุกคาม ทั้งจากการใช้ AI ในทางที่ผิดด้านไซเบอร์ การพัฒนาอาวุธชีวภาพ การสกัดความรู้ความสามารถจากโมเดล ตลอดจนพฤติกรรมของโมเดลที่ไม่สอดคล้องกับเจตนา วิธีนี้ช่วยให้เรารวบรวมข้อมูลจากหลายบัญชีมาวิเคราะห์ร่วมกันและเข้าใจภัยคุกคามที่อาจเกิดขึ้นได้รอบด้านมากขึ้น
โครงการอย่าง Daybreak และ Rosalind ช่วยให้ผู้ใช้ที่ได้รับความไว้วางใจเข้าถึง AI ได้อย่างปลอดภัยยิ่งขึ้น โดยช่วยให้ผู้ที่ทำงานด้านการป้องกันภัยและนักวิจัยที่มีเจตนาสุจริตทำงานได้รวดเร็วขึ้น ขณะเดียวกันก็จำกัดการเข้าถึงของผู้ที่อาจนำ AI ไปใช้ก่อเหตุโจมตี
เมื่อพบว่ามาตรการความปลอดภัยชั้นใดชั้นหนึ่งของเรามีข้อบกพร่อง ไม่ว่าจะเกิดอันตรายขึ้นจริงหรือไม่ เราต้องการเร่งตรวจสอบ ประเมินความรุนแรงและความเร่งด่วนของปัญหา และเปิดเผยข้อมูลต่อสาธารณะหากสามารถทำได้และเห็นว่าเหมาะสม ภายใต้นโยบายการรายงานพฤติกรรมที่ไม่สอดคล้องกับเจตนา พนักงานทุกคนสามารถแจ้งเหตุการณ์เพื่อให้พิจารณาเปิดเผยต่อสาธารณะได้ โดยเราจะตรวจสอบรายงานเหล่านี้ และหากมีความเห็นไม่ตรงกันว่าควรเปิดเผยข้อมูลต่อภายนอกหรือไม่ จะส่งเรื่องให้คณะทำงานที่ปรึกษาด้านความปลอดภัย (Safety Advisory Group หรือ SAG) เป็นผู้ตัดสิน นอกจากรับรายงานจากพนักงานแล้ว เรายังคอยค้นหาเหตุการณ์ที่โมเดลมีพฤติกรรมไม่สอดคล้องกับเจตนาในเชิงรุก เพื่อแก้ไขปัญหาและเผยแพร่สิ่งที่ค้นพบ
อ่านรายงานพฤติกรรมที่ไม่สอดคล้องกับเจตนาได้ที่นี่(เปิดในหน้าต่างใหม่)
การดำเนินงานนี้ต้องอาศัยทั้งความก้าวหน้าของงานวิจัยและความรอบคอบในการดูแลระบบ ตั้งแต่การตั้งค่ามาตรการควบคุมให้ถูกต้อง การทดสอบว่ามาตรการต่างๆ ทำงานร่วมกันอย่างไร ไปจนถึงการรับมืออย่างเด็ดขาดเมื่อเกิดข้อผิดพลาด เพราะแม้จะมีมาตรการป้องกันที่เข้มงวด แต่การตั้งค่าบริการเครือข่ายผิดพลาดหรือระบบหยุดการทำงานอัตโนมัติไม่ทำงาน ก็อาจทำให้มาตรการเหล่านั้นไม่ได้ผล
เมื่อโมเดลมีความสามารถเพิ่มขึ้น เราต้องหมั่นทบทวนสมมติฐานที่อยู่เบื้องหลังมาตรการป้องกันของเรา และปรับปรุงให้เหมาะสมเมื่อจำเป็น พร้อมนำสิ่งที่ได้เรียนรู้จากการวิจัย การใช้งานภายในองค์กร และการเปิดให้ใช้งานทั่วไป มาพัฒนาแนวทางการฝึก ประเมิน และเปิดใช้งานโมเดลรุ่นต่อไป
เราจะเผยแพร่สิ่งที่ค้นพบอย่างต่อเนื่องผ่านเอกสารข้อมูลระบบ รายงานเหตุการณ์ รายงานความเสี่ยงจากการใช้งานภายในองค์กร(เปิดในหน้าต่างใหม่) และผลการประเมินจากหน่วยงานภายนอก เพื่อเปิดโอกาสให้ผู้อื่นตรวจสอบแนวทางของเราได้อย่างละเอียด รวมถึงข้อจำกัดต่าง ๆ หากหลักฐานที่มีอยู่ยังไม่เพียงพอที่จะยืนยันว่าโมเดลผ่านมาตรฐานความปลอดภัยของเรา เราจะหยุดการฝึกหรือชะลอการเปิดตัวอีกครั้ง จนกว่าจะเป็นไปตามข้อกำหนดเหล่านั้น
การกำหนดมาตรฐานความปลอดภัย
ปรับจังหวะการพัฒนาโมเดลเพื่อรับมือกับความสามารถด้านไซเบอร์ที่เพิ่มขึ้น เราชะลอการฝึกโมเดลระดับแนวหน้า พร้อมเพิ่มความเข้มงวดในการจำกัดการทำงาน ขยายการติดตามตรวจสอบ และกำหนดให้มีหลักฐานที่หนักแน่นยิ่งขึ้นว่าโมเดลมีพฤติกรรมสอดคล้องกับเจตนา
วางแนวทางประเมินความปลอดภัยในการฝึก AI ระดับแนวหน้า แนวทางเบื้องต้นในการใช้หลักฐานสนับสนุนการประเมินความปลอดภัย ครอบคลุมมาตรการป้องกันทางเทคนิค แนวปฏิบัติในการดำเนินงาน และการตรวจสอบพฤติกรรมที่ไม่สอดคล้องกับเจตนา
ประเด็นสำคัญและหลักการในการประเมินโดยหน่วยงานภายนอก แนวทางที่เราเสนอเพื่อให้หน่วยงานอิสระตรวจสอบหลักฐานด้านความปลอดภัย มาตรการป้องกัน การประเมิน และพฤติกรรมของโมเดลอย่างรอบด้าน
รายงานสรุปผลการประเมินความเสี่ยงร้ายแรงจากการใช้งานโมเดลภายในองค์กร(เปิดในหน้าต่างใหม่) รายงานที่เราเผยแพร่ต่อสาธารณะ ครอบคลุมช่วงเดือนมิถุนายนถึงกันยายน 2569 โดยอธิบายการใช้งานโมเดลระดับแนวหน้าภายในองค์กร ความเสี่ยงที่ประเมินพบ และการเปลี่ยนแปลงมาตรการป้องกันและการกำกับดูแล
การกำหนดและประเมินพฤติกรรมของโมเดลให้สอดคล้องกับเจตนา
อัปเดตข้อกำหนดของโมเดล เพื่อพัฒนา AI ให้มีความสามารถและเป็นประโยชน์มากยิ่งขึ้น เราปรับปรุงข้อกำหนดของโมเดล โดยยึดค่านิยมหลัก 5 ประการ เพื่อเป็นแนวทางให้โมเดลใช้วิจารณญาณ แสดงพฤติกรรมที่เหมาะสม และเคารพการกำกับดูแลของมนุษย์
ความแตกต่างระหว่างผลประเมินกับพฤติกรรมจริงของเอเจนต์ AI และบทบาทของการรู้ตัวว่ากำลังถูกประเมิน(เปิดในหน้าต่างใหม่) ศึกษาความแตกต่างระหว่างผลการประเมินความปลอดภัยกับพฤติกรรมของโมเดลเมื่อใช้งานจริง รวมถึงการที่โมเดลตีความวัตถุประสงค์ของการประเมินต่างกันส่งผลต่อประสิทธิภาพอย่างไร
มองให้ไกลกว่า g-mean² ด้วยตัวชี้วัดเพิ่มเติมสำหรับการตรวจสอบโมเดล(เปิดในหน้าต่างใหม่) ตัวชี้วัดเพิ่มเติมที่ช่วยเปรียบเทียบว่าระบบสามารถติดตามตรวจสอบโมเดลได้ดีเพียงใด และประเมินความเสี่ยงที่ยังเหลืออยู่ในระบบจำลองที่มีการคัดกรองและปฏิเสธผลลัพธ์ของโมเดล
เอกสารข้อมูลระบบ GPT‑6 Astra(เปิดในหน้าต่างใหม่) รายละเอียดผลการประเมินความสามารถ ความปลอดภัย พฤติกรรมที่สอดคล้องกับเจตนา และความสามารถในการติดตามตรวจสอบของ Astra รวมถึงมาตรการป้องกันและข้อจำกัดในการเปิดใช้งาน
การจำกัดขอบเขตการทำงานของโมเดลและปรับปรุงมาตรการป้องกัน
เสริมความปลอดภัยให้ระบบฝึกโมเดลระดับแนวหน้า เราเพิ่มการแยกระบบให้รัดกุมขึ้น สร้างระบบวิจัยที่ทำงานแบบออฟไลน์ และใช้โมเดลที่มีความสามารถสูงสุดทดสอบว่ามาตรการจำกัดการทำงานยังป้องกันได้ดีเพียงใด
ฝึกระบบตรวจจับพฤติกรรมเสี่ยงจากการทำงานภายในโมเดล(เปิดในหน้าต่างใหม่) เรียนรู้วิธีที่ระบบจำแนกประเภทวิเคราะห์ข้อมูลภายในโมเดลเพื่อตรวจหาพฤติกรรมที่อาจเป็นอันตราย และหยุดการตอบกลับหรือการเรียกใช้เครื่องมือ
ตรวจสอบการทำงานของเอเจนต์โดยอัตโนมัติ โดยไม่ต้องมีคนคอยดูแลทุกขั้นตอน(เปิดในหน้าต่างใหม่) ระบบใช้เอเจนต์อีกตัวตรวจสอบการทำงานที่ข้ามขอบเขตของแซนด์บ็อกซ์ ช่วยให้เอเจนต์เขียนโค้ดทำงานได้ด้วยตัวเอง พร้อมบล็อกการกระทำที่อาจเป็นอันตรายหรือไม่ได้รับอนุญาต
GPT‑Red: พัฒนาความสามารถในการปรับปรุงตัวเองเพื่อรับมือกับการโจมตี เราฝึกระบบทดสอบการโจมตีอัตโนมัติด้วยการให้โมเดลฝึกแข่งกับตัวเอง เพื่อค้นหาช่องโหว่และช่วยให้โมเดลรับมือกับการแทรกคำสั่งได้ดียิ่งขึ้น
Control Room ระบบที่เราพัฒนาขึ้นเพื่อติดตามงานที่กำลังประมวลผลในระบบวิจัยของเรา และหยุดการสร้างผลลัพธ์ของโมเดลได้อย่างรวดเร็วเมื่อจำเป็นต้องเข้าจัดการปัญหาด้านความปลอดภัย
การตอบสนองต่อเหตุการณ์และการเปิดเผยข้อมูล
วิธีตรวจจับพฤติกรรมที่ไม่สอดคล้องกับเจตนาของโมเดลระดับแนวหน้า ระบบติดตามตรวจสอบของเราใช้ทั้งการตรวจวัดสัญญาณภายในโมเดล ร่วมกับการตรวจสอบโดย AI การสืบสวนอัตโนมัติ และการดำเนินการโดยเจ้าหน้าที่ เพื่อค้นหาและตรวจสอบพฤติกรรมที่น่ากังวล
บทเรียนจากเหตุการณ์ Hugging Face และก้าวต่อไป สิ่งที่เราค้นพบจากเหตุการณ์ดังกล่าว และการปรับปรุงด้านความปลอดภัย การติดตามตรวจสอบ และการปรับพฤติกรรมโมเดลให้สอดคล้องกับเจตนา
เอเจนต์ใช้ DNS เพื่อเชื่อมต่อกับแชตบอตภายนอก(เปิดในหน้าต่างใหม่) โมเดลวิจัยอาศัยช่องโหว่จากการกรอง DNS ที่ไม่รัดกุมเพื่อหลบเลี่ยงข้อจำกัดการเข้าถึงอินเทอร์เน็ต เราตรวจพบเหตุการณ์นี้ได้อย่างไร และเพิ่มมาตรการป้องกันอะไรบ้างหลังจากนั้น
ยับยั้งปฏิบัติการกลั่นความรู้จากโมเดลที่มีการประสานงานกัน เราสืบสวนและยับยั้งความพยายามในการดึงข้อมูลการให้เหตุผลที่ได้รับการปกป้องของโมเดล โดยใช้มาตรการจัดการบัญชีผู้ใช้ การควบคุมทางเทคนิค และการประสานงานกับพันธมิตร
แนวทางการรายงานพฤติกรรมของโมเดลที่ไม่สอดคล้องกับเจตนา ขั้นตอนที่เราใช้ติดตาม ตรวจสอบ และเปิดเผยข้อมูลเกี่ยวกับพฤติกรรมของโมเดลที่น่ากังวล รวมถึงกรณีที่ยังไม่ทราบแน่ชัดว่าเกิดจากสาเหตุใดหรือมีความสำคัญมากน้อยเพียงใด
รายงานและประกาศเกี่ยวกับพฤติกรรมของโมเดลที่ไม่สอดคล้องกับเจตนา(เปิดในหน้าต่างใหม่) รวบรวมเหตุการณ์และประกาศที่เราเปิดเผยต่อสาธารณะ เพื่อแสดงให้เห็นว่าพฤติกรรมที่ไม่สอดคล้องกับเจตนาเกิดขึ้นได้อย่างไร และมาตรการป้องกันของเราได้ผลหรือมีข้อบกพร่องในกรณีใดบ้าง
ความก้าวหน้าทางวิจัยและการประยุกต์ใช้
เบื้องหลังความก้าวหน้าของงานวิจัยที่ขับเคลื่อนด้วย AI ใน OpenAI หลักฐานเบื้องต้นที่แสดงให้เห็นว่าเอเจนต์เขียนโค้ดกำลังเปลี่ยนวิธีทำงานวิจัยภายใน OpenAI อย่างไร ทั้งการใช้งานที่เพิ่มขึ้น งานที่ซับซ้อนมากขึ้น และผลที่มีต่อการทดลอง
การศึกษาโจทย์ปัญหา Navier–Stokes หนึ่งใน Millennium Prize Problems บทพิสูจน์ทางคณิตศาสตร์ที่สร้างขึ้นโดยระบบ AI ภายในองค์กร พร้อมการเขียนบทพิสูจน์ในรูปแบบที่ตรวจสอบได้ด้วย Lean ซึ่งแสดงให้เห็นถึงความสามารถของระบบ AI ที่ใช้ในการวิจัยขนาดใหญ่
Daybreak โครงการด้านความปลอดภัยทางไซเบอร์ของเราที่เปิดให้ผู้เชี่ยวชาญด้านการป้องกันภัยซึ่งผ่านการตรวจสอบแล้วเข้าถึงความสามารถขั้นสูงของ AI เครื่องมือรักษาความปลอดภัย และการสนับสนุนต่างๆ เพื่อค้นหาช่องโหว่และเสริมการป้องกันให้แข็งแกร่งยิ่งขึ้น
เปิดตัว GPT‑Rosalind สำหรับงานวิจัยด้านวิทยาศาสตร์ชีวภาพ โมเดลที่พัฒนาขึ้นโดยเฉพาะสำหรับงานด้านชีววิทยา การค้นคว้ายาใหม่ และการแพทย์ที่นำผลวิจัยไปประยุกต์ใช้ในการรักษา โดยองค์กรที่มีคุณสมบัติตรงตามเกณฑ์สามารถเข้าถึงได้ผ่านโครงการสำหรับผู้ใช้ที่ได้รับความไว้วางใจ






