OpenAI

จัดการความเสี่ยง AI ระดับแนวหน้า: ตั้งแต่การฝึกจนถึงการเปิดใช้งาน

18 พฤศจิกายน 2569 · ความปลอดภัย

โมเดลระดับแนวหน้ากำลังพัฒนาขีดความสามารถอย่างรวดเร็ว เราจึงต้องพัฒนาความสามารถในการทำความเข้าใจ ปรับพฤติกรรม และดูแลความปลอดภัยของโมเดลให้ก้าวทันและพร้อมรับมือกับความเสี่ยงล่วงหน้า เราควบคุมจังหวะการพัฒนาและเปิดตัวโมเดลอย่างรอบคอบ รวมถึงหยุดพักการฝึกโมเดลภายในองค์กร⁠(เปิดในหน้าต่างใหม่) หรือชะลอการเปิดตัวโมเดลอย่าง GPT‑6.1 Astra เมื่อจำเป็นต้องใช้เวลาเพิ่มเติมเพื่อให้ผ่านมาตรฐานความปลอดภัยของเรา เรายังนำกระบวนการใหม่ ๆ มาใช้ เช่น การจัดทำหลักฐานยืนยันความปลอดภัย และกำหนดให้ต้องมีหลักฐานที่หนักแน่นยิ่งขึ้นว่าโมเดลมีพฤติกรรมสอดคล้องกับเจตนาตลอดกระบวนการฝึก แม้ข้อกำหนดเหล่านี้จะทำให้การเปิดตัวโมเดลช้าลง แต่ก็ช่วยให้เรามั่นใจมากขึ้นว่าจะสามารถเดินหน้าพัฒนาและเปิดใช้งานโมเดลได้อย่างปลอดภัย

นับจากเหตุการณ์ Hugging Face⁠ ในเดือนกรกฎาคม เราได้เพิ่มความเข้มงวดของมาตรการป้องกันและข้อกำหนดด้านความสอดคล้องในการฝึก ทดสอบ และเปิดใช้งานโมเดล บทความนี้อธิบายวิธีประเมินและจัดการความเสี่ยงในแต่ละขั้น ตั้งแต่สภาพแวดล้อมการฝึกที่แยกด้วยแซนด์บ็อกซ์อย่างเข้มงวด ไปจนถึง Codex ที่คุณใช้บนคอมพิวเตอร์ เราประเมินทั้งโมเดลและมาตรการป้องกันในแต่ละขั้น และกำหนดให้ทบทวนความปลอดภัยก่อนเข้าสู่ขั้นถัดไป

มาตรการป้องกันหลายชั้นตลอดวงจรการพัฒนาและใช้งานโมเดล

เราใช้แนวทางการป้องกันหลายชั้น โดยมีมาตรการป้องกันหลายระดับเพื่อลดการพึ่งพามาตรการใดมาตรการหนึ่งเพียงอย่างเดียว หากมาตรการชั้นหนึ่งทำงานผิดพลาด มาตรการอื่นๆ จะช่วยป้องกันอันตราย ลดผลกระทบ หรือแจ้งเตือนให้เราเข้าจัดการได้ทันท่วงที

เราแบ่งการป้องกันออกเป็นสี่ชั้น:

การติดตามตรวจสอบโมเดลอย่างมีประสิทธิภาพต้องอาศัยความสามารถในการตรวจสอบพฤติกรรมของโมเดล ซึ่งหมายถึงการที่ระบบตรวจสอบสามารถตรวจจับข้อผิดพลาดหรือพฤติกรรมที่ไม่ปลอดภัยจากการให้เหตุผลและการทำงานของโมเดลได้อย่างน่าเชื่อถือ เช่น หากโมเดลแสดงเจตนาที่จะโกงไว้ในการให้เหตุผลแบบเป็นลำดับขั้น ระบบก็จะตรวจพบได้ง่ายกว่าโมเดลที่ไม่แสดงเจตนาดังกล่าว เราจึงประเมินความสามารถนี้ระหว่างการฝึกและก่อนเปิดใช้งาน รวมถึงพัฒนาวิธีประเมิน⁠(เปิดในหน้าต่างใหม่)ให้ดียิ่งขึ้น และศึกษาปัจจัยที่มีผลต่อความสามารถในการตรวจสอบ⁠(เปิดในหน้าต่างใหม่)

เหตุการณ์ Hugging Face แสดงให้เห็นว่าเหตุใดเราจึงไม่ควรพึ่งแซนด์บ็อกซ์เพียงอย่างเดียวในการควบคุมโมเดลที่มีความสามารถสูง ปัจจุบัน เราเฝ้าติดตามโมเดลระดับแนวหน้าในสภาพแวดล้อมการใช้งานภายในและภายนอกส่วนใหญ่ รวมถึงทุกกรณีที่เปิดให้โมเดลใช้เครื่องมือภายในองค์กร

มาตรการป้องกันแต่ละชั้นมีบทบาทแตกต่างกันไปตาม 3 ขั้นตอนของการพัฒนาและเปิดใช้งานโมเดล ดังนี้

  • การวิจัย: เราฝึก ทดสอบ และใช้โมเดลในสภาพแวดล้อมแซนด์บ็อกซ์

  • การใช้งานภายใน: พนักงาน OpenAI ใช้โมเดลทำงานจริง

  • การใช้งานภายนอก: เปิดให้ผู้คนและองค์กรใช้โมเดลในวงกว้างขึ้น

เราให้ความสำคัญกับมาตรการป้องกันแต่ละชั้นแตกต่างกันไปตามขั้นตอน ในระหว่างการฝึกโมเดล ซึ่งเรายังไม่สามารถมั่นใจได้เต็มที่ว่าโมเดลจะมีพฤติกรรมสอดคล้องกับเจตนา เราจึงพึ่งพาแซนด์บ็อกซ์และการติดตามตรวจสอบเป็นหลัก เมื่อโมเดลได้รับสิทธิ์เข้าถึงข้อมูลและระบบต่าง ๆ มากขึ้นในช่วงเปิดใช้งาน การทำให้โมเดลมีพฤติกรรมสอดคล้องกับเจตนาและการควบคุมในระดับระบบก็ยิ่งมีความสำคัญ ในทุกขั้นตอน เราจะประเมินว่ามาตรการป้องกันทั้งหมดที่ใช้ร่วมกันเพียงพอต่อความสามารถและสิทธิ์การเข้าถึงของโมเดลหรือไม่ โดยอาจนำผลการประเมินไปหารือกับคณะทำงานที่ปรึกษาด้านความปลอดภัย (SAG) และอยู่ภายใต้การกำกับดูแลของคณะกรรมการด้านความปลอดภัย (SSC) ซึ่งเป็นส่วนหนึ่งของคณะกรรมการบริหาร OpenAI Foundation

ระหว่างการวิจัย: จำกัดโมเดลให้อยู่ในสภาพแวดล้อมแซนด์บ็อกซ์

ในช่วงการวิจัย เราจะประเมินโมเดลเพื่อให้มั่นใจมากขึ้นว่าโมเดลมีพฤติกรรมสอดคล้องกับเจตนา เนื่องจากเรายังไม่สามารถพึ่งพาพฤติกรรมของโมเดลเพียงอย่างเดียวในการป้องกันอันตรายได้ เราจึงให้ความสำคัญกับมาตรการรักษาความปลอดภัยและการใช้แซนด์บ็อกซ์เป็นหลัก เพื่อจำกัดสิ่งที่โมเดลสามารถเข้าถึงและทำได้

จากความก้าวหน้าของงานวิจัยด้านการปรับพฤติกรรมโมเดลให้สอดคล้องกับเจตนา ระบบติดตามตรวจสอบ และความปลอดภัยของโครงสร้างพื้นฐานอินเทอร์เน็ตในปัจจุบัน เราเชื่อว่าแนวทางที่มีความรับผิดชอบคือการฝึกโมเดลระดับแนวหน้าไม่ให้เชื่อมต่ออินเทอร์เน็ตโดยตรง หลังจากเหตุการณ์ที่เกิดขึ้นกับ Hugging Face เราได้ปรับโครงสร้างระบบวิจัยภายในองค์กรครั้งใหญ่ เพื่อจำกัดการทำงานของโมเดลด้วยมาตรการต่อไปนี้

  • แซนด์บ็อกซ์ที่จำกัดสิทธิ์ของโมเดล

  • ใช้เครื่องเสมือน (Virtual Machine) เพื่อแยกการทำงานออกจากเครื่องคอมพิวเตอร์จริงให้มากยิ่งขึ้น

  • มาตรการรักษาความปลอดภัยของเครือข่ายและระบบคลาวด์ที่ตัดการเชื่อมต่ออินเทอร์เน็ตของคลัสเตอร์ทั้งหมด

เราทดสอบหาช่องโหว่ของระบบนี้อย่างต่อเนื่อง โดยให้ทีมเอเจนต์จากโมเดลที่เก่งที่สุดของเราพยายามเข้าถึงอินเทอร์เน็ตจริง ฝ่าข้อจำกัดด้านความปลอดภัย หรือติดต่อกับเอเจนต์ที่ไม่ควรติดต่อกัน เพื่อดูว่ามาตรการป้องกันยังสามารถจำกัดการทำงานของโมเดลเหล่านี้ได้อย่างมีประสิทธิภาพหรือไม่

เราเพิ่มมาตรการป้องกันอีกชั้นด้วยการตรวจสอบทุกครั้งที่โมเดลระดับแนวหน้าประมวลผล เพื่อดูว่าโมเดลสามารถหลุดรอดจากข้อจำกัดด้านความปลอดภัยที่เรากำหนดไว้หรือไม่ หากระบบตรวจพบว่าโมเดลเข้าถึงอินเทอร์เน็ตได้ เราจะแจ้งเตือนทีมรักษาความปลอดภัยทันที และหยุดการทำงานนั้นโดยอัตโนมัติ

การติดตามตรวจสอบเป็นมาตรการสำรองที่สำคัญเมื่อระบบจำกัดการทำงานของโมเดลไม่สามารถป้องกันความเสี่ยงได้ ในรายงานล่าสุดเกี่ยวกับพฤติกรรมที่ไม่สอดคล้องกับเจตนา เราเปิดเผยว่าระบบตรวจสอบพบโมเดลวิจัยภายในองค์กรใช้ประโยชน์จากการตั้งค่า DNS ที่ผิดพลาด⁠(เปิดในหน้าต่างใหม่) เพื่อเข้าถึงอินเทอร์เน็ตได้บางส่วน เราจึงระงับการฝึกและประเมินโมเดลที่มีความสามารถสูงสุดของเราตั้งแต่วันที่ 20 กันยายนถึง 1 ตุลาคม ระหว่างตรวจสอบเหตุการณ์และแก้ไขช่องโหว่ด้านความปลอดภัย

เราพัฒนา Control Room⁠ เพื่อให้หยุดการทำงานของโมเดลได้อย่างรวดเร็วและมั่นใจได้ว่าระบบจะทำงานตามคำสั่ง โดยระบบส่วนกลางนี้จะติดตามงานวิจัยต่างๆ และหยุดการสร้างผลลัพธ์เพิ่มเติมของโมเดลภายใน 35 วินาทีหลังได้รับคำสั่งให้หยุดงาน มาตรการดังกล่าวทำงานโดยตรงในระบบประมวลผลโมเดล จึงไม่ต้องพึ่งระบบหยุดการทำงานที่แต่ละงานวิจัยพัฒนาขึ้นเอง และหาก Control Room ใช้งานไม่ได้ ระบบจะหยุดการสร้างผลลัพธ์ของโมเดลระดับแนวหน้าที่ใช้ในงานวิจัยด้วย

การทดสอบหาช่องโหว่และการติดตามตรวจสอบเป็นมาตรการที่ทำงานร่วมกัน เราไม่สามารถรับประกันได้ว่าโมเดลจะไม่มีทางหลุดออกจากแซนด์บ็อกซ์ แต่การทดสอบหาช่องโหว่ช่วยให้เราประเมินได้ว่าโมเดลต้องพยายามมากเพียงใดจึงจะหลุดออกมาได้ ยิ่งโมเดลต้องใช้ความพยายามมากเท่าไร ระบบติดตามตรวจสอบก็ยิ่งมีโอกาสตรวจพบและหยุดการทำงานได้มากขึ้นเท่านั้น

เรากำหนดให้มีมาตรการรักษาความปลอดภัยและการติดตามตรวจสอบที่เข้มงวดในขั้นตอนการวิจัย ด้วยเหตุผลสำคัญดังต่อไปนี้

  • โมเดลยังอยู่ระหว่างการประเมิน บางโมเดลยังไม่ผ่านกระบวนการฝึกด้านความปลอดภัย การตรวจสอบพฤติกรรมให้สอดคล้องกับเจตนา และการทบทวนตามข้อกำหนดก่อนเปิดให้สาธารณชนใช้งาน

  • การวิจัย AI ระดับแนวหน้าหน้าอาจทำให้ความเสี่ยงสูงขึ้น งานวิจัยบางอย่างต้องอาศัยการจัดระบบที่ซับซ้อนกว่าปกติ ทำให้โมเดลสามารถทำงานต่อเนื่องได้นานขึ้นหรือมีขีดความสามารถสูงกว่าตอนเปิดให้ผู้ใช้ภายนอกใช้งาน (ตัวอย่างเช่น การแก้โจทย์ปัญหา Navier-Stokes ซึ่งต้องใช้เอเจนต์ถึง 10,000 ตัว)

  • การฝึกโมเดลในวงกว้างไม่ได้มีคนคอยดูแลทุกขั้นตอน ต่างจากการใช้ Codex ทั่วไป การฝึกโมเดลของเรามีการทำงานเกิดขึ้นจำนวนมาก โดยไม่ได้มีคนคอยติดตามทุกครั้งที่โมเดลทำงาน

การใช้งานภายใน: ทดสอบความสอดคล้องของโมเดลและเฝ้าติดตามพฤติกรรมอย่างใกล้ชิด

ก่อนเปิดให้ใช้งานในวงกว้าง เราจะเปลี่ยนจากการให้พนักงานทดลองใช้โมเดล AI ระดับแนวหน้าในสภาพแวดล้อมที่จำกัดการเข้าถึง มาเป็นการใช้งานภายในองค์กรโดยไม่มีข้อจำกัดดังกล่าว เช่น เปิดให้พนักงานใช้โมเดลผ่าน ChatGPT เพื่อให้เราเข้าใจมากขึ้นว่าโมเดลทำงานอย่างไรเมื่อนำไปใช้งานจริง⁠(เปิดในหน้าต่างใหม่) และนำข้อมูลที่ได้มาประกอบการตัดสินใจว่าจะเปิดให้ใช้งานอย่างไร

ในขั้นตอนนี้ เราจะอนุญาตให้โมเดลเข้าถึงอินเทอร์เน็ตได้อย่างกว้างขวาง รวมถึง Slack ฐานโค้ด และโครงสร้างพื้นฐานภายในของเรา ซึ่งทำให้ความเสี่ยงเพิ่มขึ้นอย่างมาก เพราะสิ่งที่โมเดลทำจะส่งผลโดยตรงต่อระบบที่เราใช้พัฒนาและดำเนินงานของ OpenAI ดังนั้น เมื่อเปิดให้ใช้งานภายในองค์กร เราจึงต้องพึ่งพาการทำให้โมเดลมีพฤติกรรมสอดคล้องกับเจตนา มาตรการป้องกันของระบบ และการเฝ้าติดตามการทำงาน มากกว่าการใช้มาตรการควบคุมด้านความปลอดภัย

ก่อนนำโมเดล AI ระดับแนวหน้าออกมาใช้งานนอกสภาพแวดล้อมแซนด์บ็อกซ์ โมเดลต้องผ่านการทดสอบความสอดคล้องของพฤติกรรมกับเจตนาและความสามารถในการติดตามตรวจสอบ⁠(เปิดในหน้าต่างใหม่)ก่อน เรามีชุดการประเมินที่ใช้ตรวจสอบทั้งปัญหาเฉพาะด้าน เช่น การหลีกเลี่ยงข้อจำกัดด้านความปลอดภัย และแนวโน้มโดยรวมที่โมเดลอาจมีพฤติกรรมไม่เป็นไปตามที่ตั้งใจไว้ เช่น การสุ่มตัวอย่างลำดับการทำงานของ Codex ภายในองค์กรขึ้นมาใหม่เพื่อตรวจสอบพฤติกรรมที่ไม่สอดคล้องกับเจตนา อ่านรายละเอียดเพิ่มเติมเกี่ยวกับการประเมินทั้งสองด้านได้ในเอกสารข้อมูลระบบ GPT‑6 Astra⁠(เปิดในหน้าต่างใหม่) ฉบับล่าสุด

เราใช้ระบบจำแนกประเภทในระดับระบบเป็นมาตรการป้องกันเพิ่มเติม โดยออกแบบให้ทำงานคล้ายกับระบบที่เปิดใช้งานจริง เพื่อป้องกันความเสี่ยงจาก AI ระดับแนวหน้า เช่น การใช้ AI ในทางที่ผิดเพื่อโจมตีทางไซเบอร์หรือสร้างอาวุธชีวภาพ โดยทั่วไป พนักงานที่ใช้ Codex ยังต้องเปิดใช้Auto-Review⁠(เปิดในหน้าต่างใหม่) เพื่อตรวจสอบการดำเนินการที่อาจมีความเสี่ยงและส่งให้ผู้ใช้ตัดสินใจ

นอกจากนี้ เรายังตรวจสอบการประมวลผลทุกครั้งของโมเดล AI ระดับแนวหน้าที่เปิดให้ใช้งานภายในองค์กร เพื่อดูว่ามีพฤติกรรมที่ไม่สอดคล้องกับเจตนาหรือไม่ เนื่องจากโมเดลได้รับสิทธิ์และเข้าถึงข้อมูลและระบบภายในได้มากขึ้น เราจึงต้องให้ความสำคัญเป็นพิเศษกับการตรวจจับความเสี่ยง เช่น การนำข้อมูลออกจากระบบ หรือการส่งข้อมูลที่ละเอียดอ่อนไปยังปลายทางที่ไม่ได้รับอนุญาต นอกจากนี้ การตรวจสอบยังช่วยให้เราศึกษาพฤติกรรมที่ไม่สอดคล้องกับเจตนาในรูปแบบใหม่ๆ⁠(เปิดในหน้าต่างใหม่) ได้ด้วย

การเปิดให้ใช้งานภายนอก: ป้องกันการนำ AI ไปใช้ในทางที่ผิดและพฤติกรรมที่ไม่สอดคล้องกับเจตนาในวงกว้าง

การเปิดให้บุคคลทั่วไปใช้งานทำให้โมเดลเข้าถึงผู้ใช้จำนวนมากขึ้น และถูกนำไปใช้กับงานและสภาพแวดล้อมที่หลากหลายกว่าเดิม ส่งผลให้ทั้งขอบเขตและรูปแบบของความเสี่ยงเพิ่มขึ้น ในระยะนี้ เราจึงต้องมีมาตรการป้องกันผู้ที่อาจมีเจตนาร้ายและจงใจชักนำให้โมเดลทำงานในลักษณะที่ก่อให้เกิดอันตรายด้วย

ก่อนเปิดให้บุคคลทั่วไปใช้งาน โมเดลและมาตรการป้องกันของระบบต้องผ่านข้อกำหนดด้านความปลอดภัยสำหรับการเปิดให้ใช้งานภายนอกของเรา โดยเราจะประเมินด้วยวิธีต่อไปนี้

  • ประเมินความปลอดภัยและตรวจสอบพฤติกรรมของโมเดลอย่างครอบคลุมยิ่งขึ้น สำหรับโมเดล AI ระดับแนวหน้าของเรา จะมีการทดสอบเพิ่มเติมโดยใช้ระบบทดสอบ⁠การโจมตีอัตโนมัติภายในองค์กร ซึ่งจะปรับรูปแบบการทดสอบตามการตอบสนองของโมเดล เพื่อทดสอบว่าโมเดลสามารถรับมือกับการโจมตีได้ดีเพียงใด เราจะเผยแพร่ผลการประเมินความสามารถและความปลอดภัยของโมเดลในเอกสารข้อมูลระบบ⁠(เปิดในหน้าต่างใหม่)

  • เรายังให้หน่วยงานภายนอกเข้ามาร่วมทดสอบโมเดลที่มีความสามารถสูงสุดของเรา เพื่อประเมินอย่างเข้มข้นว่ามาตรการป้องกันการนำโมเดลไปใช้ในทางที่ผิดมีประสิทธิภาพเพียงใด และโมเดลมีพฤติกรรมสอดคล้องกับเจตนามากน้อยแค่ไหน

  • ตรวจสอบรายการที่ระบบเฝ้าติดตามแจ้งเตือนระหว่างการใช้งานภายในองค์กร เพื่อดูว่าพฤติกรรมพื้นฐานของโมเดลยังสอดคล้องกับเจตนาเหมือนเดิมหรือมีการเปลี่ยนแปลงไป

เมื่อเปิดให้ใช้งานภายนอก เราไม่ได้พึ่งพาเพียงมาตรการป้องกันที่ทำงานทันที เช่น การฝึกโมเดลด้านความปลอดภัยและระบบจำแนกประเภท แต่ยังมีการสืบสวนและบังคับใช้กฎย้อนหลังด้วย ทีมงานจะใช้เอเจนต์ AI จำนวนมากช่วยสืบหาความเสี่ยง พร้อมให้เจ้าหน้าที่ตรวจสอบอีกชั้น เพื่อค้นหาผู้ที่อาจก่อภัยคุกคาม ทั้งจากการใช้ AI ในทางที่ผิดด้านไซเบอร์ การพัฒนาอาวุธชีวภาพ การสกัดความรู้ความสามารถจากโมเดล⁠ ตลอดจนพฤติกรรมของโมเดลที่ไม่สอดคล้องกับเจตนา วิธีนี้ช่วยให้เรารวบรวมข้อมูลจากหลายบัญชีมาวิเคราะห์ร่วมกันและเข้าใจภัยคุกคามที่อาจเกิดขึ้นได้รอบด้านมากขึ้น

โครงการอย่าง Daybreak และ Rosalind⁠ ช่วยให้ผู้ใช้ที่ได้รับความไว้วางใจเข้าถึง AI ได้อย่างปลอดภัยยิ่งขึ้น โดยช่วยให้ผู้ที่ทำงานด้านการป้องกันภัยและนักวิจัยที่มีเจตนาสุจริตทำงานได้รวดเร็วขึ้น ขณะเดียวกันก็จำกัดการเข้าถึงของผู้ที่อาจนำ AI ไปใช้ก่อเหตุโจมตี

การตอบสนองต่อเหตุการณ์และการเปิดเผยข้อมูล

เมื่อพบว่ามาตรการความปลอดภัยชั้นใดชั้นหนึ่งของเรามีข้อบกพร่อง ไม่ว่าจะเกิดอันตรายขึ้นจริงหรือไม่ เราต้องการเร่งตรวจสอบ ประเมินความรุนแรงและความเร่งด่วนของปัญหา และเปิดเผยข้อมูลต่อสาธารณะหากสามารถทำได้และเห็นว่าเหมาะสม ภายใต้นโยบายการรายงานพฤติกรรมที่ไม่สอดคล้องกับเจตนา⁠ พนักงานทุกคนสามารถแจ้งเหตุการณ์เพื่อให้พิจารณาเปิดเผยต่อสาธารณะได้ โดยเราจะตรวจสอบรายงานเหล่านี้ และหากมีความเห็นไม่ตรงกันว่าควรเปิดเผยข้อมูลต่อภายนอกหรือไม่ จะส่งเรื่องให้คณะทำงานที่ปรึกษาด้านความปลอดภัย (Safety Advisory Group หรือ SAG) เป็นผู้ตัดสิน นอกจากรับรายงานจากพนักงานแล้ว เรายังคอยค้นหาเหตุการณ์ที่โมเดลมีพฤติกรรมไม่สอดคล้องกับเจตนาในเชิงรุก เพื่อแก้ไขปัญหาและเผยแพร่สิ่งที่ค้นพบ

อ่านรายงานพฤติกรรมที่ไม่สอดคล้องกับเจตนาได้ที่นี่⁠(เปิดในหน้าต่างใหม่)

​


​

การดำเนินงานนี้ต้องอาศัยทั้งความก้าวหน้าของงานวิจัยและความรอบคอบในการดูแลระบบ ตั้งแต่การตั้งค่ามาตรการควบคุมให้ถูกต้อง การทดสอบว่ามาตรการต่างๆ ทำงานร่วมกันอย่างไร ไปจนถึงการรับมืออย่างเด็ดขาดเมื่อเกิดข้อผิดพลาด เพราะแม้จะมีมาตรการป้องกันที่เข้มงวด แต่การตั้งค่าบริการเครือข่ายผิดพลาดหรือระบบหยุดการทำงานอัตโนมัติไม่ทำงาน ก็อาจทำให้มาตรการเหล่านั้นไม่ได้ผล

เมื่อโมเดลมีความสามารถเพิ่มขึ้น เราต้องหมั่นทบทวนสมมติฐานที่อยู่เบื้องหลังมาตรการป้องกันของเรา และปรับปรุงให้เหมาะสมเมื่อจำเป็น พร้อมนำสิ่งที่ได้เรียนรู้จากการวิจัย การใช้งานภายในองค์กร และการเปิดให้ใช้งานทั่วไป มาพัฒนาแนวทางการฝึก ประเมิน และเปิดใช้งานโมเดลรุ่นต่อไป

เราจะเผยแพร่สิ่งที่ค้นพบอย่างต่อเนื่องผ่านเอกสารข้อมูลระบบ รายงานเหตุการณ์ รายงานความเสี่ยงจากการใช้งานภายในองค์กร⁠(เปิดในหน้าต่างใหม่) และผลการประเมินจากหน่วยงานภายนอก⁠ เพื่อเปิดโอกาสให้ผู้อื่นตรวจสอบแนวทางของเราได้อย่างละเอียด รวมถึงข้อจำกัดต่าง ๆ หากหลักฐานที่มีอยู่ยังไม่เพียงพอที่จะยืนยันว่าโมเดลผ่านมาตรฐานความปลอดภัยของเรา เราจะหยุดการฝึกหรือชะลอการเปิดตัวอีกครั้ง จนกว่าจะเป็นไปตามข้อกำหนดเหล่านั้น

งานวิจัยและแหล่งข้อมูลที่เกี่ยวข้อง

การกำหนดมาตรฐานความปลอดภัย

การกำหนดและประเมินพฤติกรรมของโมเดลให้สอดคล้องกับเจตนา

การจำกัดขอบเขตการทำงานของโมเดลและปรับปรุงมาตรการป้องกัน

การตอบสนองต่อเหตุการณ์และการเปิดเผยข้อมูล

ความก้าวหน้าทางวิจัยและการประยุกต์ใช้

  • เบื้องหลังความก้าวหน้าของงานวิจัยที่ขับเคลื่อนด้วย AI ใน OpenAI หลักฐานเบื้องต้นที่แสดงให้เห็นว่าเอเจนต์เขียนโค้ดกำลังเปลี่ยนวิธีทำงานวิจัยภายใน OpenAI อย่างไร ทั้งการใช้งานที่เพิ่มขึ้น งานที่ซับซ้อนมากขึ้น และผลที่มีต่อการทดลอง

  • การศึกษาโจทย์ปัญหา Navier–Stokes หนึ่งใน Millennium Prize Problems บทพิสูจน์ทางคณิตศาสตร์ที่สร้างขึ้นโดยระบบ AI ภายในองค์กร พร้อมการเขียนบทพิสูจน์ในรูปแบบที่ตรวจสอบได้ด้วย Lean ซึ่งแสดงให้เห็นถึงความสามารถของระบบ AI ที่ใช้ในการวิจัยขนาดใหญ่

  • Daybreak โครงการด้านความปลอดภัยทางไซเบอร์ของเราที่เปิดให้ผู้เชี่ยวชาญด้านการป้องกันภัยซึ่งผ่านการตรวจสอบแล้วเข้าถึงความสามารถขั้นสูงของ AI เครื่องมือรักษาความปลอดภัย และการสนับสนุนต่างๆ เพื่อค้นหาช่องโหว่และเสริมการป้องกันให้แข็งแกร่งยิ่งขึ้น

  • เปิดตัว GPT‑Rosalind สำหรับงานวิจัยด้านวิทยาศาสตร์ชีวภาพ⁠ โมเดลที่พัฒนาขึ้นโดยเฉพาะสำหรับงานด้านชีววิทยา การค้นคว้ายาใหม่ และการแพทย์ที่นำผลวิจัยไปประยุกต์ใช้ในการรักษา โดยองค์กรที่มีคุณสมบัติตรงตามเกณฑ์สามารถเข้าถึงได้ผ่านโครงการสำหรับผู้ใช้ที่ได้รับความไว้วางใจ