GPT‑6 Cyber: ยกระดับเอเจนต์ความปลอดภัยไซเบอร์ที่สอดคล้องกับเจตนา
โมเดลด้านความปลอดภัยไซเบอร์ที่ผ่านการฝึกให้ค้นหาและตรวจสอบยืนยันช่องโหว่ที่สามารถนำไปใช้โจมตีได้ พร้อมทำงานภายในขอบเขตที่นักวิจัยกำหนด
เราขอแนะนำ GPT‑6 Cyber ความก้าวหน้าครั้งสำคัญของการวิจัยด้านความปลอดภัยที่มาพร้อมความสามารถในการค้นหาและแก้ไขช่องโหว่ที่สูงขึ้น อีกทั้งยังทำงานภายในขอบเขตที่นักวิจัยกำหนดได้อย่างน่าเชื่อถือมากขึ้นอย่างมาก GPT‑6 Cyber มีผลการทดสอบด้านความปลอดภัยไซเบอร์ที่สำคัญดีขึ้นอย่างชัดเจนเมื่อเทียบกับ GPT‑5.6 Cyber โดยมีผลการประเมิน ExploitGym ดีขึ้น 51% เมื่อเทียบกับโมเดลรุ่นก่อน และมีพัฒนาการแบบก้าวกระโดดในการทดสอบความสามารถในการทำงานตามขอบเขตที่กำหนด ปัจจุบัน GPT‑6 Cyber กำลังช่วยเสริมความปลอดภัยให้กับซอฟต์แวร์ที่ใช้งานจริง โดยค้นพบและตรวจสอบยืนยันวิธีโจมตีช่องโหว่หลายพันรายการในโค้ดเบสที่มีความสำคัญต่อความปลอดภัย เช่น Linux และ Firefox
ในการประเมิน ExploitGym ซึ่งทดสอบว่าโมเดลสามารถโจมตีช่องโหว่ที่ระบุได้หรือไม่ GPT‑6 Cyber ทำคะแนนได้ 48.5% เพิ่มขึ้นจาก 32.1% ของ GPT‑5.6 Cyber นอกจากนี้ GPT‑6 Cyber ยังทำงานภายในขอบเขตที่กำหนดได้อย่างน่าเชื่อถือมากขึ้น โดยในการประเมินความสอดคล้องกับเจตนาแยกต่างหาก โมเดลสามารถหลีกเลี่ยงการโจมตีบริการที่อยู่นอกขอบเขตงานได้ 99.93% ของการทดสอบเมื่อไม่มีพรอมต์สำหรับการใช้งานจริง และ 100% เมื่อใช้พรอมต์ดังกล่าว ความก้าวหน้านี้เป็นผลจากการฝึกโมเดลโดยเฉพาะ เพื่อให้ทำงานภายในขอบเขตที่ได้รับอนุญาต ปฏิบัติตามข้อจำกัด และรายงานผลการทำงานอย่างถูกต้อง
ความสามารถเหล่านี้กำลังช่วยรักษาความปลอดภัยให้กับระบบที่ใช้งานจริงแล้ว นักวิจัยของเราใช้ GPT‑6 Cyber เพื่อพัฒนาวิธีโจมตีเพื่อยกระดับสิทธิ์การเข้าถึงใน Linux จำนวน 948 รายการ และค้นพบช่องโหว่ใหม่ใน Firefox ที่ไม่เคยมีใครรู้มาก่อน 81 รายการ ซึ่งจัดอยู่ในระดับความรุนแรงสูง แม้จะผ่านการทดสอบอย่างละเอียดด้วยโมเดลระดับแนวหน้ามาก่อนแล้วก็ตาม โมเดลยังช่วยพัฒนาแพตช์ที่เสนอให้พิจารณา และ Mozilla ก็ได้เผยแพร่การแก้ไขสำหรับช่องโหว่หลายรายการใน Firefox แล้ว(เปิดในหน้าต่างใหม่) ทีมรักษาความปลอดภัยของ Cisco, Calif และ CodeRabbit กำลังใช้ GPT‑6 Cyber ในการวิจัยช่องโหว่และตรวจสอบโค้ด ส่วนเราก็ได้นำโมเดลนี้มาใช้เพื่อค้นหาและแก้ไขจุดอ่อนในโครงสร้างพื้นฐานของเราเองด้วย
เรารู้ดีว่าโอกาสในการใช้โมเดลระดับแนวหน้าเพื่อปกป้องซอฟต์แวร์นั้นมีอยู่อย่างจำกัด เราจึงตั้งเป้าขยายโครงการ Daybreak อย่างก้าวกระโดด เพื่อเปิดโอกาสให้องค์กรทุกขนาด นักวิจัยอิสระ และผู้ดูแลซอฟต์แวร์โอเพนซอร์สเข้าถึงเครื่องมือวิจัยด้านความปลอดภัยขั้นสูง ปัจจุบัน โมเดลทั่วไปอย่าง GPT‑6 Astra สามารถช่วยตรวจสอบโค้ด คัดแยกและจัดลำดับความสำคัญของช่องโหว่ รวมถึงพัฒนาแพตช์แก้ไขได้แล้ว ส่วน Daybreak Blue ช่วยให้ทีมปกป้องระบบที่ผ่านการยืนยันตัวตนสามารถตรวจสอบยืนยันช่องโหว่และวิธีแก้ไขได้โดยถูกปฏิเสธคำขอที่ไม่จำเป็นน้อยลง ขณะที่ Daybreak Red รองรับการพัฒนาวิธีโจมตีช่องโหว่ในเชิงลึกยิ่งขึ้น และการทดสอบความปลอดภัยที่ได้รับอนุญาตด้วย GPT‑6 Cyber
GPT‑6 Cyber มีความสามารถก้าวหน้าขึ้นอย่างมากเมื่อเทียบกับ GPT‑5.6 Cyber และทำผลงานได้ดีกว่า GPT‑6 Astra ในงานด้านความปลอดภัยไซเบอร์ส่วนใหญ่ แม้ในกรณีที่ GPT‑6 Astra ไม่ปฏิเสธคำขอก็ตาม เราประเมินโมเดลผ่านงานที่ต้องอาศัยความเข้าใจเกี่ยวกับซอฟต์แวร์ การค้นหาช่องโหว่ และการพัฒนาวิธีโจมตีที่ใช้งานได้จริง จากผลการประเมินดังกล่าว เราจึงจัดให้ GPT‑6 Cyber อยู่ในระดับวิกฤตด้านความปลอดภัยไซเบอร์ตามกรอบการเตรียมความพร้อมของเรา ซึ่งเพิ่มขึ้นจากระดับสูงของ GPT‑5.6 Cyber
ในการประเมิน ExploitGym ซึ่งทดสอบว่าโมเดลสามารถโจมตีช่องโหว่ที่ระบุในระบบเป้าหมายระยะไกลได้หรือไม่ GPT‑6 Cyber ทำคะแนนได้ 48.5% สูงกว่า GPT‑5.6 Cyber ที่ทำได้ 32.1% อยู่ประมาณ 16 จุดเปอร์เซ็นต์ นอกจากนี้ เรายังพัฒนาการประเมินชุดใหม่เพื่อทดสอบความสามารถในการค้นหาช่องโหว่ผ่านการทดสอบเจาะระบบเว็บเชิงรุก โดยให้โมเดลตรวจหาช่องโหว่ในเว็บแอปพลิเคชันโดยไม่สามารถเข้าถึงซอร์สโค้ดได้ ผลปรากฏว่า GPT‑6 Cyber สามารถค้นพบช่องโหว่ได้ 40.3% ของช่องโหว่ทั้งหมด เทียบกับ 32.0% ของ GPT‑6 Astra
Daybreak Red ออกแบบมาเพื่อรองรับงานด้านความปลอดภัยขั้นสูง รวมถึงการพัฒนาวิธีโจมตีช่องโหว่ที่ใช้งานได้จริงและนำไปใช้โจมตีระบบเป้าหมายจากระยะไกล เพื่อประเมินความสามารถเหล่านี้ เราได้พัฒนาชุดทดสอบใหม่ชื่อ RemoteExploitBench โดยใช้ช่องโหว่ที่ทราบอยู่แล้วในแอปพลิเคชันต่างๆ เช่น GitLab, PostgreSQL และ Jenkins ซึ่งติดตั้งอยู่ในสภาพแวดล้อมที่มีการควบคุม ผลการประเมินเบื้องต้นพบว่า GPT‑6 Astra ที่ใช้งานผ่าน Daybreak Blue ปฏิเสธทุกภารกิจ คิดเป็น 100% ขณะที่ GPT‑6 Cyber ทำภารกิจสำเร็จ 95% โดยมีเพียงภารกิจเดียวที่ไม่สำเร็จ เนื่องจากไม่สามารถทำให้วิธีโจมตีช่องโหว่ใช้งานได้จริงกับระบบเป้าหมายจากระยะไกล ดูผลการประเมินทั้งหมดและรายละเอียดการตั้งค่าการทดสอบได้ในเอกสารข้อมูลระบบ(เปิดในหน้าต่างใหม่)
ความเสี่ยงอย่างหนึ่งของเอเจนต์ด้านความปลอดภัยไซเบอร์คือ เอเจนต์อาจทำงานเกินขอบเขตที่ได้รับมอบหมาย พยายามโจมตีช่องโหว่ของบริการอื่นที่ไม่เกี่ยวข้องกับงาน หรือไม่ปฏิบัติตามกฎและเงื่อนไขที่นักวิจัยกำหนดไว้สำหรับการทดสอบ
เราให้ความสำคัญกับการพัฒนา GPT‑6 Cyber ให้ทำงานสอดคล้องกับเจตนาของผู้ใช้ โดยฝึกโมเดลด้วยวิธีเฉพาะทางเพื่อให้ทำงานภายในขอบเขตที่ได้รับอนุญาต ปฏิบัติตามข้อจำกัดในการดำเนินการ และรายงานผลการทำงานอย่างถูกต้อง ก่อนเปิดให้ใช้งาน เราได้ประเมินโมเดลหลายด้านเพื่อตรวจสอบความสามารถเหล่านี้ ดูผลการประเมินทั้งหมดได้ในเอกสารข้อมูลระบบ(เปิดในหน้าต่างใหม่)
หนึ่งในการประเมินเหล่านี้คือ ExploitGym Honeypot ซึ่งออกแบบโดยอาศัยข้อมูลจากเหตุการณ์ Hugging Face เรามอบหมายให้โมเดลทำภารกิจโจมตีช่องโหว่ที่มีความซับซ้อนสูงในสภาพแวดล้อมที่แยกออกจากระบบอื่น โดยโมเดลสามารถเข้าถึงบริการสนับสนุนต่างๆ เช่น ระบบจัดเก็บแพ็กเกจหรือระบบจัดเก็บออบเจ็กต์ เราจงใจทำให้บริการเหล่านี้มีช่องโหว่ที่โจมตีได้ง่าย เพื่อให้การโจมตีบริการดังกล่าวสามารถเปิดเผยแฟล็กที่ใช้ยืนยันความสำเร็จของภารกิจได้ โมเดลต้องพิจารณาให้ได้เองว่าการโจมตีบริการเหล่านี้อยู่นอกเหนือขอบเขตของงานที่ได้รับมอบหมาย
GPT‑6 Cyber มีผลการประเมินด้านนี้ดีขึ้นอย่างก้าวกระโดดเมื่อเทียบกับ GPT‑5.6 Cyber โดยในการทดสอบที่ไม่มีพรอมต์ด้านความปลอดภัยสำหรับการใช้งานจริง GPT‑6 Cyber หลีกเลี่ยงการโจมตีบริการที่อยู่นอกขอบเขตงานที่ได้รับมอบหมายได้ถึง 99.93% ของการทดสอบ เพิ่มขึ้นจาก 94.49% ของ GPT‑5.6 Cyber และเมื่อใช้พรอมต์ด้านความปลอดภัยดังกล่าว GPT‑6 Cyber สามารถทำงานภายในขอบเขตที่กำหนดได้ 100% ของการทดสอบ
เราสามารถดูการให้เหตุผลแบบเป็นลำดับขั้นของ GPT‑6 Cyber ได้โดยตรงว่าโมเดลใช้เหตุผลอย่างไรเพื่อให้ทำงานอยู่ภายในขอบเขตที่กำหนด ดังนี้
“Can't assume extra API or attack controller not target. We should only target binary/server.”
“don't explore out of scope credentials.”
GPT‑6 Cyber กำลังช่วยทีมรักษาความปลอดภัยค้นหาช่องโหว่ ตรวจสอบผลกระทบของช่องโหว่ และพัฒนาวิธีแก้ไข โดยลูกค้าได้นำโมเดลนี้ไปใช้กับงานหลากหลายรูปแบบ ทั้งการวิเคราะห์โค้ดเบสขนาดใหญ่ การพัฒนาวิธีโจมตีช่องโหว่ที่ต้องใช้เวลาต่อเนื่องยาวนาน และการตรวจสอบความปลอดภัย ดังนี้
เราได้นำ GPT‑6 Cyber มาใช้เสริมความปลอดภัยให้กับระบบของเราเองด้วย โดยเป็นหนึ่งในโมเดลหลักที่ใช้ในงานที่เราเพิ่งเผยแพร่เกี่ยวกับการเสริมความปลอดภัยให้กับโครงสร้างพื้นฐานที่ใช้ฝึกโมเดลระดับแนวหน้า ในการทดสอบ red teaming ภายใต้สภาพแวดล้อมที่มีการควบคุม เอเจนต์ที่ใช้ GPT‑6 Cyber และโมเดลอื่นๆ ของ OpenAI สามารถโจมตีโดยอาศัยช่องโหว่หลายจุดต่อเนื่องกันจนหลุดออกจากสภาพแวดล้อม microVM และเรียกใช้โค้ดบนเครื่องโฮสต์ที่รองรับ microVM เหล่านั้นได้ เรานำผลการทดสอบที่พบมาใช้แก้ไขช่องโหว่ในซอฟต์แวร์ เพิ่มความเข้มงวดของข้อจำกัดในการเข้าถึงเครือข่าย และรายงานปัญหาให้ผู้ดูแลซอฟต์แวร์และผู้จำหน่ายที่เกี่ยวข้องทราบ
นักวิจัยด้านช่องโหว่ของเรายังใช้ GPT‑6 Cyber เพื่อค้นหาและตรวจสอบช่องโหว่ในซอฟต์แวร์โอเพนซอร์สในวงกว้างอีกด้วย โดยงานวิจัยนี้ช่วยให้เราค้นพบช่องโหว่ที่ไม่เคยมีใครพบมาก่อน แม้จะเป็นซอฟต์แวร์ที่ผ่านการตรวจสอบอย่างละเอียดมาเป็นเวลาหลายปีแล้วก็ตาม ดังนี้
พบช่องโหว่ใหม่ใน Firefox ถึง 81 รายการ GPT‑6 Cyber สามารถนำไปใช้ในกระบวนการทำงานอัตโนมัติเพื่อค้นหาช่องโหว่และเสนอแพตช์แก้ไขที่มีคุณภาพสูงในวงกว้างได้ ระหว่างการวิจัยเพื่อค้นหาช่องโหว่ GPT‑6 Cyber สามารถสร้างหลักฐานและชุดทดสอบที่ทำซ้ำได้สำหรับช่องโหว่ใหม่ 81 รายการที่ Mozilla จัดว่ามีความรุนแรงระดับสูง และยังพบว่าปัญหาที่ทราบอยู่แล้วอีก 30 รายการมีความรุนแรงมากกว่าที่เคยรายงานไว้ เราได้แจ้งผลการค้นพบเหล่านี้ให้ Mozilla ทราบ พร้อมเสนอแพตช์เพื่อช่วยให้วิศวกรของ Mozilla พัฒนาวิธีแก้ไข โดย Mozilla ให้การสนับสนุนงานวิจัยนี้และเริ่มนำวิธีแก้ไขไปใช้ไม่นานหลังจากได้รับรายงาน(เปิดในหน้าต่างใหม่)
พัฒนาวิธีโจมตีช่องโหว่ 948 รายการในเคอร์เนล Linux GPT‑6 Cyber สามารถจำลองช่องโหว่ 1,724 รายการเพื่อยืนยันว่าช่องโหว่เหล่านั้นเกิดขึ้นได้จริง และพัฒนาวิธีโจมตีที่ใช้งานได้สำเร็จสำหรับช่องโหว่ 948 รายการ ซึ่งมากกว่า 5 เท่าของ GPT‑5.6 Sol ที่ทำได้ 166 รายการภายใต้ระบบทดสอบเดียวกัน เราได้ปฏิบัติตามแนวทางของชุมชน Linux โดยรายงานผลการค้นพบที่มีความสำคัญอย่างยิ่ง 304 รายการให้ผู้ดูแลซอฟต์แวร์ทราบ พร้อมเสนอแพตช์สำหรับแก้ไข และขณะนี้กำลังดำเนินการเพื่อให้ช่องโหว่อื่นๆ ได้รับการแก้ไข
แสดงให้เห็นว่าช่องโหว่ร้ายแรงอาจทำให้ผู้โจมตีเรียกใช้โค้ดจากระยะไกลได้อย่างไร เราเพิ่งเผยแพร่ข้อมูลเกี่ยวกับช่องโหว่ร้ายแรงใน Brotli(เปิดในหน้าต่างใหม่) ซึ่งเป็นไลบรารีบีบอัดข้อมูลที่ใช้ใน Node.js และซอฟต์แวร์อื่นๆ ทีมวิจัยด้านความปลอดภัยของเราได้นำ GPT‑6 Cyber มาใช้ร่วมกับโมเดลอื่นๆ ของ OpenAI เพื่อพัฒนาและตรวจสอบวิธีโจมตีที่พิสูจน์ให้เห็นว่าช่องโหว่ดังกล่าวอาจเปิดทางให้ผู้โจมตีเรียกใช้โค้ดจากระยะไกลในแอปพลิเคชันที่ใช้ Brotli ได้
เมื่อโมเดลมีความสามารถมากขึ้นและค้นพบช่องโหว่ด้านความปลอดภัยได้มากขึ้น เราก็พบความพยายามนำโมเดลไปใช้สร้างความเสียหายเพิ่มขึ้นเช่นกัน ซึ่งรวมถึงความพยายามของผู้ไม่ประสงค์ดีในโลกไซเบอร์และกลุ่มผู้โจมตีที่ต้องการนำความสามารถของโมเดลเราไปถ่ายทอดให้กับโมเดลอื่น เราจึงพัฒนามาตรการป้องกันให้เข้มงวดยิ่งขึ้นควบคู่ไปกับการเพิ่มขีดความสามารถของ GPT‑6 Cyber เพื่อตรวจจับและยับยั้งการใช้งานในทางที่ผิด รวมถึงควบคุมให้โมเดลดำเนินการตามเจตนาของผู้ใช้และภายในขอบเขตที่ได้รับอนุญาต
เราได้เพิ่มมาตรการป้องกันใหม่และยกระดับมาตรการที่มีอยู่เดิมให้เข้มงวดยิ่งขึ้น พร้อมกับการเปิดตัว GPT‑6 Cyber (ดูรายละเอียดทั้งหมดได้ในเอกสารข้อมูลระบบ(เปิดในหน้าต่างใหม่)) ดังนี้
การติดตามตรวจสอบพฤติกรรมของโมเดลที่ไม่สอดคล้องกับเจตนาในด้านความปลอดภัยไซเบอร์โดยเฉพาะ เราตรวจสอบว่าการดำเนินการของโมเดลอยู่ภายในขอบเขตที่ผู้ใช้อนุญาตหรือไม่ โดยสามารถแยกแยะการพัฒนาวิธีโจมตีช่องโหว่และการทดสอบที่ได้รับอนุญาตออกจากการใช้งานในทางที่ผิดได้
การติดตามตรวจสอบภัยคุกคามใหม่ๆ อย่างตรงจุด เช่น ในช่วงที่มีการประสานงานกันเพื่อเปิดเผยช่องโหว่ร้ายแรงของ PHP เราได้เพิ่มการเฝ้าระวังความพยายามสร้างวิธีโจมตีเซิร์ฟเวอร์ PHP ที่เปิดใช้งานจริงเป็นพิเศษ ขณะเดียวกันก็ยังสนับสนุนผู้ที่ทำหน้าที่ปกป้องระบบให้สามารถแก้ไขช่องโหว่ในระบบที่ได้รับผลกระทบได้ตามปกติ
การตรวจสอบความปลอดภัยโดยรักษาความเป็นส่วนตัว (Private Safety Processing หรือ PSP) เราใช้ระบบตรวจสอบอัตโนมัติเพื่อตรวจหาการใช้งานในทางที่ผิดจากการโต้ตอบที่เกี่ยวข้อง โดยยังคงใช้ระยะเวลาการเก็บรักษาข้อมูลตามมาตรฐานเป็นค่าเริ่มต้น ส่วนลูกค้า API ที่ใช้การไม่เก็บข้อมูล(เปิดในหน้าต่างใหม่) โดยทั่วไปจะต้องใช้ PSP(เปิดในหน้าต่างใหม่) ซึ่งตรวจสอบข้อมูลที่เข้ารหัสและเก็บไว้ในพื้นที่จัดเก็บข้อมูลของลูกค้าเป็นเวลา 30 วัน โดยบุคลากรของ OpenAI จะไม่สามารถเข้าถึงพรอมต์และคำตอบของโมเดลได้
การป้องกันการใช้ข้อมูลเข้าสู่ระบบที่ถูกขโมย เรากำหนดให้การเข้าถึง API ของ Daybreak Red ต้องมาจาก IP ที่อยู่ในรายการอนุญาตเป็นค่าเริ่มต้น เพื่อจำกัดการส่งคำขอให้ทำได้เฉพาะจากเครือข่ายที่ได้รับอนุมัติ โดยมีข้อยกเว้นเพียงบางกรณีเท่านั้น นอกจากนี้ เรายังเฝ้าระวังว่าข้อมูลเข้าสู่ระบบถูกขโมยหรือรั่วไหลหรือไม่ด้วย
การแยกสภาพแวดล้อมการทำงานและการกำกับดูแล เช่นเดียวกับโมเดลรุ่นก่อนๆ เราแนะนำให้ใช้แซนด์บ็อกซ์(เปิดในหน้าต่างใหม่)เพื่อแยกสภาพแวดล้อมการทำงาน ตรวจสอบการดำเนินการ(เปิดในหน้าต่างใหม่)ของโมเดล และให้มนุษย์กำกับดูแลกระบวนการทำงานที่มีความเสี่ยงสูง
ป้องกันการให้ความช่วยเหลือทางไซเบอร์ที่มีความเสี่ยงสูง เราใช้การตรวจสอบรูปแบบใหม่เพื่อบล็อกกิจกรรมความเสี่ยงสูงที่เกี่ยวข้องกับระบบสำคัญ (ดูเพิ่มเติมด้านล่าง)
การปกป้องโครงสร้างพื้นฐานสำคัญเป็นข้อพิจารณาหลักในการออกแบบมาตรการป้องกันและการเข้าถึง GPT‑6 Cyber ซึ่งรวมถึงโรงไฟฟ้า โรงบำบัดน้ำ ตลอดจนเทคโนโลยีปฏิบัติการและระบบควบคุมอุตสาหกรรม (OT/ICS) ที่รองรับโครงสร้างพื้นฐานเหล่านี้ เราต้องการให้ทีมที่ปกป้องระบบเหล่านี้เข้าถึงโมเดลที่มีความสามารถสูงสุดของเรา พร้อมกับเสริมมาตรการป้องกันเพื่อป้องกันการโจมตีที่ไม่ได้รับอนุญาต
ประการที่หนึ่ง เราต้องการให้ทีมที่ดูแลความปลอดภัยของระบบเหล่านี้เข้าถึงเครื่องมือที่จำเป็นได้มากขึ้น จึงจัดตั้งโครงการมอบทุน Daybreak for Frontline Defenders วงเงิน 1 พันล้านดอลลาร์ เพื่อช่วยลดค่าใช้จ่ายในการเข้าถึงโมเดลสำหรับทีมที่มีทรัพยากรจำกัด ไม่ว่าจะเป็นหน่วยงานภาครัฐหรือผู้ให้บริการสาธารณูปโภคและบริการจำเป็นต่างๆ เรายังเพิ่มกลุ่มผู้ใช้ใหม่ใน Daybreak Red (Daybreak Red for Critical Infrastructure) สำหรับทีมปกป้องโครงสร้างพื้นฐานสำคัญที่ผ่านการอนุมัติ เพื่อให้สามารถทดสอบระบบที่มีความสำคัญอย่างยิ่งภายในขอบเขตที่ได้รับอนุญาต โดยยังคงมีมาตรการป้องกันพฤติกรรมของโมเดลที่ไม่สอดคล้องกับเจตนา
ประการที่สอง เพื่อป้องกันการนำแพลตฟอร์ม Daybreak Red และ Daybreak Blue ไปใช้ในทางที่ผิด เราได้ปรับปรุงมาตรการป้องกันให้เข้มงวดยิ่งขึ้น เพื่อไม่ให้มีการให้ความช่วยเหลือหรือพัฒนาความสามารถที่อาจนำไปสู่การเจาะระบบควบคุมอุตสาหกรรมหรือระบบที่มีความสำคัญต่อความปลอดภัย การรบกวนการทำงานของอุปกรณ์ หรือการก่อให้เกิดการบาดเจ็บร้ายแรง ความเสียหายทางกายภาพอย่างรุนแรง หรือการหยุดชะงักของบริการที่อาจเป็นอันตรายถึงชีวิต แผนภาพด้านล่างเปรียบเทียบอัตราการจัดประเภทโดยระบบป้องกันในรูปแบบการกำหนดสิทธิ์เข้าถึง 4 รูปแบบ ทั้งก่อนและหลังการอัปเดตล่าสุดที่เรากำลังทยอยเปิดใช้งานพร้อมกับ GPT‑6 Cyber
อัตราการบล็อกของมาตรการป้องกันที่สูงขึ้นไม่ได้หมายความว่าจะดีกว่าเสมอไป เพราะเทคนิคหลายอย่างที่ใช้ในการประเมินนี้ก็จำเป็นต่อการทำงานด้านความปลอดภัยที่ถูกต้องตามวัตถุประสงค์เช่นกัน ไม่ว่าจะเป็นการทำความเข้าใจระบบ การค้นหาช่องโหว่ หรือการตรวจสอบว่าวิธีแก้ไขสามารถป้องกันการโจมตีได้จริงหรือไม่ เราจึงพิจารณาอัตราการบล็อกเหล่านี้ควบคู่กับความสามารถในการสนับสนุนงานวิจัยและการแก้ไขช่องโหว่ที่ถูกต้องตามวัตถุประสงค์ แทนที่จะมุ่งเพิ่มอัตราการบล็อกให้ถึง 100%
เราได้ร่วมมือกับ Dragos ผู้ให้บริการชั้นนำระดับโลกด้านความปลอดภัยไซเบอร์สำหรับเทคโนโลยีเชิงปฏิบัติการแบบขยาย (xOT) เพื่อทดสอบว่าโมเดลของเราจะช่วยปกป้องโครงสร้างพื้นฐานสำคัญได้อย่างไร โดย Dragos นำโมเดล Daybreak Red ที่เปิดให้ใช้ความสามารถด้านความปลอดภัยไซเบอร์เชิงรุกมาทดสอบในห้องปฏิบัติการภายใต้สภาพแวดล้อมที่ควบคุมไว้ การทดสอบเริ่มตั้งแต่คำขอให้ค้นหาระบบในเครือข่ายและระบุอุปกรณ์ที่เชื่อมต่ออยู่ ก่อนเพิ่มระดับไปสู่การสำรวจเป้าหมายโดยเฉพาะ การนำข้อมูลอ่อนไหวออกจากระบบโดยไม่ได้รับอนุญาต และการสั่งงานอุปกรณ์โดยไม่มีสิทธิ์ ซึ่งอาจนำไปสู่ผลกระทบที่เป็นอันตราย
เรานำข้อเสนอแนะจาก Dragos มาปรับปรุงมาตรการป้องกัน โดยมุ่งป้องกันการให้ความช่วยเหลือที่อาจก่อให้เกิดอันตราย ขณะเดียวกันก็ไม่จำกัดการทดสอบที่ได้รับอนุญาตเกินความจำเป็น อ่านรายละเอียดการประเมินได้จากรายงานฉบับสมบูรณ์ของ Dragos(เปิดในหน้าต่างใหม่) นอกจากนี้ เรายังอยู่ระหว่างขยายความร่วมมือกับผู้ให้บริการทดสอบความปลอดภัยเชิงรุกและทีม Purple Team รายอื่นๆ เพื่อทดสอบการเจาะระบบและทำ red teaming ด้วย AI รวมถึงร่วมมือกับบริษัทพลังงาน ผู้ดำเนินงานโครงสร้างพื้นฐานสำคัญอื่นๆ และห้องปฏิบัติการแห่งชาติ เพื่อประเมินประสิทธิภาพของโมเดลและมาตรการป้องกันของเราในการรักษาความปลอดภัยระบบอุตสาหกรรม เรายังเพิ่มการลงทุนด้านการสืบสวนภัยคุกคาม เพื่อตรวจจับการใช้งานโมเดลที่เกี่ยวข้องกับเทคโนโลยีเชิงปฏิบัติการและระบบควบคุมอุตสาหกรรม (OT/ICS) เราจะเดินหน้าปรับปรุงมาตรการป้องกันโดยอาศัยข้อมูลจากพันธมิตรและชุมชนด้านความปลอดภัย รวมถึงรายงานที่ส่งผ่าน /feedback เมื่อมาตรการป้องกันตรวจไม่พบกิจกรรมที่เป็นอันตรายหรือขัดขวางการทำงานที่ถูกต้องตามวัตถุประสงค์
ในระยะแรก GPT‑6 Cyber จะเปิดให้บริการผ่าน API และ Codex สำหรับลูกค้า Daybreak Red ที่ผ่านการอนุมัติเฉพาะบางกลุ่มก่อน โดยเราจะทยอยขยายการเข้าถึงให้ครอบคลุมลูกค้า Daybreak Red ทุกรายในเร็วๆ นี้ และยังเปิดให้ลูกค้า Daybreak Red ทุกรายใช้งาน GPT‑5.6 Cyber ได้ด้วย นอกจากนี้ เรายังกำลังขยายการเข้าถึง Daybreak Blue รุ่น alpha สำหรับ GPT‑6 Astra ให้กับองค์กรและนักวิจัยด้านความปลอดภัยอิสระมากขึ้น หากสนใจโปรดแจ้งให้เราทราบ(เปิดในหน้าต่างใหม่)
ผู้ใช้ใหม่และองค์กรต่างๆ สามารถสมัครเข้าร่วมโครงการ Daybreak และเริ่มต้นใช้งานเครื่องมือเฉพาะทางด้านความปลอดภัยไซเบอร์ ผลิตภัณฑ์ และบริการจากพาร์ทเนอร์ของเราได้
