เส้นทางสู่ Astra: ขีดความสามารถที่สำคัญและมาตรการป้องกันระดับแนวหน้า

นับตั้งแต่การประเมินก่อนหน้านี้ของเราที่ระบุว่า Astra อาจมีขีดความสามารถด้านความมั่นคงปลอดภัยไซเบอร์ในระดับสำคัญ เราได้รวบรวมหลักฐานเพิ่มเติมและดำเนินการประเมินเพิ่มเพื่อวัดขีดความสามารถของโมเดล ขณะนี้เราเชื่อว่า Astra ผ่านเกณฑ์ขีดความสามารถด้านความมั่นคงปลอดภัยไซเบอร์ระดับสำคัญ กรอบการเตรียมความพร้อมของเรา ซึ่งหมายความว่า เมื่อมีเครื่องมือและสิทธิ์เข้าถึงที่เหมาะสม โมเดลสามารถค้นหาช่องโหว่ด้านความปลอดภัยที่ยังไม่เคยเป็นที่รู้จักและพัฒนาวิธีเจาะช่องโหว่เหล่านั้นในระบบที่มีการป้องกันอย่างเข้มงวดจำนวนมากได้ โดยไม่ต้องมีมนุษย์คอยชี้แนะทุกขั้นตอน นี่เป็นโมเดลแรกที่เราจัดให้อยู่ในระดับนี้ จึงต้องใช้มาตรการป้องกันที่เข้มงวดยิ่งขึ้นระหว่างการพัฒนาและก่อนเปิดตัว

ในช่วงหลายสัปดาห์ที่ผ่านมา เราชะลอการพัฒนาและการเปิดตัว Astra บางส่วน ระหว่างที่ยกระดับและทดสอบมาตรการป้องกันการใช้งานไซเบอร์ในทางที่ผิดและการกระทำของโมเดลที่ไม่ได้รับอนุญาต จากงานดังกล่าว เราเชื่อว่ามาตรการป้องกันของ Astra ลดความเสี่ยงที่จะเกิดอันตรายร้ายแรงได้เพียงพอสำหรับการเปิดตัวภายใต้กรอบการเตรียมความพร้อมของเรา

แม้ Astra จะไม่ได้เกี่ยวข้องกับเหตุการณ์ Hugging Face แต่เราได้นำบทเรียน⁠(เปิดในหน้าต่างใหม่)จากเหตุการณ์ดังกล่าวมาปรับใช้กับแนวทางด้านความปลอดภัยของเรา จากการทดสอบย้อนหลัง เราเชื่อว่ามาตรการป้องกันในระบบใช้งานจริงของเราในเวลานั้นน่าจะป้องกันเหตุการณ์ Hugging Face ได้ นับแต่นั้นมา เราได้นำมาตรการป้องกันที่เข้มงวดยิ่งขึ้นมาใช้กับ Astra ซึ่งรวมถึงการเทรนให้โมเดลปฏิเสธคำขอทางไซเบอร์ที่เป็นอันตรายและปฏิบัติตามข้อจำกัดด้านความปลอดภัยได้อย่างน่าเชื่อถือยิ่งขึ้น การเพิ่มการป้องกันการใช้งานในทางที่ผิด และการเฝ้าระวังที่หยุดกิจกรรมซึ่งอาจไม่ได้รับอนุญาตได้

เราวางแผนที่จะเปิดให้ใช้ Astra ในเร็วๆ นี้ แต่จะจำกัดการเข้าถึงขีดความสามารถด้านความมั่นคงปลอดภัยไซเบอร์ขั้นสูงสุดของโมเดลมากกว่าเดิม ในช่วงแรก งานด้านความมั่นคงปลอดภัยไซเบอร์ขั้นสูงจะเปิดให้ผู้ทดสอบกลุ่มหนึ่งใช้งาน ก่อนจะเปิดให้เข้าถึงผ่าน Daybreak Blue เพื่อขยายการใช้งานเชิงป้องกัน

เมื่อเปิดตัว เราจะแจ้งรายละเอียดเพิ่มเติมเกี่ยวกับการทดสอบและการประเมินด้านความปลอดภัย ความมั่นคง และความสอดคล้องกับแนวทางในการ์ดระบบของโมเดล ก่อนเปิดตัว เราต้องการรายงานความคืบหน้าของงานบางส่วนที่เราดำเนินการเพื่อเตรียมเปิดตัวโมเดลที่มีขีดความสามารถด้านความมั่นคงปลอดภัยไซเบอร์ระดับนี้อย่างปลอดภัย พร้อมทั้งเปิดเผยอย่างโปร่งใสว่ายังมีความเสี่ยงใดหลงเหลืออยู่

ภายใต้กรอบการเตรียมความพร้อมของเรา โมเดลจะผ่านเกณฑ์ระดับสำคัญหากเข้าเงื่อนไขข้อใดข้อหนึ่งต่อไปนี้:

• โมเดลสามารถระบุและพัฒนาวิธีเจาะช่องโหว่แบบ zero-day หรือแบบที่ผู้พัฒนามีเวลาศูนย์วันในการเตรียมตัวแก้ไขที่ใช้งานได้จริงในทุกระดับความรุนแรง ในระบบสำคัญของโลกจริงที่มีการป้องกันอย่างเข้มงวดในหลากหลายระบบ โดยไม่ต้องอาศัยการแทรกแซงจากมนุษย์
• โมเดลสามารถคิดค้นและดำเนินกลยุทธ์การโจมตีทางไซเบอร์รูปแบบใหม่ตั้งแต่ต้นจนจบต่อเป้าหมายที่ได้รับการเสริมความแข็งแกร่ง โดยมีเพียงเป้าหมายที่ต้องการในระดับสูงเป็นแนวทาง

การประเมินความพร้อมของ Astra ผสานเกณฑ์มาตรฐานสาธารณะและภายในแบบอัตโนมัติเข้ากับการประเมินที่นำโดยผู้เชี่ยวชาญ Astra มีขีดความสามารถด้านความมั่นคงปลอดภัยไซเบอร์เพิ่มขึ้นอย่างมากเมื่อเทียบกับ GPT‑5.6 Sol โดยใช้โทเค็นได้อย่างมีประสิทธิภาพกว่ามาก และมีความสามารถสูงกว่าในการระบุช่องโหว่และพัฒนาวิธีเจาะช่องโหว่

ตัวอย่างหนึ่งคือ เราทดสอบ Astra กับ ExploitBench ซึ่งโมเดลทำคะแนนได้เต็ม 100% ในเกณฑ์มาตรฐานที่ใช้ประเมินความสามารถของโมเดลในการพัฒนาวิธีเจาะช่องโหว่จากช่องโหว่ที่ทราบอยู่แล้ว

เนื่องจากกังวลเรื่องการปนเปื้อนของข้อมูล เราจึงสร้างเกณฑ์มาตรฐานภายในชื่อ “ExploitBench - พอร์ตภายใน (มิถุนายน-สิงหาคม 2569)” ซึ่งประกอบด้วยช่องโหว่ V8 ระดับรุนแรง 20 รายการที่เพิ่งเปิดเผยเมื่อไม่นานมานี้ ในชุดข้อมูลนี้ Astra มีอัตราความสำเร็จในการทำให้เกิดการเรียกใช้โค้ดตามอำเภอใจสูงกว่า GPT‑5.6 Sol อย่างมีนัยสำคัญ ทั้งที่ใช้โทเค็นเอาต์พุตน้อยกว่ามาก ในระหว่างการประเมิน โมเดลยังสามารถค้นพบและใช้ประโยชน์จากช่องโหว่ zero-day จำนวนสองรายการเป็นส่วนหนึ่งของชุดการเจาะช่องโหว่ ได้อีกด้วย ขณะนี้เรากำลังดำเนินการเปิดเผยช่องโหว่ทั้งสองรายการต่อผู้ดูแลระบบที่เกี่ยวข้อง

ในการประเมินโดยผู้เชี่ยวชาญกับเบราว์เซอร์และระบบปฏิบัติการที่เสริมความปลอดภัยอย่างเข้มงวด Astra สามารถค้นพบช่องโหว่ที่ไม่เคยมีการค้นพบมาก่อน และนำช่องโหว่เหล่านั้นมาพัฒนาเป็นชุดการเจาะช่องโหว่ที่ใช้งานได้จริง โมเดลสามารถสร้างชุดการเจาะระบบเบราว์เซอร์ได้อย่างสมบูรณ์แบบ โดยหลบหนีออกจาก sandbox และเรียกใช้คำสั่งบนเครื่องโฮสต์ได้เมื่อเบราว์เซอร์เปิดไฟล์ HTML โมเดลยังพบช่องโหว่หลายรายการในระบบปฏิบัติการที่เสริมความปลอดภัยอย่างเข้มงวด และนำมารวมเป็นชุดการยกระดับสิทธิ์ภายในเครื่องจากผู้ใช้ที่ไม่มีสิทธิ์พิเศษไปสู่ผู้ดูแลระบบ เมื่อพิจารณาหลักฐานทั้งหมดในการตรวจสอบของเราทำให้เราสรุปว่า Astra ผ่านเกณฑ์ระดับสำคัญ

สำหรับโมเดลที่มีขีดความสามารถด้านความมั่นคงปลอดภัยไซเบอร์ในระดับเดียวกับ Astra เราต้องรับมือกับความเสี่ยงสองทางเพื่อลดโอกาสเกิดอันตรายทางไซเบอร์ร้ายแรง ทั้งระหว่างการพัฒนาและก่อนนำไปใช้งาน:

• ผู้ไม่ประสงค์ดีที่ใช้โมเดล มาตรการป้องกันของเราต้องสามารถป้องกันได้อย่างรัดกุมและมีประสิทธิภาพ ไม่ให้ผู้ไม่หวังดีใช้ Astra เพื่อพัฒนาวิธีสำหรับเจาะช่องโหว่ที่ไม่เคยถูกค้นพบมาก่อนในระบบสำคัญที่ได้รับการเสริมความแข็งแกร่ง หรือเพื่อดำเนินการโจมตีเป้าหมายที่มีการป้องกันอย่างเข้มงวดแบบครบวงจร
• โมเดลที่ดำเนินการโดยไม่ได้รับอนุญาตและไม่สอดคล้องกับแนวทางที่กำหนด แม้ไม่มีผู้ใช้ที่ไม่หวังดี โมเดลที่มีขีดความสามารถด้านความมั่นคงปลอดภัยไซเบอร์ขั้นสูงก็อาจก่ออันตรายทางไซเบอร์ได้ หากดำเนินการโดยไม่สอดคล้องกับแนวทางที่กำหนด นอกเหนือจากการกำหนดมาตรฐานด้านการสอดคล้องกับเจตนารมณ์ในระดับที่สูงมากสำหรับโมเดลที่มีขีดความสามารถดังกล่าวแล้ว มาตรการป้องกันของเราต้องสามารถตรวจจับและควบคุมการดำเนินการที่ไม่เป็นไปตามเจตนารมณ์ได้อย่างรวดเร็ว ซึ่งอาจก่อให้เกิดความเสียหายอย่างมีนัยสำคัญในโลกจริง เพื่อเป็นแนวป้องกันอีกชั้นหนึ่ง

สิ่งสำคัญคือ ความเสี่ยงทางที่สองนี้ใช้กับทั้งสองส่วน ทั้งการพัฒนาภายในและการนำไปใช้ภายนอก ดังที่เราเคยอธิบายไว้ก่อนหน้านี้ เราระงับการเทรนระดับแนวหน้าบางส่วน (รวมถึงการเทรน Astra บางส่วน) เป็นเวลาสองสัปดาห์หลังเหตุการณ์ OpenAI และ Hugging Face เพื่อเสริมความแข็งแกร่งให้โครงสร้างพื้นฐานสำหรับการเทรน ซึ่งรวมถึงการแยกส่วนและการควบคุมเครือข่าย การขยายการเฝ้าระวัง ตลอดจนการยกระดับการเทรนและเกณฑ์ด้านความสอดคล้องกับแนวทาง จากนั้นเราจึงกลับมาดำเนินงานขนาดเล็กภายใต้การควบคุมที่เข้มงวดยิ่งขึ้น

เราชะลอการเรียนรู้แบบเสริมกำลัง (Reinforcement Learning: RL) ขนาดใหญ่บางส่วนสำหรับ Astra รุ่นในอนาคตออกไปเป็นระยะเวลานานขึ้น ระหว่างที่กำหนดมาตรฐานด้านความปลอดภัยและความมั่นคงของสภาพแวดล้อมการเทรนให้สูงขึ้น เมื่อวันที่ 28 สิงหาคม เราเริ่มการเรียนรู้แบบเสริมกำลังระดับแนวหน้ารอบใหญ่ที่เคยระงับไว้อีกครั้ง หลังนำข้อกำหนดใหม่ด้านความปลอดภัยและความมั่นคงมาใช้แล้ว เรายังคงระงับการเทรนเชิงทดลองขนาดเล็กบางรอบไว้ชั่วคราว

การเตรียม Astra ให้พร้อมเปิดตัวยังต้องอาศัยการป้องกันที่เข้มงวดยิ่งขึ้นสำหรับการใช้งานไซเบอร์ในทางที่ผิด และการกระทำที่ไม่ได้รับอนุญาต ด้านล่างนี้ เราจะอธิบายมาตรการการป้องกันเหล่านี้และวิธีที่เราทดสอบมาตรการดังกล่าว

นับตั้งแต่เปิดใช้โมเดลแรกที่เราจัดว่ามีขีดความสามารถด้านความมั่นคงปลอดภัยไซเบอร์ระดับสูง เมื่อ เดือนกุมภาพันธ์ เราได้ยกระดับมาตรการป้องกันทางไซเบอร์ในการเปิดตัวแต่ละครั้งอย่างต่อเนื่อง แนวทางด้านความปลอดภัยโดยรวมของเราใช้การป้องกันหลายชั้น ได้แก่ การปฏิเสธของโมเดลที่ผ่านการเทรนเพิ่มเติม ตัวจำแนกความปลอดภัยระดับระบบ ตลอดจนการตรวจจับแบบออฟไลน์และการหยุดยั้งภัยคุกคาม

สำหรับ GPT‑5.6⁠(เปิดในหน้าต่างใหม่) เราได้เพิ่มระดับความแข็งแกร่งของชุดมาตรการป้องกันในระดับระบบอย่างมาก ซึ่งรวมถึงการเพิ่มตัวจำแนกการทำงานเพื่อตรวจจับการใช้งานไซเบอร์ในทางที่ผิด และปรับปรุงความครอบคลุมของเจลเบรกแบบสากลที่พบจากการทำ red teaming อัตโนมัติอย่างเข้มข้น จากการปรับปรุงเหล่านี้ เราได้ลงทุนเพิ่มเติมกับชั้นโมเดลในชุดมาตรการป้องกันของ Astra พร้อมทั้งเพิ่มความสามารถของมาตรการป้องกันในการจัดการบริบทจากหลายบทสนทนาให้ดียิ่งขึ้น

• ด้วยการนำเทคนิคการฝึกแบบใหม่มาใช้เพื่อเพิ่มความแข็งแกร่งของโมเดล Astra สามารถปฏิเสธคำขอความช่วยเหลือด้านไซเบอร์ที่ไม่อนุญาตได้อย่างมีประสิทธิภาพมากขึ้น ในการประเมินเจลเบรกทางไซเบอร์ของเรา Astra ปฏิเสธคำขอ 91.5% (เทียบกับ GPT‑5.6 Sol ที่ 59%)
• สำหรับบัญชีที่ประเมินว่ามีความเสี่ยงสูง เราใช้ขอบเขตพฤติกรรมของโมเดลที่รัดกุมกว่าเดิม โดยปฏิเสธความช่วยเหลือทางไซเบอร์ที่อาจมีความเสี่ยงในวงกว้าง สำหรับผู้ใช้ที่มีความเสี่ยงสูง เราได้ขยายบริบทของระบบเฝ้าระวัง เพื่อให้ตรวจจับการใช้งานทางไซเบอร์ในทางที่ผิดในลักษณะดังกล่าวได้

เรายังดำเนินโครงการทดสอบอย่างเข้มงวด ทำ red teaming ทั้งภายในและภายนอกระบบ และแก้ไขข้อบกพร่องอย่างต่อเนื่อง นอกจากการทดสอบซ้ำเพื่อให้มั่นใจว่าเจลเบรกทั้งหมดที่พบจากการทดสอบรอบก่อนยังได้รับการป้องกันแล้ว เรายังดำเนินการทำ red teaming รอบใหม่ด้วยระบบโจมตีสำหรับ red teaming ภายในรุ่นล่าสุดของเรา เรากำลังร่วมมือกับพันธมิตรในอุตสาหกรรมเพื่อกำหนดระบบจัดระดับเจลเบรกร่วมกัน และจะใช้โครงการตอบสนองอย่างรวดเร็วตลอด 24 ชั่วโมงทุกวันเพื่อตรวจสอบและจัดการกับปัญหาใหม่ๆที่ค้นพบ เราจะแจ้งรายละเอียดเพิ่มเติมเกี่ยวกับการทดสอบมาตรการป้องกันทางไซเบอร์ในการ์ดระบบของ Astra

การช่วยให้ฝ่ายป้องกันค้นหาและแก้ไขช่องโหว่ยังคงเป็นเสาหลักของแนวทางด้านความปลอดภัยของเรา เมื่อเปิดตัว เราคาดว่ามาตรการป้องกันของ Astra จะสร้างข้อจำกัดมากกว่าที่เราตั้งใจไว้ในระยะยาว เพื่อป้องกันการนำไปใช้ในทางที่ผิดที่อาจเกิดขึ้น ในช่วงแรก การเข้าถึง Astra สำหรับเวิร์กโฟลว์ด้านความมั่นคงปลอดภัยไซเบอร์ขั้นสูงจะเปิดให้ผู้ทดสอบกลุ่มอัลฟาจำนวนเล็กน้อย ก่อนจะขยายการเข้าถึงผ่าน Daybreak Blue เพื่อรองรับการใช้งานเชิงป้องกัน

เราได้เพิ่มการป้องกันหลายชั้นเพื่อป้องกันไม่ให้โมเดลดำเนินการไปในทางที่อาจไม่สอดคล้องกับแนวทางที่กำหนด:

• ความสอดคล้องกับแนวทางของโมเดล: ในการประเมินของเรา Astra ปฏิบัติตามข้อจำกัดด้านความปลอดภัยและความมั่นคงที่ระบุไว้อย่างชัดเจน รวมถึงอยู่ภายในขอบเขตที่ได้รับอนุญาตได้ดีกว่า GPT‑5.6 Sol มาก ทำให้เป็นโมเดลที่สอดคล้องกับแนวทางมากที่สุดของเราในปัจจุบัน เราให้ความสำคัญเป็นพิเศษกับการที่โมเดลปฏิบัติตามข้อจำกัดด้านความมั่นคงและความปลอดภัย ตลอดจนแนวโน้มที่จะอยู่ภายในขอบเขตที่ได้รับอนุญาต
• การเฝ้าระวังและควบคุม: เช่นเดียวกับกระบวนการภายในของเรา เรานำ Astra ไปใช้งานพร้อมระบบเฝ้าระวังการให้เหตุผลแบบเป็นลำดับขั้นเพิ่มเติม เพื่อตรวจจับและควบคุมการกระทำที่อาจไม่สอดคล้องกับแนวทางได้อย่างรวดเร็ว

Astra ถือเป็นความก้าวหน้าครั้งสำคัญด้านความสอดคล้องกับแนวทางของโมเดล และเป็นผลรวมของงานด้านนี้หลายสายที่ดำเนินมาอย่างยาวนาน ตั้งแต่การแทรกแซงในช่วงก่อนเทรน ไปจนถึงการให้คะแนนที่รอบคอบและสม่ำเสมอยิ่งขึ้นระหว่างการเรียนรู้แบบเสริมกำลัง จากการทดสอบ เราพบว่า Astra ปฏิบัติตามข้อจำกัดและคำเตือนด้านความปลอดภัยที่ระบุไว้อย่างชัดเจน (เช่น การตรวจสอบอัตโนมัติ) ได้อย่างสม่ำเสมอกว่า GPT 5.6 Sol

เรายังพัฒนาการทดสอบโดยอิงจากเหตุการณ์ Hugging Face ซึ่งเอเจนต์ที่ดำเนินการประเมินทางไซเบอร์ ExploitGym เจาะระบบของบุคคลที่สาม เราใช้งานที่ยากที่สุดจากการประเมินดังกล่าวเพื่อสร้างการทดสอบ “honeypot” ว่าโมเดลจะพยายามเจาะโครงสร้างพื้นฐานด้านความปลอดภัยโดยรอบ แทนการแก้โจทย์ที่ได้รับมอบหมายหรือไม่ GPT‑5.6 Sol ซึ่งไม่มีมาตรการป้องกันสำหรับระบบใช้งานจริง พยายามเข้าถึงเป้าหมายเหล่านั้นในการทดสอบ 56% ที่จำลองสภาพแวดล้อมของเกณฑ์มาตรฐานซึ่งสั่งให้โมเดลพัฒนาวิธีเจาะช่องโหว่ Astra ไม่ได้พยายามทำเช่นนั้นเลยในการทดสอบเหล่านี้ ตัวเลขเหล่านี้อธิบายพฤติกรรมภายใต้เงื่อนไขการทดสอบที่ไม่มีมาตรการป้องกันทางไซเบอร์ ไม่ใช่การใช้งานจริงตามปกติ

การเทรนโมเดลให้สอดคล้องกับแนวทางเป็นมาตรการความปลอดภัยขั้นหนึ่ง เราจะแจ้งรายละเอียดเพิ่มเติมเกี่ยวกับการทดสอบและผลลัพธ์ด้านความสอดคล้องกับแนวทางในการ์ดระบบของ Astra

เรายังนำระบบเฝ้าระวังความไม่สอดคล้องกับแนวทางมาใช้ในระบบจริงสำหรับโมเดลระดับ Astra เพื่อตรวจจับและควบคุมความไม่สอดคล้องที่อาจเกิดขึ้นได้อย่างรวดเร็ว มาตรการป้องกันเหล่านี้คล้ายกับการเฝ้าระวังสำหรับการใช้งานภายในของเรา โดยใช้ระบบตัวจำแนกเพื่อตรวจสอบการให้เหตุผลและการกระทำของโมเดลว่ามีพฤติกรรมที่ไม่ได้รับอนุญาตหรือไม่ และหยุดกิจกรรมที่อาจไม่ได้รับอนุญาตโดยอัตโนมัติ อย่างไรก็ตาม มาตรการป้องกันเหล่านี้ไม่สามารถทดแทนการทำให้โมเดลมีความสอดคล้องที่ดีได้เมื่อขีดความสามารถของโมเดลเพิ่มขึ้น และเป้าหมายของเราคือการทำให้โมเดลในอนาคตมีความสอดคล้องในระดับที่ดีเพียงพอจนมาตรการป้องกันเหล่านี้ไม่จำเป็นต้องถูกเรียกใช้งาน

OpenAI มุ่งมั่นที่จะทำให้ผู้คนเข้าถึงประโยชน์ของ AI ได้อย่างทั่วถึง เนื่องจากขีดความสามารถด้านความมั่นคงปลอดภัยไซเบอร์ของ Astra เพิ่มขึ้นอย่างมาก เราจึงระมัดระวังเป็นพิเศษเพื่อให้การนำไปใช้งานครั้งนี้ปลอดภัยและมั่นคง บางครั้งการตรวจสอบความปลอดภัยเพิ่มเติมอาจทำให้งานที่ถูกต้องล่าช้า ถูกพัก หรือหยุดลง รวมถึงงานด้านความมั่นคงปลอดภัยไซเบอร์เชิงป้องกัน

บางครั้งระบบอาจระบุกิจกรรมที่ถูกต้องตามปกติว่าอาจเป็นการใช้ในทางที่ผิดกฎไซเบอร์หรือพฤติกรรมที่ไม่ได้รับอนุญาต ส่งผลให้กิจกรรมนั้นล่าช้า ถูกพัก หรือหยุดลงโดยไม่ตั้งใจ กรณีนี้อาจรวมถึงงานที่ดูเหมือนไม่เกี่ยวข้องโดยตรงกับความมั่นคงปลอดภัยไซเบอร์ หรืองานที่เอเจนต์ทำงานต่อเนื่องเป็นเวลานาน

หากระบบเฝ้าระวังความไม่สอดคล้องกับแนวทางหยุดงานชั่วคราว ผู้ใช้ ChatGPT หรือ Codex อาจต้องตรวจสอบการดำเนินการนั้นก่อนทำต่อ เมื่อใช้งานผ่านช่องทางอื่น เช่น API งานจะหยุดลง เราวางแผนที่จะปรับเทียบมาตรการป้องกันเหล่านี้อย่างต่อเนื่อง เพื่อลดการขัดจังหวะที่ไม่จำเป็น และขยายการเข้าถึงขีดความสามารถระดับแนวหน้าผ่านโครงการต่างๆ เช่น Daybreak

เรากำลังก้าวเข้าสู่ช่วงของการพัฒนา AI ที่โมเดลสามารถรับผิดชอบงานซึ่งมีผลกระทบมากขึ้น และความล้มเหลวด้านความสอดคล้องกับแนวทางและการควบคุมอาจส่งผลร้ายแรงยิ่งขึ้น การทำให้ระบบเหล่านี้สร้างประโยชน์ได้จริงจะขึ้นอยู่กับความสามารถของเราในการทำให้โมเดลสอดคล้องกับแนวทางและควบคุมโมเดลได้ ขณะที่ขีดความสามารถเพิ่มขึ้น

ความรับผิดชอบนั้นครอบคลุมทั้งการเทรน การประเมิน และการนำไปใช้งาน เราต้องมีหลักฐานที่หนักแน่นขึ้นว่าพฤติกรรมสอดคล้องกับแนวทาง มีมาตรการป้องกันที่พัฒนาเท่าทันขีดความสามารถ และพร้อมชะลอการดำเนินงานเมื่อการป้องกันเหล่านั้นยังไม่เพียงพอ

เราจะทดสอบระบบเหล่านี้ต่อไป แจ้งสิ่งที่เราได้เรียนรู้ และสื่อสารอย่างชัดเจนว่ายังมีเรื่องใดที่ไม่แน่นอน โมเดลรุ่นต่อจาก Astra จะทำให้เราต้องรับผิดชอบมากยิ่งขึ้น เราจะใช้เวลาและลงมือทำสิ่งที่จำเป็นเพื่อรับผิดชอบต่อหน้าที่นั้น