การรับมือกับขีดความสามารถทางไซเบอร์ระดับวิกฤตในยุคใหม่
ความปลอดภัยทางไซเบอร์กำลังเปลี่ยนแปลงอย่างรวดเร็ว เนื่องจากโมเดลมีความสามารถเพิ่มขึ้น ทั้งในการยกระดับการป้องกันภัยทางไซเบอร์และเปิดช่องให้เกิดการโจมตีที่รวดเร็วและขยายวงกว้างในระดับที่ไม่เคยเกิดขึ้นมาก่อน
ผลการประเมินภายในล่าสุดของ Astra ซึ่งเป็นหนึ่งในโมเดลที่เรากำลังเตรียมเปิดตัวไม่กี่วันที่ผ่านมา บ่งชี้ว่าโมเดลมีความก้าวหน้าอย่างมากในด้านการเขียนโค้ดแบบเอเจนต์และความปลอดภัยทางไซเบอร์ ผลการประเมินดังกล่าวประกอบกับความเห็นของผู้เชี่ยวชาญ ทำให้เมื่อคืนนี้เราได้ข้อสรุปว่า ยังไม่สามารถตัดความเป็นไปได้ที่ Astra จะมีขีดความสามารถทางไซเบอร์ระดับวิกฤตตามกรอบการเตรียมความพร้อม(เปิดในหน้าต่างใหม่)ของเรา
เราแบ่งปันข้อมูลนี้เพราะเชื่อว่าเราควรสื่อสารกับสาธารณชนและชุมชนด้านความปลอดภัยและการรักษาความปลอดภัยอย่างโปร่งใส เกี่ยวกับขีดความสามารถที่อาจเปลี่ยนแปลงไปนี้
เราเผยแพร่กรอบการเตรียมความพร้อมเป็นครั้งแรกในเดือนธันวาคม 2566 ซึ่งเป็นเวลานานก่อนที่โมเดลต่างๆ จะพัฒนาจนเข้าใกล้ขีดความสามารถระดับนี้ในด้านชีวภาพ เคมี ความมั่นคงปลอดภัยทางไซเบอร์ และการพัฒนาขีดความสามารถของ AI ด้วยตนเอง เราจัดทำกรอบงานนี้ขึ้นเพื่อใช้เป็นแนวทางในการระบุความก้าวหน้าด้านขีดความสามารถ และวางแผนว่าเมื่อขีดความสามารถเหล่านั้นเริ่มปรากฏขึ้น บริษัทของเราจะดำเนินการอย่างไร โมเดลก่อนหน้านี้ รวมถึง GPT‑5.6‑Sol ผ่านการประเมินขีดความสามารถทางไซเบอร์ระดับแนวหน้า และได้รับการจัดให้อยู่ที่เกณฑ์ระดับสูง (High) ไม่ใช่ระดับวิกฤต (Critical)
ภายใต้กรอบการเตรียมความพร้อมของเรา โมเดลจะถึงเกณฑ์ความมั่นคงปลอดภัยไซเบอร์ขั้นวิกฤต หากสามารถค้นหาและพัฒนาช่องโหว่แบบ Zero-day ที่ใช้งานได้จริงในทุกระดับความรุนแรงสำหรับระบบโครงสร้างพื้นฐานสำคัญในโลกจริงจำนวนมากที่มีการป้องกันอย่างแน่นหนา โดยไม่ต้องอาศัยมนุษย์ หรือสามารถคิดค้นและดำเนินกลยุทธ์ใหม่สำหรับการโจมตีทางไซเบอร์ต่อเป้าหมายที่มีการป้องกันอย่างแน่นหนาได้ตั้งแต่ต้นจนจบ โดยได้รับเพียงเป้าหมายที่ต้องการในระดับภาพรวม
ขณะที่เรายังคงทดสอบประสิทธิภาพและประเมินโมเดลนี้ต่อไป ผลการประเมินเบื้องต้นชี้ว่าโมเดลมีประสิทธิภาพสูงมากจนขณะนี้เรายังไม่สามารถตัดความเป็นไปได้ที่โมเดลจะมีขีดความสามารถระดับวิกฤตได้ Astra เป็นโมเดลที่กำลังจะเปิดตัวและไม่มีส่วนเกี่ยวข้องกับการเจาะระบบ Hugging Face
ด้วยเหตุนี้ เราจึงเพิ่มระดับการทดสอบความแข็งแกร่งของมาตรการป้องกันและการควบคุมด้านความมั่นคง เพื่อให้เหมาะสมกับการนำขีดความสามารถเหล่านี้ไปใช้งาน ภายในองค์กร เรายังได้ดำเนินมาตรการต่อไปนี้ เพื่อให้การพัฒนาโมเดลนี้ในขั้นต่อไปเป็นไปอย่างปลอดภัยและมั่นคง:
- เรากำลังใช้การควบคุมด้านความมั่นคงที่เข้มงวดยิ่งขึ้นกับโมเดลที่มีขีดความสามารถสูงและกิจกรรมที่เกี่ยวข้อง ซึ่งรวมถึงสภาพแวดล้อมการทดสอบที่แยกเป็นสัดส่วน การจำกัดการเข้าถึงเครือข่ายและเครื่องมือ การเพิ่มการปกป้องและเข้ารหัสค่าน้ำหนักของโมเดล การเสริมขีดความสามารถด้านการเฝ้าระวังและตรวจจับ ตลอดจนการประมวลผลในแซนด์บ็อกซ์
- เรากำลังระงับกิจกรรมภายในที่เกี่ยวข้องกับ Astra ซึ่งยังไม่เป็นไปตามข้อกำหนดด้านการควบคุมความมั่นคงที่ยกระดับขึ้นเหล่านี้
- เราได้นำระบบติดตามตรวจสอบการกระทำที่มีความเสี่ยงและพฤติกรรมที่ไม่สอดคล้องกับเป้าหมายมาใช้กับแอปพลิเคชันแบบเอเจนต์ทั้งหมดของ Astra รวมถึงในขั้นตอนการฝึกและการประเมิน ระบบติดตามจะประเมินกระบวนการคิดแบบเป็นลำดับขั้นของโมเดล และกระตุ้นให้ทีมรักษาความปลอดภัยตรวจสอบและยุติกิจกรรมที่มีความเสี่ยงสูง
- เราจะร่วมมือกับหน่วยงานภาครัฐที่เกี่ยวข้องและองค์กรด้านความปลอดภัยของ AI ที่ผ่านการคัดเลือก เพื่อทดสอบขีดความสามารถของโมเดลนี้
- เราจะจัดทำข้อแนะนำเกี่ยวกับมาตรการควบคุมด้านความปลอดภัยให้แก่พาร์ทเนอร์ภายนอกที่ทำหน้าที่ทดสอบ เพื่อให้สามารถดำเนินการประเมินและจัดการเวิร์กโหลดที่มีความเสี่ยงสูงได้อย่างปลอดภัย
กรอบงานนี้ช่วยให้เรารับมือกับช่วงเปลี่ยนผ่านด้านขีดความสามารถในด้านอื่นๆ มาแล้ว โดยในเดือนมิถุนายน 2568 ขณะที่โมเดลของเราเข้าใกล้เกณฑ์ขีดความสามารถระดับสูงด้านชีวภาพตามกรอบการเตรียมความพร้อม เราได้ชี้แจงมาตรการที่กำลังดำเนินการ เพื่อยกระดับมาตรการป้องกัน ขยายขอบเขตการทดสอบ ทำงานร่วมกับผู้เชี่ยวชาญภายนอก และนำมาตรการควบคุมด้านความปลอดภัยเพิ่มเติมมาใช้ ซึ่งในครั้งนี้เราก็กำลังยึดหลักการเดียวกัน
เราเชื่อว่าโมเดลที่มีขีดความสามารถไซเบอร์ขั้นสูงควรช่วยให้ฝ่ายป้องกันค้นหาและแก้ไขช่องโหว่ได้ก่อนที่ผู้โจมตีจะฉวยโอกาส เรามุ่งมั่นที่จะทำงานร่วมกับรัฐบาล สถาบันด้านความปลอดภัย และภาคประชาสังคม เพื่อให้มั่นใจว่าขีดความสามารถระดับแนวหน้าของโมเดลอย่าง Astra รวมถึงโมเดลรุ่นต่อๆ ไป จะได้รับการนำไปใช้อย่างมีความรับผิดชอบและในวงกว้าง เพื่อประโยชน์ของมวลมนุษยชาติ
