OpenAI และ NASK ของโปแลนด์ร่วมมือยกระดับความปลอดภัยและความมั่นคงของ AI
OpenAI และสถาบันวิจัยแห่งชาติ NASK ของโปแลนด์ได้ลงนามในข้อตกลงเพื่อสำรวจแนวทางความร่วมมือด้านความปลอดภัย ความมั่นคง และการวิจัยทางเทคนิคเกี่ยวกับ AI ความร่วมมือนี้จะผสานความเชี่ยวชาญจากทั้งสององค์กร เพื่อทำความเข้าใจความเสี่ยงที่เกิดขึ้นใหม่ให้ดียิ่งขึ้น เสริมมาตรการป้องกัน และสำรวจว่า AI ขั้นสูงจะช่วยให้ระบบนิเวศดิจิทัลมั่นคงปลอดภัยและรับมือกับภัยคุกคามได้ดีขึ้นอย่างไร
เมื่อระบบ AI มีความสามารถมากขึ้น ความร่วมมือระหว่างประเทศของผู้พัฒนากับสถาบันวิจัยภาครัฐจะเป็นสิ่งจำเป็นในการทำความเข้าใจความเสี่ยงของระบบเหล่านี้และสร้างมาตรการป้องกันที่เข้มแข็งยิ่งขึ้น ความร่วมมือที่ OpenAI ดำเนินอยู่กับศูนย์ส่งเสริมมาตรฐานและนวัตกรรมเพื่อปัญญาประดิษฐ์เหนือมนุษย์ (CAISSI) ของสหรัฐฯ สถาบันความมั่นคงด้าน AI (AISI) ของสหราชอาณาจักร และสถาบันวิจัยภาครัฐอื่นๆ ทั่วโลก ได้ช่วยเสริมมาตรการป้องกัน ค้นหาและแก้ไขช่องโหว่ด้านความมั่นคงปลอดภัยในเอเจนต์ AI รวมถึงยกระดับความปลอดภัยของ AI ระดับแนวหน้าแล้ว
ภายใต้ข้อตกลงนี้ ศูนย์วิจัยความปลอดภัยด้าน AI ของ NASK ซึ่งทำหน้าที่เป็นสถาบันความปลอดภัยด้านปัญญาประดิษฐ์ (AISI) ของโปแลนด์ จะร่วมกับ OpenAI วิจัยด้านความปลอดภัยของ AI โดยสำรวจวิธีประเมินระบบ AI ที่มีความสามารถเพิ่มขึ้นอย่างต่อเนื่อง ค้นหาช่องโหว่ที่อาจเกิดขึ้น และเสริมมาตรการป้องกัน
OpenAI ได้เรียกร้องให้สหรัฐฯ ร่วมมือกับประเทศต่างๆ ทั่วโลกในการจัดทำมาตรฐานทางเทคนิคระหว่างประเทศสำหรับ AI ระดับแนวหน้า โดยอาศัยความเชี่ยวชาญของสถาบันความปลอดภัยด้าน AI และหน่วยงานด้านมาตรฐาน การใช้แนวทางร่วมกันในการประเมินความสามารถ ประเมินความเสี่ยง ทดสอบมาตรการป้องกัน และรายงานเหตุการณ์ จะช่วยให้ประเทศต่างๆ เปรียบเทียบหลักฐานและรับมือกับความเสี่ยงข้ามพรมแดนได้ ความร่วมมือกับ NASK สะท้อนให้เห็นถึงคุณค่าของการนำความเชี่ยวชาญระดับชาติมาร่วมสนับสนุนความพยายามในวงกว้างนี้
สำหรับ NASK ความเชี่ยวชาญนี้มีรากฐานจากงานวิจัยด้านความปลอดภัยของ AI ที่ครอบคลุมอย่างกว้างขวาง และนำไปใช้โดยตรงในการปกป้องบริการสาธารณะและระบบนิเวศข้อมูลดิจิทัลของโปแลนด์ หากไม่มีพันธมิตรระดับชาติอย่าง NASK มาตรฐานความปลอดภัยของ AI ระดับโลกก็อาจยังไม่สอดคล้องกับสภาพการใช้งาน AI จริง
ข้อตกลงนี้ยังต่อยอดจากความร่วมมือที่ OpenAI ดำเนินอยู่กับผู้ปฏิบัติงานด้านการป้องกันภัยไซเบอร์ในโปแลนด์ ในเดือนกรกฎาคม CERT Polska ซึ่งเป็นหน่วยงานภายใน NASK ได้รับสิทธิ์เข้าถึง(เปิดในหน้าต่างใหม่)โมเดลที่มีความสามารถด้านไซเบอร์ของ OpenAI ผ่าน Daybreak ทีมงานใช้โมเดลของ OpenAI ช่วยค้นพบช่องโหว่ 6 จุดใน MikroTik RouterOS รวมถึงข้อบกพร่องที่อาจนำมาใช้ร่วมกันเพื่อเข้าควบคุมอุปกรณ์ที่ได้รับผลกระทบโดยไม่ต้องผ่านการยืนยันตัวตน ผู้ผลิตได้เผยแพร่ชุดแก้ไขแล้ว ซึ่ง CERT Polska ยืนยันว่าสามารถป้องกันการโจมตีที่ทีมตรวจพบได้
