ร่วมกันสร้างมาตรฐานร่วมสำหรับ AI ขั้นสูง
โมเดลที่มีขีดความสามารถเพิ่มขึ้นอย่างต่อเนื่องสามารถเสริมสร้างความมั่นคงทางไซเบอร์ เร่งความเร็วในการค้นพบทางวิทยาศาสตร์ และขยายการเข้าถึงองค์ความรู้เฉพาะทางให้กว้างขวางยิ่งขึ้น แต่ในขณะเดียวกัน โมเดลเหล่านี้อาจก่อให้เกิดความเสี่ยงด้านความปลอดภัยและมั่นคง หากความสามารถของมันถูกตีความผิด มาตรการคุ้มครองไม่รัดกุมเพียงพอ เพื่อที่จะได้รับประโยชน์จากเทคโนโลยีเหล่านี้อย่างปลอดภัยและมั่นใจ สังคมจำเป็นต้องมีสถาบันที่มีความสามารถทั้งในด้านเทคนิคและการกำกับดูแลเพื่อประเมิน รักษาความปลอดภัย และกำกับดูแลระบบที่มีความสามารถสูงขึ้นเรื่อยๆ
นี่เป็นหนึ่งในเหตุผลที่ OpenAI ช่วยร่วมก่อตั้ง Appia Foundation(เปิดในหน้าต่างใหม่) ซึ่งอยู่ภายใต้การดูแลของ Linux Foundation Appia จะพัฒนาข้อกำหนดแบบเปิดที่มีลักษณะเป็นโมดูล เพื่อแปลงมาตรฐานระหว่างประเทศและกรอบการทำงานที่เป็นที่ยอมรับ ให้กลายเป็นเกณฑ์การประเมินที่นำไปปฏิบัติได้จริงทั่วทั้งกระบวนการสร้างคุณค่าของ AI การดำเนินงานขององค์กรนี้ช่วยสร้างชั้นความเชื่อมั่นที่สำคัญซึ่งยังขาดหายไป เพื่อให้บุคคลที่สามสามารถตรวจสอบการปฏิบัติตามมาตรฐานได้ ทำให้เกิดหลักฐานที่ชัดเจนและนำกลับมาใช้ใหม่ได้มากขึ้น ในกรณีที่โมเดล โครงสร้างพื้นฐาน และแอปพลิเคชันถูกพัฒนาโดยองค์กรที่แตกต่างกัน ในการดำเนินงานนี้ Appia จะช่วยสร้างภาษาทางเทคนิคที่เป็นมาตรฐานเดียวกัน เพื่อสร้างความไว้วางใจในการทำงานร่วมกันระหว่างสถาบันต่างๆ ทั้งในระดับชาติและระดับนานาชาติ
เรามองว่าความพยายามในครั้งนี้ถือเป็นก้าวสำคัญในแผนงานที่ครอบคลุมยิ่งขึ้น เพื่อเสริมสร้างความแข็งแกร่งให้กับสถาบัน มาตรฐาน และแนวปฏิบัติในการประเมินผล ซึ่งมีความจำเป็นต่อระบบ AI ขั้นสูง
แผนแม่บทด้านการกำกับดูแล AI ระดับแนวหน้าภายใต้หลักประชาธิปไตยฉบับล่าสุดของเราได้นำเสนอแผนงานสำหรับงานดังกล่าว แผนงานนี้สนับสนุนให้มีกรอบการทำงานที่มั่นคงในสหรัฐฯ การยกระดับศูนย์มาตรฐานและนวัตกรรม AI (CAISI) ให้มีประสิทธิภาพยิ่งขึ้น และการสร้างกลยุทธ์เพื่อเพิ่มความสามารถในการรับมือกับวิกฤตที่ครอบคลุมในระดับรัฐบาล อีกทั้งยังเล็งเห็นว่าความเสี่ยงจากเทคโนโลยีระดับแนวหน้ามีลักษณะเป็นปัญหาในระดับสากล ประเทศต่างๆ ควรทำงานร่วมกันเพื่อพัฒนากรอบความปลอดภัยที่สอดประสานกัน ช่องทางที่เชื่อถือได้สำหรับการแบ่งปันข้อมูลความเสี่ยง และการรับมือต่อเหตุการณ์ต่างๆ อย่างเป็นระบบ
ขีดความสามารถระดับชาติและความร่วมมือระหว่างประเทศควรเสริมสร้างซึ่งกันและกัน สถาบันที่เข้มแข็ง เช่น CAISI สามารถพัฒนาความเชี่ยวชาญทางเทคนิค ประเมินระบบระดับแนวหน้า และสนับสนุนระบบนิเวศการประเมินที่เป็นอิสระได้ เครือข่ายสถาบันระดับชาติที่มีขีดความสามารถจะสามารถกำหนดวิธีการทำงานร่วมกัน ยอมรับหลักฐานที่เชื่อถือได้ และสร้างความเข้าใจในเชิงเทคนิคที่ตรงกันให้กับหน่วยงานรัฐ เพื่อเป็นรากฐานในการปฏิบัติงานร่วมกัน
มาตรฐานถือเป็นหัวใจสำคัญของความพยายามนี้ และจำเป็นต้องตั้งอยู่บนพื้นฐานของการปฏิบัติงานด้านการประเมินที่น่าเชื่อถือและความเข้มงวดทางเทคนิค ในคู่มือแนวทางปฏิบัติร่วมของเราสำหรับการประเมินโดยบุคคลที่สามที่เชื่อถือได้ เราได้ระบุสิ่งที่การประเมินเทคโนโลยีล้ำสมัยจำเป็นต้องเปิดเผยมากขึ้นเรื่อยๆ ได้แก่ ระบบที่ผ่านการทดสอบ การเข้าถึงเครื่องมือและชุดเครื่องมือที่ใช้ในการประเมิน วิธีการที่ใช้ทดสอบเพื่อดึงศักยภาพออกมา ทรัพยากรที่ใช้ในการประเมิน และขั้นตอนการตรวจสอบเพื่อยืนยันผลลัพธ์ เราได้นำหลักการเหล่านี้ไปปฏิบัติจริงผ่านความร่วมมือในการทดสอบร่วมกับหน่วยงาน US CAISI และ UK AISI ซึ่งผลงานของพวกเขาในการประเมินขีดความสามารถของเทคโนโลยีระดับแนวหน้าและมาตรการป้องกันการนำไปใช้ในทางที่ผิดทางชีวภาพ ช่วยให้เราสามารถพัฒนาระบบให้ดีขึ้นได้อย่างชัดเจน งานนี้มีบทบาทสำคัญในการวางรากฐานสำหรับแนวปฏิบัติที่สามารถทำให้เป็นมาตรฐานได้ เพื่อใช้ตรวจสอบประสิทธิภาพในรูปแบบที่เปรียบเทียบกันได้
แนวปฏิบัติเหล่านี้ช่วยเสริมโครงสร้างด้านความปลอดภัยในภาพรวมของ OpenAI กรอบการเตรียมความพร้อมของเราถือเป็นรากฐานสำคัญในการกำหนดและนำแนวทางไปปฏิบัติจริง เพื่อจัดการความเสี่ยงร้ายแรงที่สุดที่เกิดจากระบบ AI ขั้นสูง ซึ่งรวมถึงแนวทางปฏิบัติภายในองค์กรของเราด้วย กรอบการกำกับดูแลเทคโนโลยีระดับแนวหน้าของเรานำแนวทางดังกล่าวมาประยุกต์ใช้ในเอกสารการกำกับดูแลที่เปิดเผยต่อสาธารณะ โดยมุ่งเน้นข้อผูกพันด้านกฎระเบียบที่เฉพาะเจาะจง ซึ่งครอบคลุมการประเมินความเสี่ยง การรายงานข้อมูลเกี่ยวกับโมเดล มาตรการควบคุมด้านความปลอดภัย การตอบสนองต่อเหตุการณ์ และการนำความคิดเห็นจากผู้เชี่ยวชาญภายนอกมาประกอบการดำเนินงาน เอกสารเหล่านี้ทำหน้าที่ช่วยเปลี่ยนคำมั่นสัญญาในวงกว้างให้กลายเป็นแนวทางปฏิบัติที่จับต้องได้ ซึ่งสามารถตรวจสอบความถูกต้องและพัฒนาให้ดียิ่งขึ้นไป
ภารกิจของ Appia มุ่งเน้นไปที่โจทย์ที่ท้าทายกว่าเดิม คือการเชื่อมโยงแนวปฏิบัติเหล่านั้นให้ทำงานประสานกันได้อย่างไร้รอยต่อระหว่างองค์กร ระหว่างเขตอำนาจกฎหมาย รวมถึงตลอดห่วงโซ่อุปทาน
OpenAI ได้เข้าไปมีส่วนร่วมในระบบนิเวศวงกว้างที่เกี่ยวข้องกับมาตรฐานและการดำเนินงานในระยะเตรียมการสร้างมาตรฐานอยู่แล้วในปัจจุบัน เรามีบทบาทใน International Organization for Standardization and International Electrotechnical Commission Joint Technical Committee 1(เปิดในหน้าต่างใหม่) และ National Institute of Standards and Technology-led Artificial Intelligence Consortium(เปิดในหน้าต่างใหม่) อีกทั้งยังช่วยก่อตั้ง Frontier Model Forum และ Agentic Artificial Intelligence Foundation(เปิดในหน้าต่างใหม่) ของมูลนิธิ Linux Foundation นอกจากเรานี้ยังมีส่วนร่วมใน Coalition for Secure Artificial Intelligence(เปิดในหน้าต่างใหม่) รวมถึงเป็นสมาชิกคณะกรรมการกำกับดูแลของ Coalition for Content Provenance and Authenticity(เปิดในหน้าต่างใหม่) และมีส่วนร่วมในกระบวนการของ Internet Engineering Task Force(เปิดในหน้าต่างใหม่) และ Fast Identity Online Alliance(เปิดในหน้าต่างใหม่) เพื่อผลักดันมาตรฐานทางเทคนิคที่สามารถทำงานร่วมกันได้
ผ่านเวทีความร่วมมือเหล่านี้ รวมถึง Appia ในปัจจุบัน เป้าหมายของเราคือการถ่ายทอดบทเรียนจากการพัฒนาเทคโนโลยีล้ำสมัย ให้กลายเป็นแนวปฏิบัติที่เปิดกว้างและมีหลักการทางเทคนิครองรับ ซึ่งรัฐบาล บริษัทต่างๆ และผู้ประเมินอิสระสามารถนำไปใช้ได้ในทุกเขตอำนาจ
