ประเด็นสำคัญและหลักการประเมินโดยบุคคลที่สามอย่างมีประสิทธิผล

ห้องปฏิบัติการ AI ระดับแนวหน้ามีหน้าที่สำคัญอย่างยิ่งในการเทรน การประเมิน และการนำโมเดลไปใช้งานอย่างปลอดภัย การประเมินโดยบุคคลที่สามมีบทบาทสำคัญในการสร้างกลไกถ่วงดุล เปิดพื้นที่ให้มีการเสนอความคิดเห็นด้านความปลอดภัยของ AI มากขึ้น ทำให้ทั่วโลกได้รับข้อมูล และช่วยให้สามารถตรวจสอบว่าห้องปฏิบัติการปฏิบัติตามข้อกล่าวอ้างด้านความปลอดภัยที่ชัดเจนและมีหลักฐานจากแหล่งอิสระสนับสนุนหรือไม่

OpenAI มุ่งมั่นสนับสนุนการประเมินโดยอิสระ โดยเปิดให้เข้าถึงในเชิงลึกครอบคลุมทั้งการเทรน การประเมิน และการนำไปใช้งาน ซึ่งเป็นส่วนหนึ่งของความพยายามในการกำกับทิศทางการพัฒนา AI ระดับแนวหน้า การเข้าถึงนี้ควรเปิดโอกาสให้ผู้ประเมินตรวจสอบสมมติฐานของเรา ค้นหาความเสี่ยงที่เราอาจไม่ได้คำนึงถึง และตัดสินประสิทธิผลของมาตรการป้องกันด้วยตนเอง

เราทำงานร่วมกับผู้ประเมินบุคคลที่สามมาอย่างต่อเนื่องยาวนานในหลายขั้นตอนของกระบวนการพัฒนาและนำโมเดลไปใช้งาน นอกจากนี้ เรายังนำการประเมินโดยบุคคลที่สามมาเป็นส่วนหนึ่งของแนวปฏิบัติตามกรอบการเตรียมความพร้อม และสนับสนุนองค์กรและกฎหมายที่ส่งเสริมให้กระบวนการมีความเข้มงวดและตรวจสอบความรับผิดชอบได้มากขึ้น ตลอดการทำงานร่วมกันเหล่านี้ เราได้เปิดให้เข้าถึงข้อมูลและระบบในเชิงลึก ซึ่งรวมถึงข้อมูลเกี่ยวกับมาตรการป้องกันทางเทคนิค สิทธิ์เข้าถึงการให้เหตุผลแบบเป็นลำดับขั้นที่มองเห็นได้ ตลอดจนข้อมูลลับและระบบที่ใช้งานภายในในระดับที่ไม่เคยมีมาก่อน ในการรับมือกับ Red Teaming ของระบบเฝ้าติดตาม ประเด็นสำคัญและหลักการในที่นี้มุ่งเน้นการทำงานร่วมกับองค์กรประเมินอิสระจากภาคเอกชนและภาคไม่แสวงหากำไรในการประเมินความปลอดภัยทางเทคนิค แนวทางเหล่านี้ช่วยเสริมงานด้านการทดสอบและประเมินที่เราดำเนินการกับรัฐบาล ซึ่งบทบาทและหน้าที่ที่แตกต่างกันอาจทำให้ต้องเลือกใช้วิธีการที่ต่างกัน

การทำให้การประเมินเหล่านี้มีประสิทธิผลต้องอาศัยกลไกที่ช่วยรักษาความเป็นอิสระอย่างเข้มแข็ง กระบวนการที่รัดกุมตามหลักวิทยาศาสตร์ แนวปฏิบัติด้านความมั่นคงปลอดภัยที่เชื่อถือได้ และบทบาทความรับผิดชอบที่ชัดเจน ห้องปฏิบัติการมีหน้าที่สนับสนุนให้เกิดการตรวจสอบอย่างรอบด้าน พร้อมปกป้องข้อมูลอ่อนไหว ห้องปฏิบัติการและผู้ประเมินอิสระต้องร่วมกันรับผิดชอบให้การประเมินเป็นไปอย่างถูกต้อง และควรดำเนินงานภายใต้มาตรฐานสากลร่วมกันด้านแนวปฏิบัติเพื่อความปลอดภัยและความมั่นคงปลอดภัย ต่อไปนี้คือประเด็นสำคัญสี่ด้านที่เราเสนอให้มีการประเมินอย่างลึกซึ้ง พร้อมหลักการสำหรับการทำงานอย่างเข้มงวด มั่นคงปลอดภัย และเป็นอิสระ

การประเมินโดยบุคคลที่สามจะเกิดประโยชน์สูงสุดเมื่อพิจารณาคำถามที่ชัดเจนและส่งผลสำคัญ เช่น มีหลักฐานเพียงพอที่จะสนับสนุนกรณีรับรองความปลอดภัยและข้อกล่าวอ้างด้านความปลอดภัยของห้องปฏิบัติการหรือไม่ วิธีประเมินสามารถทดสอบความเสี่ยงเป้าหมายได้อย่างเหมาะสมหรือไม่ และมาตรการป้องกันยังคงมีประสิทธิผลเมื่อนำไปใช้ในสถานการณ์จริงหรือไม่

การประเมินที่กล่าวถึงในที่นี้อาจมีรูปแบบแตกต่างกันไปตามประเด็นด้านความปลอดภัยที่ต้องการตรวจสอบ เราคาดว่าจะสนับสนุนการประเมินหลายรายการพร้อมกันในช่วงเวลาที่แตกต่างกัน โดยบางรายการอาจใช้เวลาหลายสัปดาห์ ขณะที่บางรายการอาจใช้เวลาหลายเดือน แม้การประเมินโดยบุคคลที่สามอาจเป็นส่วนหนึ่งของการเตรียมความพร้อมก่อนนำโมเดลไปใช้งานและอาจช่วยประกอบการตัดสินใจเกี่ยวกับการนำโมเดลไปใช้งาน แต่การประเมินที่กล่าวถึงในที่นี้โดยทั่วไปเป็นงานระยะยาวกว่าและไม่ผูกกับการเปิดตัวใดโดยเฉพาะ โดยมุ่งตรวจสอบข้อกล่าวอ้างด้านความปลอดภัยบางประเด็นอย่างเจาะลึกและต่อเนื่อง

ในเนื้อหาส่วนที่ว่าด้วยประเด็นสำคัญและหลักการ เราใช้คำว่า “ข้อกล่าวอ้างด้านความปลอดภัย” และ “กรณีรับรองความปลอดภัย” ซึ่งหมายถึงสิ่งต่อไปนี้:

เราเสนอประเด็นสำคัญสี่ด้านสำหรับการประเมินเชิงลึก พร้อมหลักการทำงานที่เข้มงวด ปลอดภัย และเป็นอิสระ

1. การประเมินกรณีรับรองความปลอดภัยโดยอิสระ ซึ่งครอบคลุมการเทรน การประเมิน การใช้งานภายใน และการใช้งานภายนอก

   การประเมินกรณีรับรองความปลอดภัยต้องอาศัยความเชี่ยวชาญด้านการปรับ AI ให้สอดคล้องกับเจตนารมณ์ของมนุษย์ วิธีการควบคุม เช่น การเฝ้าติดตาม ความมั่นคงปลอดภัยทางไซเบอร์ การนำความรู้ด้านชีวภาพและเคมีไปใช้ในทางที่ผิด และการทดสอบแบบ Red Teaming กรณีรับรองความปลอดภัยประกอบด้วยข้อกล่าวอ้างเกี่ยวกับการฝึก การประเมินความสามารถ และมาตรการป้องกัน ซึ่งอาจประเมินโดยรวมหรือแยกเป็นส่วนๆ ก็ได้ โปรดดูประเด็นสำคัญข้อ 2 และ 3 ด้านล่าง ผู้ประเมินหลายรายอาจต้องตรวจสอบส่วนต่างๆ ของกรณีรับรองความปลอดภัยตามความเชี่ยวชาญของตน และเมื่อพิจารณาผลการประเมินทั้งหมดร่วมกันแล้ว ควรตอบคำถามต่างๆ ได้ เช่น

   1. หลักฐานที่ใช้รองรับกรณีรับรองความปลอดภัยในการเทรน การประเมิน และการนำโมเดลไปใช้งานมีความน่าเชื่อถือเพียงพอหรือไม่ และมีการปฏิบัติตามเงื่อนไขที่กำหนดไว้ในกรณีรับรองความปลอดภัยตลอดการฝึก การประเมิน และการนำโมเดลไปใช้งานหรือไม่

   2. กรณีรับรองความปลอดภัยของเราครอบคลุมความเสี่ยงสำคัญเร่งด่วนที่ตรวจพบระหว่างการประเมินหรือไม่ ข้อกล่าวอ้างด้านความปลอดภัยช่วยยืนยันกรณีรับรองความปลอดภัยโดยรวมหรือไม่ และมีประเด็นใดที่ยังขาดตกบกพร่องหรือควรพัฒนาเพิ่มเติมหรือไม่

   3. มีการใช้วิธีการที่มีประสิทธิผลเพื่อระบุและลดแรงจูงใจระหว่างการเทรน ซึ่งอาจให้รางวัลแก่พฤติกรรมหลอกลวง การหาช่องโหว่ของระบบการให้รางวัล การกระทำที่สร้างความเสียหาย หรือการหลีกเลี่ยงข้อจำกัดหรือไม่

2. การประเมินมาตรการป้องกันสำคัญในการใช้งานทั้งภายในและภายนอก

   ระบบมาตรการป้องกันหลายชั้นของเราพัฒนาอย่างต่อเนื่องเพื่อให้ทันกับความสามารถของโมเดลและสภาพแวดล้อมที่เปลี่ยนแปลงไป มาตรการเหล่านี้ครอบคลุมทั้งการเทรน การนำไปใช้ภายใน และการนำไปใช้ภายนอกองค์กร ปัจจุบันประกอบด้วยมาตรการป้องกันในระดับโมเดล มาตรการบังคับใช้นโยบาย มาตรการด้านความมั่นคงปลอดภัย และระบบเฝ้าติดตามความไม่สอดคล้องกับเป้าหมาย ซึ่งครอบคลุมความเสี่ยงหลากหลายรูปแบบ เช่น การสูญเสียการควบคุม และการนำไปใช้ในทางที่ผิดซึ่งก่อให้เกิดความเสี่ยงด้านไซเบอร์ ชีวภาพ และเคมี ความร่วมมือทางเทคนิคช่วยค้นหาจุดอ่อนของมาตรการป้องกันที่ใช้อยู่ในปัจจุบัน พร้อมทั้งพัฒนาวิธีการประเมินและเร่งจัดทำมาตรฐาน ซึ่งจะช่วยวางรากฐานทางเทคนิคที่แข็งแกร่งยิ่งขึ้นสำหรับนโยบายสาธารณะในอนาคต เพื่อกำกับความก้าวหน้าของ AI ระดับแนวหน้า โดยเฉพาะการนำไปใช้ภายในองค์กร ซึ่งมาตรฐานด้านความปลอดภัยและความมั่นคงปลอดภัยยังอยู่ในระยะเริ่มต้น

   การประเมินโดยอิสระควรตรวจสอบว่ามาตรการป้องกันเหล่านี้มีประสิทธิผลเพียงใดและยังมีข้อบกพร่องในด้านใดบ้าง เช่น

   1. เมื่อผู้ประเมินสามารถเข้าถึงข้อมูลและองค์ประกอบภายในระบบได้บางส่วน มาตรการป้องกันมีความแข็งแกร่งเพียงพอต่อความพยายามเจลเบรกหรือไม่ และสามารถป้องกันไม่ให้โมเดลเพิ่มศักยภาพในการดำเนินการด้านที่มีความเสี่ยงสูง เช่น ไซเบอร์และชีวภาพ ได้หรือไม่ การทดสอบเชิงปรปักษ์และการทำ Red Teaming ของเราครอบคลุมความเสี่ยงหลักอย่างครบถ้วนแล้วหรือไม่

   2. ในการทดสอบที่ได้รับอนุญาตภายใต้สภาวะการทำงานที่ใกล้เคียงกับการใช้งานจริง เอเจนต์มีปฏิสัมพันธ์กับระบบป้องกันทางไซเบอร์อย่างไร เช่น การควบคุมการเข้าถึง การแยกสภาพแวดล้อมการทำงาน และระบบตรวจจับและรับมือ มาตรการใดสามารถป้องกัน ตรวจจับ หรือจำกัดความเสียหายจากการกระทำที่เป็นอันตรายได้ และมาตรการเหล่านั้นมีจุดบกพร่องตรงไหนบ้าง

   3. ระบบเฝ้าติดตามความไม่สอดคล้องกับเป้าหมายของเรามีช่องว่างสำคัญที่อาจนำไปสู่การสูญเสียการควบคุมหรือความไม่สอดคล้องอย่างร้ายแรงหรือไม่ ทั้งในการนำโมเดลไปใช้ภายในและภายนอกองค์กร เมื่อความสามารถของโมเดลเพิ่มขึ้น การเฝ้าติดตามการให้เหตุผลแบบเป็นลำดับขั้นยังเป็นแหล่งหลักฐานด้านความปลอดภัยหรือความสอดคล้องที่น่าเชื่อถือเพียงใด

   4. มีการนำระบบเฝ้าติดตามที่เหมาะสมมาใช้ในทุกขั้นตอนที่เกี่ยวข้อง ทั้งการเทรน การประเมิน และการนำโมเดลไปใช้งาน โดยออกแบบไม่ให้ปิดใช้งานได้โดยง่ายหรือไม่

   5. มีการใช้มาตรการป้องกันที่เหมาะสมกับระดับความสามารถหรือไม่

3. การตรวจสอบการประเมินความสามารถที่ครอบคลุมหมวดหมู่ความเสี่ยงในกรอบการเตรียมความพร้อม ได้แก่ ความเสี่ยงด้านเคมีและชีวภาพ ความมั่นคงปลอดภัยทางไซเบอร์ และการปรับปรุงความสามารถของ AI ด้วยตนเอง ตลอดจนการประเมินความสอดคล้องเพื่อวัดความเสี่ยงที่ AI อาจทำงานไม่ตรงตามเป้าหมาย

   กรอบการเตรียมความพร้อมของเรากำหนดให้มีการประเมินความเสี่ยงสำคัญจาก AI ระดับแนวหน้า เมื่อความสามารถของโมเดลผ่านเกณฑ์ที่กำหนดและแบบประเมินเริ่มไม่สามารถแยกความแตกต่างของระดับความสามารถที่สูงขึ้นได้ เราจำเป็นต้องปรับปรุงแบบประเมินอย่างสม่ำเสมอ พร้อมดูแลให้แบบประเมินความสามารถในหมวดหมู่ความเสี่ยงตามกรอบการเตรียมความพร้อม และแบบประเมินความสอดคล้องที่ใช้ตรวจสอบความเสี่ยงจากความไม่สอดคล้องอย่างร้ายแรง มีความครอบคลุมและมีคุณภาพ

   คำถามที่เกี่ยวข้อง ได้แก่:

   1. การประเมินความเสี่ยงตามกรอบการเตรียมความพร้อมครอบคลุมนิยามเกณฑ์ความเสี่ยงของกรอบการเตรียมความพร้อมอย่างเพียงพอหรือไม่ มีการกำหนดเกณฑ์สำหรับการประเมินเหล่านี้อย่างถูกต้องหรือไม่

   2. มีการปรับปรุงการประเมินเมื่อโมเดลทำคะแนนสูงสุดได้อย่างสม่ำเสมอหรือไม่ และแบบทดสอบใหม่วัดความสามารถขั้นสูงขึ้นได้อย่างมีนัยสำคัญหรือไม่

   3. แบบประเมินความสอดคล้องของเราครอบคลุมความเสี่ยงจากความไม่สอดคล้องอย่างร้ายแรงได้อย่างเพียงพอหรือไม่ และอาจยังตรวจไม่พบพฤติกรรมหรือเงื่อนไขสำคัญใดบ้าง

4. การตรวจสอบเหตุการณ์สำคัญที่เกี่ยวข้องกับความไม่สอดคล้องกับเป้าหมายโดยหน่วยงานอิสระ

   การตรวจสอบโดยหน่วยงานอิสระอาจมีประโยชน์ต่อเหตุการณ์ร้ายแรงด้านความปลอดภัยของ AI หลากหลายรูปแบบ ในที่นี้ เรามุ่งเน้นความไม่สอดคล้องกับเป้าหมายของโมเดล รวมถึงกรณีที่โมเดลดำเนินการโดยไม่ได้รับอนุญาตหรือหลบเลี่ยงการกำกับดูแล ซึ่งอาจเผยให้เห็นจุดอ่อนของวิธีการปรับโมเดลให้สอดคล้องกับเป้าหมายและมาตรการป้องกัน แม้จะไม่มีผู้ใดจงใจนำโมเดลไปใช้ในทางที่ผิดก็ตาม

   ในบางสถานการณ์ ดังเช่นเหตุการณ์ OpenAI Hugging Face การให้หน่วยงานอิสระภายนอกเข้ามาดำเนินการสอบสวนเหตุการณ์ความไม่สอดคล้องกับเป้าหมายโดยอิสระอาจช่วยให้ตรวจสอบเหตุการณ์ได้รอบด้านยิ่งขึ้น หน่วยงานที่เข้าร่วมต้องมีความเชี่ยวชาญที่จำเป็น โดยอาจรวมถึงความเชี่ยวชาญด้านนิติวิทยาศาสตร์ไซเบอร์ การปรับ AI ให้สอดคล้องกับเป้าหมาย การวิเคราะห์การให้เหตุผลแบบเป็นลำดับขั้นในวงกว้าง ตลอดจนมีบุคลากรและทรัพยากรเพียงพอที่จะดำเนินการตรวจสอบได้อย่างทันท่วงที การรับมือเหตุการณ์อาจต้องเข้าถึงข้อมูลอ่อนไหวภายในองค์กรและข้อมูลของบุคคลที่สาม จึงอาจไม่สามารถเผยแพร่หรือเปิดให้เข้าถึงรายละเอียดบางส่วนได้ ข้อค้นพบจากการสอบสวนโดยอิสระยังช่วยเสริมกรณีรับรองความปลอดภัยของโมเดล ด้วยการให้หลักฐานสำหรับประเมินข้อกล่าวอ้างด้านความสอดคล้อง และตรวจสอบว่ามาตรการแก้ไขความไม่สอดคล้องที่เคยพบมีประสิทธิผลเพียงใด

   สำหรับเหตุการณ์ที่โมเดลทำงานไม่สอดคล้องกับเป้าหมาย เราให้ความสำคัญกับการประเมินโดยหน่วยงานอิสระในเรื่องต่อไปนี้

   1. ในระหว่างเหตุการณ์ โมเดลแสดงพฤติกรรมหรือเกิดปัญหาความไม่สอดคล้องกับเป้าหมายในลักษณะใด และปัจจัยหลักที่ทำให้เกิดปัญหาเหล่านั้นคืออะไร

   2. มาตรการป้องกันและการแก้ไขจะลดความเสี่ยงจากเหตุการณ์ลักษณะเดียวกันในอนาคตได้อย่างมีประสิทธิผลหรือไม่

• ข้อกล่าวอ้างที่นำมาประเมินต้องมีขอบเขตชัดเจนและได้รับความเห็นชอบร่วมกัน: การประเมินควรเริ่มจากการกำหนดขอบเขตที่ทุกฝ่ายเห็นพ้องร่วมกัน จากนั้นจึงกำหนดข้อกล่าวอ้างด้านความปลอดภัยให้ชัดเจนและลงทะเบียนไว้ล่วงหน้าก่อนเริ่มกิจกรรมการประเมิน บุคคลที่สามและห้องปฏิบัติการควรชี้แจงว่า ข้อกล่าวอ้างดังกล่าวเป็นข้อที่บริษัทผู้รับการประเมินเสนอให้นำมาประเมิน หรือเป็นข้อกล่าวอ้างที่ผู้ประเมินบุคคลที่สามต้องการประเมินอย่างอิสระและห้องปฏิบัติการยินยอมให้ใช้เป็นเกณฑ์ในการประเมิน ข้อกล่าวอ้างบางข้ออาจอยู่นอกขอบเขตด้วยเหตุผลหลายประการ เช่น บุคคลที่สามไม่สามารถเข้าถึงข้อมูลได้ ผู้ประเมินไม่มีความเชี่ยวชาญเพียงพอ หรือมีข้อจำกัดด้านเวลาที่สมเหตุสมผลในกรณีเร่งด่วน ห้องปฏิบัติการและผู้ประเมินควรกำหนดกระบวนการพิจารณาความเสี่ยงสำคัญที่พบนอกขอบเขตเดิม รวมถึงพิจารณาว่าจำเป็นต้องตรวจสอบเพิ่มเติมหรือไม่ ข้อสรุปควรระบุให้ชัดเจนว่าสิ่งใดได้รับการประเมินและสิ่งใดไม่ได้รับการประเมินภายใต้ขอบเขตที่ตกลงร่วมกัน

• สิทธิ์เข้าถึงที่เหมาะสมกับการประเมิน: ผู้ประเมินควรได้รับสิทธิ์เข้าถึงเท่าที่จำเป็นและเหมาะสมสำหรับการประเมินข้อกล่าวอ้างที่ตกลงร่วมกัน โดยอยู่ภายใต้ข้อจำกัดด้านกฎหมาย ความมั่นคงปลอดภัย และทรัพย์สินทางปัญญา หากการเข้าถึงโดยตรงไม่สะดวกหรือไม่สามารถทำได้ ผู้ประเมินอาจทำงานร่วมกับตัวแทนที่บริษัทแต่งตั้ง หรือพิจารณากลไกการเข้าถึงทางอ้อมหรือกลไกที่คุ้มครองความเป็นส่วนตัว เพื่อปกป้องข้อมูลเบื้องหลัง

• ระเบียบวิธีและมาตรฐานที่โปร่งใส: ผู้ประเมินควรอธิบายวิธีการ เกณฑ์การประเมิน และความไม่แน่นอน โดยอ้างอิงมาตรฐานที่เป็นที่ยอมรับหากมีมาตรฐานดังกล่าว หากยังไม่มีมาตรฐาน ผู้ประเมินควรอธิบายเหตุผลในการเลือกใช้เกณฑ์อย่างชัดเจน รายงานควรแยกข้อค้นพบโดยตรงออกจากการตีความ อธิบายความไม่แน่นอน และระบุให้ชัดว่าหลักฐานรองรับข้อสรุปใดบ้าง

• ความเชี่ยวชาญและความเป็นอิสระ: ผู้ประเมินควรแสดงให้เห็นว่ามีความเชี่ยวชาญทางเทคนิคที่เกี่ยวข้อง พร้อมระบุ เปิดเผย และจัดการผลประโยชน์ทับซ้อนทั้งในระดับองค์กรและบุคคล รวมถึงแรงจูงใจทางการเงิน ความสัมพันธ์กับผู้พัฒนา และการเคยมีส่วนร่วมในงานที่กำลังประเมิน ควรออกแบบมาตรการป้องกันเพื่อไม่ให้แรงกดดันทางธุรกิจและข้อตกลงด้านค่าตอบแทนมีอิทธิพลต่อข้อค้นพบ ซึ่งอาจรวมถึงการถอนตัวจากการประเมินหรือการกำหนดช่วงเวลาห้ามมีส่วนร่วมที่เหมาะสม

• ความมั่นคงปลอดภัยและการรักษาความลับ: ผู้ประเมินควรแสดงให้เห็นว่ามีแนวปฏิบัติด้านความมั่นคงปลอดภัยของข้อมูลและมาตรการรักษาความลับที่บังคับใช้กับบุคลากรของตนได้ โดยมีระดับการคุ้มครองที่เหมาะสมกับความอ่อนไหวของระบบและข้อมูลที่เข้าถึง มาตรการเหล่านี้ควรครอบคลุมทรัพย์สินทางปัญญา ข้อมูลอ่อนไหว และบันทึกการประเมิน หากผู้ประเมินไม่สามารถปฏิบัติตามข้อกำหนดด้านความมั่นคงปลอดภัยในสภาพแวดล้อมของตนเอง หรือข้อมูลที่เข้าถึงมีความอ่อนไหวเป็นพิเศษ การเข้าถึงผ่านอุปกรณ์ที่บริษัทดูแลหรือภายในสถานที่ของบริษัทอาจเหมาะสมกว่า

• ข้อค้นพบที่นำไปดำเนินการได้และระยะเวลาแก้ไข: การประเมินควรชี้ให้เห็นช่องว่างอย่างเฉพาะเจาะจง พร้อมให้รายละเอียดมากพอที่ห้องปฏิบัติการจะนำไปแก้ไขได้ ในกรณีที่เหมาะสม ควรให้เวลาห้องปฏิบัติการอย่างสมเหตุสมผลในการแก้ไขปัญหาก่อนเผยแพร่ผลการประเมิน หากมีประเด็นที่เกี่ยวข้อง รายงานควรถ่ายทอดบทเรียนสำหรับผู้พัฒนา ผู้ปรับใช้ และผู้ป้องกันเอเจนต์ รวมถึงให้คำแนะนำที่สามารถนำไปใช้ได้จริง

• หลักปฏิบัติในการเผยแพร่อย่างรับผิดชอบ: รายงานการประเมินควรอ้างอิงหลักฐานและเผยแพร่อย่างเปิดเผยที่สุดเท่าที่จะทำได้ โดยยังคงปกป้องข้อมูลอ่อนไหวและข้อมูลลับ หากไม่สามารถเปิดเผยข้อมูลทั้งหมดต่อสาธารณะได้ อาจรายงานเป็นการลับต่อหน่วยงานที่ทำหน้าที่กำกับดูแลอย่างเหมาะสม เช่น องค์กรด้านการกำกับดูแลหรือคณะกรรมการของบริษัท เพื่อสนับสนุนการตรวจสอบความรับผิดชอบ ควรมีมาตรการและนโยบายปกปิดข้อมูลที่ยึดหลักการ รวมถึงกำหนดแนวทางเกี่ยวกับข้อเสนอแนะและการแก้ไขข้อมูลที่ไม่ถูกต้องให้ชัดเจน เพื่อรักษาสมดุลระหว่างความเป็นอิสระกับการรักษาความลับ ผู้ประเมินควรรักษาความเป็นอิสระในการจัดทำรายงาน พร้อมคุ้มครองข้อมูลลับและทรัพย์สินทางปัญญา ทั้งยังควรกำหนดนโยบายการปกปิดข้อมูลที่ชัดเจน เพื่อให้ห้องปฏิบัติการสามารถขอปกปิดข้อมูลอ่อนไหว และให้ผู้ประเมินระบุได้ว่ามีการปกปิดเนื้อหาสำคัญในส่วนใด รวมถึงอธิบายผลกระทบที่มีต่อรายงานการประเมิน

เรามุ่งมั่นที่จะสนับสนุนผู้ประเมินอิสระและร่วมสร้างมาตรฐานสากลที่ชัดเจนยิ่งขึ้นสำหรับการประเมินโดยบุคคลที่สามอย่างมีประสิทธิผล โดยอาศัยทั้งกฎหมายที่จะเกิดขึ้นในอนาคตและสถาบันกำกับดูแลของภาคเอกชน แม้ระบบนิเวศด้านการประเมินอิสระยังอยู่ในช่วงเติบโต เราจะช่วยส่งเสริมการเติบโตดังกล่าวด้วยการสนับสนุนและร่วมงานกับผู้ประเมินอิสระจากหลากหลายกลุ่ม ซึ่งมีความเชี่ยวชาญเชิงลึกในประเด็นความปลอดภัยของ AI ระดับแนวหน้า ไม่มีบุคคลที่สามรายใดเพียงรายเดียวที่สามารถหรือควรตรวจสอบประเด็นเร่งด่วนเหล่านี้ได้อย่างครอบคลุมทุกด้าน เราจะค่อยๆ เพิ่มขีดความสามารถอย่างรอบคอบและเป็นระบบ พร้อมสนับสนุนให้ระบบนิเวศของบุคคลที่สามที่กำลังขยายตัวมีแนวปฏิบัติและหลักการที่สอดคล้องกัน ขณะนี้ เรากำลังพูดคุยกับบุคคลที่สามหลายรายเกี่ยวกับข้อเสนอที่สอดรับกับประเด็นสำคัญข้างต้น