เครือข่าย red teaming ของ OpenAI

เรากำลังเปิดรับสมัครเข้าร่วมเครือข่าย red teaming ของ OpenAI และขอเชิญผู้เชี่ยวชาญเฉพาะสาขาที่สนใจยกระดับความปลอดภัยของโมเดลของ OpenAI มาร่วมงานกับเรา เรากำลังมองหาผู้เชี่ยวชาญจากหลากหลายสาขาเพื่อร่วมประเมินและทำ red teaming กับโมเดล AI ของเราอย่างเข้มงวด

การทำ red teaming^A เป็นส่วนสำคัญของกระบวนการนำระบบไปใช้งานและปรับปรุงอย่างต่อเนื่อง⁠ของเรา ในช่วงไม่กี่ปีที่ผ่านมา งาน red teaming ของเราได้ขยายจากการเน้นทดสอบเชิงรุกภายใน OpenAI ไปสู่การร่วมงานกับกลุ่มผู้เชี่ยวชาญภายนอก^B เพื่อช่วยพัฒนาการจัดหมวดหมู่ความเสี่ยงเฉพาะสาขา และประเมินความสามารถของระบบใหม่ที่อาจก่อให้เกิดอันตราย คุณสามารถอ่านเพิ่มเติมเกี่ยวกับงาน red teaming ที่ผ่านมา รวมถึงการร่วมงานกับผู้เชี่ยวชาญภายนอกในการทดสอบโมเดล เช่น DALL·E 2⁠(เปิดในหน้าต่างใหม่) และ GPT‑4⁠(เปิดในหน้าต่างใหม่)^C

วันนี้ เรากำลังเริ่มโครงการที่เป็นทางการมากขึ้นเพื่อต่อยอดรากฐานเดิม และขยายความร่วมมือกับผู้เชี่ยวชาญภายนอกให้ลึกซึ้งและกว้างขวางยิ่งขึ้น เพื่อให้โมเดลของเราปลอดภัยยิ่งขึ้น การร่วมงานกับผู้เชี่ยวชาญรายบุคคล สถาบันวิจัย และองค์กรภาคประชาสังคมเป็นส่วนสำคัญของกระบวนการของเรา เรามองว่างานนี้ช่วยเสริมแนวปฏิบัติด้านการกำกับดูแลที่กำหนดโดยหน่วยงานภายนอก เช่น การตรวจสอบโดยบุคคลที่สาม

เครือข่าย red teaming ของ OpenAI คือชุมชนผู้เชี่ยวชาญที่น่าเชื่อถือและมีประสบการณ์ ซึ่งช่วยให้ข้อมูลประกอบการประเมินและลดความเสี่ยงของเราได้อย่างครอบคลุมยิ่งขึ้น แทนการร่วมงานเป็นครั้งๆ และคัดเลือกผู้เชี่ยวชาญก่อนเปิดใช้งานโมเดลรุ่นสำคัญ เราจะเชิญสมาชิกเครือข่ายตามความเชี่ยวชาญของแต่ละคนให้มาช่วยทำ red teaming ในขั้นตอนต่างๆ ของวงจรการพัฒนาโมเดลและผลิตภัณฑ์ สมาชิกแต่ละคนจะไม่ได้มีส่วนร่วมกับโมเดลหรือผลิตภัณฑ์ใหม่ทุกรายการ และเราจะตกลงเวลาที่จะมีส่วนร่วมกับสมาชิกเป็นรายบุคคล ซึ่งอาจใช้เวลาเพียง 5–10 ชั่วโมงต่อปี

นอกเหนือจากการทำ red teaming ตามที่ OpenAI มอบหมาย สมาชิกจะมีโอกาสแลกเปลี่ยนแนวปฏิบัติและข้อค้นพบทั่วไปเกี่ยวกับ red teaming ระหว่างกัน เป้าหมายคือการเปิดรับความคิดเห็นที่หลากหลายและต่อเนื่องยิ่งขึ้น และทำให้ red teaming เป็นกระบวนการที่ทำซ้ำและปรับปรุงอย่างต่อเนื่องมากขึ้น เครือข่ายนี้ช่วยเสริมโอกาสอื่นๆ ในการร่วมงานด้านความปลอดภัยของ AI รวมถึงโครงการสนับสนุนการเข้าถึงสำหรับนักวิจัย⁠และแบบประเมินโอเพนซอร์ส⁠(เปิดในหน้าต่างใหม่)ของเรา

เครือข่ายนี้เปิดโอกาสพิเศษให้คุณร่วมกำหนดทิศทางการพัฒนาเทคโนโลยีและนโยบาย AI ที่ปลอดภัยยิ่งขึ้น รวมถึงผลกระทบที่ AI อาจมีต่อวิถีชีวิต การทำงาน และการปฏิสัมพันธ์ของเรา เมื่อเข้าร่วมเครือข่ายนี้ คุณจะเป็นหนึ่งในกลุ่มผู้เชี่ยวชาญเฉพาะด้านที่เราอาจติดต่อให้มาช่วยประเมินโมเดลและระบบในขั้นตอนต่างๆ ของการนำไปใช้งาน

การประเมินระบบ AI ต้องอาศัยความเข้าใจในสาขาต่างๆ ตลอดจนมุมมองและประสบการณ์ชีวิตที่หลากหลาย เราขอเชิญผู้เชี่ยวชาญจากทั่วโลกมาสมัคร โดยให้ความสำคัญกับความหลากหลายทั้งด้านภูมิศาสตร์และสาขาความเชี่ยวชาญในกระบวนการคัดเลือก 

สาขาที่เราสนใจมีตัวอย่างดังต่อไปนี้ แต่ไม่จำกัดเพียงเท่านี้:

ไม่จำเป็นต้องมีประสบการณ์เกี่ยวกับระบบ AI หรือโมเดลภาษามาก่อน แต่หากมีก็อาจเป็นประโยชน์ สิ่งที่เราให้ความสำคัญที่สุดคือความเต็มใจที่จะมีส่วนร่วมและนำมุมมองของคุณมาช่วยในการประเมินผลกระทบของระบบ AI

สมาชิกเครือข่าย red teaming ของ OpenAI ทุกคนจะได้รับค่าตอบแทนสำหรับผลงานที่มีส่วนร่วมในโครงการ red teaming แม้การเป็นสมาชิกเครือข่ายนี้จะไม่จำกัดสิทธิ์ในการเผยแพร่งานวิจัยหรือแสวงหาโอกาสอื่นๆ แต่คุณควรคำนึงว่าการมีส่วนร่วมในโครงการ red teaming และโครงการอื่นๆ มักอยู่ภายใต้ข้อตกลงการไม่เปิดเผยข้อมูล (NDA) หรือต้องรักษาความลับโดยไม่มีกำหนดสิ้นสุด

ปิดรับสมัครแล้ว

ถาม: การเข้าร่วมเครือข่ายนี้ต้องทำอะไรบ้าง

ตอบ: เมื่อเป็นสมาชิกเครือข่าย คุณอาจได้รับการติดต่อเกี่ยวกับโอกาสในการทดสอบโมเดลใหม่ หรือทดสอบประเด็นที่สนใจในโมเดลที่เปิดใช้งานแล้ว งานที่ทำในฐานะสมาชิกเครือข่ายอยู่ภายใต้ข้อตกลงการไม่เปิดเผยข้อมูล (NDA) แม้ที่ผ่านมาเราจะเผยแพร่ข้อค้นพบจากการทำ red teaming จำนวนมากในเอกสารรายละเอียดระบบและบทความบล็อกก็ตาม คุณจะได้รับค่าตอบแทนสำหรับเวลาที่ใช้ในโครงการ red teaming

ถาม: สมาชิกเครือข่ายต้องอุทิศเวลาให้มากเพียงใด 

ตอบ: คุณสามารถปรับเวลาที่จะมีส่วนร่วมได้ตามตารางเวลาของคุณ โปรดทราบว่าสมาชิกเครือข่ายไม่ได้รับการติดต่อทุกคนในทุกโอกาส โดย OpenAI จะคัดเลือกผู้ที่เหมาะสมกับแต่ละโครงการ red teaming และเน้นมุมมองใหม่ๆ ในการทำ red teaming ครั้งต่อๆ ไป แม้เพียง 5 ชั่วโมงต่อปีก็มีคุณค่าสำหรับเรา ดังนั้นหากคุณสนใจแต่มีเวลาจำกัด ก็อย่าลังเลที่จะสมัคร

ถาม: ผู้สมัครจะได้รับแจ้งผลการคัดเลือกเมื่อใด

ตอบ: OpenAI จะทยอยคัดเลือกสมาชิกเครือข่ายอย่างต่อเนื่อง และคุณสามารถสมัครได้จนถึงวันที่ 1 ธันวาคม 2023 หลังจากปิดรับสมัครรอบนี้ เราจะพิจารณาอีกครั้งว่าจะเปิดรับสมัครรอบใหม่ในอนาคตหรือไม่

ถาม: การเป็นสมาชิกเครือข่ายหมายความว่าฉันจะได้รับเชิญให้ทำ red teaming กับโมเดลใหม่ทุกรุ่นหรือไม่

ตอบ: ไม่ใช่ OpenAI จะคัดเลือกผู้ที่เหมาะสมกับแต่ละโครงการ red teaming และคุณไม่ควรคาดหวังว่าจะได้ทดสอบโมเดลใหม่ทุกรุ่น

ถาม: คุณสมบัติของสมาชิกเครือข่ายที่คุณมองหามีอะไรบ้าง

ตอบ: คุณสมบัติบางส่วนที่เรามองหา ได้แก่:

• มีความเชี่ยวชาญหรือประสบการณ์ที่แสดงให้เห็นได้ในสาขาที่เกี่ยวข้องกับ red teaming

• มุ่งมั่นที่จะยกระดับความปลอดภัยของ AI

• ไม่มีผลประโยชน์ทับซ้อน

• มีภูมิหลังที่หลากหลาย รวมถึงมาจากกลุ่มที่มักมีส่วนร่วมน้อยกว่าที่ควร

• เป็นตัวแทนจากพื้นที่ทางภูมิศาสตร์ที่หลากหลาย 

• ใช้ภาษาได้คล่องมากกว่าหนึ่งภาษา

• มีทักษะทางเทคนิค (ไม่จำเป็นต้องมี)

ถาม: มีโอกาสอื่นใดบ้างในการร่วมงานด้านความปลอดภัย

ตอบ: นอกจากการเข้าร่วมเครือข่ายแล้ว ยังมีโอกาสร่วมงานอื่นๆ เพื่อช่วยยกระดับความปลอดภัยของ AI ตัวอย่างเช่น คุณอาจสร้างแบบประเมินหรือดำเนินการประเมินความปลอดภัยของระบบ AI และวิเคราะห์ผลลัพธ์

Repository โอเพนซอร์ส Evals⁠(เปิดในหน้าต่างใหม่) ของ OpenAI (เผยแพร่พร้อมกับการเปิดตัว GPT‑4⁠) มีเทมเพลตที่ใช้ง่ายและตัวอย่างวิธีการเพื่อช่วยให้เริ่มต้นกระบวนการนี้ได้ทันที

การประเมินอาจมีตั้งแต่แบบทดสอบถามตอบง่ายๆ ไปจนถึงการจำลองสถานการณ์ที่ซับซ้อนยิ่งขึ้น เพื่อให้เห็นภาพชัดเจน ต่อไปนี้คือตัวอย่างแบบประเมินที่ OpenAI พัฒนาขึ้นเพื่อประเมินพฤติกรรมของ AI ในหลายแง่มุม:

การโน้มน้าวใจ

• MakeMeSay⁠(เปิดในหน้าต่างใหม่): ระบบ AI สามารถหลอกให้ระบบ AI อีกระบบพูดคำลับออกมาได้ดีเพียงใด

• MakeMePay⁠(เปิดในหน้าต่างใหม่): ระบบ AI สามารถโน้มน้าวให้ระบบ AI อีกระบบบริจาคเงินได้ดีเพียงใด

• ข้อเสนอเพื่อการลงคะแนน⁠(เปิดในหน้าต่างใหม่): ระบบ AI สามารถชี้นำให้ระบบ AI อีกระบบสนับสนุนข้อเสนอทางการเมืองได้ดีเพียงใด

การอำพรางข้อมูล (การซ่อนข้อความ)

• การอำพรางข้อมูล⁠(เปิดในหน้าต่างใหม่): ระบบ AI สามารถส่งข้อความลับโดยไม่ถูกระบบ AI อีกระบบตรวจจับได้ดีเพียงใด

• การบีบอัดข้อความ⁠(เปิดในหน้าต่างใหม่): ระบบ AI สามารถบีบอัดและคลายการบีบอัดข้อความเพื่อซ่อนข้อความลับได้ดีเพียงใด

• จุดเชลลิง⁠(เปิดในหน้าต่างใหม่): ระบบ AI สามารถประสานงานกับระบบ AI อีกระบบโดยไม่สื่อสารกันโดยตรงได้ดีเพียงใด

เราสนับสนุนความคิดสร้างสรรค์และการทดลองในการประเมินระบบ AI เมื่อทำเสร็จแล้ว เราขอเชิญคุณส่งแบบประเมินมาร่วมพัฒนา Repository โอเพนซอร์ส Evals⁠(เปิดในหน้าต่างใหม่) เพื่อให้ชุมชน AI ในวงกว้างนำไปใช้ได้

คุณยังสามารถสมัครเข้าร่วมโครงการสนับสนุนการเข้าถึงสำหรับนักวิจัย⁠ ซึ่งมอบเครดิตเพื่อสนับสนุนนักวิจัยที่ใช้ผลิตภัณฑ์ของเราศึกษาประเด็นเกี่ยวกับการนำ AI ไปใช้อย่างมีความรับผิดชอบและการลดความเสี่ยงที่เกี่ยวข้อง