ส่งเสริมการวิจัยอิสระด้านความสอดคล้องของ AI

เมื่อระบบ AI มีความสามารถและความเป็นอิสระมากขึ้น งานวิจัยด้านการปรับให้สอดคล้องจำเป็นต้องก้าวให้ทันและขยายความหลากหลายไปพร้อมกัน ที่ OpenAI เราลงทุนอย่างมากในงานวิจัยด้านการปรับแนวและความปลอดภัยระดับแนวหน้า เนื่องจากเป็นสิ่งสำคัญต่อพันธกิจของเรา เรายังเชื่อว่าการทำให้ AGI ปลอดภัยและเป็นประโยชน์ต่อทุกคนไม่สามารถทำได้โดยองค์กรเดียว และเราต้องการสนับสนุนการวิจัยอิสระและแนวทางเชิงแนวคิดที่สามารถดำเนินการนอกห้องปฏิบัติการระดับแนวหน้า เราเชื่อว่าอนาคตของ AI จะไม่เป็นไปตามที่ใครคาดการณ์ได้อย่างแม่นยำ และควรมีผู้คนอีกมากมายที่มีส่วนร่วมในการกำหนดผลลัพธ์นั้น

วันนี้ เรากำลังประกาศมอบทุนสนับสนุนมูลค่า 7.5 ล้านดอลลาร์สหรัฐให้แก่ The Alignment Project⁠(เปิดในหน้าต่างใหม่) ซึ่งเป็นกองทุนระดับโลกสำหรับงานวิจัยอิสระด้านการกำหนดให้สอดคล้องที่จัดตั้งขึ้นโดย UK AI Security Institute (UK AISI) Renaissance Philanthropy สนับสนุนการบริหารจัดการทุนนี้ การสนับสนุนนี้ช่วยทำให้ The Alignment Project เป็นหนึ่งในโครงการระดมทุนที่ใหญ่ที่สุดสำหรับการวิจัยการกำหนดให้สอดคล้องโดยนักวิจัยอิสระจนถึงปัจจุบัน และเสริมสร้างความแข็งแกร่งให้กับระบบนิเวศอิสระในวงกว้าง

ห้องปฏิบัติการระดับแนวหน้าอย่าง OpenAI อยู่ในตำแหน่งที่ไม่เหมือนใครในการดำเนินการวิจัยด้านการปรับให้สอดคล้องที่ต้องอาศัยการเข้าถึงโมเดลระดับแนวหน้าและทรัพยากรการประมวลผลจำนวนมาก—งานที่มักเป็นเรื่องยากสำหรับนักวิจัยอิสระในการสำรวจ เราทุ่มเทความพยายามอย่างมากในการจัดแนวภายในเพื่อพัฒนาวิธีการที่สามารถขยายได้ เพื่อให้ความก้าวหน้าในการจัดแนวยังคงก้าวทันกับความก้าวหน้าด้านศักยภาพ เราเชื่อในการใช้งานแบบค่อยเป็นค่อยไป ค่อยๆ เพิ่มขีดความสามารถไปพร้อมกับเสริมความแข็งแกร่งของมาตรการป้องกัน ช่วยให้พบปัญหาได้ตั้งแต่เนิ่นๆ และทำให้เราได้หลักฐานที่เป็นรูปธรรมว่าอะไรใช้ได้ผลจริงในทางปฏิบัติ และการพัฒนาอย่างมีความรับผิดชอบจำเป็นต้องมีการปรับให้สอดคล้องและงานด้านความปลอดภัยที่สำคัญ ซึ่งผสานรวมอย่างแนบแน่นกับการสร้างและการใช้งานโมเดล

ในขณะเดียวกัน สาขานี้ได้รับประโยชน์จากการลงทุนอย่างต่อเนื่องในการวิจัยเชิงสำรวจโดยนักวิจัยอิสระ ซึ่งสามารถขยายขอบเขตของแนวคิดและค้นพบทิศทางใหม่ ๆ ได้ การวิจัยอิสระยังคงมีความสำคัญ ในการสืบค้นที่เป็นประโยชน์หลายประเภท ห้องปฏิบัติการไม่ได้มีความได้เปรียบเชิงเปรียบเทียบ ระบบนิเวศที่มีสุขภาพดีของการกำหนดให้สอดคล้องต้องอาศัยทีมอิสระที่ทดสอบสมมติฐานที่หลากหลาย พัฒนากรอบแนวคิดทางเลือก และสำรวจแนวคิดเชิงมโนทัศน์ ทฤษฎี และแนวคิดใหม่ๆ ที่อาจไม่สอดคล้องกับแผนงานขององค์กรใดองค์กรหนึ่ง

เนื่องจากความก้าวหน้าไปสู่ AGI อาจขึ้นอยู่กับการค้นพบพื้นฐานที่เปลี่ยนแปลงปัญหาการจัดแนวและวิธีการที่มีประโยชน์ที่สุด จึงเป็นสิ่งสำคัญที่จะสนับสนุนการวิจัยที่มีความหมาย แม้ว่าวิธีการที่เป็นที่นิยมในปัจจุบันอาจไม่สามารถขยายได้ตามที่คาดหวัง ในโลกเหล่านั้น การมีระบบนิเวศภายนอกที่แข็งแกร่งซึ่งทำงานพื้นฐาน งานเชิงแนวคิด และงานที่ไม่สัมพันธ์กันจึงมีความสำคัญอย่างยิ่ง ปัญหาการจัดแนวและความปลอดภัยของ AI มีความสำคัญอย่างที่ไม่เคยมีมาก่อน และเราต้องการความร่วมมือจากทุกคน เนื่องจากเรายังไม่ทราบว่าแนวทางใดจะพิสูจน์ได้ว่ามีความยั่งยืนที่สุดเมื่อความสามารถยังคงก้าวหน้าต่อไป

ทุนสนับสนุนของเรา—ประมาณ 5.6 ล้านปอนด์ตามอัตราแลกเปลี่ยนปัจจุบัน—จะ ร่วมให้ทุน The Alignment Project⁠(เปิดในหน้าต่างใหม่) ควบคู่ไปกับผู้สนับสนุนจากภาครัฐ องค์กรการกุศล และภาคอุตสาหกรรมรายอื่นๆ เงินทุนรวมมีมูลค่าเกิน 27 ล้านปอนด์ และได้รับการออกแบบมาเพื่อสนับสนุนพอร์ตโฟลิโอที่หลากหลายของโครงการวิจัยด้านการจัดแนวทั่วโลก ครอบคลุมหัวข้อที่หลากหลายตั้งแต่ทฤษฎีความซับซ้อนเชิงคำนวณ ทฤษฎีเศรษฐศาสตร์และทฤษฎีเกม วิทยาศาสตร์การรู้คิด ไปจนถึงทฤษฎีสารสนเทศและวิทยาการเข้ารหัสลับ โดยทั่วไปแล้ว โครงการรายบุคคลจะได้รับเงินทุนระหว่าง 50,000 ถึง 1 ล้านปอนด์ และอาจได้รับสิทธิ์เข้าถึงทรัพยากรการประมวลผลและการสนับสนุนจากผู้เชี่ยวชาญเพิ่มเติมได้ตามความต้องการ

เงินทุนของเราไม่ได้สร้างโปรแกรมใหม่หรือกระบวนการคัดเลือกใหม่ และไม่ได้มีอิทธิพลต่อกระบวนการที่มีอยู่ แต่เพิ่มจำนวน โครงการ⁠(เปิดในหน้าต่างใหม่) ที่ผ่านการคัดกรองแล้วและมีคุณภาพสูงที่สามารถได้รับทุนในรอบปัจจุบัน

UK AISI อยู่ในตำแหน่งที่ดีในการกำหนดทิศทางเงินทุนสำหรับการจัดการความสอดคล้องในระดับและขอบเขตนี้ สิ่งนี้นำแนวร่วมข้ามภาคส่วนที่มีความเข้มแข็งซึ่งครอบคลุมภาครัฐ สถาบันการศึกษา องค์กรการกุศล และอุตสาหกรรมมารวมกัน พร้อมทั้งมีช่องทางการให้ทุนที่กำลังดำเนินการอยู่แล้ว และมีข้อเสนอจำนวนมากที่ผ่านการพิจารณาโดยผู้เชี่ยวชาญแล้ว ในฐานะองค์กรวิจัยของรัฐบาลสหราชอาณาจักรภายใต้ Department for Science, Innovation and Technology (DSIT) องค์กรนี้ยังมีพันธกิจที่มุ่งเน้นความเสี่ยงร้ายแรงจาก AI และมีประสบการณ์ในการดำเนินโครงการให้ทุนสนับสนุนการวิจัย

เนื่องจากอนาคตของ AI จะไม่เป็นไปตามที่ใครคาดการณ์ได้อย่างแม่นยำ และอาจก้าวหน้าอย่างรวดเร็ว เราจึงเชื่อว่าการทำให้ AI เข้าถึงได้มากขึ้น ความยืดหยุ่นของ AI และการนำไปใช้งานแบบเป็นรอบๆ เป็นสิ่งจำเป็น ขณะที่เรายังคงพัฒนางานวิจัยด้านการกำหนดให้สอดคล้องและความปลอดภัยระดับแนวหน้าที่ OpenAI ความก้าวหน้าจะได้รับประโยชน์จากระบบนิเวศที่แข็งแกร่ง หลากหลาย และเป็นอิสระ ซึ่งดำเนินแนวทางที่เสริมกันไปเมื่อความสามารถก้าวหน้า เงินทุนสนับสนุนนี้เป็นก้าวหนึ่งสู่เป้าหมายนั้น เราหวังว่าจะได้ร่วมมือกับชุมชนวิจัยในวงกว้างต่อไปเมื่อสาขานี้ก้าวหน้า