จังหวะสำคัญของนโยบาย AI มาถึงแล้ว ถึงเวลาที่เราต้องลงมือดำเนินการ
โดย Chris Lehane ประธานเจ้าหน้าที่ฝ่ายกิจการระหว่างประเทศของ OpenAI
ขีดความสามารถของ AI ได้ก้าวเข้าสู่บทใหม่แล้ว และถึงเวลาที่นโยบาย AI ต้องก้าวตามให้ทัน ไม่มีบริษัทใด อุตสาหกรรมใด หรือรัฐบาลใดที่จะสามารถรับมือกับความท้าทายนี้ได้โดยลำพัง ในช่วงเวลาสำคัญนี้ เราต้องพร้อมลงมือทำในสิ่งที่ก่อให้เกิดผลจริง มากกว่ารอคอยนโยบายที่สมบูรณ์แบบ
นี่คือสิ่งที่เรากำลังทำ:
ผลักดันข้อกำหนดด้านความปลอดภัยของ AI ที่บังคับใช้ทั่วประเทศ เราต้องการทำงานร่วมกับสภาคองเกรสเพื่อกำหนดกฎระเบียบด้านความปลอดภัยของ AI ระดับประเทศที่มีผลบังคับใช้และกำหนดตามขีดความสามารถของ AI
สานต่อแรงผลักดันในระดับรัฐ ในระหว่างที่สภาคองเกรสยังไม่ดำเนินการ เราจะเดินหน้าสนับสนุนกฎหมายระดับรัฐที่ช่วยยกระดับระบบความปลอดภัยด้าน AI ในภาพรวม วันนี้ เราประกาศให้การสนับสนุนร่างกฎหมายของรัฐแคลิฟอร์เนีย 4 ฉบับ ได้แก่ SB 813 เกี่ยวกับโครงสร้างพื้นฐานโดยรวมสำหรับการประเมินความปลอดภัยโดยหน่วยงานอิสระ, AB 1405 เกี่ยวกับมาตรฐานสำหรับผู้ตรวจสอบ AI, SB 1119 เกี่ยวกับการคุ้มครองเด็กและเยาวชน และ AB 1864 เกี่ยวกับมาตรการป้องกันภัยคุกคามทางชีวภาพที่ AI เอื้อให้เกิดขึ้น
เดินหน้าพัฒนามาตรฐานที่ภาคอุตสาหกรรมเป็นผู้ขับเคลื่อน เราจะทำงานร่วมกับห้องปฏิบัติการ AI ระดับแนวหน้าอื่นๆ เพื่อผลักดันมาตรฐานสำหรับ AI ระดับแนวหน้า โดยเริ่มสร้างความร่วมมือแบบสมัครใจตั้งแต่ตอนนี้ ไม่ว่าจะได้รับการสนับสนุนจากภาครัฐหรือไม่ก็ตาม
สร้างมาตรฐานระดับโลก เราจะสนับสนุนให้มีแนวทางระหว่างประเทศที่สอดคล้องกันสำหรับการประเมินขีดความสามารถ การจัดการความเสี่ยง การคงไว้ซึ่งการควบคุมโดยมนุษย์ และการพิจารณาว่าควรชะลอหรือยุติการพัฒนาเมื่อใดและด้วยวิธีใด แม้จะต้องชะลอการพัฒนาขีดความสามารถของโมเดลก็ตาม
Jakub Pachocki หัวหน้านักวิทยาศาสตร์ของเราเพิ่งเขียนไว้ว่า ความสามารถอันชาญฉลาดของเครื่องจักรที่เพิ่มขึ้นอย่างรวดเร็ว รวมถึงความเป็นไปได้ที่ AI จะพัฒนาความสามารถของตนเองแบบวนซ้ำ ทำให้เราต้อง “ระมัดระวังอย่างยิ่ง” OpenAI จะเดินหน้าพัฒนาแนวทางทางเทคนิคเพื่อให้ AI ทำงานสอดคล้องกับเจตนาของมนุษย์และสามารถเฝ้าติดตามการทำงานได้ พร้อมสร้างระบบป้องกันและชะลอการพัฒนาเมื่อจำเป็น แต่การดำเนินงานด้านเทคนิคภายในห้องปฏิบัติการแต่ละแห่งเพียงอย่างเดียวยังไม่เพียงพอ เราจำเป็นต้องมีมาตรฐานร่วมกันด้วย รวมถึงเกณฑ์ว่าเมื่อใดควรชะลอหรือหยุดการพัฒนา
สิ่งที่เรากำลังรับมือมีความสำคัญอย่างยิ่ง AI ขั้นสูงมีศักยภาพที่จะเร่งการพัฒนายาใหม่ เพิ่มความแข็งแกร่งให้โครงสร้างพื้นฐานสำคัญ ขยายโอกาสทางเศรษฐกิจ และช่วยไขปัญหาทางวิทยาศาสตร์ที่มนุษย์พยายามแก้มาหลายชั่วอายุคน แต่ความสามารถที่ทำให้โมเดลมีประโยชน์มากขึ้นก็มาพร้อมกับความเสี่ยง และความสามารถเหล่านี้จะไม่จำกัดอยู่แค่ในห้องปฏิบัติการ AI ระดับแนวหน้าเพียงไม่กี่แห่ง โมเดลจากทั่วโลก รวมถึงโมเดลแบบเปิด จะมีความสามารถเข้าใกล้ระดับแนวหน้าในปัจจุบันมากขึ้นเรื่อยๆ และเปิดให้ผู้คนเข้าถึงได้อย่างแพร่หลาย
ไม่ว่าจะเป็นขีดความสามารถของ Astra หลักฐานเบื้องต้นที่บ่งชี้ว่า AI ช่วยเร่งงานวิจัย หรือบทความของ Jakub ทั้งหมดล้วนชี้ไปในทิศทางเดียวกันว่า AI กำลังก้าวหน้าอย่างรวดเร็ว และนโยบายจำเป็นต้องปรับตัวให้ทันกับความก้าวหน้านั้น
Greg Brockman ได้กล่าวถึง “ช่วงเวลาแห่งโอกาสของฝ่ายป้องกัน”(เปิดในหน้าต่างใหม่) ซึ่งเป็นช่วงเวลาจำกัดที่ AI ระดับแนวหน้าสามารถช่วยฝ่ายป้องกันเสริมความแข็งแกร่งให้กับระบบสำคัญ ก่อนที่ขีดความสามารถในการโจมตีที่มีประสิทธิภาพสูงจะแพร่หลาย ผู้กำหนดนโยบายกำลังเผชิญกับสถานการณ์ในลักษณะเดียวกัน โดยมีเวลาเหลือน้อยลงเรื่อย ๆ ในการวางมาตรการคุ้มครองที่ยั่งยืน ก่อนที่ขีดความสามารถของ AI จะพัฒนาเร็วจนสถาบันที่มีหน้าที่กำกับดูแลตามไม่ทัน
เมื่อขีดความสามารถเพิ่มขึ้น ความมั่นใจในความปลอดภัยก็ต้องมีบทบาทมากขึ้นในการกำหนดจังหวะความก้าวหน้าของ AI ความปลอดภัยไม่ได้เป็นอุปสรรคต่อความก้าวหน้า แต่เป็นสิ่งที่ช่วยให้เราก้าวไปได้ไกลยิ่งขึ้นและสร้างประโยชน์ให้กับผู้คนได้มากขึ้น
เราได้ยกระดับมาตรการป้องกันด้านการติดตามตรวจสอบ การทำให้โมเดลทำงานสอดคล้องกับเจตนาของมนุษย์ และการรักษาความปลอดภัยตลอดวงจรการพัฒนาโมเดล ซึ่งรวมถึงการแยกสภาพแวดล้อมสำหรับงานวิจัย AI ระดับแนวหน้าให้รัดกุมยิ่งขึ้น การขยายการติดตามตรวจสอบพฤติกรรมของโมเดลระหว่างการฝึกและการประเมินที่เปิดให้โมเดลใช้เครื่องมือ และการกำหนดหลักเกณฑ์ที่ชัดเจนขึ้นว่าควรยกระดับข้อกังวลเมื่อใด สำหรับ Astra เรายังได้เพิ่มการติดตามตรวจสอบเส้นทางการทำงานทั้งหมดของโมเดลในทุกกรณี ซึ่งรวมถึงการให้เหตุผลแบบเป็นลำดับขั้น และกำหนดให้โมเดลต้องผ่านการประเมินความสอดคล้องกับเจตนาของมนุษย์ก่อนนำไปใช้งานภายในองค์กรในวงกว้างขึ้น
มาตรการป้องกันเหล่านั้นต้องก้าวนำขีดความสามารถอยู่เสมอ เมื่อการเดินหน้าต่ออาจก่อให้เกิดความเสี่ยงด้านความปลอดภัยที่ไม่อาจยอมรับได้ เราจะชะลอหรือหยุดการพัฒนาหรือการนำระบบไปใช้งาน หากเราไม่สามารถจัดให้มีมาตรการป้องกันที่เพียงพอสำหรับระบบนั้นได้ ซึ่งเป็นแนวทางที่เราเคยปฏิบัติมาแล้วและเป็นข้อกำหนดตามกรอบการเตรียมความพร้อม(เปิดในหน้าต่างใหม่)ของเรา
ปัจจุบันยังไม่มีการพัฒนาตนเองแบบวนซ้ำที่เป็นอิสระอย่างเต็มรูปแบบ ซึ่งหมายถึงการที่ระบบ AI ขับเคลื่อนการพัฒนา AI รุ่นต่อๆ ไปให้มีขีดความสามารถสูงขึ้นเรื่อยๆ ได้ด้วยตัวเอง เราไม่ควรเดินหน้าพัฒนาเรื่องนี้ เว้นแต่และจนกว่าเราจะสามารถทำได้อย่างปลอดภัย
อย่างไรก็ตาม AI ได้เข้ามาช่วยเร่งกระบวนการวิจัยบางส่วนที่ใช้ในการพัฒนาโมเดลรุ่นถัดไป รวมถึงการทำให้โมเดลทำงานสอดคล้องกับเจตนาของมนุษย์แล้ว งานวิจัยล่าสุดของเราพบว่าเอเจนต์ AI สามารถทำงานบางอย่างที่นักวิจัยผู้เชี่ยวชาญต้องใช้เวลาหลายวันได้ สิ่งนี้ไม่ใช่การพัฒนาตนเองแบบวนซ้ำ แต่เป็นหลักฐานบ่งชี้ทิศทางของความก้าวหน้า
ความสามารถในการเร่งงานวิจัยนี้สามารถและต้องนำมาใช้เพื่อยกระดับความปลอดภัยด้วย เป้าหมายของเราคือสร้างนักวิจัย AI อัตโนมัติที่ทำงานภายใต้การกำกับดูแลของมนุษย์อย่างปลอดภัย เพื่อพัฒนาทั้งการเรียนรู้เชิงลึกและการปรับ AI ให้สอดคล้องกับเจตนาของมนุษย์ โดยให้ AI แต่ละรุ่นช่วยทำให้รุ่นถัดไปปลอดภัยขึ้น สอดคล้องกับเจตนาของมนุษย์มากขึ้น และควบคุมได้ง่ายขึ้น ไม่ใช่แค่มีความสามารถมากขึ้น
รัฐบาลต่างๆ ควรร่วมกันกำหนดแนวทางในการวัดความก้าวหน้าดังกล่าว พร้อมรักษาอำนาจการควบคุมของมนุษย์ไว้อย่างมีนัยสำคัญ และกำหนดมาตรฐานความปลอดภัยร่วมกันเพื่อชี้ว่าเมื่อใดควรชะลอหรือยุติการพัฒนา หากเราจำเป็นต้องชะลอความก้าวหน้าด้านขีดความสามารถเพื่อให้เป็นไปตามมาตรฐานด้านความปลอดภัยบางประการ เราก็ควรเลือกให้ความสำคัญกับความปลอดภัย ยิ่งเทคโนโลยีมีขีดความสามารถสูงขึ้น มาตรการป้องกันที่รองรับก็ยิ่งต้องเข้มแข็งขึ้นตามไปด้วย
ความเป็นไปได้ที่ AI จะช่วยให้การพัฒนา AI เร็วขึ้น หมายความว่าเราจำเป็นต้องมีมาตรการที่เข้มแข็งกว่าการให้คำมั่นโดยสมัครใจเพียงอย่างเดียว สหรัฐอเมริกาจำเป็นต้องมีกฎระเบียบภาคบังคับในระดับประเทศที่อิงตามขีดความสามารถของ AI และสามารถพัฒนาไปพร้อมกับเทคโนโลยี
แผนแม่บทด้านการกำกับดูแล AI ระดับแนวหน้าภายใต้หลักประชาธิปไตยของเราเสนอแนวทางสู่การสร้างกรอบการกำกับดูแลระดับรัฐบาลกลางที่ใช้ได้ในระยะยาว ซึ่งประกอบด้วยข้อกำหนดร่วมกันด้านการทดสอบและการประเมินโดยหน่วยงานอิสระ การยกระดับการป้องกันด้านความมั่นคงปลอดภัยทางไซเบอร์ หลักเกณฑ์ที่ชัดเจนในการรายงานเหตุการณ์ การเสริมความพร้อมของประเทศ และมาตรการร่วมกันสำหรับติดตามความคืบหน้าไปสู่การพัฒนาตนเองแบบวนซ้ำ
ขณะนี้สภาคองเกรสกำลังพัฒนาข้อเสนอที่จริงจังหลายฉบับเกี่ยวกับความปลอดภัยของ AI ระดับแนวหน้า เราจะยังคงร่วมผลักดันแนวทางต่างๆ อย่างสร้างสรรค์ และคาดว่าจะให้การสนับสนุนกฎหมายที่ยกระดับมาตรฐานด้านความปลอดภัยได้อย่างเป็นรูปธรรม เมื่อเรื่องนี้มีความสำคัญและผลกระทบสูงเช่นนี้ เราไม่ควรมัวแต่มุ่งหาทางออกที่สมบูรณ์แบบจนพลาดโอกาสในการทำสิ่งที่ดีและได้ผล สภาคองเกรสควรดำเนินการก่อนปิดสมัยประชุม
กรอบการกำกับดูแลระดับประเทศควรมีความเข้มแข็ง แต่ต้องกำหนดขอบเขตอย่างรอบคอบและตรงจุด ข้อกำหนดด้านความปลอดภัยของ AI ระดับแนวหน้าควรใช้กับห้องปฏิบัติการเพียงไม่กี่แห่งที่มีทรัพยากรพร้อมและกำลังพัฒนาระบบที่มีขีดความสามารถสูงสุด ไม่ใช่กับสตาร์ทอัพ นักพัฒนารายย่อย หรือนักวิจัยที่ทำงานกับระบบซึ่งยังห่างไกลจาก AI ระดับแนวหน้า ภาระหน้าที่ควรสอดคล้องกับระดับความสามารถและความเสี่ยง
นโยบายด้านความปลอดภัยของ AI ระดับแนวหน้าไม่ควรกลายเป็นเครื่องมือกำกับโมเดลแบบเปิดภายใต้ชื่ออื่น โมเดลแบบเปิดสามารถเป็นส่วนหนึ่งของทางออกได้ โดยเฉพาะสำหรับงานด้านความมั่นคงปลอดภัยทางไซเบอร์ และในสถานการณ์ที่ข้อกำหนดด้านอธิปไตย ความปลอดภัย หรือสถานที่จัดเก็บข้อมูลเอื้อต่อการนำโมเดลไปใช้งานภายในพื้นที่ โมเดลแบบเปิดส่วนใหญ่ไม่ได้แข่งขันกันที่ขีดความสามารถระดับแนวหน้า แต่แข่งขันกันในด้านต้นทุน การควบคุม และความหน่วง ดังที่เรายืนยันผ่านการลงนามในจดหมายว่าด้วยโมเดลที่เปิดเผยค่าน้ำหนักและความเป็นผู้นำด้าน AI ของสหรัฐอเมริกา(เปิดในหน้าต่างใหม่) สหรัฐอเมริกาจำเป็นต้องมีทั้งโมเดลแบบเปิดและแบบปิด กรอบการกำกับดูแลระดับรัฐบาลกลางควรรับมือกับขีดความสามารถและความเสี่ยงของ AI ระดับแนวหน้า โดยไม่บั่นทอนการแข่งขัน ทำให้บริษัทที่ครองตลาดอยู่แล้วได้เปรียบยิ่งขึ้น หรือทำให้นวัตกรรมไหลออกไปต่างประเทศ
กรอบกำกับดูแลภาครัฐที่จริงจังควรช่วยกระจายอำนาจแทนที่จะทำให้อำนาจกระจุกตัวมากขึ้น ปัจจุบัน ห้องปฏิบัติการระดับแนวหน้าส่วนใหญ่กำหนดกฎในการจัดการความเสี่ยงระดับแนวหน้ากันเอง มาตรฐานที่ยึดโยงกับความรับผิดชอบตามหลักประชาธิปไตย การตรวจสอบโดยหน่วยงานอิสระ และความโปร่งใสที่มีความหมาย จะเข้ามาแทนที่ระบบการกำกับดูแลโดยเอกชนที่กระจัดกระจายนั้น
สิ่งนี้มีความสำคัญอย่างยิ่งต่อความเป็นผู้นำของสหรัฐอเมริกา สหรัฐอเมริกาไม่สามารถเป็นผู้นำในยุค AI ได้ด้วยขีดความสามารถเพียงอย่างเดียว ต่อให้เทคโนโลยีก้าวหน้ากว่าเพียงใดก็แทบไม่มีความหมาย หากประชาชน สถาบัน และรัฐบาลยังไม่ไว้วางใจมากพอที่จะนำไปใช้ มาตรการป้องกันที่เข้มแข็งไม่ใช่สิ่งที่ต้องแลกกับนวัตกรรม สิ่งเหล่านี้เป็นส่วนหนึ่งของโครงสร้างพื้นฐานที่จำเป็นต่อการนำไปใช้อย่างแพร่หลาย และต่อการรักษาความเป็นผู้นำของสหรัฐอเมริกาในระยะยาว
เราจำเป็นต้องเร่งกำหนดมาตรฐานด้าน AI ในระดับประเทศ และทุกคนที่ทำงานอยู่แนวหน้าของวงการต่างก็ตระหนักดีว่าเรื่องนี้เร่งด่วนเพียงใด ตราบใดที่สภาคองเกรสยังไม่ดำเนินการ รัฐต่างๆ ก็ควรเดินหน้ากำหนดมาตรการเพื่อไม่ให้เกิดช่องว่างในการกำกับดูแล พร้อมยกระดับมาตรฐานให้สูงขึ้น
OpenAI ได้สนับสนุนร่างกฎหมาย SB 53 ของรัฐแคลิฟอร์เนีย, RAISE Act ของรัฐนิวยอร์ก และ SB 315 ของรัฐอิลลินอยส์ รวมถึงข้อกำหนดให้มีการตรวจสอบโดยหน่วยงานอิสระในร่างกฎหมายด้านความปลอดภัยของ AI ระดับแนวหน้าที่กำลังอยู่ระหว่างการพิจารณาในรัฐแมสซาชูเซตส์ เราสนับสนุนให้รัฐต่างๆ ปรับมาตรการป้องกันร่วมเหล่านี้ให้เป็นไปในทิศทางเดียวกัน เมื่อดำเนินการเช่นนั้น รัฐต่างๆ สามารถสร้างมาตรฐานพื้นฐานระดับชาติโดยพฤตินัยที่สภาคองเกรสสามารถนำไปบัญญัติเป็นกฎหมายได้ในท้ายที่สุด เราเรียกแนวทางนี้ว่า สหพันธรัฐนิยมแบบย้อนกลับ แต่การทำให้ข้อกำหนดเป็นไปในทิศทางเดียวกันไม่ได้หมายความว่าต้องยึดข้อกำหนดเดิมไว้โดยไม่เปลี่ยนแปลง
วันนี้ เราประกาศสนับสนุนร่างกฎหมายของรัฐแคลิฟอร์เนียอีก 4 ฉบับอย่างเป็นทางการ ซึ่งผ่านความเห็นชอบจากสภานิติบัญญัติแล้วและกำลังส่งต่อให้ผู้ว่าการรัฐนิวซัมพิจารณา เมื่อพิจารณาร่วมกัน ร่างกฎหมายเหล่านี้ครอบคลุมองค์ประกอบต่างๆ ของระบบความปลอดภัยด้าน AI ที่ส่งเสริมซึ่งกันและกัน
SB 813(เปิดในหน้าต่างใหม่) จะกำหนดกระบวนการรับรององค์กรอิสระที่มีคุณสมบัติเหมาะสมและมีความสามารถในการประเมินความเสี่ยงจาก AI ดังที่เราได้ระบุไว้ใน(เปิดในหน้าต่างใหม่)แนวทางด้านความปลอดภัยของ AI ระดับแนวหน้า(เปิดในหน้าต่างใหม่) เราเห็นว่าควรกำหนดให้มีการประเมินทางเทคนิคโดยหน่วยงานอิสระในระดับรัฐบาลกลาง ซึ่งผู้กำหนดนโยบายสามารถวางมาตรฐานที่สอดคล้องกันในด้านคุณสมบัติของผู้ประเมิน การรักษาความปลอดภัย และการเข้าถึงข้อมูลที่มีความละเอียดอ่อนสูง อย่างไรก็ตาม ในช่วงที่รัฐบาลกลางยังไม่ดำเนินการ รัฐแคลิฟอร์เนียสามารถช่วยกำหนดแนวทางพื้นฐานสำหรับระบบการประเมินโดยหน่วยงานอิสระระดับประเทศที่มีความมั่นคงปลอดภัยและมีขีดความสามารถเพียงพอ ซึ่งจะนำไปสู่ผลลัพธ์ด้านความปลอดภัยที่ดียิ่งขึ้น
AB 1405(เปิดในหน้าต่างใหม่) จะกำหนดให้ผู้ตรวจสอบ AI ต้องขึ้นทะเบียน มีความเป็นอิสระ ดำเนินงานอย่างโปร่งใส และมีความรับผิดชอบ
SB 1119(เปิดในหน้าต่างใหม่) จะกำหนดให้มีการยืนยันอายุ การประเมินความเสี่ยง การตรวจสอบโดยหน่วยงานอิสระ การควบคุมโดยผู้ปกครอง และมาตรการป้องกันเนื้อหาที่เป็นอันตรายสำหรับเด็กและวัยรุ่นที่ใช้แชตบอตเป็นเพื่อนคู่คิด เมื่อไม่นานมานี้ เราได้แสดงการสนับสนุนร่างกฎหมายฉบับนี้ ซึ่งต่อยอดจากมาตรการด้านความปลอดภัยของเยาวชนที่ OpenAI ผลักดันผ่านผลิตภัณฑ์ หลักการเชิงนโยบายระดับโลก และการสนับสนุน(เปิดในหน้าต่างใหม่)กฎหมาย Parents & Kids Safe AI Act(เปิดในหน้าต่างใหม่) ตลอดจนมาตรการคุ้มครองที่มีอยู่ใน ChatGPT for Teens ซึ่งรวมถึงการตั้งค่าเริ่มต้นที่เข้มงวดยิ่งขึ้นสำหรับประเด็นที่ละเอียดอ่อน ช่วงเวลางดใช้งาน ช่วงเวลาเรียน และการแจ้งเตือนให้พัก
AB 1864(เปิดในหน้าต่างใหม่) จะกำหนดให้ผู้ให้บริการสังเคราะห์ยีนและผู้ผลิตอุปกรณ์สังเคราะห์แบบตั้งโต๊ะปฏิบัติตามมาตรฐานการคัดกรองของรัฐบาลกลาง ซึ่งจะช่วยเสริมมาตรการป้องกันทางกายภาพที่สำคัญเพื่อรับมือกับภัยคุกคามทางชีวภาพที่เกิดจากการใช้ AI
ก่อนหน้านี้เราไม่ได้สนับสนุนร่างกฎหมายบางฉบับเหล่านี้ แต่ความก้าวหน้าด้านขีดความสามารถของ AI ที่เกิดขึ้นอย่างรวดเร็วในระยะหลังทำให้เราทบทวนจุดยืนใหม่ และขณะนี้เราได้ตัดสินใจสนับสนุนร่างกฎหมายเหล่านี้
ร่างกฎหมายเหล่านี้ไม่ใช่สิ่งทดแทนกฎระเบียบของรัฐบาลกลาง ร่างกฎหมายเหล่านี้เป็นความพยายามอย่างจริงจังที่สามารถช่วยปกป้องผู้คนได้ตั้งแต่ตอนนี้ แสดงให้เห็นว่ามาตรการคุ้มครองที่นำไปใช้ได้จริงควรเป็นอย่างไร และช่วยสร้างแรงผลักดันให้เกิดการดำเนินการในระดับรัฐบาลกลาง
กฎหมายเพียงอย่างเดียวไม่อาจทำให้ AI ขั้นสูงปลอดภัยได้ เรายังจำเป็นต้องกำหนดแนวปฏิบัติที่ชัดเจนและเป็นรูปธรรมภายในห้องปฏิบัติการที่พัฒนาระบบ AI ที่มีขีดความสามารถสูงสุดด้วย สิ่งที่จำเป็นต้องเร่งดำเนินการเป็นอันดับแรกคือการติดตามตรวจสอบ
การติดตามตรวจสอบมีความสำคัญอย่างยิ่งในกรณีที่โมเดลทำงานไม่สอดคล้องกับเจตนาของมนุษย์ ซึ่งเกิดขึ้นเมื่อโมเดลมุ่งบรรลุเป้าหมายด้วยวิธีที่ขัดต่อเจตนาของมนุษย์หรือขอบเขตที่กำหนดไว้ โดยไม่จำเป็นว่าโมเดลจะต้องมีจิตสำนึกหรือมีเจตนาร้าย เมื่อโมเดลสามารถทำงานได้อย่างเป็นอิสระมากขึ้น ใช้เครื่องมือที่มีศักยภาพสูงขึ้น และทำงานได้เป็นระยะเวลานานขึ้น นักพัฒนาควรต้องติดตามตรวจสอบพฤติกรรมที่ไม่สอดคล้องกับเจตนาของมนุษย์เหล่านี้ พร้อมแสดงให้เห็นว่ามีมาตรการป้องกันที่มีประสิทธิผล
การติดตามตรวจสอบต้องมาพร้อมกับข้อกำหนดที่ชัดเจนเกี่ยวกับการเปิดเผยข้อมูล ตามแนวทางที่เราได้สนับสนุนในรัฐแคลิฟอร์เนีย บริษัทควรมีหน้าที่แจ้งผู้ที่ได้รับผลกระทบเป็นลายลักษณ์อักษรโดยเร็ว เมื่อโมเดลของบริษัทหลบเลี่ยงมาตรการควบคุมด้านความปลอดภัยขององค์กรอื่นโดยไม่ได้รับอนุญาตระหว่างการพัฒนาหรือการประเมิน และมีการเข้าถึง เปลี่ยนแปลง หรือทำลายระบบที่ได้รับการปกป้องหรือข้อมูลที่เป็นความลับขององค์กรนั้นอย่างมีนัยสำคัญ นอกจากนี้ เรายังสนับสนุนข้อกำหนดระดับรัฐบาลกลางในการรายงานเหตุการณ์ร้ายแรงอื่นๆ ที่เกี่ยวข้องกับ AI และกำลังร่วมกำหนดว่าเหตุการณ์ประเภทใดควรอยู่ภายใต้ข้อกำหนดดังกล่าว รวมถึงควรกำหนดให้ต้องดำเนินการอะไรบ้าง
ดังที่เราได้เปิดเผยเมื่อสัปดาห์ที่แล้ว OpenAI กำลังพัฒนากรอบการรายงานเหตุการณ์ที่โมเดลทำงานไม่สอดคล้องกับเจตนาของมนุษย์และก่อให้เกิดผลกระทบที่มีนัยสำคัญ พร้อมทั้งติดตามตรวจสอบการทำงานของโมเดลระดับแนวหน้าอย่างเป็นระบบ ซึ่งรวมถึงการใช้งานภายในองค์กรด้วย การดำเนินงานนี้เริ่มจากการที่บริษัทเป็นผู้ริเริ่ม แต่เราหวังว่าสิ่งที่ได้จากการดำเนินงานจะช่วยกำหนดนโยบายและข้อกำหนดด้านการรายงานในระดับรัฐบาลกลางให้ครอบคลุมยิ่งขึ้น
เราต้องการทำงานร่วมกับห้องปฏิบัติการอื่นๆ ในการพัฒนามาตรฐานที่ขับเคลื่อนโดยอุตสาหกรรม มาตรฐานที่ภาคอุตสาหกรรมเป็นผู้ขับเคลื่อนจะช่วยเสริมมาตรการคุ้มครองภาคบังคับของรัฐบาลกลางและการกำกับดูแลตามหลักประชาธิปไตย ไม่ใช่นำมาใช้แทนที่ แต่เมื่อขีดความสามารถของ AI ก้าวเข้าไปอีกขั้น เราจำเป็นต้องเปิดกว้างต่อทุกทางเลือก รวมถึงพิจารณาว่าภาคส่วนที่อยู่นอกภาครัฐสามารถริเริ่มแนวทางใดโดยสมัครใจเพื่อดำเนินการในทันที
ท้ายที่สุดแล้ว มาตรฐานดังกล่าวจะต้องครอบคลุมไปถึงระดับนานาชาติด้วย โมเดล งานวิจัย และความเชี่ยวชาญทางเทคนิคไม่ได้จำกัดอยู่ในประเทศใดประเทศหนึ่ง และความล้มเหลวของระบบที่มีขีดความสามารถสูงสุดอาจส่งผลกระทบไปไกลเกินกว่าประเทศที่พัฒนาระบบนั้นขึ้นมา หากสหรัฐอเมริกาต้องการเป็นผู้นำในระดับนานาชาติ ก็จำเป็นต้องวางมาตรฐานที่น่าเชื่อถือภายในประเทศ และเราเชื่อมั่นมากขึ้นเรื่อยๆ ว่าจำเป็นต้องมีมาตรฐานระหว่างประเทศที่สอดคล้องกันด้วย
ตอนนี้ยังเป็นช่วงเวลาสำคัญที่เราสามารถกำหนดทิศทางนโยบายด้าน AI ได้ และเราตั้งใจจะไม่ปล่อยให้โอกาสนี้ผ่านไป
นั่นหมายความว่าเราต้องเร่งลงมือดำเนินการด้วยความรอบคอบ พร้อมเปิดใจยอมรับข้อจำกัดและปรับตัวเมื่อจำเป็น นั่นหมายถึงการสนับสนุนข้อเสนอที่จริงจังและช่วยยกระดับมาตรฐานด้านความปลอดภัยได้อย่างมีนัยสำคัญ แม้ข้อเสนอเหล่านั้นจะไม่ตรงกับแนวทางที่เราจะเลือกออกแบบเองทั้งหมดก็ตาม และยังหมายถึงการปรับปรุงกรอบการกำกับดูแลให้เข้มแข็งยิ่งขึ้นตามพัฒนาการของเทคโนโลยี
ก้าวแรกไม่จำเป็นต้องสมบูรณ์แบบ เพราะความเสี่ยงที่ใหญ่กว่าคือการมัวรอจนสายเกินกว่าจะลงมือ
