สร้างมาตรฐานสำหรับ AI ในยุคถัดไป

พันธกิจของเราคือทำให้ปัญญาประดิษฐ์ทั่วไปเป็นประโยชน์ต่อมนุษยชาติทุกคน ดังที่ Sam Altman และ Jakub Pachocki ได้อธิบายไว้เมื่อไม่นานมานี้ เราจัดลำดับความสำคัญของงานเพื่อมุ่งสู่พันธกิจนี้โดยยึดเป้าหมายหลัก 3 ประการ:

1. เตรียมพร้อมรับความก้าวหน้าของ AI ในระยะถัดไป โดยสร้างนักวิจัย AI อัตโนมัติขึ้นมาเพื่อร่วมค้นหาและปรับปรุงแนวทางแก้ปัญหาการปรับแนวอย่างต่อเนื่อง พร้อมหาวิธีให้มนุษย์ยังคงมีส่วนร่วมในกระบวนการที่ AI พัฒนาตนเอง

2. ทำให้ผู้คนได้รับประโยชน์จากความก้าวหน้าทางวิทยาศาสตร์และการเติบโตทางเศรษฐกิจที่เครื่องจักรอัจฉริยะขั้นสูงสามารถสร้างขึ้นได้

3. มอบ AGI ส่วนบุคคลเพื่อเพิ่มศักยภาพให้ทุกคน

AI ช่วยให้การวิจัยและงานวิศวกรรมของเราก้าวหน้าเร็วขึ้น และการนำ AI มาใช้ในการวิจัยก็ก่อให้เกิดความก้าวหน้าทางคณิตศาสตร์ ซึ่งรวมถึง Navier-Stokes Millennium Problem ความก้าวหน้าเหล่านี้อาจมีส่วนสำคัญต่อการบรรลุเป้าหมายอีก 2 ประการของเรา โดยอาจนำไปสู่การค้นพบสำคัญทางการแพทย์ การเข้าถึงบริการสุขภาพอย่างทั่วถึง และการสร้างโอกาสทางเศรษฐกิจให้กับธุรกิจขนาดเล็กและผู้ประกอบการรายบุคคลทั่วโลก

AI กำลังก้าวหน้าอย่างรวดเร็วในหลายบริษัทและหลายประเทศ และความเปลี่ยนแปลงที่เกิดขึ้นทั่วทั้งวงการย่อมส่งผลต่อทั้งโอกาสและความท้าทายที่ทุกคนต้องเผชิญ นอกจากประโยชน์ในด้านอื่นๆ แล้ว AI ที่มีความสามารถสูงและสอดคล้องกับเป้าหมายของมนุษย์จะมีบทบาทสำคัญในการช่วยให้เรารับมือกับช่วงเปลี่ยนผ่านนี้ ทั้งด้วยการเสริมการป้องกันให้แข็งแกร่งขึ้น ผลักดันงานวิจัยด้านการปรับแนว และช่วยให้ผู้คนเข้าใจและมีส่วนกำหนดทิศทางการพัฒนา AI ในระยะต่อไป

การก้าวผ่านช่วงเปลี่ยนผ่านนี้อย่างปลอดภัย จำเป็นต้องพัฒนางานวิจัยด้านการปรับแนวให้ก้าวทันความสามารถของ AI เพื่อให้ระบบที่เราหรือผู้อื่นพัฒนายังคงสอดคล้องกับคุณค่าของมนุษย์และอยู่ภายใต้การควบคุมของมนุษย์ เรื่องนี้จะยิ่งสำคัญขึ้นเมื่อระบบ AI มีความสามารถและทำงานได้อย่างอิสระมากขึ้น รวมถึงเมื่อ AI เข้ามามีบทบาทในการวิจัยและพัฒนา AI มากขึ้นด้วย หากต้องการให้ AI ก้าวหน้าต่อไปอย่างปลอดภัยและสร้างประโยชน์ เราจำเป็นต้องพัฒนางานวิจัยด้านการปรับแนวควบคู่กับการสร้างมาตรฐานร่วมกัน เพื่อกำหนดแนวทางการพัฒนาให้สอดคล้องกันทั้งในห้องปฏิบัติการและประเทศต่างๆ

การวิจัย AI แบบอัตโนมัติอาจมีมนุษย์คอยกำกับดูแลมากน้อยแตกต่างกันไป เมื่อระบบ AI เข้ามารับหน้าที่ในการพัฒนา AI รุ่นต่อๆ ไปมากขึ้น AI ก็จะมีบทบาทมากขึ้นในการขับเคลื่อนกระบวนการพัฒนาตนเองแบบวนซ้ำ (RSI) แม้มนุษย์จะยังคงมีส่วนร่วมอยู่ก็ตาม และเมื่อกระบวนการนี้ทำงานโดยอัตโนมัติมากขึ้น ความก้าวหน้าของ AI ก็อาจเร่งตัวขึ้นอย่างรวดเร็ว

เราเชื่อว่าการนำ AI มาช่วยทำงานวิจัยโดยอัตโนมัติจะทำให้เราพัฒนาโมเดลที่สร้างประโยชน์ต่อชีวิตของผู้คนได้โดยตรง อีกทั้งยังช่วยลดต้นทุนในการเข้าถึง AI ที่มีความสามารถสูง เพื่อให้ผู้คนทั่วโลกได้รับประโยชน์ นอกจากนี้ การวิจัยแบบอัตโนมัติยังอาจช่วยให้เราพัฒนาการปรับแนวได้อย่างมากและสร้างระบบป้องกันเพื่อรับมือกับ AI ที่มีความสามารถสูงขึ้นเรื่อยๆ เพราะนักวิจัย AI อัตโนมัติก็สามารถทำหน้าที่เป็นนักวิจัยด้านความปลอดภัยของ AI แบบอัตโนมัติได้เช่นกัน ระบบที่มีความสามารถสูงขึ้นและได้รับการปรับแนวอย่างเหมาะสมอาจช่วยปกป้องโครงสร้างพื้นฐานสำคัญ รับมือกับเอเจนต์ AI ที่เป็นอันตราย และพัฒนามาตรการป้องกันรูปแบบใหม่

ปัจจุบันยังไม่มีการพัฒนาตนเองแบบวนซ้ำ (RSI) ที่ทำงานโดยอัตโนมัติอย่างสมบูรณ์ และเราไม่ควรเดินหน้าในแนวทางนี้จนกว่าจะมั่นใจว่าสามารถทำได้อย่างปลอดภัย การตัดสินใจว่าจะเดินหน้าหรือไม่และควรดำเนินการอย่างไร ต้องขึ้นอยู่กับว่าเราจะรักษาการควบคุมของมนุษย์ไว้ได้หรือไม่ รวมถึงการตัดสินใจตามหลักประชาธิปไตยโดยมีข้อมูลประกอบอย่างรอบด้าน⁠(เปิดในหน้าต่างใหม่)เกี่ยวกับประโยชน์และความเสี่ยง หากพัฒนา RSI โดยขาดความรอบคอบและระมัดระวังอย่างเหมาะสม มนุษย์อาจสูญเสียความสามารถในการควบคุมทิศทางการพัฒนา AI ในทางปฏิบัติ และไม่สามารถกำกับดูแลกระบวนการวิจัยที่ตนไม่เข้าใจได้อีกต่อไป จากจุดนั้น AI อาจมีอันตรายมากขึ้น สอดคล้องกับเป้าหมายของมนุษย์น้อยลง และโดยรวมแล้วอาจกลายเป็นภัยต่อผู้คน เหตุการณ์ Hugging Face ที่เราเปิดเผย แม้ไม่ได้เกิดจาก RSI โดยตรง แต่ก็แสดงให้เห็นล่วงหน้าถึงลักษณะของความเสี่ยงที่อาจรุนแรงขึ้นอย่างมาก หากไม่มีมาตรการป้องกันและการปรับแนวที่รัดกุม

มาตรฐานสากลด้านความปลอดภัยและความมั่นคงสำหรับการพัฒนา AI ระดับแนวหน้าอาจมีความสำคัญต่อการกำหนดจังหวะความก้าวหน้าของ AI ระดับแนวหน้าไม่แพ้งานวิจัยด้านการปรับแนว มาตรฐานเหล่านี้ช่วยให้ทุกฝ่ายมีหลักเกณฑ์ร่วมกันว่า หลักฐานที่มีคุณภาพควรเป็นอย่างไร และมาตรการป้องกันทางเทคนิคควรมีความรัดกุมอย่างน้อยในระดับใด กล่าวโดยสรุป มาตรฐานเหล่านี้ช่วยให้เราตอบคำถามสำคัญได้ว่า “การลดความเสี่ยงจาก AI ที่อาจก่อให้เกิดหายนะอย่างมีประสิทธิภาพควรเป็นอย่างไร”

สถาบันที่จัดตั้งขึ้นภายใต้ระบอบประชาธิปไตยและมีอยู่เดิม เช่น Center for AI Standards and Innovation (CAISI) ตลอดจนกฎหมายระดับรัฐและกรอบการกำกับดูแล AI ในระดับรัฐบาลกลาง ล้วนมีส่วนช่วยในเรื่องนี้ได้ รวมถึงความร่วมมือรูปแบบใหม่ระหว่างภาครัฐและภาคเอกชน⁠(เปิดในหน้าต่างใหม่) อย่างไรก็ตาม การพัฒนาและนำ AI ไปใช้งานกำลังเกิดขึ้นในหลายประเทศ ผู้คนทั่วโลกก็กำลังนำ AI มาใช้ และในท้ายที่สุด ผลกระทบของ AI มีแนวโน้มที่จะเกิดขึ้นกับทุกคนไม่ทางใดก็ทางหนึ่ง ไม่ช้าก็เร็ว

ดังนั้น จึงจำเป็นต้องมีความร่วมมือระหว่างประเทศเพื่อพัฒนามาตรฐานสำหรับแก้ความท้าทายสำคัญบางประการ ได้แก่

• การขาดมาตรฐานร่วมกัน หากแต่ละประเทศใช้เกณฑ์การประเมิน ข้อกำหนดด้านการรายงาน และนิยามของเหตุการณ์ที่แตกต่างกันหรือขัดแย้งกัน ก็จะยิ่งเปรียบเทียบหลักฐาน ทำความเข้าใจความสามารถใหม่ๆ ของ AI และรับมือกับความเสี่ยงที่เกิดขึ้นข้ามพรมแดนได้ยากขึ้น

• การร่วมมือกัน หากแต่ละประเทศต่างดำเนินการตามแนวทางของตนเองโดยไม่ประสานกัน อาจเกิดผลลัพธ์ที่ไม่มีฝ่ายใดต้องการ โดยเฉพาะเมื่อ RSI สามารถเร่งการวิจัย AI ให้ก้าวหน้าเร็วขึ้น จนอาจถึงจุดที่มนุษย์ไม่สามารถทำความเข้าใจสิ่งที่เกิดขึ้น ประเมินความเสี่ยง หรือกำกับดูแลการพัฒนาได้อย่างเพียงพอ

• การกระจายศักยภาพที่ไม่ทั่วถึง ไม่ใช่ทุกประเทศหรือทุกภูมิภาคจะมีการพัฒนา AI ระดับแนวหน้าและความเชี่ยวชาญที่เกี่ยวข้องในระดับเดียวกัน ความไม่สมดุลนี้ยิ่งเพิ่มความรุนแรงของปัญหาทั้งสองข้อข้างต้น

ความท้าทายเหล่านี้เกิดขึ้นกับทั้งโมเดลแบบเปิดและโมเดลแบบปิด

กล่าวให้ชัดเจนคือ ห้องปฏิบัติการ AI ทุกแห่งที่ทำวิจัย AI แบบอัตโนมัติหรือพัฒนาความสามารถขั้นสูงอื่นๆ ต้องรับผิดชอบในการดำเนินงานอย่างปลอดภัย โดยยึดหลักความรับผิดชอบของตนเองและปฏิบัติตามกฎหมายที่มีอยู่ เหตุผลที่เราสนับสนุนการมีมาตรฐาน คือเพื่อไม่ให้อำนาจกระจุกตัวอยู่กับคนเพียงไม่กี่กลุ่ม และเพื่อให้เกิดผลลัพธ์ที่ดีกว่าในทางปฏิบัติ มาตรฐานจะเปิดโอกาสให้ผู้มีส่วนเกี่ยวข้องนอกห้องปฏิบัติการมีส่วนกำหนดว่าเทคโนโลยีนี้ควรพัฒนาไปในทิศทางใด พร้อมสร้างหลักการที่ชัดเจนและทุกฝ่ายยึดถือได้ โดยไม่ต้องขึ้นอยู่กับแนวทางของห้องปฏิบัติการแห่งใดแห่งหนึ่ง และเราน่าจะรับมือกับความท้าทายที่กล่าวมาข้างต้นได้ดียิ่งขึ้น หากทุกฝ่ายร่วมมือกัน

นี่คือเหตุผลที่เราเชื่อว่าสหรัฐอเมริกาควรเป็นผู้นำในการประสานความร่วมมือกับประเทศทั่วโลก เพื่อร่วมกันกำหนดมาตรฐานทางเทคนิคสำหรับ AI ระดับแนวหน้าในระดับสากล ซึ่งครอบคลุมถึง RSI ด้วย

แม้เราคาดว่าแนวคิดนี้จะเปลี่ยนแปลงและพัฒนาไปอีกมากในอนาคต แต่มีองค์ประกอบสำคัญ 2 ประการที่จำเป็นต้องมี

แนวทางหนึ่งคือการใช้ประโยชน์จากเครือข่ายสถาบันด้านความปลอดภัยของ AI ที่กำลังก่อตัวขึ้นทั่วโลก เช่น สถาบันที่มีอยู่แล้วในออสเตรเลีย แคนาดา เยอรมนี ฝรั่งเศส เคนยา ญี่ปุ่น เกาหลี สิงคโปร์ อินเดีย และสหราชอาณาจักร เพื่อสนับสนุนให้ CAISI และองค์กรภาคอุตสาหกรรมระดับประเทศร่วมกันกำหนดมาตรฐาน โดยให้ความสำคัญกับ 2 เรื่องหลัก คือ (1) โมเดลและผู้พัฒนา AI ระดับแนวหน้า โดยใช้เกณฑ์วัดความสามารถเป็นตัวประเมิน และ (2) การจัดการทั้งประโยชน์และความเสี่ยงของการวิจัย AI แบบอัตโนมัติ ซึ่งรวมถึง RSI สหรัฐอเมริกาสามารถนำเครือข่ายระหว่างประเทศเพื่อการวัด การประเมิน และวิทยาศาสตร์ด้าน AI ขั้นสูง⁠(เปิดในหน้าต่างใหม่)ที่ CAISI จัดตั้งขึ้นในปี 2567 มาต่อยอด โดยเครือข่ายดังกล่าวรวบรวมสถาบันภาครัฐให้มาร่วมมือกันด้านการวัด การประเมิน และวิทยาศาสตร์เกี่ยวกับ AI

มาตรฐานที่เกิดจากความร่วมมือนี้จะช่วยสร้างหลักเกณฑ์ทางเทคนิคที่ทุกฝ่ายใช้ร่วมกัน ทั้งในการวัดและประเมินความสามารถของ AI การประเมินความเสี่ยง และการตรวจสอบว่ามาตรการป้องกันเพียงพอหรือไม่ อย่างไรก็ตาม มาตรฐานเหล่านี้ไม่ใช่การออกใบอนุญาต ไม่ได้บังคับให้มีการตรวจสอบก่อนเปิดตัว และไม่ได้กำหนดให้โมเดล AI ต้องได้รับการอนุมัติ รัฐบาลของแต่ละประเทศจะเป็นผู้ตัดสินใจว่าจะนำมาตรฐานดังกล่าวไปใช้ในกฎหมายของตนอย่างไร หรือจะนำไปใช้หรือไม่

แนวทางนี้ควรสนับสนุนการแข่งขันในระบบนิเวศ AI โดยรับฟังความคิดเห็นจากผู้พัฒนาโมเดลทั้งแบบเปิดและแบบปิด ผู้เชี่ยวชาญด้านเทคนิคอิสระ และภาควิชาการ การพัฒนามาตรฐานร่วมควรดำเนินการอย่างโปร่งใส และต้องไม่ออกแบบให้บริษัท ประเทศ หรือรูปแบบธุรกิจใดได้เปรียบเป็นพิเศษ รวมถึงต้องไม่สร้างอุปสรรคที่ทำให้ผู้เล่นรายใหม่หรือผู้พัฒนาโมเดลแบบเปิดน้ำหนักแข่งขันได้ยากขึ้น

ดังที่เราเคยเสนอไว้⁠(เปิดในหน้าต่างใหม่) แนวทางนี้สามารถนำบทเรียนจากสาขาต่างๆ เช่น การบินและเสถียรภาพทางการเงินมาปรับใช้ ซึ่งเป็นสาขาที่หลายประเทศร่วมกันกำหนดมาตรฐานทางเทคนิคและสร้างช่องทางความร่วมมือที่ทุกฝ่ายไว้วางใจได้ โดยแต่ละประเทศยังคงมีอำนาจในการตัดสินใจของตนเอง นอกจากนี้ ควรทำงานอย่างใกล้ชิดกับองค์กรด้านมาตรฐานทั้งที่มีมายาวนานและที่จัดตั้งขึ้นใหม่ เช่น ISO⁠(เปิดในหน้าต่างใหม่), Frontier Model Forum⁠(เปิดในหน้าต่างใหม่), Agentic AI Foundation⁠(เปิดในหน้าต่างใหม่) และ Open Secure AI Alliance⁠(เปิดในหน้าต่างใหม่) รวมถึงองค์กรที่มุ่งเน้นการนำมาตรฐานไปใช้จริง เช่น Appia Foundation ซึ่งกำลังพัฒนาข้อกำหนดที่นำไปใช้ได้จริงเพื่อเชื่อมโยงมาตรฐานสากลเข้ากับการประเมิน AI ในสถานการณ์จริง

เมื่อ AI สามารถทำงานวิจัยได้ด้วยตนเองมากขึ้นและเริ่มมีการพัฒนาตนเองแบบวนซ้ำ มาตรฐาน AI ระหว่างประเทศจะยิ่งมีบทบาทสำคัญในการกำกับดูแล โดยอาจกำหนดมาตรฐานในด้านต่างๆ ดังต่อไปนี้:

• การประเมินความก้าวหน้าของ AI ที่เกี่ยวข้องกับ RSI รวมถึงระดับที่บริษัท AI ใช้ AI ทำงานวิจัยโดยอัตโนมัติ รายงานล่าสุดของเราเกี่ยวกับการเร่งความก้าวหน้าของงานวิจัยถือเป็นก้าวแรกที่ช่วยสนับสนุนความพยายามในด้านนี้

• การให้มนุษย์กำกับดูแลการวิจัย AI แบบอัตโนมัติ พร้อมกำหนดให้ชัดเจนว่ากระบวนการวิจัย AI แบบอัตโนมัติประเภทใดที่ต้องให้มนุษย์เข้ามาตรวจสอบทันที

• การจัดประเภท ติดตาม รายงาน และรับมือกับเหตุการณ์ที่เกี่ยวข้องกับการปรับแนวและการวิจัย AI แบบอัตโนมัติ เช่น การกำหนดระดับความรุนแรงของเหตุการณ์และเกณฑ์ว่ากรณีใดต้องรายงานให้เป็นมาตรฐานร่วมกัน กรอบการรายงานปัญหาการปรับแนวของเราเป็นผลงานเบื้องต้นที่ช่วยสนับสนุนแนวทางนี้

นอกจากมาตรฐานเหล่านี้แล้ว เราเห็นว่าผู้ดูแลโครงสร้างพื้นฐานสำคัญและรัฐบาลทั่วโลกควรมีช่องทางการสื่อสารที่ปลอดภัยสำหรับแลกเปลี่ยนข้อกังวลด้านความมั่นคงของประเทศ ช่องโหว่และภัยคุกคามใหม่ๆ รวมถึงแนวทางปฏิบัติที่เหมาะสมในด้านความปลอดภัยของ AI ระดับแนวหน้าที่กำลังเปลี่ยนแปลงอย่างรวดเร็ว การหารือระหว่างสหรัฐอเมริกากับจีนในประเด็นเหล่านี้ถือเป็นก้าวที่เป็นประโยชน์ และการเจรจาที่กำลังจะมีขึ้นก็นับว่าเกิดขึ้นในช่วงเวลาที่เหมาะสม

การกำหนดจังหวะการพัฒนา AI ไม่ได้เกี่ยวกับการรักษาความเร็วให้อยู่ในระดับที่กำหนดไว้ล่วงหน้า ในเชิงเทคนิค เป้าหมายคือทำให้การวิจัยด้านการปรับแนวและการนำผลการวิจัยไปใช้ก้าวนำความสามารถของ AI ส่วนในเชิงสังคม คือการใช้มาตรฐาน สถาบัน และความร่วมมือเพื่อเสริมความเข้มแข็งให้กับเครือข่ายในภาคอุตสาหกรรม ความสัมพันธ์ทางสังคม และกลไกตลาด เพื่อสร้างผลลัพธ์ที่ทุกฝ่ายได้ประโยชน์ การเรียกร้องให้เกิดความร่วมมือในการป้องกันภัยทางไซเบอร์เมื่อไม่นานมานี้เป็นตัวอย่างหนึ่งของแนวทางในระดับสังคม

สหรัฐอเมริกาอยู่ในจุดที่เหมาะสมต่อการเป็นผู้นำ เนื่องจากอุตสาหกรรม AI ของประเทศอยู่แถวหน้าของการพัฒนาด้านเทคนิค และสหรัฐฯ ยังคงมีบทบาทที่ได้เปรียบในเครือข่ายระดับโลกในด้านสำคัญ เช่น การเงิน การค้า การป้องกันประเทศ เทคโนโลยี และระบบสารสนเทศ การเป็นผู้นำในเวลานี้จะเป็นตัวกำหนดว่าสหรัฐฯ จะมีบทบาทในการกำหนดกรอบ AI ระดับโลก หรือจะปล่อยให้ระบบที่แตกแยก ไม่เท่าเทียม และเต็มไปด้วยความขัดแย้งก่อตัวขึ้นโดยที่ตนไม่ได้มีส่วนกำหนดทิศทาง นอกจากนี้ ยังจะเป็นตัวกำหนดว่า AI ขั้นสูงจะช่วยเสริมความแข็งแกร่งให้กับเครือข่ายที่สหรัฐฯ และพันธมิตรมีอยู่แล้วหรือไม่ หากสหรัฐฯ ไม่ก้าวขึ้นมาเป็นผู้นำ เครือข่ายเหล่านี้อาจอ่อนแอลง

การแข่งขันทางภูมิรัฐศาสตร์ในยุค AI ไม่ได้ขึ้นอยู่เพียงว่าใครมีเทคโนโลยีที่ก้าวหน้ากว่า แต่ยังขึ้นอยู่กับว่า AI จะได้รับการยอมรับและนำไปใช้อย่างแพร่หลายเพียงใดด้วย ในอนาคต ประเทศที่สามารถสร้างความร่วมมือที่นำไปปฏิบัติได้จริง พร้อมวางกติกาที่เหมาะสมและเป็นที่ยอมรับ อาจมีบทบาทสำคัญในการกำหนดทิศทางนี้ เพราะหากธุรกิจและสังคมทั่วโลกจะนำเทคโนโลยีนี้มาเป็นส่วนสำคัญของอนาคต พวกเขาย่อมต้องการทั้งความร่วมมือและกติกาที่สร้างความมั่นใจได้

การมีกลไกกำกับดูแลที่เข้มแข็งในแต่ละประเทศ ควบคู่กับความร่วมมือระหว่างประเทศที่นำไปปฏิบัติได้จริง จะช่วยยกระดับมาตรการป้องกันความเสี่ยง เปิดทางให้เกิดนวัตกรรมอย่างต่อเนื่อง และทำให้ผู้คนในวงกว้างได้รับประโยชน์จาก AI