คำกล่าวของ Sam Altman ต่อคณะมนตรีความมั่นคงแห่งสหประชาชาติ

วันนี้ Sam Altman ซีอีโอของ OpenAI ได้กล่าวต่อคณะมนตรีความมั่นคงแห่งสหประชาชาติในประเด็นปัญญาประดิษฐ์ เขากล่าวถึงศักยภาพของ AI ในการขยายโอกาส ความสำคัญของการรักษาระบบอันทรงพลังให้อยู่ภายใต้การควบคุมของมนุษย์ และความจำเป็นของความร่วมมือระหว่างประเทศด้านความปลอดภัยของ AI

ขอบคุณท่านประธานและท่านผู้มีเกียรติทุกท่าน ผมรู้สึกเป็นเกียรติอย่างยิ่งที่ได้มาร่วมงานนี้ และมีโอกาสได้พูดคุยกับทุกท่านในช่วงเวลาสำคัญเช่นนี้

แม้เราจะพูดถึงปัญญาประดิษฐ์กันมาหลายปี แต่ช่วงไม่กี่สัปดาห์และไม่กี่เดือนที่ผ่านมากลับให้ความรู้สึกไม่เหมือนเดิม การพัฒนาโมเดลที่ก้าวหน้าอย่างรวดเร็วทำให้สิ่งต่างๆ ดูเหมือนจะเกิดขึ้นเร็วกว่าที่เคยคาดการณ์ไว้ ประโยชน์ที่เป็นไปได้เริ่มจับต้องได้มากขึ้น ขณะเดียวกัน ผลกระทบและความเสี่ยงที่เราต้องรับมือก็ใกล้เข้ามามากขึ้นเช่นกัน

เรามีทางเลือกอยู่ตรงหน้า AI อาจนำเราไปสู่ยุคฟื้นฟูศิลปวิทยาครั้งใหม่ที่เต็มไปด้วยความคิดสร้างสรรค์และการค้นพบ หรืออาจกลายเป็นการปฏิวัติอุตสาหกรรมครั้งใหม่ที่นำมาซึ่งการเปลี่ยนแปลงครั้งใหญ่และความสับสนวุ่นวาย

ในยุคฟื้นฟูศิลปวิทยา เครื่องมือใหม่ๆ แนวคิดใหม่ๆ และสถาบันรูปแบบใหม่ทำให้ผู้คนมองเห็นความเป็นไปได้ใหม่ว่าตนเองสามารถทำอะไรได้บ้าง AI ก็สามารถสร้างการเปลี่ยนแปลงเช่นนั้นให้กับยุคของเราได้ ผมเชื่อว่ามนุษย์มีความสามารถมากกว่าที่ตนเองจินตนาการไว้มาก แต่ที่ผ่านมาเราถูกจำกัดด้วยเทคโนโลยีที่ควรช่วยให้เราทำสิ่งต่างๆ ได้มากขึ้น แต่กลับทำให้เราไขว้เขวและดึงความสนใจไปจากสิ่งที่สำคัญอยู่บ่อยครั้ง

AI ในรูปแบบที่ดีที่สุดไม่ได้มีไว้เพื่อทำให้ผู้คนเป็นเพียงฟันเฟืองในระบบขนาดใหญ่ หรือทำให้ทุกส่วนของชีวิตมีประสิทธิภาพสูงสุดจนความเป็นมนุษย์ค่อยๆ หายไป แต่ควรช่วยให้ผู้คนมีอำนาจในการเลือกและลงมือทำมากขึ้นในโลกที่ซับซ้อนขึ้นอย่างต่อเนื่อง ทั้งในการเรียนรู้ สร้างสรรค์ ค้นพบ สร้างสิ่งต่างๆ และมีส่วนร่วม มีหลายสิ่งที่ AI ไม่สามารถทำแทนเราได้ และที่สำคัญคือไม่ควรทำแทนเรา

AI ควรถูกสร้างขึ้นเพื่อช่วยผู้คน ไม่ใช่เพียงเพื่อทำให้เครื่องจักรและระบบต่างๆ เดินหน้าเร็วขึ้นโดยถือว่านั่นเป็นเป้าหมายในตัวเอง บางสิ่งที่ผู้คนในวงการพัฒนา AI พูดถึงนั้นนำเสนอภาพอนาคตที่มืดมนเสียจนฟังดูราวกับหลุดมาจากบทภาพยนตร์ไซไฟที่ไม่น่าดูนัก

เทคโนโลยีที่ทรงพลังขนาดนี้ย่อมสร้างความรู้สึกหวั่นใจได้เป็นธรรมดา ช่วงเวลานี้จึงไม่ใช่เรื่องง่าย เพราะในขณะที่เรามองเห็นศักยภาพอันมหาศาล เราก็รู้สึกกังวลอย่างมีเหตุผลไปพร้อมกัน

โมเดลเหล่านี้สามารถช่วยให้ผู้คนค้นพบองค์ความรู้ใหม่ ไม่ว่าจะเป็นยาใหม่ การดูแลสุขภาพที่ดีขึ้น การศึกษาที่มีคุณภาพยิ่งขึ้น รวมถึงช่วยสร้างเศรษฐกิจที่มีผลิตภาพสูงขึ้น โมเดลเหล่านี้ยังสามารถเป็นเครื่องมือใหม่ที่ช่วยให้ผู้คนไล่ตามความฝันและความมุ่งมั่นที่วันนี้อาจยังดูไกลเกินเอื้อม ชีวิตของคนทั่วไปมีความซับซ้อนเพิ่มขึ้นอย่างมาก AI สามารถเป็นเครื่องมือที่ช่วยให้ผู้คนรับมือกับความซับซ้อนเหล่านี้ได้ ขณะเดียวกันก็เป็นเครื่องมือที่เปิดทางสู่การค้นพบและนวัตกรรมในระดับที่ไม่เคยเกิดขึ้นมาก่อน

ในทางกลับกัน เมื่อระบบ AI มีความสามารถและทำงานได้อย่างอิสระมากขึ้น ระบบเหล่านี้อาจพัฒนาไปเร็วกว่าที่สถาบันต่างๆ ของเราจะรับมือได้ อาจทำให้อำนาจกระจุกตัวอยู่ในมือคนเพียงไม่กี่กลุ่ม หรือทำให้เกิดการตัดสินใจที่ผู้คนไม่อาจเข้าใจหรือควบคุมได้อีกต่อไป

ข้อกังวลนี้ยิ่งมีความสำคัญเป็นพิเศษเมื่อเราเข้าใกล้การพัฒนาระบบที่สามารถปรับปรุงทั้งตัวเองและระบบรุ่นต่อๆ ไปได้ ซึ่งมักเรียกว่า การพัฒนาตนเองแบบวนซ้ำ เมื่อกระบวนการสร้าง AI ใช้ระบบอัตโนมัติมากขึ้น ความก้าวหน้าของ AI ก็อาจเร่งตัวขึ้นอย่างรวดเร็ว ช่วงเวลานี้จึงจำเป็นต้องดำเนินการด้วยความระมัดระวังอย่างยิ่ง

ผมเห็นด้วยกับศาสตราจารย์ Bengio ในหลายประเด็น แต่ผมขอพูดถึงสองประเด็นแทนสามประเด็น ผมเชื่อว่ามีสองทิศทางที่การพัฒนา AI อาจนำไปสู่ผลลัพธ์ที่เลวร้ายอย่างมาก และเราจำเป็นต้องหลีกเลี่ยงทั้งสองทิศทางนี้

ประการแรก เราอาจปล่อยให้ AI เข้ามากำหนดอนาคตจนเราไม่สามารถควบคุมได้ ความเสี่ยงคือ AI อาจก้าวหน้าอย่างรวดเร็วจนผู้คนตามไม่ทันว่าเกิดอะไรขึ้น และไม่สามารถเข้าแทรกแซงในเวลาที่จำเป็นได้ ซึ่งย่อมเป็นสิ่งที่เลวร้ายอย่างยิ่ง

อุตสาหกรรม AI ต้องไม่ยอมรับความเสี่ยงทางเทคโนโลยีในระดับที่สูงเกินควร เพียงเพราะประโยชน์ที่อาจได้รับนั้นมีมากจนรู้สึกว่าการชะลอความก้าวหน้าเป็นเรื่องที่ทำไม่ได้ การแข่งขันเพื่อพัฒนาให้เร็วกว่าบริษัทอื่นไม่ใช่เหตุผลให้เราตัดสินใจโดยขาดความรอบคอบ และเราไม่ได้มองว่าตัวเองติดอยู่ในการแข่งขันที่ทำให้ไม่สามารถชะลอได้ ในอดีต เราเคยเลือกที่จะชะลอการพัฒนาด้วยตัวเอง และเราจะทำเช่นนั้นอีกในอนาคต เราไม่ต้องการสร้างระบบที่เราไม่สามารถให้หลักประกันที่จำเป็นได้ในด้านความสอดคล้องกับเจตนาและคุณค่าของมนุษย์ ความสามารถในการติดตามตรวจสอบ และความปลอดภัย และเราเห็นว่าทุกฝ่ายควรหลีกเลี่ยงการสร้างระบบเช่นนั้นด้วย

เราจำเป็นต้องเข้าใจว่าระบบเหล่านี้กำลังทำอะไร และต้องมีหลักฐานที่หนักแน่นว่าระบบจะทำงานตามเจตนาของมนุษย์ แม้ว่าจะมีความสามารถสูงขึ้นอย่างมากก็ตาม ที่จริงแล้ว ยิ่งระบบมีความสามารถสูงขึ้นมากเท่าใด เรื่องนี้ก็ยิ่งสำคัญมากขึ้นเท่านั้น ไม่ว่าผู้คนจะประเมินความเสี่ยงที่จะเกิดหายนะไว้ที่ 10% 1% 12% หรือ 0.1% ตัวเลขเหล่านี้ล้วนสูงเกินกว่าจะยอมรับได้ทั้งสิ้น และเราไม่ควรฝึกโมเดล หากเราไม่มีหลักฐานและเหตุผลที่หนักแน่นอย่างยิ่งว่าจะสามารถทำให้โมเดลเหล่านั้นอยู่ภายใต้การควบคุมของมนุษย์ได้

นี่คือความเสี่ยงรูปแบบหนึ่ง ส่วนอีกแบบคือ ระบบเหล่านี้อาจทำให้อำนาจไปกระจุกอยู่กับคนเพียงไม่กี่กลุ่มมากเกินไป ไม่ควรมีบุคคล บริษัท หรือประเทศใดที่สามารถใช้โมเดล AI ที่ทรงพลังที่สุดเพื่อบังคับให้คนอื่นต้องคิดหรือมองโลกแบบเดียวกับตน เพราะหากบริษัทหรือประเทศหนึ่งคิดว่ามีเพียงตนเท่านั้นที่ควรได้รับความไว้วางใจให้ใช้เทคโนโลยีนี้ ก็อาจนำความเชื่อนั้นมาเป็นข้ออ้างเพื่อทำสิ่งอื่นๆ ได้แทบทุกอย่าง เราต้องไม่ยอมรับวิธีคิดเช่นนี้ แม้ในบางครั้งวิธีคิดนี้จะเอื้อประโยชน์ให้ฝ่ายใดฝ่ายหนึ่งก็ตาม

ผมเชื่อว่าเราสามารถหาแนวทางที่เป็นไปได้จริงสำหรับทั้งสองเรื่องนี้ ที่ OpenAI เราพิจารณาคำถามเหล่านี้โดยมีเป้าหมายที่ชัดเจนว่า AI ควรช่วยให้ผู้คนมีอำนาจกำหนดชีวิตของตนเองมากขึ้น มีอิสระมากขึ้นในการใช้ชีวิตในแบบที่ต้องการ มีความสามารถมากขึ้นในการแก้ปัญหาไม่ว่าจะเล็กหรือใหญ่ และช่วยให้ชุมชนของตนดีขึ้น เราไม่ต้องการตกอยู่ในกับดักของการมองโลกในแง่ดีโดยไม่พิจารณาความเสี่ยง และก็ไม่ต้องการตกอยู่ในกับดักของการมองอนาคตในแง่ร้ายจนเกินไปเช่นกัน การถูกดึงไปสู่สุดขั้วด้านใดด้านหนึ่งไม่ได้ช่วยให้เรารับมือกับความท้าทายที่อยู่ตรงหน้าได้สำเร็จ โดยเฉพาะในช่วงเวลาที่โลกและผู้คนกำลังเผชิญกับปัญหาใหญ่หลวงมากมายซึ่งเทคโนโลยีนี้สามารถช่วยแก้ไขได้ ดังนั้น เราจึงพยายามเลือกแนวทางที่อยู่ตรงกลางระหว่างสองขั้วนี้

สำหรับเรา นั่นหมายถึงหลักการสามประการ

ประการแรก เมื่อ AI มีความสามารถมากขึ้น มนุษย์ต้องยังคงเป็นศูนย์กลางของการตัดสินใจเกี่ยวกับ AI การทำให้ AI สอดคล้องกับเจตนาและคุณค่าของมนุษย์ไม่ใช่เพียงโจทย์วิจัยเชิงนามธรรม แต่เป็นการทำให้มั่นใจว่าระบบเหล่านี้จะยังคงอยู่ภายใต้การควบคุมของมนุษย์อย่างเชื่อถือได้ สะท้อนคุณค่าของมนุษย์ และช่วยให้ผู้คนมีส่วนกำหนดทิศทางการพัฒนาในขั้นต่อไป เราไม่ได้พยายามและต้องไม่พยายามให้ระบบอัตโนมัติเข้ามาตัดสินแทนมนุษย์หรือกำหนดคุณค่าของมนุษย์แทนเรา

ประการที่สอง ประโยชน์จากความก้าวหน้าทางวิทยาศาสตร์และการเติบโตทางเศรษฐกิจต้องเกิดจากผู้คนและเพื่อผู้คน AI ควรช่วยให้นักวิจัยค้นพบสิ่งใหม่ๆ ช่วยแพทย์รักษาผู้ป่วย ช่วยครูสอนนักเรียน ช่วยผู้ประกอบการก่อตั้งบริษัท ช่วยชุมชนแก้ปัญหาที่ครั้งหนึ่งเคยดูเกินกว่าจะรับมือได้ และช่วยในด้านอื่นๆ อีกมากมาย เรื่องราวของความก้าวหน้าของมนุษย์ที่ดำเนินมาอย่างต่อเนื่องไม่ใช่เรื่องของเครื่องมือที่เข้ามาแทนที่ความสามารถของมนุษย์ในการคิด ตัดสินใจ และลงมือทำ แต่เป็นเรื่องของเครื่องมือที่เหมาะสมซึ่งช่วยให้ผู้คนทำสิ่งต่างๆ ได้มากขึ้น และผมเชื่อว่าสิ่งนี้จะก้าวไปได้ไกลกว่าที่เราเคยคิดว่าเป็นไปได้

ประการที่สาม เทคโนโลยีนี้ต้องช่วยให้แต่ละคนมีพลังในการกำหนดชีวิตของตนเอง อนาคตที่ดีจะเกิดขึ้นเมื่อผู้คนสามารถพัฒนาศักยภาพของตนได้อย่างเต็มที่ และสร้างคุณค่าให้แก่ตนเอง ชุมชน ประเทศ และโลกโดยรวม เราอาจเป็นหนึ่งในผู้สร้างเทคโนโลยีนี้ แต่เราไม่ใช่พระเอกของเรื่องนี้ บทบาทของเราคือการเปิดโอกาสให้ผู้คนทั่วโลกนำเทคโนโลยีนี้ไปใช้สร้างสิ่งต่างๆ ด้วยตนเอง และเชื่อมั่นในพลังอันน่าทึ่งของทักษะและความสามารถของมนุษย์

ตอนนี้เรามีโมเดลที่สามารถค้นพบองค์ความรู้ใหม่ที่มนุษย์ไม่เคยมีมาก่อน ลองดูความก้าวหน้าที่เกิดขึ้นในด้านคณิตศาสตร์ เมื่อสามฤดูร้อนที่แล้ว โมเดลของเราทำโจทย์คณิตศาสตร์ระดับประถมศึกษาได้พอใช้ สองฤดูร้อนที่แล้ว โมเดลทำโจทย์แข่งขันคณิตศาสตร์ระดับมัธยมศึกษาได้ค่อนข้างดี ฤดูร้อนที่แล้ว เราก้าวไปถึงระดับเหรียญทองในการแข่งขันคณิตศาสตร์ระดับนานาชาติที่ทรงเกียรติที่สุด และเมื่อไม่กี่สัปดาห์ที่ผ่านมาในฤดูร้อนนี้ โมเดลหนึ่งของเราสามารถแก้หนึ่งใน Millennium Prize Problems ซึ่งก็คือสมการ Navier-Stokes ได้

สมการเหล่านี้นำไปใช้ในการออกแบบอากาศยาน การพยากรณ์อากาศ และการศึกษาการไหลเวียนของเลือด เราไม่ได้แก้โจทย์คณิตศาสตร์เพียงเพื่อหาคำตอบให้กับโจทย์เหล่านั้น แต่เพื่อช่วยให้ผู้คนค้นพบองค์ความรู้ใหม่และนำความรู้นั้นไปพัฒนาการดูแลสุขภาพ ยกระดับคุณภาพชีวิต และเปิดโอกาสให้ผู้คนทั่วโลกได้พัฒนาศักยภาพของตนเองมากยิ่งขึ้น ยังมีอีกมากมายที่รอให้เราค้นพบ

แต่สิ่งสำคัญอย่างยิ่งคือ บริษัทต่างๆ ต้องไม่เข้ามาทำหน้าที่แทนกระบวนการประชาธิปไตย

หากเราต้องการให้การพัฒนา AI เป็นไปตามหลักประชาธิปไตย การตัดสินใจเรื่องสำคัญที่สุดจะปล่อยให้ห้องแล็บในซานฟรานซิสโกเป็นผู้กำหนดเพียงฝ่ายเดียวไม่ได้ แต่ต้องเปิดให้ประชาชนมีส่วนกำหนดผ่านกระบวนการประชาธิปไตย และผ่านรัฐบาลที่ต้องรับผิดชอบต่อประชาชนที่ตนทำหน้าที่รับใช้

ในระดับนานาชาติ สิ่งนี้จะเกิดขึ้นได้ด้วยความร่วมมือ ตลอดประวัติศาสตร์ที่ผ่านมา มีหลายครั้งที่แม้ประเทศต่างๆ จะแข่งขันกันและมีความขัดแย้งกัน แต่เมื่อเผชิญกับเทคโนโลยีใหม่ที่มีอิทธิพลอย่างมาก ก็ยังสามารถหันมาร่วมมือกันเพื่อผลประโยชน์ที่มีร่วมกันและประโยชน์ของส่วนรวม เราเชื่อว่าครั้งนี้ต้องเป็นหนึ่งในช่วงเวลาเหล่านั้น

เราจำเป็นต้องมีกลไกในการกำหนดมาตรฐาน AI แนวหน้าทั้งในระดับประเทศและระดับนานาชาติที่ทำงานเสริมกัน ครอบคลุมตั้งแต่มาตรฐานสำหรับการวัดความสามารถ การประเมินความเสี่ยง การพิจารณาว่ามาตรการป้องกันเพียงพอหรือไม่ ไปจนถึงการรักษาให้มนุษย์ยังคงมีบทบาทกำกับดูแลอย่างแท้จริง ขณะที่ระบบสามารถทำงานได้อย่างอิสระมากขึ้น

เราจำเป็นต้องมีมาตรฐานร่วมกัน เพื่อให้ประเทศต่างๆ สามารถเปรียบเทียบหลักฐาน ตรวจสอบการปฏิบัติตามมาตรฐาน และมีกรอบภาษาและความเข้าใจร่วมกันเกี่ยวกับสิ่งที่กำลังเกิดขึ้น

เราจำเป็นต้องมีระบบรายงานเหตุการณ์ที่ถูกต้องและรวดเร็ว พร้อมแนวทางในการจำแนกและรายงานเหตุการณ์ เพื่อให้ทั่วโลกสามารถเรียนรู้จากความผิดพลาดก่อนที่จะลุกลามกลายเป็นหายนะ

และเราจำเป็นต้องมีช่องทางการสื่อสารที่ปลอดภัยระหว่างรัฐบาล ผู้ดำเนินงานโครงสร้างพื้นฐานที่สำคัญ และผู้เชี่ยวชาญด้านเทคนิค เพื่อแลกเปลี่ยนข้อมูลเกี่ยวกับช่องโหว่ที่เพิ่งเกิดขึ้นและภัยคุกคามรูปแบบใหม่

แน่นอนว่ามาตรฐานเหล่านี้ไม่ควรเอื้อให้ผู้เล่นรายเดิมครองความได้เปรียบ หรือให้ประโยชน์แก่รูปแบบธุรกิจใดรูปแบบหนึ่งมากกว่าอีกแบบ มาตรฐานต้องรองรับทั้งผู้พัฒนาโมเดลแบบเปิดและแบบปิด ทั้งผู้เล่นรายใหม่และห้องแล็บที่ดำเนินงานมาอย่างยาวนาน รวมถึงต้องเคารพอำนาจของแต่ละประเทศควบคู่ไปกับการส่งเสริมความร่วมมือระหว่างประเทศ แต่ละรัฐบาลควรเป็นผู้ตัดสินใจว่าจะนำมาตรฐานเหล่านี้ไปใช้ในระบบกฎหมายของตนอย่างไร อย่างไรก็ตาม เราทุกฝ่ายจะได้รับประโยชน์มากขึ้น หากสามารถสร้างความเข้าใจร่วมกันในระดับโลกได้ว่า หลักฐานที่น่าเชื่อถือ มาตรการป้องกันที่ดี และการกำกับดูแลที่เหมาะสมควรมีลักษณะอย่างไร

เราไม่ได้มีคำตอบสำหรับทุกเรื่อง และเรายินดีอย่างยิ่งที่จะรับฟังแนวคิดที่ดีกว่า เราพร้อมทำงานร่วมกับทุกท่านและทุ่มเทอย่างเต็มที่เพื่อหาแนวทางที่จะก้าวต่อไป

เรากำลังอยู่ ณ จุดหัวเลี้ยวหัวต่อ เส้นทางหนึ่งจะพาเราไปสู่โลกที่อำนาจอยู่ในมือคนเพียงไม่กี่กลุ่ม การตัดสินใจต่างๆ ขาดความโปร่งใส และผู้คนรู้สึกว่าเทคโนโลยีที่สำคัญที่สุดในยุคสมัยของตนกำลังถูกสร้างและกำหนดขึ้นโดยที่พวกเขาไม่มีสิทธิ์มีเสียง อีกทางหนึ่งคือโลกที่ AI ทำงานเพื่อประโยชน์ของผู้คน เพราะผู้คนสามารถมีส่วนร่วมผ่านสถาบันประชาธิปไตยในการตัดสินใจว่า AI ควรพัฒนาไปอย่างไรและควรได้รับการกำกับไปในทิศทางใด เป็นโลกที่ความก้าวหน้าทางวิทยาศาสตร์ช่วยยกระดับชีวิตของผู้คนอย่างแท้จริง ผู้คนจำนวนมากขึ้นมีส่วนร่วมในการกำหนดอนาคต และเทคโนโลยีนี้ยังคงช่วยให้ทั้งบุคคลและชุมชนมีพลังมากขึ้นในการเลือกใช้ชีวิตในแบบที่ตนต้องการ นี่คืออนาคตที่ศักยภาพต่างๆ กลายเป็นจริง และเต็มไปด้วยความตื่นเต้นและความมหัศจรรย์

และเราเชื่อว่านี่คืออนาคตที่ควรค่าแก่การร่วมกันสร้าง ขอบคุณทุกท่านเป็นอย่างยิ่ง