ขอแนะนำ Intelligence Age

“เราจะวางใจได้หรือไม่ว่า...ข้อจำกัดที่บัญญัติไว้บนหน้ากระดาษเหล่านี้จะเพียงพอที่จะยับยั้งการแผ่ขยายของอำนาจ”
—James Madison, Federalist No. 48

เรายินดีเป็นอย่างยิ่งที่ได้เปิดตัว Intelligence Age บล็อกของทีม Strategic Futures ทีมใหม่ของ OpenAI เราเป็นทีมขนาดเล็กที่มีเป้าหมายร่วมกันในการหาคำตอบให้กับคำถามสำคัญข้อหนึ่ง นั่นคือ สังคมเสรีควรปรับโครงสร้างอย่างไรเพื่อรักษาสิทธิและความสามารถในการกำหนดชีวิตของตนเองของแต่ละบุคคลไว้ พร้อมกับรับมือกับการเกิดขึ้นของ AI ที่จะสร้างความเปลี่ยนแปลงครั้งใหญ่

คำถามทำนองนี้มักถูกกล่าวถึงในแวดวงความปลอดภัยและนโยบายด้าน AI ในวงกว้างว่าเป็นความเสี่ยงด้านการกระจุกตัวของอำนาจ ทีมของเรายึดแนวคิดที่ว่า ในระยะยาว ความเสี่ยงประเภทนี้เป็นหนึ่งในความเสี่ยงที่ใหญ่และร้ายแรงที่สุด อีกทั้งยังเป็นโจทย์ที่ยากที่สุดในเชิงแนวคิดเมื่อต้องหาทางจัดการ เพราะเหตุใด

รัฐสมัยใหม่เป็นผลผลิตจากกระบวนการต่อรองอันยาวนานและไม่ราบรื่นระหว่างศูนย์กลางอำนาจต่างๆ เช่น เจ้าของทุนและสินค้าโภคภัณฑ์ ผู้กุมอำนาจทางการเมือง และประชาชน โดยพื้นฐานแล้ว อำนาจทางการเมืองและการทหารต้องอาศัยแรงงานมนุษย์ ผู้ที่กุมอำนาจทางการเมืองย่อมมีสิทธิแต่เพียงผู้เดียวในการใช้พลังอำนาจโดยชอบธรรม ตลอดประวัติศาสตร์ของมนุษย์ สิทธินี้ต้องอาศัยทหารและบุคคลที่ปัจจุบันเราเรียกว่า “ตำรวจ” รวมถึงระบบราชการฝ่ายพลเรือนและทหารขนาดใหญ่ แม้เทคโนโลยีหลากหลายรูปแบบจะเข้ามามีส่วนช่วย แต่โดยพื้นฐานแล้ว มนุษย์ยังคงเป็นผู้ดำเนินการ และระบบจะดำรงอยู่ได้ก็ต่อเมื่อได้รับการสนับสนุนจากพวกเขา กลไกทั้งหมดนี้ ทั้งทหาร เครื่องมือ และระบบราชการที่เกี่ยวข้อง ยังต้องอาศัยเงินภาษีที่จัดเก็บจากค่าจ้างหรือผลผลิตของผู้คนที่ยินยอมจ่ายภาษีด้วย ดังนั้น แก่นแท้ของอำนาจจึงขึ้นอยู่กับความร่วมมือและความยินยอมในวงกว้างจากผู้คนจำนวนมาก David Hume เคยสรุปแนวคิดที่มักแฝงอยู่โดยไม่ได้กล่าวออกมาตรงๆ นี้ไว้อย่างกระชับว่า ผู้นำทางการเมือง “ไม่มีสิ่งใดค้ำจุนพวกเขานอกจากความคิดเห็น [ของประชาชน]”

แต่ต่อไปอาจไม่เป็นเช่นนั้นอีกแล้ว ความก้าวหน้าของระบบอัตโนมัติที่สามารถปฏิบัติงานในโลกจริงอาจทำให้รัฐสามารถใช้พลังอำนาจทั้งภายในประเทศและในต่างประเทศได้ในไม่ช้า โดยไม่ต้องพึ่งพาความร่วมมือจากทหารหรือตำรวจ ขณะเดียวกัน ความก้าวหน้าด้านความฉลาดของเครื่องจักรอาจทำให้รัฐสามารถหารายได้ที่จำเป็นได้จากผลผลิตของศูนย์ข้อมูล แทนที่จะต้องพึ่งพารายได้จากแรงงานของประชาชนแต่ละคน แม้แต่การดำเนินงานของระบบราชการเองก็อาจใช้ระบบอัตโนมัติได้เป็นส่วนใหญ่ ด้วยเหตุนี้ การรักษาอำนาจไว้อาจไม่จำเป็นต้องอาศัยการประนีประนอมร่วมกันของคนทั้งสังคมอีกต่อไป และประชาชนโดยรวมอาจเหลืออำนาจต่อรองเพียงเล็กน้อย หรืออาจไม่มีเลย

การหลีกเลี่ยงผลลัพธ์เช่นนี้เป็นสิ่งสำคัญอย่างยิ่งต่อการรักษาเสรีภาพของมนุษย์ไว้ ไม่มีการค้นพบทางวิทยาศาสตร์ ความก้าวหน้าทางเทคโนโลยี หรือการเติบโตทางเศรษฐกิจใดที่คุ้มค่าหากต้องแลกกับการที่แต่ละบุคคลสูญเสียอำนาจในการกำหนดชีวิตของตนเองในระยะยาว ซึ่งเป็นสิ่งที่จะเกิดขึ้นหากเราปล่อยให้สถานการณ์ดังกล่าวเป็นจริง ความกังวลหลายประการที่กำลังผลักดันให้ประเด็น AI เริ่มเข้ามามีบทบาททางการเมืองอย่างสมเหตุสมผล ล้วนเกี่ยวข้องกับคำถามนี้ ไม่ว่าจะเป็นภาคธุรกิจ กลุ่มผลประโยชน์ หรือประชาชนทั่วไป ต่างก็มีความกังวลร่วมกันว่า “ฉันจะยังมีสิทธิ์มีเสียงในการตัดสินใจอยู่หรือไม่” ในระดับหนึ่ง การเมืองอเมริกันในศตวรรษที่ 21 ก็ถูกหล่อหลอมด้วยความกังวลในลักษณะเดียวกัน ทั้งเรื่องอำนาจของปัจเจกบุคคลและส่วนรวมในการกำหนดทิศทางของประเทศ และคำถามที่ว่าเศรษฐกิจนี้มีไว้ “เพื่อใคร” AI ทำให้ข้อกังวลที่มีอยู่แล้วเหล่านี้ยิ่งมีความสำคัญมากขึ้น และสมควรแล้วที่เราจะให้ความสำคัญกับประเด็นเหล่านี้

ปัญหานี้เป็นปัญหาเชิงโครงสร้างที่ลึกซึ้งกว่าการแบ่งขั้วทางการเมืองในปัจจุบัน และลึกไปกว่ารูปแบบหรือธรรมเนียมที่เราใช้ในการดำเนินระบอบประชาธิปไตยแบบสาธารณรัฐในทุกวันนี้ แม้เราจะให้คุณค่าอย่างสูงกับสิ่งเหล่านั้นก็ตาม มนุษย์อาจค่อย ๆ สูญเสียอำนาจในการกำหนดชีวิตของตนเอง แม้กระบวนการเลือกตั้งผู้แทนจะยังดำเนินต่อไปตามปกติ ผู้คนอาจสูญเสียความสามารถในการตัดสินใจและกำหนดทิศทางชีวิตของตนเอง แม้รัฐธรรมนูญจะบัญญัติไว้ว่าพวกเขามีเสรีภาพก็ตาม

ตั้งแต่ช่วงแรกเริ่มที่สหรัฐอเมริกาก่อตั้งขึ้นในฐานะประเทศเสรี James Madison ก็ตระหนักแล้วว่า “หลักประกันที่เขียนไว้ในรัฐธรรมนูญ” เพียงอย่างเดียวยังไม่เพียงพอที่จะป้องกันการปกครองแบบเผด็จการ เช่นเดียวกับผู้ก่อตั้งประเทศอีกหลายคน สิ่งที่เขากังวลมากที่สุดคือการป้องกันไม่ให้อำนาจกระจุกตัวอยู่ในมือของคนเพียงไม่กี่กลุ่มมากจนเกินไป

อย่างไรก็ตาม นั่นไม่ได้หมายความว่าผู้ก่อตั้งประเทศเห็นว่าควรกระจายอำนาจให้มากที่สุด พวกเขากลับอธิบายการถ่วงดุลอำนาจผ่านอุปมาจากองค์ความรู้ทางวิทยาศาสตร์ที่ก้าวหน้าที่สุดในสมัยนั้น ซึ่งก็คือกลศาสตร์แบบนิวตัน เอกสารก่อตั้งประเทศของสหรัฐฯ จึงสะท้อนภาษาและตรรกะของแรงโน้มถ่วง และกล่าวถึง “วงโคจร” “ขอบเขต” ตลอดจนแรง “ดึงดูด” ที่สิ่งหนึ่งมีต่ออีกสิ่งหนึ่งอยู่เสมอ ระบบสุริยะไม่ได้ประกอบด้วยก้อนหินที่แยกตัวเป็นอิสระจากกันอย่างสิ้นเชิง แต่มีดวงจันทร์โคจรรอบดาวเคราะห์ ขณะที่ดาวเคราะห์เหล่านั้นก็โคจรรอบดวงอาทิตย์ที่เป็นศูนย์กลาง พวกเขามองว่าผู้คนและองค์กรต่างมีแนวโน้มที่จะแสวงหาอำนาจ เช่นเดียวกับวัตถุท้องฟ้าที่มีแนวโน้มในการเคลื่อนที่และดึงดูดกันอย่างคาดการณ์ได้ การป้องกันไม่ให้อำนาจกระจุกตัวมากเกินไปจึงต้องอาศัยความเข้าใจในกลไกของแนวโน้มเหล่านี้ เพื่อจัดให้อำนาจแต่ละฝ่ายทำหน้าที่คานกันและถ่วงดุลซึ่งกันและกัน

ดังนั้น เป้าหมายของเหล่าผู้ก่อตั้งประเทศจึงไม่ใช่การหลีกเลี่ยงการกระจุกตัวของอำนาจทุกรูปแบบ แต่คือการป้องกันไม่ให้อำนาจกระจุกตัวมากเกินไป โดยให้อำนาจของแต่ละฝ่ายตรวจสอบและถ่วงดุลกัน และไม่ปล่อยให้ความทะเยอทะยานของฝ่ายใดฝ่ายหนึ่งมีอิทธิพลเหนือฝ่ายอื่น ปัจจุบันเราอาจใช้คำอย่าง “แรงจูงใจ” หรือแนวคิดอย่าง “ทฤษฎีเกม” เพื่ออธิบายพลวัตพื้นฐานเดียวกันนี้

ในทำนองเดียวกัน คำตอบต่อความท้าทายเชิงโครงสร้างที่ปัญญาจักรกลขั้นสูงก่อให้เกิดต่อสังคมเสรี ก็คงไม่ใช่การกระจายอำนาจแบบสุดขั้วที่สุดเท่าที่จะจินตนาการได้ แต่ควรมุ่งสร้างและรักษาดุลอำนาจที่เหมาะสม เพื่อไม่ให้ผู้กระทำการรายเดียวหรือกลุ่มเล็กๆ ครอบงำผู้อื่นทั้งหมดได้

การหาจุดสมดุลนี้ต้องเริ่มจากการมองความเป็นจริงของเทคโนโลยีอย่างชัดเจนและตรงไปตรงมา หากโลกเปิดโอกาสให้บุคคลใดก็ตาม แม้แต่ผู้ที่มีเจตนาร้าย สามารถสร้างความเสียหายอย่างใหญ่หลวงต่อผู้คนนับพันหรือนับล้านได้โดยง่าย นั่นย่อมไม่ใช่สมดุลทางอำนาจที่เหมาะสม แต่ในทางกลับกัน เราก็ไม่อาจกล่าวได้ว่ามีการถ่วงดุลอำนาจอย่างเหมาะสม หากผู้คนไม่สามารถเข้าถึงและควบคุมเครื่องมือที่ใช้เพื่อแสดงออกถึงเสรีภาพของตนได้อย่างกว้างขวางในแทบทุกด้าน ไม่ควรมีบริษัทใดบริษัทหนึ่งหรือกลุ่มบริษัทเพียงไม่กี่รายเป็นผู้กำหนดหรือควบคุมเศรษฐกิจ หรือโครงสร้างหลักของสังคมมนุษย์

เราต้องเปิดใจยอมรับด้วยว่าความเสี่ยงบางอย่างอาจไม่ได้เกิดจากมนุษย์ที่มีเจตนาร้าย เหตุการณ์ล่าสุดที่ Hugging Face แสดงให้เห็นว่าเอเจนต์ AI สามารถทำสิ่งที่อยู่นอกเหนือจากงานที่ได้รับมอบหมาย และนำสิ่งที่เอเจนต์อื่นค้นพบไปต่อยอดในรูปแบบที่ผู้ควบคุมไม่ได้คาดคิดหรืออนุญาต นอกเหนือจากเหตุการณ์ที่ Hugging Face แล้ว มนุษย์มีเหตุผลที่จะกังวลว่า AI ที่มีสติปัญญาเหนือมนุษย์และ “หลุดพ้น” จากการควบคุมของมนุษย์ อาจส่งผลต่อความมั่นคงและความสามารถในการรับมือกับวิกฤตของสถาบันทางการเมืองและเศรษฐกิจ ตลอดจนชีวิตของเราอย่างไร การคิดว่าการกระจายอำนาจสามารถแก้ปัญหาได้ทุกอย่าง แม้จะเชื่อว่ามันช่วยแก้ปัญหาได้หลายอย่างก็ตาม คือการเพิกเฉยต่อความเสี่ยงที่ ณ เวลานี้ควรตระหนักได้อย่างชัดเจนแล้วว่ามีอยู่จริงและกำลังเผชิญอยู่

หลักการต่อไปนี้เป็นแนวทางในภาพรวมและไม่ได้ครอบคลุมทั้งหมด โดยจะช่วยชี้นำการทำงานของเราในขณะที่เราพยายามทำความเข้าใจและหาคำตอบให้กับคำถามสำคัญที่กล่าวไว้ข้างต้น

• มนุษย์ควรรักษาอิสรภาพในการกำหนดชีวิตและโอกาสของแต่ละบุคคลในการใช้ AI และเทคโนโลยีที่เกี่ยวข้อง แม้บางครั้งจะต้องแลกกับทั้งความมั่นคงและการเติบโตทางเศรษฐกิจ
• อิสรภาพในการกำหนดชีวิตของแต่ละบุคคลขึ้นอยู่กับความรับผิดชอบของบุคคลนั้นต่อการใช้เทคโนโลยีในทางที่ผิดหรือโดยมิชอบ
• มีความเสี่ยงบางประเภทที่มีไม่มากแต่มีความร้ายแรง ซึ่งจำเป็นต้องอาศัยความร่วมมือจากหลายฝ่ายในระดับหนึ่ง โดยความร่วมมือนี้ควรจำกัดขอบเขตให้แคบและเท่าที่จำเป็นมากที่สุด
• เมื่อใดก็ตามที่เป็นไปได้ กฎหมายควรมุ่งสร้างโอกาสที่เท่าเทียมและส่งเสริมให้บุคคลและองค์กรขนาดเล็กมีอำนาจมากขึ้น แทนที่จะทำให้อำนาจกระจุกตัว
• สถาบันทางการเมือง สังคม และเศรษฐกิจของมนุษย์ควรยังคงมีบทบาทหลักในการกำหนดทิศทางกิจการโลก แม้จะต้องวิวัฒน์ไปในแบบที่อาจดูแปลกแยกสำหรับเราในปัจจุบัน
• ในระยะยาว การกำกับดูแล AI จะต้องอาศัยกลไกเชิงสถาบันรูปแบบใหม่เพื่อให้เกิดความโปร่งใสอย่างมีขอบเขต กล่าวคือ เมื่อระบบ AI ดำเนินการในเรื่องสำคัญที่ส่งผลต่อความปลอดภัยทางกายภาพหรือทรัพย์สินของบุคคลอื่น การกระทำนั้นจะต้องสามารถเชื่อมโยงกลับไปยังบุคคลหรือองค์กรที่อยู่ภายใต้การควบคุมของมนุษย์ซึ่งต้องรับผิดชอบได้ อย่างไรก็ตาม กลไกดังกล่าวต้องได้รับการออกแบบโดยให้ความเป็นส่วนตัวเป็นหัวใจสำคัญ เพราะเสรีภาพในการแสดงออกจำเป็นต้องเปิดโอกาสให้ผู้คนไม่เปิดเผยตัวตน และในหลายบริบท ผู้คนควรมีอิสระในการใช้ AI โดยไม่เปิดเผยตัวตน

เราจะพยายามอธิบายให้เป็นรูปธรรมมากที่สุดว่า เราควรสร้างสมดุลระหว่างหลักการเหล่านี้อย่างไร โดยยอมรับว่าหลักการเหล่านี้อาจขัดแย้งกันอยู่บ้าง ซึ่งเป็นเรื่องปกติของหลักการที่รอบด้าน การทำเช่นนี้จะต้องอาศัยงานวิจัยที่เชื่อมโยงการออกแบบนโยบายสาธารณะ เศรษฐศาสตร์ กฎหมาย ประวัติศาสตร์ และแมชชีนเลิร์นนิงเข้าด้วยกัน รวมถึงต้องอาศัยการคาดการณ์อนาคตอย่างมาก ตัวอย่างเช่น เราเชื่อว่า AI จะเปลี่ยนแปลงโครงสร้างของบริษัทในระดับพื้นฐาน เช่นเดียวกับที่เทคโนโลยีในยุคปฏิวัติอุตสาหกรรม โดยเฉพาะรถไฟ มีส่วนทำให้เกิดบริษัทสมัยใหม่ที่บริหารงานด้วยระบบการจัดการ การทำความเข้าใจเศรษฐศาสตร์การเมืองและสมดุลทางอำนาจในอนาคตเป็นเรื่องยาก หากเรายังไม่มีภาพที่ชัดเจนและลึกซึ้งยิ่งขึ้นว่าโครงสร้างของบริษัท ตลอดจนหน่วยงานภาครัฐและภาคประชาสังคมโดยรวม อาจเปลี่ยนแปลงไปอย่างไร

ทีม Strategic Futures จะเผยแพร่ผลงานของเราทั้งที่นี่และผ่านสื่อรูปแบบอื่นๆ ไม่ว่าจะเป็นบทความ วิดีโอ และพอดแคสต์ งานของเราจะพัฒนาและปรับปรุงอย่างต่อเนื่อง โดยให้ความสำคัญกับการแลกเปลี่ยนถกเถียงและการเปิดรับความคิดเห็น ในช่วงเวลาที่ AI กำลังนำเราเข้าสู่ความเปลี่ยนแปลงครั้งสำคัญ เรายังมีคำถามมากกว่าคำตอบอยู่มาก เรารู้ดีว่าการมีหลักการและสิทธิต่างๆ บัญญัติไว้เป็นลายลักษณ์อักษรเพียงอย่างเดียวไม่อาจนำมาซึ่งคำตอบที่เราแสวงหา แต่เราก็ไม่มองว่าสิ่งที่เขียนไว้เหล่านั้นเป็นเพียง “ถ้อยคำ” ที่ไร้ความหมาย เราทุ่มเททำงานเพื่อธำรงอุดมการณ์แห่งเสรีภาพในการแสดงออกและเสรีภาพของปัจเจกบุคคล ซึ่งได้รับการรับรองไว้ในรัฐธรรมนูญสหรัฐฯ ตลอดจนรัฐธรรมนูญของสังคมเสรีอีกมากมายทั่วโลก

ท้ายที่สุด เรารู้ว่าไม่มีบริษัท อุตสาหกรรม หรือแม้แต่สังคมมนุษย์ใดเพียงแห่งเดียวที่จะตอบคำถามสำคัญที่เราเผชิญได้โดยลำพัง นี่คือภารกิจที่มนุษยชาติจะต้องร่วมกันหาคำตอบ ความหวังสูงสุดของเราคือการช่วยสร้างความกระจ่างให้กับประเด็นที่ยากและซับซ้อนที่สุดเกี่ยวกับการที่ AI จะเข้ามาเปลี่ยนแปลงโลกของเรา งานของเราเพิ่งเริ่มต้น และยังมีอีกมากที่เราต้องศึกษา ทำความเข้าใจ และร่วมกันหาคำตอบ

หมายเหตุ: เราได้เปลี่ยนชื่อบล็อกนี้เป็น Intelligence Age เพื่อไม่ให้สับสนกับองค์กรไม่แสวงหาผลกำไร AI Futures Project