ฉันทามติที่ซ่อนอยู่ในความเงียบ
หมายเหตุจากผู้เขียน: บทความนี้ดัดแปลงจากเนื้อหาการบรรยายที่ผู้เขียนเพิ่งนำเสนอไปในชุดการบรรยาย Vik-Bailey ที่ฮาร์วาร์ด บทความนี้สะท้อนความคิดเห็นส่วนตัวของผู้เขียน ซึ่งไม่จำเป็นต้องตรงกับความคิดเห็นของ OpenAI หรือพนักงานคนอื่นๆ ของบริษัท
ขอบคุณทุกท่านที่มาร่วมงานในวันนี้ ขณะที่เรากำลังพูดคุยกันอยู่นี้ โลกกำลังเผชิญกับเหตุการณ์ด้านความมั่นคงปลอดภัยทางไซเบอร์ครั้งสำคัญที่สุดครั้งหนึ่งในประวัติศาสตร์ นั่นคือการเปิดเผยช่องโหว่ด้านความปลอดภัยร้ายแรงหลายรายการ ซึ่งบางคนเรียกเหตุการณ์นี้ว่า “Black October” ช่องโหว่เหล่านี้พบในระบบโครงสร้างพื้นฐานสำคัญของอินเทอร์เน็ต โดยโมเดล AI ระดับแนวหน้าเป็นผู้ค้นพบ และการเปิดเผยข้อมูลครั้งนี้ก็เป็นส่วนหนึ่งของความพยายามเร่งด่วนที่จะยกระดับความปลอดภัยของซอฟต์แวร์ทั่วโลก เดือนนี้เราต้องเร่งรับมือกับปัญหานี้ แต่เดือนหน้าก็จะมีปัญหาใหม่ตามมา ปัจจุบัน AI สามารถค้นหาช่องโหว่ของซอฟต์แวร์ได้ ซึ่งเป็นความสามารถที่นำไปใช้ได้ทั้งในทางที่ดีและทางที่ผิด อีกไม่นาน AI ก็จะมีความสามารถใหม่ในลักษณะเดียวกัน และเราก็จะต้องเร่งหาทางนำความสามารถนั้นมาใช้ให้เกิดประโยชน์ ก่อนที่ผู้ไม่หวังดีจะนำไปใช้สร้างความเสียหาย ปัญหาเร่งด่วนเหล่านี้จะเกิดขึ้นซ้อนทับกันอย่างหลีกเลี่ยงไม่ได้ และนโยบาย AI ส่วนใหญ่ที่เราพูดถึงกันในปัจจุบันก็น่าจะถูกกำหนดขึ้นท่ามกลางความวุ่นวายจากการรับมือกับปัญหาเหล่านี้
แต่เรื่องเร่งด่วนเหล่านี้ไม่ใช่สิ่งที่ผมอยากพูดถึงในวันนี้ ผมอยากชวนทุกท่านมองภาพใหญ่กว่านั้นว่าเรากำลังมุ่งหน้าไปสู่อนาคตแบบไหน เมื่อปัญหาเฉพาะหน้าถาโถมเข้ามาไม่หยุด การหยุดคิดถึงเรื่องที่ดูไกลตัวและจับต้องได้ยากอาจเป็นสิ่งที่เรามองข้าม แต่เราจำเป็นต้องตั้งคำถามเหล่านี้ เพราะหากเราไม่เคยคิดให้ชัดว่าอยากสร้างอนาคตแบบไหน หรือไม่อยากให้โลกกลายเป็นอย่างไร สุดท้ายเราอาจพบว่าโลกเปลี่ยนไปในทางที่เราไม่ต้องการ ทั้งที่เราตัดสินใจอย่างรอบคอบมาโดยตลอด
หลายคนวิจารณ์ว่าวงการเทคโนโลยีเอาแต่สร้างสิ่งใหม่ๆ โดยไม่มีภาพที่ชัดเจนว่าสิ่งเหล่านั้นจะพาเราไปสู่อนาคตที่ดีอย่างไร แต่ผมกลับมองต่างออกไป เพราะทั้งซานฟรานซิสโกและศูนย์กลางธุรกิจเกิดใหม่แห่งอื่นๆ ล้วนเต็มไปด้วยภาพอนาคตด้านเทคโนโลยีที่เต็มไปด้วยความหวัง เรากำลังเห็นการพัฒนารถยนต์บินได้ ยานยนต์ไร้คนขับ หุ่นยนต์นานาชนิด เทคโนโลยีนิวเคลียร์ฟิวชัน และแน่นอนว่ารวมถึงปัญญาประดิษฐ์ทั่วไปด้วย ทว่าสิ่งที่เรายังขาดคือภาพอนาคตที่ดีของระบบและสถาบันที่ขับเคลื่อนสังคม ว่าเราจะจัดการและดำเนินงานสิ่งต่างๆ อย่างไรเมื่อเทคโนโลยีเหล่านี้เข้ามามีบทบาท
แต่ก็ไม่ได้หมายความว่าเราไม่มีภาพอนาคตขององค์กรและสถาบันต่างๆ ในสังคมเลย เพียงแต่น่าเสียดายที่ภาพอนาคตซึ่งผมพบเห็นบ่อยที่สุดกลับไม่ใช่สิ่งที่ผมมองว่าเป็นเรื่องดี แม้จะมีคนพูดถึงเรื่องนี้อยู่บ้าง แต่ก็มักพูดกันอย่างไม่เปิดเผย และส่วนใหญ่ก็ไม่มีใครพูดออกมาตรงๆ เราทำได้เพียงคาดเดาจากสิ่งที่พวกเขาสื่อเป็นนัยเท่านั้น ผมเรียกสิ่งนี้ว่า “ฉันทามติที่ซ่อนอยู่ในความเงียบ”
ลองนึกถึงบริษัทที่สามารถดำเนินงานแทบทุกอย่างได้โดยไม่ต้องใช้แรงงานมนุษย์ ระบบ AI ของบริษัทนี้สามารถวิจัยและพัฒนา ค้นพบสิ่งใหม่ๆ เจรจาสัญญา จัดสรรเงินทุน และผลิตสินค้าได้ด้วยตัวเอง สมมติว่าบริษัทนี้ทำสิ่งเหล่านี้ได้ดีกว่าคู่แข่งที่ใช้แรงงานมนุษย์ แม้ว่าคู่แข่งเหล่านั้นจะนำ AI มาช่วยทำงานแล้วก็ตาม หากการมีมนุษย์เข้ามาเกี่ยวข้องมีแต่จะทำให้ธุรกิจดำเนินงานช้าลง ผู้บริหารและเจ้าของบริษัทก็ย่อมมีแรงจูงใจอย่างมากที่จะปล่อยให้ AI เข้ามาบริหารจัดการแทน หากสถานการณ์เช่นนี้เกิดขึ้นทั่วทั้งเศรษฐกิจโลก แรงกดดันจากการแข่งขันในตลาดก็จะผลักดันให้มนุษย์ต้องยอมสละบทบาทหลักในการกำหนดทิศทางการค้าโลก เมื่อเวลาผ่านไป ตลาดอาจหันมาตอบสนองความต้องการของเครื่องจักรมากพอๆ กับหรือมากกว่าความต้องการของมนุษย์เสียอีก
หลังจากนั้นจะเกิดอะไรขึ้นก็ไม่มีใครรู้ บางทีมนุษย์อาจได้รับประโยชน์มหาศาล หากเครื่องจักรที่เข้ามามีบทบาทเหนือเราเห็นคุณค่าของมนุษย์อย่างแท้จริง เราก็อาจได้ประโยชน์จากสิ่งที่เครื่องจักรทำและความมั่งคั่งที่มันสร้างขึ้น แต่หากเราสูญเสียทั้งอำนาจทางเศรษฐกิจและอำนาจทางการเมืองมากขึ้นเรื่อยๆ มนุษย์ก็อาจค่อยๆ หมดบทบาท และแทบไม่มีอำนาจกำหนดทิศทางของโลกอีกต่อไป อาจมีคนเพียงไม่กี่คนที่มีอำนาจและความมั่งคั่งมหาศาล ขณะที่คนส่วนใหญ่แทบไม่มีอำนาจตัดสินใจอะไรเลย หรือทุกคนอาจต้องสูญเสียอำนาจไปเหมือนกัน ไม่ว่าอนาคตจะออกมาในรูปแบบใด สิ่งที่ทุกคนต่างยอมรับกันโดยไม่พูดออกมาก็คือ มนุษย์จะไม่ได้เป็นผู้มีบทบาทหลักในการกำหนดทิศทางของโลกอย่างที่เป็นอยู่ทุกวันนี้อีกต่อไป
อนาคตที่กล่าวมาทั้งหมดนี้ไม่จำเป็นต้องเกิดจากการที่ AI ลุกขึ้นต่อต้านผู้สร้าง หรือบรรดาผู้ครอบครอง AI ต้องการให้มนุษย์สูญเสียอำนาจแต่อย่างใด การตัดสินใจมอบหมายงานให้ AI ทำแทนแต่ละครั้งอาจมีเหตุผลที่สมควรในตัวเอง แต่เมื่อเกิดขึ้นซ้ำๆ การตัดสินใจเหล่านั้นอาจทำให้มนุษย์ค่อยๆ สูญเสียอำนาจในการควบคุมอารยธรรมที่เราสร้างขึ้น แม้เราจะประสบความสำเร็จอย่างมากในการแก้ปัญหาด้านความปลอดภัยของ AI และทำให้ AI ทำงานตามเจตนาของมนุษย์ เราก็อาจลงเอยด้วยการยอมอยู่ใต้อำนาจของเครื่องจักรรูปแบบใหม่อยู่ดี ตามมุมมองที่หลายคนเห็นพ้องกันโดยไม่พูดออกมาตรงๆ หากอนาคตเป็นไปในทางที่ดี AI ที่เข้ามามีอำนาจเหนือเราก็จะมีความเมตตาและคำนึงถึงสิ่งที่ดีที่สุดสำหรับมนุษย์ ดังที่บทกวีของ Brautigan กล่าวถึงเครื่องจักรที่เปี่ยมด้วยความรักและความเมตตา
สิ่งที่หลายคนเห็นพ้องกันโดยไม่เอ่ยออกมาตรงๆ คือ เราจะค่อยๆ ยกอำนาจบริหารบริษัทและหน่วยงานต่างๆ ที่ทำหน้าที่ปกครองดูแลสังคมให้ AI เพราะ AI จะสามารถบริหารจัดการได้ดีกว่า มีประสิทธิภาพมากกว่า และตัดสินใจได้รอบคอบกว่าเรา ในที่สุด เราก็จะค่อยๆ ถอนตัวจากการควบคุม และปล่อยให้เครื่องจักรที่หวังดีต่อเราเป็นฝ่ายกำหนดทิศทางแทน มนุษย์จะไม่ต่างจากผู้โดยสารในรถยนต์ที่อาจหรูหราและพรั่งพร้อมด้วยความสะดวกสบายเกินกว่าที่เราจะจินตนาการได้ในวันนี้ แต่ก็ยังเป็นเพียงผู้โดยสารที่ไม่สามารถกำหนดจุดหมายหรือทิศทางของรถได้ หากมนุษย์ยังทำงานอยู่ งานนั้นก็คงเป็นเพียงกิจกรรมเชิงสัญลักษณ์หรือการสวมบทบาท คล้ายเกมที่มีไว้ให้มนุษย์เล่นเพื่อความเพลิดเพลิน
บางคนอาจแย้งว่าฉันทามติที่ซ่อนอยู่ในความเงียบนี้ตั้งอยู่บนสมมติฐานที่ผิด เพราะแท้จริงแล้ว มนุษย์เราไม่ได้เป็นผู้ควบคุมโลกมาตั้งแต่แรก และนี่เป็นข้อท้วงติงที่เราไม่ควรมองข้าม เพราะไม่มี “พวกเรา” กลุ่มใดที่สามารถตัดสินใจแทนมนุษยชาติทั้งหมดได้ โลกของเรามีอำนาจกระจายอยู่ในมือของผู้คนและกลุ่มต่างๆ อย่างกว้างขวาง ไม่ว่าเราจะยอมรับสภาพนี้หรือไม่ก็ตาม เพราะแม้มนุษย์จะไม่ได้ “ควบคุม” โลก แต่เมื่อมองในภาพรวม มนุษยชาติก็ยังคงมีบทบาทสำคัญที่สุดในการกำหนดความเป็นไปของโลก ไม่มีสัตว์สายพันธุ์ใดที่สามารถแข่งขันกับมนุษย์ในการครอบครองและใช้ประโยชน์จากทรัพยากรได้อย่างทัดเทียม เราควรปฏิเสธความคิดที่ขาดความรอบคอบที่ว่ามนุษย์สามารถควบคุมโลกทั้งใบด้วยการสั่งการจากเบื้องบน แต่การปฏิเสธความคิดดังกล่าวไม่ได้หมายความว่าเราต้องปฏิเสธความจริงที่เห็นได้ชัดว่า เมื่อมองในฐานะมนุษยชาติโดยรวม มนุษย์ยังคงเป็นผู้มีบทบาทหลักในการกำหนดความเป็นไปของโลก
บางคนที่กล้าพูดถึงฉันทามติที่ไม่มีใครพูดออกมานี้อย่างเปิดเผยเชื่อว่าอนาคตดังกล่าวเป็นอนาคตที่ดีอย่างแท้จริง ขณะที่บางคนไม่ได้คิดเช่นนั้น แต่ก็จำใจยอมรับว่าคงหลีกเลี่ยงไม่ได้ สิ่งที่ทำให้เกิดฉันทามตินี้ไม่ใช่การที่ทุกคนเห็นตรงกันว่าอนาคตดังกล่าวเป็นเรื่องดี และไม่ใช่เพราะผู้พัฒนา AI แอบวางแผนร่วมกัน แต่เป็นเพราะหลายคนเห็นตรงกันว่า ในที่สุดมนุษย์จะต้องสูญเสียบทบาทหลักในการกำหนดทิศทางของโลก หรืออย่างน้อยก็เป็นเรื่องยากมากที่จะมองเห็นอนาคตอีกแบบหนึ่งที่ยังคงดำเนินต่อไปได้อย่างมั่นคง แม้ต้องเผชิญกับ AI ที่ฉลาดเหนือกว่ามนุษย์อย่างมหาศาล แม้ใครบางคนจะคัดค้านอนาคตเช่นนี้อย่างจริงจัง แต่ก็อาจนึกไม่ออกว่าจะมีทางเลือกอื่นที่เป็นไปได้อย่างไร และการที่ฉันทามตินี้แทบไม่เคยถูกพูดถึงตรงๆ หรืออย่างมากก็เพียงพูดกันด้วยเสียงแผ่วเบา ก็เป็นสิ่งที่บ่งบอกถึงการมีอยู่ของฉันทามตินี้ได้อย่างชัดเจน
ผมไม่อาจยอมรับฉันทามติที่ซ่อนอยู่ในความเงียบนี้ได้ ผมไม่ยอมรับว่าเราต้องสูญเสียบทบาทหลักในการกำหนดทิศทางของโลก และผมเกลียดความคิดที่ว่าเรื่องนี้เป็นสิ่งที่หลีกเลี่ยงไม่ได้ ผมบอกตัวเองอยู่เสมอว่า ถ้าผมยอมรับเรื่องนี้ ผมคงไม่กล้าสบตาคู่สวยของลูกชายตัวน้อย ด้วยเหตุนี้ ผมจึงขอปฏิเสธฉันทามติดังกล่าว และเชื่อว่าถึงเวลาแล้วที่เราต้องพูดถึงเรื่องนี้กันอย่างเปิดเผย เพื่อให้ทุกคนได้ฉุกคิดและตั้งคำถามกับภาพอนาคตที่เราอาจยอมรับกันไปโดยไม่รู้ตัว
แต่ฉันทามติที่ซ่อนอยู่ในความเงียบนี้ไม่ได้เกิดขึ้นโดยบังเอิญ มีเหตุผลที่ทำให้หลายคนคิดเช่นนั้น เพราะเป็นเรื่องยากที่จะอธิบายว่ามนุษย์จะยังเป็นฝ่ายกำหนดทิศทางของโลกได้อย่างไร หากต้องอยู่ร่วมกับ AI ที่ฉลาดกว่ามนุษย์มาก คนส่วนใหญ่ที่พยายามตอบคำถามนี้มักให้เหตุผลว่า AI เป็นเพียงเครื่องมือที่จดจำและวิเคราะห์รูปแบบของข้อมูล ไม่ได้มี “ความเข้าใจอย่างแท้จริง” แต่ผมกังวลว่าเหตุผลเหล่านี้อาจใช้ไม่ได้เมื่อเราต้องเผชิญกับสิ่งที่กำลังจะมาถึง ผมกลัวว่าการคิดเช่นนี้จะทำให้เราชะล่าใจ เพราะเราเลือกที่จะมองข้ามสิ่งที่ AI สามารถทำได้ แทนที่จะคิดอย่างจริงจังว่าเราจะสร้างอนาคตที่มนุษย์ยังเป็นฝ่ายกำหนดทิศทางได้อย่างไร ในเมื่อ AI กำลังเริ่มไขปัญหาที่มนุษย์พยายามหาคำตอบมาหลายสิบหรือหลายร้อยปี เราจะยังยืนยันได้อย่างไรว่า AI ไม่มี “ความเข้าใจอย่างแท้จริง”
เหตุใดผมจึงยังยืนยันว่ามนุษย์ควรมีบทบาทสำคัญที่สุดในการกำหนดความเป็นไปของโลก คำตอบที่ตรงไปตรงมาคือ เพราะผมเป็นมนุษย์ และผมก็ยอมรับอย่างไม่รู้สึกผิดว่าผมลำเอียงเข้าข้างมนุษย์ด้วยกันเอง
แต่เหตุผลไม่ได้มีเพียงเท่านั้น มนุษย์ไม่ได้มีสิทธิ์เป็นผู้กำหนดทิศทางของโลกเพราะเราฉลาดกว่าใคร หรือเพราะเราจะยังเป็นเพียงผู้เดียวที่ “เข้าใจ” สิ่งต่างๆ ได้อย่างแท้จริงในอนาคต หากแต่เป็นเรื่องราวและประวัติศาสตร์ที่มนุษย์ร่วมกันสร้างขึ้นมา
เพราะมนุษย์อย่างเรานี่เองที่ถือกำเนิดขึ้นมาจากผืนดิน เราใช้ดินและหินก่อร่างสร้างสังคมยุคแรก เราแหงนมองดวงดาวและตั้งคำถามถึงสิ่งที่อยู่เหนือความเข้าใจ เราผ่านการต่อสู้ รู้จักความรัก ความอิจฉา และความสุข จนค้นพบศีลธรรม จริยธรรม และกฎหมาย เราร้องรำทำเพลง เขียนเรื่องราว และประพันธ์ดนตรี เราคือผู้สร้างประวัติศาสตร์ และเป็นผู้ถ่ายทอดประวัติศาสตร์นั้นสู่คนรุ่นหลัง มรดกนี้เป็นของเรา อารยธรรมที่เราสร้างขึ้นเปรียบดังเปลวไฟที่มนุษย์คอยเติมเชื้อและดูแลรักษามาตลอด และเปลวไฟนั้นก็เป็นของเรา ประวัติศาสตร์อันรุ่งโรจน์คือมรดกที่ตกทอดมาถึงเราทุกคน และเรามีหน้าที่ดูแลรักษามันไว้ ส่วนหนึ่งของหน้าที่นี้คือการร่วมสานต่อสิ่งที่ Michael Oakeshott เรียกว่า “บทสนทนาของมนุษยชาติ” ซึ่งเป็นการแลกเปลี่ยนความคิดครั้งยิ่งใหญ่ที่ดำเนินมาตั้งแต่ยุคดึกดำบรรพ์
ตลอดประวัติศาสตร์อันยาวนานและเต็มไปด้วยความเปลี่ยนแปลง มนุษย์ได้ร่วมกันสร้างอารยธรรมขึ้นมา โดยเฉพาะในสหรัฐอเมริกา ซึ่งก่อตั้งขึ้นบนหลักการเคารพสิทธิของแต่ละบุคคล และให้ความสำคัญกับการที่ทุกคนมีสิทธิ์เลือกทางเดินชีวิตของตัวเอง ชีวิตคนเรามีทั้งช่วงที่ดีและร้าย เราอาจตัดสินใจถูกบ้าง ผิดบ้าง และต้องรับผลจากการตัดสินใจเหล่านั้นด้วยตัวเอง แต่สิทธิในการกำหนดชีวิตของเราไม่ได้ขึ้นอยู่กับว่าเราฉลาดที่สุดหรือตัดสินใจได้ดีที่สุดหรือไม่ ผมไม่ได้สูญเสียสิทธิและสถานะความเป็นพลเมืองเพียงเพราะเพื่อนบ้านตัดสินใจได้ดีกว่าผม เช่นเดียวกัน ผมไม่เห็นเหตุผลว่าทำไมการเกิดขึ้นของเครื่องจักรที่ฉลาดกว่ามนุษย์จะทำให้เราต้องสูญเสียสิทธิและสถานะดังกล่าว ตรงกันข้าม ผมกลับเห็นเหตุผลมากมายที่เราควรปกป้องสิ่งเหล่านี้ไว้
บางคนอาจแย้งว่า AI ก็มีสิทธิ์ได้รับมรดกทางอารยธรรมนี้เช่นกัน เพราะได้อ่านบันทึกแทบทุกชิ้นที่มนุษย์เขียนไว้ตลอดประวัติศาสตร์ ซึ่งในแง่หนึ่งก็อาจเป็นเช่นนั้น แต่ต่อให้ใครสักคนได้อ่านจดหมายเก่าของครอบครัวคุณทุกฉบับ ก็ไม่ได้ทำให้เขากลายเป็นสมาชิกในครอบครัวของคุณขึ้นมาได้ AI จะเข้ามามีส่วนร่วมใน “บทสนทนาของมนุษยชาติ” อย่างแน่นอน โดยเริ่มจากการเป็นผู้สังเกตการณ์ ก่อนจะค่อยๆ เข้ามามีส่วนร่วมมากขึ้น แต่เราต้องไม่ปล่อยให้ AI เข้ามาครอบงำหรือทำให้บทสนทนานี้หมดความหมาย การยอมสละบทบาทหลักของมนุษย์ในการกำหนดทิศทางของโลกไม่ต่างจากการทรยศต่อทั้งบรรพบุรุษและลูกหลานของเรา หากเรื่องนี้ไม่คุ้มค่าที่จะต่อสู้ ก็ไม่มีเรื่องใดคุ้มค่าที่จะต่อสู้อีกแล้ว
ส่วนตัวผมเชื่อว่าคนที่เห็นด้วยกับฉันทามติที่ไม่มีใครพูดออกมานี้เข้าใจผิดเกี่ยวกับความสามารถของ AI ที่ฉลาดเหนือกว่ามนุษย์อย่างมาก พวกเขาอาจมองข้ามบางสิ่งที่สำคัญเกี่ยวกับการทำงานของโลก และเข้าใจผิดว่าความฉลาดกับอำนาจเป็นสิ่งเดียวกัน หากเราย้อนกลับไปเมื่อ 5 หรือ 10 ปีก่อน แล้วเล่าให้คนกลุ่มนี้ฟังว่า AI ในปัจจุบันทำอะไรได้บ้าง พวกเขาก็คงคาดการณ์ว่าตอนนี้จะมีคนตกงานมากกว่าที่เป็นอยู่จริง และมนุษย์คงสูญเสียอำนาจในการกำหนดสิ่งต่างๆ ไปมากกว่าที่เกิดขึ้นจริงด้วย ผมเชื่อว่าเมื่อมนุษย์ร่วมมือกัน เรามีทั้งสติปัญญาและความสามารถมากกว่าที่คนกลุ่มนี้คิด และสังคมของเราก็จะสามารถรับมือกับการเปลี่ยนแปลงได้ดีกว่าที่พวกเขาคาดการณ์ไว้
แต่ผมก็อาจมองผิดไปก็ได้ เช่น บริษัทที่ดำเนินธุรกิจได้เองทั้งหมดด้วย AI อาจแข่งขันจนเอาชนะบริษัทที่มนุษย์บริหารได้ทั้งหมด หากเป็นเช่นนั้น กลไกทางเศรษฐกิจก็จะผลักดันให้มีการมอบเงินทุนให้ AI จัดการมากขึ้นเรื่อยๆ มนุษย์จึงอาจสูญเสียอำนาจโดยไม่ต้องมี AI ลุกขึ้นมายึดครองอารยธรรมของเราเลย เพียงแค่ระบบธุรกิจแบบทุนนิยมยังคงดำเนินไปตามกลไกของมันก็เพียงพอแล้ว หากเป็นเช่นนั้น การปฏิวัติ AI ก็คงเทียบได้ใกล้เคียงที่สุดกับการปฏิวัติเกษตรกรรม ซึ่งวิธีการผลิตแบบใหม่ได้เปลี่ยนโครงสร้างสังคมมนุษย์ไปอย่างสิ้นเชิง แต่การเปลี่ยนแปลงครั้งนั้นทำให้ชีวิตของผู้คนในยุคนั้นดีขึ้นจริงหรือไม่ก็ยังไม่ชัดเจน ที่จริงแล้ว มีหลักฐานจำนวนมากบ่งชี้ว่าการเปลี่ยนแปลงดังกล่าวกลับทำให้มนุษย์มีคุณภาพชีวิตแย่ลงเป็นเวลาหลายพันปี
ผมไม่รู้ว่าอนาคตจะเป็นเช่นนั้นจริงหรือไม่ และที่ผ่านมาผมก็เคยอธิบายไว้แล้วว่าทำไมผมถึงไม่คิดว่าจะเป็นเช่นนั้น แต่เพื่อนร่วมงานของผมหลายคน ซึ่งล้วนเป็นคนฉลาด มีความห่วงใยผู้อื่น และมีความรับผิดชอบ กลับมองว่าอนาคตแบบนี้มีโอกาสเกิดขึ้นสูง หากพวกเขาคิดถูก การต่อต้านฉันทามติที่ซ่อนอยู่ในความเงียบก็จะยิ่งยากลำบาก เพราะเราต้องฝืนกลไกทางเศรษฐกิจ และยอมละทิ้งหลักการหลายอย่างที่คนอย่างผม ซึ่งยึดมั่นในแนวคิดเสรีนิยมแบบคลาสสิกและให้ความสำคัญกับเสรีภาพของแต่ละบุคคล ถือเป็นหลักสำคัญที่ไม่ควรตั้งคำถาม นี่จะเป็นการต่อสู้ที่เต็มไปด้วยความเสี่ยง และมีโอกาสไม่น้อยที่เราจะล้มเหลว แต่หากการต่อสู้ครั้งนี้ยังไม่คุ้มค่า ก็ไม่มีเรื่องใดคุ้มค่าที่จะต่อสู้อีกแล้ว
การที่มนุษย์ยังเป็นฝ่ายกำหนดทิศทางของโลกได้ ต้องมาพร้อมกับความรับผิดชอบของมนุษย์เองด้วย ไม่ว่าจะเป็นบุคคลหรือองค์กร ผู้พัฒนา AI ต้องรับผิดชอบหากพัฒนาเทคโนโลยีโดยใช้วิธีการที่ไม่ปลอดภัย ส่วนผู้ใช้และบริษัทที่นำ AI ไปใช้ก็ต้องรับผิดชอบเช่นกัน หากความเสียหายเกิดจากการใช้งานที่ไม่เหมาะสมหรือการปล่อยปละละเลยในการกำกับดูแล แต่กฎหมายเพียงอย่างเดียวไม่เพียงพอ เราต้องมีระบบทางเทคนิคที่ทำให้ตรวจสอบได้ว่าใครต้องรับผิดชอบต่อสิ่งที่เอเจนต์ทำ ทุกการกระทำของเอเจนต์ต้องเชื่อมโยงถึงมนุษย์ที่รับผิดชอบได้ ส่วนเอเจนต์ที่ไม่ได้อยู่ภายใต้ความรับผิดชอบของมนุษย์คนใด หากจะได้รับอนุญาตให้ดำเนินกิจกรรมในระบบเศรษฐกิจที่ถูกกฎหมาย ก็ต้องอยู่ภายใต้มาตรการควบคุมที่รัดกุม และหากจะให้เอเจนต์สามารถจัดตั้งบริษัท ถือครองทรัพย์สิน หรือดำเนินคดีได้โดยอิสระ ก็ต้องพิจารณาอย่างรอบคอบเป็นพิเศษว่าเหมาะสมที่จะอนุญาตหรือไม่
ส่วนในแวดวงที่ผมทำงานอยู่ เราก็ควรเริ่มคิดอย่างจริงจังว่าจะพัฒนา AI อย่างไรให้มนุษย์ยังคงเป็นฝ่ายควบคุมและตัดสินใจ เราสามารถสร้างเอเจนต์ที่กำหนดสิทธิ์การทำงานไว้อย่างชัดเจนและจำกัดขอบเขต ตรวจสอบการทำงานย้อนหลังได้ และผู้ใช้สามารถเพิกถอนสิทธิ์เหล่านั้นได้ การกำหนดให้มีผู้รับผิดชอบต่อการกระทำที่ส่งผลกระทบอย่างมากต่อผู้อื่น ไม่ได้หมายความว่าเราต้องสอดส่องชีวิตส่วนตัวของผู้คน หรือยกเลิกสิทธิในการแสดงความคิดเห็นโดยไม่เปิดเผยตัวตน เราสามารถให้คำมั่นว่าจะปกป้องความเป็นส่วนตัวของผู้ใช้ และเคารพสิทธิของแต่ละคนในการควบคุมทรัพย์สินดิจิทัลและข้อมูลของตนเอง รวมถึงต้องสามารถย้ายข้อมูลเหล่านั้นไปใช้ที่อื่นได้จริง เราสามารถออกแบบระบบที่ช่วยให้ผู้คนเข้าใจเรื่องต่างๆ และตัดสินใจได้ดีขึ้น ควบคู่ไปกับระบบที่ช่วยทำงานให้สำเร็จ และเรายังสามารถทดสอบได้ด้วยว่าผลิตภัณฑ์ที่เราสร้างขึ้นช่วยให้ผู้ใช้มีความสามารถในการลงมือทำสิ่งต่างๆ ได้มากขึ้นจริงหรือไม่
แนวทางทั้งหมดนี้ยังไม่ใช่แผนการที่สมบูรณ์สำหรับสังคมในยุคที่ AI มีความฉลาดเหนือกว่ามนุษย์ และผมก็คงยากจะเชื่อใจใครก็ตามที่อ้างว่าตนมีแผนดังกล่าวพร้อมแล้ว แต่สิ่งเหล่านี้ก็เป็นจุดเริ่มต้นที่เราสามารถนำไปต่อยอดได้
แม้อนาคตจะยังเลือนรางอยู่ท่ามกลางหมอกหนา แต่เราไม่จำเป็นต้องรอให้ทุกอย่างชัดเจนก่อนลงมือทำ เราสามารถร่วมกันหยิบยกฉันทามติที่ซ่อนอยู่ในความเงียบนี้ขึ้นมาถกเถียงอย่างเปิดเผย เราทุกคนสามารถกล้าคิดและใฝ่ฝันให้ไกลกว่าที่เคย เราเลือกได้ว่าจะยอมให้ AI ทำให้ศักยภาพของเราลดน้อยลง หรือจะทุ่มเทแรงกายแรงใจเพื่อใช้ AI ยกระดับความสามารถของตัวเอง เราสามารถฝึกตั้งคำถามที่ท้าทายยิ่งขึ้น กล้าสำรวจและตั้งข้อสงสัยต่อโลกด้วยความมุ่งมั่นและพลังใหม่ๆ พร้อมใช้ประโยชน์จากเครื่องมืออันทรงพลังที่เรามี เราสามารถพัฒนาตัวเองให้ก้าวไปได้ไกลกว่าเดิม ไม่ใช่ด้วยการก้าวข้ามความเป็นมนุษย์ แต่ด้วยการเพิ่มพูนศักยภาพที่เรามีอยู่
ผมนึกถึงเรื่องนี้ทุกครั้งที่มองดูลูกชายตัวน้อย ผมไม่ได้ต้องการให้ลูกมีชีวิตที่สุขสบายเพียงเพราะมี AI ที่หวังดีคอยดูแล ไม่ว่ามันจะทำให้ชีวิตสะดวกสบายแค่ไหนก็ตาม ผมอยากให้ลูกเติบโตขึ้นในโลกที่เขาสามารถตั้งคำถามที่ไม่เคยมีใครคิดจะถาม และสร้างสรรค์สิ่งที่ไม่เคยมีใครคิดจะสร้าง ผมไม่ได้อยากให้ลูกมีรถที่หรูหราขึ้นพร้อมเบาะผู้โดยสารที่นุ่มสบายกว่าเดิม แต่ผมอยากให้ลูกเป็นคนจับพวงมาลัยด้วยตัวเอง
- 2569


