สิ่งที่ยังต้องมีควบคู่กันเสมอ

หมายเหตุจากผู้เขียน: บทความนี้เป็นบทความชิ้นแรกในชุดเรื่องเศรษฐกิจยุคถัดไป ซึ่งเป็นส่วนหนึ่งของแพลตฟอร์มใหม่ที่เปิดรับมุมมองอิสระเพื่อสำรวจว่าโลกในยุค AGI อาจเป็นอย่างไร เนื้อหาเป็นความคิดเห็นของผู้เขียนเอง ไม่ได้เป็นตัวแทนความคิดเห็นของ OpenAI หรือเพื่อนร่วมงานของเรา

มนุษย์มองย้อนผ่านอดีตไปได้ไกลจนเกือบถึงจุดกำเนิดของกาลเวลา

สมการของเราช่วยต่อภาพประวัติศาสตร์ของจักรวาลตั้งแต่ช่วงเริ่มต้นได้อย่างค่อนข้างชัดเจน ส่วนกล้องโทรทรรศน์ก็เปิดโอกาสให้เรามองลึกเข้าไปในอวกาศและเห็นร่องรอยของจักรวาลยุคแรก เราจึงเข้าใจมากขึ้นทั้งเรื่องการกำเนิดดาวฤกษ์และการก่อตัวของกาแล็กซี

แต่ยังไม่เคยมีมนุษย์คนใดเดินทางไปไกลกว่าดวงจันทร์

เราพยายามทำความเข้าใจสิ่งที่อยู่ไกลออกไปทั่วจักรวาล แม้ร่างกายของเรายังแทบไม่ได้ออกจากบ้านเกิดอย่างโลก ความคิดของเรากลับเดินทางไปไกลเกินกว่าที่เราจะไปถึงได้ด้วยตัวเอง

ความแตกต่างนี้อาจนำไปสู่ความเป็นไปได้ที่ต่างกันอย่างสิ้นเชิงสองแบบ

ความเป็นไปได้อย่างหนึ่งคือ เราอาจไม่จำเป็นต้องเดินทางไปไกลเลย เพราะความจริงที่ลึกซึ้งที่สุดของจักรวาลอาจค้นพบได้จากดาวเคราะห์เพียงดวงเดียว หากเรามีวิธีคิดที่ก้าวหน้าและเครื่องมือที่มีประสิทธิภาพ เราก็อาจทำความเข้าใจจักรวาลได้โดยไม่ต้องเดินทางไปทั่วจักรวาล ในภาพอนาคตแบบนี้ อารยธรรมของเราจะก้าวหน้าด้วยการขุดลึกลงไปในความรู้ มากกว่าการขยายตัวออกไปในอวกาศ และแนวคิดนี้อาจช่วยอธิบายได้ว่าทำไมเรายังไม่พบสิ่งมีชีวิตทรงปัญญาอื่นๆ เพราะกาแล็กซีของเราอาจเต็มไปด้วยอารยธรรมที่ฉลาดล้ำ แต่ไม่เคยมีความจำเป็นต้องแผ่ขยายออกไปจนเราสังเกตเห็น

ความเป็นไปได้ที่สองน่ากังวลกว่ามาก นั่นคือ ความคิดของเราอาจก้าวไปไกลเกินกว่าความสามารถในการลงมือทำ ทุกก้าวต่อไปต้องใช้ทั้งเวลาและทรัพยากรมากขึ้นเรื่อยๆ เราไม่ได้ขาดความฝันหรือไอเดีย แต่ขาดคนและกำลังที่จะทำให้สิ่งเหล่านั้นเกิดขึ้นจริง

กาลิเลโอช่วยให้มนุษย์มองเห็นได้ไกลขึ้นด้วยเลนส์สองชิ้นกับท่อหนึ่งอัน แต่ถ้าจะมองให้ไกลกว่าเดิมในวันนี้ มนุษยชาติต้องสร้างกล้องโทรทรรศน์อวกาศเจมส์ เวบบ์ หอดูดาวมูลค่า 10,000 ล้านดอลลาร์ที่พับเก็บอยู่ในจรวด ก่อนถูกส่งออกไปไกลจากโลกกว่าหนึ่งล้านไมล์ กระจกขนาดใหญ่ทั้ง 18 ชิ้นต้องผลิตด้วยความละเอียดแม่นยำระดับ 50 นาโนเมตร โครงการนี้อาศัยความร่วมมือจาก 300 องค์กรใน 14 ประเทศ หากงานของกาลิเลโอต้องใช้เพียงคนไม่กี่สิบคน เว็บบ์ก็ต้องใช้คนจำนวนมากมหาศาลและทรัพยากรจากเศรษฐกิจทั่วโลก

การจะมองให้ไกลขึ้นไม่ได้ต้องอาศัยแค่คนที่ฉลาดขึ้นเท่านั้น แต่ยังต้องมีระบบและคนจำนวนมากขึ้นมาช่วยประสานงานอยู่เบื้องหลัง

เรามีคำถามมากกว่าที่จะลงมือค้นหาคำตอบได้ เราออกแบบการทดลองได้มากกว่าที่จะทำจริง และคิดความเป็นไปได้ใหม่ๆ ได้เร็วกว่าที่จะทำให้เกิดขึ้นจริง และในหลายสาขา ยิ่งเราก้าวหน้าไปไกลเท่าไร การสร้างสิ่งที่เราจินตนาการไว้ก็ยิ่งซับซ้อนขึ้นเท่านั้น

Nick Bloom และผู้ร่วมวิจัย⁠(เปิดในหน้าต่างใหม่)ศึกษาว่าการทำวิจัยในสหรัฐฯ ให้ผลคุ้มค่ามากน้อยแค่ไหน พวกเขาพบว่า ทุกวันนี้การรักษาความก้าวหน้าตามกฎของ Moore ต้องใช้นักวิจัยมากกว่าช่วงต้นทศวรรษ 1970 ถึงกว่า 18 เท่า ขณะเดียวกัน แม้จำนวนแรงและทรัพยากรที่ทุ่มให้กับงานวิจัยทั่วทั้งเศรษฐกิจจะเพิ่มขึ้น 23 เท่านับจากทศวรรษ 1930 แต่ผลลัพธ์ที่ได้จากความพยายามในการวิจัยกลับลดลงถึง 41 เท่า

จำนวนบุคลากรช่างเทคนิคเพิ่มขึ้นเร็วกว่านักวิทยาศาสตร์ถึงสองเท่า⁠(เปิดในหน้าต่างใหม่) ขณะเดียวกัน การใช้เครื่องมือเฉพาะทางในการวิจัยก็เพิ่มขึ้นเป็นสองเท่า⁠(เปิดในหน้าต่างใหม่)ในช่วงสี่ทศวรรษที่ผ่านมา ส่วนโรงงานผลิตชิปในปัจจุบันมีต้นทุนสูงกว่าเมื่อ 30 ปีก่อนถึงห้าเท่า⁠(เปิดในหน้าต่างใหม่) และยังมีขนาดการดำเนินงานที่ใหญ่และซับซ้อนกว่ามาก

ตัวเลขเหล่านี้ชี้ให้เห็นว่า การสร้างความก้าวหน้าครั้งต่อ ๆ ไปต้องแลกด้วยต้นทุนที่สูงขึ้นเรื่อย ๆ เศรษฐกิจยังคงพัฒนาได้ เพราะเราทุ่มคน เงิน และทรัพยากรให้กับงานวิจัยเพิ่มขึ้นอย่างมหาศาล เพื่อชดเชยกับผลลัพธ์ที่ได้จากการวิจัยแต่ละส่วนซึ่งลดลง

ประวัติศาสตร์ที่ผ่านมาอาจทำให้เราต้องมองความอัจฉริยะในมุมใหม่ เพราะความคิดที่ล้ำหน้าไม่ได้เกิดผลได้ลำพัง แต่เป็นเพียงส่วนหนึ่งของกระบวนการที่ใหญ่กว่า สมมติฐานที่ยอดเยี่ยมยังต้องอาศัยหลักฐาน เครื่องมือ และกำลังในการลงมือทำ ส่วนไอเดียก็ยังไม่กลายเป็นความก้าวหน้า จนกว่าจะมีทั้งระบบและคนคอยผลักดันให้เกิดขึ้นจริง

ในทางเศรษฐศาสตร์ ปัจจัยสองอย่างถือว่าเกื้อหนุนกันเมื่อการเพิ่มขึ้นของสิ่งหนึ่งช่วยเพิ่มคุณค่าของอีกสิ่งหนึ่ง ความสามารถในการสร้างองค์ความรู้ใหม่กับความสามารถในการนำความรู้นั้นไปใช้จริงก็มีความสัมพันธ์แบบนี้ กล้องโทรทรรศน์ที่ดีขึ้นทำให้คำถามทางดาราศาสตร์ที่น่าสนใจมีความหมายมากขึ้น ขณะเดียวกัน คำถามที่ดีก็ทำให้กล้องโทรทรรศน์มีประโยชน์มากขึ้น

บางครั้งความคิดที่ดีเพียงอย่างเดียวก็ยังไม่พอ เพราะต้องมีสิ่งที่จับต้องได้มารองรับด้วย ส่วนการออกแบบเทคโนโลยีก็ต้องรอทั้งพลังงานและเครื่องจักรที่พร้อมพอจะสร้างมันขึ้นมา

แต่สิ่งที่ช่วยให้ไอเดียเกิดขึ้นจริงบางอย่างไม่ได้มองเห็นได้ชัดเจน ไอเดียเพียงอย่างเดียวยังเปราะบางและไม่พอที่จะไปต่อ มันต้องอาศัยระบบหลายด้านคอยรองรับ ไม่ว่าจะเป็นกฎหมาย การบริหารจัดการ เงินทุน ห่วงโซ่อุปทาน และองค์ประกอบอื่นๆ ที่ต้องทำงานร่วมกันเพื่อเปลี่ยนไอเดียให้เป็นจริง

ไอเดียที่ยอดเยี่ยมจะเกิดขึ้นจริงได้ ก็ต่อเมื่อทุกขั้นตอนในองค์กรและระบบที่เกี่ยวข้องดำเนินไปอย่างถูกต้องต่อเนื่องกัน เราเรียกสิ่งนี้ว่า ความสามารถด้านการบริหารและการประสานงาน ซึ่งเป็นความสามารถสำคัญที่มักไม่ค่อยได้รับการพูดถึง คนอัจฉริยะเป็นผู้วางภาพใหญ่ ส่วนองค์กรต่างๆ คือผู้ค่อยๆ ลงมือสร้างให้สำเร็จ อย่างหนึ่งดูโดดเด่นและน่าทึ่ง อีกอย่างอาจดูธรรมดาและน่าเบื่อ แต่ทั้งสองอย่างขาดไม่ได้

เรามักจินตนาการว่า Superintelligence เปรียบเสมือนการมีไอน์สไตน์นับพันล้านคน แต่ต่อให้มีอัจฉริยะมากมายเพียงนั้น ก็ยังต้องมีคนส่วนใหญ่คอยทำงานพื้นฐาน ตั้งแต่จัดหาวัตถุดิบ ดูแลระบบ และจัดการบัญชี นวัตกรรมที่ล้ำหน้าจะเกิดขึ้นได้ก็ต่อเมื่อโลกธรรมดารอบตัวมันทำงานได้อย่างราบรื่น ความก้าวหน้าต้องอาศัยผู้คนทุกระดับ ตั้งแต่ช่างที่เชื่อมชิ้นส่วนเล็กๆ ซึ่งจะถูกนำไปใช้ในกล้องโทรทรรศน์ ไปจนถึงบริษัทประกันของโรงเรียนที่เคยให้การศึกษาแก่พยาบาล ซึ่งต่อมาได้รักษานักดาราศาสตร์ ทุกความสำเร็จจึงเกิดขึ้นบนฐานของเศรษฐกิจที่ทำงานอยู่ตลอดเวลา แม้เรื่องราวความสำเร็จของเรามักไม่พูดถึงมัน

เช่นเดียวกับสติปัญญาของมนุษย์ AI จะถูกนำไปใช้ทั้งกับการคิดค้นสิ่งใหม่ที่ล้ำหน้าและการจัดการระบบต่างๆ ให้ทำงานได้อย่างมีประสิทธิภาพ คำถามคือ ในสองด้านนี้ AI จะใช้เวลาส่วนใหญ่ไปกับด้านไหนมากกว่ากัน

AI กำลังช่วยลดข้อจำกัดด้านการลงมือทำลงเรื่อยๆ ทั้งเขียนโค้ด ค้นคว้างานวิจัยในสาขาที่ไม่คุ้นเคย และเปลี่ยนภาพร่างให้กลายเป็นต้นแบบที่ใช้งานได้จริง ไอเดียที่เมื่อก่อนต้องอาศัยทั้งองค์กร ตอนนี้คนที่มีความมุ่งมั่นเพียงคนเดียวก็สามารถเดินหน้าทำได้มากขึ้น

คนที่ใฝ่ฝันอยากเป็นผู้กำกับส่วนใหญ่ไม่มีโอกาสได้รับเงิน 200 ล้านดอลลาร์เพื่อสร้างผลงานในแบบของตัวเอง นักออกแบบเกมจำนวนมากก็ใช้เวลาทั้งอาชีพไปกับการทำตามวิสัยทัศน์ของคนอื่น เราพยายามผลักดันคนที่มีพรสวรรค์ที่สุด แต่ก็หลีกเลี่ยงไม่ได้ที่จะมองข้ามคนเก่งบางส่วนไป หากมองในมุมนี้ ยุคแห่ง AI จึงเริ่มต้นจากการช่วยเสริมศักยภาพความคิดสร้างสรรค์ของมนุษย์ โดยทำให้คนจำนวนมากขึ้นมีแรงสนับสนุนและเครื่องมือที่จำเป็นในการสร้างไอเดียของตัวเองให้เกิดขึ้นจริง

สิ่งนี้อาจก่อให้เกิดโครงการที่มีเอกลักษณ์เฉพาะตัวมากมาย และมีงานสร้างสรรค์เกิดขึ้นนอกสถาบันมากขึ้น จากเดิมที่สถาบันเหล่านี้เคยเป็นผู้กำหนดว่าใครจะได้ทำงานในสาขานั้น ปัจจัยที่ขาดแคลนจึงเปลี่ยนจากความสามารถในการลงมือทำไปเป็นรสนิยม นั่นคือความสามารถในการตัดสินว่าอะไรควรค่าแก่การสร้าง คำถามใดควรค่าแก่การถาม และในแนวทางที่ดูเป็นไปได้นับพัน ทางใดควรค่าแก่การเดินต่อ

แต่เรื่องราวอาจไม่ได้จบเพียงเท่านี้ เมื่อ AI เก่งขึ้นจนสามารถคิดค้นสิ่งใหม่ที่มีคุณค่าได้เอง ซึ่งเราอาจเริ่มเห็นตัวอย่างแล้วในสาขาอย่างคณิตศาสตร์ มันก็ไม่ได้ทำหน้าที่เพียงช่วยทำงานอีกต่อไป แต่ยังช่วยกำหนดด้วยว่าควรทำอะไรต่อ จากเดิมที่คอยสนับสนุนโครงการวิจัยของมนุษย์เพียงหนึ่งโครงการ มันอาจออกแบบโครงการวิจัยของตัวเองขึ้นมานับพัน ส่งผลให้มีทั้งไอเดียภาพยนตร์ที่น่าลงทุนพัฒนาและสมมติฐานที่น่าทดสอบเกิดขึ้นมากมาย จนทรัพยากรและระบบที่มีอยู่ตามไม่ทัน

AI ในวันนี้เหมือนช่วยปลดล็อกสิ่งที่เรารอมานาน ทำให้ไอเดียดีๆ มีโอกาสถูกนำไปต่อยอดอย่างที่ควรจะเป็น แต่ในอนาคต เราอาจมีไอเดียดีมากเกินกว่าที่คน ระบบ และทรัพยากรจะตามทำได้ทัน

สุดท้าย เรายังตอบไม่ได้ว่า เมื่อมีแนวคิดใหม่เกิดขึ้น สิ่งที่ต้องใช้เพื่อทำให้แนวคิดนั้นเกิดประโยชน์จริงจะเพิ่มขึ้น ลดลง หรือไม่เปลี่ยนแปลง เราจะสร้างความก้าวหน้าทางความคิดได้มากแค่ไหนด้วยการคิดเพียงลำพัง และความอัจฉริยะต้องพึ่งระบบเบื้องหลังมากเพียงใดจึงจะสร้างผลลัพธ์ได้จริง

ในมุมมองของเรา คำตอบขึ้นอยู่กับว่าความคิดจะพาเราไปได้ไกลแค่ไหน ก่อนจะต้องกลับมาสัมผัสความเป็นจริงอีกครั้ง

เรามองเห็นความเป็นไปได้อยู่สองทาง ทางแรกคืออารยธรรมที่พัฒนาด้วยความเข้าใจที่ลึกขึ้น ซึ่ง Superintelligence ช่วยให้เราเดินหน้าต่อได้โดยไม่ต้องเพิ่มทั้งทรัพยากรทางกายภาพและระบบบริหารจัดการมากขึ้นเรื่อยๆ ทางที่สองคือ อารยธรรมที่พัฒนาด้วยการขยายตัว ซึ่งธรรมชาติมีความซับซ้อนมากเสียจนไม่ว่ามนุษย์หรือ AI จะฉลาดเพียงใด ก็ยังต้องพึ่งการทดลองขนาดใหญ่และซับซ้อนขึ้นเรื่อยๆ ในโลกจริงเพื่อเดินหน้าต่อ

หากมองย้อนดูประวัติศาสตร์ จะเห็นว่าทุกครั้งที่มนุษย์ก้าวไปไกลขึ้น สิ่งที่ต้องใช้เพื่อรองรับความก้าวหน้านั้นก็มากขึ้นตามไปด้วย กล้องโทรทรรศน์ของกาลิเลโอเป็นอุปกรณ์เล็กๆ ที่ถือได้ในมือ แต่เว็บบ์ต้องอาศัยความร่วมมือในระดับโลก ทรานซิสเตอร์ตัวแรกสร้างขึ้นโดยทีมขนาดเล็กที่ Bell Labs ขณะที่เทคโนโลยีชิปขั้นสูงในวันนี้ต้องพึ่งห่วงโซ่อุปทานที่เชื่อมโยงหลายประเทศ ยิ่งเราต้องการไปให้ไกลขึ้น ก็ยิ่งต้องใช้ความสามารถของคนทั้งสังคมมากขึ้น

แต่สิ่งที่เกิดขึ้นในอดีตไม่จำเป็นต้องกำหนดอนาคตเสมอไป คนเก่งอาจคิดค้นวิธีที่ช่วยลดทรัพยากรและระบบที่ต้องใช้ลงได้ หากเครื่องเร่งอนุภาครุ่นใหม่ติดข้อจำกัดเรื่องพลังงาน ก็อาจออกแบบเครื่องให้ประหยัดพลังงานมากขึ้น หรือหาวิธีดึงพลังงานมาใช้ได้ดีกว่าเดิม

ความอัจฉริยะยังช่วยลดสิ่งที่ต้องพึ่งพาได้บางส่วน ไอน์สไตน์สามารถต่อยอดจากข้อมูลจริงเพียงเล็กน้อยจนคิดถึงทฤษฎีสัมพัทธภาพได้ ในขณะที่คนทั่วไปอย่างเราคงต้องใช้ข้อมูลมากกว่านั้นมาก บางคนจำทุกนัดหมายได้ด้วยตัวเอง แต่คนส่วนใหญ่ยังต้องพึ่ง Google Calendar ช่วยจัดระบบให้

ความอัจฉริยะยังช่วยให้เราตัดสินใจได้ดีขึ้นว่า สมมติฐานใดควรนำไปทดสอบ และหลีกเลี่ยงการเสียทรัพยากรไปกับความพยายามที่มีโอกาสล้มเหลวสูง หากคนเก่งแต่ละคนช่วยยกระดับคุณภาพของแผนได้มากขึ้น ต่อให้ต้องใช้ระบบและทีมงานที่ใหญ่ขึ้นเรื่อยๆ เราก็ยังคุ้มค่าที่จะลงทุนกับคนเก่งเหล่านั้น เพราะต้นทุนของการลงมือทำสูงเกินกว่าจะเสียไปกับสิ่งที่เลือกผิดตั้งแต่แรก

อนาคตจริงของเราอาจไม่ได้เป็นไปตามเส้นทางใดเส้นทางหนึ่งอย่างสมบูรณ์ แต่ทั้งสองแบบช่วยให้เราเห็นทิศทางที่อารยธรรมของเราอาจเดินไปได้

ความฉลาดช่วยผลักดันความรู้ให้ก้าวหน้าได้ 3 ทาง ได้แก่ ใช้เหตุผลจากหลักการพื้นฐาน ค้นพบข้อสรุปใหม่จากหลักฐานที่มีอยู่ และรวบรวมหลักฐานใหม่จากการสังเกตและลงมือทดลองกับโลกจริง

แนวทางแรกสามารถก้าวหน้าได้มากด้วยการคิดเพียงอย่างเดียว โดยคณิตศาสตร์เป็นตัวอย่างที่เห็นชัดที่สุด ในการพิสูจน์หรือทำงานหนึ่งชิ้น มักมีทางแยกให้ตัดสินใจหลายครั้ง และคนที่คิดได้เฉียบคมจะเลือกทิศทางที่ถูกต้องได้ต่อเนื่อง จึงไม่ต้องเสียเวลาหลายปีไปกับการค้นหาแบบไร้ทิศทาง แต่สามารถเดินตามลำดับเหตุผลที่สั้นและตรงเป้ามากกว่า

แนวทางที่สองก็เปิดโอกาสให้ความรู้ก้าวหน้าได้อย่างรวดเร็วเช่นกัน มนุษย์มีหลักฐานและข้อมูลสะสมอยู่มากมายเกินกว่าที่เราจะทำความเข้าใจได้ทัน ไม่ว่าจะเป็นภาพจากอวกาศ สไลด์จากกล้องจุลทรรศน์ หรือข้อความในคอมเมนต์ออนไลน์ สิ่งที่ขาดคือความสามารถในการวิเคราะห์ข้อมูลเหล่านี้ได้มากพอ คลังข้อมูลวิทยาศาสตร์จำนวนมากถูกสร้างขึ้นเพื่อตอบคำถามหนึ่ง แต่ข้อมูลเดียวกันอาจช่วยตอบคำถามอื่นได้อีกมาก หากมีความสามารถในการวิเคราะห์ที่เพียงพอ เราอาจค้นพบสิ่งใหม่ได้จากข้อมูลเดิม โดยไม่ต้องออกไปเก็บหลักฐานเพิ่มเลย ถึงขั้นมองเห็นจักรวาลในมุมใหม่จากแสงที่ถูกบันทึกไว้แล้ว

วิธีที่สามไม่ง่ายนัก เพราะต้องอาศัยการทดลองและการลงมือทำในโลกจริง ซึ่งหลายกระบวนการต้องใช้เวลาตามธรรมชาติและไม่สามารถเร่งรัดได้มากนัก สารเคมีต้องใช้เวลาในการทำปฏิกิริยา สิ่งมีชีวิตต้องเติบโต เครื่องจักรต้องสร้างขึ้นจริง และยานอวกาศต้องเดินทางผ่านระยะทางจริงโดยมีความเร็วจำกัด ต่อให้ฉลาดเพียงใด ก็ไม่สามารถเห็นผลของการทดลองก่อนที่การทดลองนั้นจะเกิดขึ้นจริง

แต่ก็ยังพยายามลดข้อจำกัดเหล่านี้ได้ อารยธรรมที่พัฒนาด้วยความเข้าใจที่ลึกขึ้นจะยังต้องตรวจสอบสิ่งต่างๆ กับความเป็นจริง เพียงแต่จะทำอย่างประหยัดทรัพยากรเป็นอย่างมาก การให้เหตุผลที่ดีขึ้นจะช่วยชี้ได้ว่าการทดลองใดมีความสำคัญจริง การจำลองช่วยตอบคำถามส่วนใหญ่ และเหลือไว้เฉพาะจุดที่ต้องพิสูจน์ในโลกจริง Superintelligence จึงอาจช่วยออกแบบทุกขั้นตอนให้ใช้ทรัพยากรที่มีจำกัดได้อย่างคุ้มค่าที่สุด

ลองนึกภาพห้องปฏิบัติการดาราศาสตร์ฟิสิกส์ที่กำลังตั้งสมมติฐานหลายข้อเกี่ยวกับสสารมืดขึ้นมา ก่อนอื่นสมมติฐานเหล่านี้จะถูกนำไปทดสอบผ่านแบบจำลองคอมพิวเตอร์ที่สมจริงอย่างมาก แต่ละทฤษฎีจะถูกตรวจสอบว่ามีความสอดคล้องกับข้อมูลทั้งหมดที่มีอยู่แล้วหรือไม่ หลังจากผ่านขั้นตอนเหล่านี้ครบแล้ว จึงค่อยถ่ายภาพท้องฟ้าเพิ่มเติมเฉพาะจุดเพียงไม่กี่ครั้ง เพื่อใช้ทดสอบทฤษฎีที่น่าเป็นไปได้ที่สุด อารยธรรมนี้ยังจำเป็นต้องอาศัยสิ่งที่ช่วยเติมเต็มอัจฉริยภาพ แต่ทรัพยากรแต่ละส่วนจะถูกใช้ได้คุ้มค่ากว่าเดิมมาก

เส้นทางสู่อารยธรรมที่พัฒนาด้วยความเข้าใจที่ลึกขึ้นของเราอาจคล้ายการต่อจิ๊กซอว์ ช่วงแรกก้าวหน้าได้ง่าย ช่วงท้ายก็ง่าย แต่ช่วงกลางยากที่สุด ตอนแรกมีชิ้นขอบที่เห็นชัดและชิ้นที่จับคู่ได้ง่าย จากนั้นชิ้นที่ต่อง่ายก็หมดไป ขณะที่ภาพที่ต่อได้ยังมีน้อยเกินกว่าจะช่วยบอกว่าส่วนที่เหลือควรเป็นอย่างไร พอใกล้เสร็จ ช่องว่างที่เหลือแทบจะบอกเราได้เองว่าต้องใส่ชิ้นไหน วิทยาศาสตร์ที่เกือบสมบูรณ์แล้วอาจไปถึงการค้นพบสุดท้ายได้ง่ายกว่าสิ่งที่เราพยายามอย่างหนักเพื่อค้นพบในวันนี้

นี่คือสิ่งที่พบได้เสมอในวิทยาศาสตร์ Mendeleev สามารถอธิบายธาตุที่ยังไม่ถูกค้นพบได้ เพราะข้อมูลจากส่วนอื่นของตารางธาตุช่วยบอกได้ว่าตรงไหนยังขาดอะไรอยู่ ส่วน Standard Model ก็ทำให้นักฟิสิกส์มีเหตุผลที่จะคาดว่าต้องมี Higgs Boson อยู่จริง หลายสิบปีก่อนที่จะตรวจพบมันได้ การทดลองของเราจึงไม่ได้ค้นหาแบบไร้ทิศทาง แต่ถูกออกแบบมาเพื่อตรวจหาสิ่งที่เราคาดว่าจะพบตามทฤษฎีและข้อมูลที่มีอยู่แล้ว

Superintelligence อาจทำให้อารยธรรมก้าวหน้าได้ด้วยการทำความเข้าใจรูปแบบของโลกอย่างลึกซึ้ง จนรู้ได้อย่างแม่นยำว่าต้องการข้อมูลใหม่อะไรบ้าง ความก้าวหน้าจึงเกิดจากการคิดที่ลึกขึ้น แทนที่จะต้องรอการขยายตัวทางกายภาพที่ดำเนินไปอย่างเชื่องช้า

หากประสิทธิภาพเหล่านี้มีบทบาทมากพอ อารยธรรมอาจก้าวหน้าอย่างรวดเร็วด้วยการเข้าใจธรรมชาติให้ลึกขึ้น และไม่จำเป็นต้องใช้ความสามารถด้านการบริหารและการประสานงานเพื่อรองรับเครื่องมือทดลองที่ซับซ้อนมากขึ้นเรื่อยๆ อารยธรรมอาจไม่ได้ขยายตัวทางกายภาพมากนัก แต่ความรู้และความเข้าใจกลับพัฒนาไปได้ไกล

ที่ผ่านมา มนุษย์สามารถเข้าใจจักรวาลได้อย่างลึกซึ้งโดยไม่ต้องเดินทางออกไปไกล อารยธรรมที่พัฒนาด้วยความเข้าใจที่ลึกขึ้นก็จะเป็นการสานต่อแนวทางนี้

แต่ความต้องการข้อมูลใหม่อาจเพิ่มขึ้นเร็วจนกลบข้อได้เปรียบด้านประสิทธิภาพเหล่านี้ได้ แม้ความฉลาดจะช่วยลดต้นทุนในการกลับไปทดลองกับโลกจริงแต่ละครั้ง แต่ก็อาจทำให้เราเจอคำถามใหม่ที่ต้องกลับไปทดลองมากกว่าเดิม เครื่องมือที่ดีขึ้นเปิดทางให้เราเข้าไปศึกษารายละเอียดที่ลึกกว่าเดิม ส่วนการทดลองที่เร็วขึ้นก็ทำให้การทดลองเพิ่มเติมคุ้มค่าที่จะทำมากขึ้น

หากเส้นทางของไอน์สไตน์ที่อาศัยการคิดเป็นหลักจนพัฒนาเป็นทฤษฎีสัมพัทธภาพ เป็นตัวอย่างของอารยธรรมที่พัฒนาด้วยความเข้าใจที่ลึกขึ้น ชีววิทยาก็อาจเป็นตัวอย่างที่ชัดที่สุดของอารยธรรมที่ก้าวหน้าด้วยการขยายตัว เพราะต่อให้เราสะสมความรู้และข้อมูลไว้มากเพียงใด ยาใหม่ก็ยังต้องผ่านการทดสอบกับคนจำนวนมาก เพื่อยืนยันทั้งความปลอดภัยและประสิทธิผล ปัจจุบัน เครื่องจักรสามารถจำลองกระบวนการทางชีววิทยาได้ ทำให้นักชีววิทยาทดลองยาใหม่ผ่านแบบจำลองคอมพิวเตอร์ แทนการทดลองจริงบางส่วนได้ แต่การจำลองยังไม่แม่นยำพอที่จะใช้แทนการทดลองกับคนจริงในวงกว้าง เมื่อเครื่องจักรช่วยสร้างตัวยาที่น่าทดสอบได้มากขึ้น การพิสูจน์ด้วยข้อมูลจากโลกจริงจึงยิ่งกลายเป็นข้อจำกัดสำคัญ

ในอารยธรรมที่ก้าวหน้าด้วยการขยายตัว ความอัจฉริยะเพียงอย่างเดียวไม่เพียงพอจะสร้างความก้าวหน้า ความต้องการทรัพยากรทางกายภาพ รวมถึงระบบบริหารจัดการการใช้ทรัพยากรเหล่านั้น เติบโตเร็วกว่าที่ปัญญาอันชาญฉลาดจะช่วยประหยัดทั้งสองอย่างได้

นี่อาจเป็นเส้นทางของเรา แม้ AI ในอนาคตจะฉลาดกว่ามนุษย์อย่างมากก็ตาม Superintelligence อาจออกแบบการทดลองที่กินเวลานับร้อยปีได้ภายในไม่กี่ชั่วโมง แต่สิ่งที่เร่งไม่ได้คือเวลาที่ธรรมชาติและเครื่องจักรต้องใช้เพื่อให้การทดลองเหล่านั้นเกิดขึ้นจริง ดังนั้น ในโลกแบบนี้ ความฉลาดที่ใช้กับการจัดการและประสานงานให้ไอเดียเกิดผล อาจมีค่ามากกว่าความฉลาดที่ใช้สร้างไอเดียใหม่เพิ่มขึ้น

ผลกระทบนี้จะยิ่งทวีคูณขึ้น หากทุกก้าวของความก้าวหน้าต้องอาศัยโครงสร้างพื้นฐานและระบบสนับสนุนเพิ่มขึ้นเรื่อยๆ

ในกรณีนี้ สิ่งที่เพิ่มขึ้นจะไม่ใช่แค่การคิด แต่คือการลงมือสร้าง ห้องแล็บจะใช้ระบบอัตโนมัติมากขึ้น โรงงานจะเพิ่มจำนวน การผลิตพลังงานจะขยายตัว และความสามารถด้านการบริหารและการประสานงานจะกลายเป็นสิ่งสำคัญที่สุด การขยายตัวในโลกกายภาพจะเป็นแรงขับเคลื่อนของความรู้ เพราะคำถามที่เราอยากตอบมีมากเกินกว่าสิ่งที่เรามีไว้ใช้หาคำตอบ จะเดินหน้าไปต่อได้ก็ต้องมีทั้งวัสดุ พลังงาน และข้อมูลเพิ่มขึ้น

Dyson Sphere แสดงให้เห็นภาพอนาคตนี้ได้ชัดเจนที่สุด แม้การออกแบบจะต้องอาศัยการค้นพบและความก้าวหน้าทางเทคโนโลยีครั้งใหญ่ แต่เมื่อถึงขั้นลงมือจริง งานส่วนใหญ่กลับไม่ใช่การคิดค้นสิ่งใหม่ แต่อยู่ที่การก่อสร้าง การขนส่ง และการประสานงานในระดับที่ใหญ่เกินจินตนาการ

การออกแบบ Dyson Sphere ต้องอาศัยผู้เชี่ยวชาญที่มีความสามารถอย่างยิ่ง แต่ในขณะเดียวกัน โครงการนี้ก็จะเต็มไปด้วยงานที่ต้องทำซ้ำๆ อย่างต่อเนื่อง และเป็นหนึ่งในโครงการที่ซับซ้อนที่สุดในด้านการประสานงานและการจัดการ

ยิ่งความฉลาดก้าวหน้าขึ้น เราก็ยิ่งค้นพบสิ่งที่ควรค่าแก่การลงมือทำมากขึ้น และเมื่อโครงการเหล่านั้นซับซ้อนขึ้น ทรัพยากรที่ต้องใช้เพื่อทำให้เป็นจริงก็เพิ่มขึ้นตามไปด้วย นี่จึงไม่ใช่ความล้มเหลวของความฉลาด แต่เป็นผลจากการที่ความฉลาดพัฒนาไปได้ไกลต่างหาก

หากมองแบบนี้ สิ่งที่ทำให้ Superintelligence ทรงพลังอาจไม่ใช่เพียงความอัจฉริยะ แต่อยู่ที่การจัดการงานอันซับซ้อนเบื้องหลัง ทั้งการประสานระบบเทคโนโลยี องค์กร และทรัพยากรจำนวนมหาศาล เพื่อทำให้ไอเดียกลายเป็นจริงได้ในระดับที่ใหญ่ขึ้นเรื่อยๆ

ความฉลาดของเครื่องจักรส่วนใหญ่อาจไม่ได้มีไว้เพื่อทำงานที่ล้ำเลิศ แต่เพื่อรับมือกับงานซ้ำๆ และน่าเบื่อ

ในท้ายที่สุด ความก้าวหน้าอาจไม่ได้ติดที่ความฉลาด แต่อยู่ที่ข้อจำกัดของโลกกายภาพ ต่อให้แผนการพร้อมในทันที การสร้างเครื่องจักรเพื่อใช้พลังงานจากดาวฤกษ์ก็ยังต้องใช้เวลาในการสร้างจริง และเมื่อจะเดินทางไปยังดาวหรือกาแล็กซีอื่น ระยะทางก็กลายเป็นอุปสรรคที่หลีกเลี่ยงไม่ได้ เพราะไม่มีวัตถุหรือสัญญาณใดเดินทางได้เร็วกว่าความเร็วแสง อารยธรรมที่ก้าวหน้าด้วยการขยายตัวจึงต้องใช้เวลานานมาก การเปลี่ยนแปลงครั้งใหญ่อาจเกิดห่างกันเป็นพันปี หรือแม้แต่หลายล้านปี และแต่ละก้าวก็ใช้เวลานานขึ้น

เมื่อมองย้อนกลับไป ยุคปฏิวัติเกษตรกรรมและอุตสาหกรรมอาจดูเหมือนช่วงที่ความก้าวหน้าเกิดขึ้นอย่างรวดเร็ว เมื่อเทียบกับยุคต่อๆ ไปที่เปลี่ยนแปลงช้ากว่ามาก

เป็นไปได้ว่าในอนาคต AI อาจจะเก่งกว่ามนุษย์ทั้งในการสร้างองค์ความรู้ใหม่ในระดับแนวหน้า และในการประสานทรัพยากรที่จำเป็นเพื่อทำให้ความรู้นั้นนำไปใช้ได้จริง อย่างไรก็ตาม ความเป็นไปได้นี้ไม่ได้ทำให้ความอยากรู้อยากเห็นของมนุษย์สำคัญน้อยลง

ประการแรก มนุษย์ยังควรแสวงหาความรู้และความเข้าใจต่อไป แม้ในวันที่เครื่องจักรอาจทำได้ดีกว่าเรา ในจักรวาลอาจมีผู้ทรงปัญญาที่ฉลาดกว่าเราอย่างมากอยู่แล้ว และอาจมีคำตอบต่อคำถามทางวิทยาศาสตร์หรือศีลธรรมที่เกินกว่าความเข้าใจของเรา ถึงอย่างนั้น เราก็ยังพยายามทำความเข้าใจโลกด้วยตัวเอง การที่สติปัญญาอีกแบบหนึ่งถือกำเนิดขึ้น ไม่ว่าจะเป็นสิ่งที่มีอยู่แล้วหรือสิ่งที่เราสร้างขึ้นเอง ก็ไม่ได้เปลี่ยนเรื่องนี้ ตราบใดที่เรายังไม่รู้แน่ชัดว่ามนุษย์ไม่มีอะไรพิเศษเหลือจะมอบให้โลก เราก็ไม่ควรหยุดพยายาม การยอมแพ้ก็อาจทำให้เราสูญเสียสิ่งที่มีเพียงมนุษย์เท่านั้นที่สามารถสร้างสรรค์ขึ้นได้ หน้าที่ของเราจึงยังคงเป็นการตั้งคำถามและพยายามหาคำตอบต่อไป

ประการที่สอง จุดแข็งของมนุษย์เมื่อเทียบกับ AI อาจอยู่ที่การสร้างแนวคิดและความรู้ใหม่มากกว่าความสามารถด้านการบริหารและการประสานงาน ต่อให้ AI เหนือกว่าเราทั้งสองด้าน เราก็อาจจะทำได้ดีกว่าในด้านการคิดค้น จึงมีแนวโน้มที่จะทุ่มเทกับงานด้านนี้ มนุษย์มักอยากทำงานสร้างสรรค์มากกว่างานที่เป็นกิจวัตร ขณะที่หุ่นยนต์ไม่ได้มีความชอบหรือความรู้สึกเช่นนั้น

ประการที่สาม ความหลากหลายเองก็มีคุณค่า ต่อให้เครื่องจักรสามารถเลียนแบบวิธีคิดของมนุษย์ได้เกือบทั้งหมด ตราบใดที่มนุษย์ยังมีมุมมองหรือวิธีคิดบางอย่างที่แตกต่าง เราก็ยังช่วยเพิ่มความหลากหลายทางความคิดสร้างสรรค์ได้ ความสามารถของเครื่องจักรส่วนใหญ่อาจถูกใช้เพื่อดูแลและขับเคลื่อนระบบของมันเอง แต่บางส่วนก็อาจถูกนำมาให้มนุษย์ใช้สร้างสิ่งต่างๆ ตามจินตนาการของเรา แม้จะเป็นเพียงเศษเสี้ยวของทั้งหมด แต่สำหรับมนุษย์แล้ว นั่นก็ถือว่าเป็นทรัพยากรที่เหลือเฟือ และมากกว่าสิ่งที่เรามีอยู่ในปัจจุบันอย่างมหาศาล

ความคิดสร้างสรรค์อันชาญฉลาดไม่ได้ดำรงอยู่โดยลำพัง แต่ต้องอาศัยสิ่งต่างๆ รอบตัว และแม้แต่คนที่คิดได้ล้ำที่สุดก็ยังต้องพึ่งคนที่ลงมือทำเพื่อเปลี่ยนความคิดสร้างสรรค์ให้เกิดขึ้นจริง

ปัจจุบัน มนุษย์ใช้ความสามารถทางความคิดจำนวนมากไปกับงานที่แทบไม่มีใครเห็น ทั้งการจัดการ ประสานงาน และลงมือทำเพื่อเปลี่ยนไอเดียให้เกิดขึ้นจริง เครื่องจักรก็หนีไม่พ้นความจำเป็นแบบเดียวกัน ไม่ใช่ทุกระบบจะเป็นนักคิดระดับแนวหน้า บางระบบก็ต้องรับบทจัดการ ประสานงาน และทำให้งานเดินหน้าได้จริงด้วย

อนาคตของเราและจังหวะที่โลกจะก้าวไปข้างหน้า ขึ้นอยู่กับคำถามสำคัญว่า ยิ่งความคิดล้ำหน้า เราจะยิ่งต้องใช้ทรัพยากรมากขึ้น หรือกลับสามารถทำสิ่งต่างๆ ได้มากขึ้นด้วยทรัพยากรที่น้อยลง