Sự bổ trợ vĩnh cửu

Lời tác giả: Đây là bài luận đầu tiên trong loạt bài của chúng tôi về nền kinh tế tương lai, thuộc một nền tảng mới dành cho những tiếng nói độc lập khám phá tương lai có AGI. Bài viết phản ánh quan điểm của chúng tôi, không phải của OpenAI hay các đồng nghiệp.

Nhân loại đã nhìn ngược về gần tận khởi đầu của thời gian.

Các phương trình của chúng ta kể một câu chuyện phần lớn nhất quán về vũ trụ từ những khoảnh khắc đầu tiên. Qua kính thiên văn, chúng ta đã nhìn đến những vùng xa xôi của vũ trụ và thoáng thấy lịch sử sơ khai của nó. Chúng ta biết về sự ra đời của các ngôi sao và sự hình thành của các thiên hà.

Thế nhưng chưa có người nào từng đi xa hơn Mặt Trăng.

Những lời giải chúng ta tìm kiếm bao trùm cả vũ trụ, trong khi thân thể chúng ta hầu như chưa rời khỏi mái nhà của mình. Tâm trí chúng ta vươn xa hơn tầm với của đôi tay rất nhiều.

Sự chênh lệch đó có thể hàm ý hai điều rất khác nhau.

Một khả năng là chúng ta không cần đi quá xa, rằng ngay từ một hành tinh duy nhất, ta có thể thấu hiểu những chân lý sâu xa nhất. Với suy luận sáng suốt và công cụ hiệu quả, chúng ta khám phá vũ trụ mà không cần đi xuyên qua nó. Trong kịch bản này, nền văn minh của chúng ta tiến bộ theo chiều sâu thay vì chiều rộng. Điều đó phần nào lý giải vì sao chúng ta chưa thấy sự sống có trí tuệ nào khác: có thể chúng ta đang sống trong một thiên hà đầy những bộ óc xuất chúng chưa bao giờ cần mở rộng đến mức chúng ta nhận thấy.

Khả năng thứ hai đáng ngại hơn. Có thể tâm trí chúng ta chỉ đơn giản là đã tiến xa hơn năng lực thực thi. Mỗi bước tiếp theo đều cần thêm thời gian và nguồn lực. Chúng ta không thiếu ước mơ, nhưng thiếu nhân lực để hiện thực hóa chúng.

Galileo mở rộng tầm nhìn của chúng ta chỉ bằng hai thấu kính và một ống kính. Để tiếp tục mở rộng tầm nhìn ngày nay, nhân loại đã chế tạo Kính thiên văn Không gian James Webb, một đài quan sát trị giá mười tỷ đô la, được gấp gọn trong tên lửa rồi đưa đi xa một triệu dặm. Mười tám mảnh gương khổng lồ của nó được chế tạo với độ chính xác năm mươi nanomet. Đài quan sát này là thành quả của ba trăm tổ chức ở mười bốn quốc gia. Đóng góp của Galileo cần đến vài chục đôi tay. Webb cần cả một đội quân, cùng nền kinh tế toàn cầu hậu thuẫn.

Để nhìn xa hơn, không chỉ cần những bộ óc thông minh hơn. Còn cần một bộ máy tổ chức lớn hơn.

Chúng ta đặt ra nhiều câu hỏi hơn khả năng tìm hiểu. Chúng ta thiết kế nhiều thí nghiệm hơn khả năng thực hiện. Chúng ta nghĩ ra những khả năng sáng tạo nhanh hơn khả năng hiện thực hóa chúng. Và trong nhiều lĩnh vực, càng tiến xa, việc tạo ra những gì ta hình dung càng trở nên phức tạp.

Nick Bloom và các đồng tác giả⁠(mở trong cửa sổ mới) đã nghiên cứu năng suất nghiên cứu trên toàn nền kinh tế Mỹ. Để duy trì định luật Moore ngày nay, cần số nhà nghiên cứu nhiều gấp hơn mười tám lần so với đầu thập niên 1970. Từ thập niên 1930, tổng nỗ lực nghiên cứu hiệu dụng trên toàn nền kinh tế đã tăng gấp hai mươi ba lần, trong khi năng suất nghiên cứu đo được giảm còn một phần bốn mươi mốt.

Lực lượng kỹ thuật viên đang tăng nhanh gấp đôi⁠(mở trong cửa sổ mới) lực lượng nhà khoa học. Mức độ sử dụng thiết bị chuyên dụng trong khoa học đã tăng gấp đôi⁠(mở trong cửa sổ mới) trong bốn thập niên. Một nhà máy sản xuất chip ngày nay tốn kém gấp năm lần⁠(mở trong cửa sổ mới) — và có quy mô vận hành đồ sộ hơn nhiều — so với ba mươi năm trước.

Những số liệu này cho thấy cái giá để tiếp tục tiến bộ đang tăng lên. Nền kinh tế vẫn tiến lên vì sự mở rộng mạnh mẽ của hoạt động nghiên cứu đã bù đắp cho hiệu quả ngày càng giảm của từng đơn vị đầu vào.

Lịch sử ấy nên khiến chúng ta nhìn khác về thiên tài: không xem nó biệt lập, mà xem nó là một đầu vào của quá trình sản xuất. Một giả thuyết xuất sắc vẫn cần bằng chứng, công cụ và phương tiện để kiểm chứng. Ý tưởng chưa thể trở thành tiến bộ nếu thiếu máy móc và nhân lực hỗ trợ để hiện thực hóa nó.

Các nhà kinh tế gọi hai đầu vào là bổ trợ cho nhau khi lượng của đầu vào này tăng sẽ làm tăng giá trị của đầu vào kia. Theo nghĩa đó, trí tuệ tiên phong và năng lực hiện thực hóa ý tưởng của nó là những yếu tố bổ trợ. Một kính thiên văn tốt hơn làm tăng giá trị của một câu hỏi thiên văn học hay. Một câu hỏi hay hơn lại làm tăng giá trị của kính thiên văn.

Một số yếu tố bổ trợ mang tính vật chất. Một lý thuyết phải chờ máy gia tốc hạt; một thiết kế công nghệ phải chờ năng lượng và máy móc để được chế tạo.

Những yếu tố bổ trợ khác khó nhìn thấy bằng mắt hơn. Một ý tưởng đứng riêng lẻ rất mong manh. Nó cần đủ loại thể chế. Luật pháp, bộ máy tổ chức, cơ chế tài trợ, chuỗi cung ứng và nhiều yếu tố khác phải phối hợp để triển khai ý tưởng.

Một ý tưởng lớn phải đi qua chuỗi dài những việc được làm đúng ở từng khâu trong các thể chế ấy. Hãy gọi đó là trí tuệ thể chế: trí tuệ thực thi ít được ngợi ca. Thiên tài thiết kế công trình vĩ đại; thể chế đặt từng viên đá. Một bên rực rỡ, một bên có vẻ nhàm chán; cả hai đều không thể thiếu.

Đôi khi chúng ta hình dung siêu trí tuệ như một tỷ Einstein. Nhưng một nền văn minh gồm một tỷ Einstein vẫn cần phần lớn trong số họ khai thác đá và lo việc kế toán. Đổi mới tiên phong chỉ có thể diễn ra khi thế giới đời thường xung quanh vận hành trơn tru. Tiến bộ cần đến tất cả mọi người — từ người hàn con vít trong kính thiên văn đến bên bảo hiểm cho ngôi trường tiểu học từng dạy người y tá đã chăm sóc nhà thiên văn. Tiến bộ được xây trên một nền kinh tế vận hành nhịp nhàng mà chúng ta thường bỏ qua khi kể về những thành tựu vĩ đại nhất của mình.

Giống trí tuệ con người, AI sẽ được dùng cho cả những khám phá xuất sắc lẫn năng lực vận hành thể chế. Câu hỏi là nó sẽ dành phần lớn thời gian cho việc nào.

AI đã bắt đầu khiến năng lực thực thi bớt khan hiếm. Nó viết mã, tra cứu tài liệu trong lĩnh vực chưa quen thuộc và biến bản phác thảo thành nguyên mẫu hoạt động được. Ngày càng nhiều ý tưởng từng đòi hỏi cả một tổ chức nay có thể được một người đầy tham vọng theo đuổi.

Phần lớn những người ôm mộng làm phim không bao giờ được cấp hai trăm triệu đô la để thử sức. Phần lớn nhà thiết kế trò chơi dành cả sự nghiệp để hiện thực hóa tầm nhìn sáng tạo của người khác. Chúng ta cố gắng tạo cơ hội cho những người tài năng nhất, nhưng việc bỏ sót nhân tài là không thể tránh khỏi. Nhìn theo cách này, kỷ nguyên trí tuệ khởi đầu bằng việc bổ trợ cho óc sáng tạo của con người, giúp nhiều người hơn có đội ngũ hỗ trợ để hiện thực hóa ý tưởng của riêng mình.

Điều này có thể tạo ra vô số dự án mang dấu ấn riêng, với nhiều tác phẩm sáng tạo ra đời bên ngoài những tổ chức từng nắm quyền quyết định ai được tham gia các lĩnh vực ấy. Đầu vào khan hiếm chuyển từ năng lực thực thi sang óc lựa chọn — khả năng quyết định thứ gì đáng tạo ra, câu hỏi nào đáng đặt ra và hướng đi nào trong hàng nghìn hướng khả dĩ đáng theo đuổi.

Nhưng câu chuyện có thể chưa dừng ở đó. Khi AI dần có khả năng tự mình tìm ra những tri thức mới xuất sắc — điều có lẽ đã bắt đầu xuất hiện trong các lĩnh vực như toán học — nó sẽ cung cấp cả định hướng lẫn sức lao động. Thay vì triển khai một chương trình nghiên cứu của con người, nó tự thiết kế hàng nghìn chương trình. Những thiên tài AI làm bùng nổ số lượng ý tưởng phim đáng phát triển và giả thuyết đáng kiểm chứng. Ý tưởng nảy nở nhanh hơn khả năng đáp ứng của hạ tầng hỗ trợ.

AI hôm nay mang lại khoảng thời gian giải tỏa mà chúng ta chờ đợi từ lâu, khi những ý tưởng hay cuối cùng cũng nhận được nguồn lực xứng đáng. Ngày mai, ý tưởng hay có thể nhiều đến mức chúng ta còn thiếu năng lực thực thi hơn bao giờ hết.

Rốt cuộc, chúng ta chưa biết những yếu tố bổ trợ cần thiết để ứng dụng hiệu quả tri thức mới sẽ tăng lên, giảm đi hay giữ nguyên. Chỉ bằng tư duy, ta có thể tiến xa đến đâu về mặt tri thức? Tài năng xuất chúng cần một bộ máy tổ chức lớn đến mức nào?

Theo chúng tôi, câu trả lời phụ thuộc vào việc tư duy có thể đi xa đến đâu trước khi phải tiếp xúc trở lại với thực tế.

Chúng tôi mô tả hai con đường có thể xảy ra. Con đường thứ nhất là một nền văn minh chiều sâu, trong đó siêu trí tuệ vượt qua nhu cầu phải có thêm vốn vật chất và sự điều phối của bộ máy tổ chức. Con đường thứ hai là một nền văn minh mở rộng theo quy mô chiều rộng, trong đó tự nhiên phức tạp đến mức không trí tuệ — con người hay máy móc — nào có thể tiến triển nếu thiếu những thí nghiệm quy mô lớn và ngày càng tinh vi trong thế giới thực.

Lịch sử nhân loại đến nay cho thấy nhu cầu về năng lực bổ trợ ngày càng tăng. Kính thiên văn của Galileo nằm gọn trong tay ông; Webb cần đến cả một nền văn minh. Một nhóm nhỏ tại Bell Labs đã lắp ráp bóng bán dẫn đầu tiên trên bàn làm việc; nay những tiến bộ tiên phong về chip đến từ một chuỗi cung ứng toàn cầu phức tạp. Càng vươn xa, càng phải huy động thêm nguồn lực của nền văn minh phía sau.

Nhưng lịch sử ấy không nhất thiết định đoạt tương lai. Những bộ óc thông minh có thể tạo ra các yếu tố bổ trợ hiệu quả hơn. Nếu năng lượng là nút thắt của một máy gia tốc hạt mới, tài năng xuất chúng có thể nghĩ ra máy gia tốc tiết kiệm hơn hoặc cách thu năng lượng tốt hơn.

Thiên tài cũng có thể thay thế một số yếu tố bổ trợ cho chính mình. Einstein đã có thể dùng tư duy để đi đến thuyết tương đối từ rất ít dữ liệu thực nghiệm. Chúng ta sẽ cần nhiều dữ liệu hơn hẳn. Một số người tự nhớ được mọi cuộc hẹn — phần lớn chúng ta phải nhờ đến bộ máy sắp xếp của Google Calendar.

Và thiên tài có thể đưa óc lựa chọn đến mức tối ưu, chọn những giả thuyết tốt nhất để kiểm chứng và tránh những thất bại gây lãng phí. Nếu mỗi thiên tài có thêm đều nâng cao chất lượng kế hoạch, thì dù cần bộ máy tổ chức ngày càng lớn, chúng ta vẫn sẽ đầu tư mạnh vào thiên tài, chính vì thực thi quá tốn kém để lãng phí vào việc sai.

Không con đường nào sẽ mô tả chính xác hoàn toàn tương lai thực tế, nhưng có thể xem chúng là hai hướng đi khả dĩ của nền văn minh chúng ta.

Trí tuệ có thể mở rộng tri thức theo ba cách. Nó có thể suy luận từ các nguyên lý. Nó có thể rút ra hiểu biết mới từ bằng chứng sẵn có. Hoặc nó có thể thu thập bằng chứng mới bằng cách quan sát và tác động vào thế giới.

Cách thứ nhất có thể đi xa chỉ bằng tư duy. Toán học là ví dụ thuần túy nhất. Ở những ngã rẽ trong một phép chứng minh hay dự án, một bộ óc mạnh mẽ có thể liên tục đưa ra lựa chọn đúng. Nó thay thế nhiều năm mò mẫm bằng một chuỗi suy luận ngắn và có định hướng rõ hơn.

Cách thứ hai cũng mở ra dư địa mới cho tiến bộ nhanh chóng. Nhân loại đã thu thập được nhiều bằng chứng hơn hẳn lượng mà mình đã hiểu. Việc nghiên cứu dữ liệu của chúng ta — ảnh thiên văn, tiêu bản kính hiển vi, các mục bình luận trực tuyến — vẫn bị giới hạn bởi sự khan hiếm trí tuệ con người. Kho lưu trữ khoa học chứa những quan sát được ghi lại để trả lời một câu hỏi nhưng có thể ẩn chứa lời giải cho nhiều câu hỏi khác. Nguồn trí tuệ thiên tài dồi dào có thể tạo ra khám phá không bằng cách thu thập thêm điều gì mới, mà bằng cách nhận ra những gì vốn đã có. Nó có thể tìm thấy một vũ trụ mới mà không cần thu thêm một photon nào.

Cách thứ ba không dễ như vậy vì đòi hỏi chúng ta tương tác với thế giới vật chất. Các quá trình vật chất cần thời gian, và thường khó có thể làm gì để đẩy nhanh chúng. Hóa chất phải phản ứng. Sinh vật phải phát triển. Máy móc phải được chế tạo. Tàu vũ trụ phải vượt qua khoảng cách thực, tuân theo giới hạn tốc độ của vũ trụ. Ngay cả một trí tuệ hoàn hảo cũng không thể quan sát kết quả của một thí nghiệm chưa diễn ra.

Nhưng nó có thể thử. Một nền văn minh chiều sâu sẽ không thoát khỏi nhu cầu đối chiếu với thực tế. Nó sẽ thực hiện việc đó với mức độ tiết kiệm nguồn lực vượt bậc. Suy luận tốt hơn sẽ xác định số ít thí nghiệm thực sự quan trọng. Mô phỏng sẽ giải quyết phần lớn vấn đề và chỉ ra chính xác điểm chưa chắc chắn cần thực tế phân định. Siêu trí tuệ có thể tối đa hóa hiệu quả, thiết kế dựa trên các nguồn lực khan hiếm để tận dụng chúng triệt để.

Hãy hình dung một phòng thí nghiệm vật lý thiên văn với một tập hợp giả thuyết về vật chất tối. Trước tiên, các giả thuyết này được đưa qua quá trình mô hình hóa trên máy tính với độ chân thực cực cao. Từng lý thuyết được kiểm tra xem có nhất quán với toàn bộ dữ liệu hiện có hay không. Chỉ sau tất cả các bước đó, người ta mới chụp thêm vài ảnh bầu trời có mục tiêu cụ thể để kiểm chứng những lý thuyết triển vọng nhất. Nền văn minh vẫn cần những yếu tố bổ trợ cho tính chất thiên tài, nhưng mỗi đơn vị đầu vào mang lại giá trị lớn hơn nhiều.

Con đường đến nền văn minh mở rộng theo quy mô chiều sâu có thể giống như việc ghép tranh. Tiến triển dễ dàng lúc đầu, dễ dàng lúc cuối và khó nhất ở giai đoạn giữa. Ban đầu, các mảnh viền rất dễ nhận ra và nhiều mảnh dễ ghép với nhau. Rồi những mảnh ấy hết dần, trong khi phần tranh đã ghép còn quá ít để định hướng cho phần còn lại. Gần cuối, những chỗ trống còn lại gần như tự cho biết mảnh nào thuộc về chúng. Một nền khoa học gần hoàn chỉnh có thể đi đến những khám phá cuối cùng dễ dàng hơn những khám phá mà hôm nay chúng ta đang chật vật theo đuổi.

Đây là điều quen thuộc trong khoa học. Mendeleev có thể mô tả những nguyên tố chưa được khám phá vì phần đã biết của bảng tuần hoàn giới hạn các khả năng ở phần còn thiếu. Mô hình Chuẩn đã cho các nhà vật lý cơ sở để dự đoán sự tồn tại của boson Higgs hàng chục năm trước khi chúng ta quan sát được nó. Các thí nghiệm của chúng ta được định hướng tìm kiếm những gì ta dự đoán sẽ thấy — những gì nhất quán với lý thuyết và dữ liệu sẵn có.

Siêu trí tuệ có thể tạo nên nền văn minh chiều sâu bằng cách hiểu các quy luật của thế giới rõ đến mức biết chính xác mình cần dữ liệu mới nào. Nó sẽ thúc đẩy tiến bộ bằng tư duy sâu sắc hơn, thay vì dựa vào quá trình mở rộng vật chất chậm chạp.

Nếu những cải thiện hiệu quả ấy chiếm ưu thế, nền văn minh có thể nhanh chóng làm chủ tự nhiên sâu hơn, mà ít cần đến trí tuệ thể chế để quản lý những hệ thống thí nghiệm mới đồ sộ. Quy mô vật chất của nó có thể vẫn nhỏ trong khi sự thông tuệ ngày càng chín muồi.

Con người chúng ta đã hiểu được rất nhiều về vũ trụ mà chưa từng rời xa mái nhà của mình. Nền văn minh mở rộng theo quy mô chiều sâu sẽ tiếp nối truyền thống đó.

Nhưng nhu cầu về bằng chứng mới có thể vượt xa những cải thiện hiệu quả này. Trí tuệ có thể làm mỗi lần đối chiếu với thực tế bớt tốn kém, đồng thời tìm ra thêm nhiều lý do để làm việc đó. Công cụ tốt hơn mở ra những miền khám phá tinh vi hơn. Thí nghiệm nhanh hơn có thể khiến việc tiến hành thêm thí nghiệm trở nên đáng làm.

Nếu con đường gần như thuần tư duy đưa Einstein đến các thuyết tương đối là điển hình của nền văn minh mở rộng theo quy mô chiều sâu, thì sinh học có lẽ báo trước rõ nhất về nền văn minh mở rộng theo quy mô chiều rộng. Dù đã tích lũy bao nhiêu tri thức và vận dụng bao nhiêu dữ liệu, chúng ta vẫn phải thử nghiệm thuốc mới trên rất nhiều người để biết chúng có an toàn và hiệu quả hay không. Máy móc hiện có thể mô phỏng các quá trình sinh học, cho phép các nhà sinh học thử thuốc mới trên máy tính thay vì qua thí nghiệm thực tế, nhưng những mô phỏng số ấy chưa sát với thế giới thực đến mức có thể thay thế thử nghiệm trên người ở quy mô lớn. Việc máy tạo ra nhiều phương án ứng viên hơn khiến khâu kiểm chứng thực nghiệm trở thành một nút thắt lớn hơn.

Trong một nền văn minh mở rộng theo quy mô chiều rộng, chỉ tài năng xuất chúng thôi chưa đủ để tạo ra tiến bộ. Nhu cầu của chúng ta về nguồn lực vật chất — cùng bộ máy tổ chức để quản lý việc sử dụng chúng — tăng nhanh hơn khả năng tiết kiệm cả hai của một bộ óc thông minh.

Đây có thể vẫn là con đường của chúng ta, ngay cả khi các hệ thống AI tương lai vượt xa trí tuệ con người. Một siêu trí tuệ có thể thiết kế các thí nghiệm đủ cho cả thế kỷ chỉ trong một buổi chiều, rồi dành cả thế kỷ ấy chờ tự nhiên và máy móc hoàn tất chúng. Trong thế giới như vậy, đầu tư trí tuệ vào các quy trình thể chế cần thiết để triển khai ý tưởng sẽ có giá trị hơn đầu tư vào chính việc nghĩ ra ý tưởng.

Hiệu ứng này sẽ càng nhân lên nếu mỗi bước tiếp theo đòi hỏi ngày càng nhiều hạ tầng hỗ trợ.

Ở đây, tỷ trọng dành cho tư duy sẽ giảm, còn tỷ trọng dành cho xây dựng sẽ tăng. Phòng thí nghiệm được tự động hóa. Nhà máy mọc lên ngày càng nhiều. Sản lượng năng lượng tăng. Trí tuệ thể chế giữ vai trò chủ đạo để hiện thực hóa tất cả những điều này. Mở rộng vật chất trở thành động lực của tri thức, và nền văn minh lan rộng vì những câu hỏi của nó đã vượt quá khả năng của các phương tiện tìm lời giải. Cần thêm vật liệu, thêm năng lượng, thêm dữ liệu để tiếp tục tiến lên.

Cầu Dyson là hình ảnh cực hạn của tương lai này. Thiết kế một công trình như vậy đòi hỏi những đột phá phi thường, nhưng phần lớn dự án sẽ không phải là tư duy đột phá. Đó sẽ là công việc xây dựng và hậu cần ở quy mô thiên văn.

Cầu Dyson cần những bộ óc xuất chúng để lập bản thiết kế. Đồng thời, đó cũng sẽ là một trong những dự án lặp đi lặp lại, đơn điệu và khó tổ chức nhất từng được thực hiện.

Đây không phải thất bại của trí tuệ, mà là hệ quả từ thành công của nó. Những bộ óc thông minh hơn tìm ra thêm nhiều dự án đáng làm; những dự án phức tạp hơn lại cần nhiều vật chất hơn để thực hiện.

Nếu vậy, sức mạnh phi thường của siêu trí tuệ có lẽ không nằm ở thiên tài của nó. Thay vào đó, sức mạnh ấy nằm ở việc nó sẵn lòng đảm nhiệm vai trò bộ máy tổ chức, điều phối hệ thống công nghệ và thể chế khổng lồ cần thiết để biến ý tưởng thành hiện thực ở quy mô ngày càng lớn.

Gần như toàn bộ trí tuệ máy móc sẽ được huy động không phải để làm những việc xuất chúng, mà để làm những việc nhàm chán.

Khi đó, giới hạn tốc độ mà tự nhiên đặt ra cho sự mở rộng về vật chất có thể trở thành nút thắt cản trở tiến bộ. Xây dựng hệ thống máy móc để thu năng lượng của một ngôi sao là dự án thuộc thế giới vật chất, dù bản kế hoạch được lập nhanh đến đâu. Xa hơn nữa là những ngôi sao và thiên hà khác, và theo hiểu biết hiện nay, bản thân khoảng cách đã là một lực hãm: không tàu nào có thể di chuyển, cũng không tín hiệu nào có thể truyền về nhanh hơn ánh sáng. Một nền văn minh mở rộng theo quy mô chiều rộng là một nền văn minh vận hành chậm. Những thay đổi lớn của nền văn minh này có thể cách nhau hàng thiên niên kỷ, thậm chí hàng triệu năm. Mỗi bước tiếp theo đều mất nhiều thời gian hơn.

Các cuộc cách mạng nông nghiệp và công nghiệp sẽ giống như màn mở đầu dồn dập của một lịch sử dài hơn rất nhiều, với nhịp độ tiến bộ chậm hơn rất nhiều.

Rất có thể các hệ thống AI tương lai sẽ vượt con người cả trong việc tạo ra tri thức tiên phong lẫn điều phối nguồn lực để đưa tri thức đó vào ứng dụng thực tiễn. Nhưng khả năng này không làm giảm tầm quan trọng của tinh thần ham khám phá ở con người.

Thứ nhất, chúng ta vẫn có bổn phận mở mang hiểu biết, ngay cả khi máy móc có vẻ làm tốt hơn. Vũ trụ có thể đã có những trí tuệ uyên bác hơn chúng ta rất nhiều, nắm giữ lời giải cho những câu hỏi khoa học và đạo đức vượt ngoài khả năng lĩnh hội của chúng ta. Dẫu vậy, chúng ta vẫn cố gắng tự mình hiểu thế giới. Sự xuất hiện của một trí tuệ khác — dù do chính chúng ta tạo ra — cũng không thay đổi điều đó. Chừng nào chưa biết chắc rằng nhân loại không còn đóng góp độc đáo nào, việc từ bỏ vẫn là lãng phí những gì chỉ riêng chúng ta có thể mang đến cho thế giới. Bổn phận của chúng ta vẫn là tiếp tục đặt câu hỏi và cố gắng tìm lời giải.

Thứ hai, chúng ta có thể có lợi thế so sánh về trí tuệ tiên phong hơn là trí tuệ thể chế. Nghĩa là dù kém hơn ở cả hai mặt, chúng ta vẫn tương đối giỏi hơn ở mặt đầu tiên và có thể chuyên tâm vào đó. Con người bày tỏ mong muốn được sáng tạo thay vì làm việc theo khuôn mẫu, còn robot không thể hiện sở thích như vậy.

Thứ ba, sự đa dạng mang lại giá trị cho chúng ta. Dù máy móc có thể mô phỏng phần lớn tư duy con người, nếu vẫn giữ được nét riêng, chúng ta sẽ mang đến sự đa dạng trong sáng tạo. Phần lớn trí tuệ máy móc sẽ tiếp tục hoạt động trong bộ máy tự duy trì của nó, nhưng một phần nhỏ sẽ được chúng ta huy động để phục vụ ý muốn sáng tạo của mình. Chỉ là một phần rất nhỏ của tổng thể, nhưng vô cùng dồi dào so với quy mô của chúng ta và vượt xa nguồn lực chúng ta có hôm nay.

Óc sáng tạo không tồn tại đơn độc. Nó cần thế giới xung quanh, và thiên tài cần những người xây dựng để hiện thực hóa tầm nhìn sáng tạo của mình.

Ngày nay, phần lớn trí tuệ con người dành cho công việc thầm lặng là biến ý tưởng thành hiện thực. Trí tuệ máy móc cũng sẽ kế thừa sự phụ thuộc ấy. Không phải tất cả đều có thể là những bộ óc kiệt xuất. Chúng cũng phải là những người vận hành bộ máy.

Câu chuyện tương lai của chúng ta—cùng nhịp độ tiến bộ—phụ thuộc vào việc những bộ óc vĩ đại cần huy động thêm nguồn lực từ thế giới, hay có thể làm được nhiều hơn với ít nguồn lực hơn.