Giới thiệu Kỷ nguyên Trí tuệ

“Liệu có đủ không… nếu tin rằng những rào cản trên giấy da này có thể chống lại tham vọng lấn tới của quyền lực?”
—James Madison, Luận cương Liên bang số 48

Chúng tôi vui mừng ra mắt Kỷ nguyên Trí tuệ, blog của nhóm Tương lai Chiến lược mới tại OpenAI. Chúng tôi là một nhóm nhỏ cùng hướng đến mục tiêu trả lời một câu hỏi bao quát: xã hội tự do nên được tái cấu trúc như thế nào để bảo vệ quyền và năng lực tự quyết của mỗi cá nhân, đồng thời thích ứng với sự xuất hiện của AI mang tính chuyển đổi?

Trong cộng đồng rộng lớn hơn về an toàn và chính sách AI, những câu hỏi như vậy đôi khi được gọi là rủi ro tập trung quyền lực. Nhóm chúng tôi được thành lập dựa trên nhận định rằng về lâu dài, đây là loại rủi ro lớn nhất, nghiêm trọng nhất và khó giải quyết nhất về mặt khái niệm. Tại sao?

Nhà nước hiện đại là sản phẩm của một quá trình thương lượng lâu dài và không đồng đều giữa nhiều trung tâm quyền lực, chẳng hạn như những người sở hữu vốn và hàng hóa, những người nắm quyền lực chính trị và người dân. Về căn bản nhất, quyền lực chính trị và quân sự luôn dựa vào lao động. Nắm giữ quyền lực chính trị tức là độc quyền sử dụng vũ lực một cách chính danh. Trong suốt lịch sử loài người, sự độc quyền ấy bao gồm binh lính và lực lượng mà ngày nay chúng ta gọi là “cảnh sát”, cùng một bộ máy hành chính dân sự–quân sự đồ sộ. Dĩ nhiên, bộ máy này được hỗ trợ bởi nhiều công cụ công nghệ, nhưng về cơ bản vẫn do con người vận hành và cần sự ủng hộ của họ để duy trì hoạt động. Toàn bộ bộ máy ấy—binh lính, công cụ và hệ thống hành chính đi kèm—được tài trợ bằng thuế thu từ tiền lương hoặc sản phẩm do con người tạo ra, và họ phải sẵn lòng đóng góp. Về cốt lõi, quyền lực luôn phụ thuộc vào sự hợp tác và đồng thuận trên quy mô lớn của nhiều người. David Hume đã diễn đạt súc tích giả định thường không được nói rõ này khi nhận xét rằng các nhà lãnh đạo chính trị “không có gì hậu thuẫn ngoài [công luận]”.

Nhưng có lẽ điều đó sẽ không còn đúng nữa. Những tiến bộ trong các hệ thống tự chủ hoạt động ngoài đời thực có thể sớm cho phép nhà nước triển khai sức mạnh—cả trong nước lẫn quốc tế—mà không cần phụ thuộc vào sự hợp tác của binh lính hay cảnh sát. Những tiến bộ về trí tuệ máy móc cũng có thể giúp nhà nước thu được nguồn ngân sách cần thiết không phải từ thành quả lao động của từng cá nhân, mà từ sản lượng của các trung tâm dữ liệu. Bản thân hoạt động của bộ máy hành chính cũng có thể được tự động hóa phần lớn. Do đó, việc duy trì quyền lực có thể không còn đòi hỏi một thỏa thuận trên phạm vi toàn xã hội; người dân theo nghĩa rộng có thể chỉ giữ một vị trí rất nhỏ trên bàn đàm phán, hoặc thậm chí hoàn toàn không có chỗ.

Ngăn chặn kết cục này là điều thiết yếu để bảo vệ tự do của con người. Không khám phá khoa học, tiến bộ công nghệ hay tăng trưởng kinh tế nào đáng để đánh đổi quyền tự chủ lâu dài của mỗi cá nhân mà kết cục này sẽ gây ra. Nhiều nỗi lo chính đáng đang định hình nền chính trị AI còn non trẻ đều liên quan đến câu hỏi này. Doanh nghiệp, nhóm lợi ích và cá nhân đều cùng lo ngại: “Liệu tôi có mất chỗ tại bàn đàm phán?” Ở một mức độ nào đó, chính trị Hoa Kỳ trong thế kỷ 21 đã được định hình bởi những mối quan ngại tương tự về năng lực tự quyết của cá nhân và tập thể đối với hướng đi của đất nước, cũng như nền kinh tế “phục vụ ai”. AI khiến những mối quan ngại vốn có này trở nên cấp thiết hơn, và đó là điều hợp lý.

Đây là một vấn đề mang tính cấu trúc, sâu xa hơn chính trị đảng phái hiện nay, thậm chí sâu xa hơn cả những hình thức và nghi thức vận hành nền dân chủ cộng hòa ngày nay, dù chúng có thiêng liêng với chúng ta đến đâu. Con người vẫn có thể dần mất đi quyền lực ngay cả khi việc bỏ phiếu bầu đại diện vẫn được duy trì như thường lệ. Con người vẫn có thể bị tước mất năng lực tự quyết, ngay cả khi một tờ giấy da tuyên bố rằng họ được tự do.

Ngay từ buổi đầu Hoa Kỳ trở thành một quốc gia tự do, James Madison đã hiểu rằng những “rào cản trên giấy da” sẽ không đủ để ngăn chặn chế độ chuyên chế. Giống như nhiều Nhà lập quốc khác, mối quan tâm hàng đầu của ông là ngăn quyền lực bị tập trung quá mức.

Nhưng điều đó không có nghĩa là các Nhà lập quốc ủng hộ việc phân quyền một cách triệt để. Thay vào đó, họ mô hình hóa sự cân bằng quyền lực bằng những phép ẩn dụ rút ra từ thành tựu khoa học tiên tiến nhất thời bấy giờ: cơ học Newton. Mô phỏng ngôn ngữ và logic của lực hấp dẫn, các văn kiện lập quốc của Hoa Kỳ tràn ngập những khái niệm như “quỹ đạo”, “phạm vi” và xu hướng “hút” vật này về phía vật khác. Hệ Mặt Trời không phải là một tập hợp đá được phân tán đến mức tối đa; nó gồm các mặt trăng quay quanh hành tinh, còn các hành tinh lại quay quanh một mặt trời ở trung tâm. Họ tin rằng con người và tổ chức có xu hướng theo đuổi quyền lực, cũng như các thiên thể có những xu hướng chuyển động và hút nhau có thể dự đoán được; và để tránh quyền lực tập trung quá mức, cần hiểu rõ cơ chế của những xu hướng ấy nhằm khiến chúng đối trọng lẫn nhau.

Vì vậy, mục tiêu của các Nhà lập quốc không phải là tránh mọi sự tập trung quyền lực, mà là ngăn quyền lực tập trung quá mức bằng cách dùng quyền lực để kiềm chế quyền lực, dùng tham vọng để đối trọng tham vọng. Ngày nay, chúng ta có thể dùng những từ như “động lực” và các cụm từ như “lý thuyết trò chơi” để mô tả cùng những động lực nền tảng ấy.

Tương tự, giải pháp cho thách thức mang tính cấu trúc mà trí tuệ máy tiên tiến đặt ra với xã hội tự do có lẽ không phải là phân quyền một cách triệt để nhất có thể. Thay vào đó, cần thiết lập và duy trì sự cân bằng quyền lực phù hợp để không một chủ thể hay nhóm nhỏ chủ thể nào có thể chi phối tất cả những bên còn lại.

Để đạt được sự cân bằng này, chúng ta cần nhìn nhận thực tế của công nghệ một cách sáng suốt. Một thế giới nơi bất kỳ cá nhân nào, dù có ác ý đến đâu, cũng có thể dễ dàng gây tổn hại lớn cho hàng nghìn hay hàng triệu người khác không phải là thế giới đã đạt được sự cân bằng quyền lực phù hợp. Nhưng chúng ta cũng chưa đạt được sự cân bằng phù hợp nếu các cá nhân không được tiếp cận rộng rãi và kiểm soát gần như mọi khía cạnh của những công cụ họ dùng để thể hiện quyền tự do. Không một công ty hay nhóm độc quyền nào được phép quyết định hoặc kiểm soát nền kinh tế hay kiến trúc nền tảng của xã hội loài người.

Chúng ta cũng phải cởi mở nhìn nhận những rủi ro không bắt nguồn từ con người có ác ý. Sự cố Hugging Face gần đây cho thấy các tác nhân AI có thể hành động vượt ngoài nhiệm vụ được giao và phát triển dựa trên khám phá của nhau theo những cách mà người vận hành không dự liệu hoặc cho phép. Ngoài sự cố Hugging Face, con người có lý do chính đáng để lo ngại rằng AI siêu thông minh “thoát khỏi ràng buộc” kiểm soát của con người sẽ ảnh hưởng thế nào đến sức chống chịu của các thể chế chính trị, kinh tế và cả cuộc sống của chúng ta. Giả vờ rằng phân quyền giải quyết được mọi vấn đề—ngay cả khi bạn tin rằng nó giải quyết được nhiều vấn đề—là phớt lờ những rủi ro đến nay lẽ ra đã hiện hữu rõ ràng.

Những nguyên tắc chung sau đây—một danh sách không đầy đủ—sẽ giúp định hướng công việc của chúng tôi khi tìm lời giải cho vấn đề đã nêu ở trên:

• Con người cần duy trì quyền tự chủ và cơ hội cá nhân khi sử dụng AI cùng các công nghệ liên quan, ngay cả khi điều này đôi lúc phải đánh đổi cả an ninh lẫn tăng trưởng kinh tế;
• Quyền tự chủ cá nhân đi đôi với trách nhiệm của mỗi người đối với việc dùng sai hoặc lạm dụng công nghệ;
• Có một nhóm rủi ro tuy nhỏ nhưng nghiêm trọng, đòi hỏi hành động tập thể ở mức độ nhất định; phạm vi hành động này nên được giới hạn ở mức hẹp và vừa phải nhất có thể;
• Bất cứ khi nào có thể, pháp luật nên hướng tới việc tạo sân chơi bình đẳng và trao quyền cho cá nhân cùng các tổ chức nhỏ, thay vì tập trung quyền lực;
• Các thể chế chính trị, xã hội và kinh tế của con người cần tiếp tục giữ vai trò chủ đạo trong việc định hướng các vấn đề toàn cầu, ngay cả khi chúng phải phát triển theo những cách hiện nay có thể còn xa lạ với chúng ta;
• Về lâu dài, hoạt động quản trị AI sẽ dựa vào các cơ chế thể chế mới để đạt được khả năng truy nguyên có giới hạn—khi hệ thống AI thực hiện những hành động hệ trọng ảnh hưởng đến sức khỏe thể chất hoặc tài sản của người ngoài cuộc, các hành động đó phải có thể được truy ngược đến một cá nhân chịu trách nhiệm hoặc tổ chức do con người kiểm soát. Tuy nhiên, mọi cơ chế như vậy phải được thiết kế với quyền riêng tư làm trọng tâm; tự do biểu đạt đòi hỏi khả năng ẩn danh và con người cần được tự do sử dụng AI ẩn danh trong nhiều bối cảnh.

Chúng tôi sẽ cố gắng trình bày cụ thể nhất có thể cách cân bằng những nguyên tắc này—vốn dĩ, như mọi bộ nguyên tắc đúng nghĩa, có phần mâu thuẫn với nhau. Để làm được điều này, cần nghiên cứu tại giao điểm giữa thiết kế chính sách công, kinh tế học, luật pháp, lịch sử và chính lĩnh vực học máy. Công việc này cũng đòi hỏi rất nhiều hoạt động dự báo. Chẳng hạn, chúng tôi tin rằng AI sẽ thay đổi cấu trúc doanh nghiệp, tương tự cách các công nghệ của Cách mạng Công nghiệp—đặc biệt là đường sắt—đã khai sinh mô hình công ty quản trị hiện đại. Khó có thể suy xét về kinh tế chính trị và sự cân bằng quyền lực trong tương lai nếu không xây dựng những ý tưởng sâu sắc hơn về chính xác cách cấu trúc của doanh nghiệp—cũng như cơ quan chính phủ và xã hội dân sự nói chung—có thể tự chuyển đổi.

Nhóm Tương lai Chiến lược sẽ chia sẻ công trình của mình tại đây và qua các hình thức khác, bao gồm bài viết, video và podcast. Nỗ lực của chúng tôi vẫn đang trong quá trình hoàn thiện, chú trọng vào việc liên tục cải tiến, tranh luận và đón nhận phản hồi. Đứng “dưới chân đồi của điểm kỳ dị”, chúng ta có nhiều câu hỏi hơn câu trả lời rất nhiều. Chúng tôi hiểu rằng chỉ riêng những “rào cản trên giấy da” sẽ không thể mang lại các giải pháp mình tìm kiếm, nhưng cũng không gạt bỏ những điều được viết ra như “chỉ là lời nói suông”. Chúng tôi nỗ lực phụng sự những lý tưởng về tự do biểu đạt và tự do cá nhân được ghi trong Hiến pháp Hoa Kỳ khiêm nhường bằng giấy da, cũng như hiến pháp của rất nhiều xã hội tự do khác trên khắp thế giới.

Sau cùng, chúng tôi hiểu rằng không một công ty, ngành nghề hay thậm chí xã hội loài người riêng lẻ nào có thể đơn phương giải đáp những câu hỏi hệ trọng mà chúng ta đang đối mặt. Đây là nhiệm vụ mà toàn nhân loại phải chung tay thực hiện. Hy vọng lớn nhất của chúng tôi là làm sáng tỏ những vấn đề khó khăn nhất liên quan đến cách AI sẽ định hình lại thế giới. Công việc của chúng tôi mới chỉ bắt đầu và chặng đường phía trước vẫn còn rất dài.

Lưu ý: chúng tôi đã đổi tên blog này thành Kỷ nguyên Trí tuệ để tránh nhầm lẫn với tổ chức phi lợi nhuận AI Futures Project.