Nhóm Cố vấn về Toán học và Trí tuệ Nhân tạo
Ngày 28 tháng 8, chúng tôi bắt đầu huấn luyện một mô hình nội bộ mới. Ngoài việc giải bài toán Navier–Stokes thuộc Giải thưởng Thiên niên kỷ, mô hình này hiện đã giải được hơn 100 bài toán mở tồn tại lâu năm trong hầu hết các lĩnh vực toán học. Tốc độ tiến bộ của mô hình trong toán học đã khiến các nhà toán học tại OpenAI bất ngờ. Điều này đã thúc đẩy các cuộc thảo luận nội bộ về cách tốt nhất để thông báo cho cộng đồng về những bước tiến nhanh chóng, qua đó giúp lĩnh vực này chuẩn bị và thích ứng.
Toán học là một ngành khoa học nền tảng và những khám phá mới có thể mang lại nhiều ứng dụng. Vì vậy, những năng lực này có tiềm năng rất lớn, còn việc phát triển và triển khai chúng một cách có trách nhiệm có ý nghĩa vượt ra ngoài phạm vi toán học. Chúng tôi nhận thức rõ điều này và đang tìm cách triển khai rộng rãi hơn các năng lực AI liên quan đến toán học một cách có trách nhiệm.
Trong thư ngỏ gần đây “Sự sai lệch nghiêm trọng của AI trong toán học(mở trong cửa sổ mới)”, các nhà toán học bày tỏ lo ngại về những hệ quả ngoại tác tiêu cực của việc dùng khả năng giải các bài toán mở làm tiêu chuẩn đánh giá các hệ thống AI mới.
Những ý kiến phê bình này cho thấy các công ty AI cần thận trọng và sâu sát khi làm việc với cộng đồng toán học. Vì mục tiêu đó, chúng tôi đang hợp tác với các nhà toán học đã thành lập một nhóm cố vấn toán học độc lập. Nhóm này sẽ là cầu nối với cộng đồng toán học và công chúng nói chung, giúp các nhà toán học có tiếng nói trong định hướng phát triển của chúng tôi.
Nhóm sẽ tư vấn về việc đánh giá và truyền thông các kết quả mới: giúp OpenAI đánh giá tầm quan trọng của chúng, tư vấn cách phối hợp công bố, đồng thời góp ý về các chuẩn mực học thuật và nghề nghiệp trong nghiên cứu toán học. Nhóm cũng sẽ tư vấn về cách các công cụ của chúng tôi có thể hỗ trợ nghiên cứu và học tập toán học. Chúng tôi muốn trao những công cụ mạnh mẽ vào tay các nhà toán học để họ có thể theo đuổi những câu hỏi mình am hiểu nhất và phát triển các ý tưởng mới.
Nhóm sẽ hoạt động độc lập với OpenAI. Nhóm có quyền chủ động đưa ra những lời khuyên mà chúng tôi không yêu cầu, nhận xét về tác động của OpenAI đối với toán học và công khai các khuyến nghị của mình. Giá trị của nhóm phụ thuộc vào khả năng các thành viên tự đưa ra nhận định và phản biện quan điểm của chúng tôi. Các thành viên sẽ không nhận thù lao từ OpenAI và nhóm có thể thay đổi thành viên khi thấy phù hợp. Điều quan trọng là nhóm sẽ không chịu trách nhiệm tư vấn cho chúng tôi về nhịp độ tiến triển nội bộ trong lĩnh vực toán học.
Hợp tác với nhóm này là bước đi đầu tiên. Phía trước vẫn còn những câu hỏi khó về cách AI có thể hỗ trợ việc hiểu toán học và cách đưa lợi ích của những năng lực này đến với cộng đồng rộng lớn hơn. Chúng tôi muốn các nhà toán học giữ vai trò trung tâm trong việc định hình câu trả lời.
Các thành viên đầu tiên của Nhóm Cố vấn về Toán học và Trí tuệ Nhân tạo(mở trong cửa sổ mới), đặt tại Viện Nghiên cứu Cao cấp(mở trong cửa sổ mới):
François Charles (ENS-PSL)
Camillo De Lellis (IAS, GSSI)
Timothy Gowers (Collège de France, Cambridge)
Martin Hairer (EPFL, Imperial College London)
Nikhil Srivastava (Berkeley, Viện Simons)
Ulrike Tillmann (Oxford, INI)
Ravi Vakil (Stanford)
Edward Witten (IAS)
Melanie Matchett Wood (Harvard)


