OpenAI ủng hộ dự luật California nhằm tăng cường an toàn AI cho giới trẻ
Ann O’Leary, Phó Chủ tịch phụ trách Chính sách Toàn cầu
OpenAI ủng hộ Dự luật Thượng viện California 1119. Dự luật này thiết lập những biện pháp bảo vệ thiết thực đối với việc người trẻ sử dụng AI, đồng thời duy trì khả năng tiếp cận các công cụ giúp họ học hỏi, sáng tạo và chuẩn bị cho tương lai. Sự ủng hộ này tiếp nối cam kết mà Sam Altman, đồng sáng lập kiêm CEO của OpenAI, đã đưa ra vào năm ngoái khi trình bày các nguyên tắc của công ty dành cho thanh thiếu niên.
Trong bối cảnh chưa có hành động ở cấp liên bang, California có cơ hội thiết lập một tiêu chuẩn nghiêm ngặt về an toàn AI cho giới trẻ.
Trong thư gửi Thống đốc Newsom(mở trong cửa sổ mới), chúng tôi biểu dương vai trò lãnh đạo của ông, cùng Thượng nghị sĩ Steve Padilla, các Hạ nghị sĩ Buffy Wicks và Rebecca Bauer-Kahan, cũng như Cơ quan Lập pháp California trong vấn đề quan trọng này. SB 1119 phát huy các biện pháp bảo vệ giới trẻ mà OpenAI đã hỗ trợ thông qua sản phẩm, các nguyên tắc chính sách toàn cầu, hoạt động vận động chính sách tại California và những đóng góp cho Đạo luật AI An toàn cho Cha mẹ & Trẻ em. Chúng tôi khuyến nghị Thống đốc Newsom ký ban hành dự luật này.
Thanh thiếu niên là thế hệ đầu tiên lớn lên cùng AI. Trong mỗi tuần, gần chín trên mười thanh thiếu niên sử dụng ChatGPT tìm đến công cụ này để học tập, tra cứu thông tin, rèn luyện kỹ năng hoặc nâng cao năng suất. Cơ hội đó đi kèm một trách nhiệm rõ ràng: thanh thiếu niên cần có những trải nghiệm được thiết kế theo nhu cầu phát triển riêng, với các biện pháp bảo vệ mặc định nghiêm ngặt và cơ hội phù hợp để học hỏi, sáng tạo và khám phá.
Sản phẩm ChatGPT dành cho Thanh thiếu niên mới ra mắt của chúng tôi thể hiện cách tiếp cận đó. Sản phẩm được thiết kế để giúp người dùng dưới 18 tuổi học tập, tư duy phản biện và sáng tạo, đồng thời khuyến khích sử dụng lành mạnh, cung cấp sẵn các biện pháp bảo vệ và trao thêm quyền kiểm soát cho cha mẹ. Nếu hệ thống ước tính một người chưa đủ 18 tuổi hoặc người đó khai báo mình từ 13 đến 17 tuổi, họ sẽ tự động được chuyển sang ChatGPT dành cho Thanh thiếu niên. Những biện pháp bảo vệ này là một phần của trải nghiệm cơ bản, không phải các chế độ cài đặt tùy chọn mà người dùng có thể tắt.
Nhìn rộng hơn, chúng tôi tin rằng thanh thiếu niên có thể hưởng lợi từ AI mà không phải đánh đổi sự an toàn—mục tiêu cốt lõi của SB 1119.
SB 1119 kết hợp các biện pháp bảo vệ nghiêm ngặt với việc duy trì quyền tiếp cận những công cụ AI hữu ích. Chúng tôi đặc biệt ủng hộ các yêu cầu then chốt sau:
- Xác định độ tuổi của người dùng;
- Xác định và xử lý các rủi ro an toàn trước khi cung cấp sản phẩm cho người trẻ;
- Trải qua các cuộc kiểm toán độc lập;
- Bảo vệ người trẻ khỏi nội dung có hại, bao gồm nội dung tự làm hại bản thân, nội dung bóc lột tình dục và những tương tác có rủi ro cao khác;
- Cung cấp cho cha mẹ các công cụ để định hướng và giới hạn việc sử dụng của con em mình;
- Kết nối người trẻ với các nguồn lực hỗ trợ khủng hoảng khi xuất hiện rủi ro an toàn nghiêm trọng; và
- Hạn chế quảng cáo nhắm mục tiêu và bảo vệ thông tin cá nhân của người trẻ.
Đối với người dùng được xác định là từ 13 đến 17 tuổi, các biện pháp bảo vệ này cần được áp dụng tự động. Dự luật này sẽ kết hợp cơ chế giải trình thiết thực với các biện pháp giúp bảo vệ người trẻ khi họ sử dụng AI.
SB 1119 cũng nhìn nhận đúng rằng AI không phải là mạng xã hội. Dự luật thiết lập các biện pháp bảo vệ phù hợp nhằm giúp người trẻ sử dụng AI để học hỏi, sáng tạo và khám phá. Khi xây dựng khuôn khổ này, các nhà hoạch định chính sách đã tìm cách duy trì quyền tiếp cận những tính năng giáo dục và an toàn thiết yếu, bao gồm việc sử dụng có trách nhiệm tính năng bộ nhớ của ChatGPT, đồng thời thúc đẩy trải nghiệm an toàn và phù hợp hơn với độ tuổi thanh thiếu niên.
ChatGPT dành cho Thanh thiếu niên có một bộ tính năng được thiết kế riêng để hỗ trợ học tập, như Bài kiểm tra, Trực quan hóa nội dung học tập và Chế độ Học tập. Các tính năng này được phát triển cùng các nhà giáo dục và chuyên gia học tập để hướng dẫn học sinh giải quyết vấn đề từng bước. Những công cụ này nhằm giúp người dùng hiểu sâu hơn và hình thành thói quen học tập hiệu quả hơn. Các tính năng sử dụng ngữ cảnh từ những cuộc trò chuyện trước, bao gồm bộ nhớ, giúp áp dụng nhất quán các biện pháp bảo vệ, nhận diện những dấu hiệu đáng lo ngại và hỗ trợ học tập hữu ích hơn theo thời gian.
Ngữ cảnh cũng giúp các công cụ an toàn và học tập này hoạt động nhất quán hơn theo thời gian. Thông qua các tính năng như bộ nhớ, ChatGPT có thể lưu giữ thông tin và tùy chọn liên quan từ những cuộc trò chuyện trước, giúp thanh thiếu niên tiếp tục các dự án học tập dài hạn mà không phải bắt đầu lại. Tính liên tục đó cũng có thể giúp tránh củng cố các khuôn mẫu có hại và hỗ trợ phản hồi hiệu quả hơn khi một người trẻ có thể cần thêm sự trợ giúp hoặc nguồn lực.
Cân bằng giữa an toàn và học tập không phải là điều mới mẻ với chúng tôi. Trong năm qua, chúng tôi đã bổ sung kiểm soát của cha mẹ, dự đoán độ tuổi, Kế hoạch Bảo vệ Thanh thiếu niên và Nguyên tắc dành cho người dưới 18 tuổi trong thông số kỹ thuật của mô hình—các quy tắc định hướng cách các mô hình của chúng tôi cần hành xử—nhằm thiết lập những tiêu chuẩn mới cho cách chúng tương tác với người trẻ. Các nguyên tắc này cấm tương tác tình cảm lãng mạn, khuyến khích sự phụ thuộc về cảm xúc và tuyên bố rằng ChatGPT là con người hoặc có tri giác. Chúng tôi cũng cung cấp kiểm soát của cha mẹ, cho phép các gia đình quản lý những chế độ cài đặt chính cho con em ở tuổi thanh thiếu niên và nhận thông báo trong các tình huống có rủi ro cao.
SB 1119 thiết lập một khuôn khổ vững chắc về an toàn AI cho giới trẻ tại California. Việc tiếp tục nghiên cứu và hợp tác trong quá trình triển khai có thể giúp hoàn thiện các điều khoản then chốt và duy trì hiệu quả của khuôn khổ khi công nghệ phát triển. OpenAI mong muốn hỗ trợ công việc đó và tiếp tục xây dựng những trải nghiệm AI nhìn nhận thanh thiếu niên đúng với lứa tuổi của họ, với các biện pháp bảo vệ tự động, nghiêm ngặt hơn cùng những cơ hội thiết thực để học hỏi và trưởng thành.
