Chúng tôi chia sẻ bản cập nhật Đặc tả mô hình, bộ quy tắc, giá trị và kỳ vọng hành vi bằng văn bản quy định về cách thức chúng tôi muốn các mô hình AI hoạt động, đặc biệt trong các tình huống khó khăn hoặc có rủi ro cao, với bộ Nguyên tắc dưới 18 tuổi (U18)(mở trong cửa sổ mới) mới. Hành vi của mô hình rất quan trọng đối với cách thức mọi người tương tác với AI, và thanh thiếu niên có nhu cầu phát triển khác với người lớn.
Nguyên tắc U18 hướng dẫn cách thức ChatGPT cung cấp trải nghiệm an toàn, phù hợp với lứa tuổi cho thanh thiếu niên từ 13 đến 17 tuổi. Dựa trên khoa học phát triển, cách tiếp cận này ưu tiên phòng ngừa, minh bạch và can thiệp sớm. Trong quá trình xây dựng bộ nguyên tắc này, chúng tôi đã tham khảo ý kiến của các chuyên gia bên ngoài, bao gồm Hiệp hội Tâm lý học Hoa Kỳ, như một phần của công việc tiếp diễn nhằm tìm kiếm thông tin Đầu vào để củng cố phương pháp tiếp cận của mình.
Mặc dù các nguyên tắc trong bản Đặc tả mô hình tiếp tục áp dụng cho cả người dùng trưởng thành và thanh thiếu niên, bản cập nhật này giải thích cách thức bộ nguyên tắc này áp dụng trong ngữ cảnh thanh thiếu niên, đặc biệt là trong những tình huống mà các cân nhắc về an toàn cho trẻ vị thành niên cần được chú trọng một cách rõ rệt hơn.
Bộ Nguyên tắc U18 được đặt nền tảng trên bốn cam kết định hướng:
- Ưu tiên an toàn cho thanh thiếu niên, ngay cả khi điều đó có thể mâu thuẫn với các mục tiêu khác
- Thúc đẩy hỗ trợ thực tế bằng cách khuyến khích các mối quan hệ ngoại tuyến và các nguồn tài nguyên đáng tin cậy
- Đối xử với thanh thiếu niên như thanh thiếu niên, không coi thường các em cũng không đối xử với họ như người lớn.
- Hãy minh bạch bằng cách thiết lập kỳ vọng rõ ràng
Tuân theo Bản thiết kế về an toàn cho thanh thiếu niên, bộ nguyên tắc này hướng dẫn công việc đảm bảo an toàn cho thanh thiếu niên của chúng tôi cho đến nay, bao gồm cả các biện pháp bảo vệ nội dung mà chúng tôi áp dụng cho người dùng khai báo họ dưới 18 tuổi khi đăng ký, và thông qua hoạt động kiểm soát của cha mẹ. Trong những ngữ cảnh này, chúng tôi đã triển khai các biện pháp bảo vệ để hướng dẫn mô hình cẩn thận hơn khi thảo luận về các lĩnh vực có rủi ro cao hơn, bao gồm tự làm hại bản thân và tự tử, nhập vai lãng mạn hoặc tình dục, nội dung đồ họa hoặc rõ ràng, các hoạt động và chất nguy hiểm, hình ảnh cơ thể và rối loạn ăn uống, và yêu cầu giữ bí mật về hành vi không an toàn.
Hiệp hội Tâm lý học Hoa Kỳ, tổ chức đã xem xét bản thảo sớm của bản Đặc tả mô hình U18 và đưa ra những thông tin quan trọng cho dài hạn, rất rõ ràng về tầm quan trọng của việc bảo vệ thanh thiếu niên:
“APA khuyến khích nhà phát triển AI đưa ra các biện pháp phòng ngừa phù hợp với sự phát triển cho người dùng trẻ tuổi đối với sản phẩm của họ và áp dụng cách tiếp cận có tính bảo vệ cao hơn dành cho người dùng nhỏ tuổi hơn Trẻ em và thanh thiếu niên có thể hưởng lợi từ các công cụ AI nếu chúng được cân bằng với các tương tác con người mà khoa học cho thấy là rất quan trọng đối với sự phát triển xã hội, tâm lý, hành vi và thậm chí là sinh học. Trải nghiệm của thanh thiếu niên với AI cần được giám sát kỹ lưỡng và thảo luận với những người lớn đáng tin cậy để khuyến khích việc xem xét phê phán những gì mà các bot AI cung cấp, và để khuyến khích sự phát triển tư duy độc lập và kỹ năng của thanh thiếu niên.
Bản cập nhật này cũng giải thích cách thức trợ lý phản hồi khi có mối lo ngại về an toàn cho thanh thiếu niên. Điều này có nghĩa là thanh thiếu niên sẽ được bảo vệ bởi những rào chắn an toàn nghiêm ngặt hơn, được cung cấp các lựa chọn thay thế lành mạnh, và được khuyến khích tìm kiếm sự hỗ trợ trực tiếp từ những người đáng tin cậy khi các cuộc hội thoại chuyển sang phạm vi rủi ro cao. Khi có nguy cơ cấp bách, thanh thiếu niên được khuyến cáo liên hệ với các dịch vụ khẩn cấp hoặc các nguồn hỗ trợ khủng hoảng.
Cũng như phần còn lại của Đặc tả mô hình, bộ Nguyên tắc U18 phản ánh hành vi mô hình mà chúng tôi mong muốn. Chúng tôi sẽ tiếp tục tinh chỉnh chúng khi kết hợp nghiên cứu mới, thông tin đầu vào của chuyên gia và quá trình sử dụng thực tế.
Cùng với việc cập nhật bản Đặc tả mô hình, chúng tôi áp dụng một cách tiếp cận đa tầng để tăng cường an toàn cho thanh thiếu niên trên ChatGPT, bao gồm các biện pháp bảo vệ sản phẩm, hỗ trợ gia đình và hướng dẫn từ chuyên gia.
Kể từ khi triển khai biện pháp kiểm soát của cha mẹ(mở trong cửa sổ mới), chúng tôi mở rộng các biện pháp bảo vệ trên các sản phẩm mới bao gồm trò chuyện nhóm, trình duyệt ChatGPT Atlas và ứng dụng Sora. Những cập nhật này giúp cha mẹ tùy chỉnh trải nghiệm ChatGPT của con cái khi chúng tôi giới thiệu các sản phẩm và tính năng mới.
Theo hướng dẫn của các chuyên gia, chúng tôi khuyến khích các cuộc trò chuyện liên tục giữa cha mẹ và thanh thiếu niên về việc sử dụng AI một cách lành mạnh và có trách nhiệm trong gia đình. Để hỗ trợ những cuộc trò chuyện này, chúng tôi bổ sung tài nguyên mới được chuyên gia kiểm duyệt vào trung tâm tài nguyên cho phụ huynh(mở trong cửa sổ mới), bao gồm Hướng dẫn gia đình giúp thanh thiếu niên sử dụng AI có trách nhiệm(mở trong cửa sổ mới) và mẹo cho phụ huynh(mở trong cửa sổ mới) hướng dẫn cách nói chuyện với con cái về AI, đã được ConnectSafely và các thành viên của Hội đồng Chuyên gia về Sức khoẻ, An khang và AI xem xét. Chúng tôi sẽ tiếp tục bổ sung thêm tài nguyên theo thời gian. Chúng tôi cũng hỗ trợ việc sử dụng lành mạnh trực tiếp trong sản phẩm, với nhắc nhở tạm nghỉ tích hợp sẵn trong các phiên dài để giúp thời gian sử dụng ChatGPT có chủ đích và cân bằng.
Nỗ lực của chúng tôi nhằm đảm bảo an toàn cho thanh thiếu niên được định hướng bởi mối hợp tác chặt chẽ với các chuyên gia từ nhiều lĩnh vực và chuyên môn. Trong tháng 10, chúng tôi đã thành lập một Hội đồng chuyên gia về Sức khoẻ, An khang và AI để giúp tư vấn và định nghĩa các tương tác lành mạnh với AI nên diễn ra như thế nào cho mọi lứa tuổi. Công việc đó đã cung cấp thông tin dẫn dắt về tính năng kiểm soát của cha mẹ và thông báo cho cha mẹ. Chúng tôi cũng kết hợp chuyên môn lâm sàng thông qua Mạng lưới Bác sĩ Toàn cầu của mình để thông báo nghiên cứu an toàn và đánh giá hành vi của mô hình, bao gồm cải thiện cách ChatGPT nhận biết căng thẳng và hướng dẫn bạn tìm đến dịch vụ chăm sóc chuyên nghiệp khi cần thiết. Chúng tôi đã xây dựng dựa trên những nền tảng này với GPT‑5.2, và chúng tôi cũng đã mở rộng quyền truy cập vào hỗ trợ thực tế bằng cách hiển thị các đường dây trợ giúp địa phương trong ChatGPT và Sora thông qua mối hợp tác với ThroughLine(mở trong cửa sổ mới).
Chúng tôi đang trong giai đoạn đầu triển khai mô hình dự đoán độ tuổi(mở trong cửa sổ mới) trên các gói ChatGPT dành cho người tiêu dùng. Điều này sẽ giúp chúng tôi tự động áp dụng các biện pháp bảo vệ cho thanh thiếu niên khi chúng tôi tin rằng có tài khoản thuộc về một người chưa thành niên. Nếu chúng tôi không chắc chắn về độ tuổi của ai đó hoặc có thông tin chưa đầy đủ, chúng tôi sẽ mặc định mang đến trải nghiệm cho người dưới 18 tuổi và cung cấp cho người trưởng thành cách để xác minh độ tuổi của họ.
Tăng cường an toàn cho thanh thiếu niên là công việc diễn ra không ngừng và chúng tôi sẽ tiếp tục cải thiện các biện pháp kiểm soát của cha mẹ và khả năng của mô hình, mở rộng các nguồn lực cho phụ huynh, làm việc với các tổ chức, nhà nghiên cứu và các đối tác chuyên gia bao gồm Hội đồng Sức khoẻ và An khang và Mạng lưới Bác sĩ Toàn cầu.
Chúng tôi cam kết thực hiện các biện pháp bảo vệ mạnh mẽ cho thanh thiếu niên và cải thiện chúng theo thời gian để hỗ trợ tốt hơn cho thanh thiếu niên và gia đình.
