อัปเดตสเปกโมเดลของเราด้วยมาตรการปกป้องสำหรับวัยรุ่น
หลักการ U18 ใหม่ที่ได้รับคำแนะนำจากผู้เชี่ยวชาญ กำหนดแนวทางว่า ChatGPT ควรสนับสนุนวัยรุ่นด้วยพฤติกรรมที่ปลอดภัยและเหมาะสมกับช่วงวัย
เรากำลังแบ่งปันการอัปเดตเกี่ยวกับสเปคโมเดลของเรา ซึ่งเป็นชุดกฎ ค่านิยม และความคาดหวังด้านพฤติกรรมที่เขียนขึ้นเพื่อชี้นำว่าเราต้องการให้โมเดล AI ของเราทำงานอย่างไร โดยเฉพาะในสถานการณ์ที่ยากลำบากหรือมีความเสี่ยงสูง พร้อมด้วยหลักการสำหรับผู้ที่มีอายุต่ำกว่า 18 ปี (U18)(เปิดในหน้าต่างใหม่) ใหม่ พฤติกรรมของโมเดลมีความสำคัญต่อวิธีที่ผู้คนโต้ตอบกับ AI และวัยรุ่นมีความต้องการพัฒนาที่แตกต่างจากผู้ใหญ่
หลักการ U18 เป็นแนวทางในการให้ ChatGPT มอบประสบการณ์ที่ปลอดภัยและเหมาะสมกับวัยสำหรับวัยรุ่นอายุ 13 ถึง 17 ปี โดยมีพื้นฐานจากวิทยาศาสตร์การพัฒนา แนวทางนี้ให้ความสำคัญกับการป้องกัน ความโปร่งใส และการแทรกแซงตั้งแต่เนิ่นๆ ในการพัฒนาหลักการเหล่านี้ เราได้ดูตัวอย่างกับผู้เชี่ยวชาญภายนอก รวมถึงสมาคมจิตวิทยาอเมริกัน ซึ่งเป็นส่วนหนึ่งของงานที่เราทำอย่างต่อเนื่องเพื่อรับฟังความคิดเห็นเพื่อเสริมสร้างแนวทางของเรา
แม้ว่า หลักการของ โมเดล Spec จะต่อไปใช้กับผู้ใช้ทั้งผู้ใหญ่และวัยรุ่น การอัปเดตนี้ชี้แจงว่าหลักการเหล่านี้ใช้ในบริบทของวัยรุ่นอย่างไร โดยเฉพาะในกรณีที่การพิจารณาด้านความปลอดภัยสำหรับผู้เยาว์อาจมีความสำคัญมากขึ้น
หลักการ U18 ยึดมั่นในคำมั่นสี่ประการที่ชี้นำ:
- ให้ความสำคัญกับความปลอดภัยของวัยรุ่นเป็นอันดับแรก แม้ว่าจะขัดแย้งกับเป้าหมายอื่นๆ
- ส่งเสริมการสนับสนุนในโลกแห่งความเป็นจริง โดยการกระตุ้นให้เกิดความสัมพันธ์แบบออฟไลน์และการใช้แหล่งข้อมูลที่เชื่อถือได้
- ปฏิบัติต่อวัยรุ่นเหมือนวัยรุ่นโดยไม่แสดงท่าทีดูถูกหรือปฏิบัติต่อพวกเขาเหมือนผู้ใหญ่
- โปร่งใสโดยการตั้งความคาดหวังให้ชัดเจน
สอดคล้องกับแผนแม่บทเสริมสร้างความปลอดภัยให้กับวัยรุ่น หลักการเหล่านี้ได้ชี้นำการทำงานด้านความปลอดภัยของวัยรุ่นของเราจนถึงปัจจุบัน รวมถึงการป้องกันเนื้อหาที่เรานำไปใช้กับผู้ใช้ที่แจ้งว่าอายุต่ำกว่า 18 ปีเมื่อลงชื่อ และผ่านการควบคุมโดยผู้ปกครอง ในบริบทเหล่านี้ เราได้ดำเนินการป้องกันเพื่อแนะนำโมเดลให้ระมัดระวังเป็นพิเศษเมื่อพูดถึงพื้นที่ที่มีความเสี่ยงสูง ซึ่งรวมถึงการทำร้ายตัวเองและการฆ่าตัวตาย การเล่นบทบาทที่โรแมนติกหรือมีลักษณะทางเพศ เนื้อหาที่มีภาพกราฟิกหรือชัดเจน กิจกรรมและสารอันตราย ภาพลักษณ์ของร่างกายและการกินที่ผิดปกติ และคำขอให้เก็บความลับเกี่ยวกับพฤติกรรมที่ไม่ปลอดภัย
สมาคมจิตวิทยาอเมริกัน ซึ่งได้ตรวจสอบร่างแรกของสเปกโมเดล U18 และให้ข้อคิดเห็นที่สำคัญสำหรับระยะยาว ได้ชี้แจงอย่างชัดเจนถึงความสำคัญของการปกป้องวัยรุ่น:
“APA สนับสนุนให้นักพัฒนา AI เสนอข้อควรระวังที่เหมาะสมกับพัฒนาการสำหรับผู้ใช้เยาวชนของผลิตภัณฑ์ และใช้แนวทางที่ปกป้องมากขึ้นสำหรับผู้ใช้ที่อายุน้อยกว่า เด็กและวัยรุ่นอาจได้รับประโยชน์จากเครื่องมือ AI หากมีการสมดุลกับการปฏิสัมพันธ์กับมนุษย์ ซึ่งวิทยาศาสตร์แสดงให้เห็นว่ามีความสำคัญต่อการพัฒนาทางสังคม จิตวิทยา พฤติกรรม และชีวภาพ ประสบการณ์ของเยาวชนกับ AI ควรได้รับการดูแลอย่างใกล้ชิดและพูดคุยกับผู้ใหญ่ที่เชื่อถือได้ เพื่อส่งเสริมการทบทวนอย่างวิพากษ์วิจารณ์ในสิ่งที่บอท AI นำเสนอ และเพื่อส่งเสริมการพัฒนาความคิดและทักษะที่เป็นอิสระของเยาวชน
การอัปเดตนี้ยังชี้แจงวิธีที่ผู้ช่วยควรตอบสนองเมื่อมีข้อกังวลด้านความปลอดภัยสำหรับเยาวชน หมายความว่าวัยรุ่นควรพบกับมาตรการควบคุมที่เข้มงวดขึ้น ทางเลือกที่ปลอดภัยกว่า และการสนับสนุนให้แสวงหาความช่วยเหลือจากแหล่งที่เชื่อถือได้เมื่อบทสนทนาเข้าสู่พื้นที่ที่มีความเสี่ยงสูงขึ้น เมื่อมีความเสี่ยงที่ใกล้เข้ามา ขอแนะนำให้วัยรุ่นติดต่อบริการฉุกเฉินหรือแหล่งข้อมูลวิกฤต
เช่นเดียวกับส่วนอื่น ๆ ของสเปคโมเดล หลักการ U18 สะท้อนถึงพฤติกรรมของโมเดลที่เราตั้งใจไว้ เราจะปรับปรุงสิ่งเหล่านี้ต่อไปเมื่อเราได้รวมการวิจัยใหม่ อินพุตจากผู้เชี่ยวชาญ และการใช้งานจริงในโลก
ควบคู่ไปกับการอัปเดตสเปคของโมเดล เราได้ใช้วิธีการหลายชั้นในการเสริมสร้างความปลอดภัยให้กับวัยรุ่น ใน ChatGPT ครอบคลุมถึงการป้องกันผลิตภัณฑ์ การสนับสนุนครอบครัว และคำแนะนำจากผู้เชี่ยวชาญ
ตั้งแต่เปิดตัวการควบคุมโดยผู้ปกครอง(เปิดในหน้าต่างใหม่) เราได้ขยายการป้องกันไปยังผลิตภัณฑ์ใหม่ ๆ รวมถึง Group Chat เบราว์เซอร์ ChatGPT Atlas และแอป Sora การอัปเดตเหล่านี้ช่วยให้ผู้ปกครองปรับแต่งประสบการณ์การใช้งาน ChatGPT ของวัยรุ่นได้ ขณะที่เรานำเสนอผลิตภัณฑ์และฟีเจอร์ใหม่
ตามคำแนะนำของผู้เชี่ยวชาญ เราสนับสนุนให้มีการบทสนทนาอย่างต่อเนื่องระหว่างผู้ปกครองและวัยรุ่นเกี่ยวกับการใช้ AI อย่างมีสุขภาพดีและมีความรับผิดชอบในครอบครัว เพื่อสนับสนุนบทสนทนาเหล่านี้ เราได้เพิ่มแหล่งข้อมูลใหม่ที่ผ่านการตรวจสอบจากผู้เชี่ยวชาญในศูนย์ทรัพยากรสำหรับผู้ปกครอง(เปิดในหน้าต่างใหม่) รวมถึงคู่มือครอบครัวเพื่อช่วยให้วัยรุ่นใช้ AI อย่างมีความรับผิดชอบ(เปิดในหน้าต่างใหม่)และเคล็ดลับสำหรับผู้ปกครอง(เปิดในหน้าต่างใหม่)เกี่ยวกับวิธีการพูดคุยกับลูกเกี่ยวกับ AI ซึ่งได้รับการตรวจสอบโดย ConnectSafely และสมาชิกของสภาผู้เชี่ยวชาญด้านสุขภาวะและ AIของเรา เราจะเพิ่มแหล่งข้อมูลเพิ่มเติมอย่างต่อเนื่อง เรายังสนับสนุนการใช้งานอย่างมีสุขภาวะโดยตรงในผลิตภัณฑ์ ด้วย การเตือนให้พักในตัว ระหว่างเซสชันที่ยาวนาน เพื่อช่วยให้การใช้เวลาไปกับ ChatGPT เป็นไปอย่างมีจุดประสงค์และสมดุล
งานของเราในด้านความปลอดภัยของวัยรุ่นได้รับการชี้นำโดยการมีส่วนร่วมอย่างใกล้ชิดกับผู้เชี่ยวชาญจากหลากหลายสาขา ในเดือนตุลาคม เราได้จัดตั้งสภาผู้เชี่ยวชาญด้านสุขภาวะและ AI เพื่อให้คำปรึกษาและกำหนดลักษณะการมีปฏิสัมพันธ์กับ AI ที่ดีต่อสุขภาวะสำหรับทุกวัย งานนั้นได้ให้คำแนะนำเกี่ยวกับการควบคุมโดยผู้ปกครองและการแจ้งเตือนสำหรับผู้ปกครอง เรายังผนวกความเชี่ยวชาญทางคลินิกผ่าน Global Physician Network ของเราเพื่อแจ้งการวิจัยด้านความปลอดภัยและประเมินพฤติกรรมของโมเดล รวมถึงการปรับปรุงวิธีที่ ChatGPT รับรู้ความทุกข์และแนะนำผู้คนไปสู่การดูแลจากมืออาชีพเมื่อเหมาะสม เราได้พัฒนาต่อยอดจากพื้นฐานเหล่านี้ด้วย GPT‑5.2 และยังได้ขยายการเข้าถึงการสนับสนุนในโลกจริงโดยการแสดงสายด่วนท้องถิ่นใน ChatGPT และ Sora ผ่านความร่วมมือกับ ThroughLine(เปิดในหน้าต่างใหม่)
เรากำลังอยู่ในช่วงเริ่มต้นของการทยอยเปิดตัวโมเดลการทำนายอายุ(เปิดในหน้าต่างใหม่)ในแผนบริการ ChatGPT สำหรับผู้บริโภค สิ่งนี้จะช่วยให้เรานำมาตรการป้องกันสำหรับวัยรุ่นมาใช้โดยอัตโนมัติเมื่อเราเชื่อว่าบัญชีเป็นของผู้เยาว์ หากเราไม่มั่นใจเกี่ยวกับอายุของบุคคลหรือมีข้อมูลไม่ครบถ้วน เราจะใช้ค่าเริ่มต้นเป็นประสบการณ์สำหรับผู้ที่อายุต่ำกว่า 18 ปี และให้วิธีการสำหรับผู้ใหญ่ในการตรวจสอบอายุของตนเอง
การเสริมสร้างความปลอดภัยสำหรับวัยรุ่นเป็นงานที่ต้องทำอย่างต่อเนื่อง และเราจะพัฒนาการควบคุมโดยผู้ปกครองและความสามารถของโมเดลต่อไป ขยายทรัพยากรสำหรับผู้ปกครอง ทำงานร่วมกับองค์กร นักวิจัย และพันธมิตรผู้เชี่ยวชาญ รวมถึงสภาสุขภาวะและเครือข่ายแพทย์ระดับโลก
เรามุ่งมั่นที่จะสร้างการปกป้องที่แข็งแกร่งสำหรับวัยรุ่นและปรับปรุงให้ดีขึ้นเรื่อย ๆ เพื่อสนับสนุนวัยรุ่นและครอบครัวให้ดียิ่งขึ้น
