Why teens deserve access to safe AI

Teens are the first generation growing up with AI, and this technology will heavily shape their future. Today, nearly 9 in 10 teens on ChatGPT use it for learning, information, skill-building, or productivity in a single week. This is why we believe it’s critical for teens to have access to AI. Keeping teens from using it until adulthood would be like asking a previous generation to avoid the internet or search engines until they turned 18, leaving them less prepared to use one of the defining technologies of their time. But access must be paired with protections designed specifically for teens.

During a recent OpenAI Academy⁠(در یک پنجره جدید باز می‌شود) Oriana McKenzie shared how ChatGPT helped her become No.1 in her high school class by studying smarter and managing her workload—giving her the time needed for the sports and school programs she loves. Her story illustrates what’s possible when teens have access to AI that helps them learn and create.

To maximize those gains, teens need stronger protections designed for their stage of life, including automated guardrails that let them explore, learn, and build with confidence, while providing safeguards tailored to their age. As AI becomes more capable, our responsibility is to combine broad access with age-appropriate protections that allow teens to benefit from this technology as it evolves.

Over the past year, that has meant strengthening default protections for teens, rolling out age prediction⁠, expanding Parental Controls⁠, creating additional family resources⁠(در یک پنجره جدید باز می‌شود) to help parents support healthy, responsible use, and introducing learning features to help support deeper understanding rather than just providing answers.

Our work is guided by four key commitments⁠:

• We put teen safety first even when it may conflict with other goals.
• We encourage real-world support in times of need.
• We treat teens as teens.
• We are transparent by setting clear expectations.

Learning is one of the clearest ways teens benefit from AI, so we’re building tools that encourage active engagement, critical thinking, and deeper understanding. Study Mode⁠(در یک پنجره جدید باز می‌شود) was designed in collaboration with teachers, learning scientists, and pedagogy experts to help students work through problems step by step using guiding questions, structured explanations, and opportunities for reflection without simply providing the answer. Early evaluation of tools like Study Mode has shown promising gains in student performance⁠, helping inform our broader research into how AI can support learning outcomes.

While teens can turn this mode on themselves, now parents with linked teen accounts can turn on Study Mode⁠ directly from Parental Controls⁠. When enabled, it is on by default whenever a teen starts a new chat, giving families another way to guide how ChatGPT is used for schoolwork and study.

We also recently introduced education-focused starter prompts for teens so it is easier to begin with tasks like breaking down a topic into simple steps, turning notes into a study guide, creating flashcards or practice questions, and checking evidence and clarity.

We’re continuing to expand interactive learning experiences⁠ as well. Research has consistently shown⁠ that people learn more effectively when they can actively engage with concepts rather than passively consume information. Since launching earlier this year, 18 million weekly users now engage with interactive math and science experiences in ChatGPT, and we’ve expanded those experiences to more than 300 topics total from integrals and mitosis to moon phases, photosynthesis and more. We also introduced a pronunciation experience that uses audio to help people learn how to pronounce words in more than 61 languages.

اگر سامانه ما تخمین بزند فردی که از ChatGPT استفاده می‌کند زیر ۱۸ سال است،⁠ به‌طور خودکار تجربه‌ای متناسب‌تر با سن⁠(در یک پنجره جدید باز می‌شود) ارائه می‌کنیم. نوجوانان همچنان می‌توانند از ChatGPT برای یادگیری، خلق کردن و کاوش استفاده کنند، اما با حفاظت‌های بیشتری که برای کاهش مواجهه با محتوایی طراحی شده‌اند که ممکن است برایشان مناسب نباشد. این شامل حفاظ‌های قوی‌تر پیرامون خشونت تصویری و صریح، خودآسیب‌رسانی، چالش‌های ویروسی پرخطر، محتوای ناسالم درباره تصویر بدن، و نقش‌آفرینی خطرناک، عاشقانه یا جنسی است. ستاره راهنما این است که کمک کنیم ChatGPT همچنان ابزاری برای یادگیری و خلاقیت بماند، نه جایگزینی برای روابط دنیای واقعی.

ما همچنین ChatGPT را طوری طراحی می‌کنیم که عادت‌های سالم را تشویق کند. نوجوانانی که مدت طولانی را در ChatGPT می‌گذرانند، اکنون یادآورهای استراحت⁠ بیشتری دریافت می‌کنند که آن‌ها را به مکث و فاصله گرفتن تشویق می‌کند. هدف این یادآورها کمک به جوانان برای ساختن عادت‌های متعادل در استفاده از فناوری است، در حالی که همچنان آزادی استفاده از هوش مصنوعی برای یادگیری، خلاقیت و حل مسئله را دارند.

باور داریم بهترین ابزارهای ایمنی می‌توانند به خانواده‌ها کمک کنند تجربه‌های آنلاین نوجوانان را با هم مدیریت کنند. ما کنترل های والدین و اعلان‌ها⁠ را ساختیم تا به آن‌ها امکان دهد ساعت‌های آرام تعیین کنند، حالت صوتی را خاموش کنند، دسترسی به تولید تصویر را مدیریت کنند و در برخی موقعیت‌های پرخطر، مانند نشانه‌های خودآسیب‌رسانی احتمالی، اعلان دریافت کنند.

ما این اعلان‌ها را گسترش می‌دهیم تا مواردی را نیز در بر بگیرد که حساب پیوندخورده یک نوجوان به دلیل نقض سیاست‌های استفاده ما⁠ درباره تهدیدهای خشونت‌آمیز یا اعمال خشونت آنلاین غیرفعال شده است. این رویکرد به والدین کمک می‌کند بدانند چه زمانی اتفاقی جدی رخ داده است، در عین حال که به حریم خصوصی نوجوانان احترام می‌گذارد و گفت‌وگو و پشتیبانی آفلاین را تشویق می‌کند.

هنگام توسعه این قابلیت‌ها، با چندین کارشناس، از جمله Moonshot⁠(در یک پنجره جدید باز می‌شود)، پیشگام پیشگیری از خشونت آنلاین، مشورت کردیم تا کمک کنیم این مداخله‌ها سنجیده، مؤثر و متمرکز بر کمک به خانواده‌ها برای واکنش در زمان نیاز باشند.

همچنین می‌خواهیم مطمئن شویم والدین، نوجوانان و مربیان راهنمایی روشنی درباره بهترین شیوه استفاده مسئولانه از هوش مصنوعی دارند. ما منابع آموزشی را به بیش از ۵۰ زبان منتشر می‌کنیم، از جمله راهنمای خانواده برای کمک به نوجوانان در استفاده مسئولانه از هوش مصنوعی⁠(در یک پنجره جدید باز می‌شود)، نکته‌هایی برای گفت‌وگو با نوجوانتان درباره هوش مصنوعی⁠(در یک پنجره جدید باز می‌شود)، و نکته‌هایی برای والدینی که از ChatGPT استفاده می‌کنند⁠(در یک پنجره جدید باز می‌شود).

ایمن نگه داشتن جوانان در فضای آنلاین چیزی نیست که یک شرکت به‌تنهایی بتواند حل کند. ما از نزدیک با نوجوانان، والدین، مربیان، کارشناسان ایمنی کودک، متخصصان سلامت روان، پژوهشگران، دولت‌ها و سازمان‌های جامعه مدنی همکاری می‌کنیم. این مشارکت‌ها به ما کمک می‌کنند نیازهای جوانان را بهتر درک کنیم، خطرات نوظهور را شناسایی کنیم، اثربخشی حفاظ‌هایمان را بسنجیم و مطمئن شویم سیاست‌هایمان از تخصص مستقل بهره می‌گیرند.

این کار رویکرد ما را هم در یادگیری و هم در سلامت و بهزیستی جوانان در بر می‌گیرد. ما با مربیان، از جمله فدراسیون معلمان آمریکا⁠، دانش‌آموزان و سازمان‌های یادگیری همکاری می‌کنیم تا بهتر بفهمیم هوش مصنوعی چگونه می‌تواند از آموزش و یادگیری پشتیبانی کند و در عین حال مشارکت فعال و تفکر انتقادی را تقویت کند. همچنین از نزدیک با کارشناسان حوزه‌های سلامت روان، رشد کودک و ایمنی جوانان همکاری می‌کنیم؛ از جمله با انجمن روان‌شناسی آمریکا⁠(در یک پنجره جدید باز می‌شود)، شبکه جهانی پزشکان⁠ ما، و شورای کارشناسی بهزیستی و هوش مصنوعی⁠ ما.

کار ما برای ساختن اکوسیستمی دیجیتال و سالم‌تر فراتر از محصولات خودمان می‌رود. ما خواستار تدوین استانداردهای جهانی مقیاس‌پذیر برای ایمنی هوش مصنوعی جوانان⁠ از طریق یک مؤسسه اختصاصی ایمنی هوش مصنوعی شده‌ایم، سیاست‌ها و ابزارهایی را متن‌باز کرده‌ایم⁠ که توسعه‌دهندگان می‌توانند در سامانه‌های هوش مصنوعی خود به کار بگیرند، و با سازمان‌هایی از جمله Common Sense Media⁠(در یک پنجره جدید باز می‌شود) و everyone.ai⁠(در یک پنجره جدید باز می‌شود) همکاری می‌کنیم تا آموخته‌ها و بهترین روش‌ها را به اشتراک بگذاریم.

امسال همچنین به مؤسسه ایمنی آنلاین خانواده⁠(در یک پنجره جدید باز می‌شود) (FOSI) پیوستیم؛ نهادی باسابقه که از تجربه‌های آنلاین ایمن برای خانواده‌ها و جوانان حمایت می‌کند. با هم کار خواهیم کرد تا جوانان بتوانند از هوش مصنوعی بهره‌مند شوند، در حالی که والدین توانمند و رویه‌های مسئولانه صنعت در مرکز کار قرار دارند. امیدواریم این مشارکت به پیشبرد درک مشترک از آنچه مؤثر است، تقویت حفاظت‌های متناسب با سن و ابزارهای والدین، و پشتیبانی از تلاش‌های سراسر صنعت کمک کند تا جوانان بتوانند با ایمنی و مسئولیت‌پذیری از هوش مصنوعی بهره‌مند شوند.

حفاظت از جوانان در فضای آنلاین به پیشرفت مستمر نیاز دارد. در ماه‌های آینده، به تقویت حفاظت‌های متناسب با سن، دادن ابزارها و کنترل بیشتر به والدین، بهبود حفاظ‌ها در برابر آسیب‌های جدی، پیشبرد پژوهش درباره استفاده سالم از هوش مصنوعی، و ساختن تجربه‌های بیشتری ادامه می‌دهیم که به نوجوانان کمک می‌کند فعالانه بیاموزند و با اطمینان از هوش مصنوعی استفاده کنند.

می‌دانیم هنوز کارهای بیشتری باید انجام شود و متعهدیم با همکاری نوجوانان، والدین، مربیان، کارشناسان و جوامع در سراسر جهان کارمان را ادامه دهیم تا دسترسی گسترده و ایمن را برای نوجوانان فراهم کنیم.