Ажурирање на нашата спецификација на моделот со заштити за тинејџерите
Водени од експертски насоки, новите Принципи U18 објаснуваат како ChatGPT треба да ги поддржува тинејџерите со безбедно и соодветно за возраста однесување.
Споделуваме ажурирање на нашата Спецификација на модел, пишан сет на правила, вредности и очекувања за однесување кои водат како сакаме нашите модели за вештачка интелигенција да се однесуваат, особено во тешки или критични ситуации, со нови Принципи за под 18 години (U18)(се отвора во нов прозорец). Однесувањето на моделот е клучно за тоа како луѓето комуницираат со вештачката интелигенција, а тинејџерите имаат различни развојни потреби од возрасните.
Принципите U18 водат како ChatGPT треба да обезбеди безбедно и соодветно за возраста искуство за тинејџери од 13 до 17 години. Втемелени во развојната наука, овој пристап дава приоритет на превенцијата, транспарентноста и раната интервенција. При развивањето на овие принципи, ги разгледавме со надворешни експерти, вклучувајќи ја и Американската психолошка асоцијација, како дел од нашата тековна работа за да побараме увид за зајакнување на нашиот пристап.
Иако принципите на Спецификацијата на моделот продолжуваат да важат и за возрасни и за тинејџери, ова ажурирање појаснува како овие принципи се применуваат во контексти на тинејџери, особено каде што безбедносните размислувања за малолетници можат да бидат поизразени.
Принципите U18 се засновани на четири водечки обврски:
- Стави ја безбедноста на тинејџерите на прво место, дури и кога може да се судри со други цели
- Промовирај реална поддршка преку поттикнување на офлајн односи и доверливи ресурси
- Третирај ги тинејџерите како тинејџери, ниту со потценување, ниту како возрасни
- Биди транспарентен со поставување јасни очекувања
Во согласност со нашиот Teen Safety Blueprint, овие принципи ја водеа нашата работа за безбедност на тинејџерите до денес, вклучувајќи ги заштитите на содржината што ги применуваме за корисниците кои ни кажуваат дека се под 18 години кога се регистрираат, и преку родителска контрола. Во овие контексти, воведовме заштитни мерки за да го насочиме моделот да биде особено внимателен кога се дискутираат теми со повисок ризик, вклучувајќи самоповредување и самоубиство, романтична или сексуализирана игра со улоги, графичка или експлицитна содржина, опасни активности и супстанции, слика на телото и нарушено јадење, и барања за чување тајни за небезбедно однесување.
Американската психолошка асоцијација, која го прегледа раниот нацрт на Спецификацијата на моделот U18 и понуди важни согледувања за долгорочната перспектива, е јасна во врска со важноста за заштита на тинејџерите:
„APA ги охрабрува развивачите на софтвер да понудат развојно соодветни мерки на претпазливост за младите корисници на нивните производи и да преземат по заштитнички пристап за помладите корисници. Децата и адолесцентите може да имаат корист од алатките на вештачка интелигенција ако се балансирани со човечки интеракции кои науката покажува дека се критични за социјалниот, психолошкиот, бихевиоралниот и дури и биолошкиот развој. Искуствата на младите со вештачката интелигенција треба да бидат темелно надгледувани и дискутирани со возрасни од доверба за да се поттикне критичко размислување за она што го нудат ботовите со вештачка интелигенција и да се поттикне развојот на независно размислување и вештини кај младите.“
Ова ажурирање исто така појаснува како асистентот треба да одговори кога ќе се појават безбедносни грижи во врска со тинејџерите. Ова значи дека тинејџерите треба да наидат на посилни заштитни мерки, побезбедни алтернативи и охрабрување да побараат доверлива офлајн поддршка кога разговорите се движат во територија со поголем ризик. Каде што има непосреден ризик, тинејџерите се охрабрувани да се обратат на итни служби или на ресурси за кризни ситуации.
Како и со останатиот дел од Спецификацијата на моделот, Принципите U18 го одразуваат нашето предвидено однесување на моделот. Ќе продолжиме да ги усовршуваме додека вклучуваме нови истражувања, експертски увид и реална употреба.
Покрај ажурирањето на Спецификацијата на моделот, презедовме повеќеслоен пристап за зајакнување на безбедноста на тинејџерите низ ChatGPT, вклучувајќи заштитни мерки на производот, поддршка за семејството и експертско водство.
Откако ги воведовме родителски контроли(се отвора во нов прозорец), ги проширивме заштитите на нови производи, вклучувајќи групни разговори, прелистувачот ChatGPT Atlas и апликацијата Sora. Овие ажурирања им помагаат на родителите да го прилагодат искуството на нивните тинејџери со ChatGPT додека воведуваме нови производи и карактеристики.
Во согласност со експертските насоки, ги охрабруваме родителите и тинејџерите да водат континуирани разговори за здраво и одговорно користење на вештачката интелигенција во нивното семејство. За да ги поддржиме овие разговори, додадовме нови ресурси проверени од експерти во центарот за ресурси за родители(се отвора во нов прозорец), вклучувајќи Семеен водич за помош на тинејџерите да користат вештачка интелигенција одговорно(се отвора во нов прозорец) и совети за родители(се отвора во нов прозорец) за тоа како да разговараат со своите деца за вештачката интелигенција, кои беа прегледани од ConnectSafely и членовите на нашето Советодавно тело за благосостојба и вештачка интелигенција. Ќе продолжиме да додаваме повеќе ресурси со текот на времето. Ние исто така поддржуваме здраво користење директно во производот, со вградени потсетници за паузи за време на долги сесии за да помогнеме времето поминато со ChatGPT да биде свесно и балансирано.
Нашата работа во областа на безбедноста на тинејџерите е водена од блиска соработка со експерти од различни дисциплини и области на знаење. Во октомври, основавме Експертски совет за благосостојба и вештачка интелигенција за да помогне во советувањето и дефинирањето на тоа како треба да изгледаат здравите интеракции со вештачката интелигенција за сите возрасти. Таа работа даде насоки за родителска контрола и известувања за родителите. Исто така, вклучуваме клиничка експертиза преку нашата Глобална мрежа на лекари за да информираме за истражувањето на безбедноста и да го оцениме однесувањето на моделот, вклучувајќи го подобрувањето на начинот на кој ChatGPT препознава вознемиреност и ги насочува луѓето кон професионална грижа кога е соодветно. Градевме на овие основи со GPT‑5.2, и исто така го проширивме пристапот до реална поддршка со прикажување на локализирани телефонски линии за помош во ChatGPT и Sora преку нашето партнерство со ThroughLine(се отвора во нов прозорец).
Сега сме во раните фази на воведување на модел за предвидување на возраст(се отвора во нов прозорец) во плановите за ChatGPT наменети за потрошувачи. Ова ќе ни помогне автоматски да примениме заштитни мерки за тинејџери кога веруваме дека сметката припаѓа на малолетник. Ако не сме сигурни за возраста на некого или имаме нецелосни информации, ќе се придржуваме кон стандардното искуство за под 18 години и ќе им дадеме на возрасните начини да ја потврдат својата возраст.
Зајакнувањето на безбедноста на тинејџерите е работа во тек и ќе продолжиме да ги подобруваме родителските контроли и можностите на моделот, да ги прошируваме ресурсите за родителите, да соработуваме со организации, истражувачи и експертски партнери, вклучувајќи го Советот за благосостојба и Глобалната мрежа на лекари.
Посветени сме на создавање силни заштити за тинејџерите и нивно подобрување со текот на времето за подобро да ги поддржуваме тинејџерите и семејствата.
