Objavljamo posodobitev naših modelnih specifikacij (Model Spec), pisnega nabora pravil, vrednot in vedenjskih pričakovanj, ki usmerjajo, kako želimo, da se naši modeli umetne inteligence obnašajo zlasti v težkih ali zahtevnih situacijah, z novimi Načeli za mlajše od 18 let (načela U18)(odpre se v novem oknu). Obnašanje modela ima ključno vlogo pri tem, kako ljudje komunicirajo z umetno inteligenco, in najstniki imajo drugačne razvojne potrebe kot odrasli.
Načela U18 podajajo smernice, kako naj ChatGPT zagotavlja varno in starosti primerno izkušnjo najstnikom med 13. in 17. letom starosti. Ta pristop, ki temelji na spoznanjih razvojne znanosti, daje prednost preprečevanju, preglednosti in zgodnjemu posredovanju. Pri pripravi smo ta načela pregledali z zunanjimi strokovnjaki, vključno s strokovnjaki Ameriškega psihološkega združenja, kar spada v sklop naših stalnih prizadevanj za pridobivanje strokovnih mnenj, s katerimi krepimo svoj pristop.
Medtem ko načela v modelnih specifikacijah še naprej veljajo tako za odrasle kakor tudi najstniške uporabnike, je s to posodobitvijo pojasnjeno, kako se ta načela uporabljajo v mladostniških kontekstih, še posebej tam, kjer so varnostni vidiki za mladoletnike morda izrazitejši.
Načela U18 izhajajo iz štirih vodilnih zavez:
- Postavitev varnosti najstnikov na prvo mesto, tudi če je to v navzkrižju z drugimi cilji
- Zagotavljanje podpore v resničnem svetu s spodbujanjem vzpostavljanja odnosov zunaj spleta in uporabe zaupanja vrednih virov
- Obravnava najstnikov kot najstnikov, brez pokroviteljskega odnosa do njih in brez njihovega obravnavanja kot odraslih
- Zagotavljanje preglednosti z določitvijo jasnih pričakovanj
V skladu z našim Načrtom varnosti za najstnike so ta načela vodila naše dosedanje delo na področju varnosti najstnikov, vključno z vsebinskimi zaščitami, ki veljajo za uporabnike, ki nam ob registraciji povedo, da so mlajši od 18 let, in prek starševskega nadzora. V teh kontekstih smo uvedli zaščitne ukrepe, da bi model usmerili k večji previdnosti pri obravnavi področij z večjim tveganjem, vključno s samopoškodovanjem in samomorom, romantičnim ali seksualiziranim igranjem vlog, nazorno ali eksplicitno vsebino, nevarnimi dejavnostmi in snovmi, telesno podobo in motnjami hranjenja ter prošnjami za nerazkritje nevarnega vedenja.
Ameriško psihološko združenje, pri katerem so pregledali zgodnji osnutek modelnih specifikacij U18 in podali pomembne vpoglede za dolgoročno obdobje, jasno poudarja pomen zaščite mladostnikov:
»Ameriško psihološko združenje (APA) spodbuja razvijalce umetne inteligence, da ponudijo razvojno primerne previdnostne ukrepe za mlade uporabnike svojih izdelkov in da zavzamejo bolj zaščitniški pristop za mlajše uporabnike. Otroci in mladostniki bi lahko imeli koristi od orodij umetne inteligence, če so ta uravnotežena s človeškimi interakcijami, za katere je znanstveno dokazano, da so ključne za socialni, psihološki, vedenjski in celo biološki razvoj. Izkušnje mladih z umetno inteligenco bi morali temeljito nadzorovati in obravnavati zaupanja vredni odrasli, da bi spodbudili kritično presojanje tega, kar ponujajo UI-boti, in da bi spodbudili razvoj neodvisnega razmišljanja in spretnosti pri mladih.«
S to posodobitvijo je prav tako pojasnjeno, kako naj se digitalni pomočnik odzove, ko se pojavijo pomisleki glede varnosti najstnikov. To pomeni, da naj bi najstniki imeli na voljo močnejše varovalke, varnejše alternative in spodbudo, da poiščejo zanesljivo podporo zunaj spleta, kadar pogovor zaide v bolj tvegane teme. Kjer obstaja neposredna nevarnost, se mladostnikom svetuje, naj se obrnejo na nujne službe ali vire za pomoč v stiski.
Tako kot preostali del modelnih specifikacij tudi načela U18 odražajo naše predvideno vedenje modelov. Nadaljevali bomo z izpopolnjevanjem modelov na podlagi prihodnjih novih raziskav, strokovnih spoznanj in uporabe v resničnem svetu.
Poleg posodobitve modelnih specifikacij smo sprejeli večplastni pristop k krepitvi varnosti najstnikov v storitvi ChatGPT, ki vključuje varovalke v samem produktu, podporo družinam in strokovno vodenje.
Odkar smo uvedli starševski nadzor(odpre se v novem oknu), smo razširili zaščite na nove produkte, vključno s skupinskimi klepeti, brskalnikom ChatGPT Atlas in aplikacijo Sora. Te posodobitve pomagajo staršem prilagoditi izkušnjo s ChatGPT‑jem za najstnike, medtem ko sproti uvajamo nove produkte in funkcije.
V skladu s strokovnimi smernicami spodbujamo redne pogovore med starši in najstniki o zdravi in odgovorni uporabi umetne inteligence v njihovih družinah. Za podporo pri takšnih pogovorih smo v središče virov za starše(odpre se v novem oknu) dodali nove strokovno odobrene vire, vključno z Družinskim vodnikom za pomoč najstnikom pri odgovorni uporabi umetne inteligence(odpre se v novem oknu) in nasveti za starše(odpre se v novem oknu) o tem, kako se pogovarjati z otroki o umetni inteligenci, ki so jih pregledali pri organizaciji ConnectSafely in člani našega Strokovnega sveta za dobrobit in UI. V prihodnje bomo še naprej dodajali nove vire. Prav tako podpiramo zdravo uporabo neposredno v produktu, z vgrajenimi opomniki za odmore med dolgimi sejami, da pomagamo zagotoviti premišljeno in časovno uravnoteženo uporabo storitve ChatGPT.
Pri našem delu na področju varnosti mladostnikov nas vodi tesno sodelovanje s strokovnjaki iz različnih panog in strokovnih področij. Oktobra smo ustanovili Strokovni svet za dobrobit in UI, da bi lažje svetovali in opredelili, kakšne naj bi bile videti zdrave interakcije z umetno inteligenco pri uporabnikih vseh starosti. Na podlagi tega dela smo oblikovali smernice o starševskem nadzoru in obvestilih za starše. Prav tako se zanašamo na klinično strokovno znanje prek naše Globalne mreže zdravnikov za obveščanje o varnostnih raziskavah in za ocenjevanje vedenja modelov, vključno z izboljšanjem prepoznavanja stiske s strani ChatGPT‑ja in usmerjanjem ljudi k strokovni oskrbi, kadar je to primerno. Na tej podlagi smo nadgradili model GPT‑5.2, prav tako pa smo razširili dostop do podpore v resničnem svetu z lokaliziranimi telefonskimi linijami za pomoč v storitvah ChatGPT in Sora prek našega partnerstva z organizacijo ThroughLine(odpre se v novem oknu).
Smo v zgodnjih fazah uvajanja modela za predvidevanje starosti(odpre se v novem oknu) pri potrošniških paketih ChatGPT. To nam bo pomagalo samodejno uporabiti varovalke pri najstnikih, kadar bomo predvidevali, da račun pripada mladoletni osebi. Če nismo prepričani o starosti nekoga ali imamo nepopolne informacije, bomo privzeto uporabili izkušnjo U18 in odraslim omogočili načine za preverjanje starosti.
Krepitev varnosti najstnikov zahteva nenehno delo in nadaljevali bomo z izboljševanjem starševskega nadzora in zmogljivosti modelov, širili vire za starše, sodelovali z organizacijami, raziskovalci in strokovnimi partnerji, vključno s Svetom za dobrobit in Globalno mrežo zdravnikov.
Zavezani smo k zagotavljanju močne zaščite za najstnike in k njenemu izboljševanju skozi čas, da bomo tako zagotavljali boljšo podporo najstnikom in družinam.
