Közzétesszük a Modell specifikáció frissítését, azaz azt az írásos szabály- és értékrendszert, amely meghatározza, hogyan viselkedjenek az AI -modelljeink – különösen összetett vagy érzékeny helyzetekben. A frissítés új 18 év alattiakra (U18) vonatkozó alapelvekkel(új ablakban nyílik meg) egészül ki. A modell viselkedése kulcsfontosságú abban, hogyan lépnek kapcsolatba az emberek a mesterséges intelligenciával, és a tinédzsereknek mások a fejlődési igényeik a felnőttekhez képest.
Az U18 elvek szabályozzák azt, hogyan biztosítson a ChatGPT biztonságos, korosztálynak megfelelő élményt a 13 és 17 év közötti tinédzsereknek. A fejlődéslélektanra alapozva ez a megközelítés a megelőzést, az átláthatóságot és a korai beavatkozást helyezi előtérbe. Az alapelvek kidolgozása során külső szakértőkkel, köztük az Amerikai Pszichológiai Társasággal is egyeztettünk, részeként annak a folyamatos törekvésünknek, hogy visszajelzések segítségével tovább erősítsük megközelítésünket.
Miközben a Modell specifikáció alapelvei továbbra is érvényesek mind a felnőtt, mind a tinédzser felhasználókra, ez a frissítés tisztázza, hogyan alkalmazhatók ezek az elvek a tinédzser kontextusokban, különösen ott, ahol a kiskorúak biztonsága hangsúlyosabb.
A 18 év alattiakra (U18) vonatkozó alapelvek négy fő irányelvre épülnek:
- Első a tizenévesek biztonsága, még akkor is, ha ez más célokkal ütközhet
- Valós támogatás biztosítása offline kapcsolatok és megbízható források említésével
- A tizenévesek tizenéveskén történő kezelése, azaz se leereszkedő stílusban, se pedig felnőttként nem kezeljük őket
- Átláthatóság, egyértelmű elvárásokat felállításával
A Tinédzserekre vonatkozó biztonsági irányelveinkkel összhangban eddig is ezek az alapelvek vezérelték a tinédzserbiztonsági munkánkat. Ide tartoznak például azok a tartalmi óvintézkedések, amelyeket a 18 év alatti felhasználóknál alkalmazunk a regisztrációkor, valamint a szülői felügyeleti eszközökön keresztül érvényesített szabályok. Ezekben a kontextusokban olyan védelmi intézkedéseket vezettünk be, amelyek a modellt arra vezetik, hogy különös figyelmet fordítson a magasabb kockázatú területek taglalásakor, beleértve az önkárosítást és az öngyilkosságot, a romantikus vagy szexualizált szerepjátékot, a grafikus vagy explicit tartalmat, a veszélyes tevékenységeket és anyagokat, a testképet és a rendellenes étkezést, valamint a titoktartásra vonatkozó kéréseket a nem biztonságos viselkedéssel kapcsolatban.
Az U18 Modellspecifikáció első tervezetét ellenőrző Amerikai Pszichológiai Társaság fontos betekintéseket nyújtott hosszú távra is, és világosan kiemeli a tizenévesek védelmének fontosságát:
Az APA azt javasolja az AI-fejlesztőknek, hogy a fiatal felhasználók számára életkoruknak megfelelő óvintézkedéseket kínáljanak, és a kisebb gyermekek esetében még nagyobb védelmi intézkedéseket alkalmazzanak. A gyerekek és tinédzserek számára hasznosak az AI eszközök, ha ezeket kiegyensúlyozzák az emberi interakciókkal, amelyek a tudomány szerint kritikusak a társas, pszichológiai, viselkedési és akár biológiai fejlődés szempontjából. A fiatalok mesterséges intelligenciával kapcsolatos tapasztalatait gondosan felügyelni szükséges, és megbízható felnőttekkel megvitatni azt, hogy ösztönözzék a kritikus szemléletet az AI botok által kínált lehetőségekkel kapcsolatban, és hogy elősegítsék a fiatalok önálló gondolkodásának és készségeinek fejlődését."
Ez a frissítés azt is tisztázza, hogyan kell az asszisztensnek reagálnia, amikor biztonsági aggályok merülnek fel a tinik esetében. Azaz a tinédzsereknek erősebb védelemmel, biztonságosabb alternatívákkal kellene találkozniuk, és bátorítást kell kapniuk arra, hogy megbízható offline támogatást keressenek, amikor a beszélgetések kockázatosabb területre terelődnek. Ahol közvetlen veszély áll fenn, a tizenéveseket arra kérik, hogy vegyék fel a kapcsolatot a sürgősségi szolgálatokkal vagy a krízisközpontokkal.
Ahogyan a Modell specifikáció többi részében is, az U18 alapelvek tükrözik az általunk célzott modellviselkedést. Folytatjuk a finomítást, miközben új kutatásokat, szakértői információkat és valós használati tapasztalatokat építünk be.
A Modell specifikáció frissítése mellett többrétegű megközelítést alkalmaztunk a tinédzserek biztonságának erősítésére a ChatGPT‑ben, amely magában foglalja a termékvédelmet, a családi támogatást és a szakértői útmutatást.
Amióta bevezettük a szülői felügyeletet(új ablakban nyílik meg), kiterjesztettük a védelmet új termékekre is, beleértve a csoportos chateket, a ChatGPT Atlas böngészőt és a Sora appot. Ezek a frissítések segítenek a szülőknek személyre szabni tinédzsereik ChatGPT‑élményét, amikor új termékeket és funkciókat vezetünk be.
A szakértői iránymutatásoknak megfelelően azt javasoljuk, hogy a szülők és a tinédzserek rendszeresen beszélgessenek a családdal az AI egészséges és felelősségteljes használatáról. Ezen beszélgetések támogatására új, szakértők által ellenőrzött forrásokat adtunk hozzá a szülők erőforrásközpontjához(új ablakban nyílik meg), beleértve a Családi útmutatót a tinédzserek felelős AI használatához(új ablakban nyílik meg) és tippeket a szülőknek(új ablakban nyílik meg) arról, hogyan beszélgessenek gyermekeikkel az AI-ról, amelyeket a ConnectSafely és a Jóléti és AI Szakértői Tanácsunk tagjai vizsgáltak felül. Idővel folyamatosan adunk hozzá további forrásokat. Hosszabb ChatGPT‑ülések közben beépített szünetemlékeztetők segítik, hogy az időtöltés tudatos és kiegyensúlyozott maradjon.
A tinédzserek biztonságával kapcsolatos munkánkat a különböző tudományágak szakértőivel való szoros együttműködés vezérli. Októberben megalapítottuk a Jóléti és AI Szakértői tanácsot, amely tanácsokkal segíti és meghatározza, hogyan lehet minden korosztály számára egészségesen használni az AI-t. Ez a munka támpontot nyújt a szülői felügyeleti eszközök és a szülői értesítések irányelveinek kialakításához. A biztonsági kutatás és a modell viselkedésének értékelése érdekében klinikai szakértelmet is bevonunk a Globális Orvosi Hálózatunkon keresztül, beleértve annak fejlesztését, hogy a ChatGPT jobban felismerje a veszélyeztetettséget, és szükség esetén a felhasználókat szakmai segítséghez irányítsa. Ezekre az alapokra építkeztünk a GPT‑5.2 esetében, és a támogatáshoz való hozzáférést is kibővítettük azáltal, hogy lokalizált segélyvonalakat jelenítünk meg a ChatGPT‑ben és a Sora-ban a ThroughLine(új ablakban nyílik meg) partnerségünk révén.
A ChatGPT fogyasztói csomagokat illetően még az életkorbecslő modell(új ablakban nyílik meg) bevezetésének korai szakaszában járunk. Ez segít nekünk automatikusan alkalmazni a tizenévesek védelmi intézkedéseit, amikor úgy véljük, hogy egy fiók kiskorúhoz tartozik. Ha nem vagyunk biztosak valakinek az életkorában, vagy hiányosak az információink, alapértelmezettként az U18 élményt alkalmazzuk, és lehetőséget adunk a felnőtteknek, hogy igazolják életkorukat.
A tinédzserek biztonságának növelése folyamatos munka, és folytatjuk a szülői felügyelet és a modellek képességeinek javítását, bővítjük a szülők számára elérhető forrásokat, együttműködünk szervezetekkel, kutatókkal és szakértő partnerekkel, beleértve a Jóléti Tanácsot és a Globális Orvosi Hálózatot.
Elköteleztük magunkat a tizenévesek védelmének erősítése és folytonos javítása mellett, hogy jobb támogatást nyújtsunk a tizenéveseknek és családjaiknak.
