A fiatalok biztonságának és lehetőségeinek előmozdítása globális vezetéssel

Az MI hatékony eszköz lehet a fiatalok számára. Segíthet a diákoknak megérteni egy nehéz fogalmat, gyakorolni egy új nyelvet, felkészülni egy állásinterjúra, kreatív ötleteket felfedezni vagy új készséget elsajátítani. Ahogyan a 20. század közepén világszerte terjedő írástudási mozgalomhoz a nyomtatott szövegek tömeges terjesztésére és képzett tanárokhoz való hozzáférésre volt szükség, ma a biztonságos MI-hez való hozzáférés új lehetőségeket nyit meg a személyre szabott tanulásban, segít csökkenteni a hátrányos helyzetűek előtt álló akadályokat, és növeli a munkaerőpiaci felkészültséget.

Mivel a lehetséges előnyök ennyire jelentősek, elengedhetetlen, hogy a fiatalok biztonságos, életkoruknak megfelelő és egészséges fejlődésüket támogató módon férhessenek hozzá az MI-hez. Ez a felelősség nem hárulhat elsősorban a szülőkre vagy magukra a fiatalokra. A vállalatoknak, köztük az OpenAI-nak is, felelősségük, hogy alapértelmezés szerint megfelelő védelmi intézkedésekkel építsék termékeiket, miközben eszközökkel és információkkal segítik a családokat az MI használatának irányításában.

Amikor az állam- és kormányfők még ebben a hónapban összegyűlnek a G7 vezetőinek csúcstalálkozóján a franciaországi Évianban, a fiatalok MI-biztonságának témája kiemelt figyelmet kap majd. Az OpenAI csatlakozik a párbeszédhez, hogy megvitassa a fiatalok biztonságával kapcsolatos szorosabb együttműködést, azt, hogyan dolgozhatunk együtt az iparági normák emelésén, valamint az OpenAI új felhívását egy nemzetközi ifjúsági biztonsági intézet létrehozására.

A G7 vezetőinek csúcstalálkozója ritka lehetőséget kínál a fiatalok biztonságával kapcsolatos globális koordinációra. Egy erre szakosodott intézet azonban biztosítaná az egyetlen csúcstalálkozón túlmutató folytonosságot és következetes utánkövetést, segítve a kormányokat, kutatókat, civil társadalmat és iparágat abban, hogy továbbra is együttműködjenek a bizonyítékok megosztásában, az iránymutatások kidolgozásában és a normák idővel történő emelésében.

Ennek több hiteles módja is van: egy új nemzetközi intézet létrehozása, vagy egy meglévő, illetve újonnan létrehozott nemzeti MI-intézet globális felhatalmazása arra, hogy kutatásokat, bizonyítékokat és iránymutatásokat osszon meg partnerekkel világszerte. A legfontosabb az a funkció, amelyet betölt. A fiatalok MI-biztonsága tartós figyelmet, megbízható bizonyítékokat és gyakorlati útmutatást igényel, amely lépést tud tartani a technológiával.

Egy ilyen intézet építhet az olyan kialakulóban lévő kezdeményezésekre, mint a Common Sense Media Youth AI Safety Institute-ja, amelyet az OpenAI Foundation támogat, valamint az oktatókkal folytatott gyakorlati együttműködésekre, köztük az OpenAI American Federation of Teachersszel végzett munkájára⁠. Támaszkodnia kell a valós környezetben történő bevezetésekre is, például Észtország országos iskolai ChatGPT‑bevezetésére, ahol az OpenAI a Stanforddal és észt kutatókkal dolgozik együtt a hatás vizsgálatán, valamint a biztonságosabb és hatékonyabb tanulási felhasználás megalapozásán.

Az OpenAI örömmel dolgozik együtt a francia kormánnyal, más G7-kormányokkal, valamint a civil társadalom, a tudományos élet és az iparág partnereivel ezen a létfontosságú munkán, és a fiatalok biztonságára vonatkozó globális normák emelésén.

Meggyőződésünk, hogy az erős, fiatalokra vonatkozó MI-biztonsági keretrendszereket – beleértve a G7-találkozókon esetlegesen elért megállapodásokat is – az itt bemutatott elveknek kell vezérelniük.

1. A vállalatoknak tudniuk kell, ha egy felhasználó kiskorú, és életkornak megfelelő védelmet kell alkalmazniuk. Ez azt jelenti, hogy a szolgáltatóktól meg kell követelni az olyan eszközök használatát, mint a hatékony, adatvédelmet megőrző életkorbecslés, amely megkülönbözteti a kiskorúakat a felnőttektől, és védelmi intézkedéseket kell alapértelmezetté tenni, ha a felhasználó életkora nem állapítható meg. E nélkül az alap nélkül még a legjobb szándékú ifjúságvédelmi intézkedések sem biztos, hogy elérik azokat a fiatalokat, akiket védeni hivatottak.
2. A vállalatoknak rendszeresen értékelniük kell a fiatalokat érintő kockázatokat és előnyöket egyaránt, és lépéseket kell tenniük ezek kezelésére – mielőtt kár következne be. Ez azt jelenti, hogy a szolgáltatóktól meg kell követelni az éves ifjúságvédelmi kockázatértékelések elvégzését, valamint az azonosított kockázatokkal arányos védelmi intézkedések bevezetését. Az ilyen értékeléseknek figyelembe kell venniük a fiatalokat fejlődési szakaszuk alapján érintő kockázatokat, a tényleges használatból származó empirikus bizonyítékokat, valamint a releváns kutatási vagy szabályozói iránymutatásokat. Az értékeléseknek nemcsak a lehetséges károkat kell vizsgálniuk, hanem azt is, hogy az MI támogatja-e a pozitív eredményeket, például a tanulást, a kreativitást, a készségfejlesztést és a lehetőségekhez való hozzáférést.
3. A szülőknek és gyámoknak hozzáférhető, könnyen használható vezérlőkre van szükségük, amelyek segítik őket gyermekeik élményeinek irányításában, miközben támogatják az életkornak megfelelő önállóságot. Ezeknek tartalmazniuk kell a kulcsfontosságú beállítások kezelésére szolgáló eszközöket, beleértve a memóriát, az adathasználatot és az időkorlátokat. A szülői eszközöket aktívan népszerűsíteni kell, hogy a szülők tudják, léteznek, és értsék, hogyan használhatják őket.
4. A családok világos, érthető tájékoztatást érdemelnek arról, hogyan védik a vállalatok a fiatal felhasználókat, valamint érdemi információkat kell kapniuk a fiatalok MI-használatának előnyeiről és kockázatairól egyaránt. A vállalatoknak olyan biztonsági irányelveket kell közzétenniük, amelyek elmagyarázzák, milyen védelmi intézkedések vannak érvényben a fiatalok védelmére, milyen szülői eszközök állnak rendelkezésre, és hogyan frissülnek a védelmek a kockázatok változásával. Ez az átláthatóság bizalmat épít, és segít a szülőknek megalapozott döntéseket hozni.
5. A vállalatoknak világos protokollokkal kell rendelkezniük a súlyos biztonsági helyzetek kezelésére, beleértve az önkárosítást, a kizsákmányolást, a behálózást, a szexuálisan kizsákmányoló tartalmakat és más magas kockázatú interakciókat. Ezeknek tartalmazniuk kell a szolgáltatáson belüli támogatást, a megfelelő erőforrásokhoz való irányítást, valamint adott esetben a szülők időben történő értesítését. A vállalatoknak úgy is kell megtervezniük rendszereiket, hogy megakadályozzák a gyermekek számára nem biztonságos vagy fejlődésileg nem megfelelő tartalmak létrehozását, beleértve a szemléletes szexuális vagy erőszakos anyagokat.  
6. A fiatalok által használt MI-rendszereket úgy kell megtervezni, hogy támogassák a tanulást, a fejlődést és a valós kapcsolataikat – ne pedig helyettesítsék azokat. Az MI-nek olyan eszközként kell szolgálnia, amely segíti a fiatalokat a tanulásban, az alkotásban, a készségek fejlesztésében és a jövőre való felkészülésben. Ugyanakkor a vállalatoknak világos határokat kell kijelölniük azokon a területeken, ahol az egészséges fejlődés az emberi ítélőképességtől, a valós kapcsolatoktól és a szakmai támogatástól függ.
7. A kiskorúak személyes adatait védeni kell. Ez azt jelenti, hogy meg kell tiltani a magánszférát sértő, fiatalokat célzó hirdetéseket, és meg kell akadályozni, hogy a vállalatok személyes adatokat értékesítsenek.
8. A fiatalok biztonságát szolgáló keretrendszereknek elő kell mozdítaniuk a lehetőségeket, a műveltséget és a védelmet. A fiataloknak hozzáférést kell kapniuk olyan MI-eszközökhöz, amelyek támogatják a tanulást, a kreativitást, a készségfejlesztést és a jövőbeli lehetőségeket, miközben fel kell vértezni őket az MI biztonságos és felelős használatához szükséges tudással és kritikus gondolkodási készségekkel. Ez magában foglalja az MI-műveltség előmozdítását, valamint annak segítését, hogy a fiatalok megértsék az MI-rendszerek lehetőségeit és korlátait, hogy magabiztosan és felelősen vehessenek részt a digitális terekben.
9. Az erős elszámoltathatósági mechanizmusok, beleértve a független auditokat is, elengedhetetlenek annak biztosításához, hogy ezek a védelmek a gyakorlatban is érdemiek legyenek. Az auditokat olyan közös szabványoknak kell alátámasztaniuk, amelyek lehetővé teszik az auditok interoperabilitását a különböző joghatóságok között. A jogalkotási kereteknek felügyeleti és végrehajtási intézkedéseket kell tartalmazniuk, amelyek lehetővé teszik a kormányok számára annak értékelését, hogy a vállalatok hatékonyan vezetik-e be a fiatalok biztonságát szolgáló védelmi intézkedéseket, mérséklik-e az azonosított kockázatokat, és megfelelnek-e a fiatalok biztonságára és adatvédelmére vonatkozó kötelezettségeknek.

Ezek az elvek tükröződnek abban, ahogyan a ChatGPT‑t építjük és működtetjük, a modell viselkedésétől és a terméktervezéstől kezdve a szakértői közreműködésig és a valós támogatásig. Megerősítettük a 18 év alatti felhasználók védelmét, bevezettük a proaktív értesítésekkel működő szülői felügyeletet⁠, valamint a fejlett életkor-előrejelző rendszereket⁠, hogy a ChatGPT erősebb védelmet alkalmazhasson, ha valaki 18 év alatti lehet. A modell specifikáció, amely felvázolja, hogyan kell viselkedniük modelljeinknek, külön elveket tartalmaz a 18 év alatti felhasználók számára⁠(új ablakban nyílik meg), előtérbe helyezve a tizenévesek biztonságát, az életkornak megfelelő élményeket, a valós támogatást és az egyértelmű elvárásokat. A gyakorlatban ez erősebb védőkorlátokat jelent az önkárosítással, a veszélyes tevékenységekkel, a szemléletes tartalmakkal, a testképpel és a titkolózással kapcsolatban, valamint szükség esetén arra ösztönöz, hogy a felhasználók megbízható offline támogatást vagy krízishelyzeti erőforrásokat keressenek. Ha az életkor bizonytalan, alapértelmezés szerint erősebb védelmi intézkedéseket alkalmazunk.

Az erős védelmi intézkedésekkel megtervezett, világos útmutatással kínált, valamint a családok és oktatók támogatásával használt MI segíthet a fiataloknak biztonságosan kihasználni azokat az eszközöket, amelyek bővítik a tanulás, a kreativitás és a lehetőségek körét. Az MI segíthet a diákoknak megérteni a nehéz fogalmakat, nyelveket gyakorolni, javítani az íráskészségüket, megtanulni programozni, rendszerezni a kutatást, kreatív ötleteket felfedezni, és felkészülni a már most változó munkakörökre. Az Education for Countries⁠ programon keresztül az OpenAI kormányokkal és oktatókkal dolgozik együtt kutatásvezérelt bevezetéseken, lokalizált tanulási eszközökön és tanárképzésen, hogy az MI bevezetése bizonyítékokon és a valódi tantermi igényeken alapuljon. Ez a munka már most támogatja partnerországaink nemzeti oktatási erőfeszítéseit, többek között Észtországban⁠, Görögországban⁠ és Szingapúrban⁠.

A vezetői csúcstalálkozón való részvétel mellett Párizsba visszük az OpenAI Forumot⁠(új ablakban nyílik meg), hogy gyakorlati párbeszédet hívjunk össze arról, miként alakíthatják a kormányok, kutatók, a civil társadalom, az oktatók és az iparág a fiatalok biztonságával kapcsolatos közös célokat konkrét védelmi intézkedésekké, szabványokká és megvalósítási gyakorlatokká. Franciaország MI-ért és digitális ügyekért felelős nagykövete, Clara Chappaz csatlakozik Chris Lehane-hez, az OpenAI Globális ügyekért felelős vezetőjéhez, az iRaise/Everyone.AI ifjúságvédelmi vezetőihez és más szakértőkhöz egy beszélgetésre arról, hogyan élvezhetik a fiatalok az MI előnyeit a kockázatok csökkentése mellett.