Az OpenAI támogatja Kalifornia ifjúsági MI-biztonsági törvényjavaslatát

Ann O’Leary, globális közpolitikai alelnök

Az OpenAI támogatja a kaliforniai szenátus 1119. számú törvényjavaslatát, amely érdemi óvintézkedéseket vezet be a fiatalok MI-használatára, miközben továbbra is hozzáférést biztosít számukra a tanulást, az alkotást és a jövőre való felkészülést segítő eszközökhöz. Támogatásunk arra a tavalyi kötelezettségvállalásra épül, amelyet Sam Altman, az OpenAI társalapítója és vezérigazgatója tett, amikor ismertette a vállalat tinédzserekre vonatkozó alapelveit.

Szövetségi intézkedések hiányában Kaliforniának lehetősége nyílik szigorú mércét felállítani a fiatalok biztonságos MI-használatára.

Newsom kormányzónak írt levelünkben⁠(új ablakban nyílik meg) elismerésünket fejezzük ki neki, valamint Steve Padilla szenátornak, Buffy Wicks és Rebecca Bauer-Kahan képviselőknek, továbbá Kalifornia törvényhozásának az e fontos ügyben tanúsított vezető szerepükért. Az SB 1119 azokra a fiatalokat védő intézkedésekre épül, amelyeket az OpenAI termékeivel, globális közpolitikai alapelveivel, kaliforniai érdekérvényesítő tevékenységével, valamint a Parents & Kids Safe AI Act kidolgozásában végzett munkájával támogatott. Arra biztatjuk Newsom kormányzót, hogy írja alá a törvényjavaslatot.

A tinédzserek az első generáció, amely már az MI mellett nő fel. A ChatGPT‑t használó tinédzserek közel kilenctizede egy adott héten tanulásra, információszerzésre, készségfejlesztésre vagy hatékonyabb munkavégzésre használja. Ez a lehetőség egyértelmű felelősséggel jár: a tinédzsereknek sajátos fejlődési szükségleteikhez igazodó élményeket kell biztosítani, szigorú alapértelmezett védelemmel, valamint megfelelő lehetőségekkel a tanulásra, alkotásra és felfedezésre.

Ezt a megközelítést tükrözi a nemrég bevezetett ChatGPT tinédzsereknek élményünk. Úgy alakítottuk ki, hogy segítse a 18 év alatti felhasználókat a tanulásban, a kritikus gondolkodásban és az alkotásban, miközben ösztönzi az egészséges használatot, beépített védelmet kínál, a szülőknek pedig további felügyeleti lehetőségeket biztosít. Ha rendszerünk becslése szerint valaki 18 év alatti, vagy 13 és 17 év közötti életkort ad meg, automatikusan a ChatGPT tinédzsereknek szánt változatába kerül. Ezek a védelmi intézkedések az alapélmény részét képezik, nem pedig a felhasználók által kikapcsolható opcionális beállítások.

Általánosságban úgy véljük, hogy a tinédzserek a biztonság feláldozása nélkül élvezhetik az MI előnyeit – ez az SB 1119 központi célja.

Az SB 1119 szigorú védelmet biztosít, miközben fenntartja a hasznos MI-eszközökhöz való hozzáférést. Határozottan támogatjuk az alábbi fő követelményeket:

• A felhasználó életkorának meghatározása;
• A biztonsági kockázatok azonosítása és kezelése, mielőtt egy terméket elérhetővé tennének a fiatalok számára;
• Független auditok elvégzése;
• A fiatalok védelme a káros tartalmaktól, többek között az önkárosítással és a szexuális kizsákmányolással kapcsolatos tartalmaktól, valamint az egyéb magas kockázatú interakcióktól;
• Olyan eszközök biztosítása a szülőknek, amelyekkel irányíthatják és korlátozhatják gyermekeik használatát;
• Komoly biztonsági kockázat esetén a fiatalok összekapcsolása krízistámogatást nyújtó erőforrásokkal; valamint
• A célzott hirdetések korlátozása és a fiatalok személyes adatainak védelme.

A 13 és 17 év közötti felhasználók esetében ezeknek a védelmi intézkedéseknek automatikusan érvénybe kell lépniük. Ez a jogszabály érdemi elszámoltathatóságot ötvözne olyan óvintézkedésekkel, amelyek segítenék a fiatalok védelmét az MI használata közben.

Az SB 1119 azt is helyesen ismeri fel, hogy az MI nem közösségi média. A törvényjavaslat olyan célzott védelmi intézkedéseket vezet be, amelyek segítik a fiatalokat az MI tanulási, alkotási és felfedezési célú használatában. A keretrendszer kidolgozásakor a döntéshozók arra törekedtek, hogy megőrizzék az oktatási és biztonsági szempontból létfontosságú funkciókhoz való hozzáférést – beleértve a ChatGPT memóriafunkciójának felelős használatát –, miközben biztonságosabb, a tinédzserek életkorához igazodó élményeket támogatnak.

A ChatGPT tinédzsereknek szánt változata kifejezetten a tanulásukat segítő funkciókat kínál, például kvízeket, tanulási vizualizációkat és Tanulási módot. Ezeket pedagógusokkal és tanulási szakértőkkel együtt fejlesztettük ki, hogy lépésről lépésre vezessék végig a diákokat a feladatokon. Ezek az eszközök az alaposabb megértést és a jobb tanulási szokások kialakítását szolgálják. A korábbi beszélgetések kontextusát használó funkciók – köztük a memória – segítenek következetesen alkalmazni a védelmi intézkedéseket, felismerni az aggasztó mintákat, és idővel hasznosabb tanulási támogatást nyújtani.

A kontextus abban is segít, hogy ezek a biztonsági és tanulási eszközök hosszú távon következetesebben működjenek. Az olyan funkciók révén, mint a memória, a ChatGPT megőrizheti a korábbi beszélgetések releváns információit és beállításait, így a tinédzserek anélkül folytathatják hosszabb távú tanulási projektjeiket, hogy elölről kellene kezdeniük. Ez a folytonosság a káros minták megerősítésének elkerülésében is segíthet, és hatékonyabb válaszokat tehet lehetővé, amikor egy fiatalnak további segítségre vagy erőforrásokra lehet szüksége.

A biztonság és a tanulás egyensúlyának megteremtése nem új feladat számunkra. Az elmúlt évben bevezettük a szülői felügyeletet, az életkor-előrejelzést, a Tinédzserek biztonságának tervezetét, valamint a 18 éven aluliakra vonatkozó alapelveket a modell specifikációnkban – vagyis a modelljeink elvárt működését meghatározó szabályokat –, hogy új mércét állítsunk arra, hogyan lépjenek kapcsolatba a fiatalokkal. Ezek tiltják a romantikus kapcsolat kialakítását, az érzelmi függőség ösztönzését, valamint annak állítását, hogy a ChatGPT ember vagy érző lény. Szülői felügyeletet is kínálunk, amellyel a családok kezelhetik a tinédzserek legfontosabb beállításait, és értesítést kaphatnak a magas kockázatú helyzetekről.

Az SB 1119 szigorú keretrendszert hoz létre Kaliforniában a fiatalok biztonságos MI-használatához. A bevezetés során végzett további vizsgálatok és együttműködés segíthetnek a legfontosabb rendelkezések javításában, valamint abban, hogy a keretrendszer a technológia fejlődésével is hatékony maradjon. Az OpenAI örömmel támogatja ezt a munkát, és továbbra is olyan MI-élményeket kíván kialakítani, amelyek a tinédzsereket az életkoruknak megfelelően kezelik, szigorúbb, automatikus védelemmel, valamint érdemi tanulási és fejlődési lehetőségekkel.