Miért érdemelnek a tinik hozzáférést biztonságos MI-hez
Bemutatjuk azokat a védelmi intézkedéseket, irányelveket és szakértőket, akik segítik a biztonságos MI tinédzserek általi használatára vonatkozó megközelítésünket.
A tinédzserek az első generáció, amely MI-vel nő fel, és ez a technológia jelentősen alakítja majd a jövőjüket. Ma a ChatGPT‑t használó tinédzserek közel 90%-a egy adott héten tanulásra, információszerzésre, készségfejlesztésre vagy hatékonyabb munkavégzésre használja. Ezért gondoljuk úgy, hogy kulcsfontosságú, hogy a tinédzserek hozzáférhessenek az MI-hez. Ha a tinédzsereket felnőttkorukig elzárnánk a használatától, az olyan lenne, mintha egy korábbi generációt arra kértünk volna, hogy 18 éves koráig kerülje az internetet vagy a keresőmotorokat; így kevésbé lennének felkészültek koruk egyik meghatározó technológiájának használatára. A hozzáférést azonban kifejezetten tinédzsereknek tervezett védelmi intézkedéseknek kell kísérniük.
Egy nemrégiben tartott OpenAI Academy(új ablakban nyílik meg)-eseményen Oriana McKenzie elmesélte, hogyan segített neki a ChatGPT okosabban tanulni és kezelni a terhelését, amivel évfolyamelső lett a középiskolájában, és maradt ideje a számára fontos sportokra és iskolai programokra is. Az ő története megmutatja, mi válik lehetővé, ha a tinédzserek olyan MI-hez férnek hozzá, amely segíti őket a tanulásban és az alkotásban.
Ahhoz, hogy ezek az előnyök a lehető legjobban érvényesüljenek, a tinédzsereknek élethelyzetükhöz igazodó, erősebb védelemre van szükségük, beleértve az automatizált korlátokat, amelyek magabiztos felfedezést, tanulást és alkotást tesznek lehetővé, miközben az életkorukhoz szabott biztonsági intézkedéseket biztosítanak. Ahogy az MI egyre nagyobb képességekre tesz szert, a mi felelősségünk, hogy a széles körű hozzáférést életkornak megfelelő védelemmel kapcsoljuk össze, hogy a tinédzserek a technológia fejlődésével együtt élvezhessék annak előnyeit.
Az elmúlt évben ez azt jelentette, hogy megerősítettük a tinédzserekre vonatkozó alapértelmezett védelmet, bevezettük az életkor-előrejelzést, kibővítettük a Szülői felügyeletet, további családi erőforrásokat(új ablakban nyílik meg) hoztunk létre, amelyek segítenek a szülőknek az egészséges és felelős használat támogatásában, valamint olyan tanulási funkciókat vezettünk be, amelyek a puszta válaszadás helyett a mélyebb megértést támogatják.
Munkánkat négy alapvető vállalás vezérli:
- A tinédzserek biztonságát helyezzük előtérbe, még akkor is, ha ez más célokkal ütközhet.
- Szükség esetén a valós életben elérhető támogatás igénybevételére ösztönzünk.
- A tinédzsereket tinédzserekként kezeljük.
- Átláthatóan járunk el, és világos elvárásokat fogalmazunk meg.
A tanulás az egyik legkézzelfoghatóbb módja annak, ahogyan a tinédzserek profitálhatnak az MI-ből, ezért olyan eszközöket fejlesztünk, amelyek aktív részvételre, kritikus gondolkodásra és mélyebb megértésre ösztönöznek. A Tanulási mód(új ablakban nyílik meg) tanárokkal, tanuláskutatókkal és pedagógiai szakértőkkel együttműködésben készült, hogy irányító kérdésekkel, strukturált magyarázatokkal és reflektálási lehetőségekkel segítse a diákokat a feladatok lépésről lépésre történő megoldásában anélkül, hogy egyszerűen megadná a választ. A Tanulási módhoz hasonló eszközök korai értékelése ígéretes javulást mutatott a diákok teljesítményében, ami hozzájárul ahhoz a szélesebb kutatásunkhoz, hogy miként támogathatja az MI a tanulási eredményeket.
Bár a tinédzserek maguk is bekapcsolhatják ezt a módot, a kapcsolt tinédzserfiókokkal rendelkező szülők mostantól közvetlenül a Szülői felügyeletből is bekapcsolhatják a Tanulási módot. Ha engedélyezve van, alapértelmezetten bekapcsol, amikor egy tinédzser új csevegést indít, így a családok újabb módon irányíthatják, hogyan használják a ChatGPT‑t iskolai feladatokhoz és tanuláshoz.
Nemrég oktatásközpontú indító utasításokat is bevezettünk tinédzsereknek, hogy könnyebb legyen elkezdeni olyan feladatokat, mint egy téma egyszerű lépésekre bontása, jegyzetek tanulási útmutatóvá alakítása, tanulókártyák vagy gyakorlókérdések készítése, valamint a bizonyítékok és az érthetőség ellenőrzése.
Emellett folyamatosan bővítjük az interaktív tanulási élményeket is. A kutatások következetesen azt mutatják, hogy az emberek hatékonyabban tanulnak, ha aktívan foglalkozhatnak a fogalmakkal, nem pedig passzívan fogyasztják az információt. Az év eleji bevezetés óta ma már heti 18 millió felhasználó használ interaktív matematikai és természettudományos élményeket a ChatGPT‑ben, és ezeket több mint 250 új témára bővítettük, az integráloktól és a mitózistól a holdfázisokig, a fotoszintézisig és tovább. Bevezettünk egy kiejtési élményt is, amely hanggal segíti az embereket abban, hogy több mint 61 nyelven megtanulják a szavak kiejtését.
Ha rendszerünk úgy becsüli, hogy a ChatGPT‑t használó személy 18 év alatti, automatikusan életkorának megfelelőbb élményt(új ablakban nyílik meg) biztosítunk számára. A tinédzserek továbbra is használhatják a ChatGPT‑t tanulásra, alkotásra és felfedezésre, de további védelmekkel, amelyek célja csökkenteni annak esélyét, hogy számukra nem megfelelő tartalmakkal találkozzanak. Ide tartoznak a grafikus erőszakkal, önkárosítással, kockázatos virális kihívásokkal, egészségtelen testképpel kapcsolatos tartalmakkal, valamint a veszélyes, romantikus vagy szexuális szerepjátékkal szembeni erősebb védelmi intézkedések. Iránytűnk az, hogy a ChatGPT továbbra is a tanulás és a kreativitás eszköze maradjon, ne pedig a valós kapcsolatok helyettesítője.
A ChatGPT‑t úgy is tervezzük, hogy egészséges szokásokra ösztönözzön. Azok a tinédzserek, akik hosszabb időt töltenek a ChatGPT‑ben, mostantól gyakrabban kapnak szünetemlékeztetőket, amelyek arra ösztönzik őket, hogy tartsanak szünetet és lépjenek el. Ezek az emlékeztetők azt szolgálják, hogy a fiatalok kiegyensúlyozott technológiahasználati szokásokat alakítsanak ki, miközben továbbra is szabadon használhatják az MI-t tanulásra, kreativitásra és problémamegoldásra.
Úgy gondoljuk, hogy a legjobb biztonsági eszközök segíthetnek a családoknak közösen eligazodni a tinédzserek online élményeiben. Olyan szülői felügyeleti és értesítési funkciókat építettünk, amelyekkel a szülők csendes órákat állíthatnak be, kikapcsolhatják a hang módot, kezelhetik a képgeneráláshoz való hozzáférést, és bizonyos magas kockázatú helyzetekben értesítéseket kaphatnak, például potenciális önkárosításra utaló jelek esetén.
Ezeket az értesítéseket kiterjesztjük azokra az esetekre is, amikor egy kapcsolt tinédzserfiókot azért deaktiváltunk, mert online erőszakos fenyegetések vagy erőszakos cselekmények miatt megsértette használati irányelveinket. Ez a megközelítés segít a szülőknek tudni, ha valami súlyos történt, miközben tiszteletben tartja a tinédzserek magánszféráját, és a beszélgetéseket, valamint az offline támogatást ösztönzi.
E funkciók fejlesztése során több szakértővel is konzultáltunk, köztük az online erőszak megelőzésében élen járó Moonshot(új ablakban nyílik meg) csapatával, hogy ezek a beavatkozások átgondoltak, hatékonyak legyenek, és arra összpontosítsanak, hogy szükség esetén segítsenek a családoknak reagálni.
Azt is szeretnénk biztosítani, hogy a szülők, a tinédzserek és a pedagógusok világos útmutatást kapjanak az MI felelős használatának legjobb módjáról. Több mint 50 nyelven teszünk közzé oktatási erőforrásokat, köztük a Családi útmutató a tinédzserek felelős MI-használatának támogatásához(új ablakban nyílik meg), a Tippek a tinédzserrel az MI-ről folytatott beszélgetéshez(új ablakban nyílik meg) és a Tippek a ChatGPT‑t használó szülőknek(új ablakban nyílik meg) című anyagokat.
A fiatalok online biztonságának megteremtése nem olyan feladat, amelyet egyetlen vállalat egyedül meg tud oldani. Szorosan együttműködünk tinédzserekkel, szülőkkel, pedagógusokkal, gyermekbiztonsági szakértőkkel, mentálhigiénés szakemberekkel, kutatókkal, kormányokkal és civil szervezetekkel. Ezek a partnerségek segítenek jobban megérteni a fiatalok igényeit, azonosítani az újonnan megjelenő kockázatokat, értékelni védelmi intézkedéseink hatékonyságát, és biztosítani, hogy irányelveinket független szakértelem formálja.
Ez a munka a tanulással és a fiatalok jóllétével kapcsolatos megközelítésünkre egyaránt kiterjed. Pedagógusokkal, köztük az American Federation of Teachers szervezettel, diákokkal és tanulási szervezetekkel működünk együtt, hogy jobban megértsük, hogyan támogathatja az MI a tanítást és a tanulást, miközben erősíti az aktív részvételt és a kritikus gondolkodást. Szorosan együttműködünk a mentális egészség, a gyermekfejlődés és az ifjúságbiztonság területének szakértőivel is, köztük az American Psychological Association(új ablakban nyílik meg) szervezettel, a Global Physicians Network hálózatunkkal és az Expert Council on Well-Being and AI testületünkkel.
Az egészségesebb digitális ökoszisztéma építésére irányuló munkánk túlmutat a saját termékeinken. Szorgalmaztuk a fiatalok MI-biztonságára vonatkozó, skálázható globális szabványok kidolgozását egy dedikált MI-biztonsági intézeten keresztül, olyan nyílt forráskódú irányelvek és eszközök létrehozását, amelyeket a fejlesztők beépíthetnek saját MI-rendszereikbe, valamint együttműködünk többek között a Common Sense Media(új ablakban nyílik meg) és az everyone.ai(új ablakban nyílik meg) szervezetekkel a tanulságok és bevált gyakorlatok megosztása érdekében.
Idén csatlakoztunk a Family Online Safety Institute(új ablakban nyílik meg)-hoz (FOSI) is, amely régóta támogatja a családok és fiatalok biztonságos online élményeit. Együtt fogunk dolgozni azon, hogy a fiatalok profitálhassanak az MI-ből, miközben a felhatalmazott szülők és a felelős iparági gyakorlat áll a középpontban. Reméljük, hogy ez a partnerség előmozdítja annak közös megértését, mi működik, erősíti az életkornak megfelelő védelmet és a szülői eszközöket, valamint támogatja az iparági szintű erőfeszítéseket, amelyek lehetővé teszik, hogy a fiatalok biztonságosan és felelősen profitáljanak az MI-ből.
A fiatalok online védelme folyamatos fejlődést igényel. A következő hónapokban tovább erősítjük az életkornak megfelelő védelmet, több eszközt és irányítási lehetőséget adunk a szülőknek, javítjuk a súlyos ártalmakkal szembeni biztonsági intézkedéseket, előmozdítjuk az egészséges MI-használattal kapcsolatos kutatást, és több olyan élményt építünk, amely segíti a tinédzsereket az aktív tanulásban és az MI magabiztos használatában.
Tudjuk, hogy még sok a tennivaló, és elkötelezettek vagyunk amellett, hogy világszerte tinédzserekkel, szülőkkel, pedagógusokkal, szakértőkkel és közösségekkel együttműködve folytassuk munkánkat, hogy a tinédzserek széles körű és biztonságos hozzáférést kapjanak.
