Af hverju unglingar eiga skilið aðgang að öruggri gervigreind

Unglingar eru fyrsta kynslóðin sem elst upp með gervigreind og þessi tækni mun hafa mikil áhrif á framtíð þeirra. Í dag nota næstum 9 af hverjum 10 unglingum á ChatGPT‑verkfærið í hverri viku til náms, upplýsingaöflunar, færniuppbyggingar eða aukinnar framleiðni. Þess vegna teljum við mikilvægt að unglingar hafi aðgang að gervigreind. Að halda unglingum frá henni fram á fullorðinsár væri eins og að biðja fyrri kynslóð að forðast internetið eða leitarvélar þar til hún yrði 18 ára, þannig að hún væri verr undirbúin að nota eina af mótandi tæknum síns tíma. En aðgangi verður að fylgja vernd sem er hönnuð sérstaklega fyrir unglinga.

Á nýlegum viðburði hjá OpenAI Academy⁠(opnast í nýjum glugga) sagði Oriana McKenzie frá því hvernig ChatGPT hjálpaði henni að verða efst í bekknum í framhaldsskóla með skilvirkara námi og betri stjórn á vinnuálagi—sem gaf henni tímann sem hún þurfti fyrir íþróttirnar og skólastarfið sem hún elskar. Saga hennar sýnir hvað er mögulegt þegar unglingar hafa aðgang að gervigreind sem hjálpar þeim að læra og skapa.

Til að hámarka þennan ávinning þurfa unglingar sterkari vernd sem er sniðin að þessu æviskeiði, þar á meðal sjálfvirkar varnir sem gera þeim kleift að kanna, læra og byggja upp af öryggi, með öryggisráðstöfunum sem hæfa aldri þeirra. Eftir því sem gervigreind verður öflugri berum við ábyrgð á að sameina víðtækan aðgang og aldursmiðaða vernd sem gerir unglingum kleift að njóta góðs af tækninni þegar hún þróast.

Á síðasta ári hefur það þýtt að styrkja sjálfgefnar varnir fyrir unglinga, innleiða aldursspá⁠, útvíkka foreldraeftirlit⁠, búa til fleiri úrræði fyrir fjölskyldur⁠(opnast í nýjum glugga) til að hjálpa foreldrum að styðja við heilbrigða og ábyrga notkun, og kynna námseiginleika sem styðja við dýpri skilning í stað þess að veita aðeins svör.

Starf okkar byggist á fjórum lykilskuldbindingum⁠:

• Við setjum öryggi unglinga í fyrsta sæti, jafnvel þegar það kann að stangast á við önnur markmið.
• Við hvetjum til stuðnings í raunheimum þegar á þarf að halda.
• Við komum fram við unglinga sem unglinga.
• Við erum gagnsæ með því að setja skýrar væntingar.

Nám er ein skýrasta leiðin fyrir unglinga til að njóta góðs af gervigreind, svo við erum að byggja verkfæri sem hvetja til virkrar þátttöku, gagnrýninnar hugsunar og dýpri skilnings. Námsstilling⁠(opnast í nýjum glugga) var hönnuð í samstarfi við kennara, námssérfræðinga og sérfræðinga í kennslufræði til að hjálpa nemendum að vinna sig í gegnum verkefni skref fyrir skref með leiðbeinandi spurningum, skipulögðum útskýringum og tækifærum til ígrundunar án þess einfaldlega að gefa svarið. Fyrstu mat á verkfærum á borð við Námsstillingu hefur sýnt lofandi framfarir í frammistöðu nemenda⁠, sem nýtist í víðtækari rannsóknum okkar á því hvernig gervigreind getur stutt námsárangur.

Þótt unglingar geti kveikt á þessari stillingu sjálfir geta foreldrar með tengda unglingareikninga nú kveikt á Námsstillingu⁠ beint úr foreldraeftirliti⁠. Þegar hún er virk er sjálfgefið kveikt á henni í hvert sinn sem unglingur byrjar nýtt spjall, sem gefur fjölskyldum aðra leið til að stýra því hvernig ChatGPT er notað við skólavinnu og nám.

Við kynntum einnig nýlega upphafskvaðningar fyrir unglinga með áherslu á menntun, svo auðveldara sé að byrja á verkefnum eins og að brjóta efni niður í einföld skref, breyta glósum í námsleiðbeiningar, búa til minniskort eða æfingaspurningar og kanna rökstuðning og skýrleika.

Við höldum einnig áfram að útvíkka gagnvirka námsupplifun⁠. Rannsóknir hafa ítrekað sýnt⁠ að fólk lærir betur þegar það getur tekið virkan þátt í hugtökum í stað þess að neyta upplýsinga með óvirkum hætti. Frá því að þetta var kynnt fyrr á árinu nota nú 18 milljónir notenda í hverri viku gagnvirka upplifun í stærðfræði og náttúruvísindum í ChatGPT, og við höfum útvíkkað hana yfir í meira en 250 ný viðfangsefni, allt frá heildum og mítósu til tunglfasa, ljóstillífunar og fleira. Við kynntum einnig framburðarupplifun sem notar hljóð til að hjálpa fólki að læra að bera fram orð á meira en 61 tungumáli.

Ef kerfið okkar áætlar að einhver sem notar ChatGPT sé yngri en 18 ára⁠ veitum við sjálfkrafa aldursmiðaðri upplifun⁠(opnast í nýjum glugga). Unglingar geta áfram notað ChatGPT til að læra, skapa og kanna, en með viðbótarvörnum sem eru hannaðar til að draga úr útsetningu fyrir efni sem gæti ekki hentað þeim. Þar á meðal eru sterkari varnir gegn myndrænni lýsingu á ofbeldi, sjálfsskaða, áhættusömum veiruáskorunum, óheilbrigðu efni um líkamsímynd og hættulegum, rómantískum eða kynferðislegum hlutverkaleik. Leiðarljósið er að tryggja að ChatGPT verði áfram verkfæri til náms og sköpunar en ekki staðgengill raunverulegra tengsla.

Við erum einnig að hanna ChatGPT þannig að það hvetji til heilbrigðra venja. Unglingar sem verja löngum tíma í ChatGPT fá nú tíðari hléáminningar⁠ sem hvetja þá til að staldra við og taka sér hlé frá skjánum. Þessum áminningum er ætlað að hjálpa ungu fólki að byggja upp jafnvægi í tæknivenjum sínum, en veita því samt frelsi til að nota gervigreind til náms, sköpunar og lausnar vandamála.

Við teljum að bestu öryggisverkfærin geti hjálpað fjölskyldum að rata saman um netupplifun unglinga. Við byggðum foreldraeftirlit og tilkynningar⁠ sem gera þeim kleift að setja hljóðláta tíma, slökkva á raddstillingu, stýra aðgangi að myndun mynda og fá tilkynningar við tilteknar áhættumiklar aðstæður, svo sem vísbendingar um mögulegan sjálfsskaða.

Við erum að útvíkka þessar tilkynningar þannig að þær nái einnig til tilvika þar sem tengdur unglingareikningur hefur verið gerður óvirkur vegna brota á notkunarstefnum okkar⁠ um ofbeldishótanir eða ofbeldisverk á netinu. Þessi nálgun hjálpar foreldrum að vita þegar eitthvað alvarlegt hefur gerst, um leið og hún virðir friðhelgi unglinga og hvetur til samtala og stuðnings utan netsins.

Við þróun þessara eiginleika ráðfærðum við okkur við nokkra sérfræðinga, þar á meðal Moonshot⁠(opnast í nýjum glugga), leiðandi aðila í forvörnum gegn ofbeldi á netinu, til að tryggja að þessi inngrip séu ígrunduð, skilvirk og miði að því að hjálpa fjölskyldum að bregðast við þegar á þarf að halda.

Við viljum einnig tryggja að foreldrar, unglingar og kennarar hafi skýrar leiðbeiningar um hvernig best sé að nota gervigreind á ábyrgan hátt. Við birtum fræðsluefni á meira en 50 tungumálum, þar á meðal fjölskylduleiðbeiningar til að hjálpa unglingum að nota gervigreind á ábyrgan hátt⁠(opnast í nýjum glugga), ráð til að tala við unglinginn þinn um gervigreind⁠(opnast í nýjum glugga) og ráð fyrir foreldra sem nota ChatGPT⁠(opnast í nýjum glugga).

Að halda ungu fólki öruggu á netinu er ekki verkefni sem eitt fyrirtæki getur leyst eitt og sér. Við vinnum náið með unglingum, foreldrum, kennurum, sérfræðingum í öryggi barna, geðheilbrigðisstarfsfólki, rannsakendum, stjórnvöldum og samtökum borgarasamfélagsins. Þessi samstarf hjálpa okkur að skilja betur þarfir ungs fólks, greina nýjar áhættur, meta virkni öryggisráðstafana okkar og tryggja að stefnur okkar byggist á óháðri sérþekkingu.

Þetta starf nær bæði til nálgunar okkar á námi og velferð ungs fólks. Við vinnum með kennurum, þar á meðal American Federation of Teachers⁠, nemendum og menntasamtökum til að skilja betur hvernig gervigreind getur stutt kennslu og nám um leið og hún styrkir virka þátttöku og gagnrýna hugsun. Við vinnum einnig náið með sérfræðingum á sviði geðheilbrigðis, þroska barna og öryggis ungs fólks, þar á meðal American Psychological Association⁠(opnast í nýjum glugga), Global Physicians Network⁠ okkar og Expert Council on Well-Being and AI⁠ okkar.

Starf okkar við að byggja heilbrigðara stafrænt vistkerfi nær út fyrir eigin vörur okkar. Við höfum hvatt til þróunar skalanlegra alþjóðlegra staðla um öryggi ungs fólks í gervigreind⁠ í gegnum sérstaka stofnun um öryggi gervigreindar, gefið út opnar stefnur og verkfæri⁠ sem þróunaraðilar geta byggt inn í eigin gervigreindarkerfi, og unnið með samtökum á borð við Common Sense Media⁠(opnast í nýjum glugga) og everyone.ai⁠(opnast í nýjum glugga) til að miðla lærdómi og bestu starfsvenjum.

Á þessu ári gengum við einnig í Family Online Safety Institute⁠(opnast í nýjum glugga) (FOSI), rótgróinn málsvara öruggrar upplifunar á netinu fyrir fjölskyldur og ungt fólk. Við munum vinna saman að því að tryggja að ungt fólk geti notið góðs af gervigreind, með valdeflda foreldra og ábyrga starfshætti atvinnugreinarinnar í forgrunni. Við vonum að þetta samstarf efli sameiginlegan skilning á því hvað virkar, styrki aldursmiðaðar varnir og verkfæri fyrir foreldra og styðji við sameiginlegt átak greinarinnar sem gerir ungu fólki kleift að njóta góðs af gervigreind á öruggan og ábyrgan hátt.

Að vernda ungt fólk á netinu krefst stöðugra framfara. Á næstu mánuðum munum við halda áfram að styrkja aldursmiðaðar varnir, gefa foreldrum fleiri verkfæri og meiri stjórn, bæta varnir gegn alvarlegum skaða, efla rannsóknir á heilbrigðri notkun gervigreindar og byggja fleiri upplifanir sem hjálpa unglingum að læra á virkan hátt og nota gervigreind af öryggi.

Við vitum að meira þarf til og við erum staðráðin í að halda áfram starfi okkar í samstarfi við unglinga, foreldra, kennara, sérfræðinga og samfélög um allan heim til að tryggja unglingum öruggan og víðtækan aðgang.