Gervigreind getur verið öflugt verkfæri fyrir ungt fólk. Hún getur hjálpað nemendum að skilja erfitt hugtak, æfa nýtt tungumál, undirbúa sig fyrir atvinnuviðtal, kanna skapandi hugmyndir eða læra nýja færni. Rétt eins og læsisátakið sem breiddist út um heiminn um miðja 20. öld krafðist fjöldadreifingar prentaðs texta og aðgangs að menntuðum kennurum, mun aðgangur að öruggri gervigreind í dag skapa ný tækifæri til einstaklingsmiðaðs náms, hjálpa til við að draga úr hindrunum fyrir þá sem standa höllum fæti og auka viðbúnað vinnuafls.
Þar sem mögulegur ávinningur er svo verulegur er nauðsynlegt að ungt fólk geti nýtt sér gervigreind á öruggan hátt sem hæfir aldri og styður við heilbrigðan þroska. Sú ábyrgð ætti ekki fyrst og fremst að hvíla á foreldrum eða unga fólkinu sjálfu. Fyrirtæki, þar á meðal OpenAI, bera ábyrgð á að byggja vörur með viðeigandi öryggisráðstöfunum sjálfgefið, um leið og þau veita fjölskyldum verkfæri og upplýsingar til að leiðbeina um notkun gervigreindar.
Þegar þjóðarleiðtogar koma saman á leiðtogafundi G7 í Évian í Frakklandi síðar í þessum mánuði verður öryggi ungs fólks í tengslum við gervigreind lykilatriði. OpenAI mun taka þátt til að ræða aukið samstarf um öryggi ungs fólks, hvernig við getum unnið saman að því að hækka viðmið í greininni og nýja áskorun OpenAI um að komið verði á fót alþjóðlegri stofnun um öryggi ungs fólks.
Leiðtogafundur G7 er sjaldgæft tækifæri til alþjóðlegrar samhæfingar um öryggi ungs fólks. Sérhæfð stofnun myndi tryggja þá samfellu og eftirfylgni sem þarf umfram einn leiðtogafund og hjálpa stjórnvöldum, rannsakendum, borgaralegu samfélagi og atvinnulífi að halda áfram að vinna saman að því að miðla gögnum, þróa leiðbeiningar og hækka viðmið með tímanum.
Til eru nokkrar trúverðugar leiðir til að gera þetta: með nýrri alþjóðlegri stofnun eða með því að veita núverandi eða nýstofnaðri landsstofnun um gervigreind alþjóðlegt umboð til að deila rannsóknum, gögnum og leiðbeiningum með samstarfsaðilum um allan heim. Það sem skiptir mestu máli er hlutverkið sem hún gegnir. Öryggi ungs fólks í tengslum við gervigreind þarf stöðuga athygli, áreiðanleg gögn og hagnýtar leiðbeiningar sem geta fylgt tækninni eftir.
Slík stofnun getur byggt á nýjum verkefnum á borð við Youth AI Safety Institute hjá Common Sense Media, sem OpenAI Foundation styður, auk hagnýts samstarfs við kennara, þar á meðal starfs OpenAI með American Federation of Teachers. Hún ætti einnig að byggja á raunverulegri innleiðingu, svo sem innleiðingu ChatGPT á landsvísu í skólum í Eistlandi, þar sem OpenAI vinnur með Stanford og eistneskum rannsakendum að því að kanna áhrif og stuðla að öruggari og árangursríkari notkun í námi.
OpenAI fagnar tækifærinu til að vinna með frönskum stjórnvöldum, öðrum ríkisstjórnum G7-ríkja og samstarfsaðilum í borgaralegu samfélagi, fræðasamfélagi og atvinnulífi að þessu mikilvæga starfi og að hækka alþjóðleg viðmið um öryggi ungs fólks.
Við teljum að öflugir rammar um öryggi ungs fólks í gervigreind, þar á meðal hugsanlegt samkomulag sem næst á fundum G7, ættu að byggjast á þeim meginreglum sem við leggjum fram hér.
- Fyrirtæki ættu að vita hvenær notandi er ólögráða og beita verndarráðstöfunum sem hæfa aldri. Þetta þýðir að krefja veitendur um að nota aðferðir á borð við skilvirkt aldursmat sem verndar friðhelgi einkalífs til að greina ólögráða frá fullorðnum, og beita verndandi öryggisráðstöfunum sjálfgefið þegar ekki er hægt að ákvarða aldur notanda. Án þessa grunns geta jafnvel bestu verndarráðstafanir fyrir ungt fólk mistekist að ná til þeirra sem þeim er ætlað að vernda.
- Fyrirtæki ættu reglulega að meta bæði áhættu og ávinning fyrir ungt fólk og gera ráðstafanir til að bregðast við þeim—áður en skaði verður. Þetta þýðir að krefja veitendur um að ljúka árlegu áhættumati á öryggi ungs fólks og innleiða hlutfallslegar öryggisráðstafanir byggðar á þeirri áhættu sem þeir bera kennsl á. Slíkt mat ætti að taka mið af áhættu fyrir ungt fólk eftir þroskastigi þess, reynslugögnum úr raunverulegri notkun og viðeigandi rannsóknum eða leiðbeiningum eftirlitsaðila. Mat ætti ekki aðeins að taka til mögulegs skaða, heldur einnig hvort gervigreind styðji jákvæðar niðurstöður á borð við nám, sköpun, færniþróun og aðgang að tækifærum.
- Foreldrar og forráðamenn ættu að hafa aðgang að aðgengilegum og einföldum stjórntækjum til að hjálpa þeim að leiðbeina upplifun barna sinna um leið og þau styðja aldurshæft sjálfstæði. Þau ættu að fela í sér verkfæri til að stjórna lykilstillingum, þar á meðal minni, gagnanotkun og tímamörkum. Foreldraverkfæri ætti að kynna með virkum hætti svo foreldrar viti af þeim og skilji hvernig á að nota þau.
- Fjölskyldur eiga skilið skýrar og auðskiljanlegar upplýsingar um hvernig fyrirtæki vernda unga notendur og veita gagnlegar upplýsingar um bæði ávinning og áhættu af notkun ungs fólks á gervigreind. Fyrirtæki ættu að birta öryggisstefnur sem útskýra hvaða öryggisráðstafanir eru til staðar til að vernda ungt fólk, hvaða foreldraverkfæri eru í boði og hvernig vernd er uppfærð eftir því sem áhætta þróast. Þetta gagnsæi byggir upp traust og hjálpar foreldrum að taka upplýstar ákvarðanir.
- Fyrirtæki ættu að hafa skýrar verklagsreglur til að bregðast við alvarlegum öryggisaðstæðum, þar á meðal sjálfsskaða, misnotkun, tálbeitingu, kynferðislega misnotandi efni og öðrum áhættusömum samskiptum. Þær ættu að fela í sér stuðning innan þjónustunnar, tilvísanir í viðeigandi úrræði og tímanlegar tilkynningar til foreldra þegar við á. Fyrirtæki ættu einnig að hanna kerfi sín þannig að þau komi í veg fyrir að þau búi til efni sem er óöruggt eða óviðeigandi fyrir þroska barna, þar á meðal grafískt kynferðislegt eða ofbeldisfullt efni.
- Gervigreindarkerfi sem ungt fólk notar ættu að vera hönnuð til að styðja nám, þroska og raunveruleg tengsl—ekki koma í stað þeirra. Gervigreind ætti að þjóna sem verkfæri sem hjálpar ungu fólki að læra, skapa, byggja upp færni og undirbúa sig fyrir framtíðina. Á sama tíma ættu fyrirtæki að setja skýr mörk á sviðum þar sem heilbrigður þroski veltur á mannlegri dómgreind, raunverulegum tengslum og faglegum stuðningi.
- Persónuupplýsingar ólögráða ættu að vera verndaðar. Þetta þýðir að banna persónuverndarskerðandi, markvissar auglýsingar til ungs fólks og banna fyrirtækjum að selja persónuupplýsingar.
- Rammar um öryggi ungs fólks ættu að stuðla að tækifærum, læsi og vernd. Ungt fólk ætti að hafa aðgang að gervigreindarverkfærum sem styðja nám, sköpun, færniþróun og framtíðartækifæri, um leið og það fær þá þekkingu og gagnrýnu hugsun sem þarf til að nota gervigreind á öruggan og ábyrgan hátt. Þetta felur í sér að efla gervigreindarlæsi og hjálpa ungu fólki að skilja tækifæri og takmarkanir gervigreindarkerfa, svo það geti tekið þátt af öryggi og ábyrgð í stafrænum rýmum.
- Öflug ábyrgðarkerfi, þar á meðal óháðar úttektir, eru nauðsynleg til að tryggja að þessar verndarráðstafanir hafi raunverulega þýðingu í framkvæmd. Úttektir ættu að byggjast á sameiginlegum viðmiðum sem gera mögulegt að framkvæma samvirkar úttektir þvert á lögsagnarumdæmi. Löggjafarrammar ættu að fela í sér eftirlits- og framfylgdarráðstafanir sem gera stjórnvöldum kleift að meta hvort fyrirtæki séu í raun að innleiða öryggisráðstafanir fyrir ungt fólk, draga úr greindri áhættu og uppfylla skyldur um öryggi ungs fólks og persónuvernd.
Meginreglurnar endurspeglast í því hvernig við byggjum og rekum ChatGPT, allt frá hegðun líkana og vöruhönnun til framlags sérfræðinga og stuðnings í raunheimum. Við höfum styrkt öryggisráðstafanir fyrir notendur undir 18 ára, kynnt foreldraeftirlit með fyrirbyggjandi tilkynningum og háþróuð aldursspárkerfi svo ChatGPT geti beitt öflugari vernd þegar einhver gæti verið undir 18 ára. Líkanslýsing okkar, sem lýsir því hvernig líkönin okkar ættu að hegða sér, inniheldur einnig sérstakar meginreglur fyrir notendur undir 18 ára(opnast í nýjum glugga), þar sem öryggi unglinga, aldurshæf upplifun, stuðningur í raunheimum og skýrar væntingar eru sett í forgang. Í reynd þýðir þetta sterkari varnir varðandi sjálfsskaða, hættulegar athafnir, grafískt efni, líkamsímynd og leynd, ásamt hvatningu til að leita til traustra stuðningsaðila utan netsins eða neyðarúrræða þegar þörf krefur. Þegar aldur er óráðin beitum við sjálfgefið sterkari öryggisráðstöfunum.
Gervigreind sem er hönnuð með öflugum öryggisráðstöfunum og boðin með skýrum leiðbeiningum, ásamt stuðningi frá fjölskyldum og kennurum, getur hjálpað ungu fólki að njóta á öruggan hátt ávinnings af verkfærum sem víkka út nám, sköpun og tækifæri. Gervigreind getur hjálpað nemendum að skilja erfið hugtök, æfa tungumál, bæta skrif sín, læra að forrita, skipuleggja rannsóknir, kanna skapandi hugmyndir og undirbúa sig fyrir störf sem eru þegar að breytast. Í gegnum Menntun fyrir lönd vinnur OpenAI með stjórnvöldum og kennurum að rannsóknadrifinni innleiðingu, staðfærðum námsverkfærum og kennaraþjálfun svo upptaka gervigreindar byggist á gögnum og raunverulegum þörfum skólastofa. Þetta starf styður nú þegar innlend menntaverkefni með samstarfslöndum okkar, þar á meðal Eistlandi, Grikklandi og Singapúr.
Auk þátttöku í leiðtogafundinum munum við flytja OpenAI Forum(opnast í nýjum glugga) til Parísar til að efna til hagnýtrar umræðu um hvernig stjórnvöld, rannsakendur, borgaralegt samfélag, kennarar og atvinnulíf geta breytt sameiginlegum markmiðum um öryggi ungs fólks í raunhæfar öryggisráðstafanir, staðla og innleiðingaraðferðir. Sendiherra Frakklands fyrir gervigreind og stafræn málefni, Clara Chappaz, mun taka þátt ásamt Chris Lehane, framkvæmdastjóra OpenAI á sviði Alþjóðlegra viðskipta, leiðtogum í öryggismálum ungs fólks frá iRaise/Everyone.AI og öðrum sérfræðingum í umræðu um hvernig ungt fólk getur notið ávinnings af gervigreind um leið og dregið er úr áhættu.
