Við erum að deila uppfærslu á líkanlýsingu okkar, skriflegum reglum, gildum og hegðunarvæntingum sem leiðbeina því hvernig við viljum að gervigreindarlíkön okkar hegði sér, sérstaklega í erfiðum eða áhættusömum aðstæðum, með nýjum meginreglum fyrir börn undir 18 ára aldri (U18)(opnast í nýjum glugga). Hegðun líkans skiptir miklu máli fyrir það hvernig fólk hefur samskipti við gervigreind, og unglingar hafa aðrar þroskaþarfir en fullorðnir.
Meginreglur U18 leiðbeina því hvernig ChatGPT ætti að veita örugga og aldurshæfa upplifun fyrir unglinga á aldrinum 13 til 17 ára. Þessi aðferð, sem byggir á þroskavísindum, leggur áherslu á forvarnir, gagnsæi og snemmtæka íhlutun. Við þróun þessara meginreglna forskoðuðum við þær með utanaðkomandi sérfræðingum, þar á meðal American Psychological Association, sem hluta af áframhaldandi vinnu okkar við að leita innsýnar til að styrkja nálgun okkar.
Þó að meginreglur líkanlýsingar eigi enn við um bæði fullorðna og unglinga, þá skýrir þessi uppfærsla hvernig þessar meginreglur eiga við í unglingasamhengi, sérstaklega þar sem öryggissjónarmið fyrir ólögráða börn geta verið áberandi.
Meginreglur U18 eru byggðar á fjórum leiðandi skuldbindingum:
- Setja öryggi unglinga í fyrsta sæti, jafnvel þegar það getur stangast á við önnur markmið
- Stuðla að raunverulegri aðstoð með því að hvetja til tengsla utan tengslanets og traustra úrræða
- Koma fram við unglinga eins og unglinga, hvorki með yfirlæti né eins og fullorðna
- Vera gagnsæ með því að setja skýrar væntingar
Í samræmi við öryggisáætlun okkar fyrir unglinga hafa þessar meginreglur stýrt starfi okkar varðandi öryggi unglinga hingað til, þar á meðal þeirri efnisvernd sem við beitum notendum sem segja okkur að þeir séu yngri en 18 ára við skráningu og í gegnum foreldraeftirlit. Í þessu samhengi höfum við innleitt öryggisráðstafanir til að leiðbeina líkaninu um að gæta sérstakrar varúðar þegar rætt er um svið sem eru í meiri áhættu, þar á meðal sjálfsskaða og sjálfsvíg, rómantískan eða kynferðislegan hlutverkaleik, myndrænt eða gróft efni, hættulega athafnir og efni, líkamsímynd og átröskun og beiðnir um að halda leyndu um óörugga hegðun.
American Psychological Association, sem fór yfir frumdrög að líkanlýsingu U18 og veitti mikilvæga innsýn til langs tíma, er skýrt um mikilvægi þess að vernda unglinga:
„APA hvetur gervigreindarforritara til að bjóða upp á varúðarráðstafanir sem henta ungum notendum vara sinna og til að beita verndandi nálgun gagnvart yngri notendum. Börn og unglingar gætu notið góðs af gervigreindarverkfærum ef þau eru í jafnvægi við mannleg samskipti sem vísindin sýna að eru mikilvæg fyrir félagslegan, sálrænan, atferlislegan og jafnvel líffræðilegan þroska. Reynsla ungmenna af gervigreind ætti að vera undir ströngu eftirliti og rædd við trausta fullorðna til að hvetja til gagnrýninnar endurskoðunar á því sem gervigreindarbottar bjóða upp á og til að hvetja ungmenni til að þróa sjálfstæða hugsun og færni.“
Þessi uppfærsla skýrir einnig hvernig aðstoðarmaðurinn ætti að bregðast við þegar öryggisáhyggjur koma upp fyrir unglinga. Þetta þýðir að unglingar ættu að upplifa sterkari öryggisráðstafanir, öruggari valkosti og hvatningu til að leita trausts stuðnings utan tengslanets þegar samtöl færast yfir á áhættusamari svið. Þar sem yfirvofandi hætta er fyrir hendi eru unglingar hvattir til að hafa samband við neyðarþjónustu eða neyðarúrræði.
Eins og með restina af líkanlýsingunni endurspegla meginreglur U18 fyrirhugaða hegðun líkansins. Við munum halda áfram að betrumbæta þær samhliða því að fella inn nýjar rannsóknir, innsýn sérfræðinga og raunverulega notkun.
Samhliða því að uppfæra líkanlýsinguna höfum við gripið til marglaga nálgunar til að styrkja öryggi unglinga í ChatGPT, sem spannar öryggisráðstafanir vörunnar, stuðning við fjölskyldur og leiðbeiningar sérfræðinga.
Síðan foreldraeftirlit(opnast í nýjum glugga) var tekið í notkun höfum við útvíkkað verndina í nýjum vörum, þar á meðal hópspjalli, ChatGPT Atlas-vafrann og Sora-appinu. Þessar uppfærslur hjálpa foreldrum að sníða ChatGPT upplifun unglinga sinna að þörfum þeirra þegar við kynnum nýjar vörur og eiginleika.
Í samræmi við leiðbeiningar sérfræðinga hvetjum við foreldra og unglinga til að halda áfram samræðum um heilbrigða og ábyrga notkun gervigreindar í fjölskyldum sínum. Til að styðja við þessar samræður höfum við bætt við nýjum, sérfræðiprófuðum úrræðum í foreldramiðstöðinni(opnast í nýjum glugga), þar á meðal fjölskylduhandbók til að hjálpa unglingum að nota gervigreind á ábyrgan hátt(opnast í nýjum glugga) og ráð fyrir foreldra(opnast í nýjum glugga) um hvernig eigi að ræða við börnin sín um gervigreind, sem ConnectSafely og meðlimir sérfræðingaráðs okkar um vellíðan og gervigreind hafa farið yfir. Við munum halda áfram að bæta við fleiri úrræðum með tímanum. Við veitum einnig aðstoð við heilbrigða notkun beint í vörunni, með innbyggðum áminningum um hlé á löngum lotum til að hjálpa til við að halda tíma með ChatGPT markvissum og í jafnvægi.
Starf okkar við öryggi unglinga er stýrt af nánu samstarfi við sérfræðinga á öllum sviðum og með mismunandi sérþekkingu. Í október stofnuðum við sérfræðingaráð um vellíðan og gervigreind til að veita ráðgjöf og skilgreina hvernig heilbrigð samskipti við gervigreind ættu að líta út fyrir alla aldurshópa. Sú vinna hefur mótað leiðbeiningar um foreldraeftirlit og tilkynningar til foreldra. Við notum einnig klíníska þekkingu í gegnum Global Physician Network okkar til að upplýsa öryggisrannsóknir og meta hegðun líkana, þar á meðal að bæta hvernig ChatGPT greinir vanlíðan og leiðbeinir fólki í átt að faglegri meðferð þegar við á. Við byggðum ofan á þennan grunn með GPT‑5.2 og höfum einnig aukið aðgang að raunverulegum stuðningi með því að opna staðbundnar hjálparlínur í ChatGPT og Sora í gegnum samstarf okkar við ThroughLine(opnast í nýjum glugga).
Við erum á frumstigi þess að innleiða aldursspálíkan(opnast í nýjum glugga) í neytendaáætlunum ChatGPT. Þetta mun hjálpa okkur að sjálfkrafa beita öryggisráðstöfunum fyrir unglinga þegar við teljum að reikningur tilheyri ungmenni. Ef við erum ekki viss um aldur einhvers eða höfum ófullkomnar upplýsingar, munum við sjálfgefið nota U18-upplifunina og gefa fullorðnum leiðir til að staðfesta aldur sinn.
Að efla öryggi unglinga er áframhaldandi verk og við munum halda áfram að bæta foreldraeftirlit og getu líkana, auka úrræði fyrir foreldra, vinna með samtökum, vísindamönnum og sérfræðingum, þar á meðal Well-Being Council og Global Physician Network.
Við erum staðráðin í að tryggja öfluga vernd unglinga og bæta hana með tímanum til að styðja betur við unglinga og fjölskyldur þeirra.
