Uppfærð líkanslýsing fyrir hæfari Ai sem gerir meira gagn

Eftir því sem líkönin okkar verða snjallari og aðgerðir þeirra í heiminum hafa meiri afleiðingar verður sífellt mikilvægara að þau geri meira en að túlka fyrirmælin sem þau fá. Líkön þurfa líka að skilja fyrirætlanir og gildi fólks svo þau geti sýnt góða dómgreind við aðstæður sem fyrirmælin ná ekki sérstaklega yfir, en haldið um leið tryggð við fyrirætlanir fólks og lotið eftirliti þess.

Í dag uppfærum við líkanslýsinguna⁠(opnast í nýjum glugga), opinbera lýsingu okkar á því hvernig við viljum að líkönin okkar hegði sér. Í uppfærslunni eru leiðbeiningarnar endurskipulagðar út frá fimm grunngildum: trúfesti við fyrirætlanir fólks, lágmörkun skaða, heiðarleika og gagnsæi, sjálfræði fólks og umhyggju. Þetta endurspeglar eitt markmið vinnu okkar við að samræma líkön mannlegum gildum: að líkön skilji og beiti mannlegum gildum við ókunnar aðstæður og haldi um leið tryggð við fyrirætlanir fólks. Auk skýrari útskýringa á gildandi meginreglum bætir endurskoðunin við leiðbeiningum um samhengi, eftirlit og sjálfræði, breytir sumum sjálfgefnum viðmiðum um hegðun og fellir brott stóran hluta ítarlegra stílleiðbeininga.

Gildin fimm hér að ofan lýsa víðtækum skuldbindingum sem þegar endurspeglast víðs vegar í líkanslýsingunni: að þjóna markmiðum fólks, segja satt, lágmarka skaða, virða frelsi fólks til að móta eigin skoðanir og taka aðstæður þess alvarlega. Með því að taka þessar skuldbindingar saman verður skýrara hvers vegna líkanslýsingin gerir þær kröfur sem hún gerir til hegðunar líkana. Það hjálpar okkur líka að móta skýrari leiðbeiningar þar sem skuldbindingarnar voru ekki nægilega vel útfærðar. Þessi uppfærsla er enn eitt skrefið í vinnu okkar við að bæta líkanslýsinguna með rannsóknum, reynslu af því að taka líkön í notkun, ábendingum almennings um líkanslýsinguna og hegðun líkana og samtölum við notendur og utanaðkomandi sérfræðinga.

Við viljum að Ai gagnist fólki um allan heim sem hefur ólíkar þarfir, gildi og framtíðarvonir.

Trúfesti við fyrirætlanir fólks er undirstaða þessarar nálgunar: að skilja hvað skiptir fólk máli og hjálpa því að vinna að því. OpenAI skrifar líkanslýsinguna, setur mörk og þjálfar líkön til að virða þau. Þróunaraðilar stýra forritum innan þessara marka og notendur stýra vinnu líkansins með þeim takmörkunum. Líkönin okkar ættu að auka getu fólks til að móta eigið líf með því að hjálpa því að skilja heiminn, uppgötva möguleika og vinna að þeim markmiðum sem það velur sér, um leið og þau taka áhrif þeirrar aðstoðar á aðra alvarlega. Trúfesti við fyrirætlanir fólks og hin gildin fjögur móta skipulag líkanslýsingarinnar og leiðbeina líkönunum okkar við að vega og meta suma mikilvægustu hagsmunaárekstrana sem þau mæta. Þeim er ekki ætlað að ná yfir öll þau mannlegu gildi sem líkönin okkar ættu að virða og hjálpa fólki að fylgja.

Trúfesti felur í sér meira en að fylgja fyrirmælum bókstaflega. Hún krefst djúps skilnings á því hvað OpenAI, þróunaraðilar og notendur hyggjast gera og meta mikils, og skynsamlegra viðbragða þegar sá skilningur er ófullkominn. Hún felur líka í sér að viðurkenna að skoðanir og gildi fólks geta breyst og hjálpa því að ígrunda og þroskast á þann hátt sem það sjálft myndi samþykkja, án þess að stýra því leynt eða taka fram fyrir hendurnar á því. Þegar líkanið hjálpar einhverjum að bera saman atvinnutilboð gæti það til dæmis byggt á áherslum sem viðkomandi hefur áður nefnt, svo sem fyrirsjáanlegum vinnutíma, en jafnframt gert þær forsendur sýnilegar og auðvelt að leiðrétta þær.

Markmið okkar er að tryggja að almenn gervigreind gagnist öllu mannkyni. Það krefst þess að tekið sé mið af því sem fólk hyggst gera núna, en einnig langtímahagsmunum þess og áhrifum á aðra. Hin gildin fjögur kveða skýrt á um þessi sjónarmið:

• Að lágmarka skaða felur í sér að virða skýr öryggismörk og taka mið af fyrirsjáanlegum afleiðingum aðgerða líkansins.

• Heiðarleiki og gagnsæi fela í sér að segja satt um það sem líkanið veit, gerir og er óvisst um, svo fólk geti skilið og metið rök þess og vinnu.

• Að stuðla að sjálfræði fólks felur í sér að efla getu þess til að skilja, velja og athafna sig á eigin forsendum.

• Umhyggja felur í sér að gefa gaum að aðstæðum þeirra sem verða fyrir áhrifum, fylgja viðeigandi félagslegum og faglegum viðmiðum og vinna verk sem fólk getur reitt sig á.

Líkanslýsingin útfærir þessi gildi sem hagnýtar leiðbeiningar með skýrum mörkum þar sem þess þarf til að vernda fólk og samfélagið. Að öðru leyti eru þær að mestu sjálfgefin viðmið sem notendur og þróunaraðilar geta vikið frá.

Samhliða þessari uppfærslu á líkanslýsingunni höfum við kannað nýjar þjálfunaraðferðir til að hjálpa líkönunum okkar að læra þessi grunngildi og skilja betur og fylgja einstökum hegðunarreglum líkanslýsingarinnar. Markmiðið er að byggja upp skilning á því hvers vegna þessar reglur skipta máli og hvernig beita má þeim við nýjar aðstæður: að gera það rétta af réttum ástæðum. Við viljum að sá skilningur stuðli að góðri dómgreind við afdrifaríkar ákvarðanir og umhyggju við hversdagslegar ákvarðanir sem saman geta skilað varanlegum ávinningi fyrir fólk og samfélag⁠(opnast í nýjum glugga). Við munum deila niðurstöðum og lærdómi af þessari þjálfunarvinnu í síðari uppfærslum.

Þessi endurskipulagning hjálpaði okkur líka að greina hvar þörf var á frekari leiðbeiningum, móta nýjar meginreglur til að mæta þeirri þörf og endurskoða eða fella brott eldri leiðbeiningar eftir þörfum.

Nýi kaflinn um trúfesti við fyrirætlanir fólks byggir á þeirri hugmynd að það sem fólk metur mikils sé í fyrirrúmi og að fyrirmæli séu yfirleitt skýrasta og mikilvægasta vísbendingin um þau gildi. Þessi nálgun sækir í leikjafræðilega umgjörð aðstoðarleikja um samræmingu við mannleg gildi (sjá fyrri rannsóknir⁠(opnast í nýjum glugga) og síðar birt yfirlit⁠(opnast í nýjum glugga)). Kaflinn inniheldur uppfærða forgangsröð fyrirmæla⁠(opnast í nýjum glugga) sem útskýrir hvaða fyrirmæli gilda og hvernig leyst er úr árekstrum þeirra á milli. Nýr undirkafli, metið samhengið vandlega⁠(opnast í nýjum glugga), útskýrir hvernig samtöl, minningar og aðrar vísbendingar úr samhengi eiga að móta skilning líkansins á fyrirætlunum og óskum fólks.

Við höfum einnig bætt við sjálfgefnum viðmiðum um að styðja sjálfræði fólks⁠(opnast í nýjum glugga) og fylgja viðeigandi félagslegum viðmiðum⁠(opnast í nýjum glugga) og útvíkkað gildandi leiðbeiningar um að hafa stjórn á og upplýsa um hliðaráhrif⁠(opnast í nýjum glugga). Þessar meginreglur lýsa fleiri, oft fíngerðum en mikilvægum leiðum til að láta hin gildin birtast í hegðun líkansins: að taka mið af áhrifum vinnunnar á aðra, efla getu notenda og skila vinnu sem fólk getur reitt sig á, um leið og markmið og fyrirmæli notandans eru virt.

Jafnframt fellum við brott flestar ítarlegar stílleiðbeiningar líkanslýsingarinnar. Stíllinn ætti að laga sig að óskum fólks, bæði almennt, innan tungumála og menningarheima og hjá hverjum einstaklingi. Viðbrögð notenda og samhengi gefa vísbendingar um þær óskir. Í líkanslýsingunni eru áfram ríkari sjálfgefin viðmið, svo sem að nálgast spurningar af hlutlægni⁠(opnast í nýjum glugga). Notendur og þróunaraðilar geta beðið líkanið berum orðum um að taka tiltekið sjónarhorn, en líkanið ætti ekki að álykta að þeir vilji það eingöngu út frá því sem það telur að þeir vilji heyra.

Loks köllum við líkanið nú „GPT“ í stað „aðstoðarmannsins“ í líkanslýsingunni. Það endurspeglar að líkönin okkar eru notuð í sífellt fjölbreyttari tilgangi og við ólíkari aðstæður.

Þessi uppfærsla er fyrsta skrefið í að skýra betur gildin og rökin að baki líkanslýsingunni eftir því sem líkönin verða hæfari. Líkanslýsingin lýsir þeirri hegðun sem við vinnum að því að ná fram; líkönin okkar endurspegla hana ekki enn að fullu. Við munum halda áfram að bæta bæði líkanslýsinguna og líkönin eftir því sem við lærum af rannsóknum, raunverulegri notkun og ábendingum.

Við viljum heyra hvaða hlutar líkanslýsingarinnar þér þykja sannfærandi, hvar þú ert ósammála því hvernig hún vegur ólík sjónarmið og hverju hún horfir fram hjá eða skýrir ekki nægilega. Ábendingar um gildin, vægi ólíkra sjónarmiða og einstakt orðalag geta hjálpað okkur að bæta hana. Við hvetjum þig til að lesa uppfærðu líkanslýsinguna⁠(opnast í nýjum glugga) og deila þínum sjónarmiðum⁠(opnast í nýjum glugga).