Atnaujinta modelio specifikacija pajėgesniam ir naudingesniam DI
Mūsų modeliams tampant vis išmanesniems ir jų veiksmams darant vis didesnį poveikį pasauliui, vis svarbiau, kad jie neapsiribotų konkrečių gautų nurodymų supratimu. Modeliai taip pat turi suprasti žmonių ketinimus ir vertybes, kad galėtų priimti pagrįstus sprendimus nurodymuose aiškiai neaptartomis aplinkybėmis, kartu likdami ištikimi žmonių ketinimams ir pavaldūs jų priežiūrai.
Šiandien atnaujiname modelio specifikaciją(atsidaro naujame lange) – viešą aprašą, kuriame nusakome, kaip turėtų elgtis mūsų modeliai. Atnaujintos gairės suskirstytos pagal penkias pamatines vertybes: ištikimybę žmonių ketinimams, žalos mažinimą, sąžiningumą ir skaidrumą, žmogaus savarankiškumą ir rūpestingumą. Tai atspindi mūsų darbo derinant modelius su vertybėmis tikslą: kad modeliai suprastų ir taikytų žmonių vertybes nepažįstamomis aplinkybėmis, kartu likdami ištikimi žmonių ketinimams. Atnaujintoje versijoje aiškiau paaiškinami esami principai, pridedamos gairės dėl konteksto, priežiūros ir savarankiškumo, koreguojamos kai kurios numatytosios elgsenos nuostatos ir atsisakoma didelės dalies išsamių stiliaus gairių.
Šios penkios vertybės išreiškia bendrus įsipareigojimus, jau atsispindinčius visoje modelio specifikacijoje: tarnauti žmonių tikslams, sakyti tiesą, mažinti žalą, gerbti žmonių laisvę susidaryti savo nuomonę ir rimtai vertinti jų aplinkybes. Sujungus šiuos įsipareigojimus lengviau paaiškinti, kodėl specifikacijoje modeliams keliami būtent tokie elgsenos reikalavimai, ir parengti aiškesnes gaires tose srityse, kur šie įsipareigojimai buvo išreikšti ne taip išsamiai. Šis atnaujinimas – dar vienas žingsnis tobulinant specifikaciją, remiantis tyrimais, modelių diegimo patirtimi, visuomenės atsiliepimais apie specifikaciją bei modelių elgseną ir diskusijomis su naudotojais bei nepriklausomais ekspertais.
Norime, kad DI būtų naudingas viso pasaulio žmonėms, turintiems skirtingų poreikių, vertybių ir ateities vilčių.
Ištikimybė žmonių ketinimams yra šio požiūrio pagrindas: suprasti, kas žmonėms svarbu, ir padėti jiems to siekti. „OpenAI“ rengia specifikaciją, nustato ribas ir moko modelius jų laikytis; kūrėjai valdo programų veikimą neperžengdami šių ribų, o naudotojai, laikydamiesi šių apribojimų, nurodo modeliui, ką atlikti. Mūsų modeliai turėtų plėsti žmonių galimybes kurti savo gyvenimą: padėti jiems suprasti pasaulį, atrasti galimybes ir siekti pasirinktų tikslų, kartu atsakingai vertinant, kaip ši pagalba veikia kitus. Ištikimybė žmonių ketinimams ir kitos keturios vertybės lemia specifikacijos struktūrą ir padeda mūsų modeliams spręsti kai kurias svarbiausias dilemas, su kuriomis jie susiduria. Jomis nesiekiama aprėpti visų žmonių vertybių, kurias mūsų modeliai turėtų gerbti ir padėti žmonėms puoselėti.
Ištikimybė reiškia ne vien pažodinį nurodymų vykdymą, bet ir gilų supratimą, ko siekia ir ką vertina „OpenAI“, kūrėjai bei naudotojai, taip pat išmintingą elgesį, kai šis supratimas nėra išsamus. Tai taip pat reiškia pripažinti, kad žmonių įsitikinimai ir vertybės gali keistis, ir padėti jiems apmąstyti savo patirtį bei augti taip, kaip jie patys pritartų, slapta jų nekreipiant tam tikra linkme ir nepaisant jų pasirinkimų nepakeičiant savais. Pavyzdžiui, padėdamas žmogui palyginti darbo pasiūlymus, modelis galėtų remtis anksčiau jo nurodytais prioritetais, tokiais kaip pastovus darbo laikas, tačiau aiškiai įvardyti šias prielaidas ir leisti jas lengvai pataisyti.
Mūsų misija – užtikrinti, kad bendrasis dirbtinis intelektas būtų naudingas visai žmonijai. Tam būtina atsižvelgti ne tik į dabartinius žmogaus ketinimus, bet ir į jo ilgalaikius interesus bei poveikį kitiems. Kitos keturios vertybės aiškiai įvardija šiuos aspektus:
Žalos mažinimas reiškia griežtų saugos ribų laikymąsi ir atsižvelgimą į numatomas modelio veiksmų pasekmes.
Sąžiningumas ir skaidrumas reiškia tiesos sakymą apie tai, ką modelis žino, ką daro ir dėl ko nėra tikras, kad žmonės galėtų suprasti ir įvertinti jo protavimą bei darbą.
Žmogaus savarankiškumo skatinimas reiškia žmonių gebėjimo savarankiškai suprasti, rinktis ir veikti stiprinimą.
Rūpestingumas reiškia dėmesį aplinkybėms tų žmonių, kuriuos paveikia modelio veikla, atitinkamų socialinių ir profesinių normų laikymąsi bei patikimą darbą.
Specifikacijoje šios vertybės paverčiamos praktinėmis gairėmis: ten, kur būtina apsaugoti žmones ir visuomenę, nustatomos griežtos ribos, o kitais atvejais daugiausia pateikiamos numatytosios nuostatos, kurias naudotojai ir kūrėjai gali pakeisti.
Rengdami šį modelio specifikacijos atnaujinimą taip pat tyrinėjome naujus mokymo metodus, kurie padėtų mūsų modeliams perimti šias pagrindines vertybes ir geriau suprasti konkrečius specifikacijos elgsenos principus bei jų laikytis. Tikslas – išugdyti supratimą, kodėl šie principai svarbūs ir kaip juos taikyti naujomis aplinkybėmis: daryti tai, kas teisinga, dėl teisingų priežasčių. Norime, kad šis supratimas padėtų pagrįstai spręsti svarbius klausimus ir rūpestingai priimti kasdienius sprendimus, kurie ilgainiui gali suteikti ilgalaikės naudos žmonėms ir visuomenei(atsidaro naujame lange). Šio mokymo darbo rezultatais ir įžvalgomis pasidalysime būsimuose atnaujinimuose.
Šis struktūros pertvarkymas taip pat padėjo nustatyti, kur reikia papildomų gairių, parengti naujus principus šioms spragoms užpildyti ir prireikus peržiūrėti esamas gaires arba jų atsisakyti.
Naujasis skyrius apie ištikimybę žmonių ketinimams grindžiamas mintimi, kad svarbiausia yra tai, ką žmonės vertina, o nurodymai paprastai yra aiškiausi ir svarbiausi šių vertybių ženklai. Šis požiūris remiasi derinimo su žmonių vertybėmis samprata, pagrįsta pagalbos žaidimais (žr. ankstyvąjį darbą(atsidaro naujame lange) ir vėlesnę apžvalgą(atsidaro naujame lange)). Į skyrių įtraukta atnaujinta nurodymų hierarchija(atsidaro naujame lange), kurioje paaiškinama, kurie nurodymai taikomi ir kaip sprendžiami jų prieštaravimai. Naujame poskyryje „Atidžiai įvertinkite kontekstą“(atsidaro naujame lange) paaiškinama, kaip pokalbiai, prisiminimai ir kita kontekstinė informacija turėtų padėti modeliui suprasti žmonių ketinimus ir pageidavimus.
Taip pat pridėjome numatytąsias nuostatas dėl žmonių savarankiškumo stiprinimo(atsidaro naujame lange) ir atitinkamų socialinių normų laikymosi(atsidaro naujame lange) bei išplėtėme esamas gaires dėl šalutinio poveikio valdymo ir informavimo apie jį(atsidaro naujame lange). Šie principai apima papildomus, dažnai subtilius, bet svarbius būdus, kuriais kitos vertybės turėtų atsispindėti modelio elgsenoje: atsižvelgti į darbo poveikį kitiems, stiprinti naudotojų gebėjimus ir dirbti patikimai, kartu gerbiant naudotojo tikslus bei laikantis jo nurodymų.
Kartu atsisakome daugumos išsamių specifikacijos stiliaus gairių. Stilius turėtų būti pritaikomas prie žmonių pageidavimų – tiek bendrų, tiek būdingų atskiroms kalboms ir kultūroms, tiek individualių. Apie šiuos pageidavimus turėtų būti sprendžiama iš naudotojų atsiliepimų ir konteksto. Specifikacijoje išlieka griežtesnės numatytosios nuostatos, pavyzdžiui, objektyvus klausimų nagrinėjimas(atsidaro naujame lange). Naudotojai ir kūrėjai gali aiškiai paprašyti modelio laikytis tam tikro požiūrio, tačiau modelis neturėtų daryti prielaidos apie tokį pageidavimą vien pagal tai, ką, jo manymu, jie nori išgirsti.
Galiausiai, atsižvelgdami į vis platesnį mūsų modelių pritaikymą ir įvairesnes diegimo aplinkas, specifikacijoje modelį dabar vadiname „GPT“, o ne „asistentu“.
Modeliams tampant vis pajėgesniems, šis atnaujinimas yra pirmasis žingsnis siekiant aiškiau įvardyti specifikacijos pagrindą sudarančias vertybes ir jų taikymo logiką. Modelio specifikacijoje aprašoma elgsena, kurios siekiame; mūsų modeliai jos dar nevisiškai laikosi. Toliau tobulinsime ir specifikaciją, ir modelius, remdamiesi tyrimais, praktinio naudojimo patirtimi ir atsiliepimais.
Norime išgirsti, kurios specifikacijos dalys jums atrodo įtikinamos, su kokiais joje pasirinktais kompromisais nesutinkate ir kas joje liko neaptarta ar neaišku. Atsiliepimai apie vertybes, kompromisus ir konkrečias formuluotes gali padėti mums ją patobulinti. Kviečiame perskaityti atnaujintą modelio specifikaciją(atsidaro naujame lange) ir pasidalyti savo nuomone(atsidaro naujame lange).
