Uuendatud mudeli spetsifikatsioon võimekama ja kasulikuma AI jaoks

Mida nutikamaks meie mudelid muutuvad ja mida kaalukamaid tegusid nad maailmas teevad, seda olulisem on, et nad ei piirduks üksnes saadud juhiste tõlgendamisega. Mudelid peavad mõistma ka inimeste kavatsusi ja väärtusi, et teha kaalutletud otsuseid olukordades, mida juhised otsesõnu ei käsitle, järgides seejuures inimeste kavatsusi ja alludes nende järelevalvele.

Täna uuendame mudeli spetsifikatsiooni⁠(avaneb uues aknas) – meie avalikku kirjeldust sellest, kuidas soovime oma mudeleid käitumas näha. Uuenduses on juhised koondatud viie põhiväärtuse ümber: inimeste kavatsuste järgimine, kahju minimeerimine, ausus ja läbipaistvus, inimeste otsustus- ja tegutsemisvabadus ning hoolivus. See peegeldab meie väärtustega kooskõla tagamise töö eesmärki: mudelid peaksid mõistma inimeste väärtusi ja neist juhinduma ka tundmatutes olukordades, jäädes truuks inimeste kavatsustele. Lisaks olemasolevate põhimõtete selgemale sõnastusele toob uuendus juhised konteksti, järelevalve ning otsustus- ja tegutsemisvabaduse kohta, muudab mõningaid vaikimisi käitumisjuhiseid ja eemaldab suure osa üksikasjalikest stiilijuhistest.

Need viis väärtust sõnastavad üldised kohustused, mis kajastuvad mudeli spetsifikatsioonis juba praegu: teenida inimeste eesmärke, olla tõene, minimeerida kahju, austada inimeste vabadust kujundada oma seisukohti ja võtta nende olukorda tõsiselt. Nende kohustuste koondamine aitab selgitada, miks spetsifikatsioon mudelitelt just sellist käitumist nõuab, ning töötada välja selgemad juhised seal, kus need kohustused polnud seni piisavalt väljendatud. See uuendus on järgmine samm meie töös spetsifikatsiooni täiustamiseks. Lähtume seejuures teadusuuringutest, mudelite kasutuselevõtu kogemustest, spetsifikatsiooni ja mudelite käitumise kohta saadud avalikust tagasisidest ning aruteludest kasutajate ja välisekspertidega.

Soovime, et AI tooks kasu inimestele üle maailma, arvestades nende erinevaid vajadusi, väärtusi ja tulevikulootusi.

Selle lähenemise alus on inimeste kavatsuste järgimine: mõista, mis on inimestele oluline, ja aidata neil selle poole püüelda. OpenAI koostab spetsifikatsiooni, seab piirid ja treenib mudeleid neid järgima; arendajad juhivad rakendusi nende piiride raames ning kasutajad suunavad mudeli tööd samade piirangutega arvestades. Meie mudelid peaksid avardama inimeste võimalusi oma elu kujundada, aidates neil maailma mõista, võimalusi avastada ja enda valitud eesmärkide poole liikuda, võttes samas tõsiselt seda, kuidas see abi mõjutab teisi. Inimeste kavatsuste järgimine ja ülejäänud neli väärtust annavad spetsifikatsioonile struktuuri ning suunavad meie mudeleid olukordades, kus tuleb teha eriti olulisi kompromisse. Need ei ole mõeldud hõlmama kõiki inimlikke väärtusi, mida meie mudelid peaksid austama ja aitama inimestel ellu viia.

Kavatsuste järgimine tähendab enamat kui juhiste sõnasõnalist täitmist: tuleb põhjalikult mõista, mida OpenAI, arendajad ja kasutajad taotlevad ning väärtustavad, ja tegutseda targalt ka siis, kui see arusaam on puudulik. See tähendab ka arvestamist sellega, et inimeste uskumused ja väärtused võivad muutuda, ning nende abistamist eneseanalüüsis ja arengus viisil, mille nad ise heaks kiidaksid – ilma neid varjatult suunamata või nende valikuid eiramata. Näiteks võib mudel tööpakkumisi võrrelda aidates lähtuda inimese varem jagatud eelistustest, nagu kindel tööaeg, ent peaks need eeldused selgelt välja tooma ja võimaldama neid hõlpsasti parandada.

Meie missioon on tagada, et üldine tehisintellekt tooks kasu kogu inimkonnale. Selleks tuleb arvestada mitte ainult inimese vahetute kavatsustega, vaid ka tema pikaajaliste huvide ja mõjuga teistele. Ülejäänud neli väärtust sõnastavad need kaalutlused selgelt:

• Kahju minimeerimine tähendab kindlate ohutuspiiride järgimist ja mudeli tegevuse ettenähtavate tagajärgedega arvestamist.

• Ausus ja läbipaistvus tähendavad tõest teavet selle kohta, mida mudel teab ja teeb ning milles ta pole kindel, et inimesed saaksid tema arutlust ja tööd mõista ning hinnata.

• Inimeste otsustus- ja tegutsemisvabaduse toetamine tähendab nende võime tugevdamist iseseisvalt mõista, valida ja tegutseda.

• Hoolivus tähendab mõjutatud inimeste olukorraga arvestamist, asjakohaste ühiskondlike ja kutsealaste normide järgimist ning sellise töö tegemist, millele inimesed saavad toetuda.

Spetsifikatsioon muudab need väärtused praktilisteks juhisteks. Seal, kus see on inimeste ja ühiskonna kaitseks vajalik, seab see kindlad piirid; muus osas annab see peamiselt vaikimisi juhised, mida kasutajad ja arendajad saavad muuta.

Koos mudeli spetsifikatsiooni uuendamisega oleme uurinud uusi treenimismeetodeid, et aidata mudelitel omandada neid põhiväärtusi ning paremini mõista ja järgida spetsifikatsiooni konkreetseid käitumispõhimõtteid. Eesmärk on kujundada arusaam sellest, miks need põhimõtted on olulised ja kuidas neid uutes olukordades rakendada: teha õigeid asju õigetel põhjustel. Soovime, et see arusaam toetaks kaalutletud otsustamist kaalukates küsimustes ning hoolivust igapäevastes otsustes, mis võivad üheskoos tuua püsivat kasu inimestele ja ühiskonnale⁠(avaneb uues aknas). Jagame selle treenimistöö tulemusi ja õppetunde tulevastes ülevaadetes.

Ümberkorraldus aitas meil ka tuvastada, kus on vaja lisajuhiseid, töötada selleks välja uusi põhimõtteid ning vajaduse korral olemasolevaid juhiseid muuta või eemaldada.

Uus jaotis inimeste kavatsuste järgimise kohta lähtub mõttest, et esmatähtis on see, mida inimesed väärtustavad, ning juhised on tavaliselt nende väärtuste kõige selgem ja olulisem väljendus. See lähenemine tugineb väärtustega kooskõla käsitlusele abistamismängude kaudu (vt varasemat uurimistööd⁠(avaneb uues aknas) ja hilisemat ülevaadet⁠(avaneb uues aknas)). Jaotis sisaldab uuendatud juhiste hierarhiat⁠(avaneb uues aknas), mis selgitab, millised juhised kehtivad ja kuidas lahendada vastuolusid. Uus alajaotis „Arvesta hoolikalt konteksti“⁠(avaneb uues aknas) selgitab, kuidas vestlused, mälestused ja muu kontekstist saadav teave peaksid kujundama mudeli arusaama inimeste kavatsustest ja eelistustest.

Oleme lisanud ka vaikimisi juhised inimeste otsustus- ja tegutsemisvabaduse toetamiseks⁠(avaneb uues aknas) ning asjakohaste ühiskondlike normide järgimiseks⁠(avaneb uues aknas) ja täiendanud olemasolevaid juhiseid kõrvalmõjude ohjamise ja neist teavitamise kohta⁠(avaneb uues aknas). Need põhimõtted kirjeldavad täiendavaid, sageli vaevumärgatavaid, kuid olulisi viise, kuidas ülejäänud väärtused peaksid mudeli käitumises väljenduma: arvestada töö mõjuga teistele, suurendada kasutajate võimekust ja teha tööd, millele inimesed saavad toetuda, austades samal ajal kasutaja eesmärke ja juhiseid.

Samal ajal eemaldame spetsifikatsioonist enamiku üksikasjalikke stiilijuhiseid. Stiil peaks kohanduma inimeste eelistustega nii üldiselt, keelte ja kultuuride lõikes kui ka iga inimese puhul eraldi. Nende eelistuste mõistmisel aitavad kasutajate tagasiside ja kontekst. Spetsifikatsioonis säilivad kindlamad vaikimisi juhised, näiteks küsimuste objektiivne käsitlemine⁠(avaneb uues aknas). Kasutajad ja arendajad võivad mudelil sõnaselgelt paluda lähtuda kindlast vaatenurgast, kuid mudel ei tohiks sellist eelistust järeldada üksnes oma oletusest selle kohta, mida nad kuulda tahavad.

Lõpuks, kuna meie mudeleid kasutatakse üha mitmekesisematel eesmärkidel ja üha erinevamates keskkondades, nimetame mudelit spetsifikatsioonis nüüd „GPT‑ks“, mitte „assistendiks“.

See uuendus on esimene samm spetsifikatsiooni aluseks olevate väärtuste ja põhjenduste selgema sõnastamise poole ajal, mil mudelid muutuvad üha võimekamaks. Mudeli spetsifikatsioon kirjeldab käitumist, mille poole püüdleme; meie mudelid ei vasta sellele veel täielikult. Jätkame nii spetsifikatsiooni kui ka mudelite täiustamist, õppides teadusuuringutest, tegelikust kasutusest ja tagasisidest.

Soovime kuulda, millised spetsifikatsiooni osad on sinu jaoks veenvad, kus sa ei nõustu selles leitud tasakaaluga ning mis on jäänud tähelepanuta või ebaselgeks. Tagasiside väärtuste, kompromisside ja konkreetse sõnastuse kohta aitab meil seda täiustada. Kutsume sind lugema uuendatud mudeli spetsifikatsiooni⁠(avaneb uues aknas) ja jagama oma arvamust⁠(avaneb uues aknas).