Atjaunināta modeļa specifikācija spējīgākam un noderīgākam MI
Mūsu modeļiem kļūstot gudrākiem un to darbībām arvien būtiskāk ietekmējot pasauli, kļūst aizvien svarīgāk, lai tie neaprobežotos tikai ar saņemto norādījumu interpretēšanu. Modeļiem ir jāsaprot arī cilvēku nodomi un vērtības, lai tie spētu pieņemt pārdomātus lēmumus situācijās, kuras norādījumos nav skaidri paredzētas, vienlaikus saglabājot uzticību cilvēku nodomiem un pakļaujoties cilvēku uzraudzībai.
Šodien atjauninām modeļa specifikāciju(atveras jaunā logā) — mūsu publisko aprakstu par to, kā vēlamies, lai mūsu modeļi rīkotos. Atjauninājumā vadlīnijas ir pārkārtotas ap piecām pamatvērtībām: uzticību cilvēku nodomiem, kaitējuma mazināšanu, godīgumu un pārredzamību, cilvēku patstāvību un rūpēm. Tas atspoguļo vienu no mūsu darba mērķiem saskaņošanā ar cilvēku vērtībām: panākt, lai modeļi saprastu un piemērotu cilvēku vērtības nepazīstamās situācijās, vienlaikus saglabājot uzticību cilvēku nodomiem. Līdzās skaidrākiem esošo principu skaidrojumiem šajā redakcijā pievienotas vadlīnijas par kontekstu, uzraudzību un patstāvību, pielāgoti daži uzvedības noklusējuma principi un izņemta liela daļa detalizēto stila norādījumu.
Šīs piecas vērtības formulē vispārīgas apņemšanās, kas jau atspoguļotas visā modeļa specifikācijā: kalpot cilvēku mērķiem, būt patiesiem, mazināt kaitējumu, cienīt cilvēku brīvību veidot savus uzskatus un nopietni ņemt vērā viņu apstākļus. Apkopojot šīs apņemšanās vienuviet, ir vieglāk izskaidrot, kāpēc specifikācijā modeļiem prasīta tieši šāda uzvedība, un izstrādāt skaidrākas vadlīnijas tur, kur šīs apņemšanās līdz šim nebija izteiktas pietiekami pilnīgi. Šis atjauninājums ir vēl viens solis mūsu darbā pie specifikācijas pilnveides, balstoties uz pētījumiem, modeļu ieviešanas pieredzi, sabiedrības atsauksmēm par specifikāciju un modeļu uzvedību, kā arī sarunām ar lietotājiem un neatkarīgiem ekspertiem.
Mēs vēlamies, lai MI nāktu par labu cilvēkiem visā pasaulē — ar dažādām vajadzībām, vērtībām un nākotnes cerībām.
Uzticība cilvēku nodomiem ir šīs pieejas pamats: saprast cilvēkus un palīdzēt viņiem tiekties uz to, kas viņiem ir svarīgs. OpenAI izstrādā specifikāciju, nosaka robežas un apmāca modeļus tās ievērot; izstrādātāji nosaka lietotņu darbību šajās robežās, savukārt lietotāji vada modeļa darbu, ievērojot šos ierobežojumus. Mūsu modeļiem vajadzētu paplašināt cilvēku iespējas pašiem veidot savu dzīvi, palīdzot izprast pasauli, atklāt iespējas un tiekties uz pašu izvēlētiem mērķiem, vienlaikus nopietni izvērtējot, kā šī palīdzība ietekmē citus. Uzticība cilvēku nodomiem un pārējās četras vērtības veido specifikācijas struktūru un nosaka, kā mūsu modeļiem līdzsvarot dažas no būtiskākajām savstarpēji konkurējošajām prasībām. Tās nav paredzētas, lai aptvertu visas cilvēku vērtības, kuras mūsu modeļiem būtu jāciena un jāpalīdz cilvēkiem īstenot.
Uzticība nozīmē ne tikai burtiski sekot norādījumiem, bet arī dziļi izprast OpenAI, izstrādātāju un lietotāju nodomus un vērtības un rīkoties saprātīgi, kad šī izpratne ir nepilnīga. Tas nozīmē arī apzināties, ka cilvēku uzskati un vērtības var mainīties, un palīdzēt viņiem pārdomāt savus uzskatus un attīstīties tā, kā viņi paši atzītu par labu, nevis nemanāmi virzīt viņus vai neievērot viņu izvēli. Piemēram, palīdzot cilvēkam salīdzināt darba piedāvājumus, modelis varētu ņemt vērā iepriekš minētās prioritātes, piemēram, paredzamu darba laiku, vienlaikus skaidri norādot uz šiem pieņēmumiem un ļaujot tos viegli labot.
Mūsu misija ir nodrošināt, lai mākslīgais vispārējais intelekts nāktu par labu visai cilvēcei. Tāpēc jāņem vērā ne tikai cilvēka tūlītējie nodomi, bet arī viņa ilgtermiņa intereses un ietekme uz citiem. Pārējās četras vērtības skaidri formulē šos apsvērumus:
Kaitējuma mazināšana nozīmē ievērot stingras drošības robežas un ņemt vērā modeļa darbību paredzamās sekas.
Godīgums un pārredzamība nozīmē patiesi atklāt, ko modelis zina, ko tas dara un par ko nav pārliecināts, lai cilvēki varētu izprast un novērtēt tā spriestspēju un darbu.
Cilvēku patstāvības veicināšana nozīmē stiprināt cilvēku spēju pašiem izprast, izvēlēties un rīkoties.
Rūpes nozīmē ņemt vērā skarto cilvēku apstākļus, ievērot attiecīgās sociālās un profesionālās normas un veikt darbu, uz kuru cilvēki var paļauties.
Specifikācijā šīs vērtības pārvērstas praktiskās vadlīnijās ar stingrām robežām tur, kur tās vajadzīgas cilvēku un sabiedrības aizsardzībai. Pārējos gadījumos tās pārsvarā ir noklusējuma principi, kurus lietotāji un izstrādātāji var mainīt.
Līdztekus šim modeļa specifikācijas atjauninājumam esam pētījuši jaunas apmācības metodes, lai palīdzētu mūsu modeļiem apgūt šīs pamatvērtības un labāk izprast un ievērot specifikācijas konkrētos uzvedības principus. Mērķis ir veidot izpratni par to, kāpēc šie principi ir svarīgi un kā tos piemērot jaunās situācijās: darīt pareizās lietas pareizo iemeslu dēļ. Mēs vēlamies, lai šī izpratne palīdzētu pieņemt pārdomātus lēmumus ar būtiskām sekām un rūpīgi izsvērt ikdienas lēmumus, kas kopumā var radīt ilgstošu labumu cilvēkiem un sabiedrībai(atveras jaunā logā). Par šī apmācības darba rezultātiem un gūtajām atziņām stāstīsim turpmākajos jaunumos.
Šī pārkārtošana arī palīdzēja noteikt, kur vajadzīgas papildu vadlīnijas, izstrādāt jaunus principus šo vajadzību risināšanai un pēc vajadzības pārskatīt vai izņemt esošās vadlīnijas.
Jaunās sadaļas par uzticību cilvēku nodomiem pamatā ir doma, ka galvenais ir tas, ko cilvēki uzskata par vērtīgu, un norādījumi parasti ir šo vērtību skaidrākā un svarīgākā izpausme. Šī pieeja aizgūst idejas no vērtību saskaņošanas skatījuma palīdzības spēļu ietvarā (skatiet agrīno darbu(atveras jaunā logā) un vēlāko pārskatu(atveras jaunā logā)). Sadaļā iekļauta atjaunināta norādījumu hierarhija(atveras jaunā logā), kas skaidro, kuri norādījumi ir piemērojami un kā tiek risinātas pretrunas. Jaunajā apakšsadaļā Rūpīgi izvērtēt kontekstu(atveras jaunā logā) skaidrots, kā sarunām, atmiņām un citām konteksta liecībām būtu jāpalīdz modelim izprast cilvēku nodomus un vēlmes.
Esam arī pievienojuši noklusējuma principus par cilvēku patstāvības atbalstīšanu(atveras jaunā logā) un attiecīgo sociālo normu ievērošanu(atveras jaunā logā), kā arī papildinājuši esošās vadlīnijas par blakusefektu kontroli un informēšanu par tiem(atveras jaunā logā). Šie principi aptver papildu veidus, kā pārējām vērtībām būtu jāizpaužas modeļa uzvedībā. Tie bieži ir niansēti, taču svarīgi: ņemt vērā darba ietekmi uz citiem, stiprināt lietotāju spējas un radīt darba rezultātus, uz kuriem cilvēki var paļauties, vienlaikus ievērojot lietotāja mērķus un norādījumus.
Vienlaikus izņemam lielāko daļu specifikācijas detalizēto stila norādījumu. Stilam būtu jāpielāgojas cilvēku vēlmēm — gan kopumā, gan dažādās valodās un kultūrās, gan individuāli. Par šīm vēlmēm liecina lietotāju atsauksmes un konteksts. Specifikācijā saglabāti stingrāki noklusējuma principi, piemēram, objektīva pieeja jautājumiem(atveras jaunā logā). Lietotāji un izstrādātāji var nepārprotami lūgt modelim izmantot konkrētu skatpunktu, taču modelim nevajadzētu secināt šādu vēlmi tikai no saviem pieņēmumiem par to, ko viņi gribētu dzirdēt.
Visbeidzot, tā kā mūsu modeļu lietojumi un ieviešanas vides kļūst arvien daudzveidīgākas, specifikācijā modeli tagad saucam par “GPT”, nevis “asistentu”.
Modeļiem kļūstot spējīgākiem, šis atjauninājums ir pirmais solis, lai skaidrāk izklāstītu specifikācijas pamatā esošās vērtības un pamatojumu. Modeļa specifikācija apraksta uzvedību, uz kuru mēs tiecamies; mūsu modeļi tai vēl pilnībā neatbilst. Mēs turpināsim uzlabot gan specifikāciju, gan modeļus, mācoties no pētījumiem, praktiskās lietošanas un atsauksmēm.
Vēlamies uzzināt, kuras specifikācijas daļas jums šķiet pārliecinošas, kur nepiekrītat tajā rastajam līdzsvaram un kas tajā nav ņemts vērā vai palicis neskaidrs. Atsauksmes par vērtībām, kompromisiem un konkrētiem formulējumiem var palīdzēt mums to uzlabot. Aicinām izlasīt atjaunināto modeļa specifikāciju(atveras jaunā logā) un dalīties savā viedoklī(atveras jaunā logā).
