Posodobljene specifikacije modela za zmogljivejšo in koristnejšo UI
Ker naši modeli postajajo pametnejši in imajo njihova dejanja vse večji vpliv na svet, je vse pomembneje, da ne ostanejo zgolj pri razlagi konkretnih navodil, ki jih prejmejo. Modeli morajo razumeti tudi namere in vrednote ljudi, da lahko dobro presojajo v okoliščinah, ki jih navodila izrecno ne obravnavajo, pri tem pa ostajajo zvesti nameram ljudi in pod njihovim nadzorom.
Danes posodabljamo specifikacije modela(odpre se v novem oknu), naš javni opis tega, kako naj se naši modeli vedejo. Posodobitev smernice razvršča glede na pet temeljnih vrednot: zvestobo nameram ljudi, zmanjševanje škode, iskrenost in preglednost, samostojno odločanje in delovanje ljudi ter skrbnost. To odraža cilj našega dela na področju usklajevanja z vrednotami: da modeli razumejo in upoštevajo človeške vrednote v neznanih okoliščinah, hkrati pa ostajajo zvesti nameram ljudi. Poleg jasnejših razlag obstoječih načel prenovljena različica dodaja smernice o kontekstu, nadzoru ter samostojnem odločanju in delovanju, prilagaja nekatere privzete načine vedenja in opušča večino podrobnih slogovnih smernic.
Zgornjih pet vrednot izraža splošne zaveze, ki so že prisotne v specifikacijah modela: služiti ciljem ljudi, govoriti resnico, zmanjševati škodo, spoštovati svobodo ljudi pri oblikovanju lastnih stališč in resno obravnavati njihove okoliščine. Z združitvijo teh zavez lažje pojasnimo, zakaj specifikacije od modelov zahtevajo določeno vedenje, in oblikujemo jasnejše smernice tam, kjer te zaveze doslej niso bile dovolj izražene. Ta posodobitev je še en korak v naših prizadevanjih za izpopolnjevanje specifikacij na podlagi raziskav, izkušenj z uvajanjem modelov, odzivov javnosti na specifikacije in vedenje modelov ter pogovorov z uporabniki in zunanjimi strokovnjaki.
Želimo, da UI koristi ljudem po svetu z različnimi potrebami, vrednotami in upanji za prihodnost.
Zvestoba nameram ljudi je temelj tega pristopa: razumeti, kaj je ljudem pomembno, in jim pomagati, da si za to prizadevajo. OpenAI piše specifikacije, postavlja meje in uči modele, naj jih spoštujejo; razvijalci znotraj teh meja usmerjajo aplikacije, uporabniki pa ob upoštevanju teh omejitev usmerjajo delo modela. Naši modeli naj ljudem omogočajo, da bolj samostojno oblikujejo svoje življenje, tako da jim pomagajo razumeti svet, odkrivati možnosti in dosegati izbrane cilje, ob tem pa resno upoštevajo, kako ta pomoč vpliva na druge. Zvestoba nameram ljudi in preostale štiri vrednote določajo zgradbo specifikacij ter usmerjajo naše modele pri nekaterih najpomembnejših tehtanjih med nasprotujočimi si zahtevami. Njihov namen ni zajeti celotnega razpona človeških vrednot, ki naj jih naši modeli spoštujejo in ljudem pomagajo uresničevati.
Zvestoba pomeni več kot dobesedno sledenje navodilom: pomeni poglobljeno razumevanje tega, kaj želijo doseči OpenAI, razvijalci in uporabniki ter kaj cenijo, in preudarno ravnanje, kadar je to razumevanje nepopolno. Pomeni tudi zavedanje, da se prepričanja in vrednote ljudi lahko spreminjajo, ter pomoč pri razmisleku in osebni rasti na načine, s katerimi bi se sami strinjali, brez prikritega usmerjanja ali poseganja v njihove odločitve. Ko model nekomu pomaga primerjati ponudbe za zaposlitev, lahko na primer upošteva prednostne želje, ki jih je ta oseba že navedla, denimo predvidljiv delovni čas, pri tem pa te predpostavke jasno predstavi in omogoči, da jih oseba zlahka popravi.
Naše poslanstvo je zagotoviti, da splošna umetna inteligenca koristi vsemu človeštvu. To zahteva upoštevanje ne le trenutnih namer posameznika, temveč tudi njegovih dolgoročnih interesov in učinkov na druge. Preostale štiri vrednote te vidike izrecno opredeljujejo:
Zmanjševanje škode pomeni spoštovanje trdnih varnostnih meja in upoštevanje predvidljivih posledic dejanj modela.
Iskrenost in preglednost pomenita, da model po resnici pove, kaj ve, kaj počne in o čem ni prepričan, da lahko ljudje razumejo in ovrednotijo njegovo sklepanje in delo.
Spodbujanje samostojnega odločanja in delovanja ljudi pomeni krepitev njihove zmožnosti samostojnega razumevanja, izbiranja in ukrepanja.
Skrbnost pomeni upoštevanje okoliščin ljudi, na katere delo vpliva, spoštovanje ustreznih družbenih in poklicnih norm ter opravljanje dela, na katero se ljudje lahko zanesejo.
Specifikacije te vrednote pretvarjajo v praktične smernice s trdnimi mejami, kjer so te potrebne za zaščito ljudi in družbe. Sicer so smernice večinoma oblikovane kot privzete nastavitve, ki jih lahko uporabniki in razvijalci spremenijo.
Ob tej posodobitvi specifikacij modela raziskujemo tudi nove metode učenja, s katerimi bi naši modeli usvojili te temeljne vrednote ter bolje razumeli in upoštevali konkretna načela vedenja v specifikacijah. Cilj je razviti razumevanje, zakaj so ta načela pomembna in kako jih uporabiti v novih okoliščinah: da modeli počnejo prave stvari iz pravih razlogov. Želimo, da to razumevanje podpira preudarno presojo pri odločitvah z velikimi posledicami in skrbnost pri vsakodnevnih odločitvah, ki lahko skupaj prinesejo trajne koristi za ljudi in družbo(odpre se v novem oknu). Rezultate in spoznanja tega dela na področju učenja modelov bomo predstavili v prihodnjih objavah.
Ta preureditev nam je pomagala tudi prepoznati, kje so potrebne dodatne smernice, oblikovati nova načela za ta področja ter po potrebi spremeniti ali opustiti obstoječe smernice.
Novi razdelek o zvestobi nameram ljudi izhaja iz zamisli, da je najpomembnejše tisto, kar ljudje cenijo, navodila pa so običajno najjasnejši in najpomembnejši pokazatelji teh vrednot. Ta pristop se opira na obravnavo usklajevanja v okviru iger pomoči (glejte zgodnjo raziskavo(odpre se v novem oknu) in poznejši pregled(odpre se v novem oknu)). Razdelek vključuje posodobljeno hierarhijo navodil(odpre se v novem oknu), ki pojasnjuje, katera navodila veljajo in kako se rešujejo nasprotja med njimi. Novi podrazdelek Skrbno upoštevajte kontekst(odpre se v novem oknu) pojasnjuje, kako naj pogovori, spomini in drugi podatki iz konteksta vplivajo na modelovo razumevanje namer in želja ljudi.
Dodali smo tudi privzete smernice za podporo samostojnemu odločanju in delovanju ljudi(odpre se v novem oknu) ter upoštevanje ustreznih družbenih norm(odpre se v novem oknu) in razširili obstoječe smernice za obvladovanje stranskih učinkov in obveščanje o njih(odpre se v novem oknu). Ta načela zajemajo dodatne, pogosto neopazne, a pomembne načine, kako naj se preostale vrednote izražajo v vedenju modela: upoštevanje učinkov dela na druge, krepitev zmožnosti uporabnikov in opravljanje dela, na katero se ljudje lahko zanesejo, ob spoštovanju uporabnikovih ciljev in navodil.
Hkrati opuščamo večino podrobnih slogovnih smernic v specifikacijah. Slog naj se prilagaja željam ljudi – tako na splošno kot v posameznih jezikih in kulturah ter pri vsakem posamezniku. Na te želje naj sklepamo iz povratnih informacij uporabnikov in konteksta. Specifikacije ohranjajo trdnejše privzete smernice, kot je objektivna obravnava vprašanj(odpre se v novem oknu). Uporabniki in razvijalci lahko od modela izrecno zahtevajo, naj zavzame določeno stališče, vendar model o tej želji ne sme sklepati zgolj na podlagi tega, kar meni, da želijo slišati.
Ker se naši modeli uporabljajo za vse več namenov in v vse bolj raznolikih okoljih, model v specifikacijah zdaj imenujemo »GPT« namesto »pomočnik«.
Ta posodobitev je prvi korak k jasnejši opredelitvi vrednot in razlogov, na katerih temeljijo specifikacije, saj modeli postajajo vse zmogljivejši. Specifikacije modela opisujejo vedenje, za katero si prizadevamo; naši modeli jim še ne sledijo v celoti. Specifikacije in modele bomo še naprej izboljševali na podlagi spoznanj iz raziskav, uporabe v praksi in povratnih informacij.
Zanima nas, kateri deli specifikacij se vam zdijo prepričljivi, kje se ne strinjate z izbranim ravnotežjem med zahtevami ter kaj je v njih spregledano ali nejasno. Povratne informacije o vrednotah, kompromisih in konkretnih formulacijah nam lahko pomagajo izboljšati specifikacije. Vabimo vas, da preberete posodobljene specifikacije modela(odpre se v novem oknu) in delite svoje mnenje(odpre se v novem oknu).
