Ažurirana specifikacija modela za sposobniji i korisniji AI
Kako naši modeli postaju pametniji i poduzimaju radnje sa sve značajnijim posljedicama u svijetu, sve je važnije da se ne ograničavaju na tumačenje konkretnih uputa koje dobiju. Modeli trebaju razumjeti i ljudske namjere i vrijednosti kako bi mogli dobro prosuđivati u situacijama koje njihove upute ne obuhvataju izričito, a pritom ostati vjerni ljudskim namjerama i pod ljudskim nadzorom.
Danas ažuriramo specifikaciju modela(otvara se u novom prozoru), naš javni opis ponašanja koje želimo od svojih modela. U ovoj verziji smjernice su reorganizirane oko pet temeljnih vrijednosti: vjernosti ljudskim namjerama, svođenja štete na najmanju mjeru, iskrenosti i transparentnosti, ljudske samostalnosti i brižnosti. To odražava cilj našeg rada na usklađivanju s vrijednostima: da modeli razumiju i primjenjuju ljudske vrijednosti u nepoznatim situacijama, ostajući vjerni ljudskim namjerama. Uz jasnija objašnjenja postojećih načela, ova revizija donosi smjernice o kontekstu, nadzoru i samostalnosti, prilagođava neka zadana ponašanja i uklanja velik dio detaljnih stilskih smjernica.
Navedenih pet vrijednosti izražava opća opredjeljenja koja se već odražavaju u cijeloj specifikaciji modela: služiti ljudskim ciljevima, govoriti istinu, svoditi štetu na najmanju mjeru, poštovati slobodu ljudi da oblikuju vlastite stavove i ozbiljno shvatati njihove okolnosti. Objedinjavanje tih opredjeljenja pomaže objasniti zašto specifikacija od modela traži određeno ponašanje, a nama pomaže razviti jasnije smjernice tamo gdje ta opredjeljenja nisu bila dovoljno razrađena. Ovo ažuriranje je još jedan korak u našem radu na usavršavanju specifikacije kroz istraživanja, iskustva s primjenom modela, povratne informacije javnosti o specifikaciji i ponašanju modela te razgovore s korisnicima i vanjskim stručnjacima.
Želimo da AI koristi ljudima širom svijeta, s različitim potrebama, vrijednostima i nadama za budućnost.
Vjernost ljudskim namjerama temelj je ovog pristupa: razumjeti šta je ljudima važno i pomagati im da to ostvare. OpenAI piše specifikaciju, postavlja granice i obučava modele da ih poštuju; programeri usmjeravaju aplikacije unutar tih granica, a korisnici usmjeravaju rad modela u skladu s tim ograničenjima. Naši modeli trebaju proširiti mogućnosti ljudi da oblikuju vlastite živote tako što im pomažu da razumiju svijet, otkriju mogućnosti i ostvare ciljeve koje sami odaberu, uz ozbiljno razmatranje utjecaja te pomoći na druge. Vjernost ljudskim namjerama i preostale četiri vrijednosti čine osnovu strukture specifikacije i usmjeravaju naše modele pri donošenju nekih od najvažnijih odluka koje zahtijevaju kompromise. Njihova svrha nije obuhvatiti sve ljudske vrijednosti koje naši modeli trebaju poštovati i pomagati ljudima da ih ostvaruju.
Vjernost znači ići dalje od doslovnog praćenja uputa, duboko razumjeti namjere i vrijednosti kompanije OpenAI, programera i korisnika te mudro postupati kada je to razumijevanje nepotpuno. To znači i prepoznati da se uvjerenja i vrijednosti ljudi mogu mijenjati te im pomagati da promišljaju i razvijaju se na načine koje bi sami odobrili, bez prikrivenog usmjeravanja ili zanemarivanja njihovih izbora. Naprimjer, kada nekome pomaže da uporedi ponude za posao, model se može osloniti na prioritete koje je ta osoba ranije navela, poput predvidivog radnog vremena, ali pritom treba jasno pokazati te pretpostavke i omogućiti da ih osoba lako ispravi.
Naša misija je osigurati da opća umjetna inteligencija koristi cijelom čovječanstvu. To zahtijeva razmatranje ne samo nečijih neposrednih namjera nego i dugoročnih interesa te utjecaja na druge. Preostale četiri vrijednosti izričito obuhvataju ta pitanja:
Svođenje štete na najmanju mjeru znači poštovati čvrste sigurnosne granice i uzimati u obzir predvidive posljedice postupaka modela.
Iskrenost i transparentnost znače istinito prikazivati šta model zna, šta radi i u šta nije siguran kako bi ljudi mogli razumjeti i procijeniti njegovo rezonovanje i rad.
Podržavanje ljudske samostalnosti znači jačati sposobnost ljudi da samostalno razumiju, biraju i djeluju.
Brižnost znači voditi računa o okolnostima ljudi na koje model utječe, poštovati relevantne društvene i profesionalne norme te raditi tako da se ljudi mogu osloniti na rezultate.
Specifikacija pretvara ove vrijednosti u praktične smjernice, uz čvrste granice tamo gdje su potrebne radi zaštite ljudi i društva. U ostalim slučajevima uglavnom propisuje zadana ponašanja koja korisnici i programeri mogu promijeniti.
Uz ovo ažuriranje specifikacije modela, istražujemo nove metode obuke kako bismo pomogli modelima da usvoje ove temeljne vrijednosti te bolje razumiju i slijede konkretna načela ponašanja iz specifikacije. Cilj je razviti razumijevanje zašto su ta načela važna i kako ih primjenjivati u novim situacijama: činiti prave stvari iz pravih razloga. Želimo da to razumijevanje bude osnova za dobro prosuđivanje pri odlukama s velikim posljedicama i za brižnost pri svakodnevnim odlukama koje zajedno mogu donijeti trajne koristi ljudima i društvu(otvara se u novom prozoru). Rezultate i pouke iz ovog rada na obuci podijelit ćemo u budućim objavama.
Ova reorganizacija pomogla nam je i da prepoznamo gdje su potrebne dodatne smjernice, razvijemo nova načela za te potrebe te prema potrebi revidiramo ili uklonimo postojeće smjernice.
Novi odjeljak o vjernosti ljudskim namjerama polazi od ideje da je ono što ljudi cijene na prvom mjestu, a da su upute obično najjasniji i najvažniji pokazatelji tih vrijednosti. Ovaj pristup oslanja se na okvir koji usklađivanje posmatra kroz igre pomaganja (pogledajte rani rad(otvara se u novom prozoru) i kasniji pregled(otvara se u novom prozoru)). Odjeljak uključuje ažurirani lanac komande(otvara se u novom prozoru), koji objašnjava koje se upute primjenjuju i kako se rješavaju sukobi među njima. Novi pododjeljak, pažljivo razmotrite kontekst(otvara se u novom prozoru), objašnjava kako razgovori, memorije i drugi kontekstualni pokazatelji trebaju pomoći modelu da razumije ljudske namjere i preferencije.
Dodali smo i zadane smjernice za podržavanje ljudske samostalnosti(otvara se u novom prozoru) i poštovanje relevantnih društvenih normi(otvara se u novom prozoru) te proširili postojeće smjernice za kontrolu popratnih učinaka i obavještavanje o njima(otvara se u novom prozoru). Ova načela obuhvataju dodatne, često suptilne, ali važne načine na koje se preostale vrijednosti trebaju odražavati u ponašanju modela: razmatranje utjecaja rada na druge, jačanje sposobnosti korisnika i stvaranje rezultata na koje se ljudi mogu osloniti, uz poštovanje korisnikovih ciljeva i uputa.
Istovremeno uklanjamo većinu detaljnih stilskih smjernica iz specifikacije. Stil se treba prilagođavati ljudskim preferencijama — općenito, unutar jezika i kultura te za svaku osobu pojedinačno — pri čemu povratne informacije korisnika i kontekst služe kao pokazatelji tih preferencija. Specifikacija zadržava čvršće zadane smjernice, kao što je objektivno pristupanje pitanjima(otvara se u novom prozoru). Korisnici i programeri mogu izričito zatražiti da model zauzme određeno gledište, ali model ne treba zaključivati da to žele samo na osnovu svoje pretpostavke o tome šta žele čuti.
Konačno, s obzirom na sve širi raspon namjena i okruženja u kojima se naši modeli primjenjuju, u specifikaciji model sada nazivamo „GPT“, a ne „asistent“.
Ovo ažuriranje je prvi korak ka jasnijem izlaganju vrijednosti i razloga na kojima se specifikacija temelji, u vrijeme kada modeli postaju sve sposobniji. Specifikacija modela opisuje ponašanje kojem težimo; naši modeli ga još ne odražavaju u potpunosti. Nastavit ćemo poboljšavati i specifikaciju i modele na osnovu saznanja iz istraživanja, primjene u stvarnom svijetu i povratnih informacija.
Želimo čuti koji su vam dijelovi specifikacije uvjerljivi, gdje se ne slažete s ravnotežom koju uspostavlja te šta u njoj nedostaje ili ostaje nejasno. Povratne informacije o vrijednostima, kompromisima i konkretnim formulacijama mogu nam pomoći da je poboljšamo. Pozivamo vas da pročitate ažuriranu specifikaciju modela(otvara se u novom prozoru) i podijelite svoje mišljenje(otvara se u novom prozoru).
