Ažurirana specifikacija modela za sposobniji i korisniji AI
Kako naši modeli postaju pametniji, a njihovo djelovanje sve više utječe na svijet, sve je važnije da se ne zaustave na pukom tumačenju konkretnih uputa koje dobivaju. Modeli moraju razumjeti i ljudske namjere i vrijednosti kako bi mogli dobro prosuđivati u situacijama koje njihove upute izričito ne obuhvaćaju, a pritom ostati vjerni ljudskim namjerama i pod ljudskim nadzorom.
Danas ažuriramo specifikaciju modela(otvara se u novom prozoru), naš javni opis načina na koji želimo da se naši modeli ponašaju. U ovoj smo verziji smjernice organizirali oko pet temeljnih vrijednosti: vjernosti ljudskim namjerama, smanjenja štete, iskrenosti i transparentnosti, ljudske samostalnosti i brižnosti. Time odražavamo jedan od ciljeva našeg rada na usklađivanju s vrijednostima: da modeli razumiju i primjenjuju ljudske vrijednosti u nepoznatim situacijama, a pritom ostanu vjerni ljudskim namjerama. Uz jasnija objašnjenja postojećih načela, ova verzija donosi smjernice o kontekstu, nadzoru i samostalnosti, prilagođava neke zadane obrasce ponašanja i uklanja velik dio detaljnih stilskih smjernica.
Navedenih pet vrijednosti izražava opća načela koja su već prisutna u cijeloj specifikaciji modela: služiti ljudskim ciljevima, govoriti istinu, smanjivati štetu, poštovati slobodu ljudi da oblikuju vlastite stavove i ozbiljno shvaćati njihove okolnosti. Objedinjavanjem tih načela lakše objašnjavamo zašto specifikacija od modela traži određeno ponašanje te razvijamo jasnije smjernice ondje gdje ta načela dosad nisu bila dovoljno razrađena. Ovo je ažuriranje još jedan korak u našem radu na usavršavanju specifikacije kroz istraživanja, iskustvo primjene modela, povratne informacije javnosti o specifikaciji i ponašanju modela te razgovore s korisnicima i vanjskim stručnjacima.
Želimo da AI koristi ljudima diljem svijeta, s različitim potrebama, vrijednostima i nadama za budućnost.
Vjernost ljudskim namjerama temelj je ovog pristupa: razumjeti što je ljudima važno i pomoći im da to ostvare. OpenAI piše specifikaciju, postavlja granice i trenira modele da ih poštuju; razvojni inženjeri usmjeravaju aplikacije unutar tih granica, a korisnici usmjeravaju rad modela u okviru tih ograničenja. Naši bi modeli trebali povećavati mogućnosti ljudi da oblikuju vlastiti život pomažući im da razumiju svijet, otkrivaju mogućnosti i ostvaruju ciljeve koje sami odaberu, uz ozbiljno razmatranje utjecaja te pomoći na druge. Vjernost ljudskim namjerama i preostale četiri vrijednosti temelj su strukture specifikacije i usmjeravaju naše modele u odmjeravanju nekih od najvažnijih suprotstavljenih zahtjeva s kojima se susreću. Njihova svrha nije obuhvatiti cijeli raspon ljudskih vrijednosti koje bi naši modeli trebali poštovati i pomagati ljudima da ih ostvaruju.
Vjernost znači ići dalje od doslovnog slijeđenja uputa: dubinski razumjeti namjere i vrijednosti tvrtke OpenAI, razvojnih inženjera i korisnika te mudro postupati kada je to razumijevanje nepotpuno. To ujedno znači prepoznati da se ljudska uvjerenja i vrijednosti mogu mijenjati te pomagati ljudima da promišljaju i razvijaju se na načine koje bi sami odobrili, bez prikrivenog usmjeravanja ili odlučivanja umjesto njih. Primjerice, kada nekome pomaže usporediti ponude za posao, model se može osloniti na prioritete koje je ta osoba ranije navela, poput predvidljivog radnog vremena, pritom jasno navodeći te pretpostavke kako bi ih se lako moglo ispraviti.
Naša je misija osigurati da opća umjetna inteligencija koristi cijelom čovječanstvu. Za to je potrebno uzeti u obzir ne samo nečije trenutačne namjere nego i dugoročne interese te učinke na druge. Preostale četiri vrijednosti izričito ističu te aspekte:
Smanjenje štete znači poštovati čvrste sigurnosne granice i uzimati u obzir predvidive posljedice djelovanja modela.
Iskrenost i transparentnost znače istinito prikazivati što model zna, što radi i u što nije siguran kako bi ljudi mogli razumjeti i procijeniti njegovo rasuđivanje i rad.
Poticanje ljudske samostalnosti znači jačati sposobnost ljudi da samostalno razumiju, odlučuju i djeluju.
Brižnost znači voditi računa o okolnostima svih na koje djelovanje modela utječe, poštovati relevantne društvene i profesionalne norme te pružati rezultate na koje se ljudi mogu osloniti.
Specifikacija pretvara te vrijednosti u praktične smjernice, uz čvrste granice ondje gdje su potrebne radi zaštite ljudi i društva. U ostalim se slučajevima uglavnom temelji na zadanim postavkama koje korisnici i razvojni inženjeri mogu promijeniti.
Uz ovo ažuriranje specifikacije modela istražujemo i nove metode treniranja koje našim modelima pomažu usvojiti te temeljne vrijednosti te bolje razumjeti i slijediti konkretna načela ponašanja iz specifikacije. Cilj je razviti razumijevanje zašto su ta načela važna i kako ih primijeniti u novim situacijama: činiti prave stvari iz pravih razloga. Želimo da to razumijevanje bude osnova za dobru prosudbu pri donošenju odluka s velikim posljedicama te za brižnost pri svakodnevnim odlukama koje zajedno mogu donijeti trajne koristi ljudima i društvu(otvara se u novom prozoru). Rezultate i spoznaje iz tog rada na treniranju objavit ćemo u budućim novostima.
Ova nam je reorganizacija pomogla i prepoznati gdje su potrebne dodatne smjernice, razviti nova načela za te potrebe te prema potrebi izmijeniti ili ukloniti postojeće smjernice.
Novi odjeljak o vjernosti ljudskim namjerama polazi od ideje da je najvažnije ono što ljudi cijene, a upute su obično najjasniji i najvažniji pokazatelji tih vrijednosti. Ovaj se pristup oslanja na tumačenje usklađivanja kroz teorijski okvir igara pomaganja (vidjeti rani rad(otvara se u novom prozoru) i kasniji pregled(otvara se u novom prozoru)). Odjeljak uključuje ažurirani zapovjedni lanac(otvara se u novom prozoru), koji objašnjava koje se upute primjenjuju i kako se rješavaju sukobi među njima. Novi pododjeljak, pažljivo razmotriti kontekst(otvara se u novom prozoru), objašnjava kako razgovori, memorije i drugi kontekstualni podaci trebaju pridonijeti tome da model razumije ljudske namjere i preferencije.
Dodali smo i zadane smjernice o podupiranju ljudske samostalnosti(otvara se u novom prozoru) i poštovanju relevantnih društvenih normi(otvara se u novom prozoru) te proširili postojeće smjernice o kontroli popratnih učinaka i obavještavanju o njima(otvara se u novom prozoru). Ta načela obuhvaćaju dodatne, često suptilne, ali važne načine na koje bi se preostale vrijednosti trebale očitovati u ponašanju modela: razmatranje učinaka rada na druge, jačanje sposobnosti korisnika i pružanje rezultata na koje se ljudi mogu osloniti, uz poštovanje korisnikovih ciljeva i uputa.
Istodobno iz specifikacije uklanjamo većinu detaljnih stilskih smjernica. Stil bi se trebao prilagođavati onome što ljudi preferiraju: općenito, unutar pojedinih jezika i kultura te za svaku osobu zasebno. Povratne informacije korisnika i kontekst pružaju uvid u te preferencije. Specifikacija zadržava čvršće zadane smjernice, poput objektivnog pristupa pitanjima(otvara se u novom prozoru). Korisnici i razvojni inženjeri mogu izričito zatražiti od modela da zauzme određeno gledište, ali model ne bi smio zaključiti da to žele samo na temelju svoje pretpostavke o tome što žele čuti.
Naposljetku, s obzirom na sve širi raspon primjena naših modela i okruženja u kojima se upotrebljavaju, u specifikaciji model sada nazivamo „GPT”, a ne „asistent”.
Kako modeli postaju sposobniji, ovo je ažuriranje prvi korak prema jasnijem izlaganju vrijednosti i razloga na kojima se specifikacija temelji. Specifikacija modela opisuje ponašanje kojem težimo; naši ga modeli još ne odražavaju u potpunosti. Nastavit ćemo poboljšavati i specifikaciju i modele na temelju spoznaja iz istraživanja, stvarne primjene i povratnih informacija.
Želimo čuti koji su vam dijelovi specifikacije uvjerljivi, gdje se ne slažete s postignutom ravnotežom i što je u njoj zanemareno ili nedovoljno jasno. Povratne informacije o vrijednostima, kompromisima i konkretnim formulacijama mogu nam pomoći da je poboljšamo. Pozivamo vas da pročitate ažuriranu specifikaciju modela(otvara se u novom prozoru) i podijelite svoje mišljenje(otvara se u novom prozoru).
