Specificații model actualizate pentru AI mai capabilă și utilă
Pe măsură ce modelele noastre devin mai inteligente și acțiunile lor au un impact mai mare asupra lumii, este tot mai important ca ele să nu se limiteze la interpretarea instrucțiunilor concrete pe care le primesc. Modelele trebuie să înțeleagă și intențiile și valorile umane, pentru a da dovadă de discernământ în situații pe care instrucțiunile nu le acoperă explicit, respectând în continuare intențiile oamenilor și rămânând sub supravegherea lor.
Astăzi actualizăm documentul Specificații model(se deschide într-o fereastră nouă), în care descriem public cum dorim să se comporte modelele noastre. Actualizarea reorganizează îndrumările în jurul a cinci valori fundamentale: fidelitatea față de intențiile umane, reducerea la minimum a prejudiciilor, onestitatea și transparența, autonomia umană și grija. Această schimbare reflectă un obiectiv al eforturilor noastre de aliniere la valori: modelele să înțeleagă și să aplice valorile umane în situații necunoscute, rămânând fidele intențiilor oamenilor. Pe lângă explicații mai clare ale principiilor existente, revizuirea adaugă îndrumări privind contextul, supravegherea și autonomia, ajustează unele comportamente implicite și elimină o mare parte dintre îndrumările detaliate privind stilul.
Cele cinci valori de mai sus exprimă angajamente generale care se regăsesc deja în întregul document „Specificații model”: slujirea scopurilor umane, respectarea adevărului, reducerea la minimum a prejudiciilor, respectarea libertății oamenilor de a-și forma propriile opinii și tratarea cu seriozitate a situației lor. Reunirea acestor angajamente ajută la explicarea motivelor pentru care specificațiile cer modelelor să se comporte într-un anumit fel și ne permite să formulăm îndrumări mai clare acolo unde aceste angajamente nu erau pe deplin exprimate. Această actualizare este încă un pas în eforturile noastre de a îmbunătăți specificațiile prin cercetare, experiența implementării modelelor, feedbackul publicului despre specificații și comportamentul modelelor, precum și discuții cu utilizatori și experți externi.
Ne dorim ca AI să aducă beneficii unei lumi de oameni cu nevoi, valori și speranțe de viitor diferite.
Fidelitatea față de intențiile umane este fundamentul acestei abordări: să înțelegem ce contează pentru oameni și să îi ajutăm să urmărească aceste lucruri. OpenAI redactează specificațiile, stabilește limite și antrenează modelele să le respecte; dezvoltatorii stabilesc cum funcționează aplicațiile în aceste limite, iar utilizatorii ghidează activitatea modelului cu respectarea acestor constrângeri. Modelele noastre ar trebui să sporească puterea oamenilor de a-și modela propriile vieți, ajutându-i să înțeleagă lumea, să descopere posibilități și să urmărească obiectivele pe care le aleg, fără a neglija efectele acestui ajutor asupra celorlalți. Fidelitatea față de intențiile umane și celelalte patru valori structurează specificațiile și ghidează modul în care modelele noastre ar trebui să gestioneze unele dintre cele mai importante compromisuri cu care se confruntă. Aceste valori nu își propun să cuprindă întreaga gamă de valori umane pe care modelele noastre ar trebui să le respecte și să îi ajute pe oameni să le urmeze.
Fidelitatea înseamnă a merge dincolo de respectarea literală a instrucțiunilor: a înțelege în profunzime intențiile și valorile OpenAI, ale dezvoltatorilor și ale utilizatorilor și a acționa cu înțelepciune atunci când această înțelegere este incompletă. Înseamnă și a recunoaște că opiniile și valorile oamenilor se pot schimba și a-i ajuta să reflecteze și să evolueze în moduri pe care le-ar aproba, fără a-i influența pe ascuns sau a le nesocoti alegerile. De exemplu, când ajută o persoană să compare oferte de muncă, modelul s-ar putea baza pe priorități pe care aceasta le-a comunicat anterior, cum ar fi un program previzibil, prezentând totodată clar aceste presupuneri, astfel încât să poată fi corectate ușor.
Misiunea noastră este să ne asigurăm că inteligența generală artificială aduce beneficii întregii umanități. Acest lucru presupune să ținem cont nu doar de intențiile imediate ale unei persoane, ci și de interesele sale pe termen lung și de efectele asupra celorlalți. Celelalte patru valori exprimă explicit aceste considerente:
Reducerea la minimum a prejudiciilor înseamnă respectarea unor limite ferme de siguranță și luarea în considerare a consecințelor previzibile ale acțiunilor modelului.
Onestitatea și transparența înseamnă prezentarea sinceră a ceea ce modelul știe, face și nu știe cu certitudine, astfel încât oamenii să îi poată înțelege și evalua raţionamentul și activitatea.
Susținerea autonomiei umane înseamnă consolidarea capacității oamenilor de a înțelege, de a alege și de a acționa independent.
Grija înseamnă atenție la situația celor afectați, respectarea normelor sociale și profesionale relevante și realizarea unei munci pe care oamenii se pot baza.
Specificațiile transformă aceste valori în îndrumări practice, cu limite ferme acolo unde sunt necesare pentru a proteja oamenii și societatea. În rest, ele iau în mare parte forma unor reguli implicite pe care utilizatorii și dezvoltatorii le pot modifica.
În paralel cu această actualizare a documentului „Specificații model”, am explorat noi metode de antrenare pentru a ajuta modelele să învețe aceste valori fundamentale și să înțeleagă și să respecte mai bine principiile de comportament concrete din specificații. Scopul este ca modelele să înțeleagă de ce contează aceste principii și cum să le aplice în situații noi: să facă ceea ce trebuie din motivele potrivite. Ne dorim ca această înțelegere să susțină discernământul în deciziile cu impact major și grija în deciziile de zi cu zi, care, împreună, pot aduce beneficii durabile oamenilor și societății(se deschide într-o fereastră nouă). Vom prezenta rezultatele și lecțiile învățate din aceste eforturi de antrenare în actualizări viitoare.
Această reorganizare ne-a ajutat și să identificăm unde erau necesare îndrumări suplimentare, să dezvoltăm principii noi pentru a acoperi aceste nevoi și să revizuim sau să eliminăm îndrumările existente, după caz.
Noua secțiune despre fidelitatea față de intențiile umane pornește de la ideea că ceea ce prețuiesc oamenii este primordial, iar instrucțiunile sunt, de regulă, cele mai clare și mai importante indicii ale acestor valori. Această abordare preia idei din perspectiva asupra alinierii bazată pe jocuri de asistență (vezi cercetările inițiale(se deschide într-o fereastră nouă) și o sinteză ulterioară(se deschide într-o fereastră nouă)). Secțiunea include o versiune actualizată a ierarhiei instrucțiunilor(se deschide într-o fereastră nouă), care explică ce instrucțiuni se aplică și cum se rezolvă conflictele. O nouă subsecțiune, analizează cu atenție contextul(se deschide într-o fereastră nouă), explică modul în care conversațiile, memoriile și alte indicii contextuale ar trebui să ajute modelul să înțeleagă intențiile și preferințele oamenilor.
Am adăugat și reguli implicite privind susținerea autonomiei umane(se deschide într-o fereastră nouă) și respectarea normelor sociale relevante(se deschide într-o fereastră nouă) și am extins îndrumările existente privind controlarea și comunicarea efectelor secundare(se deschide într-o fereastră nouă). Aceste principii surprind alte moduri, adesea subtile, dar importante, în care celelalte valori ar trebui să se reflecte în comportamentul modelului: luarea în considerare a efectelor activității sale asupra celorlalți, dezvoltarea capacităților utilizatorilor și realizarea unei munci pe care oamenii se pot baza, respectând totodată obiectivele și instrucțiunile utilizatorului.
În același timp, eliminăm majoritatea îndrumărilor detaliate privind stilul din specificații. Stilul ar trebui să se adapteze preferințelor oamenilor, atât la nivel general, cât și în cadrul fiecărei limbi și culturi și pentru fiecare persoană în parte. Feedbackul utilizatorilor și contextul oferă indicii despre aceste preferințe. Specificațiile păstrează reguli implicite mai ferme, precum abordarea obiectivă a întrebărilor(se deschide într-o fereastră nouă). Utilizatorii și dezvoltatorii pot cere explicit modelului să adopte o anumită perspectivă, dar modelul nu ar trebui să deducă această preferință doar din ceea ce crede că aceștia vor să audă.
În cele din urmă, pentru a reflecta diversitatea tot mai mare a utilizărilor modelelor noastre și a mediilor în care sunt implementate, în specificații ne referim acum la model prin „GPT”, nu prin „asistentul”.
Această actualizare este un prim pas spre explicarea mai clară a valorilor și a raţionamentului care stau la baza specificațiilor, pe măsură ce modelele devin mai capabile. Documentul „Specificații model” descrie comportamentul pe care urmărim să îl obținem; modelele noastre nu îl reflectă încă pe deplin. Vom continua să îmbunătățim atât specificațiile, cât și modelele, pe măsură ce învățăm din cercetare, din utilizarea în practică și din feedback.
Vrem să aflăm ce părți ale specificațiilor ți se par convingătoare, unde nu ești de acord cu echilibrul propus și ce aspecte sunt omise sau rămân neclare. Feedbackul despre valori, compromisuri și formulările concrete ne poate ajuta să îmbunătățim documentul. Te invităm să citești documentul actualizat „Specificații model”(se deschide într-o fereastră nouă) și să ne împărtășești perspectiva ta(se deschide într-o fereastră nouă).
