Politica de partajare și publicare

Pentru a reduce potențialele riscuri asociate conținutului generat de IA, am stabilit următoarea politică privind partajarea permisă.

Publicarea propriilor solicitări sau completări pe rețelele sociale este, în general, permisă, la fel ca și transmisiunea live a utilizării sau demonstrarea produselor noastre în fața unor grupuri de persoane. Vă rugăm să respectați următoarele:

• Verificați manual fiecare rezultat înainte de partajare sau în timpul transmisiunii.
• Atribuiți conținutul numelui dvs. sau companiei dvs.
• Indicați faptul că acest conținut este generat de IA într-un mod în care niciun utilizator nu ar putea să nu observe sau să înțeleagă greșit.
• Nu distribuiți conținut care încalcă Politica noastră privind conținutul⁠⁠ sau care ar putea ofensa alte persoane.
• Dacă acceptați solicitări de la public, folosiți-vă buna judecată; nu introduceți solicitări care ar putea duce la încălcarea Politicii noastre privind conținutul⁠⁠.

Dacă doriți să vă asigurați că echipa OpenAI este la curent cu o anumită completare, ne puteți trimite un e-mail sau puteți utiliza instrumentele de raportare din Playground.

• Rețineți că interacționați cu modelul brut, ceea ce înseamnă că nu filtrăm răspunsurile părtinitoare sau negative. (De asemenea, puteți citi mai multe despre implementarea punctului nostru final de moderare gratuit⁠(se deschide într-o fereastră nouă) aici.)

Creatorii care doresc să publice conținut scris de către ei înșiși (de exemplu, o carte, un compendiu de povestiri scurte), creat parțial cu API-ul OpenAI, pot face acest lucru în următoarele condiții:

• Conținutul publicat este atribuit numelui sau companiei dvs.
• Rolul IA în formularea conținutului este prezentat în mod clar, astfel încât niciun cititor să nu îl poată omite, iar un cititor obișnuit să îl poată înțelege cu ușurință.
• Subiectele abordate în conținut nu încalcă Politica privind conținutul⁠⁠ sau Condițiile de utilizare⁠⁠ OpenAI, adică nu sunt legate de conținut pentru adulți, spam, conținut care incită la ură sau la violență ori de alte utilizări care pot cauza prejudicii sociale.
• Vă rugăm să vă abțineți de la a partaja rezultate care ar putea ofensa alte persoane.

De exemplu, trebuie să detaliați într-o prefață sau într-o introducere (ori într-un loc similar) rolurile relative de redactare, editare etc. Oamenii nu trebuie să prezinte conținutul generat de API ca fiind generat în totalitate de un om sau în totalitate de o inteligență artificială, iar responsabilitatea finală pentru conținutul publicat revine omului.

Iată câteva formulări standard pe care le puteți utiliza pentru a descrie procesul creativ, cu condiția ca acestea să fie corecte:

Considerăm că este important ca lumea să poată evalua cercetările și produsele noastre, în special pentru a înțelege și a îmbunătăți potențialele puncte slabe și problemele legate de siguranță sau prejudecăți din modelele noastre. În consecință, întâmpinăm cu bucurie publicațiile de cercetare legate de API-ul OpenAI.

• În unele cazuri, este posibil să dorim să evidențiem munca dvs. la nivel intern și/sau extern.
• În alte cazuri, cum ar fi publicațiile referitoare la securitatea sau utilizarea abuzivă a API-ului, este posibil să dorim să luăm măsurile adecvate pentru a ne proteja utilizatorii.
• Dacă observați probleme de siguranță sau securitate legate de API în cursul cercetării, vă rugăm să le raportați imediat prin intermediul Programului nostru coordonat de divulgare a vulnerabilităților⁠.

Există o serie de direcții de cercetare pe care suntem încântați să le explorăm cu API-ul OpenAI. Dacă vă interesează oportunitatea accesului subvenționat, vă rugăm să ne furnizați detalii despre cazul dvs. de utilizare în cercetare în cererea pentru Programul de acces pentru cercetători⁠⁠.

În special, considerăm că următoarele direcții sunt deosebit de importante, deși vă puteți crea propria direcție:

• Aliniere: Cum putem înțelege ce obiectiv, dacă există, este cel mai bine înțeles ca fiind urmărit de un model? Cum putem crește măsura în care acel obiectiv este aliniat cu preferințele umane, de exemplu, prin proiectarea promptă sau ajustarea fină?
• Echitate și reprezentare: Cum ar trebui stabilite criteriile de performanță pentru echitate și reprezentare în modelele lingvistice? Cum pot fi îmbunătățite modelele lingvistice pentru a sprijini în mod eficient obiectivele de echitate și reprezentare în contexte specifice, implementate?
• Cercetare interdisciplinară: Cum poate dezvoltarea IA să se bazeze pe cunoștințe din alte discipline, precum filosofie, științe cognitive și sociolingvistice?
• Interpretabilitate și transparență: Cum funcționează aceste modele din punct de vedere mecanic? Putem identifica conceptele pe care le utilizează sau extrage cunoștințe latente din model, face deducții despre procedura de instruire sau prezice comportamente viitoare surprinzătoare?
• Potențial de utilizare abuzivă: Cum pot fi utilizate în mod abuziv sisteme precum API-ul? Ce tipuri de abordări de tip „echipă roșie” putem dezvolta pentru a ne ajuta pe noi și pe alți dezvoltatori de inteligență artificială în luarea în considerare a implementării responsabile a unor astfel de tehnologii?
• Explorarea modelelor: Modelele precum cele furnizate de API au o varietate de capacități pe care încă nu le-am explorat. Suntem entuziasmați de cercetările din multe domenii, inclusiv limitările modelelor, proprietățile lingvistice, dezvoltarea raționamentului bazat pe buna judecată și utilizările potențiale pentru multe alte probleme.
• Robustețe: Modelele generative au capacități inegale, cu potențialul de a avea zone de capacitate surprinzător de puternice și, respectiv, surprinzător de slabe. Cât de robuste sunt modelele generative mari la perturbații „naturale” în solicitare, cum ar fi formularea aceleiași idei în moduri diferite sau cu ori fără greșeli de tastare? Putem prezice tipurile de domenii și sarcini pentru care modelele generative mari sunt mai susceptibile de a fi robuste (sau nu) și cum se raportează acest lucru la datele de instruire? Există tehnici pe care le putem folosi pentru a prezice și a atenua comportamentul în cel mai rău caz posibil? Cum poate fi măsurată robustețea în contextul învățării din puține exemple (de exemplu, în funcție de variațiile solicitărilor)? Putem instrui modelele astfel încât acestea să îndeplinească proprietățile de siguranță cu un nivel foarte ridicat de fiabilitate, chiar și în condiții de intrări contradictorii?

Vă rugăm să rețineți că, din cauza volumului mare de solicitări, este nevoie de timp pentru a le analiza și nu toate cercetările vor fi prioritizate pentru subvenționare. Vă vom contacta doar dacă solicitarea dvs. este selectată pentru subvenționare.