Pravila dijeljenja i objavljivanja

Kako bismo ublažili moguće rizike sadržaja stvorenog umjetnom inteligencijom, postavili smo sljedeća pravila o dopuštenom dijeljenju.

Objavljivanje vlastitih upita ili dovršenih zadataka na društvenim mrežama općenito je dopušteno, kao i prijenos uživo vaše uporabe ili demonstracije naših proizvoda grupama ljudi. Pridržavajte se sljedećeg:

• Ručno pregledajte svaki stvoreni sadržaj prije dijeljenja ili tijekom strujanja.

• Sadržaj pripišite svojem imenu ili svojem društvu.

• Navedite kako je sadržaj stvoren umjetnom inteligencijom na način koji nijedan korisnik ne bi mogao razumno propustiti ili pogrešno shvatiti.

• Ne dijelite sadržaj koji krši naša Pravila o sadržaju⁠ ili koji bi mogao uvrijediti druge.

• Ako primate upute od publike, služite se zdravim razumom; nemojte unositi upute koje bi mogle rezultirati kršenjem naših Pravila o sadržaju⁠.

Ako želite biti sigurni da je tim OpenAI upoznat s određenim dovršetkom, možete nam poslati e-poštu ili služiti se alatima za izvještavanje unutar Playgrounda.

• Imajte na umu da komunicirate sa sirovim modelom, što znači da ne filtriramo pristrane ili negativne odgovore. (Također, možete pročitati više o implementaciji naše besplatne krajnje točke moderiranja⁠(otvara se u novom prozoru) ovdje.)

Autori koji žele objaviti vlastiti pisani sadržaj (na primjer, knjigu, zbirku kratkih priča) djelomično stvoren s pomoću OpenAI API-ja mogu to učiniti pod sljedećim uvjetima:

• Objavljeni sadržaj pripisuje se vašem imenu ili društvu.

• Uloga umjetne inteligencije u formuliranju sadržaja jasno je otkrivena na način koji nijedan čitatelj ne bi mogao propustiti i koji bi prosječni čitatelj smatrao dovoljno lakim za razumjeti.

• Teme sadržaja ne krše Pravila o sadržaju⁠ ili Uvjete uporabe⁠ društva OpenAI, na primjer, nisu povezane sa sadržajem za odrasle, neželjenom poštom, sadržajem mržnje, sadržajem koji potiče nasilje ili drugim načinima uporabe koji mogu uzrokovati društvenu štetu.

• Ljubazno vas molimo da se suzdržite od dijeljenja rezultata koji bi mogli uvrijediti druge.

Na primjer, u predgovoru ili uvodu (ili sličnom mjestu) potrebno je detaljno opisati relativne uloge izrade nacrta, uređivanja itd. Ljudi ne bi trebali predstavljati sadržaj stvoren putem API-ja kao da ga je u potpunosti stvorio čovjek ili da ga je u potpunosti stvorila umjetna inteligencija i čovjek je taj koji mora preuzeti krajnju odgovornost za objavljeni sadržaj.

Evo nekoliko uobičajenih riječi koje možete upotrijebiti za opisivanje svog kreativnog postupka, pod uvjetom da su točne:

Vjerujemo kako je važno da šira javnost može procijeniti naša istraživanja i proizvode, posebno kako bi razumjela i poboljšala potencijalne slabosti i probleme sa sigurnošću ili pristranošću u našim modelima. Prema tome, pozdravljamo istraživačke publikacije vezane uz OpenAI API.

• U nekim slučajevima, možda ćemo htjeti istaknuti vaš rad interno i/ili eksterno.

• U drugim slučajevima, kao što su publikacije koje se odnose na sigurnost ili zlouporabu API-ja, možda ćemo htjeti poduzeti odgovarajuće mjere kako bismo zaštitili naše korisnike.

• Ako tijekom istraživanja primijetite bilo kakve sigurnosne probleme s API-jem, molimo vas da ih odmah prijavite s pomoću našeg koordiniranog programa za otkrivanje ranjivosti⁠.

Postoji niz istraživačkih smjerova koje s uzbuđenjem želimo istražiti s uz OpenAI API. Ako ste zainteresirani za mogućnost subvencioniranog pristupa, molimo vas da nam dostavite podatke o vašem istraživačkom slučaju uporabe u prijavi za Program pristupa za istraživače⁠.

Posebice smatramo sljedeće smjernice vrlo važnima, iako možete slobodno oblikovati vlastite smjernice:

• Usklađenost: Kako možemo razumjeti koji cilj, ako ga uopće ima, model najbolje shvaća kao cilj koji slijedi? Kako možemo povećati stupanj usklađenosti tog cilja s ljudskim preferencijama, na primjer, s pomoću brzog dizajna ili preciznog namještanja?

• Pravednost i zastupljenost: Kako bi se trebali uspostaviti kriteriji uspješnosti za pravednost i zastupljenost u jezičnim modelima? Kako se jezični modeli mogu poboljšati kako bi učinkovito podržali ciljeve pravednosti i zastupljenosti u specifičnim, primijenjenim kontekstima?

• Interdisciplinarno istraživanje: Kako se razvoj umjetne inteligencije može služiti uvidima iz drugih disciplina, kao što su filozofija, kognitivne znanosti i sociolingvistika?

• Interpretabilnost i transparentnost: Kako ovi modeli mehanički funkcioniraju? Možemo li prepoznati koje koncepte upotrebljavaju ili izvući latentno znanje iz modela, donijeti zaključke o postupku obuke ili predvidjeti iznenađujuće buduće ponašanje?

• Potencijal zlouporabe: Kako se sustavi poput API-ja mogu zloupotrijebiti? Kakve pristupe postupka „red teaming” (simulacija napada) možemo razviti kako bismo pomogli nama i drugim programerima umjetne inteligencije da razmišljaju o odgovornoj primjeni ovakvih tehnologija?

• Istraživanje modela: Modeli poput onih koje poslužuje API imaju niz mogućnosti koje tek trebamo istražiti. Uzbuđeni smo istraživanjima u mnogim područjima, obuhvaćajući ograničenja modela, lingvistička svojstva, logično zaključivanje i potencijalne primjene za mnoge druge probleme.

• Robusnost: Modeli stvaranja imaju nejednake sposobnosti, s potencijalom za iznenađujuće jaka i iznenađujuće slaba područja sposobnosti. Koliko su veliki modeli stvaranja otporni na „prirodne” perturbacije u odzivniku, poput formuliranja iste ideje na različite načine s ili bez tipografskih pogrešaka? Možemo li predvidjeti vrste domena i zadataka za koje će veliki modeli stvaranja vjerojatnije biti robusni (ili nerobusni) i kako se to odnosi na podatke za obuku? Postoje li tehnike koje možemo upotrebljavati za predviđanje i ublažavanje najgoreg mogućeg ponašanja? Kako se robusnost može mjeriti u kontekstu učenja s nekoliko pokušaja (na primjer, varijacije u odzivnicima)? Možemo li obučavati modele tako da zadovoljavaju sigurnosna svojstva s vrlo visokom razinom pouzdanosti, čak i pod utjecajem suprotstavljenih faktora?

Imajte na umu da zbog velikog broja zahtjeva treba vremena da pregledamo prijave i da neće sva istraživanja imati prioritet za subvenciju. Obratit ćemo vam se samo ako vaša prijava bude odabrana za subvenciju.