Zásady zdieľania a publikovania

Zaviedli sme nasledujúce zásady týkajúce sa povoleného zdieľania s cieľom obmedziť možné riziká vyplývajúce z obsahu generovaného umelou inteligenciou.

Zverejňovanie vlastných príkazov alebo dokončení na sociálnych sieťach je vo všeobecnosti povolené, rovnako ako aj vysielanie naživo týkajúce sa používania alebo predvádzania našich produktov skupinám ľudí. Dodržujte preto nasledujúce pokyny:

• Každé generovanie skontrolujte manuálne pred zdieľaním alebo počas vysielania.
• K obsahu priraďte vaše meno alebo meno vašej spoločnosti.
• Uveďte, že obsah je vygenerovaný umelou inteligenciou tak, aby si to všimol každý používateľ a aby ho nikto nepochopil nesprávne.
• Nezdieľajte obsah, ktorý porušuje naše pravidlá pre obsah⁠ alebo ktorý by mohol ostatných uraziť.
• Ak vytvárate príkazy na základe požiadaviek od publika, použite váš dobrý úsudok a nezadávajte príkazy, ktoré by mohli viesť k porušeniu našich pravidiel pre obsah⁠.

Ak chcete zabezpečiť, aby tím spoločnosti OpenAI vedel o konkrétnom dokončení, môžete nás o tom upovedomiť e-mailom alebo prostredníctvom nástrojov na nahlasovanie v rámci nástroja Playground.

• Pripomíname vám, že interagujete so základným modelom. To znamená, že nefiltrujeme skreslené ani negatívne odpovede. (Ďalšie informácie o implementácii nášho bezplatného koncového bodu moderovania⁠(otvorí sa v novom okne) si môžete prečítať tu.)

Tvorcovia, ktorí chcú zverejniť písomný obsah prvej strany (napríklad knihu alebo zbierku poviedok) vytvorený čiastočne pomocou rozhrania API spoločnosti OpenAI, tak môžu urobiť za nasledujúcich podmienok:

• K zverejnenému obsahu je priradené vaše meno alebo názov vašej spoločnosti.
• Rola umelej inteligencie pri formulovaní obsahu je jasne uvedená tak, aby si to všimol každý čitateľ a aby to bežný čitateľ aj úplne jednoducho pochopil.
• Témy obsahu neporušujú pravidlá pre obsah⁠ ani podmienky používania⁠ spoločnosti OpenAI, napríklad nesúvisia s obsahom pre dospelých, spamom, nenávistným obsahom, obsahom podnecujúcim násilie a ani s iným použitím, ktoré môže spôsobiť spoločenskú ujmu.
• Žiadame vás, aby ste sa vyhli zdieľaniu výstupov, ktoré by mohli ostatných uraziť.

Príklad: V predslove alebo úvode (alebo na inom podobnom mieste) sa vyžaduje podrobný opis príslušných úloh písania, úprav a tak ďalej. Ľudia by nemali prezentovať obsah generovaný rozhraním API ako plne generovaný človekom alebo plne generovaný umelou inteligenciou. Konečnú zodpovednosť za zverejňovaný obsah musí prevziať človek.

Tu je niekoľko vzorových výrazov, ktoré môžete použiť na opis svojho tvorivého procesu, za predpokladu, že sú vo vašom prípade vyhovujúce:

Veríme, že je dôležité, aby väčšia časť sveta dokázala vyhodnotiť náš výskum a produkty a hlavne pochopiť a zlepšiť potenciálne slabiny a problémy s bezpečnosťou alebo skreslením v našich modeloch. Preto uvítame výskumné publikácie súvisiace s rozhraním API spoločnosti OpenAI.

• V niektorých prípadoch možno budeme chcieť vyzdvihnúť vašu prácu interne a/alebo externe.
• V iných prípadoch, ako sú publikácie týkajúce sa bezpečnosti alebo zneužitia rozhrania API, možno budeme chcieť podniknúť primerané kroky na ochranu našich používateľov.
• Ak si počas výskumu všimnete akékoľvek problémy týkajúce sa bezpečnosti rozhrania API, žiadame vás, aby ste ich okamžite nahlásili prostredníctvom nášho programu koordinovaného zverejňovania zraniteľností⁠.

Existuje viacero smerov výskumu, ktorými sa s nadšením uberáme v prípade rozhrania API spoločnosti OpenAI. Ak máte záujem o možnosť subvencovaného prístupu, v žiadosti o program prístupu pre výskumníkov⁠ uveďte podrobnosti o využití vášho výskumu.

Za obzvlášť dôležité považujeme najmä nasledujúce pokyny, no môžete si aj vytvoriť vlastné pravidlá:

• Zosúladenie: Ako dokážeme pochopiť, aký prípadný cieľ model sleduje najlepšie? Ako zvýšime mieru súladu tohto cieľa s ľudskými preferenciami, napríklad prostredníctvom dizajnu príkazu alebo finálnych úprav?
• Spravodlivosť a reprezentácia: Ako by sa mali určiť výkonnostné kritériá týkajúce sa spravodlivosti a reprezentácie v jazykových modeloch? Ako možno vylepšiť jazykové modely, aby efektívne podporovali ciele vo veci spravodlivosti a reprezentácie v špecifických a nasadených kontextoch?
• Medzidisciplinárne vyhľadávanie: Ako môže vývoj umelej inteligencie čerpať z poznatkov z iných disciplín, ako sú filozofia, kognitívna veda a sociolingvistika?
• Interpretovateľnosť a transparentnosť: Ako tieto modely fungujú v rámci mechanizácie? Dokážeme identifikovať nimi používané koncepty alebo extrahovať latentné znalosti z modelu, vytvárať závery o postupe trénovania alebo predpovedať prekvapujúce správanie v budúcnosti?
• Potenciálne zneužitie: Ako sa dajú systémy, ako je rozhranie API, zneužiť? Aké druhy prístupov v rámci testovania proti koordinovaným hekerským útokom dokážeme vyvinúť, ktoré by nám a ostatným vývojárom umelej inteligencie pomohli premýšľať o zodpovednom nasadzovaní takýchto technológií?
• Skúmanie modelu: Podobné modely poskytované rozhraním API majú rôzne schopnosti, ktoré ešte len musíme preskúmať. S nadšením sledujeme výskumy v mnohých oblastiach vrátane limitov, lingvistických vlastností, rozumného uvažovania a potenciálneho využitia modelu v prípade riešenia množstva ďalších problémov.
• Odolnosť: Generatívne modely majú nerovnomerne rozdelené rozsahy schopností s potenciálne prekvapivo silnými a prekvapivo slabými oblasťami. Aká je odolnosť veľkých generatívnych modelov voči prirodzeným poruchám v príkaze, napríklad v prípade formulácie rovnakej myšlienky rôznymi spôsobmi alebo s preklepmi a bez preklepov? Dokážeme predpovedať, pre ktoré druhy domén a úloh budú veľké generatívne modely odolnejšie (alebo menej odolné) a ako to súvisí s údajmi z trénovania? Sú k dispozícii spôsoby, ktoré je možné použiť na predpovedanie a obmedzenie najhoršieho možného správania? Ako sa dá merať odolnosť v kontexte učenia sa s minimom znalostí (napríklad v prípade rôznych variácií v rámci príkazov)? Dokážeme trénovať modely tak, aby mali potrebné bezpečnostné vlastnosti s veľmi vysokou úrovňou spoľahlivosti aj v prípade vstupov so zlým úmyslom?

Vezmite na vedomie, že kvôli veľkému počtu žiadostí nám ich posúdenie určitý čas trvá a nie všetky výskumy budú uprednostňované pri udeľovaní subvencií. Ozveme sa vám len v prípade, že vašu žiadosť schválime na udelenie subvencie.