Zásady sdílení a zveřejňování

Abychom zmírnili možná rizika spojená s obsahem generovaným umělou inteligencí, stanovili jsme následující zásady povoleného sdílení.

Zveřejňování vlastních promptů nebo výstupů na sociálních sítích je obecně přípustné, stejně jako živé vysílání používání nebo předvádění našich produktů skupinám lidí. Dodržujte prosím následující zásady:

• Před sdílením nebo během streamování každý vygenerovaný výstup ručně zkontrolujte.
• Připište obsah svému jménu nebo své společnosti.
• Uveďte, že je obsah vytvořen umělou inteligencí, způsobem, který by uživatel nemohl objektivně přehlédnout nebo nesprávně pochopit.
• Nesdílejte obsah, který porušuje naše zásady obsahu⁠ nebo který by mohl urážet druhé.
• Pokud přijímáte požadavky diváků na prompty, postupujte s rozvahou; nezadávejte prompty, které by mohly vést k porušení našich zásad obsahu⁠.

Pokud chcete zajistit, aby tým OpenAI věděl o konkrétním výstupu, můžete nám poslat e-mail nebo použít nástroje pro hlášení v rámci Playgroundu.

• Připomeňme, že pracujete s neupravovaným modelem, což znamená, že nefiltrujeme neobjektivní ani negativní odpovědi. (Další informace o implementaci našeho bezplatného koncového bodu Moderování⁠(otevře se v novém okně) najdete zde.)

Tvůrci, kteří chtějí zveřejnit jimi psaný obsah (např. knihu, sborník povídek) vytvořený částečně pomocí rozhraní API OpenAI, tak mohou učinit za následujících podmínek:

• Zveřejněný obsah je připsán vašemu jménu nebo společnosti.
• Úloha umělé inteligence při formulování obsahu je jasně uvedena způsobem, který by žádný čtenář nemohl přehlédnout a který je pro běžného čtenáře dostatečně srozumitelný.
• Témata obsahu neporušují zásady obsahu⁠ nebo podmínky používání⁠ společnosti OpenAI , např. nesouvisejí s obsahem pro dospělé, spamem, nenávistným obsahem, obsahem podněcujícím k násilí ani jiným použitím, které může způsobit společenskou újmu.
• Žádáme vás, abyste se zdrželi sdílení výstupů, které by mohly urazit druhé.

Například v předmluvě nebo úvodu (nebo na podobném místě) je třeba podrobně popsat příslušné role při psaní, editaci atd. Lidé by neměli prezentovat obsah generovaný rozhraním API jako obsah zcela vytvořený člověkem nebo zcela vytvořený umělou inteligencí a za zveřejňovaný obsah musí nést konečnou odpovědnost člověk.

Zde je několik základních slov, která můžete použít k popisu svého tvůrčího procesu, pokud jsou přesná:

Jsme přesvědčeni, že pro širokou veřejnost je důležité, aby mohla hodnotit náš výzkum a produkty, zejména pro pochopení a zlepšení potenciálních nedostatků a problémů s bezpečností nebo zkreslením našich modelů. Vítáme proto výzkumné publikace týkající se rozhraní API OpenAI.

• V některých případech možná budeme chtít na vaši práci upozornit interně nebo externě.
• V jiných případech, jako jsou publikace týkající se bezpečnosti nebo zneužití rozhraní API, je možné, že budeme chtít přijmout vhodná opatření na ochranu našich uživatelů.
• Pokud si během svého výzkumu všimnete jakýchkoli bezpečnostních problémů s rozhraním API, prosíme, abyste je neprodleně nahlásili prostřednictvím našeho koordinovaného programu pro odhalování zranitelností⁠.

Existuje řada výzkumných směrů, které bychom rádi prozkoumali pomocí rozhraní API OpenAI. Pokud máte zájem o možnost dotovaného přístupu, uveďte nám v žádosti o program přístupu pro výzkumné pracovníky⁠ podrobnosti o svém využití pro výzkum.

Za zvláště důležité považujeme následující pokyny, i když si můžete vytvořit svůj vlastní směr:

• Shoda s očekáváním: Jak můžeme pochopit, jaký cíl, pokud existuje, model nejlépe sleduje? Jak můžeme zvýšit míru souladu tohoto cíle s lidskými preferencemi, například pomocí designu promptů nebo ladění?
• Spravedlnost a zastoupení: Jak by měla být stanovena výkonnostní kritéria pro spravedlnost a zastoupení v jazykových modelech? Jak lze jazykové modely vylepšovat, aby účinně podporovaly cíle spravedlnosti a zastoupení v konkrétních nasazených kontextech?
• Interdisciplinární výzkum: Jak může vývoj umělé inteligence čerpat poznatky z jiných oborů, jako je filozofie, kognitivní věda a sociolingvistika?
• Interpretovatelnost a transparentnost: Jak tyto modely mechanicky fungují? Můžeme určit, jaké koncepty používají, nebo získat latentní znalosti z modelu, vyvodit závěry o postupu trénování nebo předpovědět překvapivé budoucí chování?
• Možnost zneužití: Jak mohou být systémy jako API zneužity? Jaké přístupy „red teamingu“ (testování simulovanými útoky) můžeme vytvořit, aby nám a dalším vývojářům AI pomohly přemýšlet o zodpovědném nasazení takovýchto technologií?
• Průzkum modelů: Modely, jako jsou ty, které obsluhuje rozhraní API, mají řadu možností, které musíme teprve prozkoumat. Jsme nadšeni výzkumem v mnoha oblastech, včetně omezení modelů, lingvistických vlastností, uvažování založeného na zdravém rozumu a potenciálního využití pro mnoho dalších problémů.
• Odolnost: Generativní modely mají nerovnoměrné rozvržení schopností s potenciálem překvapivě silných a překvapivě slabých oblastí schopností. Jak jsou velké generativní modely odolné vůči „přirozeným“ odchylkám v promptu, jako je formulování stejné myšlenky různými způsoby nebo s překlepy či bez nich? Lze předpovědět, v jakých oblastech a pro jaké úlohy budou velké generativní modely pravděpodobně odolné (nebo naopak nebudou odolné) a jak to souvisí s trénovacími daty? Existují techniky, které můžeme použít k předvídání a zmírnění nejhoršího chování? Jak lze měřit odolnost v kontextu učení z malého počtu příkladů (např. v různých variantách promptů)? Můžeme trénovat modely tak, aby splňovaly bezpečnostní vlastnosti s velmi vysokou mírou spolehlivosti, a to i při nepříznivých vstupech?

Vezměte prosím na vědomí, že vzhledem k velkému množství žádostí nám jejich přezkum zabere určitý čas a ne všechny výzkumy budou pro dotaci upřednostněny. Kontaktujeme vás pouze v případě, že vaše žádost bude vybrána pro dotaci.