Beleid voor delen en publiceren

Om de mogelijke risico's van door AI gegenereerde content te beperken, hebben we het volgende beleid opgesteld met betrekking tot toegestaan delen.

Het plaatsen van je eigen prompts of voltooide taken op social media is over het algemeen toegestaan, evenals het livestreamen van je gebruik of het demonstreren van onze producten aan groepen mensen. Neem het volgende in acht:

• Controleer elke generatie handmatig voordat je deze deelt of tijdens het streamen.
• Vermeld de inhoud onder jouw naam of die van je bedrijf.
• Geef aan dat de inhoud door AI is gegenereerd en doe dat zodanig dat geen enkele gebruiker dit redelijkerwijs kan missen of verkeerd begrijpen.
• Deel geen inhoud die in strijd is met ons Inhoudsbeleid⁠⁠ of die anderen kan beledigen.
• Als je verzoeken van het publiek voor prompts accepteert, gebruik dan je gezond verstand; voer geen prompts in die kunnen leiden tot schendingen van ons Inhoudsbeleid⁠⁠.

Als je ervoor wilt zorgen dat het OpenAI-team op de hoogte is van een bepaalde voltooiing, kun je ons een e-mail sturen of de rapportagetools in Playground gebruiken.

• Bedenk dat je interactie hebt met het ruwe model, wat betekent dat we geen bevooroordeelde of negatieve reacties wegfilteren. (Meer informatie het implementeren van ons gratis moderatie-eindpunt⁠⁠(opent in een nieuw venster) lees je hier.)

Makers die hun eigen geschreven inhoud (bijvoorbeeld een boek of een bundel met korte verhalen) willen publiceren die gedeeltelijk is gemaakt met de OpenAI API, mogen dit doen onder de volgende voorwaarden:

• De gepubliceerde inhoud wordt toegeschreven aan je naam of bedrijf.
• De rol van AI bij het formuleren van de inhoud wordt duidelijk vermeld op een manier die geen enkele lezer kan missen en die een gemiddelde lezer voldoende begrijpelijk zal vinden.
• De onderwerpen van de inhoud zijn niet in strijd met het Inhoudsbeleid⁠ of de Gebruiksvoorwaarden⁠ van OpenAI, d.w.z. ze hebben geen betrekking op inhoud voor volwassenen, spam, haatdragende inhoud, inhoud die aanzet tot geweld of ander gebruik dat sociale schade kan veroorzaken.
• We verzoeken je vriendelijk om geen uitvoer te delen die anderen kan beledigen.

Zo moet men bijvoorbeeld in een voorwoord of inleiding (of een soortgelijke plaats) de relatieve rollen van het opstellen, redigeren etc. gedetailleerd beschrijven. Mensen mogen door API gegenereerde inhoud niet voorstellen als volledig door een mens of volledig door een AI gegenereerd, en het is een mens die de uiteindelijke verantwoordelijkheid moet nemen voor de inhoud die wordt gepubliceerd.

Hier zijn enkele standaardformuleringen die je kunt gebruiken om je creatieve proces te beschrijven, mits deze accuraat zijn:

Wij vinden het belangrijk dat de buitenwereld ons onderzoek en onze producten kan beoordelen, met name om inzicht te krijgen in mogelijke zwakke punten en problemen met betrekking tot veiligheid of vooringenomenheid in onze modellen en deze te verbeteren. Daarom verwelkomen we onderzoekspublicaties met betrekking tot de OpenAI API.

• In sommige gevallen willen we je werk intern en/of extern onder de aandacht brengen.
• In andere gevallen, zoals publicaties die betrekking hebben op de veiligheid of het misbruik van de API, kunnen we passende maatregelen nemen om onze gebruikers te beschermen.
• Als je tijdens je onderzoek veiligheids- of beveiligingsproblemen met de API constateert, verzoeken wij je deze onmiddellijk te melden via ons programma voor gecoördineerde meldingen van kwetsbaarheden⁠.

Er zijn een aantal onderzoeksrichtingen die we graag willen verkennen bij de OpenAI API. Als je geïnteresseerd bent in de mogelijkheid van gesubsidieerde toegang, geef ons dan details over de usecase van je onderzoek in de aanvraag voor het programma inzake toegang voor onderzoekers⁠⁠.

Wij beschouwen met name de volgende punten als bijzonder belangrijke onderzoeksrichtingen, maar je bent vrij om je eigen richting op te stellen:

• Afstemming: Hoe kunnen we begrijpen welke doelstelling, indien van toepassing, een model het best kan nastreven? Hoe kunnen we ervoor zorgen dat die doelstelling beter is afgestemd op de voorkeuren van mensen, bijvoorbeeld door middel van het ontwerpen en verfijnen van prompts?
• Eerlijkheid en representativiteit: Hoe moeten prestatiecriteria worden vastgesteld voor eerlijkheid en representativiteit in taalmodellen? Hoe kunnen taalmodellen worden verbeterd om de doelstellingen van eerlijkheid en representativiteit in specifieke, geïmplementeerde contexten effectief te ondersteunen?
• Interdisciplinair onderzoek: Hoe kan AI-ontwikkeling gebruikmaken van inzichten uit andere disciplines, zoals filosofie, cognitieve wetenschap en sociolinguïstiek?
• Interpreteerbaarheid en transparantie: Hoe werken deze modellen mechanistisch gezien? Kunnen we vaststellen welke concepten ze gebruiken, of latente kennis uit het model halen, conclusies trekken over de trainingsprocedure of verrassend toekomstig gedrag voorspellen?
• Potentieel voor misbruik: Hoe kunnen systemen zoals de API worden misbruikt? Welke soorten ‘red teaming’-benaderingen kunnen we ontwikkelen om ons en andere AI-ontwikkelaars te helpen nadenken over het verantwoord inzetten van dit soort technologieën?
• Modelverkenning: Modellen zoals die door de API worden aangeboden, beschikken over een verscheidenheid aan mogelijkheden die we nog moeten verkennen. We zijn enthousiast over onderzoek op vele gebieden, waaronder modelbeperkingen, taalkundige eigenschappen, met gezond verstand redeneren en mogelijke toepassingen voor vele andere problemen.
• Robuustheid: Generatieve modellen hebben ongelijkmatige capaciteitsoppervlakken, met potentieel verrassend sterke en verrassend zwakke capaciteitsgebieden. Hoe robuust zijn grote generatieve modellen ten opzichte van ‘natuurlijke’ verstoringen in de prompt, zoals het op verschillende manieren formuleren van hetzelfde idee of met of zonder typefouten? Kunnen we voorspellen voor welke domeinen en taken grote generatieve modellen waarschijnlijk robuust (of niet robuust) zijn, en hoe verhoudt zich dit tot de trainingsdata? Zijn er technieken die we kunnen gebruiken om het slechtst mogelijke gedrag te voorspellen en te beperken? Hoe kan robuustheid worden gemeten in de context van few-shot learning (bijvoorbeeld bij variaties in prompts)? Kunnen we modellen zo trainen dat ze zelfs bij opzettelijk misleidende invoer voldoen aan veiligheidseisen met een zeer hoge mate van betrouwbaarheid?

Houd er rekening mee dat het vanwege het grote aantal aanvragen enige tijd duurt voordat wij deze aanvragen hebben beoordeeld en dat niet alle onderzoeken voor subsidie in aanmerking komen. We nemen alleen contact met je op als je aanvraag is geselecteerd voor subsidie.