Policy för delning och publicering

I syfte att minska eventuella risker som AI-genererat innehåll medför har vi fastställt följande policy om tillåten delning.

Det är i allmänhet tillåtet att publicera egna prompter eller slutföranden, liksom att livestreama egen användning eller demonstrera våra produkter för grupper av människor. Följ nedanstående:

• Granska varje generering manuellt innan du delar eller under streaming.
• Tillskriv innehållet ditt eget namn eller ditt företag.
• Indikera att innehållet är AI-genererat på ett sätt som ingen användare rimligen kan missa eller missförstå.
• Dela inte innehåll som bryter mot vår innehållspolicy⁠ eller som andra kan uppfatta som kränkande.
• Om du tar emot förfrågningar om prompter från publiken måste du använda gott omdöme och undvika att ange prompter som riskerar att bryta mot vår innehållspolicy⁠.

Om du vill säkerställa att OpenAI-teamet uppmärksammar ett visst slutförande kan du skicka ett e-postmeddelande till oss eller använda rapporteringsverktygen i Playground.

• Kom ihåg att du interagerar med den råa modellen, vilket innebär att vi inte filtrerar bort vinklade eller negativa svar. (Du kan också läsa mer om hur man använder vår kostnadsfria modereringsslutpunkt⁠(öppnas i ett nytt fönster) här.)

Skapare som vill publicera innehåll de själva har skrivit (t.ex. en bok, novellsamling) med viss hjälp av OpenAI:s API får göra det på följande villkor:

• Det publicerade innehållet tillskrivs ditt namn eller företag.
• Den roll som AI haft i utformningen av innehållet indikeras tydligt så att ingen läsare kan missa det, och på ett sätt som den typiska läsaren har tillräckligt lätt att förstå.
• Innehållets ämnen bryter inte mot OpenAI:s innehållspolicy⁠ eller användarvillkor⁠, t.ex. handlar det inte om vuxeninnehåll, spam, hatiskt innehåll, innehåll som uppmanar till våld eller andra saker som kan tillfoga samhället skada.
• Vi ber dig avstå från att dela utdata som andra kan uppfatta som kränkande.

Man måste exempelvis ange detaljerad information i ett förord eller en introduktion (eller liknande) om de relativa rollerna i skapandet av utkast, redigering osv. API-genererat innehåll ska inte framställas som om det helt och fullt genererats av en människa eller helt och fullt av AI, och en människa måste ta på sig det slutgiltiga ansvaret för publicerat innehåll.

Här är några fasta fraser du kan använda för att beskriva den kreativa processen, förutsatt att det stämmer:

Vi anser att det är viktigt för världen i allmänhet att vår forskning och våra produkter utvärderas, i synnerhet för att förstå och förbättra potentiella svagheter och problem med säkerhet eller fördomar i våra modeller. Därför ser vi gärna att forskning relaterad till OpenAI:s API publiceras.

• I vissa fall kanske vi vill att ditt arbete uppmärksammas internt och/eller externt.
• I andra fall, till exempel när det gäller publikationer relaterade till säkerhet och missbruk av API:et, kanske vi vill vidta åtgärder för att skydda våra användare.
• Om du under din forskning upptäcker några säkerhetsrelaterade problem med API:et ber vi dig att omedelbart skicka in dessa via vårt Program för samordnad sårbarhetsrapportering⁠.

Det finns flera forskningsområden vi gärna utforskar när det gäller OpenAI:s API. Om du är intresserad av subventionerad åtkomst kan du skicka oss dina uppgifter och information om användningsfallet som du forskar kring i en ansökan till Åtkomstprogrammet för forskare⁠.

Vi är särskilt intresserade av följande områden, men du får gärna hitta en egen inriktning:

• Anpassning: Hur kan vi förstå vilket mål, om något, en modell kan anses ha? Hur ökar vi omfattningen av det målets anpassning till mänskliga intressen, till exempel genom promptdesign eller finjustering?
• Opartiskhet och representation: Hur bör resultatkriterier för opartiskhet och representation fastställas i språkmodeller? Hur kan språkmodeller förbättras för att på ett effektivt sätt stödja opartiskhet och representation som mål i specifika, driftsatta sammanhang?
• Interdisciplinär forskning: Hur kan AI-utvecklingen gynnas av insikter från andra vetenskaper, till exempel filosofi, kognitionsvetenskap och sociolingvistik?
• Tolkbarhet och öppenhet: Hur fungerar dessa modeller, rent mekaniskt? Kan vi identifiera vilka koncept de använder, eller extrahera latent kunskap från modellen, dra slutsatser om träningsförfarandet eller förutsäga oväntade framtida beteenden?
• Missbrukspotential: Hur kan system som API:et missbrukas? Vilka slags ”red teaming”-metoder kan tas fram för att hjälpa våra och andra AI-utvecklares funderingar kring ansvarsfull driftsättning av den här typen av teknik?
• Modellutforskning: Modeller liknande de som använder API:et har många outforskade förmågor. Vi ser gärna utforskande undersökningar på olika områden, till exempel modellernas begränsningar, lingvistiska egenskaper, mänskligt resonemang och potentiella användningsområden för många andra problem.
• Robusthet: Generativa modellers förmågor är ojämna, med oväntat starka och oväntat svaga områden. Hur robusta är stora generativa modeller när det kommer till ”naturliga” störningar i prompten, till exempel olika formuleringar av samma idé, eller med eller utan stavfel? Går det att förutsäga inom vilka domäner eller uppgifter generativa modeller sannolikt är mest robusta (eller icke-robusta), och hur är detta relaterat till träningsdata? Finns det tekniker för att förutsäga och begränsa förekomsten av den värsta typen av beteende? Hur kan robusthet mätas när det kommer till few-shot-inlärning (t.ex. mellan olika varianter av prompter)? Går det att träna modeller så att de möter säkerhetsrelaterade kriterier med hög tillförlitlighet, även vid attackerande inmatningar?

Observera att den stora volymen av förfrågningar innebär att det tar tid för oss att granska dessa ansökningar, och att inte all forskning prioriteras för subventioner. Vi kontaktar dig endast om ansökan har valts ut för subventionering.