Politik for deling og udgivelse

For at mindske de mulige risici ved AI-genereret indhold, har vi fastsat følgende politik for tilladt deling.

Det er generelt tilladt at dele dine egne forespørgsler eller færdiggørelser på sociale medier, og det er tilladt at livestreame din brug eller demonstration af vores produkter til grupper af mennesker. Overhold følgende retningslinjer:

• Gennemgå alle genereringer før deling eller under livestreaming.
• Skriv dit navn eller din virksomheds navn på indholdet.
• Fremhæv, at indholdet er AI-genereret på en måde, som ingen bruger med rimelighed kan overse eller misforstå.
• Del ikke indhold, der overtræder vores indholdspolitik⁠, eller som kan støde andre.
• Hvis du modtager forslag om forespørgsler fra et publikum, så brug sund fornuft: Indtast ikke forespørgsler, der kan resultere i overtrædelse af vores indholdspolitik⁠.

Hvis du vil sikre dig, at OpenAI-teamet er opmærksom på en bestemt færdiggørelse, kan du sende os en e-mail eller benytte rapporteringsværktøjet i Playground.

• Husk, at du interagerer med den rå model, hvilket betyder, at vi ikke filtrerer forudindtagede eller negative svar fra. (Du kan også læse mere om implementering af vores gratis endepunkt for moderering⁠⁠(åbner i et nyt vindue) her.)

Skabere, der ønsker at offentliggøre deres eget skriftlige indhold (f.eks. en bog eller en novellesamling) skabt delvist med OpenAI's API, er tilladt at gøre dette under følgende betingelser:

• Det offentliggjorte indhold har dit navn eller virksomhed anført.
• AI's rolle i formuleringen af indholdet er tydeligt beskrevet på en måde, som ingen læser kan overse, og som en almindelig læser vil finde tilstrækkeligt let at forstå.
• Emner i indholdet overtræder ikke OpenAI’s indholdspolitik⁠ eller vilkår for brug⁠⁠, f.eks. ikke er relateret til voksenindhold, spam, hadefuldt indhold, indhold, der opfordrer til vold, eller anden brug, der kan resultere i social skade.
• Vi beder dig om ikke at dele output, der kan støde andre.

F.eks. skal man i et forord eller introduktion (eller andet lignende sted) angive de respektive roller i skitsering, redigering osv. Man bør ikke fremstille API-genereret indhold som værende udelukkende genereret af et menneske eller udelukkende genereret af en AI, og et menneske skal tage det endelige ansvar for det indhold, der offentliggøres.

Her er nogle standardformuleringer, som du kan bruge til at beskrive din kreative proces, forudsat at de er korrekte:

Vi mener, at det er vigtigt, at omverdenen kan evaluere vores forskning og produkter, især for at forstå og forbedre potentielle svagheder og sikkerheds- eller forudindtagelsesproblemer i vores modeller. Derfor byder vi forskningspublikationer vedrørende OpenAI-API velkommen.

• I nogle tilfælde kan vi ønske at fremhæve dit arbejde internt og/eller eksternt.
• I andre tilfælde, såsom ved publikationer, der er relateret til sikkerhed eller misbrug af API'en, vi vil muligvis tage passende handling for at beskytte vores brugere.
• Hvis du under din research bemærker sikkerhedsproblemer med API'en, beder vi dig om straks at indsende disse via vores Coordinated Vulnerability Disclosure Program⁠⁠.

Der er en række forskningsretninger, som vi er spændte på at udforske med OpenAI API'en. Hvis du er interesseret i muligheden for subsidieret adgang, bedes du give os oplysninger om din brugscase via Researcher Access Program-ansøgning⁠en⁠.

Vi anser især følgende for at være særligt vigtige retninger, men du er velkommen til at udforme din egen retning:

• Justering: Hvordan kan vi forstå, hvilket mål, hvis noget, en model bedst kan anses for at forfølge? Hvordan kan vi forøge omfanget af graden af dette måls overenstemmelse med menneskelige præferencer, såsom via design af forespørgsler eller finjustering.
• Retfærdighed og repræsentation: Hvordan bør kriterier for ydeevne fastlægges for retfærdighed og repræsentation i sprogmodeller? Hvordan kan sprogmodeller forbedres, så de effektivt understøtter målene om retfærdighed og repræsentation i specifikke, implementerede sammenhænge?
• Tværfaglig research: Hvordan kan AI-udviklingen trække på indsigt fra andre fag såsom filosofi, kognitionsvidenskab og sociolingvistik?
• Fortolkning og gennemsigtighed: Hvordan fungerer disse modeller, mekanistisk? Kan vi identificere, hvilke begreber de bruger, eller udtrække latent viden fra modellen, drage konklusioner om træningsproceduren eller forudsige overraskende fremtidig adfærd?
• Potentiale for misbrug: Hvordan kan systemer som API'en misbruges? Hvilke former for “red teaming”-tilgange kan vi udvikle for at hjælpe os selv og andre AI-udviklere med at tænke over, hvordan man på ansvarlig vis implementerer teknologier som denne?
• Modeludforskning: Modeller som dem, der betjenes af API'en, har en række funktioner, som vi endnu ikke har udforsket. Vi er begejstrede for undersøgelser inden for mange områder, herunder modelbegrænsninger, sproglige egenskaber, almindelig sund fornuft og potentielle anvendelser til mange andre problemer.
• Robusthed: Generative modeller har ujævne kapacitetsflader med potentiale for overraskende stærke og overraskende svage kapacitetsområder. Hvor robuste er store generative modeller over for “naturlige” forstyrrelser i forespørgslen, såsom at formulere den samme idé på forskellige måder eller med eller uden stavefejl? Kan vi forudsige, hvilke domæner og opgaver store generative modeller er mere tilbøjelige til at være robuste (eller ikke robuste) i, og hvordan hænger dette sammen med træningsdata? Findes der teknikker, vi kan bruge til at forudsige eller mildne worst case-adfærd? Hvordan kan robusthed måles i forbindelse med few-shot-learning (f.eks. på tværs af variationer i forespørgsler)? Kan vi træne modeller, så de opfylder sikkerhedskrav med en meget høj grad af pålidelighed, selv under ondsindede input?

Bemærk, at det på grund af det store antal anmodninger tager tid for os at gennemgå disse anmodninger – ikke alle forskningsprojekter vil blive prioriteret til støtte. Vi kontakte dig kun, hvis din ansøgning bliver udvalgt til at få tildelt støtte.