Retningslinjer for deling og publisering

For å redusere de mulige risikoene ved AI-generert innhold har vi satt følgende retningslinjer for tillatt deling.

Det er generelt tillatt å legge ut dine egne meldinger eller fullføringer på sosiale medier, det gjelder også livestrømming av bruken din eller å demonstrere produktene våre for grupper av personer. Vennligst hold deg til følgende:

• Gå manuelt gjennom hver generering før du deler eller mens du strømmer.
• Knytt innholdet til navnet ditt eller bedriften din.
• Indiker at innholdet er AI-generert på en måte som ingen bruker i rimelig grad kan gå glipp av eller misforstå.
• Ikke del innhold som bryter med våre retningslinjer for innhold⁠⁠ eller som kan krenke andre.
• Hvis du tar imot publikumsforespørsler om meldinger, bruk godt skjønn; ikke skriv inn meldinger som kan føre til brudd på våre retningslinjer for innhold⁠.

Hvis du vil sikre at OpenAI-teamet er klar over en bestemt fullføring, kan du sende oss en e-post eller bruke rapporteringsverktøyene innen Playground.

• Husk at du interagerer med den rå modellen, noe som betyr at vi ikke filtrerer ut partiske eller negative svar. (Du kan også lese mer om hvordan du implementerer vårt gratis Moderation-endepunkt⁠⁠(åpnes i et nytt vindu) her.)

Skapere som ønsker å publisere sitt førsteparts skriftlige innhold (f.eks. en bok eller en novellesamling) laget delvis med OpenAI API, har lov til å gjøre det etter følgende betingelser:

• Det publiserte innholdet tilskrives navnet ditt eller bedriften din.
• Rollen til AI i utformingen av innholdet er tydelig oppgitt på en måte som ingen leser kan unngå å legge merke til, og som en typisk leser ville finne tilstrekkelig enkelt å forstå.
• Emnene i innholdet bryter ikke med OpenAIs retningslinjer for innhold⁠⁠ eller vilkår for bruk⁠⁠, for eksempel er de ikke relatert til voksent innhold, spam, hatefullt innhold, innhold som tilskynder til vold, eller andre bruksområder som kan forårsake sosial skade.
• Vi ber om at du avstår fra å dele innhold som kan krenke andre.

For eksempel må man beskrive i et forord eller en introduksjon (eller et lignende sted) de relative rollene for utarbeidelse, redigering osv. Folk bør ikke fremstille API-generert innhold som helt generert av et menneske eller helt generert av en AI, og det er et menneske som må ta det endelige ansvaret for innholdet som publiseres.

Her er standardspråk du kan bruke for å beskrive den kreative prosessen, forutsatt at det er riktig:

Vi mener det er viktig for den utvidede verden å kunne evaluere forskningen og produktene våre, spesielt for å forstå og forbedre potensielle svakheter og problemer med sikkerhet og partiskhet i modellene våre. Derfor ønsker vi velkommen forskningspublikasjoner relatert til OpenAI API.

• I noen tilfeller kan vi ønske å fremheve arbeidet ditt internt og/eller eksternt.
• I andre tilfeller, som publikasjoner som gjelder sikkerhet eller misbruk av API-et, kan vi ønske å iverksette passende tiltak for å beskytte brukerne våre.
• Hvis du oppdager noen sikkerhets- eller trygghetsproblemer med API-et i løpet av forskningen din, ber vi om at du vennligst sender disse umiddelbart gjennom vårt program for koordinert offentliggjøring av sårbarheter⁠.

Det er en rekke forskningsretninger vi er begeistret for å utforske med OpenAI API. Hvis du er interessert i muligheten for subsidiert tilgang, ønsker vi at du gir oss opplysninger om ditt bruksområde for forskning på søknaden for Forskertilgangsprogrammet⁠⁠.

Spesielt anser vi følgende for å være særlig viktige retninger, selv om du står fritt til å utforme din egen retning:

• Tilpasning: Hvordan kan vi forstå hvilket mål, om noe, en modell er best forstått som å forfølge? Hvordan kan vi øke i hvilken grad dette målet er i samsvar med menneskelige preferanser, for eksempel gjennom meldingsutforming eller finjustering?
• Rettferdighet og representasjon: Hvordan bør ytelseskriterier etableres for rettferdighet og representasjon i språkmodeller? Hvordan kan språkmodeller forbedres for effektivt å støtte målene om rettferdighet og representasjon i spesifikke, implementerte kontekster?
• Tverrfaglig forskning: Hvordan kan AI-utvikling dra nytte av innsikter fra andre disipliner som filosofi, kognitiv vitenskap og sosiolingvistikk?
• Tolkbarhet og gjennomsiktighet: Hvordan fungerer disse modellene mekanistisk? Kan vi identifisere hvilke konsepter de bruker, eller trekke ut latent kunnskap fra modellen, gjøre slutninger om opplæringsprosedyren eller forutsi overraskende fremtidig atferd?
• Potensial for misbruk: Hvordan kan systemer som API-et misbrukes? Hvilke typer "red teaming"-tilnærminger kan vi utvikle for å hjelpe oss selv og andre AI-utviklere med å tenke på ansvarlig bruk av teknologier som dette?
• Modellutforskning: Modeller som de som tilbys av API-et, har en rekke muligheter som vi ennå ikke har utforsket. Vi er begeistret over undersøkelser på mange områder, inkludert modellbegrensninger, språklige egenskaper, fornuftig resonnering og potensielle bruksområder for mange andre problemer.
• Robusthet: Generative modeller har ujevne funksjonalitetsflater, med potensial for overraskende sterke og overraskende svake områder av funksjonalitet. Hvor robuste er store generative modeller for "naturlige" forstyrrelser i meldingen, som å formulere den samme ideen på forskjellige måter eller med eller uten skrivefeil? Kan vi forutsi hvilke typer domener og oppgaver store generative modeller sannsynligvis vil være robuste (eller ikke robuste) for, og hvordan henger dette sammen med opplæringsdataene? Finnes det teknikker vi kan bruke for å forutsi og redusere verste fall-oppførsel? Hvordan kan robusthet måles i konteksten av few-shot-læring (f.eks. på tvers av variasjoner i meldinger)? Kan vi trene modeller slik at de oppfyller sikkerhetsegenskaper med et svært høyt nivå av pålitelighet, selv under fiendtlige inndata?

Vennligst merk at på grunn av et høyt antall forespørsler tar det tid for oss å gjennomgå disse søknadene, og ikke all forskning vil bli prioritert for tilskudd. Vi vil kun ta kontakt dersom søknaden din blir valgt ut for tilskudd.