Introduktion til OpenAI Safety Fellowship
Et pilotprogram til at støtte uafhængig forskning i sikkerhed og AI-justering samt til at udvikle den næste generation af talenter
I dag annoncerer vi en ansøgningsrunde til OpenAI Safety Fellowship, som er et nyt program for eksterne forskere, ingeniører og praktikere, hvor de kan udføre grundig forskning med stor effekt inden for sikkerhed og justering af avancerede AI-systemer. Programmet kører fra 14. september 2026 til og med 5. februar 2027.
Vi søger ansøgere, der er interesserede i sikkerhedsspørgsmål, som har betydning for eksisterende og fremtidige systemer. Prioriterede områder omfatter sikkerhedsevaluering, etik, robusthed, skalerbare afbødende foranstaltninger, privatlivsbevarende sikkerhedsmetoder, agentisk tilsyn og misbrugsdomæner med høj alvorlighedsgrad, blandt andet. Vi er særligt interesserede i arbejde, der er empirisk funderet, teknisk stærkt og relevant for det bredere forskningssamfund.
Stipendiater vil arbejde tæt sammen med OpenAI-mentorer og indgå i et fællesskab med en gruppe ligesindede. Der vil være et arbejdsområde tilgængeligt i Berkeley sammen med andre stipendiater hos Constellation(åbner i et nyt vindue), selvom stipendiater også kan arbejde eksternt. Stipendiater forventes at levere et væsentligt forskningsresultat inden programmets afslutning, såsom en forskningsartikel, et benchmark eller et dataset. Stipendiet omfatter et månedligt stipendium, it-support og løbende mentorstøtte.
Vi byder ansøgere med forskellige baggrunde velkommen, herunder datalogi, samfundsvidenskab, cybersikkerhed, privatliv, HCI og beslægtede fagområder. Vi prioriterer researchkompetencer, teknisk dømmekraft og eksekvering frem for bestemte kvalifikationer. Referencer vil være påkrævet.
Der findes yderligere oplysninger om berettigelse, kompensation og ydelser i ansøgningsformularen(åbner i et nyt vindue). Stipendiater vil modtage API-kreditter og andre relevante ressourcer efter behov, men vil ikke have adgang til interne systemer.
Vi modtager nu ansøgninger her(åbner i et nyt vindue) og indtil den 3. maj. Vi gennemgår alle indsendelser og giver de udvalgte ansøgere besked senest den 25. juli. Hvis du har spørgsmål om ansøgningsprocessen, bedes du kontakte openaifellows@constellation.org.
