Einführung des OpenAI Safety Fellowship
Ein Pilotprogramm zur Förderung unabhängiger Forschung zu Sicherheit und Alignment sowie zur Entwicklung der nächsten Generation von Talenten
Heute kündigen wir einen Bewerbungsaufruf für das OpenAI Safety Fellowship an, ein neues Programm für externe Forschende, Entwickler:innen und Praktiker:innen, um rigorose, wirkungsstarke Forschung zur Sicherheit und zum Alignment fortschrittlicher KI-Systeme zu betreiben. Das Programm findet vom 14. September 2026 bis zum 5. Februar 2027 statt.
Wir suchen Bewerber:innen, die sich für Sicherheitsfragen interessieren, die für bestehende und zukünftige Systeme von Bedeutung sind. Zu den Schwerpunktbereichen gehören unter anderem Sicherheitsbewertung, Ethik, Robustheit, skalierbare Schutzmaßnahmen, datenschutzkonforme Sicherheitsmethoden, Aufsicht über KI-Agenten und Missbrauchsbereiche mit hohem Schweregrad. Wir interessieren uns besonders für Arbeiten, die empirisch fundiert, technisch solide und für die breitere Forschungsgemeinschaft relevant sind.
Die Stipendiat:innen (Fellows) werden eng mit Mentor:innen von OpenAI zusammenarbeiten und sich mit einer Kohorte von Gleichgesinnten austauschen. Vor Ort in Berkeley steht dir gemeinsam mit anderen Stipendiat:innen ein Arbeitsbereich bei Constellation(wird in einem neuen Fenster geöffnet) zur Verfügung, du kannst aber auch remote arbeiten. Von den Stipendiat:innen wird erwartet, dass sie bis zum Ende des Programms ein substanzielles Forschungsergebnis erarbeiten, etwa eine Forschungsarbeit, einen Benchmark oder einen Datensatz. Das Fellowship umfasst ein monatliches Stipendium, Unterstützung hinsichtlich der Rechenleistung und fortlaufende Betreuung.
Wir begrüßen Bewerbungen von Personen mit unterschiedlichen Hintergründen, darunter Informatik, Sozialwissenschaften, Cybersicherheit, Datenschutz, Mensch-Computer-Interaktion (HCI) und verwandte Fachrichtungen. Forschungsfähigkeiten, technisches Urteilsvermögen und Umsetzungsstärke haben bei uns Vorrang vor spezifischen Qualifikationen. Empfehlungsschreiben sind erforderlich.
Weitere Informationen zu Voraussetzungen, Vergütung und Leistungen findest du im Bewerbungsformular(wird in einem neuen Fenster geöffnet). Stipendiat:innen erhalten API-Credits und weitere Ressourcen, soweit angemessen, haben jedoch keinen Zugriff auf interne Systeme.
Bewerbungen sind jetzt hier(wird in einem neuen Fenster geöffnet) möglich und schließen am 3. Mai. Wir prüfen alle Einsendungen und benachrichtigen erfolgreiche Bewerber:innen bis zum 25. Juli. Bei Fragen zum Bewerbungsprozess wende dich bitte an openaifellows@constellation.org.
