Představujeme stipendijní program OpenAI Safety
Pilotní program na podporu nezávislého výzkumu v oblasti bezpečnosti a zarovnání a rozvoje nové generace talentů
Dnes oznamujeme výzvu k podávání přihlášek do OpenAI Safety Fellowship, nového programu pro externí výzkumníky, inženýry a odborníky, kteří se věnují důkladnému a vysoce dopadovému výzkumu v oblasti bezpečnosti a sladění pokročilých systémů umělé inteligence. Program poběží od 14. září 2026 do 5. února 2027.
Hledáme uchazeče se zájmem o bezpečnostní otázky, které jsou důležité pro stávající i budoucí systémy. Mezi prioritní oblasti patří mimo jiné hodnocení bezpečnosti, etika, robustnost, rozšiřitelná zmírňování rizik, bezpečnostní metody chránící soukromí, agentní dohled a oblasti s vysokou závažností zneužití. Zvláště nás zajímají snahy, které jsou empiricky podložené, technicky kvalitní a relevantní pro širší výzkumnou komunitu.
Účastníci programu budou úzce spolupracovat s mentory ze společnosti OpenAI a budou v kontaktu s kolegy. Pracovní prostor bude k dispozici v Berkeley spolu s dalšími účastníky programu Constellation(otevře se v novém okně), ale účastníci mohou pracovat i na dálku. Od stipendistů se očekává, že do konce programu vytvoří podstatný výzkumný výstup, jako je například článek, srovnání nebo datová sada. Program zahrnuje měsíční stipendium, podporu výpočetního výkonu a průběžné mentorství.
Vítáme uchazeče z různých oborů, včetně informatiky, sociálních věd, kybernetické bezpečnosti, ochrany osobních údajů, HCI a souvisejících oborů. Upřednostňujeme výzkumné schopnosti, technický úsudek a schopnost realizace před konkrétními kvalifikacemi. Budeme vyžadovat doporučení.
Další informace týkající se způsobilosti, odměn a dávek naleznete ve formuláři žádosti(otevře se v novém okně). Účastníci obdrží API kredity a další zdroje podle potřeby, nebudou však mít přístup k interním systémům.
Přihlášky jsou nyní otevřeny zde(otevře se v novém okně) a uzávěrka bude 3. května. Všechny přihlášky posoudíme a úspěšné uchazeče budeme informovat do 25. července. V případě jakýchkoli dotazů ohledně procesu podávání žádosti se obraťte na openaifellows@constellation.org.
