Predstavujeme štipendijný program OpenAI pre bezpečnosť
Pilotný program na podporu nezávislého výskumu bezpečnosti a zosúladenia, ako aj na rozvoj novej generácie talentov
Vyhlasujeme výzvu na podávanie prihlášok do štipendijného programu OpenAI pre bezpečnosť, nového programu pre externých výskumníkov, inžinierov a odborníkov z praxe zameraného na výskum s veľkým dosahom v oblasti bezpečnosti a zosúladenia pokročilých systémov umelej inteligencie. Program bude prebiehať od 14. septembra 2026 do 5. februára 2027.
Hľadáme uchádzačov a uchádzačky, ktorých zaujímajú otázky bezpečnosti existujúcich aj budúcich systémov. Medzi prioritné oblasti patria, medzi inými, hodnotenie bezpečnosti, etika, robustnosť, škálovateľné opatrenia na zmiernenie rizík, bezpečnostné metódy zachovávajúce súkromie, dohľad nad agentmi a kritické domény možného zneužitia. Osobitne nás zaujíma práca, ktorá je empiricky podložená, technicky kvalitná a relevantná pre širšiu výskumnú komunitu.
Účastníci programu budú úzko spolupracovať s mentormi z OpenAI a skupinou kolegov. Budú mať k dispozícii pracovisko v Berkeley v centre Constellation(otvorí sa v novom okne), kde môžu pracovať spolu s ostatnými, ale možná je aj práca na diaľku. Od účastníkov sa očakáva, že do konca programu vytvoria výrazný výskumný výstup, ako napríklad článok, benchmark alebo súbor údajov. Program zahŕňa mesačné štipendium, prístup k výpočtovým zdrojom a priebežné mentorstvo.
Vítame uchádzačov s rôznych oblastí vrátane informatiky, spoločenských vied, kybernetickej bezpečnosti, ochrany súkromia, HCI (interakcie človeka s počítačom) a príbuzných odborov. Pred konkrétnymi kvalifikáciami uprednostňujeme schopnosť výskumu, realizácie a technický úsudok. Budeme požadovať odporúčacie listy.
Ďalšie informácie o kritériách výberu, kompenzácií a benefitoch sú dostupné v prihláške(otvorí sa v novom okne). Účastníci získajú kredity na API a ďalšie zdroje podľa potreby, ale nebudú mať prístup k interným systémom.
Prihlasovanie prebieha tu(otvorí sa v novom okne) a bude trvať do 3. mája. Všetky prihlášky posúdime a úspešných uchádzačov budeme informovať do 25. júla. Prípadné otázky týkajúce sa podávania prihlášok posielajte na adresu openaifellows@constellation.org.
