Presentem l’OpenAI Safety Fellowship

Avui anunciem una convocatòria de sol·licituds per a l’OpenAI Safety Fellowship, un nou programa perquè investigadors, enginyers i professionals externs duguin a terme recerca rigorosa i d’alt impacte sobre la seguretat i l’alineament dels sistemes d’IA avançats. El programa tindrà lloc del 14 de setembre de 2026 al 5 de febrer de 2027.

Busquem candidats interessats en qüestions de seguretat que siguin importants per als sistemes actuals i futurs. Les àrees prioritàries inclouen l’avaluació de la seguretat, l’ètica, la robustesa, les mitigacions escalables, els mètodes de seguretat que preserven la privadesa, la supervisió agentiva i els àmbits d’ús indegut d’alta gravetat, entre d’altres. Ens interessa especialment el treball amb una base empírica sòlida, tècnicament fort i rellevant per a la comunitat investigadora en general.

Els fellows treballaran estretament amb mentors d’OpenAI i participaran amb una cohort de companys. Hi haurà espai de treball disponible a Berkeley juntament amb altres fellows a Constellation⁠(s'obre en una finestra nova), tot i que els fellows també podran treballar a distància. S’espera que els fellows produeixin un resultat de recerca substancial al final del programa, com ara un article, un benchmark o un conjunt de dades. La fellowship inclou una assignació mensual, suport de còmput i mentoria continuada.

Donem la benvinguda a candidats de diversos orígens, com ara informàtica, ciències socials, ciberseguretat, privadesa, IHC i camps afins. Prioritzem la capacitat de recerca, el criteri tècnic i l’execució per damunt de credencials específiques. Caldran contactes de referència.

Per obtenir informació addicional sobre l’elegibilitat, la compensació i els beneficis, consulteu el formulari de sol·licitud⁠(s'obre en una finestra nova). Els fellows rebran crèdits d’API i altres recursos segons correspongui, però no tindran accés als sistemes interns.

Les sol·licituds ja són obertes aquí⁠(s'obre en una finestra nova) i es tancaran el 3 de maig. Revisarem totes les candidatures i notificarem els candidats seleccionats abans del 25 de juliol. Per a qualsevol dubte sobre el procés de sol·licitud, contacteu amb openaifellows@constellation.org⁠.