Við kynnum OpenAI Safety Fellowship

Í dag tilkynnum við um opnun umsókna í OpenAI Safety Fellowship, nýju verkefni fyrir utanaðkomandi rannsakendur, verkfræðinga og sérfræðinga til að stunda vandaðar og áhrifamiklar rannsóknir á öryggi og samræmingu þróaðra gervigreindarkerfa. Verkefnið stendur yfir frá 14. september 2026 til 5. febrúar 2027.

Við leitum að umsækjendum sem hafa áhuga á öryggismálefnum sem skipta máli fyrir núverandi og framtíðarkerfi. Forgangssvið eru meðal annars öryggismat, siðfræði, styrkleiki, stigstærðar mótvægisaðgerðir, öryggisaðferðir sem vernda persónuvernd, eftirlit með sjálfvirkum gerendum og misnotkunarsvið með alvarlegar afleiðingar. Við höfum sérstakan áhuga á vinnu sem byggir á reynslugögnum, er tæknilega sterk og skiptir víðara rannsóknarsamfélagið máli.

Þátttakendur munu vinna náið með leiðbeinendum OpenAI og starfa með hópi jafningja. Vinnusvæði verður í boði í Berkeley ásamt öðrum styrkþegum hjá Constellation⁠(opnast í nýjum glugga), þó styrkþegar geti einnig unnið að heiman. Gert er ráð fyrir að þátttakendur skili veigamiklu rannsóknarframlagi fyrir lok verkefnisins, svo sem ritgerð, viðmiði eða gagnasafni. Styrkurinn felur í sér mánaðarlegan styrk, tölvustuðning og áframhaldandi leiðsögn.

Við fögnum umsóknum frá fólki með ólíkan bakgrunn, þar á meðal í tölvunarfræði, félagsvísindum, netöryggi, persónuvernd, HCI og skyldum sviðum. Við setjum rannsóknarhæfni, tæknilega dómgreind og framkvæmdargetu í forgang fram yfir tiltekin réttindi. Meðmælabréf verða áskilin.

Nánari upplýsingar um hæfi, bætur og hlunnindi má finna á umsóknareyðublaðinu⁠(opnast í nýjum glugga). Þátttakendur munu fá API-inneignir og önnur úrræði eftir því sem við á, en munu ekki hafa aðgang að innri kerfum.

Nú er hægt að sækja um hér⁠(opnast í nýjum glugga) og umsóknarfrestur rennur út 3. maí. Við förum yfir allar innsendingar og tilkynnum þeim umsækjendum sem verða fyrir valinu fyrir 25. júlí. Ef þú hefur einhverjar spurningar um umsóknarferlið skaltu hafa samband á openaifellows@constellation.org⁠.