OpenAI:n hyökkäävän tietoturvatestauksen verkosto

Avaamme haun OpenAI:n hyökkäävän tietoturvatestauksen verkostoon ja kutsumme mukaan eri alojen asiantuntijoita, jotka haluavat parantaa OpenAI:n mallien turvallisuutta. Etsimme eri alojen asiantuntijoita yhteistyöhön tekoälymalliemme perusteelliseen arviointiin ja hyökkäävään tietoturvatestaukseen.

Hyökkäävä tietoturvatestaus^A on olennainen osa iteratiivista käyttöönottoprosessiamme⁠. Viime vuosina hyökkäävä tietoturvatestauksemme on laajentunut OpenAI:n sisäisestä hyökkäystestauksesta yhteistyöhön ulkopuolisten asiantuntijoiden^B kanssa. He auttavat kehittämään alakohtaisia riskiluokituksia ja arvioimaan uusien järjestelmien mahdollisesti haitallisia kyvykkyyksiä. Voit lukea lisää aiemmasta hyökkäävästä tietoturvatestauksestamme ja yhteistyöstämme ulkopuolisten asiantuntijoiden kanssa esimerkiksi DALL·E 2⁠(avautuu uudessa ikkunassa)- ja GPT‑4⁠(avautuu uudessa ikkunassa)-mallien osalta.^C

Käynnistämme tänään järjestelmällisemmän toimintamallin, joka rakentuu tälle aiemmalle työlle. Syvennämme ja laajennamme yhteistyötämme ulkopuolisten asiantuntijoiden kanssa tehdäksemme malleistamme turvallisempia. Yhteistyö yksittäisten asiantuntijoiden, tutkimuslaitosten ja kansalaisjärjestöjen kanssa on tärkeä osa prosessiamme. Näemme tämän työn täydentävän ulkopuolelta määriteltyjä hallintokäytäntöjä, kuten kolmansien osapuolten auditointeja.

OpenAI:n hyökkäävän tietoturvatestauksen verkosto on luotettavien ja kokeneiden asiantuntijoiden yhteisö. Se voi tukea riskien arviointia ja lieventämistä laajemmin kuin yksittäiset toimeksiannot ja valintaprosessit ennen merkittävien mallien käyttöönottoa. Verkoston jäseniä kutsutaan asiantuntemuksensa perusteella auttamaan hyökkäävässä tietoturvatestauksessa mallien ja tuotteiden kehityskaaren eri vaiheissa. Jokainen jäsen ei osallistu kaikkien uusien mallien tai tuotteiden testaukseen. Osallistumiseen käytettävästä ajasta sovitaan kunkin jäsenen kanssa erikseen, ja se voi olla vain 5–10 tuntia vuodessa.

OpenAI:n toimeksiannosta tehtävien testauskierrosten lisäksi jäsenet voivat vaihtaa keskenään ajatuksia hyökkäävän tietoturvatestauksen yleisistä käytännöistä ja havainnoista. Tavoitteena on saada monipuolisempaa ja jatkuvaa palautetta sekä kehittää hyökkäävästä tietoturvatestauksesta entistä iteratiivisempi prosessi. Verkosto täydentää muita tekoälyn turvallisuutta edistäviä yhteistyömahdollisuuksia, kuten tutkijoiden käyttöoikeusohjelmaamme⁠ ja avoimen lähdekoodin arviointeja⁠(avautuu uudessa ikkunassa).

Verkosto tarjoaa ainutlaatuisen mahdollisuuden vaikuttaa turvallisempien tekoälyteknologioiden ja toimintaperiaatteiden kehittämiseen sekä siihen, miten tekoäly muuttaa elämäämme, työtämme ja vuorovaikutustamme. Liittymällä verkostoon pääset asiantuntijajoukkoomme, jonka jäseniä voidaan kutsua arvioimaan mallejamme ja järjestelmiämme käyttöönoton eri vaiheissa.

Tekoälyjärjestelmien arviointi edellyttää monien eri alojen tuntemusta sekä erilaisten näkökulmien ja omakohtaisten kokemusten ymmärtämistä. Toivotamme tervetulleiksi hakemukset asiantuntijoilta kaikkialta maailmasta. Painotamme valinnoissa sekä maantieteellistä että alakohtaista monipuolisuutta. 

Meitä kiinnostavat muun muassa seuraavat alat ja aihepiirit:

Aiempaa kokemusta tekoälyjärjestelmistä tai kielimalleista ei vaadita, mutta siitä voi olla hyötyä. Arvostamme ennen kaikkea haluasi osallistua ja tuoda oma näkökulmasi tekoälyjärjestelmien vaikutusten arviointiin.

Kaikille OpenAI:n hyökkäävän tietoturvatestauksen verkoston jäsenille maksetaan korvaus heidän työstään hyökkäävän tietoturvatestauksen hankkeissa. Verkoston jäsenyys ei rajoita tutkimustesi julkaisemista tai muihin mahdollisuuksiin tarttumista. Huomioi kuitenkin, että osallistuminen hyökkäävään tietoturvatestaukseen ja muihin hankkeisiin edellyttää usein salassapitosopimusta (NDA) tai että hankkeiden tiedot pysyvät luottamuksellisina toistaiseksi.

Haku on päättynyt.

K: Mitä verkostoon liittyminen tarkoittaa käytännössä?

V: Verkoston jäsenenä sinuun voidaan ottaa yhteyttä, kun tarjolla on mahdollisuus testata uutta mallia tai jotakin kiinnostavaa osa-aluetta jo käytössä olevassa mallissa. Verkostossa tehtävää työtä koskee salassapitosopimus (NDA), vaikka olemme aiemmin julkaisseet monia hyökkäävän tietoturvatestauksen havaintoja järjestelmäkorteissa ja blogikirjoituksissa. Saat korvauksen hyökkäävän tietoturvatestauksen hankkeisiin käyttämästäsi ajasta.

K: Kuinka paljon aikaa verkoston jäsenyys edellyttää? 

V: Voit sovittaa osallistumiseen käyttämäsi ajan omaan aikatauluusi. Kaikkia verkoston jäseniä ei kutsuta mukaan jokaiseen hankkeeseen. OpenAI valitsee kuhunkin hyökkäävän tietoturvatestauksen hankkeeseen parhaiten sopivat osallistujat ja painottaa seuraavilla testauskierroksilla uusia näkökulmia. Jo viisi tuntia vuodessa on meille arvokas panos, joten hae rohkeasti, jos olet kiinnostunut mutta aikasi on rajallinen.

K: Milloin hakijoille ilmoitetaan hyväksymisestä?

V: OpenAI valitsee verkoston jäseniä jatkuvasti hakuaikana, ja hakemuksen voi lähettää 1. joulukuuta 2023 asti. Hakuajan päätyttyä arvioimme, avataanko haku myöhemmin uudelleen.

K: Tarkoittaako verkoston jäsenyys, että minut kutsutaan mukaan jokaisen uuden mallin hyökkäävään tietoturvatestaukseen?

V: Ei. OpenAI valitsee kuhunkin hyökkäävän tietoturvatestauksen hankkeeseen parhaiten sopivat osallistujat, joten sinun ei kannata odottaa pääseväsi testaamaan jokaista uutta mallia.

K: Millä perusteilla verkoston jäseniä valitaan?

V: Huomioimme valinnoissa muun muassa seuraavat seikat:

• Osoitettu asiantuntemus tai kokemus hyökkäävän tietoturvatestauksen kannalta olennaiselta alalta

• Vahva halu parantaa tekoälyn turvallisuutta

• Ei eturistiriitoja

• Monipuoliset taustat ja perinteisesti aliedustettujen ryhmien edustus

• Laaja maantieteellinen edustus 

• Useamman kuin yhden kielen sujuva taito

• Tekninen osaaminen (ei pakollista)

K: Mitä muita mahdollisuuksia on tehdä yhteistyötä turvallisuuden edistämiseksi?

V: Verkostoon liittymisen lisäksi on muitakin tapoja edistää tekoälyn turvallisuutta yhteistyössä. Voit esimerkiksi laatia tai toteuttaa tekoälyjärjestelmien turvallisuusarviointeja ja analysoida niiden tuloksia.

OpenAI:n avoimen lähdekoodin Evals⁠(avautuu uudessa ikkunassa)-repositorio, joka julkaistiin GPT‑4:n julkaisun⁠ yhteydessä, tarjoaa helppokäyttöisiä pohjia ja esimerkkimenetelmiä työn aloittamiseen.

Arvioinnit voivat vaihdella yksinkertaisista kysymys–vastaustesteistä monimutkaisempiin simulaatioihin. Tässä on konkreettisia esimerkkejä OpenAI:n kehittämistä arvioinneista, joilla tarkastellaan tekoälyn käyttäytymistä eri näkökulmista:

Suostuttelu

• MakeMeSay⁠(avautuu uudessa ikkunassa): Kuinka hyvin tekoälyjärjestelmä pystyy huijaamaan toisen tekoälyjärjestelmän sanomaan salaisen sanan?

• MakeMePay⁠(avautuu uudessa ikkunassa): Kuinka hyvin tekoälyjärjestelmä pystyy suostuttelemaan toisen tekoälyjärjestelmän lahjoittamaan rahaa?

• Äänestysehdotus⁠(avautuu uudessa ikkunassa): Kuinka hyvin tekoälyjärjestelmä pystyy vaikuttamaan siihen, miten toinen tekoälyjärjestelmä kannattaa poliittista ehdotusta?

Steganografia (viestien piilottaminen)

• Steganografia⁠(avautuu uudessa ikkunassa): Kuinka hyvin tekoälyjärjestelmä pystyy välittämään salaisia viestejä toisen tekoälyjärjestelmän huomaamatta?

• Tekstin pakkaaminen⁠(avautuu uudessa ikkunassa): Kuinka hyvin tekoälyjärjestelmä pystyy pakkaamaan ja purkamaan viestejä niin, että salaisia viestejä voidaan piilottaa?

• Schellingin piste⁠(avautuu uudessa ikkunassa): Kuinka hyvin tekoälyjärjestelmä pystyy sovittamaan toimintansa yhteen toisen tekoälyjärjestelmän kanssa ilman suoraa viestintää?

Kannustamme luovuuteen ja kokeiluihin tekoälyjärjestelmien arvioinnissa. Kun arviointisi on valmis, voit jakaa sen avoimen lähdekoodin Evals⁠(avautuu uudessa ikkunassa)-repositoriossa koko tekoäly-yhteisön käyttöön.

Voit myös hakea tutkijoiden käyttöoikeusohjelmaamme⁠. Se tarjoaa krediittejä tutkijoille, jotka käyttävät tuotteitamme tekoälyn vastuulliseen käyttöönottoon ja siihen liittyvien riskien lieventämiseen keskittyvässä tutkimuksessa.