Esittelyssä OpenAI:n Safety Bug Bounty -ohjelma

OpenAI julkistaa tänään julkisen Safety Bug Bounty -ohjelman⁠(avautuu uudessa ikkunassa), jonka tavoitteena on tunnistaa tekoälyn väärinkäyttöä ja turvallisuusriskejä tuotteissamme. Kun tekoälyteknologia kehittyy nopeasti, myös mahdolliset tavat käyttää sitä väärin kehittyvät. Tavoitteenamme on varmistaa, että järjestelmämme pysyvät turvallisina ja suojattuina väärinkäytöltä tai haitalliselta käytöltä, jotka voisivat johtaa konkreettiseen haittaan. 

Tämä uusi ohjelma täydentää OpenAI:n Security Bug Bounty⁠(avautuu uudessa ikkunassa) -ohjelmaa hyväksymällä ilmoituksia ongelmista, jotka aiheuttavat merkittäviä väärinkäyttö- ja turvallisuusriskejä, vaikka ne eivät täyttäisikään tietoturvahaavoittuvuuden kriteerejä. Tämän ohjelman kautta odotamme innolla yhteistyön jatkamista turvallisuus- ja tietoturvatutkijoiden kanssa, jotta voimme tunnistaa ja ratkaista ongelmia, jotka eivät kuulu tavanomaisten tietoturvahaavoittuvuuksien piiriin mutta aiheuttavat silti todellisia riskejä. OpenAI:n Safety Bug Bounty- ja Security Bug Bounty -tiimit arvioivat lähetykset alustavasti, ja ne voidaan ohjata uudelleen näiden kahden ohjelman välillä niiden laajuudesta ja omistajuudesta riippuen.

Uusi Safety Bug Bounty⁠(avautuu uudessa ikkunassa) -ohjelma keskittyy alla lueteltuihin tekoälyyn liittyviin turvallisuusskenaarioihin:

Agenttipohjaiset riskit, ml. MCP

• Kolmannen osapuolen kehoteinjektio ja tietojen vuotaminen: kun hyökkääjän teksti pystyy luotettavasti kaappaamaan uhrin agentin (mukaan lukien selain, ChatGPT‑agentti ja vastaavat agenttipohjaiset tuotteet) huijatakseen sen suorittamaan haitallisen toiminnon tai vuotamaan käyttäjän arkaluonteisia tietoja. Toiminnan on oltava toistettavissa vähintään 50 % ajasta. 
• OpenAI:n agenttituote suorittaa kielletyn toiminnon OpenAI:n verkkosivustolla laajassa mittakaavassa.
• OpenAI:n agenttituote suorittaa jonkin mahdollisesti haitallisen toimen, jota ei ole lueteltu yllä. Tässä tapauksessa kelvollisten ilmoitusten on osoitettava uskottavaa ja merkittävää haittaa.
• Kaiken MCP-riskiä koskevan testauksen on noudatettava kolmansien osapuolten käyttöehtoja.

OpenAI:n luottamukselliset tiedot

• Mallin tuottamat vastaukset, jotka sisältävät päättelyyn liittyviä luottamuksellisia tietoja.
• Haavoittuvuudet, jotka paljastavat OpenAI:n luottamuksellisia tietoja.

Tilin ja alustan eheys

• Haavoittuvuudet tilin eheydessä ja alustan eheyttä osoittavissa signaaleissa, kuten automaation estoon tarkoitettujen valvontamekanismien ohittaminen, tilin luottamussignaalien manipulointi, tiliä koskevien rajoitusten, jäädytysten tai kieltojen kiertäminen ja muut vastaavat ongelmat.
• Ongelmista, joiden vuoksi käyttäjät pääsevät käyttämään valtuutettujen käyttöoikeuksien ulkopuolella olevia ominaisuuksia, tietoja tai toimintoja, tulee ilmoittaa Security Bug Bounty⁠(avautuu uudessa ikkunassa) -ohjelmaan.

Vaikka jailbreakit eivät kuulu tämän ohjelman piiriin, järjestämme säännöllisesti yksityisiä bug bounty -kampanjoita, jotka keskittyvät tiettyihin haittatyyppeihin, kuten bioriskeihin liittyviin sisältöongelmiin ChatGPT‑agentissa⁠ ja GPT‑5:ssä⁠. Kutsumme kiinnostuneita tutkijoita hakemaan näihin ohjelmiin niiden tullessa saataville. 

Edellä mainittujen kategorioiden ulkopuolella, jos tutkijat havaitsevat puutteita, jotka mahdollistavat suorat polut käyttäjille aiheutuvaan haittaan ja tarjoavat konkreettisia, erillisiä korjaustoimenpiteitä, nämä voidaan tapauskohtaisesti sisällyttää palkitsemisen piiriin. Yleiset sisältökäytäntöjen ohitukset, joilla ei ole osoitettavissa olevaa vaikutusta turvallisuuteen tai väärinkäyttöön, eivät kuulu tämän ohjelman piiriin. Esimerkiksi sellaiset ”jailbreakit”, jotka johtavat siihen, että malli käyttää epäkohteliasta kieltä tai antaa tietoa, joka on helposti löydettävissä hakukoneilla, eivät kuulu ohjelman piiriin.

Osallistumisesta kiinnostuneet tutkijat voivat hakea Safety Bug Bounty⁠(avautuu uudessa ikkunassa) -ohjelmamme kautta. Odotamme innolla, että voimme tehdä yhteistyötä tutkijoiden, eettisten hakkereiden sekä turvallisuus- ja tietoturvayhteisön kanssa turvallisen tekoälyekosysteemin luomiseksi.