Kyberresilienssin vahvistaminen tekoälyn kehittyessä

Tekoälymallien kyberkyvykkyydet kehittyvät nopeasti, mikä tuo merkittäviä hyötyjä kyberpuolustukselle mutta myös uusia kaksikäyttöriskejä, joita on hallittava huolellisesti. Esimerkiksi capture-the-flag (CTF) -haasteilla arvioidut kyvykkyydet ovat parantuneet 27 %:sta GPT‑5⁠(avautuu uudessa ikkunassa):ssä (elokuussa 2025) 76 %:iin GPT‑5.1‑Codex‑Max⁠(avautuu uudessa ikkunassa):ssa (marraskuussa 2025).

Odotamme, että tulevat tekoälymallit jatkavat tätä kehityskulkua: valmistautumisen osana suunnittelemme ja arvioimme, voisiko kukin uusi malli saavuttaa kyberturvallisuuskyvykkyyden ‘korkean’ tason valmiuskehyksemme⁠(avautuu uudessa ikkunassa) mukaan mitattuna. Tällä tarkoitamme malleja, jotka voivat joko kehittää toimivia nollapäivähyökkäyksiä etänä hyvin suojattuja järjestelmiä vastaan tai auttaa merkittävästi monimutkaisissa, huomaamattomissa yritys- tai teollisuusympäristöihin kohdistuvissa tunkeutumisoperaatioissa, joilla pyritään reaalimaailman vaikutuksiin. Tässä julkaisussa selitetään, miten suhtaudumme suojatoimiin koskien malleja, jotka saavuttavat nämä kyvykkyyden tasot, ja miten varmistamme, että ne auttavat puolustajia merkityksellisesti samalla kun ne rajoittavat väärinkäyttöä.

Näiden ominaisuuksien kehittyessä OpenAI investoi malliemme vahvistamiseen puolustavan kyberturvallisuuden tehtäviä varten ja työkalujen luomiseen, jotta puolustajat voivat helpommin suorittaa työnkulkuja, kuten koodin auditointia ja haavoittuvuuksien korjaamista. Tavoitteenamme on, että mallimme ja tuotteemme tuovat merkittäviä etuja puolustajille, joita on usein vähemmän ja joiden resurssit ovat puutteelliset.

Kuten muillakin kaksikäyttöalueilla, puolustukselliset ja hyökkäävät kybertyönkulut perustuvat usein samoihin taustalla oleviin tietoihin ja tekniikoihin. Investoimme suojatoimiin varmistaaksemme, että nämä tehokkaat ominaisuudet hyödyttävät ensisijaisesti puolustuskäyttöä ja rajoittavat haitallisiin tarkoituksiin tapahtuvaa käyttöä. Kyberturvallisuus liittyy lähes kaikkiin aloihin, mikä tarkoittaa, ettemme voi luottaa vain yhteen suojatoimien luokkaan – kuten tiedon rajoittamiseen tai pelkästään tarkistetun käyttöoikeuden käyttöön – vaan tarvitsemme sen sijaan syväpuolustukseen perustuvan lähestymistavan, joka tasapainottaa riskejä ja antaa käyttäjille valmiuksia. Käytännössä tämä tarkoittaa sitä, miten ominaisuuksien käyttöä ohjataan ja miten niitä sovelletaan, jotta edistyneet mallit vahvistavat turvallisuutta sen sijaan, että ne madaltaisivat väärinkäytön esteitä.

Emme näe tätä työtä kertaluonteisena toimena, vaan jatkuvana ja pitkäjänteisenä investointina, joka antaa puolustajille etulyöntiaseman ja vahvistaa jatkuvasti laajemman ekosysteemin kriittisen infrastruktuurin tietoturvaa.

Mallimme on suunniteltu ja koulutettu toimimaan turvallisesti, ja niitä tukevat ennakoivat järjestelmät, jotka havaitsevat kyberväärinkäytöksiä ja reagoivat niihin. Parannamme näitä suojauksia jatkuvasti valmiuksiemme ja uhkaympäristön muuttuessa. Vaikka mikään järjestelmä ei voi taata väärinkäytön täydellistä estämistä kyberturvallisuuden alalla vaikuttamatta vakavasti puolustaviin käyttötarkoituksiin, strategiamme on vähentää riskiä kerroksellisen turvallisuuspinon avulla.

Tämän perustana on kerrokselliseen puolustukseen perustuva lähestymistapa, jossa yhdistyvät käyttöoikeuksien hallinta, infrastruktuurin vahvistaminen, ulospäin suuntautuvan liikenteen hallinta sekä seuranta. Täydennämme näitä toimenpiteitä havaitsemis- ja reagointijärjestelmillä sekä erillisillä uhkatiedustelu- ja sisäpiiririskiohjelmilla, jotta uudet uhat voidaan tunnistaa ja torjua nopeasti. Nämä suojatoimet on suunniteltu mukautumaan uhkaympäristön muutoksiin. Lähdemme siitä, että muutos on väistämätöntä, ja suunnittelemme toimintamme niin, että voimme sopeutua nopeasti ja tarkoituksenmukaisesti.

Tämän perustan varaan rakentuen:

• Mallin kouluttaminen kieltäytymään haitallisista pyynnöistä tai vastaamaan niihin turvallisesti ja pysymään samalla hyödyllisenä opetuksellisissa ja puolustuksellisissa käyttötapauksissa: Koulutamme edistyneitä mallejamme kieltäytymään pyynnöistä, jotka mahdollistaisivat selvästi kyberväärinkäytön, tai vastaamaan sellaisiin turvallisesti, ja pysymään samalla mahdollisimman hyödyllisinä laillisia puolustuksellisia ja opetuksellisia käyttötapauksia varten.
• Havaitsemisjärjestelmät: Kehitämme ja ylläpidämme järjestelmänlaajuista valvontaa tuotteissa, jotka käyttävät edistyneitä malleja, mahdollisesti haitallisen kybertoiminnan havaitsemiseen. Kun toiminta vaikuttaa vaaralliselta, voimme estää vastauksen, ohjata kehotteet turvallisempiin tai vähemmän kyvykkäisiin malleihin tai siirtää asian jatkotarkasteluun. Käytämme automaattisten teknologioiden ja ihmisten tekemien tarkastusten yhdistelmää, joissa otetaan huomioon esimerkiksi lakisääteiset vaatimukset, vakavuusaste ja toistuva toiminta. Teemme myös tiivistä yhteistyötä kehittäjien ja yritysasiakkaiden kanssa yhdenmukaistaaksemme turvallisuusstandardit ja mahdollistaaksemme vastuullisen käytön selkeiden eskalointipolkujen avulla.
• Kokonaisvaltainen hyökkäävä tietoturvatestaus (red teaming): Teemme yhteistyötä asiantuntevien red teaming -organisaatioiden kanssa arvioidaksemme ja parantaaksemme turvallisuutta vahvistavia toimenpiteitämme. Heidän tehtävänään on yrittää ohittaa kaikki suojauksemme testaamalla järjestelmää alusta loppuun, aivan kuten määrätietoinen ja hyvin resursoitu vastustaja voisi tehdä. Tämä auttaa meitä tunnistamaan puutteet varhaisessa vaiheessa ja vahvistamaan koko järjestelmää.

OpenAI on investoinut varhaisessa vaiheessa tekoälyn soveltamiseen puolustaviin kyberturvallisuuden käyttötapauksiin, ja tiimimme tekee tiivistä yhteistyötä globaalien asiantuntijoiden kanssa kehittääkseen sekä mallejamme että niiden käyttötarkoituksia. Arvostamme maailmanlaajuista kyberturvallisuusammattilaisten yhteisöä, joka tekee työtä digitaalisen maailmamme turvallisuuden parantamiseksi, ja olemme sitoutuneet tarjoamaan tehokkaita työkaluja, jotka tukevat puolustavaa kyberturvallisuutta. Samalla kun otamme käyttöön uusia suojatoimia, jatkamme yhteistyötä kyberturvallisuusyhteisön kanssa ymmärtääksemme, missä tekoäly voi vahvistaa resilienssiä merkittävällä tavalla ja missä huolellisesti harkitut suojatoimet ovat tärkeimpiä.

Näiden yhteistyöhankkeiden ohella kehitämme toimia, jotka auttavat puolustajia toimimaan nopeammin, pohjaavat suojatoimemme todellisiin tarpeisiin ja nopeuttavat vastuullisia korjaustoimia laajassa mittakaavassa.

Otamme pian käyttöön luotetun käyttöoikeusohjelman, jossa tutkimme mahdollisuutta tarjota kelpoisuusehdot täyttäville käyttäjille ja kyberpuolustuksen parissa työskenteleville asiakkaille porrastetun käyttöoikeuden uusimpien malliemme tehostettuihin ominaisuuksiin puolustuksellisia käyttötapauksia varten. Selvitämme edelleen sopivaa rajaa sille, mihin ominaisuuksiin voimme tarjota laajan käyttöoikeuden ja mitkä edellyttävät porrastettuja rajoituksia, mikä voi vaikuttaa tämän ohjelman tulevaan suunnitteluun. Tavoitteenamme on, että tämä luotettava käyttöoikeusohjelma toimii rakennuspalikkana kohti resilienssiä ekosysteemiä.

Aardvark, agenttipohjainen tietoturvatutkijamme, joka auttaa kehittäjiä ja tietoturvatiimejä löytämään ja korjaamaan haavoittuvuuksia laajassa mittakaavassa, on nyt yksityisessä beetavaiheessa. Se skannaa koodikantoja haavoittuvuuksien varalta ja ehdottaa korjauksia, jotka ylläpitäjät voivat ottaa nopeasti käyttöön. Se on jo tunnistanut uusia CVE-tapauksia avoimen lähdekoodin ohjelmistoista tekemällä päättelyä kokonaisten koodikantojen pohjalta. Aiomme tarjota maksutonta kattavuutta tietyille ei-kaupallisille avoimen lähdekoodin repositorioille edistääksemme avoimen lähdekoodin ohjelmistoekosysteemin ja toimitusketjun tietoturvaa. Hae mukaan täältä.

Perustamme frontier-riskien neuvoston, joka tuo kokeneet kyberpuolustajat ja turvallisuusalan ammattilaiset tiiviiseen yhteistyöhön tiimiemme kanssa. Tämä neuvosto keskittyy aluksi kyberturvallisuuteen ja laajenee tulevaisuudessa muille edistyneiden kyvykkyyksien alueille. Jäsenet antavat neuvoja hyödyllisen ja vastuullisen kyvykkyyden sekä mahdollisen väärinkäytön välisestä rajasta, ja nämä opit ohjaavat suoraan arviointejamme ja suojatoimiamme. Kerromme pian lisää neuvostosta. 

Lopuksi ennakoimme, että kyberväärinkäyttö voi olla mahdollista minkä tahansa alan edistyneen mallin kautta. Tämän ratkaisemiseksi teemme yhteistyötä muiden edistyneiden laboratorioiden kanssa Frontier Model Forum -järjestön kautta, joka on johtavien tekoälylaboratorioiden ja alan kumppaneiden tukema voittoa tavoittelematon järjestö, kehittääksemme yhteisen ymmärryksen uhkamalleista ja parhaista käytännöistä. Tässä yhteydessä uhkamallinnus auttaa vähentämään riskejä tunnistamalla, miten tekoälyominaisuuksia voitaisiin käyttää aseina, missä on kriittisiä pullonkauloja eri uhkatoimijoiden kannalta ja miten edistyneet mallit voivat tarjota merkittävää parannusta. Tämän yhteistyön tavoitteena on rakentaa yhtenäinen, koko ekosysteemin kattava ymmärrys uhkatoimijoista ja hyökkäysreiteistä, jotta laboratoriot, ylläpitäjät ja puolustajat voivat paremmin kehittää lieventämistoimiaan ja varmistaa, että turvallisuutta koskevat kriittiset havainnot leviävät nopeasti koko ekosysteemiin. Teemme myös yhteistyötä ulkopuolisten tiimien kanssa kyberturvallisuusarviointien⁠(avautuu uudessa ikkunassa) kehittämiseksi. Toivomme, että riippumattomien arviointien ekosysteemi auttaa parantamaan entisestään yhteistä ymmärrystä mallien kyvykkyyksistä.

Yhdessä nämä ponnistelut osoittavat pitkäaikaista sitoutumistamme ekosysteemin puolustavan puolen vahvistamiseen. Mallien kehittyessä kyvykkäämmiksi tavoitteenamme on varmistaa, että nämä kyvykkyydet tarjoavat puolustajille todellista hyötyä – pohjautuen reaalimaailman tarpeisiin, asiantuntijoiden näkemyksiin ja huolelliseen käyttöönottoon. Tämän työn rinnalla aiomme tutkia muita aloitteita ja kyberturvallisuusapurahoja tuodaksemme esiin läpimurtoideoita, jotka eivät välttämättä nouse esiin perinteisten kanavien kautta, sekä kerätäksemme rohkeita ja luovia puolustusratkaisuja akateemisesta maailmasta, teollisuudesta ja avoimen lähdekoodin yhteisöstä. Kaiken kaikkiaan tämä on jatkuvaa työtä, ja odotamme kehittävämme näitä ohjelmia sitä mukaa kun opimme, mikä edistää tehokkaimmin reaalimaailman turvallisuutta.