OpenAI–Hugging Face -välikohtaus(avautuu uudessa ikkunassa) oli käännekohta kyberturvallisuudelle, sillä se antoi esimakua siitä, miten tyypillisen uhkatoimijan kyvyt kehittyvät tulevina kuukausina. Olen viime viikkoina keskustellut monien organisaatioiden kanssa, ja yksi asia on selvä: ne tietävät, että niiden on kohotettava kyberturvallisuuskäytäntönsä aivan uudelle tasolle ennennäkemättömän nopeasti. Kerron tässä kirjoituksessa, miten puolustamme OpenAIta, mihin konkreettisiin toimiin muut organisaatiot voivat ryhtyä jo tänään ja miksi juuri nyt on aika toimia.
Eri puolilla maailmaa kehitetyt tekoälymallit pystyvät automatisoimaan yhä suurempia osia todellisista kyberhyökkäyksistä. Siksi pitkäaikaiset tietoturva-aukot, kuten ihmisten kirjoittamaan ohjelmistoon syvälle hautautuneet virheet ja unohtuneet käyttöoikeudet, on entistä helpompi löytää ja hyödyntää. Samat tekoälyominaisuudet antavat puolustajille uusia keinoja löytää ja korjata nämä heikkoudet, mutta heidän on toimittava nyt. Jos yritykset toimivat päättäväisesti, vahvistavat perustason tietoturvaansa ja moninkertaistavat tiimiensä kyvyt tekoälyn avulla, voimme tehdä internetistä turvallisemman kuin koskaan.
OpenAI–Hugging Face -välikohtauksessa agenttien muodostama kollektiivi onnistui murtautumaan itsenäisesti paitsi OpenAIn tutkimusinfrastruktuuriin myös toisen yrityksen tuotantoinfrastruktuuriin. Se ketjutti yhteen haavoittuvuuksia aiemmin tuntemattomista tietoturva-aukoista internetiin vuotaneisiin käyttäjätilien tunnuksiin. On yhä selvempää, että jokaisen yrityksen tekninen velka(avautuu uudessa ikkunassa) kätkee merkittäviä puutteita, jotka puolustajien on löydettävä ja korjattava ennen hyökkääjiä.
Antaaksemme puolustajille etumatkaa hyökkääjiin nähden aloimme aiemmin tänä vuonna tarjota kyberominaisuuksiamme vain luotetuille puolustajille. Sen jälkeen useat yritykset ovat julkaisseet kyberominaisuuksilla varustettuja avoimen painokertoimen malleja, jotka ovat vain muutaman kuukauden edistyneimpiä malleja jäljessä. Näistä uusin malli on ilmeisesti määrä julkaista(avautuu uudessa ikkunassa) elokuun lopussa, ja se todennäköisesti kiihdyttää uhkaympäristön kehitystä huomattavasti.
Tekoälyä hyödyntävät hyökkääjät pystyvät pian löytämään monien nykyisten järjestelmien pitkäaikaisia puutteita, mutta tekoäly helpottaa myös puolustajien työtä samojen puutteiden löytämisessä, priorisoinnissa ja korjaamisessa. Tietoturva on yhä kissa ja hiiri -leikkiä, mutta tekoäly voi muuttaa sen taloudellisia asetelmia(avautuu uudessa ikkunassa) tavalla, joka antaa puolustajille merkittävän edun. Olemme esimerkiksi alkaneet kouluttaa mallejamme kirjoittamaan nimenomaan yli-inhimillisen turvallista koodia. Mallimme ovat myös uskomattoman taitavia matemaattisissa todistuksissa. Niiden avulla ohjelmistojen tietoturva voidaan todentaa muodollisesti tavalla, joka on osoittautunut ihmisille ylivoimaiseksi.
OpenAI–Hugging Face -välikohtauksen jälkeen pyysin ChatGPT Workia arvioimaan gregbrockman.com(avautuu uudessa ikkunassa)-sivuston tietoturvan käyttäen julkisesti saatavilla olevaa GPT‑5.6 Solia. Kyseessä on yksinkertainen staattinen sivusto, jota ylläpidetään AWS:ssä ja jonka edessä on Cloudflare, joten oletin, ettei siinä olisi juuri lainkaan hyökkäyspinta-alaa.
Noin 15 minuutissa se löysi 13 ongelmaa. Monia niistä ei luultavasti voisi hyödyntää yksinään, mutta yhdessä muiden haavoittuvuuksien kanssa niillä voisi olla merkittäviä vaikutuksia. En ollut määrittänyt DNS-tietueitani estämään hyökkääjiä väärentämästä nimissäni lähetettyjä sähköposteja, sivustoni käytti turvatonta jQuery-versiota ja Cloudflare välitti pyynnöt AWS:ään salaamattoman HTTP-yhteyden kautta.
Pyysin sitten ChatGPT Workia korjaamaan ongelmat, ja se teki sen tunnissa. Se avasi selaimessani Cloudflaren hallintapaneelin ja määritti DNS:n, TLS:n sekä edistyneet suojausasetukset oikein napsauttamalla lukuisia painikkeita. Se poisti jQueryn sivustolta kokonaan, siirsi sivustoni AWS:stä Cloudflare Pagesiin ja aloitti DMARCin(avautuu uudessa ikkunassa) vaiheittaisen käyttöönoton.
Ja kyse oli vain henkilökohtaisesta verkkosivustostani. Tämä on pieni esimerkki siitä, miten nykyiset mallimme voivat toimia kybervartijoina. Ne löytävät harvinaisetkin ongelmat, joiden selvittämiseen ihmisellä ei olisi aikaa tai asiantuntemusta – monet sen korjaamista asetuksista olivat minulle etäisesti tuttuja, mutta en olisi osannut määrittää niitä oikein – ja korjaavat ne sopivasti vaiheistetulla käyttöönottosuunnitelmalla.
Hugging Face -välikohtaus osoitti, että olimme aliarvioineet tekoälymalliemme kyvyt toteuttaa kyberhyökkäyksiä tosielämässä. Tiukennamme turvallisuusvaatimuksiamme vastaavasti, mikä tekee nykyisestä turvallisuustutkimuksestamme ja sisäisestä tietoturvatyöstämme entistä kiireellisempää.
Kerron hieman siitä, miten suojaamme OpenAIta tässä tilanteessa, ja toivon lähestymistavastamme olevan hyötyä muille organisaatioille. OpenAIn suojaamiseksi panostamme merkittävästi sekä perustason hallintakeinoihin eli perusasioiden tekemiseen oikein että puolustuksemme vahvistamiseen edistyneen tekoälyn avulla. Strategiamme perustuu neljään pääpilariin.
Ensinnäkin käytämme mallejamme oman koodimme suojaamiseen. Codex ja sen tietoturvalisäosa validoivat koodimuutoksia, tunnistavat haavoittuvuuksia ja auttavat kehittäjiä korjaamaan ongelmat ennen käyttöönottoa. Tarkoituksena ei ole tuottaa vain lisää tietoturvahavaintoja, jotka ihmisten on tarkistettava, vaan löytää todelliset haavoittuvuudet ennen julkaisua ja nopeuttaa turvallisen korjauksen käyttöönottoa ongelman löytymisen jälkeen. Kun jatkamme malliemme kouluttamista tuottamaan yhä turvallisempaa koodia, tavoitteenamme on poistaa vasta kirjoitetusta koodista tietyntyyppiset ohjelmistohaavoittuvuudet.
Toiseksi valjastamme mallimme puolustamaan infrastruktuuriamme jatkuvasti. Nykyään tekoäly tekee lähes kaikkien alustavien tietoturvahälytystemme ensiarvioinnin ennen kuin ihmiset otetaan mukaan. Tämä vähentää puolustajien rutiinityötä, nopeuttaa reagointia ja antaa ihmisten keskittyä tehtäviin, joissa heidän taidoistaan on eniten hyötyä: tilanteiden erotteluun, harkintaan ja asiantuntemuksen soveltamiseen. Yhdistämme näihin havaintoihin yhä enemmän rajattuja automaattisia toimia, mutta vastuu vaikutuksiltaan merkittävimmistä päätöksistä säilyy ihmisillä. Tavoitteena on varmistaa, että voimme havaita tietoturvaongelmat ja reagoida niihin koneiden nopeudella.
Kolmanneksi käytämme edistynyttä tekoälyä mahdollisten hyökkäysreittien jatkuvaan kartoittamiseen, tutkimiseen ja tunnistamiseen. Tunnistamalla haavoittuvuudet, virheelliset määritykset, liian laajat käyttöoikeudet ja tahattomat luottamusrajat voimme löytää ja sulkea nämä aukot nopeasti, ennen kuin hyökkääjät ehtivät hyödyntää niitä. Näin voimme jatkuvasti arvioida, valvoa ja testata tuotteidemme, infrastruktuurimme ja järjestelmiemme tietoturvainvariantteja eli ominaisuuksia, joiden oletamme pitävän paikkansa.
Lopuksi panostamme voimakkaasti perustason tietoturvaan suuressa mittakaavassa. Panostamme edelleen turvalliseen arkkitehtuuriin ja hallintakeinoihin, hyödynnämme syvyyssuuntaisen puolustuksen ja vähimpien oikeuksien kaltaisia strategioita sekä suunnittelemme järjestelmiä, joissa katastrofi edellyttäisi useiden toisistaan riippumattomien suojausten pettämistä samanaikaisesti. Perinteiset suojauskeinot, kuten verkkojen eristäminen, työkuormien suojaaminen, valvonta sekä turvallinen päivitys ja käyttöönotto, ovat tekoälyn aikakaudella tärkeämpiä kuin koskaan.
Aika on ratkaiseva tekijä, joten puolustajien on toteutettava seuraavat toimet erittäin nopeasti. Mainitsen seuraavaksi OpenAI-teknologiaa, mutta ekosysteemissä on myös runsaasti arvioimisen arvoisia kilpailevia ratkaisuja. Tiettyä työkalua tärkeämpää on antaa puolustajien käyttöön kyvykästä tekoälyä heti.
- Varmista organisaation sitoutuminen ja tuki. Tietoturvariskit muuttuvat nopeasti. Varmista, että tietoturva- ja suunnitteluorganisaatioillasi on tarvittava tuki, yhteistyö ja resurssit riskien nopeaan käsittelyyn. Järjestä tiimeillesi pöytäharjoituksia, joissa simuloidaan hyökkäysten mahdollisia ilmenemismuotoja organisaatiossanne ja niihin reagointia.
- Anna tietoturvatiimillesi agentti. Ota käyttöön Codex, Codex Security -lisäosa(avautuu uudessa ikkunassa) tai jokin muu kyvykäs agenttipohjaisen koodauksen ja tietoturvan työkalu. Anna sille hyväksytty pääsy koodikantoihin, infrastruktuurin määrityksiin ja tekniseen dokumentaatioon, joita tietoturvatiimisi arvioi. Älä odota koko yrityksen laajuista käyttöönottoa, vaan aloita tärkeimmistä järjestelmistäsi.
- Varusta agentti tietoturvaosaamisella. Aloita yhteisön tukemista taidoista(avautuu uudessa ikkunassa), joihin sisältyy työnkulkuja staattiseen analyysiin, tietoturvapainotteiseen koodintarkistukseen, haavoittuvuusmuunnelmien analysointiin, ohjelmistojen toimitusketjuriskien arviointiin ja muihin tietoturvatehtäviin. Luo sitten omia taitoja organisaatiosi arkkitehtuurin, tietoturvastandardien, uhkamallien ja toimintamallien pohjalta.
- Arvioi omien järjestelmiesi tietoturva välittömästi. Arvioi ensin internetiin avoimet palvelut, todennusprosessit, infrastruktuuri koodina, käyttöönottoputket ja arkaluonteisia tietoja käsittelevät järjestelmät. Laajenna tarkistuksia sitä mukaa kuin tiimisi luottamus kasvaa.
- Käsittele nykyinen haavoittuvuussumasi. Anna agentillesi koodintarkistimien löydökset, riippuvuushälytykset, tietoturvatiketit, haavoittuvuuspalkkio-ohjelmien raportit ja aiemmat arviot. Pyydä sitä arvioimaan löydökset, erottamaan hyödynnettävät ongelmat kohinasta, tunnistamaan samankaltaiset haavoittuvuudet muualla koodikannassa ja suosittelemaan korjausten tärkeysjärjestystä.
- Sisällytä tietoturvatarkistus suoraan kehitysprosessiisi. Käytä agentteja koodimuutosten tarkistamiseen ennen niiden yhdistämistä ja suorita tietoturvatarkistukset CI-ympäristössä. Etsi todennusvirheitä, käyttöoikeuksien hallinnan ohituksia, paljastuneita tunnuksia, turvattomia riippuvuuksia, turvattomia oletusasetuksia, tuotantojärjestelmien käyttöoikeuksia laajentavia muutoksia ja muita haavoittuvuuksia.
- Anna agentin auttaa löytämiensä ongelmien korjaamisessa. Pyydä sitä tuottamaan ja validoimaan vahvistettuihin ongelmiin kohdennettu korjaus, kirjoittamaan regressiotesti ja varmistamaan, ettei haavoittuvuutta voi enää toisintaa. Säilytä ihmisen tekemä tarkistus merkittävissä muutoksissa, mutta poista tarpeeton viive todellisen ongelman tunnistamisen ja turvallisen korjauksen insinöörille toimittamisen väliltä.
- Automatisoi havaintojen ensiarviointia vaiheittain. Älä aloita yrittämällä rakentaa itsenäisesti toimivaa tietoturvakeskusta. Aloita suorittamalla vain luku -oikeuksilla tietoturvatarkistus yhdelle repositoriolle tai anna agentin tarkistaa aiemmin ratkaistuja hälytyksiä nykyisistä lokeistasi vain luku -oikeuksin. Anna sen tiivistää todisteet ja suositella ratkaisua, mutta pidä kaikki päätökset ihmisellä. Kun luottamus kasvaa, siirry neuvovaan vetopyyntöjen tarkistukseen, sitten reaaliaikaisten hälytysten ensiarviointiin ja lopulta tarkasti rajattujen väärien positiivisten havaintojen automaattiseen sulkemiseen.
- Varmista tekoälyavusteinen rikostekninen tutkintakyky ennen kuin tarvitset sitä. Hae Trusted Access for Cyber(avautuu uudessa ikkunassa) -käyttöoikeutta ja hanki tiimillesi hyväksyntä GPT‑Daybreak‑Bluen käyttöön valtuutetussa puolustustyössä, kuten poikkeamiin reagoinnissa, havaintojen suunnittelussa ja haittaohjelma-analyysissä. Harjoittele tämän kyvyn käyttöä lokien, telemetrian ja tietoturvahälytysten analysointiin.
- Kokeile, järjestä hack-viikkoja ja kehitä nopeasti. Meidän on rakennettava monenlaisia uusia työkaluja, muutettava työtapojamme ja kehitettävä kaikkien osaamista tulevaa maailmaa varten. Kannusta henkilöstöäsi kokeilemaan, järjestä uusien kykyjen rakentamiseen keskittyvä hack-viikko ja kehitä nopeasti prosesseja, jotka automatisoivat ongelman pieniä osa-alueita. Nopea vaiheittainen kehitys moninkertaistaa puolustuksen tulokset, ja autonomiaa voi laajentaa asteittain tiimin luottamuksen kasvaessa.
Yksikään yritys ei pysty tähän yksin. Pyydämme tekoälylaboratorioita, tietoturvatoimittajia, yrityksiä ja ylläpitäjiä jakamaan validoituja löydöksiä, korjauksia ja käytännön toimintamalleja, jotta yhden organisaation löytö voi vahvistaa koko ekosysteemiä.
Puolustajien tilaisuus on nyt. Tulevina kuukausina jokaisen organisaation on alettava automatisoida tietoturvaohjelmaansa merkittävästi pysyäkseen turvassa. Tietoturvayhteisön on kiireesti määritettävä työkalut, käytännöt ja toimintamallit, jotka tekoälyn kehittyessä kasvattavat puolustajien voimaa hyökkääjiä nopeammin. Tämä vaatii valtavan ja ennennäkemättömän ponnistuksen, mutta yhdistämällä voimamme voimme tehdä maailmasta turvallisemman kuin aiemmin osasimme kuvitella.
