Edistyneen tekoälyn riskienhallinta: koulutuksesta käyttöönottoon
18. marraskuuta 2026 · Turvallisuus
Edistyneiden mallien kyvyt kehittyvät nopeasti. Kykymme ymmärtää niitä, ohjata ne toimimaan tavoitteidemme mukaisesti ja turvata ne on pysyttävä kehityksen edellä. Säätelemme malliemme kehitys- ja julkaisutahtia. Tarvittaessa keskeytämme sisäisen koulutuksen(avautuu uudessa ikkunassa) tai lykkäämme GPT‑6.1 Astran kaltaisten mallien julkaisua, jos turvallisuusvaatimustemme täyttäminen vie enemmän aikaa. Olemme ottaneet käyttöön uusia menettelyjä, kuten turvallisuusperustelut, ja edellytämme vahvempaa näyttöä tavoitteiden mukaisesta toiminnasta koko koulutuksen ajan. Nämä vaatimukset hidastavat mallien julkaisutahtia mutta antavat meille enemmän varmuutta edetä turvallisesti.
Heinäkuisen Hugging Face -tapauksen jälkeen olemme vahvistaneet mallien koulutusta, testausta ja käyttöönottoa koskevia suojatoimia ja tavoitteidenmukaisuusvaatimuksia. Tässä kirjoituksessa kerromme, miten arvioimme ja hallitsemme riskejä jokaisessa vaiheessa tiukasti eristetyistä koulutusympäristöistä tietokoneellasi käyttämääsi Codexiin. Arvioimme sekä mallit että suojatoimet jokaisessa vaiheessa. Seuraavaan vaiheeseen siirtyminen edellyttää turvallisuustarkastusta.
Käytämme monikerroksista suojausta, jonka useat suojakerrokset vähentävät riippuvuutta yksittäisistä suojatoimista. Jos yksi kerros pettää, muut auttavat ehkäisemään haittoja, rajoittamaan seurauksia tai hälyttämään meidät puuttumaan tilanteeseen.
Suojauksemme koostuu neljästä kerroksesta:
Tehokas valvonta riippuu mallin valvottavuudesta eli siitä, miten luotettavasti valvontajärjestelmät havaitsevat mallin päättelystä ja toimista virheitä tai vaarallista toimintaa. Esimerkiksi malli, joka ilmaisee ajatusketjussaan (CoT) aikovansa huijata, on helpommin valvottavissa kuin malli, joka jättää tämän tiedon pois. Arvioimme valvottavuutta koulutuksen aikana ja ennen käyttöönottoa, kehitämme parempia menetelmiä sen mittaamiseen(avautuu uudessa ikkunassa) ja tutkimme siihen vaikuttavia tekijöitä(avautuu uudessa ikkunassa).
Hugging Face -tapaus osoitti, miksi erittäin kyvykkäiden mallien rajoittamisessa ei pidä luottaa pelkkään eristykseen. Valvomme nyt edistyneitä malleja useimmissa sisäisissä ja ulkoisissa käyttöympäristöissä, myös kaikissa työkaluja hyödyntävissä sisäisissä käyttöympäristöissä.
Kunkin kerroksen rooli muuttuu mallin kehityksen ja käyttöönoton kolmessa vaiheessa:
Tutkimus: Koulutamme, testaamme ja käytämme malleja eristetyissä ympäristöissä.
Sisäinen käyttöönotto: OpenAI:n työntekijät käyttävät malleja käytännön työssä.
Ulkoinen käyttöönotto: Mallit tulevat laajemmin ihmisten ja organisaatioiden saataville.
Tukeudumme eri vaiheissa eri kerroksiin. Koulutuksen aikana tavoitteidenmukaisuudesta on vähemmän varmuutta, joten painotamme eristystä ja valvontaa. Kun mallit saavat käyttöönotossa laajemmat pääsyoikeudet, tavoitteidenmukaisuuden ja järjestelmätason kontrollien merkitys kasvaa. Arvioimme jokaisessa vaiheessa, ovatko suojatoimet yhdessä riittäviä mallin kykyihin ja pääsyoikeuksiin nähden. Päätelmiämme voidaan tarkastella Turvallisuusneuvontaryhmämme kanssa, ja niitä voi valvoa OpenAI Foundationin hallituksen Turvallisuus- ja suojelukomitea.
Tutkimusvaiheessa arvioimme malleja vahvistaaksemme luottamusta niiden tavoitteidenmukaisuuteen. Koska emme voi vielä täysin luottaa tavoitteidenmukaisuuteen haittojen ehkäisyssä, rajoitamme mallien pääsyä resursseihin ja niiden toimintaa vahvasti tietoturvan ja eristyksen avulla.
Tavoitteidenmukaisuustutkimuksen, valvontajärjestelmien ja internetin infrastruktuurin tietoturvan nykytilan perusteella pidämme vastuullisena edistyneiden mallien kouluttamista ilman avointa internetyhteyttä. Hugging Face -tapauksen jälkeen uudistimme merkittävästi sisäisiä tutkimusjärjestelmiämme. Rajoitamme malleja seuraavin keinoin:
eristysympäristöt, jotka rajoittavat mallin oikeuksia
virtuaalikoneet, jotka eristävät työkuorman entistä paremmin taustalla olevasta tietokoneesta
verkko- ja pilviympäristöjen suojarajat, jotka erottavat koko klusterin internetistä
Teemme järjestelmälle jatkuvaa hyökkäävää tietoturvatestausta. Vahvimmista malleistamme koostuvat tiimit yrittävät päästä avoimeen internetiin, ylittää suojarajat tai viestiä sellaisten agenttien kanssa, joista ne on tarkoitus eristää. Näin testaamme, kestääkö eristys niiden mallien kyvyt, joita sen on tarkoitus rajoittaa.
Lisäsuojana valvomme edistyneiden mallien kaikkia päättelyajoja havaitaksemme, onko malli kiertänyt ehdottomat tietoturvarajoitteemme. Jos valvonta havaitsee mallin päässeen internetiin, hälytämme tietoturvatiimimme ja keskeytämme työkuorman automaattisesti.
Valvonta on ratkaiseva varmistuskeino eristyksen pettäessä. Kerroimme äskettäisessä tavoitteidenvastaista toimintaa koskevassa raportissa, että valvontajärjestelmät havaitsivat sisäisen tutkimusmallin hyödyntävän virheellistä DNS-määritystä(avautuu uudessa ikkunassa) saadakseen rajallisen internetyhteyden. Keskeytimme kyvykkäimpien malliemme koulutuksen ja arvioinnin 20. syyskuuta – 1. lokakuuta, kun tutkimme ja korjasimme tietoturvapuutetta.
Jotta voimme puuttua tilanteisiin nopeasti ja luotettavasti, rakensimme Control Roomin. Se on keskitetty järjestelmä, joka seuraa tutkimustyökuormia ja pysäyttää mallin tuotosten muodostamisen 35 sekunnin kuluessa työn keskeytyskäskystä. Nämä kontrollit toteutetaan suoraan päättelyinfrastruktuurissa, joten niiden toiminta ei edellytä omaa pysäytysmekanismia jokaisessa tutkimustyökuormassa. Edistyneiden mallien tutkimustyökuormissa ne pysäyttävät tuotosten muodostamisen myös silloin, kun Control Room ei ole käytettävissä.
Hyökkäävä tietoturvatestaus ja valvonta täydentävät toisiaan. Emme voi taata eristysympäristön murtumattomuutta, mutta hyökkäävä tietoturvatestaus auttaa arvioimaan, kuinka paljon vaivaa malli joutuisi näkemään päästäkseen siitä ulos. Mitä enemmän vaivaa mallilta vaaditaan, sitä enemmän valvontajärjestelmillä on mahdollisuuksia havaita ja pysäyttää se.
Edellytämme tutkimusvaiheessa vahvoja tietoturva- ja valvontakontrolleja muutamasta syystä:
Mallien arviointi on vielä kesken. Kaikki mallit eivät ole vielä läpäisseet julkaisun edellyttämää turvallisuuskoulutusta, tavoitteidenmukaisuuden auditointeja ja tarkastuksia.
Edistyneet tutkimusympäristöt voivat lisätä riskejä. Tietyt tutkimustehtävät vaativat kunnianhimoisempia järjestelyjä, joissa malli toimii sitkeämmin tai kyvykkäämmin kuin yleensä ulkoisessa käytössä. Esimerkiksi Navier–Stokes-ongelman ratkaisemiseen tarvittiin 10 000 agentin tiimi.
Koulutus on laajamittaista, ja ihmisten suora valvonta on vähäisempää. Toisin kuin tavallisessa Codex-istunnossa, koulutustyökuormissamme mallit suorittavat suuren määrän toimintoja ilman, että ihminen seuraa jokaista vuorovaikutustilannetta.
Ennen laajaa julkaisua työntekijät siirtyvät edistyneiden mallien eristetystä tutkimuskäytöstä sisäiseen käyttöön ilman eristystä. Malli voidaan esimerkiksi tuoda työntekijöiden saataville ChatGPT:ssä. Näin ymmärrämme paremmin, miten mallit toimivat käytännön tilanteissa(avautuu uudessa ikkunassa), ja voimme hyödyntää tietoa käyttöönottopäätöksissä.
Tässä vaiheessa annamme mallille laajemman pääsyn internetiin sekä Slackiimme, koodikantaamme ja sisäiseen infrastruktuuriimme. Riskitaso muuttuu merkittävästi, sillä mallin toimet vaikuttavat nyt suoraan järjestelmiin, joilla kehitämme ja ylläpidämme OpenAI:n toimintaa. Sisäisessä käytössä meidän on tukeuduttava tietoturvakontrollien sijaan enemmän mallin tavoitteidenmukaisuuteen, järjestelmän suojatoimiin ja valvontaan.
Ennen kuin edistynyt malli voidaan ottaa käyttöön eristysympäristön ulkopuolella, sen tavoitteidenmukaisuus ja valvottavuus on testattava(avautuu uudessa ikkunassa). Arvioimme tavoitteidenmukaisuutta testeillä, jotka mittaavat sekä tiettyjä poikkeamia, kuten turvallisuus- ja tietoturvarajoitusten kiertämistä, että yleisempiä toimintataipumuksia. Jälkimmäisiä arvioimme esimerkiksi ottamalla uusia otoksia sisäisistä Codex-toimintaketjuista ja tarkistamalla ne tavoitteidenvastaisen toiminnan varalta. Lisätietoja tavoitteidenmukaisuuden ja valvottavuuden arvioinneistamme on uusimmassa GPT‑6 Astra -järjestelmäkortissa(avautuu uudessa ikkunassa).
Tuotantoympäristöjemme tapaan lisäämme suojakerroksen järjestelmätason luokittimilla, jotka on suunniteltu torjumaan edistyneiden mallien mahdollistamia haittoja, kuten kyberväärinkäyttöä ja biologisten aseiden kehittämistä. Edellytämme Codexia käyttäviltä työntekijöiltä yleensä myös Auto-Review’n(avautuu uudessa ikkunassa) käyttöä. Se arvioi mahdollisesti riskialttiit toimet ja siirtää ne käyttäjän tarkistettaviksi.
Lisäksi valvomme sisäisessä käytössä edistyneiden mallien jokaista päättelyajoa tavoitteidenvastaisen toiminnan havaitsemiseksi. Koska mallilla on nyt laajemmat oikeudet ja pääsy sisäisiin tietoihin ja järjestelmiin, on erityisen tärkeää havaita esimerkiksi tietojen luvaton siirtäminen ulos eli arkaluonteisten tietojen lähettäminen luvattomaan kohteeseen. Valvonta auttaa meitä myös tutkimaan uusia tavoitteidenvastaisen toiminnan muotoja(avautuu uudessa ikkunassa).
Julkisessa käytössä mallit kohtaavat huomattavasti enemmän käyttäjiä, tehtäviä ja ympäristöjä, mikä lisää sekä riskien määrää että niiden moninaisuutta. Tässä vaiheessa meidän on suojauduttava myös mahdollisilta pahantahtoisilta toimijoilta, jotka tarkoituksellisesti ohjaavat mallia aiheuttamaan haittaa.
Ennen julkaisua mallien ja järjestelmien suojatoimien on täytettävä ulkoisen käyttöönoton turvallisuusvaatimuksemme. Arvioimme niitä seuraavin keinoin:
Teemme kattavampia tavoitteidenmukaisuus- ja turvallisuusarviointeja. Edistyneille malleillemme tämä tarkoittaa muun muassa uusia mukautuvan testauksen kierroksia. Sisäiset automatisoidut hyökkäävän tietoturvatestauksen järjestelmämme koettelevat niissä mallin kestävyyttä. Julkaisemme kyvykkyys- ja turvallisuusarviointiemme tulokset järjestelmäkorteissamme(avautuu uudessa ikkunassa).
Kyvykkäimpiä mallejamme testaamme myös ulkopuolisten tahojen kanssa. Näin koettelemme sekä väärinkäyttöä torjuvia suojatoimia että mallien tavoitteidenmukaisuutta.
Tarkastelemme sisäisen käytön valvontahavaintoja seurataksemme perusmallin tavoitteidenmukaisuudessa tapahtuvia muutoksia.
”Synkronisten” suojatoimien, kuten mallien turvallisuuskoulutuksen ja järjestelmätason luokittimien, lisäksi käytämme ulkoisessa käytössä myös jälkikäteistä sääntöjen noudattamisen valvontaa ja tutkintaa. Näissä tiimeissä yhdistetään laajamittaiset agenttipohjaiset tutkintatyökalut ja ihmisten tekemät tarkastukset mahdollisten uhkatoimijoiden havaitsemiseksi ja tunnistamiseksi. Tarkastelu kattaa kyberväärinkäytön, biologisten aseiden kehittämisen, tislauksen sekä mallin oman tavoitteidenvastaisen toiminnan. Jälkikäteinen valvonta auttaa erityisesti kokoamaan tietoa eri tileiltä, jotta mahdollisesta uhasta saadaan kattavampi kokonaiskuva.
Luotettujen käyttäjien käyttöoikeusohjelmat, kuten Daybreak ja Rosalind, tuovat lisäturvaa. Ne nopeuttavat puolustajien ja asianmukaisesti toimivien tutkijoiden työtä samalla, kun ne rajoittavat mahdollisten hyökkääjien pääsyä.
Kun havaitsemme puutteen jossakin turvallisuuskerroksessamme, haluamme tutkia sen nopeasti, arvioida sen kiireellisyyden ja mahdollisuuksien mukaan kertoa siitä julkisesti, jos se on tarkoituksenmukaista. Näin toimimme riippumatta siitä, aiheutuiko todellista haittaa. Tavoitteidenvastaisen toiminnan raportointikäytäntömme mukaan kuka tahansa työntekijä voi ehdottaa poikkeaman julkistamista. Ilmoitukset tutkitaan. Jos niiden julkistamisesta ollaan eri mieltä, päätös siirretään Turvallisuusneuvontaryhmällemme. Työntekijöiden ilmoitusten lisäksi etsimme ennakoivasti tavoitteidenvastaista toimintaa, jotta voimme puuttua siihen ja jakaa havaintomme.
Tavoitteidenvastaista toimintaa koskevat raporttimme ovat luettavissa täällä(avautuu uudessa ikkunassa).
Tämä työ edellyttää sekä tutkimuksen edistymistä että kurinalaista toimintaa: kontrollien oikeaa määritystä, niiden yhteistoiminnan testaamista ja päättäväistä reagointia niiden pettäessä. Väärin määritetty verkkopalvelu tai toimimaton automaattinen pysäytys voi heikentää muuten vahvaa suojausta.
Mallien saadessa uusia kykyjä meidän on jatkuvasti kyseenalaistettava suojatoimiemme taustaoletukset ja parannettava suojatoimia tarvittaessa. Tutkimuksesta, sisäisestä käytöstä ja julkisesta käyttöönotosta saadun opin on ohjattava sitä, miten koulutamme, arvioimme ja otamme käyttöön seuraavat mallit.
Jaamme jatkossakin havaintojamme järjestelmäkorteissa, poikkeamaraporteissa, sisäisen käytön riskiraporteissa(avautuu uudessa ikkunassa) ja ulkoisissa arvioinneissa, jotta muut voivat tarkastella kriittisesti toimintatapaamme ja sen rajoituksia. Jos näyttö ei täytä turvallisuusvaatimuksiamme, keskeytämme jälleen koulutuksen tai lykkäämme julkaisua, kunnes vaatimukset täyttyvät.
Turvallisuusvaatimusten asettaminen
Mallikehityksen tahdittaminen kyberturvallisuuden kannalta kriittisten kykyjen aikakaudella – Miten hidastimme edistyneiden mallien koulutusta samalla, kun vahvistimme eristystä, laajensimme valvontaa ja edellytimme vahvempaa näyttöä tavoitteidenmukaisuudesta.
Kohti edistyneen tekoälyn koulutuksen turvallisuusperusteluja – Alustavat ohjeet näyttöön perustuville turvallisuusperusteluille, jotka kattavat tekniset suojatoimet, toimintakäytännöt ja tavoitteidenvastaisen toiminnan tutkinnan.
Vaikuttavien ulkopuolisten arviointien painopisteet ja periaatteet – Ehdotuksemme turvallisuusperustelujen, suojatoimien, arviointien ja mallien toiminnan riippumattomaan tarkasteluun.
Sisäisen käytön katastrofiriskiarviointien määräaikaiskooste(avautuu uudessa ikkunassa) – Kesä–syyskuun 2026 kattava julkinen raporttimme kuvaa edistyneiden mallien sisäistä käyttöä, siihen liittyviä arvioituja riskejä sekä suojatoimien ja hallintokäytäntöjen muutoksia.
Tavoitteiden mukaisen toiminnan määrittely ja arviointi
Päivitetty mallimääritys kyvykkäämpää ja hyödyllisempää tekoälyä varten – Miten uudistimme mallimäärityksen viiden ydinarvon pohjalta ohjaamaan mallien harkintaa, toimintaa ja ihmisen valvonnan kunnioittamista.
Arvioinnin ja tuotantokäytön toimintaerot agenttien turvallisuudessa sekä arviointitietoisuuden rooli(avautuu uudessa ikkunassa) – Tutkimus turvallisuusarviointien tulosten ja tuotantokäytön toiminnan eroista sekä siitä, miten mallien tulkinnat arviointien tavoitteista vaikuttavat suoriutumiseen.
g-mean²:n rinnalle: täydentäviä valvottavuuden mittareita(avautuu uudessa ikkunassa) – Uusia mittareita valvottavuuden vertailuun ja jäännösriskin arviointiin simuloiduissa järjestelmissä, joissa valvontajärjestelmät hylkäävät mallien tuotoksia.
GPT‑6 Astra -järjestelmäkortti(avautuu uudessa ikkunassa) – Yksityiskohtaiset arviot Astran kyvyistä, turvallisuudesta, tavoitteidenmukaisuudesta ja valvottavuudesta sekä sen käyttöönoton suojatoimista ja rajoituksista.
Mallien eristäminen ja suojatoimien parantaminen
Edistyneiden malliemme koulutusympäristön suojaaminen – Miten vahvistimme eristystä, rakensimme internetistä irrotettuja tutkimusympäristöjä ja testasimme eristyksen rajoja vahvimmilla malleillamme.
Aktivaatioluokittimien kouluttaminen turvallisuuden ja tavoitteidenmukaisuuden tueksi(avautuu uudessa ikkunassa) – Miten luokittimet havaitsevat mallien sisäisten aktivaatioiden avulla mahdollisesti haitallisen toiminnan ja keskeyttävät vastauksia tai työkalukutsuja.
Agenttien toimien automaattinen tarkastus ilman reaaliaikaista ihmisvalvontaa(avautuu uudessa ikkunassa) – Miten erillinen tarkastusagentti arvioi eristysympäristön rajat ylittäviä toimia ja auttaa koodausagentteja työskentelemään itsenäisesti estäen samalla mahdollisesti haitalliset tai luvattomat toimet.
GPT‑Red: itsensä kehittäminen kestävyyden vahvistajana – Miten koulutamme automatisoituja hyökkäävän tietoturvatestauksen järjestelmiä itsepelillä löytämään haavoittuvuuksia ja parantamaan mallien kestävyyttä kehoteinjektioita vastaan.
Control Room – Miten seuraamme työkuormia koko tutkimusinfrastruktuurissamme ja pysäytämme mallien tuotosten muodostamisen nopeasti, kun turvallisuus- tai tietoturvahuolet edellyttävät puuttumista.
Poikkeamiin reagointi ja niistä tiedottaminen
Miten havaitsemme edistyneiden mallien tavoitteidenvastaisen toiminnan – Valvontajärjestelmämme yhdistää aktivaatioiden analyysin, mallipohjaisen tarkastuksen, automaattisen tutkinnan ja ihmisten reagoinnin huolestuttavan toiminnan havaitsemiseksi ja tutkimiseksi.
Hugging Face -tapaus ja tie eteenpäin – Hugging Face -tapauksesta tekemämme havainnot ja sen käynnistämät muutokset tietoturvassa, valvonnassa ja tavoitteidenmukaisuudessa.
Agentti otti DNS:n avulla yhteyden ulkoiseen chatbottiin(avautuu uudessa ikkunassa) – Miten tutkimusmalli kiersi internetrajoitukset puutteellisen DNS-suodatuksen kautta, miten valvonta havaitsi tämän ja mitä kontrolleja lisättiin jälkikäteen.
Koordinoidun mallientislauskampanjan torjuminen – Miten tutkimme ja torjuimme yrityksiä poimia mallien suojattua päättelyä tileihin kohdistuvilla valvontatoimilla, teknisillä kontrolleilla ja kumppaniyhteistyöllä.
Mallien tavoitteidenvastaisen toiminnan raportointikehyksemme – Menettelymme mallien huolestuttavan toiminnan seuraamiseen, tutkimiseen ja julkistamiseen, myös silloin, kun tapausten syyt tai merkitys ovat epäselviä.
Raportit ja tiedotteet tavoitteidenvastaisesta toiminnasta(avautuu uudessa ikkunassa) – Julkaisemamme poikkeamaraportit ja tiedotteet osoittavat, miten tavoitteidenvastaista toimintaa syntyy ja missä suojatoimet onnistuvat tai pettävät.
Tutkimuksen edistysaskeleet ja sovellukset
Tutkimuksen nopeutuminen: näkökulma OpenAI:n sisältä – Alustavaa näyttöä siitä, miten koodausagentit muuttavat OpenAI:n sisäistä tutkimusta: niiden lisääntyvä käyttö, yhä monimutkaisemmat tehtävät ja vaikutukset kokeilutoimintaan.
Navier–Stokesin Millennium-palkinto-ongelmasta – Sisäisen tekoälyjärjestelmän tuottama matemaattinen todistus ja sen Lean-formalisointi havainnollistavat laajamittaisen tutkimuskäytön mahdollisuuksia.
Daybreak – Kyberturvallisuusohjelmamme tarjoaa tarkastetuille puolustajille edistyneitä tekoälyominaisuuksia, tietoturvatyökaluja ja tukea haavoittuvuuksien löytämiseen ja puolustuksen vahvistamiseen.
Esittelyssä GPT‑Rosalind biotieteiden tutkimukseen – Biologiaan, lääkekehitykseen ja translationaaliseen lääketieteeseen erikoistunut malli, joka on kelpoisuusehdot täyttävien organisaatioiden saatavilla luotettujen käyttäjien käyttöoikeusohjelmassa.






