Modeļu izstrādes temps kritisku kiberspēju laikmetā

Pēdējo nedēļu laikā divi notikumi ir skaidri parādījuši, ka pieaug riski, kas saistīti ar arvien spējīgākām MI sistēmām: OpenAI-Hugging Face incidents un, atsevišķi, sākotnējie pierādījumi, ka viens no mūsu gaidāmajiem modeļiem Astra varētu sasniegt kritisku kiberdrošības spēju slieksni saskaņā ar mūsu sagatavotības satvaru. Šie notikumi kopā ar straujo progresu mūsu iekšējā pētniecībā ir padarījuši vēl steidzamāku darbu pie uzraudzības, salāgošanas un ierobežošanas aizsargpasākumu stiprināšanas visos apmācības procesa posmos.

Modeļiem kļūstot spējīgākiem, pieaug arī ar to iekšējo izstrādi un testēšanu saistītie riski. Mūsu uzraudzības, salāgošanas un drošības standartiem šie riski ir jāapsteidz. Vēlējāmies atvēlēt šo standartu sasniegšanai nepieciešamo laiku, tāpēc uz laiku palēninājām mērogošanas tempu. Tostarp uz divām nedēļām apturējām ieviešanai paredzēto jaunāko modeļu apmācību ar stimulēto mācīšanos (RL), kamēr vēl vairāk nostiprinājām un ar uzbrukumu simulācijām pārbaudījām savu pētniecības vidi, kā arī paplašinājām uzraudzības sistēmu tvērumu. Mūsu lielākais plānotais robežšķirtnes stimulētās mācīšanās izmēģinājums joprojām ir apturēts. Tikmēr veicam mazāka mēroga apmācību un novērtēšanu, lai izvērtētu modeļa uzvedību, pārbaudītu aizsargpasākumus un pirms darba turpināšanas iegūtu vairāk salāgotības pierādījumu.

Salāgošana — darbs, lai MI sistēmas rīkotos paredzētajā veidā un pakļautos cilvēku uzraudzībai, — jau sen ir mūsu pētniecības programmas pamatā. Balstoties uz jau notiekošo pētniecību un novērtēšanu, tagad visā apmācības procesā pieprasām pārliecinošākus salāgotas uzvedības pierādījumus. Arvien spējīgāku sistēmu salāgotības uzturēšana ir izaicinājums, kas jārisina visai nozarei. Gaidāmo modeļu attīstības rādītāji skaidri liecina, ka mums vajadzīga plašāka pieeja, kas balstās uz pašreizējo Sagatavotības satvaru un sniedzas tālāk par to.

Uzskatām, ka ir svarīgi atklāti skaidrot, kā mainās mūsu pieeja. Tālāk aprakstām gan izmaiņas, ko jau esam ieviesuši pētniecības procesos un infrastruktūrā, gan vēl notiekošo darbu.

Mūsu pieeja spējīgāku modeļu izstrādei balstās uz trim savstarpēji papildinošiem aizsargpasākumiem:

1. Uzraudzība, kas atklāj satraucošu uzvedību un ļauj mums uz to reaģēt.
2. Salāgošana, kas mazina kaitīgu vai neatļautu darbību iespējamību.
3. Drošības pasākumi, kas ierobežo MI sistēmu piekļuves un ietekmes iespējas.

Sagaidām, ka drīzumā modeļi veiks lielāko daļu drošības darba, tostarp aizsargās pret citiem modeļiem. Tas ļaus visus trīs aizsargpasākumus mērogot atbilstoši modeļu spējām, un mēs to uzskatām par izšķirīgi svarīgu.

Šos aizsargpasākumus izmantojam gan pētniecībā, gan ieviešanā, pielāgojot tos katra modeļa spējām, darbības videi un riska līmenim.

Robežšķirtnes modeļiem iegūstot arvien plašākas kiberdrošības spējas, mēs paaugstinām drošības standartus videi, kurā tos apmācām un novērtējam. Šo standartu izpilde ir prasījusi apjomīgu inženiertehnisko darbu, radījusi lielas izmaksas un aizkavējusi robežšķirtnes pētniecību. Uzreiz pēc OpenAI un Hugging Face incidenta* pētniecības klasteros apturējām robežšķirtnes modeļu izsecināšanu tiem procesiem, kuri varēja izpildīt kodu vai izmantot rīkus ar piekļuvi internetam. Samērā ātri atjaunojām ierobežotāku un drošāku koda izpildes iespēju, bet pēc tam atsevišķi izvērtējām katru darba slodzi, lai noteiktu, vai to var droši atsākt. Dažas pētniecības darba slodzes atsākām ar jaunajiem kontroles pasākumiem, bet citām bija vajadzīgas papildu izmaiņas.

Turpmākajās nedēļās definējām un sākām ieviest stingrākas drošības prasības robežšķirtnes pētniecības darba slodzēm. Piemēram:

• Darba slodžu izolēšana: tagad darba slodzēm, kas izpilda modeļu ģenerētu vai citādi neuzticamu kodu, pieprasām stingrāku izolāciju jeb „smilškastes” vidi. Tas attiecas arī uz programmatūru, ko varētu apdraudēt modeļu izvades apstrāde.
• Tīkla izolēšana: esam ieviesuši vairāk kontroles pasākumu, lai no interneta izolētu augstāka riska un neuzticamas darba slodzes. Šie kontroles pasākumi ir izstrādāti tā, lai vienas darba slodzes vai atbalsta pakalpojuma apdraudējums pats par sevi nenodrošinātu neatļautu piekļuvi internetam vai citiem iekšējiem tīkliem.
• Nepārtraukta drošības pārbaude: esam pārkonfigurējuši savu vidi, lai likvidētu potenciāli ievainojamus koplietotus pakalpojumus, samazinātu pastāvīgās privilēģijas un uzlabotu drošības un uzticamības robežas. Uzlabojam arī spēju apkopot un uzraudzīt drošības žurnālus. Visbeidzot, ieguldām automatizācijā, izmantojot savus modeļus, lai šīs robežas pastāvīgi pārbaudītu ar simulētiem uzbrukumiem.

Kopā šie kontroles pasākumi nodrošina daudzslāņu aizsardzību un palīdz pasargāt mūsu pētniecības vidi no uzbrukumiem. Pašlaik visstingrākā līmeņa drošības pasākumus pieprasām darba slodzēm, kas saistītas ar Astra vai kiberdrošības modeļiem, jo esam secinājuši, ka Astra modeļiem varētu būt kritiska līmeņa kiberspējas. Šie aizsargpasākumi attiecas arī uz visām pārējām ar kiberdrošību saistītajām darba slodzēm.

Lai gan daļa Astra apmācības un novērtēšanas procesu atbilst šīm prasībām, daudzas darba slodzes joprojām ir apturētas, līdz tās tiks pilnībā migrētas un uzlabotas atbilstoši jaunajam drošības standartam. Migrējot uz jauno vidi, vispirms pievēršamies drošības un salāgošanas darba slodzēm.

Uzraudzība jau sen ir bijusi būtiska mūsu modeļu izstrādes procesa daļa, tostarp iekšējo programmēšanas aģentu uzraudzība un ilgstošu sesiju uzraudzība. Uzraudzībā īpaši pievērsāmies robežšķirtnes modeļu iekšējai ieviešanai un robežšķirtnes stimulētās mācīšanās procesiem. Tos uzskatījām par visaugstākā riska darba slodzēm, jo tās var apvienot progresīvas modeļu spējas ar piekļuvi rīkiem, sensitīvām sistēmām un iekšējiem vai ārējiem tīkliem. Šie pasākumi netika piemēroti visiem izsecināšanas un apmācības procesiem, kuros izmanto rīkus. Ar jauno uzraudzības sistēmu esam pārskatījuši un paplašinājuši savu pieeju.

Jaunā uzraudzības sistēma darbojas vairākos posmos. Vispirms katru atlasīto tekstvienību pārbauda aktivizācijas klasifikatori — detektori, kas analizē modeļa iekšējo darbību. Tie iespējamos riskus nodod arvien sarežģītākiem automatizētiem izmeklētājiem, kam vajadzīgi lielāki skaitļošanas resursi. Šīs sistēmas pārbauda darbības ar rīkiem, pieejamo spriestspēju un visu darbību secību, meklējot neatļautu piekļuvi, datu zādzību, destruktīvu rīcību un mēģinājumus apiet aizsargpasākumus. Mūsu mērķis ir izziņot brīdinājumu 30 minūšu laikā pēc tam, kad uzraudzības sistēma konstatējusi satraucošu darbību. Ja uzraudzības sistēma konstatē iespējamu kritiskas drošības robežas pārkāpumu, tā ģenerē augstākās prioritātes brīdinājumu. Pašreizējā risinājumā tiek izsauktas drošuma, drošības un pētniecības komandas. Ja tās 30 minūšu laikā nevar pārliecinoši noteikt, ka signāls ir kļūdaini pozitīvs, komandām attiecīgā darbība ir jāaptur.

Šāda uzraudzība ir obligāta visai ar stimulēto mācīšanos saistītajai apmācībai un novērtēšanai, kurā modeļi ar Sol līmeņa vai augstākām spējām izmanto rīkus. Kad 7. augustā secinājām, ka Astra varētu būt kritiskas kiberspējas, ieviesām papildu uzraudzības prasību visiem Astra izsecināšanas procesiem ar rīkiem, ne tikai stimulētās mācīšanās apmācībai un novērtēšanai.

Šiem aizsargpasākumiem vajadzīgi ievērojami skaitļošanas resursi. Pašlaik lēšam, ka uzraudzības papildu slodze veido aptuveni 20% no uzraudzītā izsecināšanas procesa skaitļošanas resursiem, lai gan dažādām apmācības un novērtēšanas darba slodzēm izmaksas būtiski atšķiras. Plašāku informāciju par šo sistēmu sniegsim gaidāmajā emuāra ierakstā.

Salāgošanas pētniecība ir mūsu misijas pamatā. Mūsu misija ir panākt, lai mākslīgais vispārējais intelekts sniegtu labumu visai cilvēcei. Modeļiem iegūstot progresīvas spējas, piemēram, spēju veikt kiberuzbrukumus, un darbojoties sarežģītākā vidē, arvien nopietnāku risku radīs nesalāgota uzvedība, piemēram, atlīdzības sistēmas manipulēšana — veidu atrašana, kā apmācībā saņemt lielu atlīdzību, faktiski nesasniedzot paredzēto rezultātu —, maldināšana vai neatļauta piekļuve.

Stimulētās mācīšanās procesos ar spējīgākajiem modeļiem tagad izmantojam galvenās salāgošanas metodes vairākos apmācības posmos. Tas ietver atlīdzības modeļu uzlabošanu, lai dažādos uzdevumos un vidēs labāk atklātu un ierobežotu nedrošu uzvedību; modeļu apmācīšanu godīgāk ziņot par savām darbībām, spējām un ierobežojumiem; kā arī tādas uzvedības mazināšanu, kas izmanto atlīdzību, vērtētāju, rīku vai uzraudzības nepilnības. Paplašinām arī tādas uzvedības apmācības tvērumu, kas modeļu mijiedarbībā ar ārējām sistēmām vai resursiem varētu nodarīt kaitējumu.

Turpinām aktīvi ieguldīt salāgošanas pētniecībā, paplašināt novērtēšanas tvērumu un izmantot gūtās atziņas apmācības un aizsargpasākumu pilnveidē. Tuvākajā nākotnē plānojam daudz plašāk stāstīt par salāgošanas pētniecību, tostarp par to, ko uzzinām par modeļu uzvedību un kādus jaunus izaicinājumus atklājam.

Pilnveidosim Sagatavotības satvaru, lai šos aizsargpasākumus apvienotu visā apmācības un ieviešanas procesā un labāk atspoguļotu nākotnes modeļu spējas un to darbības vidi. Lai izstrādātu metodes, ko var mērogot atbilstoši šīm spējām, būs vajadzīgi pastāvīgi ieguldījumi modeļu atbalstītā drošībā, efektīvākā uzraudzībā un turpmākā salāgošanas pētniecības attīstībā. Attīstot savu pieeju, plānojam iesaistīt ārējas organizācijas un plašāk dalīties gūtajās atziņās.

Robežšķirtnes modeļu spējas strauji pieaug. Mūsu spējai tos izprast, salāgot un aizsargāt šī attīstība ir jāapsteidz.

*Tuvākajās nedēļās publicēsim tehnisku ziņojumu par gūtajām atziņām.