Veiksmingų trečiųjų šalių vertinimų prioritetai ir principai

Priešakinio DI laboratorijoms tenka didžiulė atsakomybė saugiai mokyti, vertinti ir diegti modelius. Trečiųjų šalių vertinimai yra itin svarbūs siekiant tinkamai vykdyti šią atsakomybę, sudaryti daugiau galimybių prisidėti prie DI saugos, informuoti visuomenę ir užtikrinti laboratorijų atskaitomybę pagal aiškius, nepriklausomai pagrįstus saugos teiginius.

Siekdama neatsilikti nuo priešakinės raidos, „OpenAI“ yra įsipareigojusi remti nepriklausomus vertinimus ir suteikti išsamią prieigą visais mokymo, vertinimo bei diegimo etapais. Ši prieiga turėtų suteikti vertintojams galimybę kvestionuoti mūsų prielaidas, nustatyti galbūt nepastebėtas rizikas ir savarankiškai įvertinti mūsų apsaugos priemonių veiksmingumą.

Jau seniai bendradarbiaujame su trečiųjų šalių vertintojais įvairiais modelių kūrimo ir diegimo proceso etapais. Trečiųjų šalių vertinimus taip pat įtraukėme į savo Pasirengimo sistemos praktiką ir rėmėme organizacijas bei teisės aktus, kuriais siekiama griežtesnio ir atskaitingesnio proceso. Per šį bendradarbiavimą suteikėme išsamią prieigą, įskaitant informaciją apie mūsų technines apsaugos priemones, prieigą prie matomos minčių grandinės ir precedento neturinčią prieigą prie konfidencialių duomenų bei vidinių diegimų, kad būtų galima reaguoti į incidentus ir atlikti stebėsenos sistemų testavimą spragoms nustatyti. Čia pateikiami prioritetai ir principai skirti mūsų bendradarbiavimui su privačiojo bei ne pelno sektorių nepriklausomo vertinimo organizacijomis atliekant techninės saugos vertinimus. Jie papildo mūsų bendradarbiavimą su vyriausybėmis testavimo ir vertinimo srityse, kur dėl skirtingų vaidmenų ir atsakomybės gali reikėti kitokių metodų.

Kad šie vertinimai būtų veiksmingi, yra būtini tvirti nepriklausomumo mechanizmai, mokslinis kruopštumas, patikima saugumo praktika ir aiški atsakomybė. Laboratorijos yra atsakingos už tai, kad jų veiklą būtų galima prasmingai įvertinti, kartu apsaugant jautrią informaciją. Už tinkamą šio darbo atlikimą bendrai atsako laboratorijos ir nepriklausomi vertintojai, todėl jie turėtų vadovautis bendrais tarptautiniais saugos ir saugumo praktikos standartais. Toliau siūlome keturias prioritetines išsamesnio vertinimo sritis ir išdėstome kruopštaus, saugaus bei nepriklausomo darbo principus.

Trečiųjų šalių vertinimai yra naudingiausi tada, kai juose nagrinėjami konkretūs ir reikšmingi klausimai: ar įrodymai patvirtina laboratorijos saugos pagrindimą ir saugos teiginius? Ar vertinimais tinkamai tikrinamos rizikos, kurias jie skirti įvertinti? Ar apsaugos priemonės veikia realiomis sąlygomis?

Čia aprašyti vertinimai turėtų būti skirtingų formų, atsižvelgiant į nagrinėjamus saugos klausimus. Tikimės vienu metu ir skirtingais laikotarpiais remti kelis vertinimus: vieni truks kelias savaites, kiti – kelis mėnesius. Nors trečiųjų šalių vertinimai taip pat gali būti atliekami prieš diegimą ir padėti priimti sprendimus dėl jo, čia aprašomas darbas paprastai yra ilgalaikis ir nesusietas su produkto pristatymu – juo siekiama nuodugniai ir ilgainiui išnagrinėti konkrečius saugos teiginius.

Aprašydami prioritetines sritis ir principus vartojame sąvokas „saugos teiginiai“ ir „saugos pagrindimai“. Toliau nurodome, kaip suprantame šias sąvokas.

Siūlome keturias prioritetines išsamesnio vertinimo sritis ir išdėstome kruopštaus, saugaus bei nepriklausomo darbo principus.

1. Nepriklausomas saugos pagrindimų vertinimas, apimantis mokymą, vertinimą, vidinį ir išorinį diegimą.

   Saugos pagrindimams vertinti reikia kompetencijos tikslų atitikimo užtikrinimo, kontrolės metodų, tokių kaip stebėsena, kibernetinio saugumo, biologinio bei cheminio piktnaudžiavimo ir testavimo spragoms nustatyti srityse. Saugos pagrindimus sudaro teiginiai, apimantys mokymą, gebėjimų vertinimus ir apsaugos priemones; juos galima vertinti kartu arba dalimis (žr. toliau pateiktus 2 ir 3 prioritetus). Tikėtina, kad skirtingas pagrindimų dalis turės nagrinėti keli vertintojai, pasitelkdami savo atitinkamų sričių kompetenciją. Kartu jų vertinimai turėtų atsakyti į tokius klausimus:

   1. Ar mokymo, vertinimo ir diegimo saugos pagrindimai yra patvirtinti įrodymais? Ar mokant, vertinant ir diegiant buvo laikomasi saugos pagrindime nustatytų sąlygų?

   2. Ar mūsų saugos pagrindimai apima per vertinimą nustatytas neatidėliotinas rizikas? Ar saugos teiginiai patvirtina bendrą saugos pagrindimą? Ar yra spragų arba tobulintinų sričių?

   3. Ar taikomi veiksmingi metodai mokymo paskatoms, galinčioms skatinti apgaulę, atlygio išnaudojimą, destruktyvius veiksmus ar apribojimų apėjimą, nustatyti ir sumažinti?

2. Itin svarbių apsaugos priemonių vertinimas vidinio ir išorinio diegimo metu

   Mūsų apsaugos priemonių visuma nuolat tobulinama atsižvelgiant į kintančias galimybes ir aplinkybes. Mūsų apsaugos priemonės apima mokymą, vidinį diegimą ir išorinį diegimą. Šiuo metu jos apima modelio lygmens, taisyklių vykdymo užtikrinimo ir saugumo priemones, taip pat tikslų neatitikimo stebėsenos sistemas, skirtas įvairioms rizikoms, pavyzdžiui, kontrolės praradimui ir kibernetiniam, biologiniam bei cheminiam piktnaudžiavimui. Techninės partnerystės gali jau dabar padėti nustatyti apsaugos priemonių trūkumus, tobulinti vertinimo metodus ir spartinti standartų kūrimą, taip sukuriant tvirtesnį techninį pagrindą būsimai viešajai politikai, skirtai neatsilikti nuo priešakinės raidos. Tai ypač svarbu vidiniam diegimui, kurio saugos ir saugumo standartai dar tik kuriami.

   Nepriklausomuose vertinimuose turėtų būti nagrinėjama, kaip gerai veikia šios apsaugos priemonės ir kur jos gali būti nepakankamos. Toliau pateikiame pavyzdžius.

   1. Kai naudojama „pilkosios dėžės“ prieiga, ar apsaugos priemonės atlaiko priešišką testavimą (bandymus apeiti apribojimus) ir ar jos pakankamai užkerta kelią gebėjimų sustiprinimui didelės rizikos srityse, pavyzdžiui, kibernetinėje ir biologinėje? Ar mūsų priešiškas testavimas ir testavimas spragoms nustatyti apima svarbiausias rizikas?

   2. Kaip per autorizuotą testavimą realiomis veikimo sąlygomis agentai sąveikauja su kibernetinės gynybos priemonėmis, tokiomis kaip prieigos kontrolė, izoliuotos aplinkos ir aptikimo bei reagavimo sistemos? Kurios gynybos priemonės užkerta kelią žalingiems veiksmams, juos aptinka ar sustabdo ir kada jos nesuveikia?

   3. Ar mūsų tikslų neatitikimo stebėsenos sistemose yra kritinių spragų, kurios vidinio ar išorinio diegimo metu galėtų lemti kontrolės praradimą arba didelį tikslų neatitikimą? Modelių gebėjimams didėjant, kiek patikima yra minčių grandinės stebėsena kaip saugos ar tikslų atitikimo įrodymų šaltinis?

   4. Ar visuose susijusiuose mokymo, vertinimo ir diegimo procesuose įdiegta tinkama stebėsena, kurios nebūtų galima lengvai išjungti?

   5. Ar apsaugos priemonės įdiegtos proporcingai gebėjimams?

3. Gebėjimų vertinimų, apimančių Pasirengimo sistemos rizikos kategorijas (cheminę ir biologinę riziką, kibernetinį saugumą bei DI gebėjimą tobulinti save), ir tikslų atitikimo vertinimų, skirtų tikslų neatitikimo rizikai, įvertinimas

   Pagal mūsų Pasirengimo sistemą vertinimais privaloma įvertinti pagrindines ribinės rizikos sritis. Peržengiant ribines vertes ir vertinimams pasiekiant savo galimybių ribas, svarbu juos nuolat atnaujinti ir užtikrinti vertinimų, kuriais tikrinami gebėjimai Pasirengimo sistemos rizikos srityse, bei tikslų atitikimo vertinimų, skirtų didelio tikslų neatitikimo rizikai įvertinti, aprėptį ir kokybę.

   Aktualūs klausimai

   1. Ar Pasirengimo sistemos rizikos vertinimai tinkamai aprėpia jos rizikos ribinės vertės apibrėžtį? Ar šių vertinimų ribinės vertės nustatytos tinkamai?

   2. Ar vertinimai atnaujinami, kai modeliai nuolat pasiekia aukščiausius įverčius, ir ar naujais testais iš tiesų įvertinami pažangesni gebėjimai?

   3. Ar mūsų tikslų atitikimo vertinimai tinkamai aprėpia didelio tikslų neatitikimo rizikas ir kokio svarbaus elgesio ar kokių sąlygų jie gali nepastebėti?

4. Nepriklausomas kritinių tikslų neatitikimo incidentų tyrimas

   Nepriklausomi tyrimai gali būti naudingi nagrinėjant įvairius kritinius DI saugos incidentus. Čia daugiausia dėmesio skiriame modelių tikslų neatitikimui, įskaitant modelių veikimą be leidimo ar priežiūros vengimą, nes tokie atvejai gali atskleisti tikslų atitikimo užtikrinimo metodų ir apsaugos priemonių trūkumus net ir nesant tyčinio piktnaudžiavimo.

   Tam tikromis aplinkybėmis, kaip „OpenAI“ ir „Hugging Face“ incidento atveju, gali būti naudinga pasitelkti nepriklausomą trečiąją šalį atlikti nepriklausomus tikslų neatitikimo incidentų tyrimus. Labai svarbu, kad incidentus tiriančios trečiosios šalys turėtų reikiamą tyrimų kompetenciją, įskaitant, kai taikytina, kibernetinės ekspertizės ir tikslų atitikimo užtikrinimo žinias, gebėjimą analizuoti didelio masto minčių grandines, taip pat pakankamai darbuotojų bei išteklių tyrimui laiku atlikti. Reaguojant į incidentą gali reikėti prieigos prie jautrių vidinių ir trečiųjų šalių duomenų, todėl kai kurios detalės gali būti pernelyg jautrios, kad jas būtų galima skelbti ar suteikti prieigą prie jų. Nepriklausomų tyrimų išvados taip pat gali padėti pagrįsti modelio saugą, nes suteikia įrodymų teiginiams apie jo tikslų atitikimą ir priemonių, kurių imtasi anksčiau nustatytam tikslų neatitikimui pašalinti, veiksmingumą įvertinti.

   Tikslų neatitikimo incidentų atveju pirmenybę teikiame nepriklausomiems šių klausimų vertinimams:

   1. Kokia modelio elgsena ar tikslų neatitikimo problemos pasireiškė per incidentą ir kokie buvo pagrindiniai jas lėmę veiksniai?

   2. Ar apsaugos ir trūkumų šalinimo priemonės veiksmingai sumažintų panašių incidentų riziką ateityje?

• Aiškiai apibrėžti ir abipusiu sutarimu pasirinkti vertintini teiginiai: pirmiausia vertinimo apimtį turėtų suderinti abi šalys. Tada reikėtų aiškiai suformuluoti saugos teiginius ir juos užregistruoti prieš pradedant vertinimą. Trečiosios šalys ir laboratorijos turėtų išsiaiškinti, ar tai yra teiginiai, kuriuos vertinama bendrovė pati siūlo vertinti, ar teiginiai, kuriuos trečiosios šalies vertintojas siekia įvertinti savarankiškai, o laboratorija sutinka būti pagal juos vertinama. Kai kurie teiginiai gali nepatekti į vertinimo apimtį dėl įvairių priežasčių, pavyzdžiui, jei trečiosios šalys negali gauti reikalingų duomenų, vertintojui trūksta kompetencijos arba skubiam vertinimui taikomi pagrįsti laiko apribojimai. Laboratorijos ir vertintojai turėtų nustatyti tvarką, kaip nagrinėti reikšmingą riziką, nustatytą už pradinės vertinimo apimties ribų, įskaitant sprendimą, ar ją reikia tirti toliau. Išvadose turi būti aiškiai nurodyta, kas buvo ir kas nebuvo įvertinta atsižvelgiant į abipusiu sutarimu nustatytą vertinimo apimtį.

• Proporcinga prieiga: vertintojams, kiek įmanoma, turėtų būti suteikta sutartiems teiginiams įvertinti reikalinga prieiga, proporcinga vertinimo tikslui ir atitinkanti teisinius, saugumo bei intelektinės nuosavybės apsaugos apribojimus. Jei tiesioginė prieiga yra nepraktiška arba nėra įmanoma, vertintojai gali bendradarbiauti su bendrovės paskirtu atstovu arba ieškoti netiesioginės, privatumą užtikrinančios prieigos būdų, kad būtų apsaugota pirminė informacija.

• Skaidri metodika ir standartai: vertintojai turėtų paaiškinti savo metodus, vertinimo kriterijus ir neapibrėžtumus, o kai įmanoma – remtis pripažintais standartais. Jei standartų dar nėra, vertintojai turėtų aiškiai pagrįsti taikomus kriterijus. Ataskaitose tiesioginės išvados turėtų būti atskirtos nuo interpretacijų, paaiškintas neapibrėžtumas ir aiškiai nurodyta, kurias išvadas patvirtina įrodymai.

• Kompetencija ir nepriklausomumas: vertintojai turėtų įrodyti turintys reikiamą techninę kompetenciją, nustatyti ir atskleisti organizacinius bei asmeninius interesų konfliktus ir juos spręsti, įskaitant finansines paskatas, ryšius su kūrėjais ir ankstesnį dalyvavimą vertinamame darbe. Apsaugos priemonės turėtų užtikrinti, kad komercinis spaudimas ir atlygio susitarimai nedarytų įtakos išvadoms; jos gali apimti nusišalinimą arba tinkamus nedalyvavimo laikotarpius.

• Saugumas ir konfidencialumas: vertintojai turėtų įrodyti, kad taiko informacijos saugumo praktiką ir savo darbuotojams privalomas konfidencialumo apsaugos priemones, proporcingas sistemų ir informacijos, prie kurių suteikiama prieiga, jautrumui. Šios priemonės turėtų apimti intelektinę nuosavybę, neskelbtiną informaciją ir vertinimo dokumentus. Kai vertintojai savo aplinkoje negali įvykdyti saugumo reikalavimų arba duomenys, prie kurių suteikiama prieiga, yra ypač jautrūs, gali būti tikslinga leisti prieigą įmonės valdomuose įrenginiuose ar patalpose.

• Praktiškai pritaikomos išvados ir laikas trūkumams pašalinti: vertinimuose turėtų būti nurodytos konkrečios spragos ir pateikta pakankamai informacijos, kad laboratorijos galėtų jas pašalinti. Kai tinkama, prieš paskelbiant rezultatus laboratorijoms turėtų būti suteiktas pagrįstas laikotarpis problemoms pašalinti. Kai aktualu, ataskaitose taip pat turėtų būti paaiškintos agentų kūrėjams, diegėjams ir gynėjams svarbios pamokos bei pateiktos praktinės įgyvendinimo rekomendacijos.

• Atsakingo skelbimo praktika: vertinimo ataskaitos turėtų būti grindžiamos įrodymais ir platinamos kuo atviriau, kartu apsaugant jautrią ir konfidencialią informaciją. Kai visko atskleisti viešai neįmanoma, atskaitomybę gali sustiprinti konfidencialios ataskaitos, teikiamos atitinkamoms priežiūros institucijoms, pavyzdžiui, valdymo organams ar įmonių valdyboms. Siekiant išlaikyti nepriklausomumo ir konfidencialumo pusiausvyrą, turėtų būti nustatytos principingos informacijos pašalinimo apsaugos priemonės bei taisyklės ir aiškūs lūkesčiai dėl grįžtamojo ryšio bei netikslumų taisymo. Vertintojai turėtų išsaugoti redakcinį nepriklausomumą ir kartu užtikrinti konfidencialumo bei intelektinės nuosavybės apsaugą. Vertintojai turėtų nustatyti aiškias informacijos pašalinimo taisykles, pagal kurias laboratorijos galėtų prašyti pašalinti jautrią informaciją, o vertintojai galėtų nurodyti, kur atlikti esminiai pašalinimai ir kokią įtaką jie turėjo vertinimo ataskaitai.

Esame įsipareigoję remti nepriklausomus vertintojus ir nustatyti aiškesnius bendrus tarptautinius veiksmingų trečiųjų šalių vertinimų standartus – tiek būsimais teisės aktais, tiek per privačias valdymo institucijas. Nors nepriklausomo vertinimo ekosistema dar tik auga, padėsime jai plėstis remdami įvairialypę nepriklausomų vertintojų bendruomenę, turinčią išsamių žinių įvairiais priešakinio DI saugos klausimais, ir su ja bendradarbiaudami. Nė viena trečioji šalis negali ir neturėtų visapusiškai aprėpti neatidėliotinų priešakinio DI saugos klausimų. Veiksime apgalvotai ir kryptingai, kad stiprintume savo pajėgumus ir padėtume augančiai trečiųjų šalių ekosistemai susitarti dėl geriausios praktikos ir principų. Su keliomis trečiosiomis šalimis aptariame pasiūlymus, atitinkančius pirmiau nurodytas prioritetines sritis.