MI politikā ir atvērts iespēju logs. Mums jārīkojas.
Autors: Kriss Leheins, OpenAI globālo jautājumu vadītājs
Esam sasnieguši jaunu posmu mākslīgā intelekta (MI) spēju attīstībā, un tas prasa jaunu posmu arī MI politikā. Neviens uzņēmums, nozare vai valdība nevar tikt galā ar šo izaicinājumu vienatnē. Mums ir jāizmanto šis brīdis, dodot priekšroku jēgpilnai rīcībai, nevis nevainojamai politikai.
Lūk, ko mēs darām:
Iestājamies par obligātām valsts mēroga MI drošības prasībām. Mēs vēlamies sadarboties ar Kongresu, lai izstrādātu obligātu, uz spējām balstītu valsts mēroga MI drošības regulējumu.
Uzturam tempu štatos. Kamēr Kongress nav rīkojies, mēs turpināsim atbalstīt štatu tiesību aktus, kas stiprina plašāku MI drošības ekosistēmu. Šodien paziņojam par atbalstu četriem Kalifornijas likumprojektiem: SB 813 par vispārējo infrastruktūru neatkarīgiem drošības novērtējumiem, AB 1405 par standartiem MI revidentiem, SB 1119 par jauniešu aizsardzību un AB 1864 par aizsardzības pasākumiem pret bioloģiskiem draudiem, ko var radīt ar MI palīdzību.
Veicinām standartu izstrādi nozares vadībā. Mēs sadarbosimies ar citām robežšķirtnes laboratorijām, lai veicinātu robežšķirtnes MI standartu izstrādi, jau tagad veidojot brīvprātīgu iniciatīvu ar valdības atbalstu vai bez tā.
Veidojam globālus standartus. Mēs iestāsimies par savstarpēji saderīgām starptautiskām pieejām spēju mērīšanai, risku pārvaldībai, cilvēku kontroles saglabāšanai un noteikšanai, kad un kā izstrāde būtu jāpalēnina vai jāpārtrauc, pat ja tas nozīmē palēnināt modeļu spēju attīstību.
Mūsu galvenais zinātnieks Jakubs Pahockis nesen rakstīja, ka straujais mašīnintelekta pieaugums, tostarp rekursīvas pašpilnveides iespēja, prasa “ārkārtīgu piesardzību”. OpenAI turpinās izstrādāt tehniskus salāgošanas un uzraudzības risinājumus, veidot aizsardzības sistēmas un vajadzības gadījumā palēnināt izstrādi. Taču ar tehnisko darbu atsevišķās laboratorijās nepietiks. Mums vajadzīgi arī kopīgi standarti, tostarp par to, kad izstrāde būtu jāpalēnina vai jāpārtrauc.
Likmes ir ārkārtīgi augstas. Progresīvs MI varētu paātrināt jaunu zāļu izstrādi, stiprināt kritisko infrastruktūru, paplašināt ekonomiskās iespējas un palīdzēt atrisināt zinātniskas problēmas, kas nav padevušās cilvēku paaudžu centieniem. Taču spējas, kas modeļus padara noderīgākus, rada arī riskus, un tās nepaliks tikai dažu robežšķirtnes laboratoriju rīcībā. Visā pasaulē izstrādātie modeļi, tostarp atvērtie modeļi, arvien vairāk tuvosies pašreizējai robežšķirtnei un kļūs plaši pieejami.
Astra spējas, agrīnie pierādījumi par MI veicinātu pētniecības paātrināšanos un Jakuba eseja norāda vienā virzienā: MI strauji attīstās, un politikai jāvirzās tam līdzi.
Gregs Brokmans ir aprakstījis “aizstāvju iespēju logu”(atveras jaunā logā): ierobežotu laiku, kurā robežšķirtnes MI var palīdzēt aizstāvjiem stiprināt kritiskās sistēmas, pirms plaši izplatās jaudīgas uzbrukuma spējas. Politikas veidotāji ir līdzīgā situācijā: iespēju logs aizveras, tāpēc jāievieš noturīgi aizsardzības pasākumi, pirms MI spējas apsteidz par to pārvaldību atbildīgās iestādes.
Spējām pieaugot, pārliecībai par drošību arvien vairāk jānosaka MI progresa temps. Drošība nekavē progresu; tā ļauj progresam iet tālāk un sniegt labumu vairāk cilvēkiem.
Esam stiprinājuši uzraudzības, salāgošanas un drošības pasākumus visā modeļu izstrādes dzīves ciklā, tostarp pastiprinājuši robežšķirtnes pētniecības darba slodžu izolāciju, paplašinājuši modeļu uzvedības uzraudzību apmācības un izvērtēšanas laikā, kad tiek izmantoti rīki, un ieviesuši skaidrākus noteikumus par to, kad par bažām jāziņo augstākā līmenī. Astra vajadzībām ieviesām arī visaptverošu pilnu darbību secību, tostarp domu ķēžu, uzraudzību un obligātu salāgošanas izvērtēšanas posmu pirms plašākas iekšējās ieviešanas.
Šiem aizsardzības pasākumiem arī turpmāk jābūt soli priekšā spējām. Ja turpmāka rīcība radītu nepieņemamu drošības risku, mēs palēnināsim vai apturēsim tādu sistēmu izstrādi vai izvietošanu, kuru drošību nespējam pietiekami nodrošināt, kā esam darījuši iepriekš un kā to paredz mūsu Sagatavotības satvars(atveras jaunā logā).
Pilnīgi autonoma rekursīva pašpilnveide, kurā MI sistēmas patstāvīgi rada arvien spējīgākas MI paaudzes, pašlaik nenotiek. Mums pēc tās nevajadzētu tiekties, kamēr to nevarēs īstenot droši.
Taču MI jau paātrina daļu pētījumu, kas vajadzīgi nākamās modeļu paaudzes izstrādei un salāgošanai. Mūsu jaunākais pētījums liecina, ka MI aģenti spēj veikt dažus uzdevumus, kuru izpilde kvalificētiem pētniekiem prasītu vairākas dienas. Tā nav rekursīva pašpilnveide, taču tas liecina par attīstības virzienu.
Šo paātrinājumu var un vajag vērst arī uz drošības uzlabošanu. Mūsu mērķis ir droši izveidot automatizētus MI pētniekus, kas cilvēku uzraudzībā darbotos, lai pilnveidotu gan dziļo mācīšanos, gan salāgošanu, izmantojot katru MI paaudzi, lai nākamā būtu drošāka, labāk salāgota un vieglāk kontrolējama, nevis tikai spējīgāka.
Valdībām jāizstrādā kopīgi veidi, kā mērīt šo progresu, saglabāt jēgpilnu cilvēku kontroli un noteikt vienotus drošības sliekšņus, kas nosaka, kad un kā izstrāde būtu jāpalēnina vai jāpārtrauc. Ja noteiktus drošības sliekšņus nevaram sasniegt, nepalēninot spēju izaugsmi, priekšroka jādod drošības sliekšņiem. Jo jaudīgāka kļūst tehnoloģija, jo stingrākiem jābūt ar to saistītajiem aizsardzības pasākumiem.
MI paātrinātas MI izstrādes perspektīva prasa vairāk nekā brīvprātīgas saistības. Amerikas Savienotajām Valstīm ir nepieciešams obligāts, uz spējām balstīts valsts mēroga regulējums, kas var attīstīties līdz ar tehnoloģiju attīstību.
Mūsu plāns Blueprint for Democratic Governance of Frontier AI iezīmē ceļu uz noturīgu federālo regulējumu: kopīgas testēšanas un neatkarīgas izvērtēšanas prasības, stingrāki kiberdrošības pasākumi, skaidri noteikumi par ziņošanu par incidentiem, lielāka valsts gatavība un kopīgi rādītāji progresa uzraudzībai ceļā uz rekursīvu pašpilnveidi.
Kongresā tagad top vairāki nopietni priekšlikumi par robežšķirtnes MI drošību. Mēs turpināsim konstruktīvi iesaistīties un paredzam atbalstīt tiesību aktus, kas būtiski paaugstina drošības prasības. Kad likmes ir tik augstas, mēs nedrīkstam pieļaut, ka tiekšanās pēc ideālā kļūst par šķērsli labajam. Kongresam jārīkojas, pirms tas pārtrauc darbu.
Valsts mēroga regulējumam jābūt stingram, bet rūpīgi mērķētam. Robežšķirtnes sistēmu drošības prasībām jāattiecas uz nedaudzajām labi finansētajām laboratorijām, kas izstrādā visspējīgākās sistēmas, nevis uz jaunuzņēmumiem, mazajiem izstrādātājiem vai pētniekiem, kuru darbība ir tālu no tehnoloģiju robežšķirtnes. Pienākumiem jābūt samērīgiem ar spējām un riskiem.
Robežšķirtnes sistēmu drošības politika nedrīkst arī kļūt par atvērto svaru politiku ar citu nosaukumu. Atvērtie modeļi var būt daļa no risinājuma, jo īpaši kiberdrošībā un gadījumos, kad vietēja izvietošana ir piemērotāka suverenitātes, drošības vai datu rezidences vietas prasību dēļ. Vairums konkurē nevis robežšķirtnē, bet gan izmaksu, kontroles un latentuma ziņā. Kā apliecinājām, parakstot vēstuli “Open Weights and American AI Leadership”(atveras jaunā logā), Amerikai vajadzīgi gan atvērtie, gan slēgtie modeļi. Federālam regulējumam būtu jārisina robežšķirtnes spēju un risku jautājumi, nevājinot konkurenci, nenostiprinot esošo tirgus dalībnieku pozīcijas un neaizvirzot inovāciju uz ārvalstīm.
Nopietnam publiskajam regulējumam jāsamazina, nevis jāpalielina varas koncentrācija. Pašlaik robežšķirtnes laboratorijas lielākoties pašas nosaka, kā pārvaldīt robežšķirtnes sistēmu riskus. Demokrātiski pārraugāmi standarti, neatkarīga pārbaude un patiesa pārredzamība aizstātu šo sadrumstaloto privātās pārvaldības sistēmu.
Tas ir būtiski ASV līderībai. Amerikas Savienotās Valstis nevar uzvarēt MI laikmetā, paļaujoties tikai uz tehniskajām spējām. Tehnoloģiskajam pārākumam būs maza nozīme, ja cilvēki, iestādes un valdības tehnoloģijai neuzticēsies pietiekami, lai to ieviestu. Stingri aizsardzības pasākumi nav piekāpšanās uz inovācijas rēķina. Tie ir daļa no infrastruktūras, kas vajadzīga plašai ieviešanai un noturīgai ASV līderībai.
Mums steidzami vajadzīgi valsts mēroga standarti MI jomā, un ikviens, kas strādā ar robežšķirtnes MI, apzinās, cik tas ir steidzami. Kamēr Kongress nerīkojas, štatiem jāturpina rīkoties, lai aizpildītu vakuumu un paaugstinātu prasību līmeni.
OpenAI ir atbalstījis Kalifornijas SB 53, Ņujorkas RAISE likumu, Ilinoisas SB 315, kā arī neatkarīgas revīzijas Masačūsetsā izskatāmajos tiesību aktos par robežšķirtnes MI sistēmu drošību. Mēs mudinām štatus vienoties par šiem kopīgajiem aizsardzības pasākumiem. To darot, tie var izveidot faktisku valsts mēroga pamatstandartu, ko Kongress galu galā var nostiprināt likumā – pieeju, ko mēs saucam par reverso federālismu. Taču saskaņošana nenozīmē prasību iesaldēšanu.
Šodien mēs oficiāli atbalstām vēl četrus Kalifornijas likumprojektus, ko ir pieņēmis likumdevējs un kas tiek nosūtīti gubernatoram Ņūsomam. Kopā tie aptver savstarpēji papildinošas MI drošības ekosistēmas daļas.
SB 813(atveras jaunā logā) izveidotu procesu, kā izraudzīties kvalificētas, neatkarīgas organizācijas, kas spēj novērtēt MI riskus. Kā esam norādījuši savā (atveras jaunā logā)robežšķirtnes sistēmu drošības plānā(atveras jaunā logā), mēs vēlētos, lai neatkarīgi tehniskie novērtējumi būtu obligāti federālā līmenī, kur politikas veidotāji var noteikt vienotus standartus vērtētāju kvalifikācijai, drošībai un piekļuvei īpaši sensitīvai informācijai. Taču, ja federālā līmenī netiek veikta nekāda rīcība, Kalifornija var palīdzēt noteikt pamatnoteikumus drošai, kompetentai valsts mēroga neatkarīgas novērtēšanas sistēmai, kas nodrošina labākus drošības rezultātus.
AB 1405(atveras jaunā logā) noteiktu MI revidentiem reģistrācijas, neatkarības, pārredzamības un pārskatatbildības prasības.
SB 1119(atveras jaunā logā) paredzētu vecuma apliecināšanu, risku novērtēšanu, neatkarīgas revīzijas, vecāku kontroles funkcijas un aizsardzības pasākumus pret kaitīgu saturu bērniem un pusaudžiem, kuri izmanto tērzēšanas robotus pavadoņus. Nesen paudām atbalstu šim likumprojektam, kura pamatā ir jauniešu drošības pasākumi, kurus OpenAI ir veicinājis savos produktos, globālajos politikas principos un sniedzot atbalstu (atveras jaunā logā)Parents & Kids Safe AI Act(atveras jaunā logā), kā arī ChatGPT for Teens iestrādātā aizsardzība, tostarp stingrāki noklusējuma iestatījumi sensitīvās jomās, klusuma stundas, mācību stundas un atgādinājumi par pārtraukumiem.
AB 1864(atveras jaunā logā) paredzētu, ka gēnu sintēzes pakalpojumu sniedzējiem un galda sintēzes iekārtu ražotājiem jāievēro federālie pārbaudes standarti, tā stiprinot svarīgu fizisku aizsardzību pret bioloģiskiem draudiem, ko var radīt ar MI palīdzību.
Dažus no šiem likumprojektiem mēs iepriekš neatbalstījām, bet tagad tos atbalstām pēc tam, kad, ņemot vērā neseno mūsu novēroto spēju straujo pieaugumu, pārskatījām savu nostāju.
Šie likumprojekti neaizstāj federālo regulējumu. Tie ir nopietni centieni, kas jau tagad var aizsargāt cilvēkus, parādīt, kā izskatās īstenojami aizsardzības pasākumi, un palīdzēt radīt impulsu federālai rīcībai.
Ar likumiem vien nepietiks, lai padarītu progresīvu MI drošu. Mums ir vajadzīgas arī konkrētas prakses laboratorijās, kurās tiek izstrādātas visspējīgākās sistēmas. Steidzamākais sākumpunkts ir uzraudzība.
Tas ir īpaši svarīgi nesalāgotības gadījumā – kad modelis tiecas uz mērķi veidos, kas ir pretrunā cilvēku nodomiem vai noteiktajām robežām, un tam nav nepieciešama apziņa vai ļaunprātīgs nolūks. Modeļiem iegūstot lielāku autonomiju, izmantojot jaudīgākus rīkus un darbojoties ilgāku laiku, izstrādātājiem būtu jāuzliek par pienākumu uzraudzīt, vai modeļiem neparādās šāda nesalāgota uzvedība, un pierādīt, ka ir ieviesti efektīvi aizsardzības pasākumi.
Uzraudzībai jābūt saistītai ar skaidrām informācijas atklāšanas prasībām. Kā jau esam rosinājuši Kalifornijā, uzņēmumiem būtu jānosaka pienākums nekavējoties rakstiski informēt skartās puses, ja to modeļi izstrādes vai izvērtēšanas laikā bez atļaujas apiet citas organizācijas drošības kontroles un būtiskā mērā piekļūst šīs organizācijas aizsargātajām sistēmām vai konfidenciālajai informācijai, tās maina vai iznīcina. Mēs arī atbalstām federālas ziņošanas prasības attiecībā uz citiem nopietniem MI incidentiem un strādājam, lai noteiktu, uz kuriem incidentiem tām būtu jāattiecas un ko šīm prasībām būtu jāietver.
Kā informējām pagājušajā nedēļā, OpenAI izstrādā satvaru ziņošanai par būtiskiem nesalāgotības incidentiem un robežšķirtnes modeļu darbības sistemātiskai uzraudzībai arī tad, kad tie tiek izmantoti uzņēmuma iekšienē. Sākotnēji šo darbu vada uzņēmums, taču ceram, ka tas var palīdzēt veidot plašāku federālo politiku un ziņošanas prasības.
Mēs vēlamies sadarboties ar citām laboratorijām, lai izstrādātu nozares vadībā izstrādātus standartus. Jebkuri nozares vadībā izstrādāti standarti papildinātu, nevis aizstātu obligātos federālos aizsardzības pasākumus un demokrātisko uzraudzību. Taču mēs esam nonākuši citā MI spēju posmā, un jāapsver viss, tostarp tas, ko kā tūlītēju soli var brīvprātīgi izveidot ārpus valdības.
Visiem šādiem standartiem galu galā jāsniedzas arī pāri valstu robežām. Modeļi, pētījumi un tehniskā kompetence izplatās visā pasaulē, un visjaudīgāko sistēmu kļūmju sekas var sniegties tālu ārpus valsts, kurā tās izstrādātas. Amerikas Savienotajām Valstīm jāizveido uzticami standarti savā valstī, ja tās vēlas uzņemties vadošo lomu starptautiskā mērogā – un mēs arvien vairāk pārliecināmies, ka būs nepieciešami savietojami starptautiskie standarti.
MI politikā pagaidām vēl ir atvērts iespēju logs. Mēs plānojam to izmantot.
Tas nozīmē rīkoties steidzami, pazemīgi un ar gatavību pielāgoties. Tas nozīmē atbalstīt nopietnus priekšlikumus, kas būtiski paaugstina drošības latiņu, pat ja tie nav tieši tādi, kādus būtu izstrādājuši mēs. Un tas nozīmē stiprināt regulējumu līdz ar tehnoloģijas attīstību.
Neviens pirmais solis nebūs ideāls. Taču pašlaik lielāks risks ir pārāk ilgi vilcināties to spert.
