It-tieqa għall-politika tal-IA hija miftuħa. Jeħtieġ naġixxu.

Wasalna għal kapitlu ġdid fil-kapaċitajiet tal-IA, u dan jitlob kapitlu ġdid fil-politika dwar l-IA. L-ebda kumpanija, industrija jew gvern ma jista’ jiffaċċja din l-isfida waħdu. F’dan il-mument irridu nagħtu prijorità lil azzjoni sinifikanti aktar milli lill-perfezzjoni tal-politika.

Dan hu li qed nagħmlu:

1. Ninsistu għal rekwiżiti nazzjonali obbligatorji għas-sikurezza tal-IA. Irridu naħdmu mal-Kungress fuq regolamentazzjoni nazzjonali obbligatorja tas-sikurezza tal-IA bbażata fuq il-kapaċitajiet.

2. Inżommu r-ritmu fl-istati. Sakemm jaġixxi l-Kungress, se nkomplu nappoġġaw leġiżlazzjoni statali li ssaħħaħ l-ekosistema usa’ tas-sikurezza tal-IA. Illum qed inħabbru l-appoġġ tagħna għal erba’ abbozzi ta’ liġi ta’ California: SB 813 dwar l-infrastruttura ġenerali għal valutazzjonijiet indipendenti tas-sikurezza, AB 1405 dwar standards għall-awdituri tal-IA, SB 1119 dwar protezzjonijiet għaż-żgħażagħ, u AB 1864 dwar salvagwardji kontra theddid bijoloġiku li jingħata s-setgħa mill-IA.

3. Immexxu ’l quddiem standards imfassla mill-industrija. Se naħdmu ma’ laboratorji avvanzati oħra biex immexxu ’l quddiem standards għall-IA avvanzata, billi minn issa nibnu sforz volontarju, bl-appoġġ tal-gvern jew mingħajru.

4. Nibnu standards globali. Se nippromwovu approċċi internazzjonali kompatibbli għall-kejl tal-kapaċitajiet, il-ġestjoni tar-riskju, il-ħarsien tal-kontroll mill-bniedem, u d-determinazzjoni ta’ meta u kif l-iżvilupp għandu jonqos jew jieqaf, anki jekk dan ifisser li jitnaqqas l-avvanz tal-kapaċitajiet tal-mudelli.

Ix-Xjenzat Ewlieni tagħna Jakub Pachocki dan l-aħħar kiteb⁠ li ż-żieda rapida fl-intelliġenza tal-magni, inkluż il-potenzjal ta’ awtotitjib rikursiv, titlob “kawtela estrema”. OpenAI se tkompli tfittex soluzzjonijiet tekniċi għall-allinjament u l-monitoraġġ, tibni sistemi difensivi, u tnaqqas ir-ritmu tal-iżvilupp meta jkun meħtieġ. Iżda l-ħidma teknika f’laboratorji individwali mhix se tkun biżżejjed. Neħtieġu wkoll standards komuni, inkluż dwar meta l-iżvilupp għandu jonqos jew jieqaf.

Hemm ħafna f’riskju. L-IA avvanzata tista’ tħaffef l-iżvilupp ta’ mediċini ġodda⁠, issaħħaħ l-infrastruttura kritika⁠, twessa’ l-opportunitajiet ekonomiċi⁠, u tgħin issolvi problemi xjentifiċi⁠ li baqgħu ma ssolvewx minkejja l-isforzi ta’ ġenerazzjonijiet sħaħ. Iżda l-kapaċitajiet li jagħmlu l-mudelli aktar utli jġibu magħhom ukoll riskji, u mhux se jibqgħu limitati għal ftit laboratorji avvanzati. Il-mudelli żviluppati madwar id-dinja, inklużi mudelli miftuħa, se joqorbu dejjem aktar lejn il-livell avvanzat tal-lum u jsiru disponibbli b’mod wiesa’.

Il-kapaċitajiet ta’ Astra, l-evidenza bikrija li l-IA qed tħaffef ir-riċerka, u l-esej ta’ Jakub kollha jindikaw l-istess direzzjoni: l-IA qed tavvanza malajr, u l-politika trid timxi magħha.

Greg Brockman iddeskriva “tieqa għad-difensuri”⁠(jinfetaħ f’tieqa ġdida): perjodu limitat li fih l-IA avvanzata tista’ tgħin lid-difensuri jsaħħu sistemi kritiċi qabel ma jinfirxu kapaċitajiet offensivi b’saħħithom. Dawk li jfasslu l-politika qed jiffaċċjaw mument simili: tieqa li qed tingħalaq biex jistabbilixxu salvagwardji dejjiema qabel ma l-kapaċitajiet tal-IA jaqbżu lill-istituzzjonijiet responsabbli biex jirregolawhom.

Hekk kif jikbru l-kapaċitajiet, il-fiduċja fis-sikurezza trid dejjem aktar tiddetermina r-ritmu tal-progress tal-IA. Is-sikurezza ma tfixkilx il-progress; hija dik li tippermettilu javvanza aktar u jkun ta’ benefiċċju għal aktar nies.

Saħħaħna s-salvagwardji ta’ monitoraġġ, allinjament u sigurtà tul iċ-ċiklu kollu tal-iżvilupp tal-mudell, inkluż iżolament aktar b’saħħtu għall-piżijiet tax-xogħol tar-riċerka avvanzata, monitoraġġ usa’ tal-imġiba tal-mudell waqt taħriġ u evalwazzjonijiet bl-użu tal-għodod, u regoli aktar ċari dwar meta t-tħassib għandu jiġi eskalat. Għal Astra introduċejna wkoll monitoraġġ universali tat-trajettorji sħaħ, inklużi l-ktajjen tal-ħsieb, u stadju obbligatorju ta’ evalwazzjoni tal-allinjament qabel skjerament intern usa’.

Dawk is-salvagwardji jridu jkomplu jibqgħu pass ’il quddiem mill-kapaċitajiet. Meta t-tkomplija tkun toħloq riskju inaċċettabbli għas-sikurezza, se nnaqqsu jew inwaqqfu l-iżvilupp jew l-iskjerament ta’ sistemi li ma nistgħux nipproteġu biżżejjed, kif għamilna qabel u kif jitlob il-qafas ta’ tħejjija⁠(jinfetaħ f’tieqa ġdida) tagħna.

L-awtotitjib rikursiv kompletament awtonomu—fejn is-sistemi tal-IA jmexxu waħedhom ġenerazzjonijiet suċċessivi ta’ IA dejjem aktar kapaċi—mhux qed iseħħ illum. M’għandniex infittxuh sakemm ma jkunx jista’ jsir b’mod sikur.

Madankollu, l-IA diġà qed tħaffef partijiet mir-riċerka użata biex tiġi żviluppata u allinjata l-ġenerazzjoni li jmiss ta’ mudelli. L-aktar riċerka⁠ reċenti tagħna turi li l-aġenti tal-IA jistgħu jwettqu ċerti kompiti li riċerkaturi tas-sengħa jieħdu diversi jiem biex jagħmluhom. Dan mhuwiex awtotitjib rikursiv, iżda huwa evidenza tad-direzzjoni li mexjin fiha.

Dan it-tħaffif jista’ u għandu jkun indirizzat ukoll lejn is-sikurezza. L-għan tagħna huwa li nibnu b’mod sikur riċerkaturi awtomatizzati tal-IA li jaħdmu taħt superviżjoni umana biex imexxu ’l quddiem kemm l-apprendiment profond kif ukoll l-allinjament—billi nużaw kull ġenerazzjoni tal-IA biex ngħinu nagħmlu lil dik ta’ warajha aktar sikura, aktar allinjata u aktar faċli biex tiġi kkontrollata, mhux sempliċiment aktar kapaċi.

Il-gvernijiet għandhom jiżviluppaw modi komuni kif ikejlu dan il-progress, iżommu kontroll sinifikanti mill-bniedem, u jistabbilixxu livelli komuni ta’ sikurezza għal meta u kif l-iżvilupp għandu jonqos jew jieqaf. Jekk ma nistgħux nilħqu ċerti livelli ta’ sikurezza mingħajr ma nnaqqsu t-tkabbir tal-kapaċitajiet, għandna nagħtu prijorità lis-sikurezza. Aktar ma t-teknoloġija ssir b’saħħitha, aktar iridu jissaħħu s-salvagwardji ta’ madwarha.

Il-prospett li l-IA tħaffef l-iżvilupp tal-IA jitlob aktar minn impenji volontarji. L-Istati Uniti jeħtieġu regolamentazzjoni nazzjonali obbligatorja bbażata fuq il-kapaċitajiet, li tkun tista’ tevolvi mat-teknoloġija.

Il-Pjan għall-Governanza Demokratika tal-IA Avvanzata⁠ tagħna jistabbilixxi triq lejn qafas federali dejjiemi: rekwiżiti komuni għall-ittestjar u għall-valutazzjoni indipendenti, protezzjonijiet aktar b’saħħithom taċ-ċibersigurtà, regoli ċari għar-rappurtar tal-inċidenti, tħejjija nazzjonali akbar, u miżuri komuni biex jiġi segwit il-progress lejn l-awtotitjib rikursiv.

Fil-Kungress issa qed jieħdu forma diversi proposti serji għas-sikurezza tal-IA avvanzata. Se nkomplu ninvolvu ruħna b’mod kostruttiv u nistennew li nappoġġaw leġiżlazzjoni li tgħolli b’mod sostanzjali l-livell tas-sikurezza. Meta hemm daqstant f’riskju, ma nistgħux inħallu l-perfett isir l-għadu tat-tajjeb. Il-Kungress għandu jaġixxi qabel ma jaġġorna.

Qafas nazzjonali għandu jkun b’saħħtu iżda mmirat bir-reqqa. Ir-rekwiżiti tas-sikurezza tal-IA avvanzata għandhom japplikaw għall-ftit laboratorji b’riżorsi sostanzjali li qed jiżviluppaw l-aktar sistemi kapaċi—mhux għal negozji ġodda, żviluppaturi żgħar jew riċerkaturi li ma jaħdmux qrib il-livell avvanzat. L-obbligi għandhom ikunu proporzjonati mal-kapaċitajiet u r-riskji.

Lanqas m’għandha l-politika tas-sikurezza tal-IA avvanzata ssir politika dwar il-piżijiet miftuħa taħt isem ieħor. Il-mudelli miftuħa jistgħu jkunu parti mis-soluzzjoni, partikolarment fiċ-ċibersigurtà u fejn il-ħtiġijiet ta’ sovranità, sigurtà jew residenza tad-data jiffavorixxu skjerament lokali. Ħafna minnhom ma jikkompetux fil-livell avvanzat, iżda fuq il-prezz, il-kontroll u l-latenza. Kif affermajna meta ffirmajna l-ittra dwar il-Piżijiet Miftuħa u t-Tmexxija Amerikana fl-IA⁠(jinfetaħ f’tieqa ġdida), l-Amerka teħtieġ kemm mudelli miftuħa kif ukoll magħluqa. Qafas federali għandu jindirizza l-kapaċitajiet u r-riskji tal-IA avvanzata mingħajr ma jdgħajjef il-kompetizzjoni, jikkonsolida lill-operaturi stabbiliti jew imexxi l-innovazzjoni barra mill-pajjiż.

Qafas pubbliku serju għandu jnaqqas, mhux iżid, il-konċentrazzjoni tal-poter. Illum, il-laboratorji avvanzati fil-biċċa l-kbira jistabbilixxu r-regoli tagħhom stess għall-ġestjoni tar-riskji tal-IA avvanzata. Standards demokratikament responsabbli, verifika indipendenti u trasparenza sinifikanti jissostitwixxu dik is-sistema frammentata ta’ governanza privata.

Dan huwa essenzjali għat-tmexxija Amerikana. L-Istati Uniti ma jistgħux jirbħu l-era tal-IA bil-kapaċità biss. Li nkunu fuq quddiem teknikament ftit li xejn ikun jiswa jekk in-nies, l-istituzzjonijiet u l-gvernijiet ma jafdawx biżżejjed it-teknoloġija biex jadottawha. Salvagwardji b’saħħithom mhumiex konċessjoni kontra l-innovazzjoni. Huma parti mill-infrastruttura meħtieġa għal adozzjoni mifruxa—u għal tmexxija Amerikana dejjiema.

Għandna bżonn urġenti ta’ standards nazzjonali dwar l-IA, u kull min jaħdem fuq quddiem nett jista’ jara kemm dan huwa urġenti. Sakemm jaġixxi l-Kungress, l-istati għandhom ikomplu jaġixxu biex jimlew il-vojt u jgħollu l-livell.

OpenAI appoġġat l-SB 53 ta’ California, ir-RAISE Act ta’ New York, l-SB 315 ta’ Illinois, u awditi indipendenti fil-leġiżlazzjoni dwar is-sikurezza tal-IA avvanzata li qed tiġi kkunsidrata f’Massachusetts. Inħeġġu lill-istati jikkonverġu madwar dawn is-salvagwardji komuni. Hekk kif jagħmlu dan, jistgħu joħolqu bażi nazzjonali de facto li l-Kungress ikun jista’ eventwalment jikkodifika—approċċ li nsejħulu ⁠federaliżmu bil-maqlub⁠. Iżda l-armonizzazzjoni ma tfissirx li r-rekwiżiti għandhom jibqgħu ffriżati kif inhuma.

Illum qed napprovaw formalment erba’ abbozzi ta’ liġi addizzjonali ta’ California li għaddew mil-leġiżlatura u issa sejrin għand il-Gvernatur Newsom. Flimkien, dawn jindirizzaw partijiet komplementari tal-ekosistema tas-sikurezza tal-IA.

SB 813⁠(jinfetaħ f’tieqa ġdida) jistabbilixxi proċess biex jinħatru organizzazzjonijiet indipendenti u kkwalifikati li kapaċi jivvalutaw ir-riskji tal-IA. Kif stqarrejna fil- ⁠(jinfetaħ f’tieqa ġdida)pjan tagħna għas-sikurezza tal-IA avvanzata⁠(jinfetaħ f’tieqa ġdida), nippreferu li l-valutazzjonijiet tekniċi indipendenti jkunu meħtieġa fil-livell federali, fejn dawk li jfasslu l-politika jistgħu jistabbilixxu standards konsistenti għall-kwalifiki tal-assessuri, is-sigurtà u l-aċċess għal informazzjoni sensittiva ħafna. Madankollu, fin-nuqqas ta’ azzjoni federali, California tista’ tgħin biex tistabbilixxi r-regoli għal sistema nazzjonali ta’ valutazzjoni indipendenti li tkun sigura u kapaċi, u li twassal għal riżultati aħjar ta’ sikurezza.

AB 1405⁠(jinfetaħ f’tieqa ġdida) joħloq rekwiżiti ta’ reġistrazzjoni, indipendenza, trasparenza u responsabbiltà għall-awdituri tal-IA.

SB 1119⁠(jinfetaħ f’tieqa ġdida) jirrikjedi verifika tal-età, valutazzjonijiet tar-riskju, awditi indipendenti, kontrolli tal-ġenituri u salvagwardji kontra kontenut ta’ ħsara għat-tfal u l-adolexxenti li jużaw chatbots ta’ kumpanija. Dan l-aħħar urejna l-appoġġ tagħna⁠ għal dan l-abbozz ta’ liġi, li jibni fuq il-miżuri għas-sikurezza taż-żgħażagħ li OpenAI mexxiet ’il quddiem permezz tal-prodotti tagħna, tal- ⁠prinċipji ta’ politika globali⁠ tagħna, u tal-appoġġ għall- ⁠(jinfetaħ f’tieqa ġdida)Att dwar IA Sikura għall-Ġenituri u t-Tfal⁠(jinfetaħ f’tieqa ġdida), kif ukoll fuq il-protezzjonijiet inkorporati f’ChatGPT għaż-Żgħażagħ—fosthom impostazzjonijiet awtomatiċi aktar b’saħħithom f’oqsma sensittivi, Sigħat ta’ Kwiet, Sigħat ta’ Studju u tfakkiriet biex jieħdu pawża.

AB 1864⁠(jinfetaħ f’tieqa ġdida) jirrikjedi li l-fornituri tas-sinteżi tal-ġeni u l-manifatturi ta’ tagħmir kompatt tas-sinteżi jsegwu l-istandards federali tal-iskrinjar, u b’hekk isaħħaħ salvagwardja fiżika importanti kontra theddid bijoloġiku li jingħata s-setgħa mill-IA.

Fil-passat ma konniex approvajna xi wħud minn dawn l-abbozzi, iżda issa qed nappoġġawhom wara li kkunsidrajniehom mill-ġdid fid-dawl taż-żieda reċenti fil-kapaċitajiet li rajna.

Dawn l-abbozzi ta’ liġi mhumiex sostitut għar-regolamentazzjoni federali. Huma sforzi serji li jistgħu jipproteġu lin-nies issa, juru kif jidhru salvagwardji prattiċi, u jgħinu biex jinbena l-momentum għal azzjoni federali.

Il-liġijiet waħedhom mhux se jagħmlu l-IA avvanzata sikura. Neħtieġu wkoll prattiki konkreti fil-laboratorji li qed jiżviluppaw l-aktar sistemi kapaċi. L-aktar punt urġenti minn fejn nibdew huwa l-monitoraġġ.

Dan huwa partikolarment importanti għan-nuqqas ta’ allinjament—meta mudell isegwi għan b’modi li jiksru l-intenzjoni tal-bniedem jew il-limiti stabbiliti, mingħajr ma jkun meħtieġ li jkollu kuxjenza jew intenzjoni malizzjuża. Hekk kif il-mudelli jiksbu aktar awtonomija, jużaw għodod aktar b’saħħithom u joperaw għal perjodi itwal, l-iżviluppaturi għandhom ikunu obbligati jimmonitorjaw dawn l-imġibiet mhux allinjati u juru li hemm salvagwardji effettivi fis-seħħ.

Il-monitoraġġ irid ikun marbut ma’ rekwiżiti ċari ta’ divulgazzjoni. Kif argumentajna f’California, il-kumpaniji għandhom ikunu obbligati jagħtu avviż bil-miktub fil-pront lill-partijiet affettwati meta, waqt l-iżvilupp jew l-evalwazzjoni, il-mudelli tagħhom jevitaw mingħajr awtorizzazzjoni l-kontrolli tas-sigurtà ta’ organizzazzjoni oħra u jaċċessaw, ibiddlu jew jeqirdu b’mod sostanzjali s-sistemi protetti jew l-informazzjoni kunfidenzjali tagħha. Nappoġġaw ukoll rekwiżiti federali ta’ rappurtar għal inċidenti serji oħra tal-IA u qed naħdmu biex niddefinixxu liema inċidenti għandhom ikunu koperti u x’għandhom jinkludu dawk ir-rekwiżiti.

Kif qsamna l-ġimgħa li għaddiet, OpenAI qed tiżviluppa qafas għar-rappurtar ta’ inċidenti ta’ nuqqas ta’ allinjament b’konsegwenzi serji u għall-monitoraġġ sistematiku tal-attività tal-mudelli avvanzati, inkluż l-użu intern. Dan qed jibda bħala sforz immexxi mill-kumpanija, iżda nittamaw li jgħin biex jorjenta politika federali u rekwiżiti ta’ rappurtar usa’.

Irridu naħdmu ma’ laboratorji oħra fuq standards immexxija mill-industrija. Kwalunkwe standards immexxija mill-industrija jikkomplementaw—mhux jissostitwixxu—is-salvagwardji federali obbligatorji u s-sorveljanza demokratika. Iżda dħalna f’fażi differenti tal-kapaċitajiet tal-IA, u għandna nikkunsidraw kull possibbiltà—inkluż dak li jista’ jinbena volontarjament barra mill-gvern bħala pass immedjat.

Fl-aħħar mill-aħħar, kwalunkwe standards bħal dawn iridu jestendu wkoll lil hinn mill-fruntieri nazzjonali. Il-mudelli, ir-riċerka u l-għarfien espert tekniku jiċċaqilqu madwar id-dinja, u fallimenti li jinvolvu l-aktar sistemi kapaċi jista’ jkollhom konsegwenzi ferm lil hinn mill-pajjiż fejn jiġu żviluppati. L-Istati Uniti jeħtieġ li jistabbilixxu standards kredibbli f’pajjiżhom biex ikunu jistgħu jmexxu internazzjonalment—u qed insiru dejjem aktar konvinti li se jkunu meħtieġa standards internazzjonali kompatibbli.

It-tieqa għall-politika tal-IA hija miftuħa, għalissa. Biħsiebna naħtfuha.

Dan ifisser li naġixxu b’urġenza, b’umiltà u bir-rieda li nadattaw. Ifisser li nappoġġaw proposti serji li jgħollu b’mod sostanzjali l-livell tas-sikurezza, anki meta ma jkunux eżattament kif konna nfassluhom aħna. U jfisser li nsaħħu l-qafas hekk kif tevolvi t-teknoloġija.

L-ebda pass inizjali mhu se jkun perfett. Iżda l-akbar riskju issa huwa li nistennew wisq biex nagħmluh.