Dritarja e politikave të IA-së është e hapur. Duhet të veprojmë.

Kemi hyrë në një kapitull të ri të aftësive të IA-së dhe kjo kërkon një kapitull të ri për politikën e IA-së. Asnjë kompani, industri apo qeveri nuk mund ta përballojë e vetme këtë sfidë. Duhet t'i përgjigjemi këtij momenti duke i dhënë përparësi veprimeve konkrete dhe kuptimplota, në vend që të synojmë përsosmërinë e politikave.

Ja çfarë po bëjmë:

1. Nxitja e vendosjes së kërkesave të detyrueshme kombëtare për sigurinë e IA-së. Ne duam të bashkëpunojmë me Kongresin për vendosjen e një kuadri rregullator kombëtar të detyrueshëm për sigurinë e IA-së, të bazuar në aftësitë e saj.

2. Ruajtja e ritmit të përparimit në nivel shtetëror. Derisa Kongresi të veprojë, ne do të vazhdojmë të mbështesim legjislacionin shtetëror që forcon ekosistemin më të gjerë të sigurisë së IA-së. Sot, po shpallim mbështetjen tonë për katër projektligje të Kalifornisë: SB 813 për infrastrukturën e përgjithshme të vlerësimeve të pavarura të sigurisë, AB 1405 për standardet e audituesve të IA-së, SB 1119 për mbrojtjen e të rinjve dhe AB 1864 për masat mbrojtëse kundër kërcënimeve biologjike të mundësuara nga IA-ja.

3. Nxitja e standardeve të udhëhequra nga industria. Ne do të bashkëpunojmë me laboratorë të tjerë të IA-së avangardë për të zhvilluar standarde për IA-në avangardë, duke nisur që tani një nismë vullnetare, me ose pa mbështetjen e qeverisë.

4. Zhvillimi i standardeve globale. Ne do të mbështesim qasje të përputhshme ndërkombëtare për matjen e aftësive, menaxhimin e rrezikut, ruajtjen e kontrollit njerëzor dhe përcaktimin se kur dhe si duhet të ngadalësohet ose të ndalet zhvillimi, edhe nëse kjo nënkupton ngadalësimin e përparimit të aftësive të modeleve.

Kryeshkencëtari ynë, Jakub Pachocki, shkroi⁠ së fundmi se rritja e shpejtë e inteligjencës së makinerive, përfshirë mundësinë e vetëpërmirësimit rekursiv, kërkon "kujdes të skajshëm". OpenAI do të vazhdojë të kërkojë zgjidhje teknike për përafrimin dhe monitorimin, të ndërtojë sisteme mbrojtëse dhe ta ngadalësojë zhvillimin kur është e nevojshme. Por puna teknike brenda laboratorëve të veçantë nuk do të mjaftojë. Na duhen edhe standarde të përbashkëta, përfshirë përcaktimin se kur zhvillimi duhet ngadalësuar ose ndalur.

Pasojat janë jashtëzakonisht të mëdha. IA-ja e përparuar mund të përshpejtojë zhvillimin e barnave të reja⁠, të forcojë infrastrukturën kritike⁠, të zgjerojë mundësitë ekonomike⁠ dhe të ndihmojë në zgjidhjen e problemeve shkencore⁠ që kanë mbetur të pazgjidhura pavarësisht përpjekjeve të brezave të tërë. Por aftësitë që i bëjnë modelet më të dobishme sjellin edhe rreziqe dhe nuk do të mbeten të kufizuara në pak laboratorë avangardë. Modelet e zhvilluara në mbarë botën, përfshirë modelet e hapura, do t’i afrohen gjithnjë e më shumë avangardës së sotme dhe do të bëhen gjerësisht të disponueshme.

Aftësitë e Astra, treguesit e parë të përshpejtimit të kërkimit shkencor falë IA-së dhe eseja e Jakub tregojnë të gjitha të njëjtin drejtim: IA-ja po përparon me shpejtësi dhe politikat duhet të ecin në të njëjtin ritëm me të.

Greg Brockman ka përshkruar një “dritare të mbrojtësve”⁠(hapet në një dritare të re): një periudhë e kufizuar kur IA-ja avangardë mund t’i ndihmojë mbrojtësit të forcojnë sistemet kritike përpara se aftësitë e fuqishme sulmuese të përhapen gjerësisht. Politikëbërësit përballen me një moment të ngjashëm: një afat gjithnjë e më të ngushtë për të vendosur masa mbrojtëse të qëndrueshme, përpara se aftësitë e IA-së të tejkalojnë kapacitetet e institucioneve përgjegjëse për qeverisjen e saj.

Ndërsa aftësitë e IA-së rriten, besimi në sigurinë e saj duhet të përcaktojë gjithnjë e më shumë ritmin e përparimit të IA-së. Siguria nuk e pengon përparimin; përkundrazi, ajo mundëson që përparimi të shkojë më tej dhe të sjellë përfitime për më shumë njerëz.

Ne kemi forcuar monitorimin, përputhjen me synimet njerëzore dhe masat mbrojtëse të sigurisë gjatë gjithë ciklit të zhvillimit të modeleve, duke përfshirë izolimin më të fortë të proceseve të kërkimit për modelet avangardë të IA-së, zgjerimin e monitorimit të sjelljes së modeleve gjatë trajnimit dhe vlerësimeve që përfshijnë përdorimin e mjeteve, si dhe rregulla më të qarta se kur duhet të raportohen shqetësimet në nivele më të larta. Për Astra, kemi prezantuar gjithashtu monitorimin e plotë të të gjitha rrjedhave të veprimeve, duke përfshirë zinxhirët e mendimit, si dhe një fazë të detyrueshme vlerësimi të përputhjes me synimet njerëzore përpara përdorimit më të gjerë të brendshëm.

Këto masa mbrojtëse duhet të vazhdojnë të jenë gjithmonë një hap përpara zhvillimit të aftësive të modeleve. Kur vazhdimi i zhvillimit ose përdorimit do të përbënte një rrezik të papranueshëm për sigurinë, ne do të ngadalësojmë ose ndalojmë zhvillimin ose vënien në përdorim të sistemeve për të cilat nuk mund të sigurojmë masa të mjaftueshme mbrojtëse, siç kemi bërë edhe më parë dhe siç kërkohet kuadrit tonë të gatishmërisë⁠(hapet në një dritare të re).

Vetëpërmirësimi rekurziv plotësisht autonom, në të cilin sistemet e IA-së zhvillojnë në mënyrë të pavarur breza të njëpasnjëshëm të IA-së me aftësi gjithnjë e më të avancuara, nuk po ndodh aktualisht. Ne nuk duhet ta ndjekim këtë rrugë derisa të mund të realizohet në mënyrë të sigurt.

Megjithatë, inteligjenca artificiale tashmë po përshpejton disa pjesë të kërkimit që përdoret për të zhvilluar brezin e ardhshëm të modeleve dhe për të siguruar përputhjen e tyre me synimet njerëzore. Kërkimi⁠ ynë më i fundit tregon se agjentët e IA-së mund të kryejnë disa detyra për të cilat studiuesve të kualifikuar do t'u duheshin disa ditë. Ky nuk është vetëpërmirësim rekurziv, por është një tregues i drejtimit në të cilin po ecën zhvillimi.

Ky përshpejtim mund dhe duhet të drejtohet edhe drejt sigurisë. Synimi ynë është të zhvillojmë në mënyrë të sigurt studiues të automatizuar të IA-së që punojnë nën mbikëqyrjen njerëzore për të çuar përpara si të mësuarit e thellë, ashtu edhe përputhjen me synimet njerëzore, duke përdorur çdo brez të IA-së për të ndihmuar që brezi pasardhës të jetë më i sigurt, më në përputhje me synimet njerëzore dhe më i lehtë për t'u kontrolluar, jo thjesht më i aftë.

Qeveritë duhet të zhvillojnë mënyra të përbashkëta për të matur këtë përparim, për të ruajtur kontrollin e mirëfilltë njerëzor dhe për të vendosur standarde të përbashkëta sigurie që përcaktojnë se kur dhe si duhet të ngadalësohet ose të ndalet zhvillimi. Nëse nuk mund t'i përmbushim disa standarde sigurie pa ngadalësuar rritjen e aftësive të IA-së, duhet t'i japim përparësi sigurisë. Sa më e fuqishme të bëhet teknologjia, aq më të forta duhet të bëhen masat mbrojtëse që e shoqërojnë atë.

Perspektiva e zhvillimit të IA-së të përshpejtuar nga vetë IA-ja kërkon më shumë sesa angazhime vullnetare. Shtetet e Bashkuara kanë nevojë për një kuadër rregullator kombëtar të detyrueshëm, të bazuar në aftësitë e IA-së, i cili mund të evoluojë paralelisht me zhvillimin e teknologjisë.

Plani ynë për qeverisjen demokratike të IA-së avangardë⁠ përcakton rrugën drejt një kuadri rregullator federal të qëndrueshëm: kërkesa të përbashkëta për testimin dhe vlerësimin e pavarur, masa më të forta mbrojtëse të sigurisë kibernetike, rregulla të qarta për raportimin e incidenteve, gatishmëri më të madhe në nivel kombëtar dhe masa të përbashkëta për monitorimin e përparimit drejt vetëpërmirësimit rekurziv.

Disa propozime serioze për sigurinë e IA-së avangardë po marrin formë në Kongres. Ne do të vazhdojmë të angazhohemi në mënyrë konstruktive dhe presim të mbështesim legjislacionin që rrit ndjeshëm standardet e sigurisë. Duke pasur parasysh rëndësinë e madhe të kësaj çështjeje, nuk mund të lejojmë që kërkimi i përsosmërisë të bëhet pengesë për arritjen e rezultateve të mira. Kongresi duhet të veprojë përpara përfundimit të sesionit të tij.

Një kuadër rregullator kombëtar duhet të jetë i fortë, por i përcaktuar me kujdes. Kërkesat për sigurinë e IA-së avangardë duhet të zbatohen për ata pak laboratorë me burime të bollshme që zhvillojnë sistemet më të afta—jo për bizneset e reja, zhvilluesit e vegjël ose studiuesit që veprojnë shumë larg avangardës. Detyrimet duhet të jenë në përpjesëtim me aftësitë dhe rreziqet.

As politika për sigurinë e IA-së së avancuar nuk duhet të kthehet në një politikë për modelet me pesha të hapura, thjesht me një emër tjetër. Modelet e hapura mund të jenë pjesë e zgjidhjes, veçanërisht në fushën e sigurisë kibernetike dhe në rastet kur nevojat për sovranitet, siguri ose ruajtjen e të dhënave në një vendndodhje të caktuar favorizojnë përdorimin lokal. Shumica e këtyre modeleve nuk konkurrojnë në kufijtë avangardë të teknologjisë, por për sa i përket kostos, kontrollit dhe kohës së përgjigjes. Siç pohuam kur nënshkruam për modelet me pesha të hapura dhe udhëheqjen amerikane në fushën e IA-së⁠(hapet në një dritare të re), Amerikës i duhen si modelet e hapura, ashtu edhe ato të mbyllura. Një kuadër federal duhet të trajtojë aftësitë dhe rreziqet e IA-së avangardë, pa dobësuar konkurrencën, pa përforcuar pozitat e kompanive tashmë të konsoliduara në treg dhe pa nxitur zhvendosjen e inovacionit jashtë vendit.

Një kuadër rregullator publik serioz duhet të ulë, jo të rrisë, përqendrimin e pushtetit. Aktualisht, laboratorët e IA-së avangardë i përcaktojnë kryesisht vetë rregullat për menaxhimin e rreziqeve të IA-së avangardë. Standardet që i nënshtrohen llogaridhënies demokratike, verifikimi i pavarur dhe transparenca e mirëfilltë do ta zëvendësonin këtë sistem të fragmentuar të qeverisjes private.

Kjo është thelbësore për udhëheqjen amerikane. Shtetet e Bashkuara nuk mund ta fitojnë epokën e IA-së vetëm falë aftësive. Epërsia teknike do të ketë pak vlerë nëse njerëzit, institucionet dhe qeveritë nuk i besojnë mjaftueshëm teknologjisë për ta përdorur atë. Masat e forta mbrojtëse nuk janë një lëshim në dëm të inovacionit. Ato janë pjesë e infrastrukturës së nevojshme për përdorim të gjerë—dhe për udhëheqje të qëndrueshme amerikane.

Kemi shumë nevojë për standarde kombëtare për inteligjencën artificiale dhe kushdo që punon në vijën e parë të zhvillimit të saj e kupton urgjencën. Derisa Kongresi të veprojë, shtetet duhet të vazhdojnë të ndërmarrin hapa për të mbushur boshllëkun dhe për të ngritur standardet.

OpenAI ka mbështetur SB 53 në Kaliforni, ligjin RAISE në Nju Jork, SB 315 në Ilinois dhe auditimet e pavarura të parashikuara në legjislacionin për sigurinë e modeleve më të avancuara të inteligjencës artificiale, që po shqyrtohet në Masaçusets. Ne i nxisim shtetet të përafrojnë qasjet e tyre rreth këtyre masave të përbashkëta mbrojtëse. Duke vepruar kështu, ato mund të krijojnë një bazë kombëtare de facto që kongresi mund ta kodifikojë përfundimisht—një qasje që e quajmë ⁠federalizëm i kundërt⁠. Por harmonizimi nuk do të thotë që kërkesat të mbeten të pandryshuara.

Sot, shprehim zyrtarisht mbështetjen tonë për katër projektligje të tjera të Kalifornisë, të cilat janë miratuar nga organi legjislativ dhe i janë dërguar guvernatorit Newsom. Së bashku, ato trajtojnë aspekte plotësuese të ekosistemit të sigurisë së IA-së.

SB 813⁠(hapet në një dritare të re) do të krijonte një proces për përcaktimin e organizatave të kualifikuara dhe të pavarura, të afta për të vlerësuar rreziqet e IA-së. Siç kemi deklaruar në ⁠(hapet në një dritare të re)planin tonë për sigurinë e IA-së avangardë⁠(hapet në një dritare të re), ne preferojmë që vlerësimet teknike të pavarura të jenë të detyrueshme në nivel federal, ku politikëbërësit mund të vendosin standarde të njëtrajtshme për kualifikimet e vlerësuesve, sigurinë dhe aksesin në informacione shumë delikate. Megjithatë, në mungesë të veprimeve në nivel federal, Kalifornia mund të ndihmojë në vendosjen e rregullave për një sistem kombëtar të sigurt dhe të aftë për vlerësime të pavarura, që sjell rezultate më të mira në fushën e sigurisë.

AB 1405⁠(hapet në një dritare të re) do të vendoste kërkesa për regjistrimin, pavarësinë, transparencën dhe llogaridhënien e audituesve të IA-së.

SB 1119⁠(hapet në një dritare të re) do të kërkonte verifikimin e moshës, vlerësime të rrezikut, auditime të pavarura, kontrolle prindërore dhe masa mbrojtëse kundër përmbajtjeve të dëmshme për fëmijët dhe adoleshentët që përdorin robotë bisedash shoqërues. Kohët e fundit kemi shprehur mbështetjen tonë⁠ për këtë projektligj, i cili mbështetet në masat për sigurinë e të rinjve që OpenAI ka promovuar përmes produkteve tona, ⁠parimeve globale të politikave⁠ dhe mbështetjes për ⁠(hapet në një dritare të re)ligjin për IA-në e sigurt për prindërit dhe fëmijët⁠(hapet në një dritare të re), si dhe në masat mbrojtëse të integruara në ChatGPT për adoleshentët, duke përfshirë cilësime të parazgjedhura më të forta në fusha të ndjeshme, orët e qetësisë, orët e studimit dhe rikujtesat për të bërë pushime.

AB 1864⁠(hapet në një dritare të re) do t'u kërkonte ofruesve të shërbimeve të sintezës së gjeneve dhe prodhuesve të pajisjeve laboratorike për sintezë të ndiqnin standardet federale të kontrollit, duke forcuar një masë të rëndësishme mbrojtëse fizike kundër kërcënimeve biologjike të mundësuara nga IA-ja.

Disa prej këtyre projektligjeve nuk i kemi mbështetur më parë, por tani po i mbështesim pasi kemi rishqyrtuar qëndrimin tonë në dritën e rritjes së ndjeshme të aftësive që kemi vërejtur së fundmi.

Këto projektligje nuk e zëvendësojnë rregullimin në nivel federal. Ato përbëjnë përpjekje serioze që mund t'i mbrojnë njerëzit që tani, të tregojnë se si mund të zbatohen masa mbrojtëse funksionale dhe të ndihmojnë në nxitjen e veprimeve në nivel federal.

Vetëm ligjet nuk do ta bëjnë të sigurt IA-në e avancuar. Na duhen gjithashtu praktika konkrete brenda laboratorëve që zhvillojnë sistemet më të afta. Fusha më urgjente ku duhet të fillojmë është monitorimi.

Kjo është veçanërisht e rëndësishme për mospërputhjen me synimet njerëzore, kur një model ndjek një objektiv në mënyra që bien ndesh me qëllimet e njerëzve ose kufijtë e përcaktuar, pa qenë e nevojshme që modeli të ketë vetëdije apo qëllime keqdashëse. Ndërsa modelet fitojnë më shumë autonomi, përdorin mjete më të fuqishme dhe funksionojnë për periudha më të gjata, zhvilluesve duhet t'u kërkohet të monitorojnë këto sjellje që nuk përputhen me synimet njerëzore dhe të demonstrojnë se janë vendosur masa mbrojtëse efektive.

Monitorimi duhet të lidhet me kërkesa të qarta për publikim. Siç kemi kërkuar në Kaliforni, kompanitë duhet të jenë të detyruara t'i njoftojnë menjëherë me shkrim palët e prekura kur, gjatë zhvillimit ose vlerësimit, modelet e tyre anashkalojnë pa autorizim kontrollet e sigurisë së një organizate tjetër dhe hyjnë në mënyrë të konsiderueshme në sistemet e mbrojtura ose informacionet konfidenciale të asaj organizate, i ndryshojnë apo i shkatërrojnë ato. Ne mbështesim gjithashtu kërkesat federale për raportimin e incidenteve të tjera serioze të IA-së dhe po punojmë për të përcaktuar se cilat incidente duhet të përfshihen dhe çfarë duhet të parashikojnë këto kërkesa.

Siç kemi bërë të ditur javën e kaluar, OpenAI po zhvillon një kuadër për raportimin e incidenteve të rëndësishme të mospërputhjes me synimet njerëzore dhe monitorimin sistematik të veprimtarisë së modeleve avangardë të IA-së, duke përfshirë edhe përdorimin e tyre të brendshëm. Kjo nismë po fillon si një përpjekje e udhëhequr nga kompania, por shpresojmë që të ndihmojë në hartimin e politikave më të gjera federale dhe kërkesave për raportim.

Ne duam të bashkëpunojmë me laboratorë të tjerë për hartimin e standardeve të udhëhequra nga industria. Çdo standard i tillë do të plotësonte, dhe jo të zëvendësonte, masat mbrojtëse të detyrueshme në nivel federal dhe mbikëqyrjen demokratike. Megjithatë, kemi hyrë në një fazë të re të zhvillimit të aftësive të IA-së dhe duhet të shqyrtohen të gjitha mundësitë, duke përfshirë edhe atë që mund të krijohet vullnetarisht jashtë strukturave qeveritare si një hap i menjëhershëm.

Çdo standard i tillë duhet të shtrihet përfundimisht edhe përtej kufijve kombëtarë. Modelet, kërkimi shkencor dhe ekspertiza teknike qarkullojnë në nivel global dhe dështimet që përfshijnë sistemet më të afta mund të kenë pasoja shumë përtej vendit ku ato zhvillohen. Shtetet e Bashkuara duhet të vendosin standarde të besueshme brenda vendit nëse synojnë të marrin një rol udhëheqës në nivel ndërkombëtar. Ne jemi gjithnjë e më të bindur se do të nevojiten edhe standarde ndërkombëtare të përputhshme.

Dritarja e IA-së është ende e hapur, të paktën për momentin. Ne synojmë ta shfrytëzojmë.

Kjo do të thotë të veprojmë me urgjencë, përulësi dhe gatishmëri për t'u përshtatur. Do të thotë të mbështesim propozime serioze që rrisin ndjeshëm standardet e sigurisë, edhe kur ato nuk përputhen plotësisht me mënyrën se si do t'i kishim hartuar ne. Gjithashtu, do të thotë të forcojmë kuadrin rregullator paralelisht me zhvillimin e teknologjisë.

Asnjë hap i parë nuk do të jetë i përsosur. Por rreziku më i madh tani është të presim tepër gjatë për ta hedhur atë.