Ndërtimi i standardeve për fazën tjetër të IA-së

Misioni ynë është të sigurojmë që inteligjenca e përgjithshme artificiale t’i sjellë përfitime mbarë njerëzimit. Siç e përshkroi së fundmi Sam Altman dhe Jakub Pachocki, punën tonë drejt këtij misioni e përqendrojmë te tri synime kryesore:

1. Të përshkojmë periudhën e ardhshme të përparimit të IA-së duke ndërtuar një kërkues të automatizuar të IA-së, duke punuar me të në mënyrë përsëritëse për problemin e harmonizimit dhe duke gjetur mënyra që njerëzit të mbeten pjesë e ciklit të vetëpërmirësimit.

2. Të mundësojmë përfitimet e përparimit shkencor dhe të rritjes ekonomike që sjellin makineritë shumë inteligjente.

3. Të fuqizojmë çdo individ me një AGI personale.

IA-ja po përshpejton kërkimin dhe inxhinierinë tonë, ndërsa kërkimi i mundësuar nga IA-ja ka sjellë përparime në matematikë, përfshirë Problemin e Mijëvjeçarit Navier–Stokes. Ky përparim premton shumë për dy synimet tona të tjera dhe mund të sjellë zbulime të rëndësishme në mjekësi, kujdes shëndetësor gjerësisht të qasshëm dhe fuqizim ekonomik për bizneset e vogla dhe sipërmarrësit individualë kudo.

IA-ja po përparon në shumë kompani dhe vende, ndërsa zhvillimet në mbarë fushën ndryshojnë mundësitë dhe sfidat me të cilat përballen të gjithë. Krahas përfitimeve të tjera, një IA e aftë dhe e harmonizuar do të jetë pjesë e rëndësishme e mënyrës se si do ta përshkojmë këtë tranzicion—duke forcuar mbrojtjen, çuar përpara kërkimin për harmonizimin dhe ndihmuar njerëzit të kuptojnë e të drejtojnë fazat e ardhshme të zhvillimit të IA-së.

Për ta përshkuar këtë tranzicion në mënyrë të sigurt, kërkimi për harmonizimin duhet të ecë në të njëjtin ritëm me këto aftësi, në mënyrë që sistemet që ndërtojmë ne dhe të tjerët të mbeten në përputhje me vlerat njerëzore dhe nën kontrollin e njerëzve. Kjo bëhet gjithnjë e më e rëndësishme teksa sistemet e IA-së fitojnë më shumë aftësi dhe autonomi, përfshirë kur marrin përsipër një pjesë më të madhe të vetë kërkimit dhe zhvillimit të IA-së. Që përparimi i vazhdueshëm i IA-së të jetë i sigurt dhe i dobishëm, do të nevojiten si përparime në kërkimin për harmonizimin, ashtu edhe standarde të përbashkëta për të udhëhequr zhvillimin në laboratorë dhe vende të ndryshme.

Kërkimi i automatizuar i IA-së mund të përfshijë shkallë të ndryshme mbikëqyrjeje njerëzore. Teksa sistemet e IA-së marrin përsipër më shumë nga puna për zhvillimin e brezave pasues të IA-së, ato mund të nxitin gjithnjë e më shumë një proces vetëpërmirësimi rekursiv (RSI), edhe kur njerëzit vazhdojnë të jenë të përfshirë. Teksa ky proces automatizohet më tej, ritmi i përparimit të IA-së mund të përshpejtohet me shpejtësi.

Besojmë se kërkimi i automatizuar i IA-së do të prodhojë modele që përmirësojnë drejtpërdrejt jetën e njerëzve. Ai mund të ulë koston e inteligjencës së përparuar, që njerëzit në mbarë botën të mund të përfitojnë. Kërkimi i automatizuar mund të na ndihmojë gjithashtu ta përmirësojmë ndjeshëm harmonizimin dhe të ndërtojmë mbrojtje ndaj një IA-je gjithnjë e më të aftë—një kërkues i automatizuar i IA-së mund të jetë edhe kërkues i automatizuar i sigurisë së IA-së. Sistemet më të afta dhe të harmonizuara mund të ndihmojnë në sigurimin e infrastrukturës kritike, mbrojtjen ndaj agjentëve të rrezikshëm të IA-së dhe zhvillimin e masave të reja mbrojtëse.

RSI plotësisht autonome nuk po ndodh sot dhe nuk duhet ta ndjekim këtë rrugë, përveçse kur dhe nëse mund të realizohet në mënyrë të sigurt. Nëse dhe si duhet të vazhdojmë, kjo duhet të varet nga aftësia jonë për të ruajtur kontrollin njerëzor dhe nga zgjedhjet demokratike të mbështetura në informacion⁠(hapet në një dritare të re) rreth përfitimeve dhe rreziqeve. Nëse realizohet pa kujdesin dhe maturinë e duhur, RSI mund të bëjë që njerëzit të humbasin kontrollin praktik mbi zhvillimin e IA-së dhe të mos jenë në gjendje të mbikëqyrin procese kërkimore që nuk i kuptojnë më. Më tej, IA-ja mund të bëhet më e rrezikshme, më pak e harmonizuar dhe, në përgjithësi, një kërcënim për njerëzit. Incidenti i Hugging Face që bëmë publik, ndonëse nuk ishte rezultat i drejtpërdrejtë i RSI-së, tregon llojet e rreziqeve që mund të bëhen shumë më të rënda pa masa të fuqishme mbrojtëse dhe harmonizim.

Standardet ndërkombëtare për praktikat e sigurisë dhe mbrojtjes në zhvillimin e IA-së avangardë mund të jenë po aq të rëndësishme sa vetë kërkimi për harmonizimin në përcaktimin e ritmit të avangardës. Standardet mund të krijojnë përkufizime të përbashkëta për provat cilësore dhe nivele bazë të dakordësuara për rreptësinë e masave teknike mbrojtëse. Shkurt, ato na ndihmojnë t’i përgjigjemi pyetjes: “Si duket një zbutje e mirë e rrezikut katastrofik nga IA-ja?”

Institucionet ekzistuese demokratike, si Qendra për Standardet dhe Inovacionin e IA-së (CAISI), ligjet shtetërore dhe një kuadër federal për IA-në, mund të ndihmojnë të gjitha në këtë drejtim, po ashtu edhe format e reja të partneritetit publik-privat⁠(hapet në një dritare të re). Por zhvillimi dhe zbatimi i IA-së po ndodh në shumë vende, përvetësimi po zhvillohet globalisht dhe ndikimet e saj ka të ngjarë të përjetohen në njëfarë mënyre nga të gjithë dhe në periudha të ndryshme.

Prandaj, për zgjidhjen e disa sfidave kyçe nevojiten përpjekje ndërkombëtare për zhvillimin e standardeve:

• Fragmentimi—Vlerësimet, kërkesat e raportimit dhe përkufizimet e incidenteve nga vende të ndryshme mund të bien ndesh me njëra-tjetrën, duke e bërë më të vështirë krahasimin e provave, kuptimin e aftësive të reja dhe reagimin ndaj rreziqeve ndërkufitare.

• Veprimi kolektiv—Veprimi i pavarur i secilit vend mund të sjellë rezultate që nuk i dëshiron asnjë vend. RSI ka aftësinë ta përshpejtojë vetë kërkimin e IA-së, ndoshta përtej aftësisë sonë kolektive për të kuptuar përparimin, vlerësuar rreziqet dhe ruajtur një mbikëqyrje njerëzore domethënëse.

• Kapaciteti i pabarabartë—Veprimtaria e zhvillimit avangardë dhe ekspertiza përkatëse nuk janë të shpërndara në mënyrë të barabartë në botë. Kjo i thekson të dyja problemet e mësipërme.

Këto sfida vlejnë si për modelet e hapura, ashtu edhe për ato të mbyllura.

Për të qenë të qartë, çdo laborator i IA-së që zhvillon kërkim të automatizuar të IA-së ose aftësi të tjera të përparuara duhet të mbajë përgjegjësi për realizimin e tyre në mënyrë të sigurt, në përputhje me parimet bazë të vetëpërgjegjësisë dhe ligjet ekzistuese. Arsyetimi ynë për standardet buron nga synimi për të shmangur përqendrimin e pushtetit dhe për të arritur rezultate praktike më të mira. Standardet u japin më shumë palëve të interesuara jashtë laboratorëve mundësinë të ndikojnë në mënyrën se si duhet të zhvillohet kjo teknologji dhe ofrojnë një grup të dukshëm parimesh ku mund të mbështetemi, pavarësisht praktikave specifike të një laboratori të caktuar. Dhe ka të ngjarë të arrijmë rezultate më të mira nëse palët bashkëpunojnë për të trajtuar sfidat e mësipërme.

Prandaj besojmë se Shtetet e Bashkuara duhet të udhëheqin një përpjekje për të bashkëpunuar me vende nga e gjithë bota në zhvillimin e standardeve teknike globale për IA-në avangardë, përfshirë RSI-në.

Ndonëse presim që ky koncept të evoluojë ndjeshëm me kalimin e kohës, dy aspekte do të jenë thelbësore.

Një mënyrë për ta arritur këtë do të ishte shfrytëzimi i rrjetit në zhvillim të instituteve të sigurisë së IA-së—si ato të krijuara tashmë në Australi, Kanada, Gjermani, Francë, Kenia, Japoni, Kore, Singapor, Indi dhe Mbretërinë e Bashkuar—për të mundësuar hartimin e standardeve përmes CAISI-t dhe organeve kombëtare të industrisë, me fokus të posaçëm te: (1) modelet dhe zhvilluesit e IA-së avangardë, të matur sipas standardeve krahasuese të aftësive; dhe (2) menaxhimi i përfitimeve dhe rreziqeve të kërkimit të automatizuar të IA-së, përfshirë RSI-në. Shtetet e Bashkuara mund të mbështeten te krijimi nga CAISI i Rrjetit Ndërkombëtar për Matjen, Vlerësimin dhe Shkencën e IA-së së Përparuar⁠(hapet në një dritare të re) në vitin 2024, i cili bashkon institucione publike për të bashkëpunuar në matjen, vlerësimin dhe shkencën e IA-së.

Standardet e zhvilluara nga kjo përpjekje do të siguronin një bazë të përbashkët teknike për matjen dhe vlerësimin e aftësive, vlerësimin e rrezikut dhe mjaftueshmërinë e masave mbrojtëse. Këto standarde teknike nuk do të ishin licenca, shqyrtime të detyrueshme para publikimit apo kërkesa miratimi për modelet e IA-së. Qeveritë kombëtare do të vendosnin nëse dhe si do t’i përfshinin këto standarde në sistemet e tyre ligjore.

Kjo punë duhet të mbështesë gjithashtu një ekosistem konkurrues të IA-së përmes konsultimit me zhvilluesit e modeleve të hapura dhe të mbyllura, ekspertët teknikë të pavarur dhe botën akademike. Standardet e përbashkëta duhet të zhvillohen në mënyrë transparente dhe të hartohen që të mos favorizojnë kompani, vende apo modele biznesi të caktuara, përfshirë duke mos e vështirësuar konkurrimin për hyrësit e rinj ose zhvilluesit e modeleve me pesha të hapura.

Siç kemi sugjeruar⁠(hapet në një dritare të re), kjo qasje mund të marrë mësime nga fusha si aviacioni dhe stabiliteti financiar, ku vendet kanë zhvilluar standarde të përbashkëta teknike dhe kanale të besueshme bashkëpunimi pa hequr dorë nga autoriteti kombëtar. Ajo duhet gjithashtu të bashkëpunojë ngushtë me organe standardizuese të konsoliduara dhe më të reja, si ISO⁠(hapet në një dritare të re), Forumi i Modeleve Avangardë⁠(hapet në një dritare të re), Fondacioni i IA-së Agjentike⁠(hapet në një dritare të re) dhe Aleanca për IA të Hapur dhe të Sigurt⁠(hapet në një dritare të re), si edhe me organizata të përqendruara te zbatimi, si Fondacioni Appia, i cili po zhvillon specifikime praktike që lidhin standardet ndërkombëtare me vlerësimet reale të IA-së.

Standardet ndërkombëtare të IA-së do të jenë veçanërisht vendimtare për menaxhimin e autonomisë në rritje në kërkimin e IA-së dhe në vetëpërmirësimin rekursiv. Konkretisht, ato mund të përfshijnë standarde për:

• Vlerësimin e përparimit të IA-së që lidhet me RSI-në dhe të sasisë së kërkimit autonom që zhvillohet brenda një kompanie të IA-së. Raporti ynë i fundit për përshpejtimin e kërkimit është një kontribut fillestar në këtë përpjekje.

• Mbikëqyrjen njerëzore të kërkimit të automatizuar të IA-së, përfshirë llojet e proceseve të automatizuara kërkimore të IA-së që duhet të nxisin shqyrtim të menjëhershëm nga njerëzit.

• Klasifikimin, gjurmimin, raportimin dhe trajtimin e incidenteve që lidhen me harmonizimin dhe kërkimin e automatizuar të IA-së, si nivelet e përbashkëta të rëndësisë së incidenteve dhe pragjet e raportimit. Kuadri ynë për raportimin e mosharmonizimit është një kontribut i hershëm.

Përveç këtyre standardeve, besojmë se do të jetë e rëndësishme që operatorët e infrastrukturës kritike dhe qeveritë në mbarë botën të krijojnë kanale të sigurta komunikimi për shkëmbimin e shqetësimeve të sigurisë kombëtare, dobësive dhe kërcënimeve të reja, si edhe të praktikave më të mira në fushën me zhvillim të shpejtë të sigurisë së IA-së avangardë. Dialogu mes Shteteve të Bashkuara dhe Kinës në këto fusha do të ishte një hap pozitiv dhe bisedimet e ardhshme po zhvillohen në një moment të përshtatshëm.

Përcaktimi i ritmit të zhvillimit të IA-së nuk nënkupton ruajtjen e një shpejtësie të paracaktuar. Nga ana teknike, synimi është të sigurohet që kërkimi për harmonizimin dhe zbatimi i rezultateve të tij të jenë përpara aftësive. Nga ana shoqërore, synimi është që standardet, institucionet dhe bashkëpunimi të përdoren për të fuqizuar rrjetet e industrisë, marrëdhëniet shoqërore dhe forcat e tregut, në mënyrë që të arrihen rezultate me përfitim të ndërsjellë. Thirrja e fundit për veprim kolektiv në mbrojtjen kibernetike është një shembull i kësaj të fundit.

Shtetet e Bashkuara janë në pozitë të favorshme për të udhëhequr, sepse industria e tyre e IA-së është në avangardën teknike dhe vendi ende gëzon një pozitë të privilegjuar në rrjetin global në fusha kyçe si financat, tregtia, mbrojtja, teknologjia dhe sistemet e informacionit. Udhëheqja tani do të përcaktojë nëse Shtetet e Bashkuara do t’i japin formë kuadrit global të IA-së apo do të shohin të rrënjoset rreth tyre një sistem i fragmentuar, i pabarabartë dhe i përshkuar nga konfliktet. Kjo do të përcaktojë gjithashtu nëse IA-ja e përparuar do t’i forcojë rrjetet ekzistuese të Shteteve të Bashkuara dhe aleatëve të tyre; mosudhëheqja mund t’i dobësojë ato.

Konkurrenca gjeopolitike nuk do të lidhet vetëm me atë se kush është teknikisht përpara, por edhe me përvetësimin dhe përhapjen e IA-së. Gjithnjë e më shumë, kjo e fundit mund të përcaktohet nga ai që nxit bashkëpunim realist dhe rregulla të arsyeshme, të cilat bizneset dhe shoqëritë kudo do t’i kërkojnë nëse do t’ia besojnë të ardhmen e tyre kësaj teknologjie.

Një qeverisje e fortë kombëtare, e ndërlidhur përmes bashkëpunimit praktik ndërkombëtar, ofron një rrugë drejt masave më të forta mbrojtëse, inovacionit të vazhdueshëm dhe qasjes së gjerë në përfitimet e IA-së.