Krijimi i standardeve për fazën tjetër të IA-së
Misioni ynë është të sigurojmë që inteligjenca e përgjithshme artificiale të sjellë përfitime për mbarë njerëzimin. Siç është paraqitur së fundi nga Sam Altman dhe Jakub Pachocki, punën tonë drejt këtij misioni ne e përqendrojmë te tri synime kryesore:
Të orientohemi në periudhën e ardhshme të progresit të IA-së duke ndërtuar një kërkues të automatizuar të IA-së, duke punuar me të në mënyrë të përsëritur për problemin e harmonizimit dhe duke gjetur mënyra që njerëzit të mbeten pjesë e ciklit të vetëpërmirësimit.
Të ofrojmë përfitimet e progresit shkencor dhe të rritjes ekonomike që sjellin makinat shumë inteligjente.
Të fuqizojmë çdo individ me një AGI personale.
IA-ja po përshpejton kërkimin dhe inxhinierinë tonë, ndërsa kërkimi i mundësuar nga IA-ja ka sjellë përparime në matematikë, duke përfshirë Problemën e mijëvjeçarit Navier–Stokes. Ky progres premton shumë për dy synimet tona të tjera dhe mund të sjellë zbulime të rëndësishme në mjekësi, kujdesin shëndetësor gjerësisht të qasshëm dhe fuqizimin ekonomik për bizneset e vogla dhe sipërmarrësit individualë në çdo vend.
IA-ja po përparon në shumë kompani dhe shtete dhe progresi i zgjeruar ndryshon mundësitë dhe sfidat me të cilat përballen të gjithë. Krahas përfitimeve të tjera, një IA e aftë dhe e harmonizuar do të jetë pjesë e rëndësishme e mënyrës se si do ta kapërcejmë këtë tranzicion - duke forcuar masat mbrojtëse, duke çuar përpara kërkimin për harmonizimin dhe duke i ndihmuar njerëzit të kuptojnë dhe të drejtojnë fazat e ardhshme të zhvillimit të IA-së.
Për ta kapërcyer këtë tranzicion në mënyrë të sigurt, kërkimi për harmonizimin duhet të ecë në të njëjtin ritëm me këto aftësi, në mënyrë që sistemet që ndërtojmë ne dhe të tjerët të mbeten në përputhje me vlerat njerëzore dhe nën kontrollin e njerëzve. Kjo bëhet gjithnjë e më e rëndësishme ndërkohë që sistemet e IA-së fitojnë më shumë aftësi dhe autonomi, duke përfshirë marrjen përsipër të një pjese më të madhe të vetë kërkimit dhe zhvillimit të IA-së. Për të bërë që progresi i vazhdueshëm i IA-së të jetë i sigurt dhe i dobishëm, do të duhen përparime në kërkimin për harmonizimin si dhe standarde të përbashkëta për të udhëhequr zhvillimin në laboratorë dhe shtete të ndryshme.
Kërkimi i automatizuar me IA mund të përfshijë shkallë të ndryshme të mbikëqyrjes njerëzore. Ndërsa sistemet e IA-së marrin përsipër më shumë nga puna për zhvillimin e gjeneratave pasuese të IA-së, ato mund të nxitin gjithnjë e më shumë një proces vetëpërmirësimi përsëritës (RSI), edhe kur njerëzit vazhdojnë të jenë të përfshirë. Ndërsa ky proces automatizohet më tej, ritmi i progresit të IA-së mund të përshpejtohet me shpejtësi.
Ne besojmë se kërkimi i automatizuar me IA do të prodhojë modele që përmirësojnë drejtpërdrejt jetën e njerëzve. Ai mund të ulë koston e inteligjencës së përparuar, në mënyrë që njerëzit në mbarë botën të mund të përfitojnë. Kërkimi i automatizuar mund të na ndihmojë gjithashtu ta përmirësojmë ndjeshëm harmonizimin dhe të ndërtojmë masa mbrojtëse ndaj një IA-je gjithmonë e më të aftë - një kërkues i automatizuar i IA-së mund të jetë edhe një kërkues i automatizuar i sigurisë së IA-së. Sistemet më të afta dhe të harmonizuara mund të ndihmojnë në sigurimin e infrastrukturës kritike, mbrojtjen ndaj agjentëve të rrezikshëm të IA-së dhe zhvillimin e masave të reja mbrojtëse.
Vetëpërmirësimi përsëritës (RSI) plotësisht autonom nuk po ndodh sot dhe nuk duhet ta ndjekim këtë, përveçse kur dhe nëse mund të realizohet në mënyrë të sigurt. Nëse dhe si duhet të vazhdojmë, kjo duhet të varet nga aftësia jonë për të ruajtur kontrollin njerëzor dhe nga zgjedhjet demokratike të mbështetura në informacione(hapet në një dritare të re) në lidhje me përfitimet dhe rreziqet. Nëse realizohet pa kujdesin dhe maturinë e duhur, vetëpërmirësimi përsëritës (RSI) mund të bëjë që njerëzit të humbasin kontrollin praktik mbi zhvillimin e IA-së dhe të mos jenë në gjendje të mbikëqyrin procese kërkimore që nuk i kuptojnë më. Më tej, IA-ja mund të bëhet më e rrezikshme, më pak e harmonizuar dhe, në përgjithësi, një kërcënim për njerëzit. Incidenti i Hugging Face që bëmë publik, ndonëse nuk ishte rezultat i drejtpërdrejtë i vetëpërmirësimit përsëritës (RSI), tregon llojet e rreziqeve që mund të bëhen shumë më të rënda pa masa të fuqishme mbrojtëse dhe harmonizim.
Standardet ndërkombëtare për praktikat e sigurisë dhe mbrojtjes në zhvillimin e IA-së avangardë mund të jenë po aq të rëndësishme sa vetë kërkimi për harmonizimin në përcaktimin e ritmit të avangardës. Standardet mund të krijojnë përkufizime të përbashkëta për provat cilësore dhe nivele bazë të dakordësuara për ashpërsinë e masave teknike mbrojtëse. Me pak fjalë, ato na ndihmojnë t’i përgjigjemi pyetjes: “Si duket një zbutje e mirë e rrezikut katastrofik nga IA-ja?”
Institucionet ekzistuese demokratike, si Qendra për Standardet dhe Novacionin e IA-së (CAISI), ligjet shtetërore dhe një kuadër federal për IA-në mund të ndihmojnë të gjitha në këtë drejtim, po ashtu edhe format e reja të partneritetit publik-privat(hapet në një dritare të re). Por zhvillimi dhe zbatimi i IA-së po ndodh në shumë shtete, adoptimi po zhvillohet në nivel global dhe ndikimet e saj ka të ngjarë të provohen në njëfarë mënyre nga të gjithë dhe në periudha të ndryshme.
Për këtë arsye, për zgjidhjen e disa sfidave kryesore nevojiten përpjekje ndërkombëtare për zhvillimin e standardeve:
Fragmentimi—Vlerësimet, kërkesat e raportimit dhe përkufizimet e incidenteve nga shtete të ndryshme mund të jenë kontradiktore, duke e bërë më të vështirë krahasimin e provave, kuptimin e aftësive të reja dhe reagimin ndaj rreziqeve ndërkufitare.
Veprimi kolektiv—Veprimi i pavarur i çdo shteti mund të sjellë rezultate që nuk i dëshiron asnjë vend. Vetëpërmirësimi përsëritës (RSI) ka aftësinë ta përshpejtojë vetë kërkimin e IA-së, ndoshta përtej aftësisë sonë kolektive për të kuptuar progresin, për të vlerësuar rreziqet dhe për të ruajtur një mbikëqyrje njerëzore domethënëse.
Kapaciteti i pabarabartë—Aktiviteti i zhvillimit avangardë dhe ekspertiza përkatëse nuk janë të shpërndara në mënyrë të barabartë në të gjithë botën. Kjo përforcon të dyja problemet e mësipërme.
Këto sfida vlejnë për modelet e hapura si dhe ato të mbyllura.
Për të qenë të qartë, çdo laborator i IA-së që zhvillon kërkim të automatizuar të IA-së ose aftësi të tjera të përparuara duhet të mbajë përgjegjësi për realizimin e tyre në mënyrë të sigurt, në përputhje me parimet bazë të vetëpërgjegjësisë dhe ligjet ekzistuese. Arsyetimi ynë për standardet buron nga synimi për të shmangur përqendrimin e pushtetit dhe për të arritur rezultate praktike më të mira. Standardet u japin më shumë palëve të interesuara jashtë laboratorëve mundësinë të ndikojnë në mënyrën se si duhet të zhvillohet kjo teknologji dhe ofrojnë një grup të dukshëm parimesh ku mund të mbështetemi, pavarësisht praktikave specifike të një laboratori të caktuar. Dhe ka të ngjarë të arrijmë rezultate më të mira nëse palët bashkëpunojnë për të trajtuar sfidat më sipër.
Kjo është arsyeja pse ne besojmë se Shtetet e Bashkuara duhet të udhëheqin një përpjekje për të bashkëpunuar me shtetet nga e gjithë bota për zhvillimin e standardeve teknike globale për IA-në avangardë, duke përfshirë vetëpërmirësimin përsëritës (RSI).
Ndërkohë që presim që ky koncept të evoluojë ndjeshëm me kalimin e kohës, dy aspekte do të jenë thelbësore.
Një mënyrë për ta arritur këtë do të ishte shfrytëzimi i rrjetit në zhvillim të instituteve të sigurisë së IA-së - si ato të krijuara tashmë në Australi, Kanada, Gjermani, Francë, Kenia, Japoni, Kore, Singapor, Indi dhe Mbretërinë e Bashkuar - për të mundësuar hartimin e standardeve përmes CAISI-t dhe organeve kombëtare të industrisë, me një fokus specifik te: (1) modelet dhe zhvilluesit e IA-së avangardë, të matur sipas standardeve krahasuese të aftësive; dhe (2) menaxhimi i përfitimeve dhe rreziqeve për kërkimin e automatizuar të IA-së, duke përfshirë vetëpërmirësimin përsëritës (RSI). Shtetet e Bashkuara mund të mbështeten te krijimi i Rrjetit Ndërkombëtar për Matjen, Vlerësimin dhe Shkencën e IA-së së Përparuar(hapet në një dritare të re) nga CAISI në vitin 2024, i cili sjell së bashku institucione publike për të bashkëpunuar në matjen, vlerësimin dhe shkencën e IA-së.
Standardet e zhvilluara nga kjo përpjekje do të siguronin një bazë të përbashkët teknike për matjen dhe vlerësimin e aftësive, vlerësimin e rrezikut dhe mjaftueshmërinë e masave mbrojtëse. Këto standarde teknike nuk do të ishin licenca, rishikime të detyrueshme para publikimit apo kërkesa për miratimin për modelet e IA-së. Qeveritë kombëtare do të vendosnin nëse dhe si do t’i përfshinin këto standarde në sistemet e tyre ligjore.
Kjo punë duhet të mbështesë gjithashtu një ekosistem konkurrues të IA-së përmes konsultimit me zhvilluesit e modeleve të hapura dhe të mbyllura, ekspertët teknikë të pavarur dhe botën akademike. Standardet e përbashkëta duhet të zhvillohen në mënyrë transparente dhe të hartohen që të mos favorizojnë kompani, shtete apo modele të caktuara biznesi, si dhe që të mos e bëjnë më të vështirë për të rinjtë ose zhvilluesit e modeleve me pesha të hapura për të konkurruar.
Siç kemi sugjeruar(hapet në një dritare të re), kjo qasje mund të marrë mësime nga fusha si aviacioni dhe stabiliteti financiar, ku shtetet kanë zhvilluar standarde të përbashkëta teknike dhe kanale të besueshme bashkëpunimi pa hequr dorë nga autoriteti kombëtar. Kjo duhet të sigurojë gjithashtu bashkëpunimin e ngushtë me organet e konsoliduara dhe më të reja të standardeve, si ISO(hapet në një dritare të re), Frontier Model Forum(hapet në një dritare të re), Agentic AI Foundation(hapet në një dritare të re) dhe Open Secure AI Alliance(hapet në një dritare të re), si edhe me organizata të fokusuara te zbatimi, si Appia Foundation, i cili po zhvillon specifikime praktike që lidhin standardet ndërkombëtare me vlerësimet reale të IA-së.
Standardet ndërkombëtare të IA-së do të jenë veçanërisht vendimtare për menaxhimin e autonomisë në rritje në kërkimin e IA-së dhe në vetëpërmirësimin përsëritës. Në mënyrë specifike, këto mund të përfshijnë standarde për:
Vlerësimin e progresit të IA-së që lidhet me vetëpërmirësimin përsëritës (RSI) dhe të sasisë së kërkimit autonom që zhvillohet brenda një kompanie të IA-së. Raporti ynë i fundit për përshpejtimin e kërkimit është një kontribut fillestar në këtë përpjekje.
Mbikëqyrjen njerëzore mbi kërkimin e automatizuar të IA-së, duke përfshirë llojet e proceseve të automatizuara kërkimore të IA-së që duhet të aktivizojnë rishikimin e menjëhershëm nga njerëzit.
Klasifikimin, gjurmimin, raportimin dhe trajtimin e incidenteve që lidhen me harmonizimin dhe kërkimin e automatizuar të IA-së, si nivelet e përbashkëta të rëndësisë së incidenteve dhe pragjet e raportimit. Kuadri ynë për raportimin e mosharmonizimit është një kontribut i hershëm.
Përveç këtyre standardeve, ne besojmë se do të jetë e rëndësishme që operatorët e infrastrukturës kritike dhe qeveritë në mbarë botën të krijojnë kanale të sigurta komunikimi për shkëmbimin e shqetësimeve të sigurisë kombëtare, cenueshmërive dhe kërcënimeve të reja, si edhe të praktikave më të mira në fushën me zhvillim të shpejtë të sigurisë së IA-së avangardë. Dialogu mes Shteteve të Bashkuara dhe Kinës në këto fusha do të ishte një hap pozitiv dhe bisedimet e ardhshme po zhvillohen në një moment të përshtatshëm.
Përcaktimi i ritmit të zhvillimit të IA-së nuk nënkupton ruajtjen e një shpejtësie të paracaktuar. Nga ana teknike, qëllimi është të sigurohet që kërkimi për harmonizimin dhe zbatimi i atij kërkimi të qëndrojnë një hap përpara aftësive. Në aspektin shoqëror, qëllimi është që standardet, institucionet dhe bashkëpunimi të përdoren për të fuqizuar rrjetet e industrisë, marrëdhëniet shoqërore dhe forcat e tregut për të siguruar rezultate të përgjithshme pozitive. Thirrja e fundit për veprim kolektiv në mbrojtjen kibernetike është një shembull i kësaj të fundit.
Shtetet e Bashkuara janë në një pozicion të duhur për të udhëhequr pasi industria e tyre e IA-së është në nivelin teknik avangardë dhe gëzojnë akoma një pozicion të privilegjuar në rrjetin global në fusha kryesore si financat, tregtia, mbrojtja, teknologjia dhe sistemet e informacionit. Udhëheqja e tyre tani do të përcaktojë nëse Shtetet e Bashkuara do t’i japin formë kuadrit global të IA-së apo do të shohin shtrirjen e një sistemi të fragmentuar, jo të njëtrajtshëm dhe plot me konflikte. Kjo do të përcaktojë gjithashtu nëse IA-ja e avancuar do t’i forcojë rrjetet ekzistuese të Shteteve të Bashkuara dhe të aleatëve të tyre; nëse nuk udhëheqin, kjo mund t’i dobësojë ato.
Konkurrenca gjeopolitike nuk do të lidhet vetëm me atë se kush është teknikisht përpara, por edhe me adoptimin dhe përhapjen e IA-së. Gjithmonë e më shumë, kjo e fundit mund të përcaktohet nga kushdo që nxit bashkëpunim realist dhe rregulla të arsyeshme të rrugëtimit që të gjitha bizneset dhe shoqëritë do t’i kërkojnë nëse do t’ia besojnë të ardhmen e tyre kësaj teknologjie.
Një qeverisje e fortë kombëtare, e lidhur përmes bashkëpunimit praktik ndërkombëtar, ofron një rrugë drejt masave më të forta mbrojtëse, novacionit të vazhdueshëm dhe qasjes së gjerë në përfitimet e IA-së.
