Ndihmojmë për standarde të përbashkëta për IA-në e përparuar
Modelet gjithmonë e më të afta mund të forcojnë mbrojtjen kibernetike, të përshpejtojnë zbulimet shkencore dhe të zgjerojnë qasjen tek ekspertiza. Por ato mund të krijojnë edhe rreziqe sigurie nëse aftësitë e tyre keqkuptohen, nëse masat mbrojtëse janë të pamjaftueshme ose nëse qeveritë nuk kanë informacionet e duhura për të reaguar. Për t’i realizuar përfitimet në mënyrë të sigurt dhe të besueshme, shoqëritë do të kenë nevojë për institucione me kapacitet teknik dhe menaxhues për të vlerësuar, siguruar dhe menaxhuar sisteme gjithmonë e më të afta.
Kjo është një arsye pse OpenAI ndihmoi në themelimin e Appia Foundation(hapet në një dritare të re), me qendër në Linux Foundation. Appia do të zhvillojë specifikime të hapura dhe modulare që synojnë t'i shndërrojnë standardet ndërkombëtare dhe kuadrot e përcaktuara në kritere praktike vlerësimi në zinxhirin e vlerës të IA-së. Puna e tij mund të ndihmojë në zhvillimin e një shtrese kritike të munguar besimi, përmes së cilës palët e treta kontrollojnë përputhshmërinë me standardet dhe krijojnë prova më të qarta dhe më të ripërdorshme kur modelet, infrastruktura dhe aplikacionet zhvillohen nga organizata të ndryshme. Duke bërë këtë, Appia do të ndihmojë në krijimin e një gjuhe të përbashkët teknike që u mundëson institucioneve kombëtare dhe ndërkombëtare t’i besojnë punës së njëra-tjetrës.
Ne e shohim këtë përpjekje si një hap të rëndësishëm të radhës në një punë më të gjerë për të forcuar institucionet, standardet dhe praktikat e vlerësimit që nevojiten për sistemet e përparuara të IA-së.
Projekti ynë i fundit për qeverisjen demokratike të IA-së avangardë ofron një udhërrëfyes për këtë punë. Ai kërkon një kuadër të qëndrueshëm në SHBA, një Qendër më të fortë për Standardet dhe Novacionin e IA-së (CAISI) dhe një strategji më të gjerë qëndrueshmërie në të gjithë qeverinë. Ai pranon gjithashtu se rreziqet pararoje kanë shtrirje ndërkombëtare. Kombet duhet të punojnë së bashku për të zhvilluar kuadro të përputhshme sigurie, kanale të besuara për ndarjen e gjetjeve mbi rrezikun dhe reagime të bashkërenduara ndaj incidenteve.
Kapaciteti kombëtar dhe bashkëpunimi ndërkombëtar duhet ta forcojnë njëri-tjetrin. Institucione të forta si CAISI mund të zhvillojnë ekspertizë teknike, të vlerësojnë sistemet avangardë dhe të mbështesin një ekosistem të pavarur vlerësimi. Një rrjet institucionesh kombëtare të afta mund të përcaktojë më pas metoda të përbashkëta, të njohë provat e besueshme dhe t’u japë qeverive njohuritë e përbashkëta teknike që u duhen për të vepruar së bashku.
Standardet janë thelbësore për këtë përpjekje dhe duhet të mbështeten në praktikën e besueshme të vlerësimit dhe rigorozitetin teknik. Në udhëzuesin tonë të përbashkët për vlerësimet e besueshme nga palë të treta, ne përcaktojmë se çfarë duhet të zbulojnë gjithmonë e më shumë vlerësimet avangardë: sistemin e testuar, qasjen e tij në mjete dhe strukturën e vlerësimit, metodat e përdorura për të treguar aftësitë, burimet e disponueshme dhe kontrollet e kryera për të verifikuar rezultatet. Këto parime i kemi vënë në praktikë edhe përmes partneriteteve të testimit me CAISI në SHBA dhe AISI në Mbretërinë e Bashkuar, puna e të cilave mbi vlerësimet e aftësive avangardë dhe masat mbrojtëse kundër keqpërdorimit biologjik çoi në përmirësime konkrete në sistemet tona. Kjo punë ka një funksion të rëndësishëm: krijon bazën për praktika që mund të standardizohen për të kontrolluar performancën në mënyrë të krahasueshme.
Këto praktika plotësojnë infrastrukturën më të gjerë të sigurisë së OpenAI. Preparedness Framework është themeli i mënyrës si e përcaktojmë dhe e vëmë në zbatim qasjen tonë për menaxhimin e rreziqeve më serioze nga sistemet e avancuara të IA-së, duke përfshirë praktikat tona të brendshme. Frontier Governance Framework zbaton pjesët përkatëse të kësaj qasjeje në një dokument publik menaxhimi të fokusuar te detyrimet specifike rregullatore, duke përfshirë vlerësimin e rrezikut, raportimin për modelet, kontrollet e sigurisë, reagimin ndaj incidenteve dhe përfshirjen e kontributit nga ekspertë të jashtëm. Së bashku, këto materiale ndihmojnë që angazhimet e gjera të kthehen në praktika operative që mund të verifikohen dhe përmirësohen.
Puna e Appia-s synon sfidën e radhës: t’i bëjë këto praktika të ndërveprueshme mes organizatave, juridiksioneve dhe zinxhirit të furnizimit.
OpenAI kontribuon tashmë në një ekosistem më të gjerë standardesh dhe përpjekjesh për standardizimin paraprak. Ne marrim pjesë në Komitetin e Përbashkët Teknik 1, Nënkomiteti 42 për Inteligjencën Artificiale të krijuar nga Organizata Ndërkombëtare për Standardizimin dhe Komisioni Ndërkombëtar Elektroteknik(hapet në një dritare të re) dhe në Konsorciumin për Inteligjencën Artificiale të udhëhequr nga Instituti Kombëtar i Standardeve dhe Teknologjisë(hapet në një dritare të re); ne kemi ndihmuar në themelimin e Forumit të Modeleve Avangardë dhe të Fondacionit për Inteligjencën Artificiale Agjentike(hapet në një dritare të re) të Linux Foundation; marrim pjesë në Koalicionin për Inteligjencën Artificiale të Sigurt(hapet në një dritare të re); shërbejmë në komitetin drejtues të Koalicionit për Prejardhjen dhe Origjinalitetin e Përmbajtjes(hapet në një dritare të re); dhe angazhohemi në proceset e Grupit të Punës për Inxhinierinë e Internetit(hapet në një dritare të re) dhe të Fast Identity Online Alliance(hapet në një dritare të re) për të çuar përpara standardet teknike të ndërveprueshme.
Në të gjitha këto forume, duke përfshirë tani edhe përmes Appia-s, objektivi ynë është t’i shndërrojmë mësimet nga zhvillimi avangardë në praktika të hapura dhe me baza teknike që qeveritë, kompanitë dhe vlerësuesit e pavarur mund t’i përdorin në juridiksione të ndryshme.
