Forcimi i mbikëqyrjes demokratike në sigurinë kombëtare

IA-ja po ndryshon mënyrën se si qeveritë demokratike mbrojnë qytetarët e tyre. Ajo mund të ndihmojë në ndalimin e sulmeve kibernetike, sigurimin e infrastrukturës kritike, zbulimin më të hershëm të kërcënimeve dhe krijimin e një tabloje më të qartë për nëpunësit publikë gjatë një krize. Kur përdoren siç duhet, këto mjete mund ta forcojnë sigurinë kombëtare.

Mbikëqyrja demokratike ndihmon që ushtrimi i pushtetit publik të mbetet i përgjegjshëm ndaj qytetarëve të cilëve u shërben. Ndërsa IA-ja e bën punën për sigurinë kombëtare më të shpejtë dhe më të efektshme, edhe institucionet përgjegjëse për mbikëqyrjen e saj duhet të ecin me të njëjtin ritëm. IA-ja mund të veprojë me shpejtësi dhe në shkallë të gjerë bazuar në kontekst të mangët ose të vjetruar, objektiva të konfiguruara gabim apo supozime të papërputhshme, duke e bërë më të vështirë zbulimin manual të gabimeve para se ato të përhapen. Mbikëqyrja është veçanërisht e rëndësishme kur IA-ja përdoret për sigurinë kombëtare, sepse vendimet mund të kërkojnë domosdoshmërish fshehtësi dhe të kenë pasoja të rënda.

Të udhëhequr nga Parimet tona të Sigurisë Kombëtare, ne i realizojmë zbatimet në fushën e sigurisë kombëtare me masa mbrojtëse, gjykim njerëzor domethënës dhe mbikëqyrje të përshtatshme, veçanërisht në situata me pasoja të rënda. Këto parime gjithashtu i japin përparësi ndihmës ndaj institucioneve mbikëqyrëse për të krijuar kapacitetet e nevojshme që përdorimi i IA-së të mbikëqyret me shpejtësi dhe në shkallë të gjerë.

Institucionet qeveritare kanë tashmë kompetenca dhe përgjegjësi të përcaktuara për mbikëqyrjen e veprimtarive të sigurisë kombëtare. Kur IA-ja kontribuon në këto veprimtari, mbikëqyrja mund të ketë nevojë të evoluojë. Mbikëqyrja tradicionale kërkon shumë punë dhe bëhet thuajse e pamundur kur ekipeve të vogla që përdorin metoda të epokës së dokumenteve në letër u kërkohet të shqyrtojnë sisteme që veprojnë me shpejtësinë e makinave.

OpenAI beson se sistemet më të afta kërkojnë mbikëqyrje më të fortë dhe këtë parim e zbatojmë edhe për veten. Sipas Preparedness Framework, modelet e avancuara i nënshtrohen një shqyrtimi rigoroz përpara vënies në përdorim, për të kuptuar aftësitë e tyre dhe për të përcaktuar nëse masat mbrojtëse janë të mjaftueshme. Ky shqyrtim vazhdon edhe pas vënies në përdorim, përmes monitorimit të vazhdueshëm dhe analizimit të incidenteve; njohuritë e përftuara shërbejnë për të përmirësuar masat mbrojtëse dhe zhvillimin e modeleve të ardhshme.

OpenAI nuk ushtron dhe as nuk duhet të ushtrojë rol mbikëqyrës ndaj qeverisë. Kjo përgjegjësi u takon zyrtarëve të zgjedhur dhe institucioneve publike të krijuara për këtë qëllim. Në vend të kësaj, ne mund t'i mbështetim institucionet mbikëqyrëse me teknologjinë tonë gjatë përmbushjes së mandateve të tyre ekzistuese.

Kjo punë do të udhëhiqet nga tri parime.

Së pari, IA-ja duhet ta forcojë, jo ta zëvendësojë, gjykimin njerëzor dhe institucional. Vendimet nëse veprimtaria e qeverisë është e ligjshme, e përshtatshme dhe në përputhje me rregullat e politikat përkatëse u takojnë agjencive të autorizuara dhe organeve mbikëqyrëse të krijuara me ligj.

Së dyti, përdorimi i IA-së nga qeveria duhet të jetë i gjurmueshëm dhe i kuptueshëm për organet e autorizuara të mbikëqyrjes. Shqyrtuesit duhet të jenë në gjendje të kuptojnë se si ka ndikuar IA-ja në një vendim, duke mbrojtur njëkohësisht informacionin e klasifikuar, privat dhe të ndjeshëm për sigurinë.

Së treti, IA-ja duhet të përdoret për të fuqizuar institucionet e mbikëqyrjes demokratike. Mbikëqyrja manuale e përdorimit të IA-së në qeveri nuk mund të zgjerohet në shkallën e nevojshme. Ndërsa IA-ja përdoret në sigurinë kombëtare dhe në punë të tjera qeveritare me pasoja të rënda, edhe organet mbikëqyrëse duhet ta përdorin atë në mënyrë të përgjegjshme, të kuptueshme dhe në përputhje me mandatet e tyre.

Gjatë vitit të ardhshëm planifikojmë ta çojmë përpara këtë nismë në mënyrat e mëposhtme:

• Do të punojmë me zyrtarët e autorizuar për të identifikuar mundësi praktike ku mjetet e IA-së ose mbështetja teknike mund ta bëjnë mbikëqyrjen më të efektshme.

• Do t'u ofrojmë organeve të mbikëqyrjes së qeverisjes demokratike 5 milionë USD në trajnime, mbështetje teknike dhe kredite të OpenAI, për të mbështetur përdorimin dhe vlerësimin e përgjegjshëm të mjeteve të IA-së.

• Do të punojmë me institucionet mbikëqyrëse për të testuar mjete që i ndihmojnë shqyrtuesit e autorizuar të analizojnë të dhënat që lidhen me vendimet qeveritare të marra me ndihmën e IA-së, përfshirë të dhënat hyrëse, dalëse dhe përdorimin e mjeteve përkatëse, që të kuptojnë më mirë se si ndikoi IA-ja në rezultatet përfundimtare. Kur të jetë e mundur, mjetet do të jenë të ndërveprueshme ose të pavarura nga modeli. Institucionet pjesëmarrëse, dhe jo OpenAI, do të ruajnë kontrollin mbi provat, daljet dhe gjetjet, të cilat do të mbeten të disponueshme vetëm për funksionarët e autorizuar qeveritarë.

• Do të angazhojmë shoqërinë civile dhe ekspertët teknikë, në mënyrë që këndvështrimet e tyre të merren parasysh në zhvillimin e këtyre mjeteve nga OpenAI dhe në mënyrën se si i trajton përgjegjësitë që vijnë me to.

IA-ja mund ta përqendrojë pushtetin ose mund t'i ndihmojë institucionet demokratike ta ushtrojnë dhe ta kontrollojnë atë në mënyrë më të efektshme. Teknologjia nuk do ta përcaktojë e vetme se cila e ardhme na pret; këtë do ta përcaktojnë zgjedhjet që bëjnë tani institucionet njerëzore dhe kompanitë.

Përparimin e kësaj nisme do ta vlerësojmë sipas asaj nëse shqyrtuesit e autorizuar mund t'i përmbushin më mirë detyrimet e tyre dhe nëse publiku ka arsye më të forta për të besuar se sistemet qeveritare të IA-së po përdoren sipas qëllimit.

Ndërsa përdorimi i IA-së nga qeveria evoluon, OpenAI do të vazhdojë t'i mbështesë institucionet përgjegjëse për mbikëqyrjen e saj.