Marrëveshja jonë me Departamentin e Luftës

Dje arritëm një marrëveshje me Pentagonin për vendosjen e sistemeve të avancuara AI në mjedise të klasifikuara, të cilën kërkuam që ta vënë në dispozicion edhe për të gjitha kompanitë e AI.

Ne mendojmë se marrëveshja jonë ka më shumë kufizime mbrojtëse se çdo marrëveshje e mëparshme për vendosje të klasifikuara të AI, duke përfshirë edhe atë të Anthropic. Ja pse.

Ne kemi tre limite kryesore që orientojnë punën tonë me Departamentin e Luftës, të cilat përgjithësisht ndahen edhe nga disa laboratorë të tjerë avangardë:

• Asnjë përdorim i teknologjisë OpenAI për survejim masiv vendas.
• Nuk lejohet përdorimi i teknologjisë OpenAI për të drejtuar sisteme armësh autonome. 
• Nuk lejohet përdorimi i teknologjisë OpenAI për vendime të automatizuara me rrezik të lartë (p.sh. sisteme si “krediti social”).

Laboratorë të tjerë të AI kanë reduktuar ose hequr masat e tyre mbrojtëse të sigurisë dhe janë mbështetur kryesisht te politikat e përdorimit si masat e tyre kryesore mbrojtëse në zbatimet për sigurinë kombëtare. Ne mendojmë se qasja jonë mbron më mirë kundër përdorimit të papranueshëm.

Në marrëveshjen tonë, ne mbrojmë limitet tona përmes një qasjeje më të gjerë, me shumë nivele. Ne ruajmë gjykim të plotë mbi strukturën tonë të sigurisë, e zbatojmë përmes resë kompjuterike, personeli i autorizuar i OpenAI është i përfshirë në proces, dhe kemi masa të forta mbrojtëse kontraktuale. Kjo vjen e gjitha përveç masave të forta mbrojtëse ekzistuese në ligjin e SHBA-së. 

Ne besojmë fort në demokraci. Duke pasur parasysh rëndësinë e kësaj teknologjie, ne besojmë se e vetmja rrugë e mirë përpara kërkon bashkëpunim të thellë midis përpjekjeve të AI dhe procesit demokratik. Ne gjithashtu besojmë se teknologjia jonë do të sjellë rreziqe të reja në botë, dhe duam që njerëzit që mbrojnë SHBA-në të kenë mjetet më të mira.

Marrëveshja jonë përfshin:

1. Arkitekturën e implementimit. Ky është një implementim vetëm në renë kompjuterike, me një paketë sigurie që ne e ekzekutojmë dhe që përfshin këto parime dhe të tjera. Ne nuk po i ofrojmë Departamentit të Luftës opsion “pa masa mbrojtëse” apo modele të patrajnuara për siguri, as nuk po i vendosim modelet tona në pajisje në fundore (ku mund të ketë mundësi përdorimi për armë vdekjeprurëse autonome). 

Arkitektura jonë e implementimit do të na mundësojë të verifikojmë në mënyrë të pavarur që këto limite të panegociueshme të mos kapërcehen, duke përfshirë ekzekutimin dhe përditësimin e klasifikuesve.

2. Kontrata jonë. Ja gjuha përkatëse:

Departamenti i Luftës mund ta përdorë Sistemin AI për të gjitha qëllimet e ligjshme, në përputhje me ligjin e zbatueshëm, kërkesat operacionale dhe protokollet e mirëpërcaktuara të sigurisë dhe survejimit. Sistemi AI nuk do të përdoret për të drejtuar në mënyrë të pavarur armë autonome në asnjë rast kur ligji, rregullorja ose politika e Departamentit kërkon kontroll njerëzor, as nuk do të përdoret për të marrë përsipër vendime të tjera me rrezik të lartë që kërkojnë miratim nga një vendimmarrës njerëzor sipas të njëjtave autoritete. Sipas direktivës 3000.09 të Departamentit të Mbrojtjes (datë 25 janar 2023), çdo përdorim i AI në sisteme autonome dhe gjysmautonome duhet t’i nënshtrohet verifikimit, validimit, dhe testimit rigoroz për të siguruar që të funksionojnë siç synohen në mjedise realiste përpara implementimit.

Për aktivitetet e inteligjencës, çdo trajtim i informacionit privat do të jetë në përputhje me amendamentin e katërt, ligjin për sigurinë kombëtare të 1947 dhe ligjin për inteligjencën e huaj dhe survejimin të 1978, urdhrin ekzekutiv 12333, dhe direktivat përkatëse të Departamentit të Mbrojtjes që kërkojnë një qëllim të përcaktuar të inteligjencës së huaj. Sistemi AI nuk duhet të përdoret për monitorim të pakufizuar të informacionit privat të personave të SHBA-së, në përputhje me këto autoritete. Sistemi gjithashtu nuk duhet të përdoret për aktivitete të zbatimit të ligjit brenda vendit, përveçse siç lejohet nga ligji Posse Comitatus dhe ligje të tjera të zbatueshme.

3. Përfshirja e ekspertëve të AI. Do të kemi inxhinierë të OpenAI të dislokuar në vend, me autorizim sigurie, që do të ndihmojnë qeverinë, ndërsa studiuesit e sigurisë dhe të harmonizimit do të jenë të përfshirë në proces. 

Pse po e bëni këtë? 

Së pari, ne mendojmë se ushtria amerikane ka absolutisht nevojë për modele të fuqishme të inteligjencës artificiale (AI) për të mbështetur misionin e saj, veçanërisht përballë kërcënimeve në rritje nga kundërshtarë të mundshëm që po integrojnë gjithnjë e më shumë teknologjitë e AI në sistemet e tyre. Fillimisht nuk hymë në një kontratë për zbatim të klasifikuar, pasi nuk mendonim se masat tona mbrojtëse dhe sistemet tona ishin gati. Kemi punuar fort për të siguruar që një zbatim i klasifikuar të ndodhë me masa mbrojtëse për të siguruar që vijat e kuqe të mos kapërcehen. 

Ne ishim — dhe mbetemi — të vendosur në vullnetin tonë për të mos i hequr masat mbrojtëse teknike kyçe në emër të përmirësimit të performancës në punën e sigurisë kombëtare. Kjo nuk do të ishte qasja e duhur për të mbështetur ushtrinë amerikane. 

Së dyti, ne gjithashtu donim të ulnim tensionet midis Departamentit të Luftës dhe laboratorëve të AI në SHBA. Një e ardhme e mirë do të kërkojë bashkëpunim të vërtetë dhe të thellë midis qeverisë dhe laboratorëve të AI. Si pjesë e marrëveshjes sonë këtu, ne kërkuam që të njëjtat kushte t’u viheshin në dispozicion të gjithë laboratorëve të AI, dhe në mënyrë specifike që qeveria të përpiqej t’i zgjidhte gjërat me Anthropic; gjendja aktuale është një mënyrë shumë e keqe për të nisur këtë fazë të ardhshme të bashkëpunimit midis qeverisë dhe laboratorëve të AI.

Si ishte e mundur të arrinit një marrëveshje kur Anthropic nuk mundi? A nënshkruat marrëveshjen që nuk nënshkruan ata?

Bazuar në atë që dimë, ne besojmë se kontrata jonë ofron garanci më të mira dhe masa mbrojtëse më të përgjegjshme sesa marrëveshjet e mëparshme, duke përfshirë kontratën fillestare të Anthropic. Ne mendojmë se limitet tona janë më të zbatueshme këtu sepse implementimi është i kufizuar vetëm në renë kompjuterike (jo në pajisje fundore), e ruan strukturën tonë të sigurisë funksionale në mënyrën që mendojmë se është më e mira, dhe mban të përfshirë në proces personelin e autorizuar të OpenAI.

Ne nuk e dimë pse Anthropic nuk arriti ta realizonte këtë marrëveshje dhe shpresojmë që ata dhe më shumë laboratorë ta marrin parasysh diçka të tillë.

A mendoni se Anthropic duhet të përcaktohet si një “rrezik për zinxhirin e furnizimit”?

Jo, dhe e kemi bërë të qartë qëndrimin tonë për këtë ndaj qeverisë.

A do t’i mundësojë kjo marrëveshje Departamentit të Luftës të përdorë modelet e OpenAI për të fuqizuar armë autonome? 

Jo. Bazuar në paketën tonë të sigurisë, implementimin tonë vetëm në renë kompjuterike, gjuhën e kontratës dhe ligjet, rregulloret dhe politikat ekzistuese, jemi të bindur se kjo nuk mund të ndodhë. Do të kemi gjithashtu personel të OpenAI të përfshirë në proces për siguri të mëtejshme.  

A do t’i mundësojë kjo marrëveshje Departamentit të Luftës të përdorë modelet e OpenAI për të kryer survejim masiv ndaj personave në SHBA?

Jo. Bazuar në nivelin tonë të sigurisë, gjuhën e kontratës dhe ligjet ekzistuese që i kufizojnë së tepërmi Departamentit të Luftës survejimin brenda vendit, jemi të bindur se kjo nuk mund të ndodhë. Do të kemi gjithashtu personel të OpenAI të përfshirë në proces për siguri të mëtejshme.  

A duhet të vendosni modele në përdorim pa një strukturë sigurie?

Jo, ne ruajmë kontroll të plotë mbi paketën e sigurisë që vendosim dhe nuk do ta vendosim pa masa mbrojtëse sigurie. Përveç kësaj, studiuesit tanë të sigurisë dhe përshtatjes do të jenë të përfshirë në proces dhe do të ndihmojnë në përmirësimin e sistemeve me kalimin e kohës. Ne e dimë se laboratorë të tjerë të AI kanë reduktuar kufizimet në masat mbrojtëse të modelit dhe janë mbështetur te politikat e përdorimit si masa mbrojtëse kryesore, por ne mendojmë se qasja jonë me nivele mbron më mirë kundër përdorimit të papranueshëm.

Çfarë ndodh nëse qeveria i shkel kushtet e kontratës?

Ashtu si me çdo kontratë, ne mund ta zgjidhnim atë nëse pala tjetër shkel kushtet. Ne nuk presim që kjo të ndodhë.

Po sikur qeveria thjesht ta ndryshojë ligjin ose politikat ekzistuese të Departamentit të Luftës?

Kontrata jonë u referohet shprehimisht ligjeve dhe politikave për survejimin dhe armët autonome siç ekzistojnë sot, në mënyrë që edhe nëse ato ligje ose politika ndryshojnë në të ardhmen, përdorimi i sistemeve tona duhet të mbetet ende në përputhje me standardet aktuale të pasqyruara në marrëveshje. 

Si i adresoni argumentet që Anthropic paraqiti në postimin e tyre në blog⁠(hapet në një dritare të re) rreth diskutimit të tyre me Departamentin e Luftës?

Në postimin e tyre, Anthropic përmend dy nga parimet e tyre të panegociueshme (ne kemi të njëjtat dy parime të panegociueshme, plus një të tretë: marrjen e automatizuar e vendimeve me rrezik të lartë), dhe arsyet pse ata nuk besojnë se këto parime të panegociueshme do të respektoheshin në kontratat që kishin parë nga Departamenti i Luftës në atë kohë. Më poshtë është arsyeja pse ne besojmë se ato të njëjtat limite do të vepronin në kontratën tonë:

• Survejim masiv brenda vendit. Ishte e qartë në ndërveprimin tonë se Departamenti i Luftës e konsideron survejimin masiv brenda vendit të paligjshmëm dhe nuk po planifikonte ta përdorte për këtë qëllim. Ne siguruam që fakti se nuk mbulohet nga përdorimi i ligjshëm të bëhej i qartë në kontratën tonë.
• Armë plotësisht autonome. Sipërfaqja e implementimit në renë kompjuterike e mbuluar në kontratën tonë nuk do të lejonte fuqizimin e armëve plotësisht autonome, pasi kjo do të kërkonte implementim në pajisje fundore. 

Përveç këtyre masave mbrojtëse, kontrata jonë ofron masa të tjera mbrojtëse, duke përfshirë paketën tonë të sigurisë dhe ekspertët teknikë të OpenAI të përfshirë në proces.