Naš pristup partnerstvima s vladama i u nacionalnoj sigurnosti
Vlade počinju koristiti granične sisteme umjetne inteligencije za sve važnije poslove, uključujući nacionalnu sigurnost. To stvara nove zahtjeve da AI laboratorije, vlade i civilno društvo sarađuju na tome kako ove alate treba koristiti u osjetljivim okruženjima.
Vjerujemo da demokratska društva trebaju moći koristiti AI za zaštitu ljudi, odbranu kritične infrastrukture, pružanje javnih usluga i odgovor na nove prijetnje, uključujući oblasti poput kibernetičke odbrane i biološke sigurnosti, gdje AI može značajno dati prednost braniocima. Međutim, sve sposobniji AI sistemi moraju se uvoditi na način koji jača demokratsku odgovornost, smisleno ljudsko rasuđivanje i vladavinu prava, te jača demokratske institucije umjesto da koncentriše moć.
Danas objavljujemo OpenAI-jeve principe nacionalne sigurnosti kako bismo pružili transparentan uvid u naš pristup partnerstvima s vladama i upotrebama naše tehnologije u nacionalnoj sigurnosti.
Ovi principi odražavaju napor cijele kompanije da razvijemo sveobuhvatniji pristup našem radu u oblasti nacionalne sigurnosti i provođenja zakona kako naša tehnologija nastavlja napredovati. Angažirali smo vodećeg stručnjaka za nacionalnu sigurnost, Davida Krisa, da pomogne u vođenju procesa i pruži svoju nezavisnu procjenu, organizovali razgovore za prikupljanje mišljenja širom kompanije i uključili zaposlenike iz različitih timova, od istraživanja i sigurnosti do politika i partnerstava s vladama.
Objavljujemo ih sada dok širimo rad s vladom SAD-a i savezničkim partnerima u ključnim odbrambenim oblastima, posebno kibernetičkoj i biološkoj sigurnosti. U proteklom mjesecu, u okviru našeg programa kibernetičke odbrane Daybreak, već smo uspostavili partnerstva Trusted Access for Cyber s Australijom, Kanadom, Japanom, Republikom Korejom, Francuskom, Njemačkom, Poljskom, Nizozemskom i institucijama EU-a poput ENISA-e. Također imamo sve snažnije i pouzdano partnerstvo s vladom Ujedinjenog Kraljevstva u oblasti kibernetičke sigurnosti, testiranja i evaluacije. Sličan pristup primjenjujemo i u biološkoj sigurnosti. Prošlog mjeseca najavili smo i prošireni pouzdani pristup našem modelu GPT‑Rosalind za odabrane partnere iz vlade SAD-a i savezničkih zemalja koji podržavaju misije javnog zdravlja i biološke odbrane.
Ovi principi primjenjuju se na naša sadašnja i buduća partnerstva u oblasti nacionalne sigurnosti i provođenja zakona, uključujući naš postojeći rad s Ministarstvom rata. Kada smo ranije ove godine objavili naš sporazum, naveli smo nekoliko ugovornih ograničenja: zabranu korištenja OpenAI-jeve tehnologije za masovni nadzor unutar zemlje, zabranu korištenja OpenAI-jeve tehnologije za upravljanje autonomnim sistemima naoružanja i zabranu korištenja OpenAI-jeve tehnologije za automatizirane odluke s velikim posljedicama. Ta ograničenja su u skladu s principima koje danas dijelimo.
Vjerujemo da je ispravno jasno reći kako se naša tehnologija može i ne može koristiti, te biti transparentan u vezi s tim. Međutim, na mnoga od najvažnijih pitanja o AI-ju u vladi, posebno u nacionalnoj sigurnosti, treba odgovoriti kroz demokratski proces. Uloga kompanija poput naše jeste da pomognu u informisanju tih odluka, a ne da ih same donose. Zato podržavamo zakonodavne napore za uspostavljanje zaštitnih mjera oko nekih od najrizičnijih vojnih upotreba AI-ja, uključujući kontekste domaćeg nadzora, autonomnih sistema naoružanja i drugih visokorizičnih upotreba koje direktno utiču na nacionalnu sigurnost SAD-a.
Pročitajte principe ovdje(otvara se u novom prozoru).
