Naš pristup partnerstvima s vladama i u području nacionalne sigurnosti
Vlade počinju upotrebljavati napredne AI sustave za sve važnije zadatke, među ostalim u području nacionalne sigurnosti. Zbog toga AI laboratoriji, vlade i civilno društvo moraju zajednički utvrditi kako bi se ti alati trebali upotrebljavati u osjetljivim okruženjima.
Vjerujemo da bi demokratska društva trebala moći upotrebljavati AI za zaštitu ljudi, obranu kritične infrastrukture, pružanje javnih usluga i odgovor na nove prijetnje, uključujući područja poput kibernetičke obrane i biološke sigurnosti, gdje AI može dati značajnu prednost onima koji se brane. No sve sposobniji AI sustavi moraju se uvoditi na načine koji jačaju demokratsku odgovornost, smisleno ljudsko prosuđivanje i vladavinu prava te koji osnažuju demokratske institucije umjesto da koncentriraju moć.
Danas objavljujemo OpenAI-jeva Načela nacionalne sigurnosti kako bismo pružili transparentan uvid u naš pristup partnerstvima s vladama i upotrebama naše tehnologije u nacionalnoj sigurnosti.
Ta načela rezultat su rada na razini cijele tvrtke na razvoju sveobuhvatnijeg pristupa našim aktivnostima u području nacionalne sigurnosti i provedbe zakona, usporedno s daljnjim razvojem naše tehnologije. Angažirali smo vodećeg stručnjaka za nacionalnu sigurnost Davida Krisa da pomogne u vođenju procesa i iznese svoju neovisnu prosudbu, organizirali smo razgovore sa zaposlenicima iz cijele tvrtke te uključili zaposlenike iz različitih timova, od istraživanja i sigurnosti do javnih politika i partnerstava s vladama.
Objavljujemo ih sada dok širimo rad s američkom vladom i savezničkim partnerima u ključnim obrambenim područjima, osobito kibernetičkoj i biološkoj sigurnosti. U proteklom mjesecu, u sklopu našeg programa kibernetičke obrane Daybreak, već smo uspostavili partnerstva Trusted Access for Cyber s Australijom, Kanadom, Japanom, Republikom Korejom, Francuskom, Njemačkom, Poljskom, Nizozemskom i institucijama EU-a poput ENISA-e. Također imamo sve snažnije i pouzdano partnerstvo s vladom Ujedinjene Kraljevine u području kibernetičke sigurnosti, testiranja i evaluacije. Sličan pristup primjenjujemo i u biološkoj sigurnosti. Prošli mjesec objavili smo i proširen pouzdani pristup našem modelu GPT‑Rosalind za odabrane partnere iz američke vlade i savezničkih zemalja koji podupiru misije javnog zdravlja i biološke obrane.
Ta se načela primjenjuju na naša sadašnja i buduća partnerstva u području nacionalne sigurnosti i provedbe zakona, uključujući naš postojeći rad s Ministarstvom rata. Kad smo ranije ove godine objavili sporazum, naveli smo nekoliko ugovornih ograničenja: OpenAI-jeva tehnologija ne smije se upotrebljavati za masovni nadzor unutar zemlje, upravljanje autonomnim oružanim sustavima ni automatizirano donošenje odluka s ozbiljnim posljedicama. Ta su ograničenja u skladu s načelima koja danas iznosimo.
Vjerujemo da je ispravno jasno navesti kako se naša tehnologija smije i ne smije upotrebljavati te biti transparentni u vezi s tim. No na mnoga pitanja s najdalekosežnijim posljedicama o upotrebi AI-ja u državnoj upravi, osobito u području nacionalne sigurnosti, treba odgovoriti demokratskim procesom. Uloga tvrtki poput naše jest pružiti informacije potrebne za donošenje tih odluka, a ne donositi ih samostalno. Zato podupiremo zakonodavne napore za uspostavu zaštitnih mjera za neke od najrizičnijih vojnih upotreba AI-ja, uključujući masovni nadzor unutar zemlje, autonomne oružane sustave i druge visokorizične primjene koje izravno utječu na nacionalnu sigurnost SAD-a.
Pročitajte načela ovdje(otvara se u novom prozoru).
