Naš pristop k partnerstvom z vladami in na področju nacionalne varnosti

Vlade za vse pomembnejše naloge, tudi na področju nacionalne varnosti, začenjajo uporabljati prelomne sisteme umetne inteligence. To ustvarja nove nujne zahteve, da laboratoriji za umetno inteligenco, vlade in civilna družba skupaj določijo, kako naj se ta orodja uporabljajo v občutljivih okoljih. 

Menimo, da bi morale demokratične družbe umetno inteligenco uporabljati za zaščito ljudi, obrambo kritične infrastrukture, zagotavljanje javnih storitev in odzivanje na nastajajoče grožnje, tudi na področjih, kot sta kibernetska obramba in biološka varnost, kjer lahko umetna inteligenca branilcem prinese pomembno prednost. Toda vse zmogljivejši sistemi umetne inteligence morajo biti uvedeni tako, da krepijo demokratično odgovornost, smiselno človeško presojo in vladavino prava ter utrjujejo demokratične institucije, namesto da bi koncentrirali moč.

Danes objavljamo OpenAI-jeva načela nacionalne varnosti, da bi zagotovili preglednost glede našega pristopa k partnerstvom z vladami in uporabi naše tehnologije za nacionalno varnost.

Ta načela odražajo prizadevanje celotnega podjetja za razvoj celovitejšega pristopa k našemu delu na področju nacionalne varnosti in organov pregona, medtem ko naša tehnologija še naprej napreduje. K sodelovanju smo povabili vodilnega strokovnjaka za nacionalno varnost Davida Krisa, da je pomagal voditi proces in prispeval svojo neodvisno presojo, izvedli smo poslušalne seje po celotnem podjetju ter vključili zaposlene iz različnih ekip, od raziskav in varnosti do politike in partnerstev z vladami.

Objavljamo jih zdaj, ko širimo sodelovanje z vlado ZDA in zavezniškimi partnerji na ključnih obrambnih področjih, zlasti na področju kibernetske in biološke varnosti. V zadnjem mesecu smo v okviru našega programa kibernetske obrambe Daybreak⁠ že vzpostavili partnerstva Trusted Access for Cyber z Avstralijo, Kanado, Japonsko, Republiko Korejo, Francijo, Nemčijo, Poljsko, Nizozemsko in institucijami EU, kot je ENISA. Z vlado Združenega kraljestva imamo tudi vse močnejše in zaupanja vredno partnerstvo na področju kibernetike, preizkušanja in vrednotenja. Podoben pristop uporabljamo tudi pri biološki varnosti. Prejšnji mesec smo napovedali tudi razširjen zaupanja vreden dostop do našega modela GPT‑Rosalind za izbrane vladne partnerje ZDA in zavezniške partnerje, ki podpirajo naloge javnega zdravja in biološke obrambe.

Ta načela veljajo za naša sedanja in prihodnja partnerstva na področju nacionalne varnosti in organov pregona, vključno z našim obstoječim sodelovanjem z Ministrstvom za vojno. Ko smo v začetku leta napovedali dogovor, smo opredelili več pogodbenih omejitev: tehnologije OpenAI ni dovoljeno uporabljati za množični domači nadzor, za usmerjanje avtonomnih orožnih sistemov ali za avtomatizirane odločitve z velikimi posledicami. Te omejitve so skladne z načeli, ki jih predstavljamo danes.

Menimo, da je prav jasno povedati, kako se naša tehnologija sme in ne sme uporabljati, ter biti glede tega pregledni. Toda na številna najpomembnejša vprašanja o umetni inteligenci v vladi, zlasti na področju nacionalne varnosti, bi morali odgovoriti skozi demokratični proces. Vloga podjetij, kot je naše, je pomagati pri oblikovanju teh odločitev, ne pa jih sprejemati samostojno. Zato podpiramo zakonodajna prizadevanja za vzpostavitev varoval pri nekaterih najbolj tveganih vojaških uporabah umetne inteligence, tudi v kontekstu domačega nadzora, avtonomnih orožnih sistemov in drugih zelo tveganih uporab, ki neposredno vplivajo na nacionalno varnost ZDA.

Načela preberite tukaj⁠(odpre se v novem oknu).