Posílení demokratického dohledu v národní bezpečnosti

AI mění způsob, jakým demokratické vlády chrání své občany. Dokáže pomáhat zastavovat kybernetické útoky, zabezpečit kritickou infrastrukturu, dříve odhalovat hrozby a poskytovat státním zaměstnancům jasnější přehled v krizových situacích. Při správném používání mohou tyto nástroje posílit národní bezpečnost.

Demokratický dohled pomáhá zajistit, aby výkon veřejné moci podléhal kontrole občanů, kterým slouží. S tím, jak AI zrychluje a zefektivňuje činnosti v oblasti národní bezpečnosti, musí držet krok i instituce odpovědné za dohled nad těmito činnostmi. AI je schopná rychle a ve velkém měřítku jednat na základě chybějících či zastaralých souvislostí, nesprávně nastavených cílů nebo chybných předpokladů, a takové chyby je obtížnější ručně odhalit dříve, než se rozšíří. Dohled je při využívání AI v národní bezpečnosti obzvlášť důležitý, protože rozhodování může z podstaty věci podléhat utajení a mít závažné důsledky.

Při nasazování v oblasti národní bezpečnosti se řídíme našimi zásadami národní bezpečnosti a uplatňujeme ochranná opatření, smysluplný lidský úsudek a odpovídající dohled, zejména v situacích se závažnými důsledky. Podle týchž zásad je pro nás prioritou pomoci institucím pověřeným dohledem, aby dokázaly dohlížet na používání AI dostatečně rychle a ve velkém měřítku.

Státní instituce již mají stanovené pravomoci a povinnosti pro dohled nad činnostmi v oblasti národní bezpečnosti. Pokud se na těchto činnostech podílí AI, může být nutné dohled udělal příslušné pokroky. Tradiční dohled je pracný a stává se téměř nemožným, pokud mají malé týmy pomocí metod z éry papírových dokumentů kontrolovat systémy pracující rychlostí strojů.

OpenAI je přesvědčena, že schopnější systémy vyžadují důslednější dohled, a tuto zásadu uplatňujeme i sami na sebe. Podle našeho rámce připravenosti procházejí pokročilé modely před nasazením důkladným přezkumem, abychom porozuměli jejich schopnostem a zjistili, zda jsou ochranná opatření dostatečná. Tato kontrola pokračuje i po nasazení prostřednictvím průběžného monitorování a přezkumu incidentů. Získané poznatky využíváme k posílení ochranných opatření a dalšímu vývoji modelů.

OpenAI nevykonává dohled nad veřejnou správou a ani by jej vykonávat neměla. Tato odpovědnost náleží voleným představitelům a veřejným institucím, které byly za tímto účelem zřízeny. Můžeme však dohledové instituce podpořit našimi technologiemi při plnění jejich stávajících úkolů.

Tato práce se bude řídit třemi zásadami.

Zaprvé, AI by měla lidský a institucionální úsudek posilovat, nikoli nahrazovat. Rozhodování o tom, zda je postup vlády zákonný, přiměřený a v souladu s platnými pravidly a zásadami, náleží oprávněným orgánům a zákonně ustanoveným dohledovým institucím.

Zadruhé, používání AI státními orgány by mělo být pro oprávněné dohledové instituce kontrolovatelné a srozumitelné. Kontrolní pracovníci by měli být schopni pochopit, jak AI přispěla k rozhodnutí, a současně chránit utajované, soukromé a bezpečnostně citlivé informace.

Zatřetí, AI by měla sloužit k posílení demokratických dohledových institucí. Ruční dohled nad používáním AI ve státní správě není možné naškálovat. S tím, jak se AI zavádí v národní bezpečnosti a dalších oblastech státní správy se závažnými důsledky, by ji měly odpovědně, srozumitelně a v souladu se svým mandátem využívat také dohledové orgány.

V příštím roce plánujeme tuto iniciativu rozvíjet následujícími způsoby:

• Budeme spolupracovat s oprávněnými představiteli na hledání konkrétních příležitostí, kde mohou nástroje AI nebo technická podpora zefektivnit dohled.

• Demokratickým státním dohledovým orgánům poskytneme školení, technickou podporu a kredity OpenAI v celkové hodnotě 5 milionů dolarů, abychom podpořili odpovědné zavádění a hodnocení nástrojů AI.

• Ve spolupráci s dohledovými institucemi pilotně ověříme nástroje, které oprávněným kontrolním pracovníkům pomohou zkoumat záznamy související s rozhodnutími státních orgánů učiněnými za pomoci AI, včetně příslušných vstupů, výstupů a použití nástrojů, aby lépe porozuměli vlivu AI na výsledky. Nástroje budou tam, kde to bude možné, interoperabilní nebo nezávislé na konkrétním modelu. Kontrolu nad podklady, výstupy a zjištěními si ponechají zúčastněné instituce, nikoli OpenAI. Přístup k nim budou mít pouze oprávnění představitelé veřejné správy.

• Zapojíme občanskou společnost a technické odborníky, aby jejich názory ovlivňovaly způsob, jakým OpenAI tyto nástroje vyvíjí a jak přistupuje k odpovědnosti, která s nimi souvisejí.

AI může moc koncentrovat, nebo ji může demokratickým institucím pomáhat vykonávat a kontrolovat účinněji. O tom, která budoucnost nás čeká, nerozhodne samotná technologie, ale rozhodnutí, která nyní učiní lidské instituce a firmy.

Úspěchy této iniciativy budeme posuzovat podle toho, zda oprávnění kontrolní pracovníci dokážou lépe plnit své povinnosti a zda bude mít veřejnost pádnější důvody věřit, že státní AI systémy jsou používány v souladu se svým účelem.

S dalším vývojem používání AI státními orgány bude OpenAI nadále podporovat instituce odpovědné za dohled.