Posilnenie demokratického dohľadu v národnej bezpečnosti

Umelá inteligencia mení spôsob, akým demokratické vlády chránia svojich občanov. Môže pomáhať zastaviť kybernetické útoky, chrániť kritickú infraštruktúru, skôr odhaľovať hrozby a poskytovať verejným činiteľom jasnejší obraz o krízovej situácii. Ak sa tieto nástroje používajú správne, môžu posilniť národnú bezpečnosť.

Demokratický dohľad pomáha zabezpečiť, aby výkon verejnej moci naďalej podliehal kontrole ľudí, ktorým slúži. Keďže umelá inteligencia zrýchľuje a zefektívňuje prácu v oblasti národnej bezpečnosti, krok s ňou musia držať aj inštitúcie zodpovedné za dohľad nad touto prácou. Umelá inteligencia môže rýchlo a vo veľkom rozsahu konať na základe chýbajúceho či zastaraného kontextu, nesprávne nastavených cieľov alebo nevhodných predpokladov, čo sťažuje manuálne odhalenie chýb skôr, než sa rozšíria. Dohľad je mimoriadne dôležitý pri využívaní umelej inteligencie v národnej bezpečnosti, pretože rozhodnutia môžu nevyhnutne podliehať utajeniu a mať závažné dôsledky.

V súlade s našimi zásadami národnej bezpečnosti pristupujeme k nasadzovaniu systémov v oblasti národnej bezpečnosti s ochrannými opatreniami, zmysluplným ľudským úsudkom a primeraným dohľadom, najmä v situáciách so závažnými dôsledkami. Tieto zásady zároveň uprednostňujú pomoc inštitúciám povereným dohľadom, aby si vybudovali kapacity na dohľad nad rýchlym a rozsiahlym využívaním umelej inteligencie.

Vládne inštitúcie už majú stanovené právomoci a povinnosti v oblasti dohľadu nad činnosťami týkajúcimi sa národnej bezpečnosti. Keď k týmto činnostiam prispieva umelá inteligencia, dohľad sa možno bude musieť prispôsobiť. Tradičný dohľad je pracovne náročný a stáva sa takmer nemožným, keď majú malé tímy používajúce postupy z éry papierových dokumentov kontrolovať systémy fungujúce rýchlosťou strojov.

OpenAI zastáva názor, že výkonnejšie systémy si vyžadujú prísnejší dohľad, a túto zásadu uplatňujeme aj na seba. Podľa nášho Rámca pripravenosti prechádzajú pokročilé modely pred nasadením dôkladným preskúmaním, aby sme porozumeli ich schopnostiam a určili, či sú ochranné opatrenia dostatočné. Táto kontrola pokračuje aj po nasadení prostredníctvom priebežného monitorovania a preverovania incidentov, pričom získané poznatky využívame na posilňovanie ochranných opatrení a budúci vývoj modelov.

OpenAI nevykonáva dohľad nad vládou a ani by ho vykonávať nemala. Táto zodpovednosť patrí voleným predstaviteľom a verejným inštitúciám zriadeným na tento účel. Namiesto toho môžeme inštitúcie dohľadu podporovať našimi technológiami pri plnení ich existujúcich úloh.

Pri tejto práci sa budeme riadiť tromi zásadami.

Po prvé, umelá inteligencia má posilňovať, nie nahrádzať ľudský a inštitucionálny úsudok. Rozhodnutia o tom, či je konanie vlády zákonné, primerané a v súlade s platnými pravidlami a politikami, patria oprávneným orgánom a zákonne zriadeným orgánom dohľadu.

Po druhé, používanie umelej inteligencie vládou musí byť vysledovateľné a zrozumiteľné pre oprávnené orgány dohľadu. Kontrolóri musia vedieť pochopiť, ako umelá inteligencia prispela k rozhodnutiu, a zároveň chrániť utajované, súkromné a bezpečnostne citlivé informácie.

Po tretie, umelá inteligencia sa má využívať na posilnenie demokratických inštitúcií dohľadu. Manuálny dohľad nad používaním umelej inteligencie vo verejnej správe nemožno vykonávať vo veľkom rozsahu. S rozširovaním umelej inteligencie v národnej bezpečnosti a ďalších významných oblastiach verejnej správy by ju mali zodpovedne, transparentne a v súlade so svojimi mandátmi využívať aj orgány dohľadu.

V nasledujúcom roku plánujeme túto iniciatívu rozvíjať týmito spôsobmi:

• Budeme spolupracovať s oprávnenými predstaviteľmi na identifikácii praktických príležitostí, pri ktorých môžu nástroje umelej inteligencie alebo technická podpora zefektívniť dohľad.

• Demokratickým vládnym orgánom dohľadu poskytneme školenia, technickú podporu a kredity OpenAI v hodnote 5 miliónov USD na podporu zodpovedného zavádzania a hodnotenia nástrojov umelej inteligencie.

• S inštitúciami dohľadu budeme pilotne overovať nástroje, ktoré oprávneným kontrolórom pomôžu skúmať záznamy súvisiace s rozhodnutiami vlády podporovanými umelou inteligenciou vrátane príslušných vstupov, výstupov a použitia nástrojov, aby lepšie pochopili vplyv umelej inteligencie na výsledky. Nástroje budú podľa možností interoperabilné alebo nezávislé od konkrétneho modelu. Kontrolu nad dôkazmi, výstupmi a zisteniami si zachovajú zúčastnené inštitúcie, nie OpenAI, pričom prístup k nim budú mať len oprávnení vládni predstavitelia.

• Zapojíme občiansku spoločnosť a technických odborníkov, aby ich pohľady ovplyvnili spôsob, akým OpenAI vyvíja tieto nástroje a pristupuje k povinnostiam, ktoré sú s nimi spojené.

Umelá inteligencia môže sústreďovať moc alebo môže demokratickým inštitúciám pomáhať účinnejšie ju vykonávať a kontrolovať. O tom, ktorá budúcnosť nás čaká, nerozhodne samotná technológia, ale rozhodnutia, ktoré dnes prijmú ľudské inštitúcie a spoločnosti.

Pokrok tejto iniciatívy budeme posudzovať podľa toho, či oprávnení kontrolóri dokážu lepšie plniť svoje povinnosti a či má verejnosť pádnejšie dôvody veriť, že vládne systémy umelej inteligencie sa používajú v súlade so svojím účelom.

S vývojom používania umelej inteligencie vo verejnej správe bude OpenAI naďalej podporovať inštitúcie zodpovedné za dohľad nad jej využívaním.