Náš prístup k vládnym a národnobezpečnostným partnerstvám
Vlády začínajú využívať prelomové systémy AI na čoraz dôležitejšie úlohy vrátane národnej bezpečnosti. To vytvára nové naliehavé požiadavky, aby laboratóriá AI, vlády a občianska spoločnosť spolupracovali na tom, ako by sa tieto nástroje mali používať v citlivých oblastiach.
Sme presvedčení, že demokratické spoločnosti by mali môcť používať AI na ochranu ľudí, obranu kritickej infraštruktúry, poskytovanie verejných služieb a reakciu na vznikajúce hrozby, a to aj v oblastiach, ako sú kybernetická obrana a biologická bezpečnosť, kde AI môže obrancom priniesť významnú výhodu. Čoraz schopnejšie systémy AI sa však musia nasadzovať spôsobom, ktorý posilňuje demokratickú zodpovednosť, zmysluplný ľudský úsudok a právny štát a ktorý upevňuje demokratické inštitúcie namiesto toho, aby koncentroval moc.
Dnes zverejňujeme Princípy národnej bezpečnosti spoločnosti OpenAI, aby sme transparentne ukázali, ako pristupujeme k partnerstvám s vládami a k využívaniu našej technológie v oblasti národnej bezpečnosti.
Tieto princípy odrážajú celofiremné úsilie vypracovať komplexnejší prístup k našej práci v oblasti národnej bezpečnosti a presadzovania práva, keďže naša technológia sa naďalej vyvíja. Do procesu sme zapojili popredného odborníka na národnú bezpečnosť Davida Krisa, aby ho pomohol viesť a poskytol svoj nezávislý úsudok; uskutočnili sme diskusie naprieč spoločnosťou a zapojili zamestnancov z rôznych tímov, od výskumu a bezpečnosti až po politiku a vládne partnerstvá.
Zverejňujeme ich teraz, keď rozširujeme našu spoluprácu s vládou USA a spojeneckými partnermi v kľúčových obranných oblastiach, najmä v kybernetickej a biologickej bezpečnosti. V uplynulom mesiaci sme v rámci nášho programu kybernetickej obrany Daybreak už nadviazali partnerstvá Trusted Access for Cyber s Austráliou, Kanadou, Japonskom, Kórejskou republikou, Francúzskom, Nemeckom, Poľskom, Holandskom a inštitúciami EÚ, ako je ENISA. Máme tiež rastúce a dôveryhodné partnerstvo s vládou Spojeného kráľovstva v kybernetickej oblasti, testovaní a hodnotení. Podobný prístup uplatňujeme aj v biologickej bezpečnosti. Minulý mesiac sme tiež oznámili rozšírený dôveryhodný prístup k nášmu modelu GPT‑Rosalind pre vybraných partnerov z vlády USA a spojeneckých krajín, ktorí podporujú misie v oblasti verejného zdravia a biologickej obrany.
Tieto princípy sa vzťahujú na naše súčasné aj budúce partnerstvá v oblasti národnej bezpečnosti a presadzovania práva vrátane našej existujúcej spolupráce s Ministerstvom vojny. Keď sme začiatkom tohto roka oznámili našu dohodu, sformulovali sme niekoľko zmluvných obmedzení: technológiu OpenAI nemožno používať na masové domáce sledovanie, na riadenie autonómnych zbraňových systémov ani na automatizované rozhodnutia s vysokými dôsledkami. Tieto obmedzenia sú v súlade s princípmi, ktoré dnes zdieľame.
Sme presvedčení, že správne je jasne pomenovať, ako sa naša technológia môže a nemôže používať, a transparentne o tom informovať. Na mnohé z najzásadnejších otázok týkajúcich sa AI vo verejnej správe, najmä v národnej bezpečnosti, by sa však malo odpovedať demokratickým procesom. Úlohou spoločností, ako je tá naša, je pomáhať tieto rozhodnutia informovať, nie ich samostatne prijímať. Preto podporujeme legislatívne snahy zaviesť ochranné opatrenia pre niektoré z najrizikovejších vojenských použití AI vrátane domáceho sledovania, autonómnych zbraňových systémov a ďalších vysoko rizikových použití, ktoré priamo ovplyvňujú národnú bezpečnosť USA.
Prečítajte si princípy tu(otvorí sa v novom okne).
