Náš přístup k partnerstvím s vládami a v oblasti národní bezpečnosti
Státy začínají využívat průkopnické systémy AI ke stále důležitější práci, mimo jiné v oblasti národní bezpečnosti. To vytváří nové naléhavou potřebu, aby AI laboratoře, vlády a občanská společnost spolupracovaly na tom, jak by se tyto nástroje měly používat v citlivých prostředích.
Jsme přesvědčeni, že demokratické společnosti by měly mít možnost používat AI k ochraně lidí, obraně kritické infrastruktury, poskytování veřejných služeb a reakci na vznikající hrozby, a to i v oblastech, jako je kybernetická obrana a biologická bezpečnost, kde může AI obráncům významně pomoci. Stále schopnější systémy AI však musí být nasazovány způsobem, který posiluje demokratickou odpovědnost, smysluplný lidský úsudek a právní stát a který demokratické instituce posiluje, místo aby soustřeďoval moc.
Dnes zveřejňujeme Principy národní bezpečnosti OpenAI, abychom transparentně ukázali, jak přistupujeme k vládním partnerstvím a využití naší technologie v oblasti národní bezpečnosti.
Tyto principy odrážejí celofiremní úsilí vytvořit komplexnější přístup k naší práci v oblasti národní bezpečnosti a prosazování práva, zatímco se naše technologie dále rozvíjí. Najali jsme předního odborníka na národní bezpečnost Davida Krise, aby proces pomáhal řídit a poskytoval svůj nezávislý úsudek. Uspořádali jsme interní setkání s nasloucháním v celé firmě a zapojili zaměstnance zastupující různé týmy od výzkumu a bezpečnosti až po veřejnou politiku a partnerství s veřejnou správou.
Zveřejňujeme je nyní, když rozšiřujeme spolupráci s vládou USA a spojeneckými partnery v klíčových obranných oblastech, zejména v kybernetické a biologické bezpečnosti. V uplynulém měsíci jsme v rámci našeho programu kybernetické obrany Daybreak už navázali partnerství Trusted Access for Cyber s Austrálií, Kanadou, Japonskem, Korejskou republikou, Francií, Německem, Polskem, Nizozemskem a institucemi EU, jako je ENISA. Máme také rostoucí a důvěryhodné partnerství s vládou Spojeného království v oblasti kybernetiky, testování a hodnocení. Podobný přístup uplatňujeme i v oblasti biologické bezpečnosti. Minulý měsíc jsme také oznámili rozšířený důvěryhodný přístup k našemu modelu GPT‑Rosalind pro vybrané partnery z vlády USA a spojeneckých zemí, kteří podporují mise v oblasti veřejného zdraví a biologické obrany.
Tyto principy se vztahují na naše současná i budoucí partnerství v oblasti národní bezpečnosti a prosazování práva, včetně naší stávající spolupráce s Ministerstvem války USA. Když jsme začátkem tohoto roku oznámili naši dohodu, stanovili jsme několik smluvních omezení: žádné použití technologie OpenAI pro masové sledování obyvatelstva na domácím území, žádné použití technologie OpenAI k řízení autonomních zbraňových systémů a žádné použití technologie OpenAI pro automatizovaná rozhodnutí s vysokými dopady. Tato omezení jsou v souladu s principy, které dnes sdílíme.
Jsme přesvědčeni, že správné je jasně říkat, jak naše technologie smí a nesmí být používána, a být v tom transparentní. Mnohé z nejzávažnějších otázek týkajících se AI ve státní správě, zejména v oblasti národní bezpečnosti, by však měly být zodpovězeny demokratickým procesem. Úlohou firem, jako je ta naše, je pomáhat, aby šlo o rozhodnutí informovaná, nikoli abychom rozhodovali my sami. Proto podporujeme úsilí o zavedení legislativních ochranných opatření u některých nejrizikovějších vojenských využití AI, mimo jiné v souvislosti s domácím sledováním, autonomními zbraňovými systémy a dalšími vysoce rizikovými způsoby použití, které přímo ovlivňují národní bezpečnost USA.
Principy si můžete přečíst zde(otevře se v novém okně).
