Demokratická správa průkopnické AI, část II: Podpora obránců v kyberprostoru
AI mění rychlost, rozsah i ekonomiku kybernetické bezpečnosti. Může obráncům pomáhat odhalovat a odstraňovat zranitelnosti, zjišťovat průniky do systémů a reagovat na útoky. Tytéž schopnosti však mohou pomáhat i útočníkům a vytvářet nová rizika, pokud systémy AI překročí vymezené hranice svého působení. Právě teď mají obránci časově omezenou příležitost: mohou získat pokročilou AI a posílit ochranu dříve, než se pokročilé schopnosti pro kybernetické útoky stanou široce dostupnými.
Dnes zveřejňujeme plán na podporu obránců v kyberprostoru, který navazuje na náš dřívější akční plán pro kybernetickou bezpečnost a plán bezpečnosti průkopnické AI(otevře se v novém okně). Naše zkušenosti s nesladěným chováním a bezpečnostními incidenty týkajících se našich vlastních modelů, podtrhují potřebu silnějších ochranných opatření a větší odpovědnosti v celém odvětví. Na základě těchto zkušeností plán předkládá konkrétní návrhy pro orgány veřejné správy i firmy v oboru ve třech oblastech:
Posílení bezpečnosti a zabezpečení pokročilé AI: Jasněji vymezit odpovědnost za zabezpečení průkopnických modelů a agentů, odhalování nebezpečného chování a zajištění spolehlivých mechanismů pro vypnutí činností, které má daná organizace pod kontrolou.
Modernizace kybernetické bezpečnosti pro věk inteligence: Poskytnout obráncům pokročilé nástroje, školení a technickou podporu, řešit dlouhodobé slabiny kybernetické bezpečnosti a investovat do zabezpečení základních služeb a nahrazování zastaralých systémů.
Budování odolných a přizpůsobivých veřejných institucí: Posílit hodnocení prováděná státem i nezávislá technická posouzení, zavést jednotné požadavky na hlášení incidentů a zlepšit koordinaci reakce i obnovy.
Organizace vyvíjející AI mají povinnost řešit rizika, která jejich systémy vytvářejí, a pomáhat posilovat obranyschopnost společnosti. I orgány veřejné správy musí mít odborné znalosti, zdroje a pravomoci potřebné k ochraně veřejnosti s tím, jak schopnosti AI rostou. Vyzýváme tvůrce politik, aby jednali už nyní – zaváděli ochranná opatření, učili se ze zkušeností a s vývojem technologie zpřísňovali požadavky.
Celý plán si přečtěte zde(otevře se v novém okně).
