Governança democràtica de la IA d'avantguarda, part II: potenciem els ciberdefensors
La IA està canviant la velocitat, l'escala i els aspectes econòmics de la ciberseguretat. Pot ajudar els ciberdefensors a trobar i corregir vulnerabilitats, a detectar intrusions i a respondre als atacs, però aquestes mateixes capacitats poden afavorir els actors maliciosos i crear nous riscos quan els sistemes d'IA actuen més enllà dels límits previstos. Som en un moment propici per a la ciberdefensa: tenim una oportunitat limitada per posar la IA avançada a les mans dels ciberdefensors i reforçar les proteccions abans que les capacitats avançades de ciberatac estiguin a l'abast de tothom.
Avui publiquem un pla estratègic per potenciar els ciberdefensors que es basa en el nostre pla d'acció anterior en matèria de ciberseguretat i en el pla estratègic de seguretat de la IA d'avantguarda(s'obre en una finestra nova). La nostra experiència amb la desalineació i els incidents de seguretat relacionats amb els nostres propis models posa de manifest la necessitat de reforçar les salvaguardes i la rendició de comptes a tot el sector. A partir d'aquests aprenentatges, el pla estratègic planteja propostes concretes per als governs i el sector en tres àmbits:
Reforçar la seguretat i la protecció de la IA avançada: establir responsabilitats més clares per protegir els models i agents d'avantguarda, detectar comportaments perillosos i mantenir mecanismes d'aturada fiables per a les operacions sota el control de cada organització.
Modernitzar la ciberseguretat per a l'era de la intel·ligència: proporcionar als ciberdefensors eines avançades, formació i assistència tècnica; resoldre les febleses persistents de la ciberseguretat, i invertir en la protecció dels serveis essencials i en la substitució dels sistemes obsolets.
Construir institucions públiques resilients i adaptables: reforçar les avaluacions governamentals i les avaluacions tècniques independents, establir requisits coherents de notificació d'incidents i millorar la coordinació de la resposta i la recuperació.
Els laboratoris d'IA tenen la responsabilitat d'abordar els riscos que generen els seus sistemes i ajudar a reforçar les defenses de la societat. Els governs també han de disposar dels coneixements, els recursos i les competències necessaris per protegir la ciutadania a mesura que avancen les capacitats. Animem els responsables polítics a actuar ara: establir salvaguardes, aprendre de l'experiència i reforçar els requisits a mesura que la tecnologia evoluciona.
Llegeix el pla estratègic complet aquí(s'obre en una finestra nova).
