Guvernanța democratică a AI de vârf, partea a II-a: sprijinirea echipelor de apărare cibernetică
AI schimbă ritmul, amploarea și aspectele economice ale securității cibernetice. Poate ajuta echipele de apărare cibernetică să identifice și să remedieze vulnerabilități, să detecteze intruziuni și să răspundă atacurilor. Însă aceleași capabilități pot sprijini actori rău intenționați și pot crea riscuri noi atunci când sistemele de AI depășesc limitele în care ar trebui să funcționeze. Ne aflăm într-un moment favorabil apărării cibernetice: avem la dispoziție un interval limitat pentru a pune AI avansată în mâinile echipelor de apărare și a consolida protecția, înainte ca capabilitățile avansate de atac cibernetic să devină disponibile pe scară largă.
Astăzi publicăm un plan pentru a sprijini echipele de apărare cibernetică, pornind de la planul nostru anterior de acțiune pentru securitate cibernetică și de la planul pentru siguranța AI de vârf(se deschide într-o fereastră nouă). Experiența noastră cu abaterile de la comportamentul dorit și cu incidentele de securitate care au implicat propriile modele subliniază nevoia unor măsuri de protecție mai solide și a unei responsabilități sporite în întregul sector. Pe baza acestor lecții, planul formulează propuneri concrete pentru guverne și industrie în trei domenii:
Consolidarea siguranței și securității AI avansate: stabilirea unor responsabilități mai clare pentru securizarea modelelor și agenților de vârf, detectarea comportamentelor periculoase și menținerea unor mecanisme fiabile de oprire a operațiunilor aflate sub controlul fiecărei organizații.
Modernizarea securității cibernetice pentru era inteligenței: dotarea echipelor de apărare cu instrumente avansate, formare și asistență tehnică; remedierea deficiențelor persistente în securitatea cibernetică; investiții în securizarea serviciilor esențiale și înlocuirea sistemelor învechite.
Construirea unor instituții publice reziliente și adaptabile: consolidarea evaluărilor guvernamentale și a evaluărilor tehnice independente, stabilirea unor cerințe consecvente de raportare a incidentelor și îmbunătățirea coordonării intervenției și a restabilirii funcționării.
Laboratoarele de AI au responsabilitatea de a gestiona riscurile create de sistemele lor și de a contribui la consolidarea mecanismelor de apărare ale societății. La rândul lor, guvernele trebuie să dispună de expertiza, resursele și autoritatea necesare pentru a proteja populația pe măsură ce capabilitățile avansează. Îi încurajăm pe factorii de decizie să acționeze acum: să instituie măsuri de protecție, să învețe din experiență și să înăsprească cerințele pe măsură ce tehnologia evoluează.
Citește planul integral aici(se deschide într-o fereastră nouă).
