Reforçar la supervisió democràtica en la seguretat nacional

La IA està canviant la manera com els governs democràtics protegeixen la població. Pot ajudar a aturar ciberatacs, protegir infraestructures crítiques, detectar amenaces abans i oferir al personal públic una visió més clara durant una crisi. Ben utilitzades, aquestes eines poden reforçar la seguretat nacional.

La supervisió democràtica ajuda a garantir que l'exercici del poder públic reti comptes davant la ciutadania a la qual serveix. A mesura que la IA fa que la tasca de seguretat nacional sigui més ràpida i eficaç, les institucions encarregades de supervisar-la també han de mantenir el ritme. La IA pot actuar amb rapidesa i a gran escala a partir de contextos incomplets o obsolets, objectius mal configurats o supòsits desalineats, cosa que dificulta detectar manualment els errors abans que es propaguin. La supervisió és especialment important quan s'utilitza la IA en la seguretat nacional, perquè les decisions poden requerir secret i tenir conseqüències de gran transcendència.

D'acord amb els nostres Principis de seguretat nacional, abordem els desplegaments en aquest àmbit amb salvaguardes, criteri humà significatiu i una supervisió adequada, especialment en contextos d'alt risc. Aquests principis també prioritzen ajudar les institucions supervisores a desenvolupar la capacitat necessària per supervisar l'ús de la IA amb rapidesa i a gran escala.

Les institucions públiques ja tenen competències i responsabilitats establertes per supervisar les activitats de seguretat nacional. Quan la IA contribueix a aquestes activitats, pot ser necessari que la supervisió evolucioni. La supervisió tradicional requereix molta mà d'obra i esdevé gairebé impossible quan es demana a equips petits, que treballen amb mètodes de l'era del paper, que revisin sistemes que operen a la velocitat de les màquines.

OpenAI considera que els sistemes més capaços requereixen una supervisió més estricta, i ens apliquem aquest principi. D'acord amb el nostre Entorn de treball de preparació, els models avançats se sotmeten a una revisió rigorosa abans del desplegament per entendre'n les capacitats i determinar si les salvaguardes són suficients. Aquest escrutini continua després del desplegament mitjançant la supervisió contínua i la revisió d'incidents, i els aprenentatges obtinguts serveixen per reforçar les salvaguardes i orientar el desenvolupament futur de models.

OpenAI no exerceix cap funció de supervisió sobre el govern, ni ho hauria de fer. Aquesta responsabilitat correspon als càrrecs electes i a les institucions públiques creades amb aquesta finalitat. En canvi, podem donar suport tecnològic a les institucions supervisores perquè compleixin els seus mandats vigents.

Tres principis guiaran aquesta tasca.

Primer, la IA ha de reforçar el criteri humà i institucional, no substituir-lo. Les decisions sobre si l'actuació del govern és legal, adequada i coherent amb les normes i polítiques aplicables corresponen als organismes autoritzats i als òrgans de supervisió constituïts legalment.

Segon, l'ús governamental de la IA ha de ser traçable i comprensible per als òrgans de supervisió autoritzats. Els responsables de la revisió han de poder entendre com ha contribuït la IA a una decisió, alhora que es protegeix la informació classificada, privada i sensible per a la seguretat.

Tercer, la IA s'ha d'utilitzar per reforçar les institucions de supervisió democràtica. La supervisió manual de l'ús governamental de la IA no es pot ampliar a gran escala. A mesura que s'adopti la IA en la seguretat nacional i en altres tasques governamentals d'alt risc, els òrgans de supervisió també l'han d'utilitzar de manera responsable, comprensible i conforme als seus mandats.

Durant l'any vinent, preveiem impulsar aquesta iniciativa de les maneres següents:

• Treballarem amb responsables autoritzats per identificar oportunitats pràctiques en què les eines d'IA o el suport tècnic puguin fer més efectiva la supervisió.

• Proporcionarem cinc milions de dòlars en formació, suport tècnic i crèdits d'OpenAI als òrgans de supervisió dels governs democràtics per fomentar l'adopció i l'avaluació responsables d'eines d'IA.

• Treballarem amb les institucions supervisores per provar eines que ajudin els responsables autoritzats a examinar els registres relacionats amb decisions governamentals assistides per IA, incloses les entrades, les sortides i l'ús d'eines pertinents, per entendre millor com la IA ha influït en els resultats. Quan sigui viable, les eines seran interoperables o independents del model. Les institucions participants, i no OpenAI, mantindran el control de les proves, els resultats i les conclusions, que només estaran disponibles per als responsables governamentals autoritzats.

• Col·laborarem amb la societat civil i experts tècnics perquè les seves perspectives orientin el desenvolupament d'aquestes eines per part d'OpenAI i la manera com abordem les responsabilitats que comporten.

La IA pot concentrar el poder o ajudar les institucions democràtiques a exercir-lo i controlar-lo amb més eficàcia. La tecnologia per si sola no decidirà quin futur tindrem, però sí que ho faran les decisions que prenguin ara les institucions humanes i les empreses.

Avaluarem el progrés d'aquesta iniciativa segons si els responsables autoritzats poden complir millor les seves obligacions i si la ciutadania té més motius per confiar que els sistemes governamentals d'IA s'utilitzen per a la finalitat prevista.

A mesura que evolucioni l'ús governamental de la IA, OpenAI continuarà donant suport a les institucions encarregades de supervisar-la.