Com enfoquem les aliances governamentals i de seguretat nacional
Els governs comencen a utilitzar sistemes d'IA d'avantguarda per a tasques cada cop més importants, també en seguretat nacional. Això crea noves exigències perquè els laboratoris d'IA, els governs i la societat civil treballin plegats sobre com s'han d'utilitzar aquestes eines en entorns sensibles.
Creiem que les societats democràtiques han de poder utilitzar la IA per protegir les persones, defensar infraestructures crítiques, prestar serveis públics i respondre a amenaces emergents, també en àmbits com la ciberdefensa i la seguretat biològica, on la IA pot donar un avantatge real als defensors. Però els sistemes d'IA cada vegada més capaços s'han de desplegar de manera que reforcin la rendició de comptes democràtica, el judici humà significatiu i l'estat de dret, i que enforteixin les institucions democràtiques en lloc de concentrar el poder.
Avui publiquem els Principis de seguretat nacional d'OpenAI per oferir transparència sobre com abordem les aliances amb governs i els usos de la nostra tecnologia en seguretat nacional.
Aquests principis reflecteixen un esforç transversal de tota l'empresa per desenvolupar un enfocament més complet de la nostra feina en l'àmbit de la seguretat nacional i l'aplicació de la llei a mesura que la nostra tecnologia continua avançant. Vam comptar amb un destacat expert en seguretat nacional, David Kris, perquè ajudés a facilitar el procés i aportés el seu criteri independent; vam organitzar sessions d'escolta a tota l'empresa i vam involucrar empleats que representaven diversos equips, de recerca i seguretat a polítiques públiques i aliances governamentals.
Els publiquem ara mentre ampliem la nostra feina amb el govern dels Estats Units i socis aliats en àrees defensives crítiques, especialment en ciberseguretat i bioseguretat. Durant el darrer mes, com a part del nostre programa de ciberdefensa Daybreak, ja hem establert aliances d'Accés de confiança per a ciberseguretat amb Austràlia, el Canadà, el Japó, la República de Corea, França, Alemanya, Polònia, els Països Baixos i institucions de la UE com ENISA. També mantenim una aliança creixent i de confiança amb el govern del Regne Unit en ciberseguretat, proves i avaluació. Estem adoptant un enfocament similar en bioseguretat. El mes passat també vam anunciar l'ampliació de l'accés de confiança al nostre model GPT‑Rosalind per a socis seleccionats del govern dels Estats Units i aliats que donen suport a missions de salut pública i biodefensa.
Aquests principis s'apliquen a les nostres aliances actuals i futures en seguretat nacional i aplicació de la llei, inclosa la feina que ja fem amb el Departament de Guerra. Quan vam anunciar el nostre acord a principis d'aquest any, vam formular diverses restriccions contractuals: no utilitzar la tecnologia d'OpenAI per a la vigilància massiva dins del país, no utilitzar la tecnologia d'OpenAI per dirigir sistemes d'armes autònomes i no utilitzar la tecnologia d'OpenAI per a decisions automatitzades d'alt impacte. Aquestes restriccions són coherents amb els principis que compartim avui.
Creiem que el que cal fer és explicar clarament com es pot utilitzar la nostra tecnologia i com no, i ser transparents al respecte. Però moltes de les preguntes més transcendentals sobre la IA al govern, especialment en seguretat nacional, s'han de respondre a través del procés democràtic. El paper d'empreses com la nostra és ajudar a informar aquestes decisions, no prendre-les soles. Per això donem suport als esforços legislatius per establir salvaguardes al voltant d'alguns dels usos militars de la IA de més risc, inclosos els contextos de vigilància interna, sistemes d'armes autònomes i altres usos d'alt risc que afecten directament la seguretat nacional dels Estats Units.
Llegeix els principis aquí(s'obre en una finestra nova).
