Reforçar a supervisão democrática na segurança nacional

A IA está a mudar a forma como os governos democráticos protegem as suas populações. Pode ajudar a travar ciberataques, proteger infraestruturas críticas, detetar ameaças mais cedo e dar aos funcionários públicos uma visão mais clara em situações de crise. Se forem bem utilizadas, estas ferramentas podem reforçar a segurança nacional.

A supervisão democrática ajuda a garantir que o exercício do poder público continua sujeito à prestação de contas perante as pessoas que serve. À medida que a IA torna o trabalho de segurança nacional mais rápido e eficaz, as instituições responsáveis por supervisioná-lo também têm de acompanhar essa evolução. A IA pode agir com rapidez e em grande escala com base em contexto incompleto ou desatualizado, objetivos mal configurados ou pressupostos desalinhados, dificultando a deteção manual de erros antes que se propaguem. A supervisão é especialmente importante na utilização da IA para a segurança nacional, pois as decisões podem necessariamente envolver sigilo e ter consequências graves.

Orientados pelos nossos Princípios de Segurança Nacional, abordamos as implementações no domínio da segurança nacional com salvaguardas, uma intervenção humana significativa e supervisão adequada, sobretudo em contextos de alto risco. Esses princípios também dão prioridade a ajudar as instituições responsáveis pela supervisão a desenvolver a capacidade necessária para acompanhar a utilização da IA com rapidez e em grande escala.

As instituições governamentais já dispõem de competências e responsabilidades estabelecidas para supervisionar as atividades de segurança nacional. Quando a IA contribui para essas atividades, poderá ser necessário fazer evoluir a supervisão. A supervisão tradicional exige muito trabalho e torna-se quase impossível quando se pede a pequenas equipas, que utilizam métodos da era do papel, que analisem sistemas a funcionar à velocidade das máquinas.

A OpenAI acredita que sistemas mais capazes exigem uma supervisão mais rigorosa e aplica esse princípio a si própria. Ao abrigo do nosso Preparedness Framework, os modelos avançados são submetidos a uma análise rigorosa antes da implementação, para compreender as suas capacidades e determinar se as salvaguardas são suficientes. Esse escrutínio prossegue após a implementação, através de monitorização contínua e análise de incidentes, e as lições retiradas contribuem para salvaguardas mais robustas e para o desenvolvimento futuro de modelos.

A OpenAI não exerce, nem deve exercer, qualquer função de supervisão sobre o governo. Essa responsabilidade cabe aos representantes eleitos e às instituições públicas criadas para esse fim. Podemos, isso sim, apoiar com a nossa tecnologia as instituições de supervisão no cumprimento dos seus atuais mandatos.

Este trabalho será orientado por três princípios.

Primeiro, a IA deve reforçar, e não substituir, o discernimento humano e institucional. As decisões sobre se a atuação do governo é lícita, adequada e coerente com as regras e políticas aplicáveis cabem aos organismos autorizados e aos órgãos de supervisão legalmente constituídos.

Segundo, a utilização da IA pelo governo deve ser rastreável e compreensível para as entidades de supervisão autorizadas. Os responsáveis pela análise devem conseguir compreender de que forma a IA contribuiu para uma decisão, protegendo simultaneamente as informações classificadas, privadas e sensíveis do ponto de vista da segurança.

Terceiro, a IA deve ser utilizada para capacitar as instituições de supervisão democrática. A supervisão manual da utilização da IA pelo governo não é escalável. À medida que a IA é adotada na segurança nacional e noutras áreas governamentais de alto risco, também deve ser utilizada pelos órgãos de supervisão de forma responsável, compreensível e em conformidade com os respetivos mandatos.

Ao longo do próximo ano, prevemos fazer avançar esta iniciativa das seguintes formas:

• Trabalharemos com responsáveis autorizados para identificar oportunidades práticas em que as ferramentas de IA ou o apoio técnico possam tornar a supervisão mais eficaz.

• Disponibilizaremos 5 milhões de dólares em formação, apoio técnico e créditos da OpenAI a órgãos de supervisão de governos democráticos, para apoiar a adoção e avaliação responsáveis de ferramentas de IA.

• Trabalharemos com instituições de supervisão em projetos-piloto de ferramentas que ajudem os responsáveis autorizados a analisar os registos associados a decisões governamentais apoiadas por IA — incluindo dados de entrada e saída pertinentes e a utilização de ferramentas — para compreender melhor como a IA afetou os resultados. Sempre que possível, as ferramentas serão interoperáveis ou independentes do modelo. As instituições participantes, e não a OpenAI, manterão o controlo das provas, dos resultados e das conclusões, que continuarão disponíveis apenas para os responsáveis governamentais autorizados.

• Envolveremos a sociedade civil e especialistas técnicos, para que as suas perspetivas contribuam para a forma como a OpenAI desenvolve estas ferramentas e assume as responsabilidades que lhes estão associadas.

A IA pode concentrar o poder ou ajudar as instituições democráticas a exercê-lo e a controlá-lo de forma mais eficaz. A tecnologia, por si só, não decidirá qual destes futuros teremos, mas as escolhas que as instituições e empresas humanas fizerem agora irão decidi-lo.

Avaliaremos o progresso desta iniciativa em função de os responsáveis autorizados conseguirem cumprir melhor as suas obrigações e de o público ter motivos mais sólidos para confiar que os sistemas governamentais de IA estão a ser utilizados conforme previsto.

À medida que a utilização da IA pelo governo evoluir, a OpenAI continuará a apoiar as instituições responsáveis pela sua supervisão.