Fortalecimento da supervisão democrática na segurança nacional

A IA está mudando a forma como governos democráticos protegem sua população. Ela pode ajudar a impedir ataques cibernéticos, proteger infraestruturas críticas, detectar ameaças com antecedência e dar aos servidores públicos uma visão mais clara durante crises. Quando bem utilizadas, essas ferramentas podem fortalecer a segurança nacional.

A supervisão democrática ajuda a garantir que o exercício do poder público continue sujeito à prestação de contas à população que ele serve. À medida que a IA torna o trabalho de segurança nacional mais ágil e eficaz, as instituições responsáveis por supervisioná-lo também precisam acompanhar esse avanço. A IA pode agir com base em contextos ausentes ou desatualizados, objetivos mal configurados ou premissas desalinhadas, com velocidade e escala que dificultam a detecção manual de erros antes que se propaguem. A supervisão é especialmente importante no uso da IA para a segurança nacional, pois as decisões podem necessariamente envolver sigilo e ter consequências de grande impacto.

Orientados por nossos Princípios de Segurança Nacional, tratamos as implantações na área de segurança nacional com salvaguardas, avaliação humana criteriosa e supervisão adequada, especialmente em contextos de alto risco. Esses princípios também priorizam ajudar as instituições responsáveis pela supervisão a desenvolver a capacidade de acompanhar o uso da IA em grande escala e alta velocidade.

As instituições governamentais já têm competências e responsabilidades estabelecidas para supervisionar atividades de segurança nacional. Quando a IA contribui para essas atividades, a supervisão pode precisar evoluir. A supervisão tradicional exige muito trabalho e se torna quase impossível quando pequenas equipes, usando métodos da era do papel, precisam analisar sistemas que operam na velocidade das máquinas.

A OpenAI acredita que sistemas mais capazes exigem supervisão mais rigorosa e aplica esse princípio a si própria. Nos termos do nosso Preparedness Framework, modelos avançados passam por uma análise rigorosa antes da implantação para compreendermos suas capacidades e determinarmos se as salvaguardas são suficientes. Esse escrutínio continua após a implantação, com monitoramento permanente e análise de incidentes, e o aprendizado obtido orienta salvaguardas mais robustas e o desenvolvimento de modelos futuros.

A OpenAI não exerce — nem deve exercer — uma função de supervisão sobre o governo. Essa responsabilidade cabe às autoridades eleitas e às instituições públicas criadas para essa finalidade. Em vez disso, podemos apoiar com nossa tecnologia as instituições de supervisão no cumprimento de suas atribuições atuais.

Três princípios orientarão esse trabalho.

Primeiro, a IA deve fortalecer, e não substituir, o discernimento humano e institucional. As decisões sobre a legalidade e a adequação da conduta governamental, bem como sua conformidade com as normas e políticas aplicáveis, cabem aos órgãos autorizados e às entidades de supervisão legalmente constituídas.

Segundo, o uso governamental da IA deve ser rastreável e compreensível para os órgãos de supervisão autorizados. Os responsáveis pela análise devem conseguir entender como a IA contribuiu para uma decisão, ao mesmo tempo que protegem informações sigilosas, privadas e sensíveis à segurança.

Terceiro, a IA deve ser usada para fortalecer as instituições de supervisão democrática. A supervisão manual do uso da IA no governo não é escalável. À medida que a IA for adotada na segurança nacional e em outras atividades governamentais de alto risco, ela também deverá ser usada pelos órgãos de supervisão de forma responsável, compreensível e em conformidade com suas atribuições.

No próximo ano, planejamos promover esta iniciativa das seguintes formas:

• Trabalharemos com autoridades competentes para identificar oportunidades práticas em que ferramentas de IA ou suporte técnico possam tornar a supervisão mais eficaz.

• Forneceremos US$ 5 milhões em treinamento, suporte técnico e créditos da OpenAI a órgãos de supervisão de governos democráticos, a fim de apoiar a adoção e a avaliação responsáveis de ferramentas de IA.

• Trabalharemos com instituições de supervisão para testar ferramentas que ajudem os responsáveis autorizados a analisar os registros relacionados a decisões governamentais apoiadas por IA — incluindo entradas, saídas e usos de ferramentas relevantes — e compreender melhor como a IA afetou os resultados. Sempre que possível, as ferramentas serão interoperáveis ou independentes de modelo. As instituições participantes, e não a OpenAI, manterão o controle das evidências, dos resultados e das conclusões, que continuarão disponíveis apenas para autoridades governamentais autorizadas.

• Dialogaremos com a sociedade civil e especialistas técnicos para que suas perspectivas orientem a forma como a OpenAI desenvolve essas ferramentas e lida com as responsabilidades decorrentes delas.

A IA pode concentrar poder ou ajudar instituições democráticas a exercê-lo e fiscalizá-lo com mais eficácia. A tecnologia por si só não determinará qual futuro teremos, mas as escolhas feitas agora por instituições humanas e empresas determinarão.

Avaliaremos o progresso desta iniciativa verificando se os responsáveis autorizados conseguem cumprir melhor suas obrigações e se a população tem motivos mais sólidos para confiar que os sistemas governamentais de IA estão sendo usados conforme previsto.

À medida que o uso governamental da IA evoluir, a OpenAI continuará apoiando as instituições responsáveis por sua supervisão.