Informació i garanties electorals el 2026

El 2026 és el segon any electoral més important al nivell mundial des que l'ús de la IA generativa es va generalitzar, i continuem treballant a partir de la base que vam establir el 2024 per ajudar a protegir les eleccions en països i territoris d’arreu del món. 

El nostre objectiu és crear i desplegar de manera responsable productes innovadors que: 

• Proporcionin informació fiable sobre la votació i els resultats

• Donin suport als defensors de la infraestructura cibernètica 

• Augmentin la transparència al voltant del contingut generat per IA

• Lluitin contra l’ús indegut per part de persones malintencionades

• Supervisin el biaix dels nostres models per garantir que les respostes de ChatGPT siguin políticament neutrals

La gent ja fa servir ChatGPT per fer preguntes pràctiques en els idiomes que prefereix sobre esdeveniments cívics: com registrar-se, on votar, quins terminis s’apliquen, què passa amb una notícia en desenvolupament o on trobar resultats electorals oficials.

Partint de la nostra labor el 2024, treballem amb socis per dirigir la gent a fonts fiables d’informació sobre la votació. A partir d’aquesta tardor als Estats Units i al Brasil, OpenAI proporcionarà recomptes de vots en directe de The Associated Press⁠(s'obre en una finestra nova) a mesura que arribin els resultats la nit electoral. Als EUA, també col·laborarem amb Democracy Works⁠(s'obre en una finestra nova) per mostrar informació fiable sobre els processos de votació i registre, incloses les ubicacions de votació i altres qüestions logístiques electorals, quan la gent pregunti sobre aquests temes. A escala mundial, continuarem perfeccionant la manera com la cerca web mostren informació útil amb enllaços a les fonts. 

Des del 2024, hem continuat millorant la qualitat de la informació que la gent obté quan pregunta a ChatGPT sobre temes electorals i notícies d’última hora. ChatGPT pot cercar al web per oferir respostes més sòlides amb enllaços a les fonts perquè la gent pugui aprofundir-hi.

Aquest és un moment important per als defensors cibernètics de tots els sectors, i creiem que la IA té un paper fonamental en l'enfortiment de la infraestructura digital, inclosos els sistemes que donen suport a les eleccions. OpenAI es compromet a construir resiliència a tota la pila d’infraestructura, incloses maneres que donin suport a l’execució electoral.  

Recentment, vam anunciar Daybreak⁠, el nostre esforç per canviar la manera com es construeix i es defensa el programari. Daybreak inclou diversos programes destinats a fer que el programari sigui més segur i resilient, inclòs Codex Security, que identifica, valida i ajuda a corregir automàticament vulnerabilitats en el codi dels desenvolupadors. Per a una defensa més avançada, el nostre programa Trusted Access for Cyber ⁠(TAC) proporciona a persones verificades accés a models d'avantguarda per a la defensa cibernètica. Hem ofert Codex Security, així com accés a TAC, als fabricants de sistemes de votació registrats⁠(s'obre en una finestra nova) als EUA, i estem en contacte amb la National Association of Secretaries of State (NASS) i la National Association of State Election Directors (NASED) per garantir que les autoritats electorals estatals rebin informació sobre les darreres capacitats cibernètiques i les nostres eines per als defensors.  

Cada vegada més, la gent utilitza eines d’IA per crear contingut que després comparteix a les xarxes socials, les aplicacions de missatgeria i el web. Per ajudar a combatre els “deepfakes” enganyosos, invertim en un enfocament de procedència de diverses capes que permetrà a la gent verificar si el contingut que veu s’ha creat o modificat amb IA. 

La setmana passada, vam anunciar una aliança per portar SynthID ⁠marques d’aigua digitals a imatges generades a través de ChatGPT⁠, Codex o l’API d’OpenAI. Això es basa en el nostre compromís continu amb l’ús de l’estàndard C2PA (Coalition for Content Provenance and Authenticity), que utilitza metadades i signatures criptogràfiques per ajudar que la informació sobre una imatge viatgi de manera segura amb el contingut mateix. Aquests dos enfocaments són complementaris: SynthID incrusta una capa de marca d’aigua invisible que pot resistir captures de pantalla i altres transformacions, mentre que les metadades poden proporcionar més informació que una marca d’aigua sola. 

També presentem en avançament una eina pública de verificació⁠ que permet comprovar si una imatge trobada fora de la plataforma s’ha generat amb eines d’OpenAI. El lloc pot detectar si hi ha una marca d’aigua SynthID originada a OpenAI, així com mostrar metadades C2PA quan se’n trobin.

Les eines de procedència no són una solució completa contra l’engany relacionat amb les eleccions, però són una part important d’un marc d’integritat més ampli. I com que la majoria de la gent troba contingut d’IA a les xarxes socials i les plataformes de missatgeria, ens complau col·laborar amb empreses de xarxes socials mentre consideren passos per protegir les eleccions utilitzant marcadors de procedència com a senyal rellevant a l’hora de decidir quin contingut cívic recomanen i distribueixen al feed dels usuaris.  

I ens entusiasma donar suport a legislació que fomenti la transparència:

• La Llei per a la protecció de les eleccions contra la IA enganyosa (S. 1213)⁠(s'obre en una finestra nova) afegiria noves prohibicions a la distribució conscient de contingut generat per IA que sigui substancialment enganyós que impliqui candidats federals quan s’utilitzi per a activitat electoral federal.

• Preparació dels administradors electorals per a la Llei d'IA (S. 2346)⁠(s'obre en una finestra nova) exigiria que la Comissió d'assistència electoral emetés un informe amb directrius voluntàries per a les oficines electorals sobre l’ús i els riscos de les tecnologies d’IA en l’administració electoral. Aquestes directrius són especialment importants ateses les capacitats cibernètiques més grans dels models d'avantguarda.

OpenAI continuarà fent la seva part per combatre la interferència electoral. Fem complir les Polítiques d’ús⁠, que prohibeixen als usuaris desplegar les nostres eines per a interferència electoral, desmobilització o engany sobre l’origen del contingut generat per IA. 

Els nostres sistemes de detecció i aplicació han continuat millorant des del 2024. Supervisem i apliquem⁠ les polítiques amb mesures de seguretat de privacitat i processos de revisió clars. I actuem quan algú intenta utilitzar les nostres eines per interferir en el procés electoral, desincentivar la participació o enganyar la gent sobre l’origen del contingut generat per IA, incloent-hi com a part d’una activitat enganyosa coordinada. Quan identifiquem abusos, prenem mesures d’aplicació, incloent-hi restringir o rescindir l’accés als nostres serveis.

Els nostres equips d’Intel·ligència i Investigacions, Seguretat, Protecció i Integritat treballen per detectar patrons d’ús indegut i investigar intents d’utilitzar les nostres eines per a abusos enganyosos o relacionats amb eleccions, incloses operacions d’influència encobertes. Des de febrer del 2024⁠, hem publicat⁠ periòdicament⁠ informes⁠ amb⁠ les nostres⁠ conclusions⁠ i ho continuarem fent. 

Mentre el públic, els responsables polítics, les campanyes i les empreses treballen per desenvolupar normes sobre l’ús de la IA en política, continuem prohibint l’ús dels nostres productes per crear o distribuir missatges de campanya a gran escala a favor o en contra d’un candidat, partit polític o mesura sotmesa a votació. Creiem que les campanyes polítiques haurien de poder utilitzar les nostres eines per a tasques responsables i dirigides per persones, com redactar informes interns, planificar, escriure textos quotidians, traduir, complir normatives i fer tasques administratives. Aquests casos d’ús estan permesos segons les nostres polítiques d’ús.

Les eines d’IA ofereixen oportunitats reals perquè la gent impliqui altres persones de maneres noves que ampliïn i aprofundeixin les comunitats cíviques ampliant l’accés entre idiomes, nivells educatius i contextos. Creiem que és important que la gent pugui utilitzar sistemes d’IA per aprendre sobre qüestions polítiques, explorar-les i debatre-les, i continuarem fent-ho possible tot evitant l’ús indegut per part d’actors maliciosos. 

D’acord amb les nostres normes contra l’ús dels nostres serveis per fer incidència en campanyes a gran escala, no permetrem que els anunciants publiquin anuncis polítics a la nostra plataforma en aquest cicle. Per a més informació, consulta com abordem la publicitat a ChatGPT⁠.

Sabem que la gent recorre a ChatGPT per a més coses a banda de les qüestions de logística electoral. Utilitzen ChatGPT per explorar idees, posar a prova arguments i comprendre millor les qüestions que els importen. Per això ens comprometem a combatre el biaix polític en la manera com ChatGPT respon a les preguntes. 

El principi de la nostra especificació del model, Buscar la veritat conjuntament⁠(s'obre en una finestra nova), descriu el nostre compromís de mantenir ChatGPT objectiu per defecte, amb l’usuari al comandament, també quan els usuaris participen en converses polítiques. ChatGPT és una eina perquè la gent interaccioni amb grans idees i desenvolupi la seva pròpia visió sobre diferents temes. Així, el model està dissenyat per evitar comportaments que manipulin els usuaris o ocultin fets o punts de vista rellevants per empènyer-los en una direcció concreta. La tardor passada, vam anunciar⁠ una nova avaluació del biaix polític que utilitzem per provar la capacitat dels nostres models de mantenir-se objectius.  Aquesta feina important ha convertit OpenAI en líder en avaluacions de biaix polític que proven com responen els models a qüestions polítiques.

Continuarem aprenent dels socis, actualitzant les nostres mesures de seguretat i adaptant-nos. El nostre objectiu és donar suport a la capacitat de la gent de participar lliurement en les eleccions i prendre les seves pròpies decisions, amb informació fiable, transparència i mesures de seguretat efectives. Esperem aprofundir les maneres en què podem donar suport als nostres usuaris, la societat civil i els votants mentre participen en les eleccions d’aquest any i en el futur.