Impulsar una IA responsable arreu d’Europa
Cada dia, milions de persones d’arreu d’Europa utilitzen les eines d’OpenAI per aprendre, crear, treballar i gestionar tasques quotidianes. Les nostres eines també donen suport a empreses de totes les mides i a governs de tota la regió. Creiem que una IA responsable pot contribuir a impulsar la competitivitat i la prosperitat d’Europa. Ara que el Reglament d’IA de la UE entra en la fase següent, expliquem com hem reforçat el nostre enfocament en matèria de seguretat, protecció, transparència i procedència d’acord amb el marc de la UE, i com continuarem adaptant les nostres pràctiques a mesura que avanci la IA.
La nostra missió és garantir que la intel·ligència artificial general beneficiï tota la humanitat. Aquesta missió comporta la responsabilitat permanent de maximitzar els beneficis de la IA, ampliar-ne l’accés i gestionar-ne els riscos. Per això, des de fa anys desenvolupem enfocaments de governança i promovem normes viables que permetin a les persones beneficiar-se de la IA de manera segura, un objectiu central del Reglament d’IA de la UE. Aquestes normes han de ser pragmàtiques, proporcionades i basades en els riscos per fer avançar la governança i, alhora, afavorir la innovació. Tenint presents aquests principis, vam contribuir a dos codis de bones pràctiques i els vam subscriure: el Codi de bones pràctiques sobre IA d’ús general [GPAI](s'obre en una finestra nova) de la UE i el Codi de bones pràctiques sobre transparència dels continguts generats per IA(s'obre en una finestra nova). Tots dos es van elaborar mitjançant amplis processos amb múltiples parts interessades i parteixen de la feina que hem impulsat en matèria de seguretat, protecció, transparència, rendició de comptes i procedència.
El Codi GPAI estableix un marc comú de transparència, seguretat i protecció per als models d’IA d’ús general. La nostra tasca de suport a aquest marc es basa tant en la governança interna com en la col·laboració amb experts externs, governs i organitzacions homòlogues. Des de fa anys, sotmetem els nostres models a proves exhaustives abans de publicar-los, publiquem fitxes del model(s'obre en una finestra nova) amb els llançaments principals, incorporem experts externs a les proves dels models mitjançant la nostra Xarxa de l'equip vermell i mantenim pública l’especificació del model(s'obre en una finestra nova) per mostrar com definim el comportament dels models.
També hem continuat reforçant els marcs de governança que sustenten aquesta tasca. El nostre Entorn de treball de preparació, vigent des de 2023 i actualitzat el 2025, estableix com identifiquem, avaluem i gestionem els riscos greus dels sistemes avançats d’IA. El nostre Entorn de treball de governança d’avantguarda parteix d’aquesta base i explica com les nostres pràctiques de seguretat i protecció s’ajusten als nous requisits legals, inclòs el Codi GPAI del Reglament d’IA de la UE. En conjunt, aquests marcs ajuden a convertir els principis d’una IA responsable en decisions pràctiques sobre l’avaluació de riscos, les salvaguardes, els informes dels models, la seguretat, la resposta a incidents, les aportacions d’experts externs i les actualitzacions contínues.
La governança responsable de la IA també exigeix actuar més enllà de qualsevol empresa concreta. Mitjançant el Fòrum de Models d’Avantguarda, les col·laboracions amb l’US CAISI i l’UK AISI i la feina sobre pràctiques d’avaluació per tercers, hem donat suport a la recerca compartida en seguretat, les proves externes i l’establiment d’estàndards d’avaluació més clars a tot l’ecosistema.
El nostre suport al Codi de bones pràctiques sobre transparència dels continguts generats per IA es basa en anys de recerca, desenvolupament de productes i col·laboració per millorar la procedència dels continguts multimèdia generats per IA. Les persones haurien de disposar de més context sobre el contingut que veuen en línia, inclòs si s’ha creat o editat amb IA. L’enfocament d’OpenAI sobre la procedència es basa en dos sistemes que es reforcen mútuament: les credencials de contingut (C2PA(s'obre en una finestra nova)) permeten que el contingut incorpori informació contextual detallada, mentre que les marques d’aigua SynthID ajuden a conservar un senyal quan les metadades es perden. Estem ampliant aquesta tasca perquè inclogui les sortides d’àudio, a més de les imatges. D’acord amb els compromisos que vam assumir en virtut del Codi, treballem per ampliar les mesures de procedència dels sistemes d’OpenAI a diferents modalitats, inclòs el text, a mesura que els estàndards i les eines continuen madurant. També volem ajudar els clients i desenvolupadors que creen productes amb els nostres models proporcionant-los senyals, eines i orientacions que puguin utilitzar per complir les seves obligacions de transparència. La procedència continua sent un àmbit en evolució: les metadades es poden perdre, les etiquetes poden no mantenir-se entre plataformes i cap senyal no és perfecte per si sol. Per això promovem un enfocament per capes i la cooperació continuada en el conjunt de l’ecosistema.
La ciberseguretat és un àmbit en què una governança dinàmica i pràctica resulta especialment important. Les mateixes capacitats que poden ajudar els equips de defensa a identificar i corregir vulnerabilitats també poden generar nous riscos d’ús indegut. El nostre enfocament consisteix a reduir l’ús indegut i, alhora, ajudar els equips de defensa legítims a utilitzar la IA mitjançant el nostre programa d’accés de confiança per a la ciberseguretat (TAC)(s'obre en una finestra nova), amb l’objectiu de reforçar la resiliència col·lectiva.
Hem treballat per desplegar aquestes capacitats avançades i donar suport als equips de defensa d’Europa. Des del llançament del Pla d’acció cibernètica d’OpenAI per a la UE, a principis de maig de 2026, hem treballat amb organismes de ciberseguretat de la UE i dels estats membres, socis del sector privat i operadors d’infraestructures crítiques per dotar-los dels models de ciberseguretat més avançats i, en última instància, reforçar la resiliència cibernètica arreu del continent. Aquest enfocament s’ajusta al Pla d’acció sobre ciberseguretat i intel·ligència artificial(s'obre en una finestra nova) de la Comissió Europea, que demana un enfocament coordinat per abordar els riscos de la IA avançada i, alhora, aprofitar-ne el potencial per reforçar la resiliència cibernètica, també mitjançant un accés segur a sistemes avançats d’IA amb finalitats de ciberseguretat.
A mesura que avanci l’aplicació del Reglament d’IA de la UE, continuarem reforçant el nostre enfocament de compliment normatiu i aprenent dels reguladors i del conjunt de l’ecosistema. A mesura que la tecnologia avanci, les normes hauran de mantenir prou flexibilitat per adaptar-s’hi i permetre que les persones, les empreses i les organitzacions se’n beneficiïn. Un enfocament pragmàtic, proporcionat i basat en els riscos serà essencial perquè Europa pugui aprofitar els beneficis de l’era de la intel·ligència.
Per ajudar els clients i desenvolupadors a preparar-se per a l’aplicació del Reglament d’IA de la UE, oferim recursos pràctics, com ara documentació del model, fitxes del model, informació de seguretat, polítiques d’ús i orientacions sobre eines de procedència i verificació. Continuarem actualitzant aquests recursos a mesura que evolucioni l’aplicació del Reglament. Per obtenir més informació, consulta el nostre article del Centre d’ajuda(s'obre en una finestra nova) sobre l’enfocament d’OpenAI respecte del Reglament d’IA de la UE i les nostres orientacions per als clients.
