L’agenda de polítiques públiques d’OpenAI

La missió d’OpenAI és garantir que la intel·ligència artificial general (AGI) beneficiï tota la humanitat. El nostre treball es regeix per cinc principis⁠ fonamentals que determinen com desenvolupem la IA i com participem en les polítiques públiques: 

1. Democratització. Ens oposarem a la possibilitat que aquesta tecnologia concentri el poder en mans d’uns pocs.
2. Empoderament. Creiem que la IA pot donar a tothom les eines per assolir els seus objectius, aprendre més, ser més feliç i viure amb més plenitud, perseguir el seu somni, i que la societat en conjunt se’n beneficiarà.
3. Prosperitat universal. Volem un futur en què tothom pugui gaudir d’una vida excel·lent.
4. Resiliència. La IA comportarà nous riscos, i treballarem amb altres empreses, ecosistemes, governs i la societat per resoldre’ls. 
5. Adaptabilitat. Continuem creient que l’única manera d’afrontar els reptes d’un futur molt imprevisible és estar preparats per actualitzar les nostres posicions a mesura que n’aprenguem més. 

Creiem que la IA té el potencial de transformar la manera com les persones treballen, aprenen, creen i participen en la societat, i que les democràcies tindran un paper essencial a l’hora d’ajudar a ampliar l’accés a les oportunitats, mitigar els riscos i garantir que les persones tinguin una capacitat real d’acció per donar forma al futur de la IA que volen. Per això ens comprometem a fer que la nostra tecnologia sigui accessible de forma gratuïta i segura. 

La nostra base d’usuaris reflecteix aquest compromís:⁠ tenim tantes dones com homes que utilitzen les nostres eines, més usuaris tant per sota com per sobre dels 30 anys que qualsevol altra plataforma d’IA, i més usuaris amb ingressos inferiors a 100.000 $ que superiors a 100.000 $ — reflectint la força laboral mundial en general.

És per això que OpenAI col·labora amb governs i la societat civil d’arreu del món: per ajudar els responsables polítics a entendre la nostra tecnologia i els seus impactes, millorar la manera com funcionen els governs i com aporten valor a la ciutadania a la qual serveixen, ampliar la capacitat de les persones per participar en les institucions democràtiques i beneficiar-se’n, i donar forma a polítiques que impulsin la nostra missió de garantir que l’AGI beneficiï tota la humanitat.

Les prioritats següents reflecteixen com traslladem la nostra missió⁠ i els nostres principis⁠ a les polítiques públiques. Donem suport a polítiques que ajudin els governs i la societat a respondre a les oportunitats i els reptes generats per la IA, mitigar riscos, ampliar l’accés a les oportunitats i garantir que les persones puguin participar de manera significativa en l’economia de la IA i beneficiar-se’n. En conjunt, aquestes prioritats tenen com a objectiu ajudar els governs a servir millor la seva ciutadania, alhora que impulsen la nostra missió de garantir que l'AGI beneficiï tota la humanitat. Representen algunes de les àrees en què participem més activament actualment, però aquesta llista no és exhaustiva. A mesura que la IA evoluciona, també esperem que les nostres prioritats en matèria de polítiques i àrees de participació continuïn evolucionant.

Creiem que la seguretat de la IA d'avantguarda és una qüestió de seguretat nacional i de seguretat pública, especialment pel que fa als models d'IA d'ús general més avançats, que poden crear riscos relacionats amb armes cibernètiques, químiques, biològiques, radiològiques i nuclears (CBRN). Als EUA, donem suport als esforços dels estats per alinear-se al voltant de marcs comuns com ara California SB 53⁠(s'obre en una finestra nova), la New York RAISE Act⁠(s'obre en una finestra nova) i Illinois SB 315⁠(s'obre en una finestra nova), que posen l’accent en la transparència, els informes públics sobre les avaluacions de riscos catastròfics i els incidents de seguretat, les proteccions per als denunciants i la rendició de comptes exigible per als desenvolupadors que no compleixin les seves responsabilitats en matèria de seguretat i protecció. Aquests enfocaments en l’àmbit dels estats poden ajudar a establir normes harmonitzades que redueixin la fragmentació i creïn un camí cap a un eventual marc federal. 

També donem suport a l’acció del Congrés per establir un marc federal integral que aprofiti el consens emergent reflectit en les lleis estatals de seguretat de la IA d’avantguarda; que reforci el Centre d’Estàndards i Innovació en IA (CAISI) com a institució principal del govern federal dels EUA per a la seguretat de la IA d’avantguarda; i que mobilitzi un pla de resiliència més ampli a tot el govern per abordar els reptes de seguretat nacional i de seguretat pública que planteja la IA d’avantguarda. Aquest marc hauria d’exigir a CAISI que duguis a terme avaluacions dels models d’avantguarda més capaços, que encarreguis a CAISI la creació d’un ecosistema d’avaluació independent i que prioritzis el seguiment dels avenços cap a l’automillora recursiva (RSI). Amb un marc federal integral en vigor, donem suport a la preempció de les lleis estatals que pretenen regular els mateixos riscos de seguretat d’avantguarda.

També donem suport al fet que el govern federal dels EUA tingui un paper capdavanter en l’establiment d’estàndards internacionals comuns, i vam ser la primera empresa dels EUA a signar el Codi de bones pràctiques de la Llei d’IA de la UE. També vam ser una de les primeres empreses a signar acords voluntaris tant amb el CAISI dels EUA com amb l’Institut de Seguretat d’IA del Regne Unit (UK AISI). 

De cara al futur, creiem que tu, com a responsable polític, hauries de començar a considerar idees més ambicioses⁠(s'obre en una finestra nova), com ara guies d’actuació per a la contenció de models, la notificació d’incidents o organismes de governança internacional que facilitin la coordinació al voltant dels riscos, les salvaguardes i els incidents de seguretat de la IA d’avantguarda.

Pel que fa a la ciberseguretat⁠(s'obre en una finestra nova) en particular, donem suport a polítiques que ampliïn l’accés de confiança a eines de ciberdefensa basades en IA i a col·laboracions més sòlides entre governs, investigadors i indústria per dur a terme avaluacions, aprofundir en l’intercanvi d’informació i desenvolupar mesures de resiliència per reforçar la ciberdefensa. També donem suport als esforços per modernitzar els sistemes de ciberseguretat obsolets del sector públic i col·laborem amb el govern dels EUA en els àmbits federal, estatal i local, així com amb socis internacionals.

Creiem que la IA pot ajudar els joves a aprendre, crear i desenvolupar les competències i la mentalitat emprenedora que necessitaran per prosperar en l’economia del futur, sempre que s’implementi amb salvaguardes sòlides i proteccions adequades a l’edat. Els adolescents haurien de tenir accés a una IA segura i fiable⁠(s'obre en una finestra nova) a casa, a l'escola i mentre es preparen per incorporar-se al món laboral, i haurien d'estar protegits dels seus possibles perjudicis. Donem suport a normatives sòlides, exigibles i basades en el risc per a la seguretat dels adolescents, així com a marcs que combinen salvaguardes robustes amb transparència i eines que donin el control a les famílies. 

Això inclou requisits per a una garantia d’edat que preservi la privacitat, perquè les empreses puguin identificar quan un usuari és menor d’edat i aplicar proteccions adequades a l’edat; avaluacions periòdiques dels riscos per a la seguretat dels joves que identifiquin riscos previsibles i impulsin salvaguardes proporcionades abans que es produeixi cap dany; un control parental accessible que ajudi les famílies a orientar i donar suport a les experiències dels seus fills adolescents; i polítiques públiques clares de seguretat dels joves que expliquin quines proteccions hi ha en vigor i com evolucionen al llarg del temps.

També inclou salvaguardes dissenyades per abordar els riscos que els adolescents poden trobar quan interactuen amb sistemes d’IA, incloses proteccions contra contingut perjudicial o inadequat per a l’edat, protocols clars per respondre a situacions greus de seguretat i salvaguardes contra interaccions manipuladores o enganyoses. Els protocols de resposta a situacions de crisi haurien d’incloure suport dins del servei, derivacions a recursos adequats del món real, com ara el 988 als Estats Units, i notificacions oportunes als progenitors quan escaigui. També s’hauria d’exigir a les empreses que protegeixin la informació personal dels adolescents, entre altres mesures restringint la publicitat dirigida als menors d’edat i la venda de dades personals.

Finalment, mecanismes sòlids de rendició de comptes, incloses auditories independents, són essencials per garantir que aquestes proteccions siguin efectives a la pràctica. Les auditories haurien d’estar fonamentades en un conjunt d’estàndards comuns que permetin auditories interoperables entre jurisdiccions. Els marcs legislatius haurien d’incloure mesures de supervisió i aplicació que permetin als governs avaluar si les empreses implementen de manera efectiva les salvaguardes de seguretat juvenil, mitiguen els riscos identificats i compleixen les obligacions de seguretat juvenil i privadesa. Ens enorgulleix donar suport als esforços de la Parents and Kids Safe AI Coalition⁠(s'obre en una finestra nova) per impulsar aquests principis i promoure salvaguardes pràctiques d’IA que protegeixin els joves, alhora que preservin la seva capacitat d’aprendre de la IA i beneficiar-se’n. 

A més, donem suport a mesures de protecció legals i tècniques sòlides contra l’abús i l’explotació sexual infantil. Això inclou modernitzar les lleis de protecció de la infància per abordar les maneres en què la IA generativa es pot utilitzar indegudament per crear CSAM sintètic, alterar digitalment imatges existents i ampliar a gran escala activitats de captació de menors amb finalitats sexuals o d’explotació. Els responsables polítics haurien de garantir que les lleis sobre CSAM cobreixin clarament el material generat per IA i alterat digitalment, aclareixin la responsabilitat jurídica pels intents deliberats de produir o sol·licitar CSAM, i preservin facultats sòlides d’aplicació de la llei per als fiscals i els cossos policials. També donem suport als estàndards de notificació i coordinació dels proveïdors que milloren la qualitat i la capacitat d’actuació dels informes de CyberTipline, alhora que redueixen la càrrega investigadora i ajuden el NCMEC i les forces de l’ordre a actuar amb més rapidesa. Finalment, les empreses haurien d’implementar mesures de salvaguarda de seguretat des del disseny —incloent-hi la detecció, els mecanismes de rebuig, la supervisió humana i el monitoratge continu— per interrompre els intents d’explotació abans que es produeixi cap dany.

La IA influirà cada vegada més en la manera com les persones aprenen, treballen i participen en la vida cívica. Les institucions educatives tindran un paper crucial en el foment de l’alfabetització en IA⁠(s'obre en una finestra nova) i en la preparació de l’alumnat per desenvolupar-se en un món on la IA és omnipresent. Donem suport a polítiques que ajudin l’alumnat, el professorat, les famílies i les comunitats a relacionar-se amb la IA de manera segura, crítica i creativa, alhora que garanteixen que els educadors continuïn tenint un paper central en la presa de decisions a l’aula i marquin el ritme de com s’adopta la IA a les escoles. Això inclou inversions en alfabetització en IA, una sòlida formació bàsica en matèries com ara història, educació cívica, matemàtiques, ciències, literatura, informàtica i formació professional i tècnica. També inclou formació per al professorat i temps reservat per a l’aprenentatge professional, itineraris d’aprenentatge alineats amb les necessitats del mercat laboral i una ampliació de l’accés a eines d’IA, banda ampla, dispositius i recursos educatius per a escoles, biblioteques i institucions comunitàries. També donem suport als esforços per reforçar la recerca sobre com la IA afecta els resultats d’aprenentatge, el benestar de l’alumnat i l’equitat educativa, així com als esforços per incorporar aquests aprenentatges en el desenvolupament i el desplegament de la IA.

Creiem que tothom hauria de tenir la possibilitat de participar en les noves oportunitats que crea la IA⁠(s'obre en una finestra nova), i per això fem que ChatGPT estigui disponible de franc. Donem suport a polítiques que ampliïn l’accés assequible a una IA útil i ajudin els treballadors, emprenedors, educadors i petites empreses a adoptar-la mitjançant inversions en formació de la força laboral i alfabetització en IA. També donem suport a la creació de centres regionals d’IA que connectin ocupadors, organitzacions laborals, centres d’educació superior comunitaris, universitats, consells de desenvolupament de la força laboral i empreses locals, així com a programes d’adopció per a petites empreses que proporcionin accés a eines d’IA, assistència tècnica i formació pràctica.

També col·laborem amb organitzacions sindicals⁠(s'obre en una finestra nova) per ampliar l’accés a la formació⁠ i ajudar els treballadors a adquirir habilitats pràctiques d’IA i a preparar-se per als canvis en l’economia impulsats per sistemes d’IA cada vegada més capaços, i publiquem periòdicament dades sobre com els treballadors i els ocupadors utilitzen les nostres eines, alhora que donem suport a mesures de transparència sobre la força laboral que no només ajuden els responsables polítics i el públic a entendre millor com la IA està transformant el treball, sinó que també ajuden a identificar vies perquè els treballadors passin a nous rols i a feines centrades en les persones. Alhora, tenim el compromís de treballar amb els responsables de polítiques públiques per desenvolupar i implementar una agenda de transició laboral i econòmica més ambiciosa⁠(s'obre en una finestra nova), que prevegi prestacions transferibles, modernització fiscal, fons de patrimoni públic i xarxes de protecció adaptatives.

Creiem que la IA pot ampliar l’expressió creativa, empoderar artistes i creadors, fer possibles noves formes d’expressió, comentari i transformació creativa, i reduir les barreres perquè creadors independents, petits estudis i noves veus participin en l’economia creativa. Alhora, les persones haurien de poder entendre d’on prové el contingut digital i estar protegides de les ultrafalsificacions perjudicials, com ara la suplantació d’identitat enganyosa i les rèpliques digitals no autoritzades. Donem suport a polítiques que promouen la transparència en línia, inclosos els requisits perquè les eines d’IA incloguin senyals de procedència, com ara els desenvolupats per la Coalition for Content Provenance and Authenticity (C2PA), en el contingut audiovisual que generen, i treballem amb socis de tot el sector per impulsar estàndards de procedència interoperables i eines d’autenticitat del contingut que ajudin les persones a entendre millor d’on prové el contingut digital. Donem suport a polítiques que protegeixin contra l’ús indegut perjudicial de la veu i la imatge, alhora que preservin garanties importants per a la llibertat d’expressió, la paròdia, el periodisme i altres usos lícits. 

Defensem proteccions sòlides contra l’abús sexual basat en imatges, inclosos els esforços per tipificar com a delicte la distribució d’imatges íntimes sintètiques no consentides i reforçar les vies de reparació per a les víctimes. També donem suport a les mesures de protecció de la integritat electoral relacionades amb el contingut polític enganyós generat per IA, incloses les prohibicions de distribuir intencionadament contingut generat per IA per enganyar els votants, així com els requisits de transparència per a determinada publicitat política i comunicacions de campanya generades per IA. Col·laborem amb autoritats electorals de confiança per ajudar a proporcionar informació precisa sobre el vot i les eleccions⁠ i per ajudar a evitar que els nostres sistemes recomanin o classifiquin candidats de manera indeguda.

Creiem que, si la infraestructura d’IA es desenvolupa en col·laboració amb les comunitats, és un motor de creixement econòmic local, estatal i nacional. Col·laborar amb les comunitats locals comença per entendre les necessitats locals, i per això cada emplaçament de Stargate disposa d’un pla comunitari⁠ fet a mida, desenvolupat en consulta amb les comunitats, també pel que fa al disseny de l’emplaçament i les fonts d’energia. També és per això que donem suport a polítiques que exigeixen transparència pel que fa a l’aigua, l’electricitat i els acords governamentals, amb les excepcions adequades per preservar la seguretat, els aspectes comercialment sensibles, els secrets comercials i la informació de propietat exclusiva. 

Ens comprometem a assumir els nostres propis costos energètics, de manera que les nostres operacions no incrementin els preus de l’electricitat i també donem suport a polítiques que garanteixin que els centres de dades paguin la part que els correspon dels costos d’electricitat, inclosos els requisits perquè les comissions estatals de serveis públics creïn tarifes per a grans càrregues que exigeixin als centres de dades pagar els costos incrementals que generen. Estem treballant amb empreses locals de serveis públics i organismes reguladors per garantir que els centres de dades contribueixin a la fiabilitat de la xarxa elèctrica. També donem suport als requisits d’informació sobre sostenibilitat, inclosa la informació divulgada sobre tecnologies i pràctiques que redueixen els impactes ambientals, com ara generadors de reserva de baixes emissions i sistemes de refrigeració de circuit tancat o de baix consum d’aigua. Donem suport a polítiques que ajuden els treballadors locals a accedir a llocs de treball ben remunerats en el sector de la construcció, inclosos incentius per incorporar aprenents registrats i acords laborals de projecte. I promovem polítiques que mantinguin marcs fiscals i d’incentius previsibles i neutres pel que fa al sector, que exigeixin responsabilitats a les empreses pel compliment dels seus compromisos i que catalitzin la innovació, l’emprenedoria i el creixement econòmic a llarg termini a les comunitats de l’entorn.