OpenAI avala la llei de Califòrnia per la seguretat juvenil en IA

Per Ann O'Leary, vicepresidenta de Política Global

OpenAI dona suport al Projecte de llei 1119 del Senat de Califòrnia, que estableix salvaguardes significatives sobre l'ús de la IA per part dels joves, alhora que els manté l'accés a eines que els poden ajudar a aprendre, crear i preparar-se per al futur. Aquest suport parteix del compromís que Sam Altman, cofundador i conseller delegat d'OpenAI, va assumir l'any passat quan va exposar els principis de l'empresa en relació amb els adolescents.

Davant la manca d'acció federal, Califòrnia té l'oportunitat d'establir un estàndard sòlid de seguretat juvenil en l'àmbit de la IA.

A la nostra carta al governador Newsom⁠(s'obre en una finestra nova), elogiem el seu lideratge en aquesta qüestió tan important, així com el del senador Steve Padilla, els membres de l'Assemblea Buffy Wicks i Rebecca Bauer-Kahan i el poder legislatiu de Califòrnia. L'SB 1119 amplia les mesures de seguretat juvenil que OpenAI ha promogut mitjançant els nostres productes, els principis de política global, la defensa d'aquestes mesures a Califòrnia i la tasca relacionada amb la Llei d'IA segura per a pares i fills. Animem el governador Newsom a promulgar el projecte de llei.

Els adolescents són la primera generació que creix amb la IA. Gairebé nou de cada deu adolescents que utilitzen ChatGPT hi recorren durant la setmana per aprendre, informar-se, adquirir habilitats o millorar la productivitat. Aquesta oportunitat comporta una responsabilitat clara: els adolescents han de gaudir d'experiències dissenyades d'acord amb les seves necessitats específiques de desenvolupament, amb proteccions predeterminades sòlides i oportunitats adequades per aprendre, crear i explorar.

El nou ChatGPT per a adolescents reflecteix aquest enfocament. Està dissenyat per ajudar els menors de 18 anys a aprendre, pensar críticament i crear, alhora que fomenta un ús saludable de la IA, incorpora salvaguardes i ofereix més control als pares. Si el nostre sistema estima que una persona és menor de 18 anys o aquesta declara que en té entre 13 i 17, se l'incorpora automàticament a ChatGPT per a adolescents. Aquestes proteccions formen part de l'experiència bàsica; no són opcions que els usuaris puguin desactivar.

En un sentit més ampli, creiem que els adolescents es poden beneficiar de la IA sense renunciar a la seguretat, un objectiu essencial de l'SB 1119.

L'SB 1119 combina proteccions sòlides amb l'accés continuat a eines d'IA útils. Donem un ferm suport a aquests requisits clau:

• Determinar l'edat de l'usuari;
• Identificar i abordar els riscos de seguretat abans d'oferir un producte als joves;
• Sotmetre's a auditories independents;
• Protegir els joves de continguts perjudicials, com ara l'autolesió, els continguts d'explotació sexual i altres interaccions d'alt risc;
• Proporcionar als pares eines per orientar i limitar l'ús que en fan els fills;
• Posar els joves en contacte amb recursos d'ajuda en situacions de crisi quan sorgeixin riscos greus per a la seguretat, i
• Limitar la publicitat segmentada i protegir la informació personal dels joves.

Aquestes proteccions s'han d'aplicar automàticament als usuaris identificats com a persones d'entre 13 i 17 anys. Aquesta legislació combinaria una rendició de comptes significativa amb salvaguardes que ajudarien a protegir els joves quan utilitzen la IA.

L'SB 1119 també reconeix, encertadament, que la IA no és una xarxa social. El projecte de llei estableix proteccions adaptades per ajudar els joves a utilitzar la IA per aprendre, crear i explorar. En elaborar aquest marc, els responsables polítics van procurar mantenir l'accés a funcions educatives i essencials per a la seguretat, com ara els usos responsables de la memòria de ChatGPT, alhora que promovien experiències més segures i adequades a l'edat dels adolescents.

ChatGPT per a adolescents inclou un conjunt de funcions adaptades específicament per ajudar-los a aprendre, com ara els qüestionaris, les visualitzacions d'aprenentatge i el mode d'estudi, desenvolupades amb docents i experts en aprenentatge per guiar els estudiants en la resolució de problemes pas a pas. Aquestes eines tenen l'objectiu d'aprofundir la comprensió i fomentar hàbits d'aprenentatge més sòlids. Les funcions que utilitzen el context de converses anteriors, incloent-hi la memòria, ajuden a aplicar les salvaguardes de manera coherent, a detectar patrons preocupants i a oferir un suport a l'aprenentatge més útil amb el temps.

El context també ajuda a mantenir l'eficàcia d'aquestes eines de seguretat i aprenentatge al llarg del temps. Mitjançant funcions com la memòria, ChatGPT pot conservar informació i preferències rellevants de converses anteriors, de manera que els adolescents poden continuar projectes d'aprenentatge a llarg termini sense haver de tornar a començar. Aquesta continuïtat també pot ajudar a evitar que es reforcin patrons perjudicials i facilitar respostes més eficaces quan un jove pugui necessitar ajuda o recursos addicionals.

Trobar l'equilibri entre seguretat i aprenentatge no és nou per a nosaltres. Durant l'últim any, hem afegit el control parental, la predicció de l'edat, el nostre Pla de seguretat per a adolescents i els Principis per a menors de 18 anys de la nostra especificació del model —les normes que orienten el comportament previst dels nostres models— per establir nous estàndards sobre com han d'interactuar amb els joves. Prohibeixen les interaccions romàntiques, el foment de la dependència emocional i les afirmacions que ChatGPT és humà o té consciència. També oferim control parental perquè les famílies puguin gestionar opcions clau per als adolescents i rebre notificacions en situacions d'alt risc.

L'SB 1119 estableix un marc sòlid per a la seguretat juvenil en l'àmbit de la IA a Califòrnia. L'estudi i la col·laboració continuats durant la implementació poden ajudar a millorar disposicions clau i mantenir l'eficàcia del marc a mesura que evoluciona la tecnologia. OpenAI espera poder contribuir a aquesta tasca i continuar creant experiències d'IA que tractin els adolescents com a adolescents, amb proteccions automàtiques més sòlides i oportunitats significatives per aprendre i créixer.