La missió d’OpenAI és garantir que l’AGI beneficiï tota la humanitat, i per complir aquesta missió hem d’arribar a les persones allà on són, arreu del món.
Cada cop es reconeix més la IA com una infraestructura nacional crítica, a l’altura de l’electricitat. Governs i institucions d’arreu del món volen garantir que els seus ciutadans i economies puguin beneficiar-se de l’era de la IA tenint accés als sistemes més capaços disponibles.
Perquè la IA compleixi aquesta promesa, també ha de ser rellevant a escala local. Això vol dir parlar en llengües locals i amb accents locals, respectar les lleis locals i reflectir les normes i els valors culturals.
Tanmateix, només un nombre reduït de països es troben en disposició de desenvolupar ells mateixos models d’IA d’avantguarda. Per a la majoria, el repte no és com construir un model des de zero, sinó com adaptar la millor IA disponible perquè funcioni en el seu context específic. Això és una cosa que sentim de manera constant dels governs d’arreu del món: volen una IA sobirana que puguin construir amb nosaltres, no només sistemes traduïts a la seva llengua.
Mitjançant la nostra iniciativa OpenAI for Countries, hem estat explorant com podria funcionar la localització a la pràctica. L’objectiu és permetre sistemes d’IA localitzats, tot continuant beneficiant-se d’un model global d’avantguarda.
Actualment estem fent una prova pilot d’una versió localitzada de ChatGPT per a estudiants a Estònia com a part del nostre treball amb ChatGPT Edu, incorporant currículums locals i enfocaments pedagògics locals. També estem explorant iniciatives pilot de localització amb altres països. Com a part del nostre compromís amb la transparència sobre com s’investiga i es desplega la IA, compartim més detalls sobre com funciona la localització.
La nostra especificació del model és un document públic que estableix com pretenem que es comportin els nostres models. Entrenem els nostres models perquè segueixin l’especificació i la perfeccionem contínuament mitjançant un procés col·laboratiu de tot OpenAI que incorpora el que els nostres equips senten de persones d’arreu del món. L’especificació tracta tota la gamma de maneres com s’utilitzen els nostres models, des de ChatGPT fins a les experiències que els desenvolupadors construeixen a la nostra plataforma, així com altres contextos. Aquestes regles, que s’apliquen a tot arreu on es despleguen els nostres models, defineixen límits clars sobre què es pot i què no es pot canviar, així com el nostre compromís de ser transparents sobre els canvis.
L’especificació del model inclou “principis de línia vermella(s'obre en una finestra nova)” que s’apliquen a tots els desplegaments, inclosos els del programa OpenAI for Countries. Hi destaquem que «la seguretat humana i els drets humans són primordials per a la missió d’OpenAI», i deixem clar que:
- No permetrem que els nostres models facilitin danys greus com ara actes de violència, armes de destrucció massiva, terrorisme, persecució o vigilància massiva.
- No permetrem que els nostres models s’utilitzin per a l’exclusió dirigida o a gran escala, la manipulació, per minar l’autonomia humana o erosionar la participació en els processos cívics.
- Ens comprometem a salvaguardar la privadesa de les persones en les seves interaccions amb la IA.
Quan OpenAI ofereix una experiència pròpia directament als consumidors, com ChatGPT, també ens comprometem que, a través d’aquesta:
- Les persones haurien de tenir un accés fàcil a informació crítica per a la seguretat i fiable procedent dels nostres models.
- La personalització, l’adaptació individual i la localització no prevaldran sobre les regles vinculants de tota l’especificació del model. Això inclou el principi de punt de vista objectiu(s'obre en una finestra nova), és a dir, la localització pot afectar la llengua o el to, però no pot canviar el contingut ni l’equilibri dels fets presentats.
- Les persones haurien de tenir transparència sobre les regles importants i les raons que hi ha darrere del comportament dels nostres models; per exemple, qualsevol contingut omès per requisits legals s’indicarà de manera transparent a l’usuari en cada resposta del model, especificant el tipus d’informació eliminada i la justificació de la seva eliminació, sense revelar el contingut censurat. De la mateixa manera, qualsevol informació afegida també s’identificarà de manera transparent.
Mentre explorem una IA sobirana i localitzada mitjançant OpenAI for Countries, ens comprometem a continuar compartint el que aprenem i a fer evolucionar el nostre enfocament de manera transparent.
