Política de compartiment i publicació

Per minimitzar els possibles riscs dels continguts generats amb IA, hem establert la política de compartiment següent.

En general, es permet publicar les indicacions o respostes en xarxes socials, com també emetre en directe l’ús dels nostres productes o fer-ne una demostració davant d’un grup de gent. Ara bé, cal seguir sempre les indicacions següents:

• Reviseu manualment cada generació abans de compartir-la o mentre s’emet.
• Atribuïu el contingut al vostre nom o empresa.
• Indiqueu que el contingut s’ha generat amb IA de manera que els usuaris ho vegin i entenguin clarament.
• No compartiu continguts que infringeixin la nostra política de contingut⁠⁠ o que puguin ofendre altres persones.
• Si accepteu sol·licituds d’indicacions del públic, actueu amb bon criteri; no envieu indicacions que puguin derivar en infraccions de la nostra política de contingut⁠⁠.

Si voleu assegurar-vos que l’equip d’OpenAI estigui al cas d’una resposta particular, podeu enviar-nos un correu electrònic o utilitzar les eines de denúncia del Playground.

• Recordeu que esteu interactuant amb el model sense filtres, amb la qual cosa no filtrem les respostes negatives o esbiaixades. (Podeu informar-vos més a fons sobre la implantació del nostre punt de moderació gratuït⁠⁠(s'obre en una finestra nova) aquí.)

Els creadors que vulguin publicar continguts escrits (com ara un llibre, un compendi de relats curts, etc.) creats per ells amb l’ajuda de l’API d’OpenAI ho poden fer sempre que:

• El contingut publicat s’atribueixi al seu nom o empresa.
• S’indiqui clarament el paper de la IA a l’hora de formular el contingut de manera que els lectors no ho puguin passar per alt i ho trobin suficientment fàcil d’entendre.
• Els temes del contingut no incompleixin la política de contingut⁠⁠ o les condicions d’ús⁠⁠ d’OpenAI, és a dir, que no siguin publicitaris ni continguin materials per a adults, carregats d’odi, que incitin a la violència o que puguin causar dany social.
• Us demanem que us abstingueu de compartir resultats que puguin ofendre altres persones.

Per exemple, cal indicar en el pròleg, introducció o similar els rols pertinents de redacció, edició, etc. Els usuaris no haurien de presentar continguts generats per API com si els hagués generat íntegrament un humà o una IA; és l’humà qui ha d’assumir la responsabilitat final del contingut publicat.

A continuació, es mostra un exemple de text que es pot fer servir per descriure el procés creatiu, sempre que s’ajusti a la realitat:

Considerem que és important que el món en general pugui avaluar la nostra recerca i productes, en especial per entendre i millorar els possibles punts febles i els problemes de biaix i seguretat dels nostres models. Per tant, agraïm qualsevol publicació de recerca relacionada amb l’API d’OpenAI.

• En alguns casos, és possible que vulguem destacar la vostra feina internament o externament.
• En d’altres, com en les publicacions relatives a la seguretat o el mal ús de l’API, és possible que vulguem prendre les accions adients per protegir els nostres usuaris.
• Si identifiqueu algun problema de seguretat amb l’API durant la recerca, us demanem que ens el comuniqueu immediatament a través del nostre programa de divulgació coordinada de vulnerabilitats⁠⁠.

L’API d’OpenAI ofereix un munt d’opcions d’investigació possibles. Si us interessa la possibilitat d’obtenir un accés subvencionat, faciliteu-nos els detalls del tipus de recerca que voleu fer a través de l’aplicació del programa d’accés a la recerca⁠⁠.

En particular, les opcions següents ens semblen especialment importants, tot i que podeu plantejar-nos qualsevol altra opció:

• Alineació: Com podem entendre quin objectiu, si escau, es persegueix millor amb un model? Com podem augmentar el grau d’alineació d’aquest objectiu amb les preferències humanes (per exemple, a través del disseny o ajust de les indicacions)?
• Legitimitat i representació: Con s’haurien d’establir els criteris de rendiment per garantir la legitimitat i la representació dels models de llenguatge? Com es poden millorar els models de llenguatge per donar suport de forma efectiva als objectius de legitimitat i representació en contexts desplegats específics?
• Recerca interdisciplinària: Com es pot nodrir el desenvolupament de la IA de les aportacions d’altres disciplines com ara la filosofia, la ciència cognitiva i la sociolingüística?
• Interpretabilitat i transparència: Com funcionen els models des d’un punt de vista mecànic? Podem identificar quins conceptes utilitzen o extreure-hi coneixement latent, fer inferències sobre el procediment d’entrenament o predir comportaments futurs sorprenents?
• Possibles usos indeguts: De quina manera es pot fer un ús indegut de sistemes com l’API? Quina mena d’estratègies d’«equip vermell» podem utilitzar per ajudar-nos, a nosaltres i a la resta de desenvolupadors d’IA, a reflexionar sobre el desplegament responsable de tecnologies com aquesta?
• Exploració dels models: Models com els que ofereix l’API tenen moltes capacitats que encara no hem estudiat. Per tant, estaríem encantats de veure investigacions en moltes àrees, com ara limitacions dels models, propietats lingüístiques, raonament sensat i possibles usos per a altres problemes.
• Solidesa: Els models generatius tenen superfícies de capacitats desiguals, el que pot suposar àrees de capacitat sorprenentment fortes o febles. Quin grau de solidesa presenten els grans models generatius davant les pertorbacions «naturals» de les indicacions, com pot ser expressar la mateixa idea de maneres diferents o amb o sense errades ortotipogràfiques? Podem predir els tipus de dominis i tasques en què els grans models generatius ofereixen més (o menys) solidesa? Quina relació tindria això amb les dades d’entrenament? Existeixen tècniques per preveure i mitigar els pitjors comportaments possibles? Com es pot mesurar la solidesa en el context de l’aprenentatge amb pocs exemples (p. e., amb variacions de les indicacions)? Podem entrenar els models de manera que compleixin les propietats de seguretat amb un nivell de fiabilitat molt alt, encara que sigui amb entrades adverses?

Cal tenir en compte que, atès el gran nombre de sol·licituds, necessitem un temps per estudiar-les totes, i no totes les recerques es prioritzaran per rebre una subvenció. Només us contactarem en cas que seleccionem la vostra sol·licitud per al programa.