Llançament responsable de Sora

Sora 2 i l'app de Sora combinen una generació de vídeo d'avantguarda amb una nova manera de crear plegats, i ens hem assegurat que la seguretat hi estigui incorporada des del primer moment. El nostre enfocament es fonamenta en proteccions concretes:

• Distingir el contingut d'IA.  Tots els vídeos generats amb Sora inclouen senyals de procedència visibles i invisibles. En el llançament, tots els resultats inclouen una filigrana visible. Tots els vídeos de Sora també incorporen metadades C2PA —una signatura estàndard del sector—, i mantenim eines internes de cerca inversa d'imatges i d'àudio que poden rastrejar vídeos fins a Sora amb una gran precisió, basant-nos en sistemes d'èxit de la generació d'imatges de ChatGPT i Sora 1.
• Similitud basada en el consentiment mitjançant personatges. El nostre objectiu és posar-vos al control total de la vostra semblança amb els personatges de Sora. Tenim mesures de protecció pensades per garantir que la vostra semblança d'àudio i d'imatge capturada en personatges s'utilitzi amb el vostre consentiment. Només vosaltres decidiu qui pot utilitzar els vostres personatges, i podeu revocar-ne l'accés en qualsevol moment. També prenem mesures per bloquejar representacions de figures públiques (excepte les que utilitzen la funció de personatges, és clar). Els vídeos que inclouen els vostres personatges —inclosos els esborranys creats per altres usuaris— sempre us són visibles. Això us permet revisar i suprimir fàcilment (i, si cal, denunciar) qualsevol vídeo en què aparegui el vostre personatge. També apliquem mesures de seguretat addicionals a qualsevol vídeo amb un personatge, i fins i tot podeu definir preferències sobre com es comporta el vostre personatge, per exemple, demanant que sempre porti un barret fedora.
• Proteccions per a adolescents. Sora inclou proteccions més sòlides per als usuaris més joves, incloses limitacions sobre resultats per a adults. El feed està dissenyat perquè sigui adequat per a adolescents, els perfils adolescents no es recomanen als adults i els adults no poden iniciar missatges amb adolescents. Els nous controls parentals de ChatGPT permeten als pares gestionar si els adolescents poden enviar i rebre missatges directes, així com seleccionar un feed no personalitzat a l'app de Sora. I, de manera predeterminada, els adolescents també tenen límits quant al temps que poden fer scroll de manera continuada a Sora.
• Filtrar contingut perjudicial. Sora utilitza defenses per capes per mantenir el feed segur i, alhora, deixar espai per a la creativitat. Durant la creació, les mesures de protecció intenten bloquejar el contingut insegur abans que es generi —incloent-hi material sexual, propaganda terrorista i promoció de l'autolesió— comprovant tant les indicacions com els resultats en diversos fotogrames de vídeo i transcripcions d'àudio. Hem fet red teaming per explorar riscos nous i hem endurit les polítiques en comparació amb la generació d'imatges, atès el major realisme de Sora i l'addició de moviment i àudio. Més enllà de la generació, els sistemes automatitzats analitzen tot el contingut del feed d'acord amb les nostres Polítiques globals d'ús⁠ i filtren el material insegur o no adequat per a l'edat. Aquests sistemes s'actualitzen contínuament a mesura que aprenem sobre nous riscos i es complementen amb revisió humana centrada en els danys d'impacte més alt.
• Mesures de protecció d'àudio. Afegir àudio a Sora eleva el nivell d'exigència en matèria de seguretat i, tot i que és difícil aconseguir proteccions perfectes, continuem invertint seriosament en aquest àmbit. Sora analitza automàticament les transcripcions de la parla generada per detectar possibles infraccions de les polítiques, i també bloqueja intents de generar música que imiti artistes vius o obres existents. Els nostres sistemes estan dissenyats per detectar i aturar aquestes indicacions, i atenem les sol·licituds de retirada dels creadors que consideren que un resultat de Sora infringeix la seva obra.
• Control i recurs per a l'usuari. Trieu quan i com compartir els vostres vídeos, i podeu eliminar el vostre contingut publicat en qualsevol moment. Els vídeos només es compartiran al feed quan ho decidiu. Es pot denunciar qualsevol vídeo, perfil i comentari per abús, amb vies de recurs clares quan s'infringeixen les polítiques. També podeu triar bloquejar comptes en qualsevol moment, cosa que impedirà que altres vegin el vostre perfil o es posin en contacte amb vosaltres per missatge directe.