S'està carregant…
El model Sora 2 i l’app Sora ofereixen generació de vídeo d’última generació amb una nova manera de crear conjuntament, i ens hem assegurat que la seguretat hi estigui integrada des del primer moment. El nostre enfocament se sustenta en proteccions concretes:
- Distingir el contingut d’IA. Tots els vídeos generats amb Sora inclouen senyals de procedència visibles i invisibles. Tots els vídeos de Sora també incorporen metadades C2PA —una signatura estàndard del sector—, i mantenim eines internes de cerca inversa d’imatges i àudio que poden rastrejar vídeos fins a Sora amb una gran precisió, basant-nos en sistemes reeixits de la generació d'imatges de ChatGPT i Sora 1. Moltes sortides també porten marques d’aigua visibles i dinàmiques que inclouen el nom del creador.
- D’imatge a vídeo amb la semblança d’una persona real. A mesura que continuem reforçant les mesures de protecció de Sora, permetem més expressió creativa i connexió, inclosa la possibilitat que la gent creï vídeos a partir de fotos de familiars i amics. Els usuaris poden pujar imatges amb persones per fer vídeos a Sora, després de declarar que tenen el consentiment de les persones que hi apareixen i els drets per pujar el contingut. Les generacions d’imatge a vídeo amb persones estan subjectes a mesures de seguretat especialment estrictes, encara més estrictes que les permeses amb Sora Characters (anteriorment coneguda com la funció cameo). Les imatges que inclouen infants i persones d’aspecte jove estan subjectes a una moderació i a mesures de protecció encara més estrictes sobre què se’n pot crear. Aquests vídeos també tindran sempre marques d’aigua quan es comparteixin.
- Semblança basada en el consentiment amb characters. Hem creat characters(s'obre en una finestra nova) per donar-te un control sòlid sobre la teva semblança a Sora. La semblança inclou el teu aspecte i la teva veu. Tenim mesures de protecció destinades a garantir que la teva semblança d’àudio i imatge capturada a characters s’utilitzi amb el teu consentiment. Només tu decideixes qui pot fer servir els teus characters, i pots revocar-ne l’accés en qualsevol moment. També prenem mesures per bloquejar representacions de figures públiques, excepte les que facin servir la funció characters. Els vídeos que inclouen els teus characters —incloent-hi esborranys creats per altres usuaris— sempre són visibles per a tu. Això et permet revisar i eliminar fàcilment (i, si cal, denunciar) qualsevol vídeo que inclogui el teu character. També apliquem mesures de seguretat addicionals a qualsevol vídeo amb un character, i fins i tot pots activar un conjunt encara més estricte de mesures que restringeixen els tipus d’ús. Això inclou limitar canvis importants en el teu aspecte, situar-te en situacions vergonyoses i mantenir la teva identitat àmpliament coherent.
- Mesures de protecció per a adolescents. Sora inclou proteccions més fortes per als usuaris més joves, incloses limitacions sobre el contingut per a adults. El feed està dissenyat perquè sigui adequat per a tots els usuaris de Sora, i el contingut que pugui ser nociu, insegur o inadequat per a l’edat es filtra als comptes d’adolescents. Els perfils adolescents no es recomanen als adults i els adults no poden iniciar missatges amb adolescents. El control parental a ChatGPT permet als pares gestionar si els adolescents poden enviar i rebre missatges directes, així com seleccionar un feed no personalitzat a l’app Sora. I, per defecte, els adolescents també tenen límits sobre quant temps poden desplaçar-se contínuament per Sora.
- Filtrar el contingut nociu. Sora utilitza defenses en capes per mantenir el feed segur deixant espai per a la creativitat. En el moment de la creació, les mesures de protecció intenten bloquejar el contingut insegur abans que es generi —incloent-hi material sexual, propaganda terrorista i promoció de l’autolesió— verificant tant les indicacions com les sortides en diversos fotogrames de vídeo i transcripcions d’àudio. Hem fet red teaming per explorar riscos nous i hem endurit les polítiques respecte de la generació d'imatges, atès que Sora és més realista i incorpora moviment i àudio. Més enllà de la generació, els sistemes automatitzats escanegen tot el contingut del feed segons les nostres Polítiques d’ús globals i filtren el material insegur o inadequat per a l’edat. Aquests sistemes s’actualitzen contínuament a mesura que coneixem nous riscos i es complementen amb revisió humana centrada en els danys de més impacte.
- Mesures de protecció d’àudio. Afegir àudio a Sora eleva el nivell d’exigència en seguretat i, tot i que les proteccions perfectes són difícils, continuem invertint seriosament en aquest àmbit. Sora escaneja automàticament les transcripcions de la parla generada per detectar possibles infraccions de les polítiques, i també bloqueja intents de generar música que imiti artistes vius o obres existents. Els nostres sistemes estan dissenyats per detectar i aturar aquestes indicacions, i atenem les sol·licituds de retirada dels creadors que creuen que una sortida de Sora infringeix la seva obra.
- Control de l’usuari i vies de recurs. Tu tries quan i com comparteixes els teus vídeos, i pots eliminar el teu contingut publicat en qualsevol moment. Els vídeos només es compartiran al feed quan tu ho decideixis. Es pot denunciar per ús abusiu qualsevol vídeo, perfil, missatge directe, comentari i character, amb vies de recurs clares quan s’incompleixen les polítiques. També pots triar bloquejar comptes en qualsevol moment, cosa que impedirà que altres persones vegin el teu perfil o les teves publicacions, facin servir el teu character i es posin en contacte amb tu per missatge directe.
