It-tnedija ta’ Sora b’mod responsabbli

Sora 2 u l-app Sora jgħaqqdu ġenerazzjoni avvanzata tal-vidjo ma’ mod ġdid kif noħolqu flimkien, u żgurajna li s-sigurtà tkun integrata sa mill-bidu nett. L-approċċ tagħna huwa msejjes fuq protezzjonijiet konkreti:

• Niddistingwu l-kontenut tal-IA. Kull vidjo ġġenerat b’Sora jinkludi kemm sinjali ta’ provenjenza viżibbli kif ukoll inviżibbli. Mat-tnedija, l-outputs kollha jkollhom watermark viżibbli. Il-vidjos kollha ta’ Sora jinkorporaw ukoll metadata C2PA—firma standard tal-industrija—u nżommu għodod interni ta’ tfittxija inversa tal-immaġni u tal-awdjo li jistgħu jsegwu vidjos lura sa Sora b’eżattezza għolja, billi nibnu fuq sistemi ta’ suċċess minn ChatGPT ġenerazzjoni tal-immaġnijiet u Sora 1.
• Użu tal-likeness ibbażat fuq il-kunsens permezz tal-karattri. L-għan tagħna huwa li nagħtuk kontroll sħiħ fuq il-likeness tiegħek minn tarf sa tarf bil-karattri ta’ Sora. Għandna guardrails maħsuba biex jiżguraw li l-likeness tiegħek fl-awdjo u fl-immaġni maqbuda fil-karattri tintuża bil-kunsens tiegħek. Int biss tiddeċiedi min jista’ juża l-karattri tiegħek, u tista’ tirtira l-aċċess fi kwalunkwe ħin. Nieħdu wkoll miżuri biex nibblukkaw rappreżentazzjonijiet ta’ figuri pubbliċi (ħlief dawk li jużaw il-funzjoni tal-karattri, naturalment). Vidjos li jinkludu l-karattri tiegħek—inklużi abbozzi maħluqa minn utenti oħra—ikunu dejjem viżibbli għalik. Dan jippermettilek tirrevedi u tħassar faċilment (u, jekk hemm bżonn, tirrapporta) kwalunkwe vidjo li jinkludi l-karattru tiegħek. Napplikaw ukoll guardrails ta’ sigurtà addizzjonali għal kwalunkwe vidjo b’karattru, u tista’ saħansitra tissettja preferenzi dwar kif iġib ruħu l-karattru tiegħek—pereżempju, billi titlob li dejjem jilbes fedora.
• Salvagwardji għaż-żgħażagħ. Sora jinkludi protezzjonijiet aktar b’saħħithom għal utenti iżgħar fl-età, inklużi limitazzjonijiet fuq outputs maturi. Il-feed huwa mfassal biex ikun adattat għaż-żgħażagħ, il-profili taż-żgħażagħ ma jiġux irrakkomandati lill-adulti, u l-adulti ma jistgħux jibdew messaġġi maż-żgħażagħ. Kontrolli tal-ġenituri ġodda f’ChatGPT iħallu lill-ġenituri jimmaniġġjaw jekk iż-żgħażagħ jistgħux jibagħtu u jirċievu DMs, kif ukoll jagħżlu feed mhux personalizzat fl-app Sora. U b’mod awtomatiku, iż-żgħażagħ għandhom ukoll limiti fuq kemm jistgħu jkomplu jagħmlu scroll f’Sora.
• Iffiltrar ta’ kontenut dannuż. Sora juża difiżi fuq diversi saffi biex iżomm il-feed sikur filwaqt li jħalli spazju għall-kreattività. Fil-ħolqien, il-guardrails jippruvaw jimblukkaw kontenut mhux sigur qabel ma jinħoloq—inkluż materjal sesswali, propaganda terroristika, u promozzjoni ta’ awtoleżjoni—billi jiċċekkjaw kemm il-prompts kif ukoll l-outputs fuq diversi frejms tal-vidjo u traskrizzjonijiet tal-awdjo. Għamilna red teaming biex nesploraw riskji ġodda, u ssikkajna l-politiki meta mqabbla ma’ ġenerazzjoni tal-immaġnijiet minħabba r-realiżmu akbar ta’ Sora u ż-żieda tal-moviment u l-awdjo. Lil hinn mill-ġenerazzjoni, sistemi awtomatizzati jiskennjaw il-kontenut kollu tal-feed kontra l-Politiki ta’ Użu Globali⁠ tagħna u jiffiltraw materjal mhux sigur jew mhux adattat għall-età. Dawn is-sistemi jiġu aġġornati kontinwament hekk kif nitgħallmu dwar riskji ġodda u huma kkumplimentati minn reviżjoni umana ffukata fuq il-ħsarat bl-akbar impatt.
• Salvagwardji tal-awdjo. Iż-żieda tal-awdjo ma’ Sora tgħolli l-livell għas-sigurtà, u filwaqt li protezzjonijiet perfetti huma diffiċli, inkomplu ninvestu bis-serjetà f’dan il-qasam. Sora awtomatikament jiskennja t-traskrizzjonijiet tad-diskors iġġenerat għal ksur possibbli tal-politiki, u jimblokka wkoll tentattivi biex tiġi ġġenerata mużika li timita artisti ħajjin jew xogħlijiet eżistenti. Is-sistemi tagħna huma mfassla biex jiskopru u jwaqqfu dawn il-prompts, u nonoraw talbiet għat-tneħħija minn kreaturi li jemmnu li output ta’ Sora jikser ix-xogħol tagħhom.
• Kontroll u rimedju għall-utent. Int tagħżel meta u kif taqsam il-vidjos tiegħek, u tista’ tneħħi l-kontenut ippubblikat tiegħek fi kwalunkwe ħin. Il-vidjos jinqasmu mal-feed biss meta tagħżel int li tagħmel dan. Kull vidjo, profil, u kumment jista’ jiġi rrappurtat għal abbuż, b’rimedju ċar meta jinkisru l-politiki. Tista’ wkoll tagħżel li timblokka kontijiet fi kwalunkwe ħin, u dan jipprevjeni lil oħrajn milli jaraw il-profil tiegħek jew jikkuntattjawk permezz ta’ messaġġ dirett.