Qed jillowdja…
Il-mudell Sora 2 u l-app ta’ Sora joffru ġenerazzjoni tal-vidjo tal-ogħla livell b’mod ġdid kif noħolqu flimkien, u żgurajna li s-sigurtà tkun integrata sa mill-bidu nett. L-approċċ tagħna huwa msejjes fuq protezzjonijiet konkreti:
- Niddistingwu kontenut tal-IA. Kull vidjo ġġenerat b’Sora jinkludi kemm sinjali ta’ provenjenza viżibbli kif ukoll inviżibbli. Il-vidjos kollha ta’ Sora jinkorporaw ukoll metadata C2PA—firma standard tal-industrija—u nżommu għodod interni ta’ tfittxija b’lura ta’ stampi u awdjo li jistgħu jsegwu l-vidjos lura sa Sora b’eżattezza għolja, billi nibnu fuq sistemi ta’ suċċess minn ġenerazzjoni tal-immaġnijiet ta’ ChatGPT u Sora 1. Ħafna outputs iġorru wkoll watermarks viżibbli u li jiċċaqalqu b’mod dinamiku li jinkludu l-isem tal-kreatur.
- Immaġni għal vidjo bix-xebh ta’ persuna reali. Hekk kif inkomplu nsaħħu l-guardrails ta’ Sora, qed nippermettu aktar espressjoni kreattiva u konnessjoni, inkluż li nħallu lin-nies joħolqu vidjos minn ritratti tal-familja u l-ħbieb. L-utenti jistgħu jtellgħu stampi b’nies biex jagħmlu vidjos f’Sora, wara li jiddikjaraw li għandhom il-kunsens tan-nies li jidhru fihom u d-drittijiet biex itellgħu l-midja. Ġenerazzjonijiet ta’ immaġni għal vidjo b’nies huma soġġetti għal guardrails tas-sigurtà partikolarment stretti, saħansitra aktar stretti minn dak li hu permess b’Sora Characters (li qabel kienet magħrufa bħala l-karatteristika cameo). Stampi li jinkludu tfal u persuni li jidhru żgħar huma soġġetti għal moderazzjoni u guardrails saħansitra aktar stretti dwar x’jista’ jinħoloq minnhom. Dawn il-vidjos dejjem ikollhom watermarks ukoll meta jinqasmu.
- Xebh ibbażat fuq il-kunsens bl-użu tal-karattri. Ħloqna karattri(jinfetaħ f’tieqa ġdida) biex nagħtuk kontroll qawwi fuq xebh tiegħek f’Sora. Ix-xebh jinkludi d-dehra tiegħek u l-vuċi tiegħek. Għandna guardrails maħsuba biex jiżguraw li x-xebh tiegħek fl-awdjo u fl-immaġni maqbud fil-karattri jintuża bil-kunsens tiegħek. Int biss tiddeċiedi min jista’ juża l-karattri tiegħek, u tista’ tirtira l-aċċess fi kwalunkwe ħin. Nieħdu wkoll miżuri biex nibblukkaw rappreżentazzjonijiet ta’ figuri pubbliċi, ħlief dawk li jużaw il-karatteristika tal-karattri. Il-vidjos li jinkludu l-karattri tiegħek—inklużi abbozzi maħluqa minn utenti oħra—dejjem ikunu viżibbli għalik. Dan jippermettilek tirrevedi u tħassar faċilment (u, jekk hemm bżonn, tirrapporta) kwalunkwe vidjo li jinkludi l-karattru tiegħek. Napplikaw ukoll guardrails ta’ sigurtà żejda għal kull vidjo b’karattru, u tista’ anke tattiva sett saħansitra aktar strett ta’ guardrails li jirrestrinġi tipi ta’ użu. Dan jinkludi l-limitazzjoni ta’ bidliet kbar fid-dehra tiegħek, li tpoġġik f’sitwazzjonijiet imbarazzanti, u li żżomm l-identità tiegħek ġeneralment konsistenti.
- Salvagwardji għaż-żgħażagħ. Sora tinkludi protezzjonijiet aktar b’saħħithom għal utenti iżgħar fl-età, inklużi limitazzjonijiet fuq outputs maturi. Il-feed huwa mfassal biex ikun adattat għall-utenti kollha ta’ Sora u kontenut li jista’ jkun ta’ ħsara, mhux sigur, jew mhux adattat għall-età jiġi ffiltrat minn kontijiet taż-żgħażagħ. Il-profili taż-żgħażagħ ma jiġux issuġġeriti lill-adulti u l-adulti ma jistgħux jibdew messaġġi maż-żgħażagħ. Il-kontrolli tal-ġenituri f’ChatGPT jippermettu lill-ġenituri jimmaniġġjaw jekk iż-żgħażagħ jistgħux jibagħtu u jirċievu DMs, kif ukoll jagħżlu feed mhux personalizzat fl-app ta’ Sora. U awtomatikament, iż-żgħażagħ għandhom ukoll limiti fuq kemm jistgħu jiskrolljaw kontinwament f’Sora.
- Niffiltraw kontenut ta’ ħsara. Sora tuża difiżi f’saffi biex iżżomm il-feed sigur filwaqt li tħalli spazju għall-kreattività. Fil-ħolqien, il-guardrails ifittxu li jimblukkaw kontenut mhux sigur qabel ma jinħoloq—inkluż materjal sesswali, propaganda terroristika, u promozzjoni tal-awtoħsara—billi jiċċekkjaw kemm il-prompts kif ukoll l-outputs fuq diversi frejms tal-vidjo u traskrizzjonijiet tal-awdjo. Għamilna red teaming biex nesploraw riskji ġodda, u ssikkajna l-politiki meta mqabbla mal-ġenerazzjoni tal-immaġnijiet minħabba r-realiżmu akbar ta’ Sora u ż-żieda tal-moviment u l-awdjo. Lil hinn mill-ġenerazzjoni, sistemi awtomatizzati jiskennjaw il-kontenut kollu tal-feed kontra l-Politiki Globali tal-Użu tagħna u jiffiltraw materjal mhux sigur jew mhux adattat għall-età. Dawn is-sistemi jiġu aġġornati kontinwament hekk kif nitgħallmu dwar riskji ġodda u huma kkumplimentati minn reviżjoni umana ffokata fuq il-ħsarat bl-ogħla impatt.
- Salvagwardji tal-awdjo. Iż-żieda tal-awdjo ma’ Sora tgħolli l-livell tas-sigurtà meħtieġa, u għalkemm protezzjonijiet perfetti huma diffiċli, inkomplu ninvestu bis-serjetà f’dan il-qasam. Sora awtomatikament tiskennja traskrizzjonijiet ta’ diskors iġġenerat għal ksur potenzjali tal-politiki, u timblokka wkoll tentattivi biex tiġġenera mużika li timita artisti ħajjin jew xogħlijiet eżistenti. Is-sistemi tagħna huma mfassla biex jindunaw b’dawn il-prompts u jwaqqfuhom, u nonoraw talbiet għat-tneħħija minn kreaturi li jemmnu li output ta’ Sora jikser ix-xogħol tagħhom.
- Kontroll u rimedju għall-utent. Int tagħżel meta u kif taqsam il-vidjos tiegħek, u tista’ tneħħi l-kontenut ippubblikat tiegħek fi kwalunkwe ħin. Il-vidjos jinqasmu mal-feed biss meta tagħżel li tagħmel dan. Kull vidjo, profil, messaġġ dirett, kumment, u karattru jista’ jiġi rrappurtat għal abbuż, b’rimedju ċar meta jinkisru l-politiki. Tista’ wkoll tagħżel li timblokka kontijiet fi kwalunkwe ħin, u dan jipprevjeni lil oħrajn milli jaraw il-profil jew il-posts tiegħek, jużaw il-karattru tiegħek, u jikkuntattjawk permezz ta’ messaġġ dirett.
