Ачаалж байна…
Sora 2 загвар болон Sora апп нь хамтран бүтээх шинэ аргын хамт хамгийн сүүлийн үеийн видео үүсгэх боломжийг олгодог бөгөөд бид аюулгүй байдлыг хамгийн эхнээс нь суулгаж өгсөн. Манай арга барил дараах бодит хамгаалалтад тулгуурладаг:
- AI агуулгыг ялган таних. Sora-гаар үүсгэсэн видео бүр харагдах болон үл харагдах гарал үүслийн дохиог агуулдаг. Sora-ийн бүх видео мөн салбарын стандарт гарын үсэг болох C2PA метадата шингээдэг бөгөөд бид ChatGPT зураг үүсгэх болон Sora 1-ийн амжилттай системүүдэд тулгуурлан видеог Sora руу өндөр нарийвчлалтайгаар буцаан мөрдөх боломжтой дотоод урвуу зураг болон аудио хайлтын хэрэгслүүдийг хадгалдаг. Олон гаралт мөн бүтээгчийн нэрийг агуулсан, динамикаар хөдөлдөг харагдах усан тэмдэгтэй байдаг.
- Бодит хүний төрхөөр image-to-video. Бид Sora-ийн хамгаалалтын хашлагыг улам бэхжүүлэхийн хэрээр илүү бүтээлч илэрхийлэл, холбоог боломжтой болгож, гэр бүл болон найзуудынхаа зургаас видео бүтээхийг ч зөвшөөрч байна. Хэрэглэгчид дүрслэгдсэн хүмүүсийн зөвшөөрлийг авсан бөгөөд медиаг байршуулах эрхтэй гэдгээ баталгаажуулсны дараа Sora-д хүмүүстэй зургийг байршуулж видео хийж болно. Хүмүүстэй image-to-video үүсгэлтүүд нь Sora Characters (өмнө нь cameo feature гэж нэрлэдэг байсан)-оор зөвшөөрөгддөгөөс ч илүү хатуу аюулгүй байдлын хашлагад хамрагдана. Хүүхэд болон наснаасаа залуу харагдах хүмүүсийг агуулсан зургууд нь тэдгээрээс юу бүтээж болох талаар бүр ч хатуу модерац болон хамгаалалтын хашлагад хамрагдана. Эдгээр видеонуудыг хуваалцах үед мөн үргэлж усан тэмдэгтэй байна.
- Characters ашигласан зөвшөөрөлд суурилсан төрх. Бид Sora дахь таны төрхийг хүчтэй хянах боломж олгохоор characters(шинэ цонхонд нээгдэнэ)-ийг бүтээсэн. Төрхөд таны гадаад байдал болон дуу хоолой орно. Characters-д хадгалсан таны аудио болон дүрсний төрх зөвшөөрөлтэйгээр ашиглагдаж буйг хангах зорилготой хамгаалалтын хашлагууд бидэнд бий. Таны characters-ийг хэн ашиглаж болохыг зөвхөн та шийднэ, мөн та хүссэн үедээ хандалтыг цуцалж болно. Мөн characters функцийг ашигласан тохиолдлоос бусад үед олон нийтийн зүтгэлтнүүдийн дүрслэлийг хориглох арга хэмжээ авдаг. Таны characters-ийг агуулсан видеонууд, үүнд бусад хэрэглэгчийн үүсгэсэн ноорог ч багтана, танд үргэлж харагдана. Ингэснээр та таны character-ийг агуулсан аливаа видеог амархан хянаж, устгаж (шаардлагатай бол мэдээлж) чадна. Мөн бид character-тэй аливаа видеод нэмэлт аюулгүй байдлын хашлага хэрэглэдэг бөгөөд хэрэглээний төрлүүдийг хязгаарлах бүр ч хатуу багц хамгаалалтыг та асааж болно. Үүнд таны гадаад төрхөд томоохон өөрчлөлт хийхийг хязгаарлах, таныг эвгүй байдалд оруулахгүй байх, мөн таны таних шинжийг ерөнхийдөө тогтвортой байлгах зэрэг орно.
- Өсвөр насныханд зориулсан хамгаалалт. Sora нь залуу хэрэглэгчдэд зориулсан илүү хүчтэй хамгаалалтуудтай бөгөөд үүнд насанд хүрэгчдийн агуулгын хязгаарлалт багтана. Feed нь Sora-ийн бүх хэрэглэгчдэд тохиромжтой байхаар зохиогдсон бөгөөд хортой, аюулгүй бус эсвэл насанд үл тохирох агуулгыг өсвөр насны аккаунтуудаас шүүн хасдаг. Өсвөр насны профайлыг насанд хүрэгчдэд санал болгодоггүй бөгөөд насанд хүрэгчид өсвөр насныханд мессеж эхлүүлж болдоггүй. ChatGPT дахь эцэг эхийн хяналт нь өсвөр насныхан DM илгээж, хүлээн авах эсэхийг удирдах, мөн Sora апп дотор хувийн бус feed сонгох боломжийг эцэг эхчүүдэд олгодог. Мөн анхдагчаар өсвөр насныханд Sora-д тасралтгүй хэр их scroll хийж болох талаар хязгаар тогтоосон байдаг.
- Хортой агуулгыг шүүх. Sora нь бүтээлч байдалд орон зай үлдээхийн зэрэгцээ feed-ийг аюулгүй байлгахын тулд давхаргат хамгаалалт ашигладаг. Бүтээх шатанд хамгаалалтын хашлагууд нь аюултай агуулгыг хийгдэхээс нь өмнө хаахыг зорьдог—үүнд бэлгийн шинжтэй материал, террорист суртал ухуулга, өөртөө хор хүргэхийг сурталчлах агуулга орно—ингэхдээ олон видео кадр болон аудио транскрипт даяар өгөгдөл болон гаралтыг хоёуланг нь шалгадаг. Бид шинэ эрсдлүүдийг судлахын тулд red teaming хийсэн бөгөөд Sora-ийн илүү бодитой байдал, хөдөлгөөн болон аудио нэмэгдсэнтэй холбоотойгоор зураг үүсгэхтэй харьцуулахад бодлогыг чангатгасан. Үүсгэлтээс цааш автомат системүүд feed дэх бүх агуулгыг манай Global Usage Policies-ийн дагуу шалгаж, аюултай эсвэл насанд тохироогүй материалыг шүүн хасдаг. Эдгээр системүүд шинэ эрсдлийн талаар суралцахын хэрээр тасралтгүй шинэчлэгддэг бөгөөд хамгийн их нөлөөтэй хор хөнөөлд төвлөрсөн хүний хяналтаар нөхөгддөг.
- Аудио хамгаалалт. Sora-д аудио нэмэх нь аюулгүй байдлын босгыг өндөрсгөдөг бөгөөд төгс хамгаалалт хийхэд бэрх ч бид энэ чиглэлд нухацтай хөрөнгө оруулсаар байна. Sora нь үүсгэсэн ярианы транскриптийг болзошгүй бодлогын зөрчил байгаа эсэхийг автоматаар шалгадаг бөгөөд мөн амьд уран бүтээлчид эсвэл одоо байгаа бүтээлүүдийг дуурайсан хөгжим үүсгэх оролдлогыг хориглодог. Манай системүүд ийм өгөгдлийг илрүүлж зогсоохоор зохиогдсон бөгөөд Sora-ийн гаралт өөрсдийн бүтээлийг зөрчсөн гэж үзэж буй бүтээгчдийн буулгах хүсэлтийг бид хүндэтгэн үздэг.
- Хэрэглэгчийн хяналт ба шийдвэрлэх арга зам. Та видеогоо хэзээ, хэрхэн хуваалцахаа өөрөө сонгодог бөгөөд нийтэлсэн агуулгаа хүссэн үедээ устгаж болно. Видеог зөвхөн таны сонголтоор feed-д хуваалцана. Видео, профайл, шууд мессеж, сэтгэгдэл, character бүрийг зүй бусаар ашигласан гэж мэдээлж болох бөгөөд бодлого зөрчигдвөл тодорхой шийдвэрлэх арга зам бий. Мөн та хүссэн үедээ аккаунтуудыг блоклож болох бөгөөд ингэснээр бусад хүмүүс таны профайл эсвэл нийтлэлийг харах, таны character-ийг ашиглах, шууд мессежээр тантай холбогдох боломжгүй болно.
