Sora-г хариуцлагатайгаар нэвтрүүлэх нь

Sora 2 болон Sora апп нь хамгийн сүүлийн үеийн видео үүсгэх чадварыг хамтран бүтээх шинэ аргатай хослуулдаг бөгөөд бид аюулгүй байдлыг анхнаас нь суурилуулсан. Манай арга барил дараах тодорхой хамгаалалтад тулгуурладаг:

• AI агуулгыг ялган таних. Sora-гаар үүсгэсэн видео бүр харагддаг болон үл харагдах гарал үүслийн дохиог агуулдаг. Нээлтийн үед бүх гаралт харагдах усан тэмдэгтэй байна. Мөн бүх Sora видеонд салбарын стандарт гарын үсэг болох C2PA мета өгөгдөл шингэсэн байдаг бөгөөд ChatGPT зураг үүсгэх болон Sora 1-ийн амжилттай системүүдэд тулгуурлан, видеог Sora-тай өндөр нарийвчлалтайгаар холбон мөрдөх дотоод reverse-image болон аудио хайлтын хэрэгслүүдийг бид ашигладаг.
• Дүрүүдийг ашигласан, зөвшөөрөлд суурилсан төрх. Sora дүрүүдийн тусламжтайгаар таны төрхийг эхнээс нь дуустал өөрийн хяналтад байлгах нь бидний зорилго юм. Дүрүүдэд шингээсэн таны дуу хоолой болон дүр төрхийн мэдээллийг зөвхөн таны зөвшөөрлөөр ашиглуулахын тулд бид хамгаалалтын хязгаарлалт бий болгосон. Таны дүрүүдийг хэн ашиглахыг зөвхөн та шийднэ, мөн та хүссэн үедээ хандалтыг цуцалж болно. Мөн бид олон нийтийн танил хүмүүсийн дүрслэлийг хаах арга хэмжээ авдаг (мэдээж дүрүүдийн функцийг ашиглаж байгаа тохиолдлоос бусад). Таны дүрүүдийг агуулсан видеонууд, бусад хэрэглэгчдийн үүсгэсэн нооргуудыг оролцуулаад, танд үргэлж харагдана. Ингэснээр та өөрийн дүрийг агуулсан аливаа видеог амархан шалгаж, устгаж (шаардлагатай бол мэдээлж) чадна. Мөн бид дүртэй аливаа видеонд нэмэлт аюулгүй байдлын хязгаарлалт хэрэгжүүлдэг бөгөөд бүр таны дүр хэрхэн авирлах талаар тохиргоо хийх боломжтой — жишээлбэл, үргэлж федора малгай өмсөж байхыг хүсэж болно.
• Өсвөр насныханд зориулсан хамгаалалт. Sora нь залуу хэрэглэгчдэд зориулсан илүү хүчтэй хамгаалалтуудыг агуулдаг бөгөөд үүнд насанд хүрэгчдийн агуулгад тавих хязгаарлалт орно. Feed нь өсвөр насныханд тохиромжтой байхаар зохион бүтээгдсэн, өсвөр насныхны профайлыг насанд хүрэгчдэд санал болгодоггүй, мөн насанд хүрэгчид өсвөр насныханд эхэлж мессеж илгээх боломжгүй. ChatGPT дахь шинэ эцэг эхийн хяналт нь өсвөр насныхан DM илгээх, хүлээн авах эсэхийг эцэг эхчүүдэд удирдах боломж олгохоос гадна Sora апп дотор хувьчилж тохируулаагүй feed сонгох боломж өгдөг. Мөн анхдагчаар өсвөр насныханд Sora дотор тасралтгүй scroll хийх хэмжээнд ч хязгаар тогтоосон байдаг.
• Хортой агуулгыг шүүх. Sora нь бүтээлч байдлыг хадгалах орон зай үлдээхийн зэрэгцээ feed-ийг аюулгүй байлгахын тулд давхарласан хамгаалалт ашигладаг. Бүтээх явцад хамгаалалтын хязгаарлалтууд нь аюултай агуулгыг бүтээхээс нь өмнө хаахыг зорьдог — үүнд бэлгийн шинжтэй материал, террорист суртал ухуулга, өөрийгөө гэмтээхийг дэмжсэн агуулга орно — ингэхдээ өгөгдөл болон гаралтыг олон видео кадр, аудио транскриптээр шалгадаг. Бид шинэ эрсдлүүдийг судлахын тулд red teaming хийсэн бөгөөд Sora-ийн илүү бодитой байдал, хөдөлгөөн болон аудио нэмэгдсэнийг харгалзан зураг үүсгэхтэй харьцуулахад бодлогуудыг чангаруулсан. Үүсгэхээс цаашлаад автоматжуулсан системүүд нь feed дээрх бүх агуулгыг манай Глобал хэрэглээний бодлого⁠-ын дагуу шалгаж, аюултай эсвэл насанд тохироогүй материалыг шүүн гаргадаг. Эдгээр системийг шинэ эрсдлүүдийн талаар суралцах тусам тасралтгүй шинэчилдэг бөгөөд хамгийн их нөлөөтэй хор уршигт төвлөрсөн хүний хяналт тэдгээрийг нөхдөг.
• Аудионы хамгаалалт. Sora-д аудио нэмэх нь аюулгүй байдлын шаардлагыг улам өндөрсгөдөг бөгөөд төгс хамгаалалт хийхэд бэрх ч бид энэ чиглэлд нухацтай хөрөнгө оруулсаар байна. Sora нь үүсгэсэн ярианы транскриптийг бодлогын болзошгүй зөрчил байгаа эсэхийг автоматаар шалгадаг бөгөөд амьд уран бүтээлчид эсвэл одоо байгаа бүтээлүүдийг дуурайсан хөгжим үүсгэх оролдлогыг мөн блоклодог. Манай системүүд ийм төрлийн өгөгдлийг илрүүлж зогсоохоор бүтээгдсэн бөгөөд Sora-ийн гаралт өөрсдийн бүтээлийг зөрчсөн гэж үзэж буй бүтээгчдийн буулгах хүсэлтийг бид хүндэтгэн үздэг.
• Хэрэглэгчийн хяналт ба шийдвэрлэх боломж. Та видеогоо хэзээ, хэрхэн хуваалцахаа өөрөө сонгодог бөгөөд нийтэлсэн агуулгаа хүссэн үедээ устгаж болно. Та тэгж сонгосон үед л видеонууд feed рүү хуваалцагдана. Видео, профайл, сэтгэгдэл бүрийг зүй бус хэрэглээний талаар мэдээлэх боломжтой бөгөөд бодлого зөрчигдвөл тодорхой шийдвэрлэх арга зам бий. Мөн та хүссэн үедээ бүртгэлүүдийг блоклох боломжтой бөгөөд ингэснээр бусад хүмүүс таны профайлыг харах эсвэл шууд мессежээр тантай холбогдох боломжгүй болно.