ChatGPT‑д Lockdown Mode болон Elevated Risk шошгыг танилцуулж байна

AI системүүд илүү төвөгтэй даалгавар, ялангуяа вэб болон холбогдсон аппуудыг хамарсан ажлуудыг гүйцэтгэх тусам аюулгүй байдлын эрсдэл өөрчлөгдөж байна.

Шинээр гарч ирж буй нэг эрсдэл онцгой чухал болж байна: зааварт халдлага⁠. Ийм халдлагад гуравдагч этгээд ярианы AI системийг хортой зааврыг дагах эсвэл эмзэг мэдээлэл задруулахад төөрөгдүүлэхийг оролддог.

Өнөөдөр бид хэрэглэгчид болон байгууллагуудад зааварт халдлагын эрсдэлийг бууруулахад туслах, эрсдэлийн илүү тод харагдац болон илүү хүчтэй хяналт бүхий хоёр шинэ хамгаалалтыг танилцуулж байна:

• Өндөр эрсдэлтэй хэрэглэгчдэд зориулсан ChatGPT дахь дэвшилтэт, сонголтот хамгаалалтын тохиргоо болох Lockdown Mode
• Нэмэлт эрсдэл үүсгэж болзошгүй ChatGPT, ChatGPT Atlas, Codex-ийн зарим боломжид зориулсан “Elevated Risk” шошго

Эдгээр нэмэлтүүд нь загвар, бүтээгдэхүүн, системийн түвшний манай одоогийн хамгаалалтууд дээр суурилж байна. Үүнд sandboxing, URL-д суурилсан өгөгдөл гадагшлуулахын эсрэг хамгаалалт⁠, мониторинг ба хэрэгжилт, мөн үүрэгт суурилсан хандалт, аудитын бүртгэл зэрэг байгууллагын хяналтууд⁠ орно.

Lockdown Mode нь дэвшилтэт аюул заналын эсрэг илүү өндөр хамгаалалт шаарддаг, аюулгүй байдалд онцгой анхаардаг цөөн хэрэглэгчдэд—жишээлбэл томоохон байгууллагын удирдлагууд эсвэл аюулгүй байдлын багуудад—зориулагдсан сонголтот, дэвшилтэт хамгаалалтын тохиргоо юм. Ихэнх хэрэглэгчдэд энэ шаардлагагүй. Lockdown Mode нь ChatGPT гадаад системүүдтэй хэрхэн харилцахыг хатуу хязгаарлаж, зааварт халдлагад суурилсан өгөгдөл гадагшлуулах эрсдэлийг бууруулдаг.

Lockdown Mode нь халдагч хэрэглэгчийн яриа эсвэл холбогдсон аппуудаас эмзэг өгөгдлийг зааварт халдлага зэрэг аргаар гадагшлуулахын тулд ашиглахыг оролдож болох ChatGPT дахь тодорхой хэрэгсэл, боломжуудыг детерминист байдлаар идэвхгүй болгодог.

Жишээлбэл, Lockdown Mode дахь вэб үзэх үйлдэл кэшлэгдсэн агуулгаар хязгаарлагддаг тул OpenAI-ийн хяналттай сүлжээнээс шууд сүлжээний хүсэлт гарахгүй. Энэ хязгаарлалт нь үзэх явцаар дамжин эмзэг өгөгдлийг халдагч руу гадагшлуулахаас сэргийлэх зорилготой. Өгөгдлийн аюулгүй байдлын талаар хүчтэй детерминист баталгаа өгч чадахгүй үед зарим боломжийг бүрэн идэвхгүй болгодог.

ChatGPT‑ийн бизнес төлөвлөгөөнүүд аль хэдийн байгууллагын түвшний өгөгдлийн аюулгүй байдал⁠-ыг хангадаг. Lockdown Mode нь эдгээр хамгаалалтыг өргөтгөж, ChatGPT Enterprise, ChatGPT Edu, ChatGPT for Healthcare, ChatGPT for Teachers-д ашиглах боломжтой. Админууд шинэ үүрэг⁠(шинэ цонхонд нээгдэнэ) үүсгэн ажлын талбарын тохиргоо⁠(шинэ цонхонд нээгдэнэ)-д үүнийг идэвхжүүлж болно. Идэвхжүүлсэн үед Lockdown Mode нь одоо байгаа админы тохиргоонуудын дээр нэмэлт хязгаарлалтууд давхарлан хэрэглэнэ.

Lockdown Mode-ийн талаар манай Тусламжийн төв⁠(шинэ цонхонд нээгдэнэ)-өөс дэлгэрэнгүй уншина уу.

Зарим чухал ажлын урсгал аппуудад тулгуурладаг тул ажлын талбарын админууд илүү нарийн хяналтаа хадгална. Тэд Lockdown Mode-д хэрэглэгчдэд яг аль аппууд, мөн тэдгээр апп доторх аль тодорхой үйлдлүүд нээлттэй байхыг сонгож болно. Үүнээс гадна, Lockdown Mode-оос тусдаа Compliance API Logs Platform⁠(шинэ цонхонд нээгдэнэ) нь аппын хэрэглээ, хуваалцсан өгөгдөл, холбогдсон эх сурвалжуудын талаар дэлгэрэнгүй харагдац өгч, админууд хяналтаа хадгалахад тусалдаг.

Ирэх саруудад бид Lockdown Mode-ийг энгийн хэрэглэгчдэд ч ашиглах боломжтой болгохоор төлөвлөж байна.

AI бүтээгдэхүүнүүд таны аппууд болон вэбтэй холбогдсон үед илүү тустай байж чадна, мөн бид холбогдсон өгөгдлийг аюулгүй байлгах⁠-д ихээхэн хөрөнгө оруулсан. Үүний зэрэгцээ, сүлжээтэй холбоотой зарим боломжууд нь салбарын аюулгүй байдал, хамгаалалтын арга хэмжээнүүдээр хараахан бүрэн шийдэгдээгүй шинэ эрсдэлүүдийг бий болгодог. Зарим хэрэглэгч эдгээр эрсдэлийг хүлээн зөвшөөрч магадгүй бөгөөд ялангуяа хувийн өгөгдөлтэйгээ ажиллахдаа тэдгээрийг ашиглах эсэх, хэрхэн ашиглахаа өөрсдөө шийдэх боломжтой байх нь чухал гэж бид үзэж байна.

Манай арга барил нь нэмэлт эрсдэл үүсгэж болзошгүй боломжуудад бүтээгдэхүүн доторх тайлбар, заавар өгөх байсан. Үүнийг илүү ойлгомжтой, тогтвортой болгохын тулд бид одоо байгаа зарим боломжийг хэрхэн шошголохоо нэг мөр болгож байна. Эдгээр боломжууд одоо ChatGPT, ChatGPT Atlas, Codex даяар ижил “Elevated Risk” шошготой байх тул хэрэглэгчид хаана ч таарсан ижил зааварчилгаа авна.

Жишээлбэл, манай код бичих туслах Codex-д хөгжүүлэгчид Codex-д сүлжээний хандалт олгож, баримт бичиг хайх зэрэг вэб дээр үйлдэл хийх боломжтой. Холбогдох тохиргооны дэлгэцэд “Elevated Risk” шошго, мөн юу өөрчлөгдөх, ямар эрсдэл үүсэж болзошгүй, ийм хандалт хэзээ тохиромжтой талаар тодорхой тайлбар орно.

Бид аюулгүй байдал, хамгаалалтын хамгаалалтуудаа, ялангуяа шинэ, шинээр гарч буй, эсвэл өсөн нэмэгдэж буй эрсдэлүүдийн хувьд улам бэхжүүлэхэд хөрөнгө оруулсаар байна. Эдгээр боломжуудын хамгаалалтыг сайжруулахын хэрээр ерөнхий хэрэглээнд эдгээр эрсдэлийг аюулгүй байдлын дэвшлүүд хангалттай бууруулсан гэж үзсэн үед “Elevated Risk” шошгыг бид хасна. Мөн хэрэглэгчдэд эрсдэлийг хамгийн оновчтой илэрхийлэхийн тулд энэ шошгыг ямар боломжууд авч явахыг цаг хугацааны явцад үргэлжлүүлэн шинэчилнэ.