Хил хязгаарын загварт тэг өгөгдөл хадгалалт санал болгох

Тэг өгөгдөл хадгалалт нь шаардлага хангасан API хэрэглэгчдэд тодорхой амлалт өгдөг: OpenAI хүсэлтийг боловсруулсны дараа тэдний промпт болон загварын хариултыг хадгалахгүй. Хэрэглэгчийн контентыг OpenAI-ийн ажилтнууд хянах боломжгүй¹ бөгөөд байгууллагын хэрэглэгчид өөрсдөө илэрхий зөвшөөрөөгүй бол өгөгдлийг нь манай загваруудыг сургахад ашиглахгүй.

Загварууд илүү урт, нарийн төвөгтэй даалгавар гүйцэтгэхийн хэрээр зарим ноцтой эрсдэл зөвхөн олон удаагийн харилцан үйлчлэлээс илэрч болно. Одоогийн ZDR-тэй нийцтэй аюулгүй байдлын системүүд харилцан үйлчлэл бүрийг тусад нь үнэлдэг. Өнөөдөр бид OpenAI-ийн ажилтнуудад үндсэн контентыг үзүүлэхгүйгээр холбоотой харилцан үйлчлэлүүдийн нийтлэг хэв шинжийг илрүүлэх зориулалттай Нууцлалтай аюулгүй байдлын боловсруулалтыг урьдчилан танилцуулж байна.

ZDR нэвтрүүлэлтийн үед хэрэглэгчийн контент тухайн хэрэглэгчийн хянадаг дэд бүтцэд хадгалагдана. Мөн бид контентыг OpenAI-ийн дэд бүтцэд хэрэглэгчийн хянадаг түлхүүрээр шифрлэн хадгалах хувилбарыг боловсруулж байна. Аль ч тохиолдолд автомат системүүд үндсэн промпт, хариултыг OpenAI-ийн ажилтнуудад ил болголгүйгээр болзошгүй зүй бус хэрэглээг илрүүлж, аюулгүй байдлын хязгаарлагдмал дохио буцааж чадна.

AI-ийн аюулгүй байдлын хамгийн ноцтой эрсдэлүүд нэг удаагийн харилцан үйлчлэлээр үргэлж илэрдэггүй. Хор хөнөөл учруулж болзошгүй санаа зорилго нь олон харилцан үйлчлэлийг хамтад нь харахад л тодорхой болох нь элбэг. Муу санаатай этгээдүүд хамгаалалтыг давтан турших, олон бүртгэлээр үйл ажиллагаагаа уялдуулах эсвэл аюул заналыг ердийн судалгаа мэт халхлах үед үүнтэй төстэй эрсдэл үүсэж болно. Агентын даалгаврыг гүйцэтгэх явцад ч эрсдэл үүсэж болно. Жишээлбэл, системд зогсохыг хэлсний дараа ч үйлдлээ үргэлжлүүлснээр хэрэглэгчийн зорилготой зөрчилдөж болно.

AI системүүд илүү урт, нарийн төвөгтэй даалгавар гүйцэтгэхийн хэрээр хууль ёсны үйл ажиллагааг зүй бус хэрэглээнээс ялгах, AI агентуудыг зориулсан эрх мэдлийнх нь хүрээнд байлгахад энэхүү өргөн хүрээний нөхцөл улам чухал болно.

Сүүлийн үеийн зарим хил хязгаарын загварын нэвтрүүлэлтэд аюулгүй байдлын хяналт хийхийн тулд эмзэг контентыг нь AI үйлчилгээ үзүүлэгч хадгалахыг хэрэглэгчдээс шаардсан. Олон байгууллагын хувьд ийм шаардлага нь аюулгүй байдлын үүрэг эсвэл үйлчилдэг хүмүүстээ өгсөн амлалттай нь зөрчилддөг.

Нууцлалтай аюулгүй байдлын боловсруулалт нь ZDR-ийг үргэлжлүүлэн санал болгох боломжийг бидэнд олгохоор бүтээгдсэн.

Нууцлалтай аюулгүй байдлын боловсруулалт нь ZDR болон бусад нэвтрүүлэлтэд аль хэдийн ашигладаг автомат хамгаалалтад тулгуурладаг. Одоогийн ZDR-тэй нийцтэй аюулгүй байдлын системүүд харилцан үйлчлэл бүрийг тусад нь үнэлдэг. Нууцлалтай аюулгүй байдлын боловсруулалт нь эдгээр хамгаалалтыг холбоотой харилцан үйлчлэлүүдэд өргөжүүлснээр OpenAI-ийн ажилтнуудад хадгалсан хэрэглэгчийн контентод хандах эрх олголгүйгээр нийтлэг хэв шинжийг автомат системээр илрүүлэх боломж бүрдүүлдэг.

Нууцлалтай аюулгүй байдлын боловсруулалт нь хэрэглэгчийн контент хаана хадгалагдаж байгаагаас үл хамааран ашигладаг. Үүнд хэрэглэгчийн хянадаг дэд бүтэц дэх ZDR нэвтрүүлэлт болон OpenAI-ийн олгосон хадгалалт аль аль нь хамаарна. OpenAI-ийн олгосон хадгалалтад хэрэглэгчийн контентыг хэрэглэгчийн хянадаг түлхүүрээр шифрлэнэ. OpenAI-ийн ажилтнуудад эдгээр түлхүүрийн хуулбар байдаггүй тул үндсэн контентод хандах боломжгүй.

Эрсдэл илэрвэл OpenAI одоогийн аюулгүй байдлын системүүдтэй адил, холбогдох үйл ажиллагааны төрлийг заасан нарийн хязгаарлагдсан дохиог хүлээн авна. Тухайн дохиог ашиглан хэрэгжилтийг хангах арга хэмжээ шаардлагатай эсэхийг тогтоож болно. Хэрэглэгчийн контентод анхааруулга тавигдсан ч OpenAI-ийн ажилтнууд түүнд хандах эрхгүй.

Хэрэглэгчид өөрсдийн системд байгаа мэдээллийг ашиглан анхааруулга болон хэрэгжилтийг хангах шийдвэрийг шалгаж болно. Хэрэв тэд давж заалдах, хууль ёсны үйл ажиллагаагаа тайлбарлах эсвэл баталгаажсан зүй бус хэрэглээний мөрдөн шалгалтад дэмжлэг үзүүлэхийг хүсвэл холбогдох мэдээллээ OpenAI-тай хуваалцахаар сонгож болно.

Нууцлалтай аюулгүй байдлын боловсруулалтыг одоогоор эхний хэрэглэгчидтэй туршиж байна. AI системүүд улам чадварлаг болохын хэрээр контентыг нь хэрхэн хамгаалах талаар урьдчилан таамаглах боломж хэрэглэгчдэд хэрэгтэйг бид тодорхой сонссон учраас энэхүү урьдчилсан танилцуулгыг одоо хуваалцаж байна.

Бидний эрхэм зорилго бол Ерөнхий хиймэл оюун ухаан бүх хүн төрөлхтөнд үр өгөөжөө өгөхийг баталгаажуулах явдал юм. Үр дүнтэй хамгаалалт бий болгоход хэрэглэгчид болон түншүүдтэй хамтран ажиллах нь зайлшгүй чухал. Манай зарчмуудад тодорхой дурдсанчлан шинээр үүсэж буй эрсдэлийг аль ч AI лаборатори дангаараа шийдвэрлэж чадахгүй. Нууцлалтай аюулгүй байдлын боловсруулалт нь энэ арга барилыг тусгасан бөгөөд төрөл бүрийн салбар, бүс нутаг, хэмжээний компаниудын санал оролцоогоор төлөвшиж байна.

Бидэнтэй хамтран ажилладаг байгууллагууд санхүүгийн бүртгэл, эрүүл мэндийн өгөгдөл, бизнесийн нууц төлөвлөгөө, өмчлөлийн судалгаа зэрэг салбарынхаа хамгийн эмзэг мэдээллийг боловсруулдаг. Энэ мэдээллийг хамгаалах нь зохицуулалтын үүргийг биелүүлэх, хэрэглэгчдийн итгэлийг хадгалах, өрсөлдөх давуу талыг нь хамгаалахад зайлшгүй чухал.

Тэдний санал хүсэлт нь мэдээллийг нь өөрсдийнх нь хяналтад байлгахын зэрэгцээ илүү найдвартай хамгаалалт бий болгоход бидэнд тусалж байна.

Бид арга барилынхаа техникийн болон үйл ажиллагааны нарийн ширийн дээр хэрэглэгчидтэй үргэлжлүүлэн хамтран ажиллана. Бид Нууцлалтай аюулгүй байдлын боловсруулалтыг есдүгээр сараас үе шаттай нэвтрүүлж, техникийн цагаан ном нийтлэхээр төлөвлөж байна. Бид хэрэглэгчдэд алхам бүрд мэдээлэл өгч, шинэчлэлүүдийг эрт хуваалцан, одоогийн амлалтуудад ямар нөлөөтэйг тайлбарлаж, урьдчилан төлөвлөхөд нь шаардлагатай хугацаа, дэмжлэгийг үзүүлнэ.