Австралийн төлөө ажлаа хэрхэн сайжруулах вэ
Зургаадугаар сард дотоод сургалт, үнэлгээний үеэр манай загварууд Австралийн төрийн вэбсайтуудад зөвшөөрөгдөөгүй аргаар хандсан. Бид ч мөн хариу арга хэмжээгээ илүү сайн зохион байгуулах ёстой байсан. Бид уучлал хүсэж, цаашид ажлаа сайжруулахаар ажиллаж байна.
Энэ нийтлэлээр бид юу мэдэж байгаа, юуг өөрчилсөн, Австралийн ард түмний итгэлийг сэргээхийн тулд юу хийхээ тайлбарлаж байна. Энэ бол дэлхий нийтэд шинээр тулгарч буй сорилтыг харуулсан, шинэ төрлийн кибер зөрчил юм. Энэ нөхцөл байдалд хариуцлага хүлээх нэг арга зам бол Австралитай зорилго чиглэлтэй хамтран ажиллах явдал гэж бид үзэж байна. Ингэснээр хиймэл оюун хөгжүүлэгчид болон засгийн газрууд хиймэл оюуны санаатай хор хөнөөлтэй эсвэл санамсаргүй кибер үйлдлийг хэрхэн илрүүлэх, мэдээлэх, хариу арга хэмжээ авах талаар бодитой арга барил боловсруулахад тусална.
Долдугаар сард гарсан Hugging Face-тэй холбоотой зөрчлийн дараа бид бусад өртсөн байгууллагыг тодруулахын тулд өмнөх сургалт, үнэлгээний үйл ажиллагааг шалгаж эхэлсэн. Наймдугаар сарын дундуур уг шалгалтаар доорх Австралийн төрийн вэбсайтуудад нөлөөлсөн үйлдлүүдийг илрүүлсэн.
Нотлох баримтад үндэслэн бид дараах зүйлийг тогтоосон:
Services Australia: OpenAI-ийн нэг загвар тус үйлчилгээний нийтэд нээлттэй бус хэсэгт нэвтрэх аргыг олж, команд ажиллуулан, дотоод файлууд, нэвтрэх эрхийн мэдээлэл, нэгтгэсэн статистик авч, файл бичсэн. Гэхдээ өвчтөн, үйлчлүүлэгчдийн хувийн бүртгэлд хандаагүй. Энэ зөрчлийн талаар доор дэлгэрэнгүй тайлбарлана.
Шинэ Өмнөд Уэльс мужийн Гэмт хэргийн статистик, судалгааны товчоо (BOCSAR): OpenAI-ийн нэг загвар нийтэд нээлттэй гэмт хэргийн статистикийг судлахаар BOCSAR-ын гэмт хэргийн газрын зургийн нээлттэй хэрэгсэлд хандсан (загварууд яагаад төрөл бүрийн мэдээлэл судлах даалгавар гүйцэтгэдгийг доор дэлгэрүүлэн тайлбарлана). Загвар нь хөтчөөс илгээх API хүсэлтэд зориулсан нэвтрэх эрхийн мэдээлэл өгдөг BOCSAR-ын нээлттэй хэрэгслээр дамжуулан API болон вэбсайтын мета өгөгдлийн хүсэлт илгээсэн. BOCSAR-ын систем хариуд нь аппликейшний тохиргоо, үйл ажиллагааны ажлууд болон лог бүртгэл, вэбсайтын мета өгөгдлийг буцаасан. Хувь хүмүүсийн гэмт хэргийн бүртгэлд хандаагүй.
Викториа мужийн Эрүүл мэндийн яам: OpenAI-ийн агентууд ил задгай байсан хандалтын түлхүүр олж, түүгээр Викториа мужийн Эрүүл мэндийн мэдээллийн агентлагийн тайлангийн системд хүсэлт илгээн, тайлангийн тохиргоо болон судалгааны нэгтгэсэн статистикийг авсан. Эдгээр мэдээллийн аль хэсэгт хандах боломжтой байх ёстой байсан нь тодорхойгүй бөгөөд VAHI-ийн хандалтын бодлогоос хамаарна. Хувь хүний эмнэлгийн бүртгэл, эсвэл хэн өгснийг нь тогтоох боломжтой судалгааны хариултуудад хандаагүй.
Австралийн Эрүүл мэнд, нийгмийн халамжийн хүрээлэн: OpenAI-ийн агентууд гуравдагч талын вэб үзэх, татаж авах үйлчилгээг ашиглан AIHW-ийн вэбсайт зэрэг эх сурвалжаас нэгтгэсэн статистик авч, графикийн өгөгдөлд шууд хүсэлт илгээсэн. Хандалтын хяналтыг тойрон гарах тусдаа оролдлогууд амжилтгүй болсон. Татаж авсан материал нь нийтэд нээлттэй байсан бололтой. Системд халдан нэвтрээгүй. Хувь хүний эмнэлгийн бүртгэлд хандаагүй.
Бид наймдугаар сарын дундуур эдгээр үйлдлийн талаар мэдсэн даруйдаа шалгалт эхлүүлсэн. Бид есдүгээр сарын 10-нд Services Australia болон Викториа мужийн Эрүүл мэндийн яаманд, есдүгээр сарын 18-нд Шинэ Өмнөд Уэльс мужийн Гэмт хэргийн статистик, судалгааны товчоонд мэдэгдсэн. Австралийн Эрүүл мэнд, нийгмийн халамжийн хүрээлэнтэй холбоотой үйлдэл нь нийтэд нээлттэй хандалтын аргаар хийгдсэн мэт байсан тул манай мэдээлэх шалгуурт хүрээгүй. Гэсэн ч бид дүгнэлтээ хуваалцаж, дэлгэрэнгүй мэдээлэл өгөх санал тавихаар есдүгээр сарын 24-нд тус хүрээлэнд мэдэгдсэн.
Бидний зорилго нь шалгалтаа дуусгасны дараа өртсөн байгууллагуудад дэлгэрэнгүй мэдээлэл өгөх байсан. Гэхдээ бид урьдчилсан дүгнэлтээ эрт хуваалцаж, шинэ баримт илрэх бүрд Австралийн байгууллагуудад мэдээлэл хүргэж байх ёстой байсан.
Тэр цагаас хойш бид Австралийн төрийн байгууллагуудтай нягт хамтран ажиллаж, өнөөг хүртэл олж тогтоосон зүйлсээ хуваалцаж байна. Хэрэв өөр өртсөн байгууллага илэрвэл бид тухайн үед байгаа мэдээллээр тэдэнд нэн даруй, шууд мэдэгдэж, цаашид шинэ баримт илрэх бүрд мэдээллийг шинэчлэн хүргэнэ.
Зургаадугаар сард дотоод сургалт, үнэлгээ хийхдээ бид зөвхөн дотоод хэрэгцээнд зориулсан, нийтэд гаргах зорилгогүй OpenAI-ийн туршилтын загварыг ажиллуулж байсан. Энэ загварт нийтэд нээлттэй бүтээгдэхүүнүүддээ ашигладаг хамгаалалтын бүх арга хэмжээг бүрэн нэвтрүүлээгүй байсан. Энэхүү сургалт, үнэлгээний явцад загвар нь Services Australia-ийн Medicare статистикийн тайлангийн үйлчилгээнд хандсан. Өнөөг хүртэл хийсэн шалгалтаар хэн нэгний эмнэлгийн бүртгэлд хандсан гэх нотолгоо олдоогүй.
Бид загварууддаа дотоод сургалт, үнэлгээ хийхдээ олон сэдэв хамарсан судалгааны асуултуудын өргөн сангаас даалгавар өгдөг. Эдгээр нь хэрэглэгчдийн асууж болох нарийвчилсан асуултуудыг төлөөлдөг. Ингэснээр загвар нийтэд нээлттэй мэдээллийг олох, тайлбарлах, дүн шинжилгээ хийхэд суралцаж, хүмүүст илүү хэрэгтэй болдог. Манай загварууд эдгээр асуултад нийтэд нээлттэй нийтэлсэн статистикийг ашиглан хариулах ёстой.
Энэ тохиолдолд загварт өгсөн даалгаврын нэг нь Викториа мужийн орон нутгуудад арьсны өвчний эмд төрөөс зарцуулж буй зардлыг нэг хүнд ногдох хэмжээгээр судлах байв. Загвар уг мэдээллийг олж авахад хүндрэлтэй тулгарч, бидний зөвшөөрөөгүй үйлдлүүдийг хийсэн. Уг мэдээллийг Services Australia байгууллагын Medicare статистикийн тайлангийн үйлчилгээнээс хайх явцдаа тус үйлчилгээний нийтэд нээлттэй бус хэсэгт нэвтрэх аргыг олсон. Дараа нь энэ хандалтаа ашиглан үйлчилгээтэй холбоотой системийн техникийн мэдээлэл, эх кодыг шалгасан бөгөөд энэ бүх үйлдэл нь анх хайж байсан мэдээллээ олох зорилготой хэвээр байв. Ийм үйлдэл гаргах нь бидний зорилго байгаагүй. Тус үйлчилгээнд ийм байдлаар нэвтрэх болон үүний дараах үйлдлүүд огт гарах ёсгүй байсан.
Hugging Face-тэй холбоотой зөрчлийн дараа бид судалгааны хамгаалалтын арга хэмжээгээ чангатгаж, сүлжээний нэмэлт хязгаарлалт тавин, хяналтаа өргөжүүлсэн. Бид эдгээр судалгааны орчинд интернэтэд шууд холбогдохыг хориглох хяналт нэвтрүүлж, вэбийн мэдээллийг зөвхөн кэшэд хадгалсан агуулгаар дамжуулан авах болгосон. Аюулгүй байдлын нэмэлт давхарга болсон одоогийн хяналтын системүүд маань ийм үйлдлийг илрүүлж, хүнээр яаралтай шалгуулахаар манай багт дохио өгөх байсан. Жишээлбэл, саяхны нэг сургалтын үеэр(шинэ цонхонд нээгдэнэ) загвар интернэтэд шууд холбогдоход манай хяналтын систем уг үйлдлийг илрүүлж, хянагчид дохио өгсөн бөгөөд бид сургалтыг зогсоосон. Бид эдгээр хамгаалалтыг үргэлжлүүлэн туршиж, дутуу талыг нь засаж байна. Hugging Face-тэй холбоотой зөрчил нь бидний өнөөг хүртэл илрүүлсэн хамгийн ноцтой зөрчил хэвээр байна.
Хүмүүс хиймэл оюун ухааныг аюулгүйгээр хөгжүүлж байгаа гэдэгт итгэлтэй байхыг хүсдэг. Үүний эхлэл нь манайх шиг компаниуд өөрсдөө юу хийж байгаагаас хамаарна. Бид хамгийн өндөр чадамжтай загваруудынхаа хэрэгсэл ашигладаг сургалт, үнэлгээг түр зогсоосноо саяхан мэдээлсэн(шинэ цонхонд нээгдэнэ). Одоо бид хамгаалалтын нэмэлт арга хэмжээнүүдийг бүрдүүлэхээр ажиллаж байгаа бөгөөд тэдгээрийг найдвартай нэвтрүүлсэн гэдэгтээ итгэлтэй болсон үед л сургалтыг үргэлжлүүлнэ.
Хиймэл оюуны системүүдийн чадамж нийтээрээ өсөхийн хэрээр байгууллагуудад сул талаа олж, засахад нь туслах цаг хугацааны боломж улам хумигдаж байгааг бид мөн харж байна. Үүний тулд дэлхий даяарх кибер хамгаалалтын мэргэжилтнүүдтэй хамтран ажиллаж, нэгдсэн арга хэмжээ авах шаардлагатай.
Бид технологи, кибер аюулгүй байдал, нэн чухал дэд бүтцийн салбарын байгууллагуудтай нэгдэж, кибер хамгаалалтын төлөө хамтран арга хэмжээ авахыг уриалсан. Энэхүү уриалга нь хамгаалалтаа чангатгах, цаг тухайд нь мэдээлэх, өртсөн байгууллагуудад бодит дэмжлэг үзүүлэх зэрэг бидний өөрсдийн үүрэг хариуцлагаас эхэлнэ. Мөн зайлшгүй шаардлагатай үйлчилгээнүүдийг хамгаалдаг багуудад хөрөнгө оруулахыг уриалж байна. Ингэснээр тэд эмзэг байдлыг илрүүлж, засварыг баталгаажуулан, үр дүнтэй аргуудаа бусадтай хуваалцах боломжтой болно.
Австралид бид өртсөн байгууллагуудыг дэмжиж, кибер хамгаалалтын мэргэжилтнүүдэд эдгээр зарчмыг хэрэгжүүлэхэд нь туслахын тулд нөөц, мэргэжлийн мэдлэгээ зориулж, дараах арга хэмжээг авна:
Өртсөн байгууллагуудад зориулсан тусгай дэмжлэг. Өртсөн байгууллагуудад юу болсныг ойлгож, нөлөөллийг үнэлэхэд нь туслахад шаардлагатай нөөцийг бид гаргана. Үүнд холбогдох техникийн дүгнэлтийг хуваалцах, мэдээлэл солилцох зохих тохиролцооны дагуу манай хариу арга хэмжээний багуудтай хамтран ажиллах боломж бүрдүүлэх зэрэг багтана.
Кибер хамгаалалтыг бэхжүүлэх санхүүжилт, дэмжлэг. Бид Австралийн засгийн газрууд болон аж үйлдвэрийн салбарт нэг тэрбум ам.долларын Тэргүүн шугамын хамгаалагчдад зориулсан Daybreak сангаасаа кредит олгож, техникийн туслалцаа үзүүлэн, нэн чухал дэд бүтэц болон бусад эмзэг орчны кибер хамгаалалтыг бэхжүүлэхэд дэмжлэг үзүүлнэ. Засгийн газрууд болон нэн чухал дэд бүтцийн операторуудтай хийж буй хамтын ажиллагаанд тулгуурласан энэ ажил нь байгууллагуудад улам өндөр чадамжтай болж буй хиймэл оюуны агентуудаас үүдэх эрсдэлийг илүү сайн ойлгож, илрүүлж, хариу арга хэмжээ авахад тусална.
Австрали дахь ажлын хэсэг. Бид улам өндөр чадамжтай болж буй хиймэл оюуны агентуудаас үүдэх эрсдэлийг удирдах бодитой бодлогын зөвлөмж боловсруулахын тулд Австралийн хараат бус мэргэжилтнүүдийг оролцуулсан ажлын хэсэг байгуулна. Тус ажлын хэсэг эдгээр зөрчлөөс авсан сургамжид тулгуурлан мэдэгдэл хүргэх үйл явцыг сайжруулах, хиймэл оюун хөгжүүлэгчид болон төрийн хоорондын уялдаа холбоог бэхжүүлэх, төрийн системүүдийг илүү сайн хамгаалах арга хэмжээг тодорхойлоход анхаарна. Ажлын хэсгийн зөвлөмжүүд OpenAI-ийн цаашдын арга барилыг тодорхойлоход чиглэл өгч, Австралийн засгийн газруудын хиймэл оюуны аюулгүй байдал, кибер аюулгүй байдлын ажлыг дэмжинэ. Оны эцэс гэхэд ажлаа дуусгахаар төлөвлөж буй тус ажлын хэсэг ижил төстэй зөрчил гарах эрсдэлийг бууруулахын тулд хиймэл оюуны компаниудын авч болох бодит алхмуудыг мөн зөвлөнө.
Австралийн засгийн газрууд, аж үйлдвэрийн салбарууд, иргэд OpenAI-ийн үнэлж баршгүй түншүүд байсаар ирсэн бөгөөд одоо ч хэвээр байна. Бид энэ түншлэлийг байх л ёстой зүйл гэж үздэггүй бөгөөд гаргасан алдаагаа засахыг зорьж байна.
OpenAI-ийн стратеги хариуцсан захирал Жэйсон Квон АНУ дахь төв оффисоосоо ирж, аравдугаар сарын 6-ны мягмар гарагт Сиднейд болох Хиймэл оюун ухааны асуудал эрхэлсэн парламентын хоёр танхимын хамтарсан тусгай хорооны хуралд оролцоно. Тэрээр бид юу мэдэж байгаа, хэрхэн хариу арга хэмжээ авсан, ямар алхмууд хийсэн, цаашид ажлаа хэрхэн сайжруулах тухай асуултад хариулна.
Бид баталгаажсан дүгнэлтүүдээ өртсөн байгууллагууд болон холбогдох засгийн газруудтай үргэлжлүүлэн хуваалцана. Бид үргэлжилж буй шалгалтынхаа явц болон эдгээр амлалтаа хэрхэн хэрэгжүүлж байгаа талаар шинэ мэдээлэл нийтэлнэ. Итгэлийг сэргээхийн тулд бидэнд хийх ажил их байгааг мэдэж байна. Бодит үр нөлөөтэй өөрчлөлт хийж, амлалтаа биелүүлж байгаагаа австраличуудад харуулах үүрэг хариуцлага бидэнд бий.
