Дэвшилтэт AI-ийн нийтлэг стандартыг бий болгоход туслах
Чадавх нь өсөн нэмэгдэж буй загварууд кибер хамгаалалтыг бэхжүүлж, шинжлэх ухааны нээлтийг хурдасгаж, мэргэжлийн мэдлэгт хүрэх боломжийг өргөжүүлж чадна. Гэвч тэдний чадавхыг буруу ойлговол, хамгаалалтын арга хэмжээ нь хангалтгүй байвал, эсвэл засгийн газруудад хариу арга хэмжээ авахад хэрэгтэй мэдээлэл дутвал аюулгүй байдал, хамгаалалтын эрсдэл үүсгэж болно. Үр өгөөжийг нь аюулгүй, итгэлтэй хүртэхийн тулд нийгэмд чадавх нь улам нэмэгдэж буй системүүдийг үнэлэх, хамгаалах, засаглах техникийн болон засаглалын чадавхтай байгууллагууд хэрэгтэй.
Иймээс OpenAI Linux Foundation-ийн дэмжлэгтэй Appia Foundation(шинэ цонхонд нээгдэнэ)-г үүсгэн байгуулахад тусалсан. Appia нь олон улсын стандарт болон тогтсон хүрээнүүдийг AI-ийн үнэ цэнийн сүлжээний дагуух практик үнэлгээний шалгуур болгон хөрвүүлэхэд зориулагдсан нээлттэй, модульчилсан тодорхойлолтуудыг боловсруулна. Загвар, дэд бүтэц, хэрэглүүрийг өөр өөр байгууллага хөгжүүлэх үед гуравдагч талууд стандартад нийцэж буй эсэхийг шалгаж, илүү тодорхой, дахин ашиглах боломжтой нотолгоо бүрдүүлэхэд энэ ажил дутагдаж буй чухал итгэлцлийн давхаргыг хөгжүүлэхэд тусална. Энэ ажлаар Appia нь үндэсний болон олон улсын байгууллагууд бие биенийхээ ажилд итгэх боломж олгох нийтлэг техникийн хэлийг бий болгоход тусална.
Бид энэ хүчин чармайлтыг дэвшилтэт AI системүүдэд шаардлагатай байгууллага, стандарт, үнэлгээний дадлыг бэхжүүлэх өргөн хүрээний ажлын чухал дараагийн алхам гэж үзэж байна.
Бидний саяхны хил хязгаарын AI-ийн ардчилсан засаглалын зураглал энэ ажилд чиглэл өгдөг. Уг баримт бичиг нь тогтвортой АНУ-ын хүрээ, бэхжүүлсэн AI стандарт ба инновацын төв (CAISI), мөн засгийн газар даяарх илүү өргөн тэсвэржилтийн стратегийг шаардаж байна. Мөн хилийн эрсдэлүүд олон улсын хамрах хүрээтэйг хүлээн зөвшөөрдөг. Улс орнууд нийцтэй аюулгүй байдлын хүрээнүүд, эрсдэлийн дүгнэлтийг хуваалцах найдвартай сувгууд, осолд өгөх зохицуулсан хариу арга хэмжээг хамтран хөгжүүлэх ёстой.
Үндэсний чадавх ба олон улсын хамтын ажиллагаа бие биеэ бэхжүүлэх ёстой. CAISI зэрэг хүчтэй байгууллагууд техникийн мэргэшил хөгжүүлж, хил хязгаарын системүүдийг үнэлж, хараат бус үнэлгээний экосистемийг дэмжиж чадна. Дараа нь чадавхтай үндэсний байгууллагуудын сүлжээ нийтлэг аргачлал тогтоож, найдвартай нотолгоог хүлээн зөвшөөрч, засгийн газруудад хамтран ажиллахад хэрэгтэй нийтлэг техникийн ойлголтыг өгч чадна.
Стандартууд энэ хүчин чармайлтын гол цөм бөгөөд найдвартай үнэлгээний дадал, техникийн нарийн чанд байдалд тулгуурлах ёстой. Манай найдвартай гуравдагч талын үнэлгээний хамтарсан гарын авлага-д хил хязгаарын үнэлгээнүүд цаашид юуг ил тод болгох шаардлагатайг тодорхойлсон: шалгасан систем, түүний хэрэгслийн хандалт ба үнэлгээний орчин, чадавхыг илрүүлэхэд ашигласан арга, боломжит нөөц, үр дүнг баталгаажуулах шалгалтууд. Мөн бид эдгээр зарчмыг АНУ-ын CAISI болон Их Британийн AISI-тай хийсэн туршилтын түншлэлүүд-ээр хэрэгжүүлсэн бөгөөд хил хязгаарын чадавхын үнэлгээ болон биологийн буруу ашиглалтаас сэргийлэх хамгаалалтын талаарх тэдний ажил манай системүүдэд бодит сайжруулалт авчирсан. Энэ ажил гүйцэтгэлийг харьцуулж шалгахын тулд стандартчилах боломжтой дадлуудын суурийг бий болгох чухал үүрэгтэй.
Эдгээр дадал нь OpenAI-ийн өргөн хүрээний аюулгүй байдлын дэд бүтцийг нөхөн бэхжүүлдэг. Манай Preparedness Framework нь дотоод дадлуудыг оролцуулан, дэвшилтэт AI системүүдээс үүдэх хамгийн ноцтой эрсдэлийг удирдах арга барилаа тодорхойлж, хэрэгжүүлэх үндэс болдог. Манай Хил хязгаарын засаглалын хүрээ нь эрсдэлийн үнэлгээ, загварын тайлагнал, хамгаалалтын хяналт, ослын хариу арга хэмжээ, гаднын шинжээчдийн саналыг тусгах зэрэг тодорхой зохицуулалтын үүрэгт төвлөрсөн олон нийтэд зориулсан засаглалын баримт бичигт энэ арга барилын холбогдох хэсгийг хэрэгжүүлдэг. Эдгээр баримт бичиг нь өргөн хүрээний амлалтыг баталгаажуулж, сайжруулж болох үйл ажиллагааны дадал болгон хөрвүүлэхэд тусалдаг.
Appia-гийн ажил дараагийн сорилтод чиглэж байна: эдгээр дадлыг байгууллага, харьяалал болон нийлүүлэлтийн сүлжээ дамнан харилцан нийцтэй болгох.
OpenAI стандарт болон стандартчиллын өмнөх өргөн хүрээний экосистемд аль хэдийн хувь нэмэр оруулж байна. Бид Олон улсын стандартчиллын байгууллага ба Олон улсын цахилгаан техникийн комиссын Хамтарсан техникийн хороо 1-ийн Хиймэл оюуны дэд хороо 42(шинэ цонхонд нээгдэнэ) болон Үндэсний стандарт, технологийн хүрээлэн тэргүүлсэн Хиймэл оюуны консорциум(шинэ цонхонд нээгдэнэ)-д оролцдог; Хил хязгаарын загварын форум болон Linux Foundation-ийн Агентлаг хиймэл оюуны сан(шинэ цонхонд нээгдэнэ)-г үүсгэн байгуулахад тусалсан; Аюулгүй хиймэл оюуны эвсэл(шинэ цонхонд нээгдэнэ)-д оролцдог; Агуулгын эх сурвалж ба жинхэнэ байдлын эвсэл(шинэ цонхонд нээгдэнэ)-ийн удирдах хороонд ажилладаг; мөн харилцан нийцтэй техникийн стандартыг ахиулахын тулд Интернэт инженерчлэлийн ажлын хэсэг(шинэ цонхонд нээгдэнэ) болон Fast Identity Online Alliance(шинэ цонхонд нээгдэнэ)-ийн үйл явцад оролцдог.
Эдгээр форумд, одоо Appia-гаар дамжуулан ч мөн, бидний зорилго бол хил хязгаарын хөгжүүлэлтээс авсан сургамжийг засгийн газар, компаниуд, хараат бус үнэлэгчид харьяалал дамнан ашиглаж болох нээлттэй, техникийн үндэслэлтэй дадал болгон хөрвүүлэх явдал юм.
