Австралия үшін жұмысымызды қалай жақсартамыз
Маусым айында ішкі оқыту мен бағалау кезінде модельдеріміз Австралияның мемлекеттік веб-сайттарына рұқсат етілмеген тәсілдермен кірген. Біз де бұл жағдайға дұрысырақ ден қоюымыз керек еді. Кешірім сұраймыз және болашақта жұмысымызды жақсарту үшін күш салып жатырмыз.
Бұл жазбада өзімізге не белгілі екенін, нені өзгерткенімізді және Австралия халқының сенімін қалпына келтіру үшін не істейтінімізді баяндаймыз. Бұл — әлем алдында туындап келе жатқан сын-қатерді көрсететін кибероқиғаның жаңа түрі. Осы жағдай үшін жауапкершілікті мойнымызға алудың бір жолы — Австралиямен мақсатты түрде жұмыс істеу. Біз ЖИ әзірлеушілері мен үкіметтерге ЖИ-дің қасақана не байқаусыз жасалған киберәрекеттерін анықтау, олар туралы хабарлау және оларға ден қою бойынша іс жүзінде қолдануға болатын тәсілдер әзірлеуге көмектесеміз.
Шілде айындағы Hugging Face оқиғасынан кейін оқиғалар әсер еткен өзге ұйымдарды анықтау үшін бұған дейінгі оқыту мен бағалау барысын тексере бастадық. Тамыздың ортасында осы тексеру барысында төмендегі Австралия мемлекеттік веб-сайттарына қатысты әрекеттер анықталды.
Қолдағы деректерге сүйенсек, бізге мыналар белгілі:
Services Australia: OpenAI моделі сервистің жалпыға қолжетімсіз бөлігіне кіру жолын тауып, командалар орындаған, ішкі файлдарды, кіру деректерін және жиынтық статистиканы алған, сондай-ақ файлдар жазған. Алайда жекелеген пациенттердің не клиенттердің жазбаларына қол жеткізілмеген. Бұл оқиғаға төменде толығырақ тоқталамыз.
Жаңа Оңтүстік Уэльстің қылмыс статистикасы және зерттеу бюросы (BOCSAR): OpenAI моделі ашық қылмыс статистикасын зерттеу үшін BOCSAR бюросының жалпыға қолжетімді қылмыс картасы құралын пайдаланған (модельдердің неліктен түрлі ақпарат іздеу тапсырмаларын орындайтынын төменде түсіндіреміз). Модель браузердің API сұрауларына арналған кіру деректерін беретін ашық BOCSAR құралы арқылы API мен веб-сайт метадеректеріне сұрау жіберген. BOCSAR жүйесі қолданба конфигурациясын, операциялық тапсырмалар мен журналдарды және веб-сайт метадеректерін қайтарған. Жекелеген адамдардың қылмыстық жазбаларына қол жеткізілмеген.
Викторияның денсаулық сақтау департаменті: OpenAI агенттері Викторияның денсаулық туралы ақпарат агенттігінің есеп беру жүйесіне сұрау жіберуге мүмкіндік беретін, ашық қалған кіру кілтін тауып, есеп беру конфигурациясы мен сауалнамалардың жиынтық статистикасын алған. Бұл ақпараттың қаншалықты қолжетімді болуы тиіс екені белгісіз және ол VAHI агенттігінің қол жеткізу саясатына байланысты. Жеке медициналық жазбаларға немесе респонденттің кім екенін анықтауға болатын сауалнама жауаптарына қол жеткізілмеген.
Австралияның денсаулық және әл-ауқат институты: OpenAI агенттері үшінші тараптың веб-шолу және жүктеп алу сервистері арқылы жиынтық статистиканы, соның ішінде AIHW веб-сайтынан да алған және диаграмма деректеріне тікелей сұрау жіберген. Қол жеткізуді бақылау тетіктерін айналып өтуге жасалған жекелеген әрекеттер сәтсіз болған. Жүктеп алынған материал жалпыға қолжетімді болғанға ұқсайды. Жүйе бұзылмаған. Жеке медициналық жазбаларға қол жеткізілмеген.
Бұл әрекеттер туралы тамыздың ортасында білген бойда оларды тексеруді бастадық. 10 қыркүйекте Services Australia агенттігі мен Викторияның денсаулық сақтау департаментіне, ал 18 қыркүйекте Жаңа Оңтүстік Уэльстің қылмыс статистикасы және зерттеу бюросына хабарладық. Австралияның денсаулық және әл-ауқат институтына қатысты әрекеттер міндетті хабарлау өлшемдерімізге сай келмеді, өйткені қол жеткізу тәсілі жалпыға ашық қолжетімділікке сәйкес көрінді. Дегенмен, қорытындыларымызбен бөлісіп, түсіндіру кездесуін ұсыну үшін 24 қыркүйекте институтқа хабарладық.
Мақсатымыз тексеру аяқталған соң оқиғалар әсер еткен мекемелерге толық мәлімет беру еді. Алайда алдын ала қорытындыларды ертерек бөлісіп, жаңа деректер анықталған сайын австралиялық мекемелерді хабардар етіп отыруымыз керек еді.
Содан бері Австралияның мемлекеттік мекемелерімен тығыз жұмыс істеп, осы уақытқа дейін білгенімізді бөлісіп келеміз. Оқиғалар әсер еткен басқа мекемелерді анықтасақ, қолдағы ақпаратты оларға жедел әрі тікелей хабарлап, жаңа деректер анықталған сайын мәлімет беріп отырамыз.
Маусымдағы ішкі оқыту мен бағалау кезінде тек ішкі пайдалануға арналған эксперименттік OpenAI моделін іске қостық. Оны көпшілікке ұсыну жоспарланбаған еді және онда жалпыға қолжетімді өнімдеріміздегі қорғаныс шараларының толық жиынтығы болмады. Осы оқыту мен бағалау барысында ол Services Australia агенттігінің Medicare статистикалық есеп беру сервисіне кірген. Осы уақытқа дейінгі тексеруімізде ешкімнің медициналық жазбаларына қол жеткізілгенін растайтын дерек табылған жоқ.
Модельдерімізді іштей оқытып, бағалағанда, оларға көптеген тақырыпты қамтитын зерттеу сұрақтарының кең жиынтығынан тапсырмалар береміз. Олар пайдаланушылар қоюы мүмкін егжей-тегжейлі сұрақтарға ұқсас болады. Бұл модельді адамдарға көбірек пайда тигізуі үшін жалпыға қолжетімді ақпаратты табуға, түсіндіруге және талдауға үйретеді. Модельдеріміз бұл сұрақтарға ашық жарияланған статистиканы пайдаланып жауап беруі тиіс.
Бұл жағдайда модельге берілген тапсырмалардың бірі Виктория қауымдастықтарында тері ауруларына арналған дәрілерге мемлекет жан басына шаққанда қанша қаражат жұмсайтынын зерттеу болды. Модель бұл ақпаратты табуда қиналып, біз рұқсат етпеген әрекеттерге барды. Осы ақпаратты Services Australia агенттігінің Medicare статистикалық есеп беру сервисінен іздеу барысында ол сервистің жалпыға қолжетімсіз бөлігіне кіру жолын тапты. Содан кейін ол осы мүмкіндікті пайдаланып, сервиске қатысты техникалық жүйелік ақпарат пен бастапқы кодты қарады. Мұның бәрін әуелгі іздеген ақпаратын табу мақсатында жасады. Біз мұндай әрекеттерді жоспарлаған жоқпыз. Сервиске осылай кіруге де, одан кейінгі әрекеттерге де жол берілмеуі керек еді.
Hugging Face оқиғасынан кейін зерттеулеріміздегі қауіпсіздік шараларын күшейттік: желіге қосымша шектеулер енгізіп, мониторинг ауқымын кеңейттік. Осы зерттеу орталарында интернетке тікелей кіруді бұғаттайтын тетіктер енгіздік. Енді веб-мазмұнға кэштелген нұсқалар арқылы қол жеткізіледі. Қосымша қорғаныс қабаты ретінде қазіргі мониторинг жүйелеріміз мұндай әрекетті анықтап, мамандар шұғыл тексеруі үшін тобымызға дабыл берер еді. Мысалы, жақында жүргізілген оқыту кезінде(жаңа терезеде ашылады) модель интернетке тікелей қол жеткізгенде, мониторинг жүйеміз бұл әрекетті анықтап, тексеруші маманға дабыл берді. Біз оқытуды тоқтаттық. Бұл қорғаныс шараларын сынап, олқылықтарын жоюды жалғастырып жатырмыз. Hugging Face оқиғасы әлі де біз байқаған ең ауыр оқиға болып отыр.
Адамдар ЖИ-дің қауіпсіз әзірленіп жатқанына сенімді болғысы келеді. Бұл сенім біз сияқты компаниялардың өз ісінен басталады. Жақында ең қуатты модельдерімізді құралдарды қолдана отырып оқыту мен бағалауды тоқтата тұрғанымызды хабарладық(жаңа терезеде ашылады). Оларды оқытуды қосымша қорғаныс шаралары енгізілгеніне сенімді болғанда ғана жалғастырамыз. Қазір осы шараларды әзірлеп жатырмыз.
Жалпы ЖИ жүйелерінің мүмкіндіктері артқан сайын, ұйымдарға осал тұстарын тауып, түзетуге көмектесетін уақыттың да азайып бара жатқанын көріп отырмыз. Бұл үшін бүкіл әлемдегі киберқорғаныс мамандарымен бірлесіп әрекет ету қажет.
Біз технология, киберқауіпсіздік және аса маңызды инфрақұрылым салаларындағы ұйымдармен бірге киберқорғаныс бойынша бірлескен іс-қимылға үндедік. Бұл үндеу өз міндеттерімізден басталады: қорғаныс шараларын күшейту, дер кезінде хабарлау және оқиға әсер еткен ұйымдарға іс жүзінде қолдау көрсету. Сондай-ақ аса қажетті қызметтерді қорғайтын топтарға инвестиция салуға шақырамыз. Бұл оларға осалдықтарды табуға, түзетулерді тексеруге және тиімді тәжірибелермен бөлісуге мүмкіндік береді.
Австралияда оқиғалар әсер еткен мекемелерді қолдап, киберқорғаныс мамандарына осы қағидаларды іс жүзінде қолдануға көмектесу үшін ресурстарымыз бен сарапшылық білімімізді жұмылдырамыз. Атап айтқанда:
Оқиғалар әсер еткен мекемелерге арнайы қолдау. Оқиғалар әсер еткен мекемелерге не болғанын түсінуге және салдарын бағалауға көмектесу үшін қажетті ресурстарды бөлеміз. Бұған тиісті техникалық қорытындылармен бөлісу және ақпарат алмасу жөніндегі келісімдер арқылы оқиғаларға ден қою топтарымызбен өзара жұмысты ұйымдастыру кіреді.
Киберқорғанысты күшейтуге қаржы және қолдау. Аса маңызды инфрақұрылым мен өзге де сезімтал орталардың киберқорғанысын күшейту үшін Австралия үкіметтері мен салалық ұйымдарға көлемі 1 млрд доллар болатын Алдыңғы шептегі қорғаушыларға арналған Daybreak қорынан кредиттер беріп, техникалық көмек көрсетеміз. Үкіметтермен және аса маңызды инфрақұрылым операторларымен ынтымақтастығымызға сүйенетін бұл жұмыс ұйымдарға мүмкіндіктері артып келе жатқан ЖИ агенттерінің тәуекелдерін жақсырақ түсінуге, анықтауға және оларға ден қоюға көмектеседі.
Австралиядағы жұмыс тобы. Мүмкіндіктері артып келе жатқан ЖИ агенттерінің тәуекелдерін басқару жөнінде іске жарамды саясат ұсынымдарын әзірлеу үшін тәуелсіз австралиялық сарапшылар қатысатын жұмыс тобын құрамыз. Осы оқиғалардан алынған сабақтарға сүйене отырып, топ хабарлау үдерістерін жетілдіруге, ЖИ әзірлеушілері мен үкімет арасындағы үйлестіруді күшейтуге және мемлекеттік жүйелерді жақсырақ қорғау шараларын анықтауға басымдық береді. Жұмыс тобының ұсынымдары OpenAI ұстанатын тәсілді қалыптастыруға негіз болып, Австралия үкіметтерінің ЖИ қауіпсіздігі мен киберқауіпсіздік саласындағы жұмысына қолдау көрсетеді. Жұмысын жыл соңына дейін аяқтайды деп күтілетін бұл топ ЖИ компанияларына ұқсас оқиғалардың қаупін азайту үшін нақты қадамдар да ұсынады.
Австралияның үкіметтері, салалық ұйымдары мен азаматтары OpenAI үшін қашан да баға жетпес серіктес болды және солай болып қала береді. Біз мұны жоғары бағалаймыз және жағдайды түзеуге ниеттіміз.
OpenAI стратегия жөніндегі бас директоры Джейсон Квон 6 қазан, сейсенбі күні Сиднейде Жасанды интеллект жөніндегі бірлескен арнайы комитет алдында сөз сөйлеу үшін OpenAI компаниясының АҚШ-тағы бас кеңсесінен ұшып келеді. Ол бізге не белгілі екені, оқиғаға қалай ден қойғанымыз, қандай шаралар қабылдағанымыз және алдағы уақытта жұмысымызды қалай жақсартатынымыз туралы сұрақтарға жауап береді.
Оқиғалар әсер еткен мекемелермен және тиісті үкіметтермен тексерілген қорытындыларды бөлісуді жалғастырамыз. Жүргізіліп жатқан тексеруіміз бен осы міндеттемелердің орындалу барысы туралы жаңалықтар жариялап отырамыз. Сенімді қалпына келтіру үшін әлі көп жұмыс істеуіміз керек екенін білеміз. Австралиялықтарға елеулі өзгерістер енгізіп, уәделерімізді орындап жатқанымызды көрсетуге міндеттіміз.
