Како ќе постапуваме подобро за Австралија
Во јуни, за време на интерно обучување и евалуација, нашите модели пристапија до веб-страници на австралиските власти на начини за кои немаа овластување. И нашиот одговор требаше да биде подобар. Се извинуваме и работиме на тоа да постапуваме подобро во иднина.
Во оваа објава објаснуваме што знаеме, што променивме и што ќе направиме за да ја обновиме довербата кај австралискиот народ. Ова е нов вид киберинцидент што претставува глобален предизвик во подем. Еден од начините на кои имаме намера да преземеме одговорност за ситуацијата е посветено да соработуваме со Австралија. Ќе помогнеме во развојот на практични пристапи со кои развивачите на вештачка интелигенција и владите ќе ги откриваат и пријавуваат дејствата на вештачката интелигенција во киберпросторот и ќе реагираат на нив, без разлика дали се злонамерни или ненамерни.
По инцидентот со Hugging Face во јули, почнавме да ги проверуваме претходните активности при обучување и евалуација за да откриеме други засегнати организации. Во средината на август, со таа проверка откривме активности што ги засегнаа следниве веб-страници на австралиските власти.
Еве што знаеме врз основа на доказите:
Services Australia: Модел на OpenAI откри начин да добие пристап до сервисот што не е достапен за јавноста, по што извршуваше команди, преземаше интерни датотеки, податоци за автентикација и збирни статистички податоци и запишуваше датотеки. Сепак, не беше пристапено до поединечни досиеја на пациенти или клиенти. Подолу подетално го објаснуваме овој инцидент.
Биро за криминална статистика и истражување на Нов Јужен Велс (BOCSAR): Модел на OpenAI пристапи до јавната алатка за мапирање криминал на BOCSAR за да истражува јавни статистички податоци за криминалот (подолу објаснуваме зошто моделите извршуваат различни задачи за истражување информации). Моделот испраќаше API-барања и барања за метаподатоци за веб-страницата преку јавната алатка на BOCSAR, која обезбедува податоци за автентикација за API-барања од прелистувачот. Системот на BOCSAR врати конфигурација на апликацијата, оперативни задачи и дневници, како и метаподатоци за веб-страницата. Не беше пристапено до криминални досиеја на поединци.
Министерство за здравство на Викторија: Агенти на OpenAI открија незаштитен клуч за пристап, со кој испраќаа барања до системот за известување на Агенцијата за здравствени информации на Викторија и преземаа конфигурација за известување и збирни статистички податоци од анкети. Не е јасно во која мера овие информации требало да бидат достапни, а тоа зависи од политиките за пристап на VAHI. Не беше пристапено до поединечни медицински досиеја или до одговори на анкети од кои може да се утврди идентитетот на испитаниците.
Австралиски институт за здравје и благосостојба: Агенти на OpenAI преземаа збирни статистички податоци преку услуги за прелистување и преземање од трети страни, вклучително и од веб-страницата на AIHW, и директно испраќаа барања за податоци од графикони. Одделните обиди за заобиколување на контролите за пристап беа неуспешни. Се чини дека преземениот материјал бил јавно достапен. Системот не беше компромитиран. Не беше пристапено до поединечни медицински досиеја.
Почнавме истраги за овие активности веднаш штом дознавме за нив во средината на август. Ги известивме Services Australia и Министерството за здравство на Викторија на 10 септември, а Бирото за криминална статистика и истражување на Нов Јужен Велс на 18 септември. Активноста поврзана со Австралискиот институт за здравје и благосостојба не ги исполни нашите критериуми за известување, бидејќи начинот на пристап изгледаше во согласност со јавниот пристап. Сепак, го известивме институтот на 24 септември за да ги споделиме нашите наоди и да понудиме информативен состанок.
Нашата цел беше да им дадеме детален извештај на засегнатите институции по завршувањето на истрагата. Сепак, требаше порано да ги споделиме прелиминарните наоди и редовно да ги информираме австралиските институции за новите факти.
Оттогаш тесно соработуваме со австралиските државни институции за да го споделиме она што го дознавме досега. Ако откриеме други засегнати институции, веднаш и директно ќе ги известиме со достапните информации и ќе ги информираме за секој нов факт.
За време на интерното обучување и евалуација во јуни, користевме експериментален модел на OpenAI наменет само за интерна употреба, без намера јавно да го објавиме и без целосниот пакет заштитни мерки што ги користиме во нашите јавно достапни производи. Во текот на ова обучување и евалуација, моделот пристапи до сервисот за статистички извештаи на Medicare при Services Australia. Со досегашната проверка не најдовме докази дека било пристапено до нечии медицински досиеја.
При интерното обучување и евалуација на нашите модели, им задаваме задачи од обемна збирка истражувачки прашања на разни теми, кои ги одразуваат деталните прашања што би можеле да ги постават корисниците. Така моделот се обучува да наоѓа, толкува и анализира јавно достапни информации, за да им биде покорисен на луѓето. Нашите модели треба да одговараат на овие прашања користејќи јавно објавени статистички податоци.
Во овој случај, една од задачите на моделот беше да ги истражи државните трошоци по жител за лекови за кожни заболувања во заедниците во Викторија. Моделот имаше тешкотии да ги добие тие информации и презеде дејства за кои немаше наше овластување. Додека ги бараше овие информации во сервисот за статистички извештаи на Medicare при Services Australia, откри начин да добие пристап што не е достапен за јавноста. Потоа го искористи тој пристап за да прегледа технички информации за системот и изворен код поврзан со сервисот — сѐ уште со цел да ги најде информациите што првично ги бараше. Оваа активност не беше наша намера, а пристапот до сервисот и последователните дејства не требаше да се случат.
По инцидентот со Hugging Face, ги зајакнавме заштитните мерки во истражувањето, со дополнителни мрежни ограничувања и поширок надзор. Воведовме контроли што го блокираат директниот пристап до интернет во овие истражувачки средини, а веб-пристапот се обезбедува преку кеширани содржини. Како дополнителен слој на безбедност, нашите сегашни системи за надзор би ја откриле оваа активност и би го известиле нашиот тим дека е потребна итна проверка од човек. На пример, кога еден модел доби директен пристап до интернет за време на неодамнешен циклус на обучување(се отвора во нов прозорец), нашиот систем за надзор ја откри активноста и испрати итно известување до одговорното лице за проверка, по што го запревме циклусот. Продолжуваме да ги тестираме овие заштитни мерки и да ги отстрануваме пропустите. Инцидентот со Hugging Face останува најсериозниот што сме го забележале.
Луѓето сакаат да знаат дека вештачката интелигенција се развива безбедно, а тоа почнува од постапките на самите компании како нашата. Неодамна соопштивме(се отвора во нов прозорец) дека ги паузиравме обучувањето и евалуацијата што вклучуваат употреба на алатки за нашите најспособни модели. Ќе продолжиме со нивното обучување само кога ќе бидеме сигурни дека се воспоставени дополнителни заштитни мерки, на кои работиме сега.
Како што системите со вештачка интелигенција стануваат сѐ поспособни, се скратува и времето во кое можеме да им помогнеме на организациите да ги најдат и отстранат слабостите. За тоа е потребно заедничко дејствување со тимовите за киберодбрана низ целиот свет.
Им се придруживме на организации од технолошкиот сектор, кибербезбедноста и критичната инфраструктура во повик за заедничко дејствување во киберодбраната. Тој повик почнува од нашите сопствени одговорности, вклучително и посилни заштитни мерки, навремено известување и практична поддршка за засегнатите организации. Тој повикува и на вложување во тимовите што ги штитат суштинските услуги, за да можат да откриваат ранливости, да ги проверуваат поправките и да ги споделуваат успешните решенија.
Во Австралија обезбедуваме ресурси и стручна помош за засегнатите институции и им помагаме на тимовите за киберодбрана да ги применат овие принципи во практиката, преку:
Наменска поддршка за засегнатите институции. Ќе ги обезбедиме потребните ресурси за да им помогнеме на засегнатите институции да разберат што се случило и да го проценат влијанието. Ова вклучува споделување релевантни технички наоди и организирање соработка со нашите тимови за одговор на инциденти, преку соодветни договори за размена на информации.
Финансирање и поддршка за зајакнување на киберодбраната. Ќе ги поддржиме австралиските влади и индустријата преку кредити од нашиот фонд Daybreak за бранителите на првата линија вреден 1 милијарда долари и преку техничка помош за зајакнување на киберодбраната во критичната инфраструктура и другите чувствителни средини. Надоврзувајќи се на нашата соработка со владите и операторите на критична инфраструктура, оваа работа ќе им помогне на организациите подобро да ги разбираат и откриваат ризиците од сѐ поспособните агенти со вештачка интелигенција и да реагираат на нив.
Австралиска работна група. Ќе формираме работна група со независни австралиски експерти за да изработи практични препораки за политики за управување со ризиците од сѐ поспособните агенти со вештачка интелигенција. Врз основа на поуките од овие инциденти, таа ќе се насочи кон подобрување на постапките за известување, зајакнување на координацијата меѓу развивачите на вештачка интелигенција и владата и утврдување мерки за подобра заштита на владините системи. Препораките на работната група ќе помогнат во обликувањето на пристапот на OpenAI и ќе ја поддржат работата на австралиските влади во областа на безбедноста на вештачката интелигенција и кибербезбедноста. Работната група, која се очекува да ја заврши работата до крајот на годината, ќе препорача и практични чекори што компаниите за вештачка интелигенција можат да ги преземат за да го намалат ризикот од слични инциденти.
Австралиските влади, индустрии и граѓани се и отсекогаш биле непроценливи партнери на OpenAI. Не го земаме тоа здраво за готово и имаме намера да ги исправиме работите.
Главниот директор за стратегија на OpenAI, Џејсон Квон, ќе допатува од седиштето на OpenAI во САД за да се појави пред Заедничката специјална комисија за вештачка интелигенција во Сиднеј, во вторник, на 6 октомври. Тој ќе одговара на прашања за тоа што знаеме, како реагиравме, кои чекори ги презедовме и како ќе постапуваме подобро во иднина.
Ќе продолжиме да споделуваме проверени наоди со засегнатите институции и надлежните влади. Ќе објавуваме нови информации за нашата тековна проверка и за напредокот во исполнувањето на овие обврски. Знаеме дека нѐ чека многу работа за да ја обновиме довербата и дека сме одговорни да им покажеме на Австралијците дека правиме суштински промени и ги исполнуваме ветувањата.
