Како ћемо боље испуњавати своје обавезе према Аустралији
У јуну, током интерног обучавања и евалуације, наши модели су приступали веб-сајтовима аустралијских власти на начине за које нису имали овлашћење. И наша реакција је требало да буде боља. Извињавамо се и радимо на томе да убудуће поступамо боље.
У овој објави износимо шта знамо, шта смо променили и шта ћемо предузети да обновимо поверење грађана Аустралије. Ово је нова врста сајбер инцидента која представља глобални изазов у настајању. Један од начина на које намеравамо да преузмемо одговорност за ову ситуацију јесте предана сарадња са Аустралијом. Желимо да помогнемо у развоју практичних приступа којима ће они који развијају вештачку интелигенцију и власти препознавати и пријављивати њено понашање у сајбер простору и реаговати на њега, било да је злонамерно или ненамерно.
Након инцидента са Hugging Face у јулу, почели смо да проверавамо раније активности обучавања и евалуације како бисмо утврдили које су још организације погођене. Средином августа, том провером откривене су активности које су утицале на доленаведене веб-сајтове аустралијских власти.
Ево шта знамо на основу доказа:
Services Australia: Модел компаније OpenAI открио је начин да приступи деловима сервиса који нису јавни, а затим је извршавао команде, преузимао интерне датотеке, приступне податке и збирне статистичке податке, као и уписивао датотеке. Међутим, није приступао појединачним досијеима пацијената или корисника. Овај инцидент детаљније описујемо у наставку.
Биро за статистику и истраживање криминала Новог Јужног Велса (BOCSAR): Модел компаније OpenAI приступио је јавном алату бироа BOCSAR за мапирање криминала како би истражио јавне статистичке податке о криминалу (у наставку детаљније објашњавамо зашто модели обављају различите задатке истраживања података). Модел је слао API захтеве и захтеве за метаподатке веб-сајта преко јавног алата бироа BOCSAR, који обезбеђује приступне податке за API захтеве из прегледача. Систем бироа BOCSAR вратио је конфигурацију апликације, оперативне задатке и евиденције, као и метаподатке веб-сајта. Није било приступа кривичним досијеима појединаца.
Министарство здравља Викторије: Агенти компаније OpenAI открили су изложени приступни кључ којим су слали упите систему за извештавање Агенције Викторије за здравствене информације и преузимали конфигурацију извештавања и збирне статистичке податке из анкета. Није јасно у којој мери је требало да ови подаци буду доступни, јер то зависи од правила приступа агенције VAHI. Није било приступа појединачним медицинским картонима нити одговорима у анкетама на основу којих би се могао утврдити идентитет испитаника.
Аустралијски институт за здравље и социјалну заштиту: Агенти компаније OpenAI преузимали су збирне статистичке податке помоћу услуга трећих страна за прегледање и преузимање, укључујући податке са веб-сајта института AIHW, и директно слали упите за податке са графикона. Засебни покушаји заобилажења контрола приступа нису били успешни. Преузети материјал је, по свему судећи, био јавно доступан. Није дошло до нарушавања безбедности система. Није било приступа појединачним медицинским картонима.
Покренули смо истраге о овим активностима чим смо за њих сазнали средином августа. Агенцију Services Australia и Министарство здравља Викторије обавестили смо 10. септембра, а Биро за статистику и истраживање криминала Новог Јужног Велса 18. септембра. Активности у вези са Аустралијским институтом за здравље и социјалну заштиту нису испуњавале наше критеријуме за обавештавање, јер је начин приступа деловао у складу са јавним приступом. Ипак, обавестили смо институт 24. септембра како бисмо поделили налазе и понудили детаљније објашњење.
Циљ нам је био да погођеним агенцијама доставимо детаљан извештај по завршетку истраге. Међутим, требало је да раније поделимо прелиминарне налазе и обавештавамо аустралијске агенције о новим чињеницама како смо их утврђивали.
Од тада блиско сарађујемо са аустралијским државним агенцијама како бисмо поделили све што смо до сада сазнали. Ако утврдимо да су погођене још неке агенције, одмах ћемо их непосредно обавестити о доступним информацијама и достављати им нове чињенице како их будемо утврђивали.
Током интерног обучавања и евалуације у јуну користили смо експериментални модел компаније OpenAI, намењен искључиво интерној употреби, а не јавном објављивању. Он није имао пун скуп мера заштите које примењујемо у нашим јавно доступним производима. Током тог обучавања и евалуације, модел је приступио сервису агенције Services Australia за статистичко извештавање о програму Medicare. У досадашњој провери нисмо пронашли доказе да је било приступа било чијим медицинским картонима.
Током интерног обучавања и евалуације, моделима додељујемо задатке из широког скупа истраживачких питања о многим темама, који одражавају врсте детаљних питања која би корисници могли да поставе. Тако се модел обучава да проналази, тумачи и анализира јавно доступне податке како би био кориснији људима. Наши модели би требало да на ова питања одговарају користећи јавно објављене статистичке податке.
У овом случају, један од задатака модела био је да истражи државну потрошњу по становнику на лекове за кожна обољења у заједницама у Викторији. Модел је имао потешкоћа да дође до тих података и предузео је радње за које му нисмо дали овлашћење. Док је тражио те податке у сервису агенције Services Australia за статистичко извештавање о програму Medicare, открио је начин да приступи деловима сервиса који нису јавни. Затим је искористио тај приступ да прегледа техничке податке о систему и изворни код повезан са сервисом — и даље с циљем да пронађе податке које је првобитно тражио. То није било оно што смо намеравали и није смело да дође ни до таквог приступа сервису ни до активности које су уследиле.
Након инцидента са Hugging Face, појачали смо мере заштите у истраживању, укључујући додатна мрежна ограничења и проширен надзор. Увели смо контроле које блокирају директан приступ интернету у овим истраживачким окружењима, а веб-садржај је доступан само из кешираних копија. Као додатни слој безбедности, наши садашњи системи за надзор открили би ову активност и послали хитно обавештење нашем тиму да је прегледа. На пример, када је модел током недавног циклуса обучавања(отвара се у новом прозору) успео да оствари директан приступ интернету, наш систем за надзор је открио ту активност и послао хитно обавештење особи задуженој за проверу, а ми смо зауставили циклус. Настављамо да тестирамо ове мере заштите и отклањамо пропусте. Инцидент са Hugging Face и даље је најозбиљнији који смо забележили.
Људи желе да знају да се вештачка интелигенција развија безбедно, а то почиње од онога што компаније попут наше саме предузимају. Недавно смо објавили(отвара се у новом прозору) да смо привремено обуставили обучавање и евалуацију наших најспособнијих модела који укључују употребу алата. Њихово обучавање наставићемо тек када будемо уверени да су успостављене додатне мере заштите, на којима сада радимо.
Како системи вештачке интелигенције уопштено постају све способнији, све је мање времена да помогнемо организацијама да пронађу и отклоне слабости. За то је потребно заједничко деловање у сарадњи са стручњацима за сајбер одбрану широм света.
Придружили смо се организацијама из области технологије, сајбер безбедности и критичне инфраструктуре у позиву на заједничко деловање у сајбер одбрани. Тај позив полази од наших сопствених обавеза, укључујући јаче мере заштите, благовремено обавештавање и конкретну подршку погођеним организацијама. Њиме се позива и на улагање у тимове који штите основне услуге, како би могли да проналазе рањивости, проверавају исправке и размењују делотворна решења.
У Аустралији стављамо на располагање ресурсе и стручна знања како бисмо подржали погођене агенције и помогли стручњацима за сајбер одбрану да ова начела примене у пракси, што укључује:
Наменску подршку погођеним агенцијама. Обезбедићемо потребне ресурсе да помогнемо погођеним агенцијама да разумеју шта се догодило и процене последице. То укључује дељење релевантних техничких налаза и организовање сарадње са нашим тимовима за одговор на инциденте, уз одговарајуће договоре о размени информација.
Финансирање и подршку за јачање сајбер одбране. Подржаћемо аустралијске власти и привредне секторе кредитима из нашег фонда Daybreak for Frontline Defenders, вредног милијарду долара, и техничком помоћи за јачање сајбер одбране критичне инфраструктуре и других осетљивих окружења. Ослањајући се на нашу сарадњу са властима и операторима критичне инфраструктуре, овај рад ће помоћи организацијама да боље разумеју и откривају ризике од све способнијих агената вештачке интелигенције и да на њих одговоре.
Радну групу у Аустралији. Основаћемо радну групу уз учешће независних аустралијских стручњака, која ће израдити практичне препоруке за политике управљања ризицима од све способнијих агената вештачке интелигенције. На основу поука из ових инцидената, група ће се усредсредити на унапређење поступака обавештавања, јачање координације између оних који развијају вештачку интелигенцију и власти, као и на утврђивање мера за бољу заштиту државних система. Препоруке радне групе усмераваће приступ компаније OpenAI и подржати рад аустралијских власти на безбедности вештачке интелигенције и сајбер безбедности. Радна група, за коју се очекује да ће завршити рад до краја године, препоручиће и конкретне кораке које компаније које развијају вештачку интелигенцију могу да предузму како би смањиле ризик од сличних инцидената.
Аустралијске власти, привредни сектори и грађани били су и остају непроцењиви партнери компаније OpenAI. То не узимамо здраво за готово и намеравамо да исправимо своје пропусте.
Директор стратегије компаније OpenAI, Џејсон Квон, допутоваће из седишта компаније у САД како би се у уторак, 6. октобра, појавио пред Заједничким посебним одбором за вештачку интелигенцију у Сиднеју. Одговараће на питања о томе шта знамо, како смо реаговали, које смо кораке предузели и како ћемо убудуће поступати боље.
Наставићемо да делимо проверене налазе са погођеним агенцијама и надлежним властима. Објављиваћемо нове информације о провери која је у току и напретку у испуњавању ових обавеза. Знамо да нас чека много посла да обновимо поверење и да смо дужни да Аустралијанцима покажемо да уводимо суштинске промене и испуњавамо обећања.
