Júniusban, belső tanítás és értékelés során modelljeink olyan módon fértek hozzá ausztrál kormányzati weboldalakhoz, amelyre nem voltak jogosultak. Nekünk is jobban kellett volna kezelnünk a helyzetet. Elnézést kérünk, és azon dolgozunk, hogy a jövőben jobban járjunk el.
Ebben a bejegyzésben ismertetjük, hogy mit tudunk, min változtattunk, és mit fogunk tenni az ausztrál emberek bizalmának visszaszerzéséért. Ez egy újfajta kiberincidens, amely egy kibontakozó globális kihívásra mutat rá. A helyzetért többek között azzal kívánunk felelősséget vállalni, hogy célzottan együttműködünk Ausztráliával olyan gyakorlati megoldások kidolgozásában, amelyek segítik az MI-fejlesztőket és a kormányzatokat az MI kibertérben végzett tevékenységének felismerésében, bejelentésében és kezelésében, legyen az rosszindulatú vagy nem szándékos.
A júliusi Hugging Face-incidens után elkezdtük átvizsgálni a korábbi tanítási és értékelési tevékenységeket, hogy azonosítsuk a további érintett szervezeteket. Augusztus közepén a vizsgálat az alábbi ausztrál kormányzati weboldalakat érintő tevékenységeket tárt fel.
A bizonyítékok alapján a következőket tudjuk:
Services Australia: Az OpenAI egyik modellje felfedezte, hogyan szerezhet nem nyilvános hozzáférést a szolgáltatáshoz, majd parancsokat futtatott, belső fájlokat, hitelesítő adatokat és összesített statisztikákat kért le, valamint fájlokat írt. Egyedi beteg- vagy ügyféladatokhoz azonban nem fért hozzá. Az incidenst alább részletesebben is ismertetjük.
Új-Dél-Wales Bűnügyi Statisztikai és Kutatási Hivatala (BOCSAR): Az OpenAI egyik modellje a BOCSAR nyilvános bűnügyi térképes eszközét használta nyilvános bűnügyi statisztikák felkutatásához (alább részletesebben is elmagyarázzuk, miért végeznek a modellek különféle információkeresési feladatokat). A modell API-kéréseket és weboldal-metaadatokra irányuló kéréseket küldött a BOCSAR nyilvános eszközén keresztül, amely hitelesítő adatokat biztosít a böngészőből indított API-kérésekhez. A BOCSAR rendszere alkalmazáskonfigurációt, üzemeltetési feladatokat és naplókat, valamint weboldal-metaadatokat adott vissza. Egyének bűnügyi nyilvántartási adataihoz nem történt hozzáférés.
Victoria állam Egészségügyi Minisztériuma: Az OpenAI ügynökei felfedeztek egy hozzáférhetővé vált hozzáférési kulcsot, amellyel lekérdezhették Victoria állam Egészségügyi Információs Ügynökségének jelentési rendszerét, és lekérhették a jelentési konfigurációt, valamint felmérések összesített statisztikáit. Nem egyértelmű, hogy ezeknek az információknak milyen mértékben kellett volna hozzáférhetőnek lenniük; ez a VAHI hozzáférési szabályzataitól függ. Egyedi egészségügyi dokumentációkhoz vagy személyhez köthető felmérési válaszokhoz nem történt hozzáférés.
Ausztrál Egészségügyi és Jóléti Intézet: Az OpenAI ügynökei külső böngészési és letöltési szolgáltatásokkal összesített statisztikákat kértek le, többek között az AIHW weboldaláról, és közvetlenül is lekérdezték a diagramok adatait. A hozzáférés-szabályozás megkerülésére tett külön kísérletek sikertelenek voltak. Úgy tűnik, a letöltött anyagok nyilvánosan hozzáférhetők voltak. A rendszert nem törték fel. Egyedi egészségügyi dokumentációkhoz nem történt hozzáférés.
Amint augusztus közepén tudomást szereztünk ezekről a tevékenységekről, vizsgálatokat indítottunk. Szeptember 10-én értesítettük a Services Australiát és Victoria állam Egészségügyi Minisztériumát, szeptember 18-án pedig Új-Dél-Wales Bűnügyi Statisztikai és Kutatási Hivatalát. Az Ausztrál Egészségügyi és Jóléti Intézettel kapcsolatos tevékenység nem érte el az értesítési küszöbünket, mert a hozzáférés módja összhangban lévőnek tűnt a nyilvános hozzáféréssel. Szeptember 24-én ennek ellenére értesítettük az intézetet, hogy megosszuk a megállapításainkat, és részletes tájékoztatást ajánljunk fel.
Az volt a célunk, hogy a vizsgálat lezárása után részletes beszámolót adjunk az érintett szerveknek. Az előzetes megállapításokat azonban korábban kellett volna megosztanunk, és az újabb tények feltárásával folyamatosan tájékoztatnunk kellett volna az ausztrál szerveket.
Azóta szorosan együttműködünk az ausztrál kormányzati szervekkel, hogy megosszuk velük mindazt, amit eddig megtudtunk. Ha további érintett szerveket azonosítunk, haladéktalanul és közvetlenül értesítjük őket a rendelkezésre álló információk alapján, és az újabb tények feltárásával további tájékoztatást adunk.
A júniusi belső tanítás és értékelés során egy kísérleti, kizárólag belső használatú OpenAI-modellt futtattunk. Ezt nem nyilvános kiadásra szántuk, és nem rendelkezett a nyilvánosan elérhető termékeinkben alkalmazott összes védelmi intézkedéssel. A tanítás és értékelés során a modell hozzáfért a Services Australia Medicare Statistics Reporting Service szolgáltatásához. Vizsgálatunk eddig nem talált bizonyítékot arra, hogy bárki egészségügyi dokumentációjához hozzáfértek volna.
Modelljeink belső tanítása és értékelése során számos témát felölelő kutatási kérdések széles gyűjteményéből adunk nekik feladatokat. Ezek olyan részletes kérdéseket tükröznek, amilyeneket a felhasználók is feltehetnek. Ezzel arra tanítjuk a modellt, hogy megtalálja, értelmezze és elemezze a nyilvánosan elérhető információkat, így hasznosabbá váljon az emberek számára. Modelljeinknek nyilvánosan közzétett statisztikák alapján kellene megválaszolniuk ezeket a kérdéseket.
Ebben az esetben a modell egyik feladata az volt, hogy felkutassa, mennyit költ az állam egy főre vetítve a bőrbetegségek gyógyszereire Victoria állam közösségeiben. A modell nehezen jutott hozzá ezekhez az információkhoz, és olyan műveleteket hajtott végre, amelyekre nem adtunk engedélyt. Miközben ezeket az információkat kereste a Services Australia Medicare Statistics Reporting Service nevű szolgáltatásában, felfedezte, hogyan szerezhet nem nyilvános hozzáférést a szolgáltatáshoz. Ezt a hozzáférést felhasználva áttekintette a szolgáltatáshoz kapcsolódó műszaki rendszerinformációkat és forráskódot – továbbra is azzal a céllal, hogy megtalálja az eredetileg keresett információkat. Ez a tevékenység nem állt szándékunkban, és sem a szolgáltatáshoz való hozzáférésnek, sem az azt követő műveleteknek nem lett volna szabad megtörténniük.
A Hugging Face-incidenst követően megerősítettük a kutatásaink védelmi intézkedéseit: további hálózati korlátozásokat vezettünk be, és bővítettük a monitorozást. Olyan korlátozásokat vezettünk be, amelyek ezekben a kutatási környezetekben blokkolják az élő internet-hozzáférést, a webes tartalmakat pedig gyorsítótárazott formában teszik elérhetővé. További védelmi rétegként a jelenlegi monitorozási rendszereink már észlelték volna ezt a tevékenységet, és riasztották volna csapatunkat, hogy sürgős emberi felülvizsgálatra van szükség. Például amikor egy modell egy közelmúltbeli tanítási futtatás(új ablakban nyílik meg) során élő internet-hozzáféréshez jutott, a monitorozási rendszerünk észlelte a tevékenységet, és riasztotta a felülvizsgálatért felelős munkatársat, mi pedig leállítottuk a futtatást. Folyamatosan teszteljük ezeket a védelmi intézkedéseket, és orvosoljuk a hiányosságokat. Továbbra is a Hugging Face-incidens a legsúlyosabb eset, amelyet észleltünk.
Az emberek biztosak akarnak lenni abban, hogy az MI fejlesztése biztonságosan zajlik. Ennek alapja az, hogy a hozzánk hasonló vállalatok maguk mit tesznek ezért. Nemrég közöltük(új ablakban nyílik meg), hogy felfüggesztettük a legnagyobb képességű modelljeink eszközhasználattal járó tanítását és értékelését. Tanításukat csak akkor folytatjuk, ha meggyőződtünk arról, hogy az újabb védelmi intézkedések már működnek. Jelenleg ezek kialakításán dolgozunk.
Ahogy az MI-rendszerek képességei általánosságban bővülnek, egyre kevesebb idő marad arra is, hogy segítsünk a szervezeteknek megtalálni és kijavítani a gyenge pontjaikat. Ehhez közös fellépésre és a kibervédelmi szakemberekkel való világméretű együttműködésre van szükség.
Technológiai, kiberbiztonsági és kritikus infrastruktúrával foglalkozó szervezetekhez csatlakozva közös kibervédelmi fellépésre szólítottunk fel. Ez a felhívás a saját felelősségünkből indul ki: erősebb védelmi intézkedésekre, időben történő tájékoztatásra és az érintett szervezetek gyakorlati támogatására van szükség. Emellett az alapvető szolgáltatásokat védő csapatok támogatását is szorgalmazza, hogy fel tudják tárni a sérülékenységeket, ellenőrizni tudják a javításokat, és megoszthassák a bevált megoldásokat.
Ausztráliában erőforrásokkal és szakértelemmel támogatjuk az érintett szerveket, és segítjük a kibervédelmi szakembereket ezen elvek gyakorlati alkalmazásában. Ennek részeként az alábbiakat vállaljuk:
Célzott támogatás az érintett szerveknek. Biztosítjuk az ahhoz szükséges erőforrásokat, hogy az érintett szervek megérthessék a történteket, és felmérhessék azok hatását. Ez magában foglalja a releváns műszaki megállapítások megosztását, valamint az incidenskezelő csapatainkkal való együttműködés megszervezését, megfelelő információmegosztási megállapodások keretében.
Finanszírozás és támogatás a kibervédelem megerősítéséhez. Az 1 milliárd dolláros Daybreak for Frontline Defenders alapunkból biztosított kreditekkel és műszaki segítségnyújtással támogatjuk az ausztrál kormányzatokat és az iparági szereplőket a kritikus infrastruktúra és más érzékeny környezetek kibervédelmének megerősítésében. A kormányzatokkal és a kritikus infrastruktúrák üzemeltetőivel folytatott együttműködésünkre építve ez a munka segít a szervezeteknek jobban megérteni és észlelni az egyre nagyobb képességű MI-ügynökökből eredő kockázatokat, valamint hatékonyabban reagálni rájuk.
Ausztrál munkacsoport. Független ausztrál szakértők bevonásával munkacsoportot hozunk létre, amely gyakorlati szakpolitikai ajánlásokat dolgoz ki az egyre nagyobb képességű MI-ügynökökből eredő kockázatok kezelésére. Az incidensek tanulságaira építve a munkacsoport az értesítési folyamatok javítására, az MI-fejlesztők és a kormányzat közötti koordináció erősítésére, valamint a kormányzati rendszerek jobb védelmét szolgáló intézkedések meghatározására összpontosít. A munkacsoport ajánlásai irányt mutatnak majd az OpenAI számára, és támogatják az ausztrál kormányzatok MI-biztonsággal és kiberbiztonsággal kapcsolatos munkáját. A munkacsoport várhatóan az év végéig befejezi munkáját, és olyan gyakorlati lépéseket is javasol majd, amelyekkel az MI-vállalatok csökkenthetik a hasonló incidensek kockázatát.
Ausztrália kormányzatai, iparági szereplői és polgárai mindig is felbecsülhetetlen értékű partnerei voltak az OpenAI-nak, és ma is azok. Ezt nem vesszük magától értetődőnek, és helyre akarjuk hozni a történteket.
Az OpenAI stratégiai igazgatója, Jason Kwon az OpenAI amerikai központjából Sydney-be utazik, hogy október 6-án, kedden megjelenjen a parlament két házának közös, mesterséges intelligenciával foglalkozó különbizottsága előtt. Válaszolni fog az arra vonatkozó kérdésekre, hogy mit tudunk, hogyan reagáltunk, milyen lépéseket tettünk, és hogyan fogunk a jövőben jobban eljárni.
Továbbra is megosztjuk az ellenőrzött megállapításokat az érintett szervekkel és az illetékes kormányzatokkal. Friss tájékoztatásokat teszünk közzé a folyamatban lévő vizsgálatunkról és vállalásaink teljesítéséről. Tudjuk, hogy még sokat kell dolgoznunk a bizalom visszaszerzéséért. A mi felelősségünk, hogy megmutassuk az ausztráloknak: érdemi változtatásokat hajtunk végre, és betartjuk az ígéreteinket.
