A zéró adatmegőrzés egyértelmű ígéretet jelent a jogosult API-ügyfeleknek: az OpenAI a kérés feldolgozása után nem őrzi meg sem a promptjaikat, sem a modell válaszait. Az ügyfelek tartalmához az OpenAI munkatársai felülvizsgálat céljából sem férhetnek hozzá1, a vállalati ügyfelek adatait pedig nem használjuk modelljeink tanításához, kivéve, ha ehhez az ügyfél kifejezetten hozzájárul.
Ahogy a modellek hosszabb és összetettebb feladatokat vállalnak, egyes komoly kockázatok csak több interakció alapján válhatnak láthatóvá. A jelenlegi, ZDR-kompatibilis biztonsági rendszerek minden interakciót külön értékelnek. Ma bemutatjuk a privát biztonsági feldolgozás előzetes változatát, amely úgy tárja fel az összefüggő interakciók mintázatait, hogy az OpenAI munkatársai nem férnek hozzá az alapul szolgáló tartalomhoz.
ZDR-telepítések esetén az ügyfelek tartalma az általuk felügyelt infrastruktúrán marad. Olyan megoldást is fejlesztünk, amelyben a tartalom az OpenAI infrastruktúráján, az ügyfél által felügyelt kulcsokkal titkosítva tárolódik. Az automatizált rendszerek mindkét esetben képesek felismerni a lehetséges visszaéléseket és korlátozott biztonsági jelzéseket küldeni anélkül, hogy az alapul szolgáló promptokat vagy válaszokat felfednék az OpenAI munkatársai előtt.
Az MI legsúlyosabb biztonsági kockázatai nem mindig láthatók egyetlen interakcióból. A potenciálisan káros szándék gyakran csak több interakció együttes vizsgálatakor válik egyértelművé. Hasonló kockázatok merülhetnek fel akkor is, ha rosszindulatú szereplők ismételten próbára teszik a védelmi intézkedéseket, több fiókon keresztül hangolják össze tevékenységüket, vagy rutinszerű kutatásnak álcázzák a fenyegetéseket. A kockázatok egy ügynöki feladat során is kialakulhatnak – például ha a rendszer eltér a felhasználó szándékától, és azután is folytatja a műveleteket, hogy felszólították a leállásra.
Ahogy az MI-rendszerek egyre hosszabb és összetettebb feladatokat vállalnak, e tágabb kontextus mind fontosabbá válik a jogszerű tevékenység és a visszaélés megkülönböztetéséhez, valamint annak biztosításához, hogy az MI-ügynökök a nekik szánt hatáskörön belül maradjanak.
Egyes élvonalbeli modellek közelmúltbeli alkalmazásakor az ügyfeleknek engedélyezniük kellett, hogy MI-szolgáltatójuk biztonsági megfigyelés céljából megőrizze az érzékeny tartalmakat. Sok szervezetnél ezek a követelmények ütköznek a biztonsági kötelezettségekkel vagy az általuk kiszolgált embereknek tett vállalásokkal.
A privát biztonsági feldolgozás kialakítása lehetővé teszi, hogy továbbra is kínáljunk ZDR-t.
A privát biztonsági feldolgozás a ZDR-nél és más telepítéseknél már használt automatizált védelemre épül. A jelenlegi, ZDR-kompatibilis biztonsági rendszerek külön-külön értékelik az interakciókat. A privát biztonsági feldolgozás kiterjeszti ezt a védelmet az összefüggő interakciókra, így az automatizált rendszerek anélkül azonosíthatják a mintázatokat, hogy az OpenAI munkatársai hozzáférnének a megőrzött ügyféltartalomhoz.
A privát biztonsági feldolgozás a tárolás helyétől függetlenül felhasználja az ügyfél tartalmát – akár az ügyfél által felügyelt infrastruktúrán (ZDR-telepítéseknél), akár az OpenAI által biztosított tárhelyen található. Az OpenAI által biztosított tárhelyen az ügyfelek tartalmát az általuk felügyelt kulcsokkal titkosítjuk. Az OpenAI munkatársai nem rendelkeznek e kulcsok másolatával, így nem férhetnek hozzá az alapul szolgáló tartalomhoz.
Kockázat észlelésekor az OpenAI egy szűken meghatározott jelzést kap az érintett tevékenység típusáról, a jelenlegi biztonsági rendszereinkhez hasonlóan. E jelzés alapján megállapítható, hogy szükség van-e intézkedésre. Az OpenAI munkatársai akkor sem kapnak hozzáférést az ügyfél tartalmához, ha azt megjelölik.
Az ügyfelek a saját rendszereikben elérhető információk alapján vizsgálhatják ki a riasztásokat és az intézkedésekről szóló döntéseket. Ha fellebbezni szeretnének, tisztázni kívánják a jogszerű tevékenységet, vagy támogatnák egy igazolt visszaélés kivizsgálását, dönthetnek úgy, hogy megosztják a vonatkozó információkat az OpenAI-jal.
A privát biztonsági feldolgozást jelenleg a korai ügyfelekkel teszteljük. Azért mutatjuk be már most az előzetes változatot, mert ügyfeleink egyértelműen jelezték: kiszámíthatóságra van szükségük azzal kapcsolatban, hogyan védjük majd tartalmukat az MI-rendszerek fejlődésével.
Küldetésünk annak biztosítása, hogy a mesterséges általános intelligencia az egész emberiség javát szolgálja. Az ügyfelekkel és partnerekkel folytatott együttműködés alapvető fontosságú a hatékony védelmi intézkedések kialakításához. Amint azt alapelveink egyértelművé teszik, egyetlen MI-laboratórium sem képes egyedül kezelni a felmerülő kockázatokat. A privát biztonsági feldolgozás ezt a megközelítést tükrözi, és különböző ágazatokban, régiókban működő, eltérő méretű ügyfelek közreműködésével formálódik.
Partnereink az ágazatuk legérzékenyebb információi közül is kezelnek, például pénzügyi nyilvántartásokat, egészségügyi adatokat, bizalmas üzleti terveket és védett kutatási anyagokat. Ezen információk védelme elengedhetetlen a szabályozási kötelezettségek teljesítéséhez, az ügyfelek bizalmának fenntartásához és versenyelőnyük megőrzéséhez.
Visszajelzéseik segítenek hatékonyabb védelmi intézkedéseket kialakítani úgy, hogy továbbra is ők rendelkezzenek az adataik felett.
„A vállalati MI elterjedése teljes mértékben azon múlik, hogy az ügyfél felügyelje az adatait, és azokat közvetlenül vagy származtatott formában se használják a választott szolgáltatáson kívül. Az OpenAI vállalása, hogy nem használja tanításhoz az adatokat, valamint a ZDR kellő bizalmat ad a Gleannak ahhoz, hogy az OpenAI-jal fejlesszen. Ahogy a modellek egyre fejlettebbé válnak, az OpenAI megmutatja, hogy a biztonság úgy is fokozható, hogy közben nem sérül a vállalati bizalmat megalapozó adatvédelem és ellenőrzés.”
—Sunil Agrawal, a Glean információbiztonsági vezetője
Továbbra is együttműködünk ügyfeleinkkel megközelítésünk műszaki és működési részletein. A privát biztonsági feldolgozás bevezetését és egy műszaki tanulmány közzétételét szeptemberben tervezzük megkezdeni. Minden lépésről tájékoztatjuk ügyfeleinket: időben megosztjuk velük a fejleményeket, elmagyarázzuk, mit jelentenek a meglévő vállalásokra nézve, és biztosítjuk számukra az előre tervezéshez szükséges időt és támogatást.
Szerző
- 1
Más élvonalbeli modell-szolgáltatókhoz hasonlóan az OpenAI-t is törvény kötelezi(új ablakban nyílik meg) a gyermekek szexuális bántalmazását ábrázoló vélelmezett anyagok (CSAM) bejelentésére. A potenciális CSAM-ként megjelölt képeket a kézi felülvizsgálat és a bejelentés céljából továbbra is megőrizzük, még zéró adatmegőrzést használó telepítéseknél is, ahogyan ma is tesszük.
