Ahogy az AI rendszerek egyre összetettebb feladatokat vállalnak—különösen azokat, amelyek a webet és a kapcsolódó alkalmazásokat érintik—, a biztonsági kockázatok is megváltoznak.
Egy felmerülő kockázat különösen fontossá vált: utasítás injekció. Ezekben a támadásokban egy harmadik fél megpróbálja félrevezetni a társalgási AI-rendszert, hogy kövesse a rosszindulatú utasításokat, vagy érzékeny információkat tárjon fel.
Ma két új védelmet mutatunk be, amelyek célja, hogy segítsenek a felhasználóknak és a szervezeteknek mérsékelni az utasítás injekció támadásokat, egyértelműbb rálátással a kockázatokra, erősebb kontrollokkal:
- Zárolási mód a ChatGPT‑ben, egy fejlett, opcionális biztonsági beállítás magasabb kockázatú felhasználók számára
- „Kiemelt kockázat” címkék bizonyos funkciókhoz, amelyek további kockázatot jelenthetnek a ChatGPT‑ben, a ChatGPT Atlasban és a Codexben
Ezek a kiegészítések a modell-, termék- és rendszerszintű meglévő védelmeinkre épülnek. Ez magában foglalja a sandboxolást, a URL-alapú adatkiszivárogtatás elleni védelmet, a monitorozást és a végrehajtást, valamint a vállalati ellenőrzéseket, úgymint a szerepköralapú hozzáférés-vezérlést és az auditnaplókat.
A Zárolási mód egy választható, haladó biztonsági beállítás, amelyet a magas fokú biztonságtudatossággal rendelkező felhasználók szűk csoportjának terveztek—például vezetőknek vagy kiemelt szervezetek biztonsági csapatainak—, akiknek fokozott védelemre van szükségük a haladó fenyegetésekkel szemben. A legtöbb felhasználó esetében ez nem szükséges. A Zárolási mód szigorúan korlátozza, hogy a ChatGPT hogyan léphet kapcsolatba külső rendszerekkel, így csökkentve az utasítás injekció alapú adatkiszivárogtatás kockázatát.
A Zárolási mód determinisztikusan letilt bizonyos eszközöket és képességeket a ChatGPT‑ben, amelyeket egy támadó megpróbálhat arra felhasználni, hogy érzékeny adatokat szivárogtasson ki a felhasználók beszélgetéseiből vagy a csatlakoztatott alkalmazásokból, például utasítás injekció támadások révén.
Például a Zárolási módban a webböngészés a gyorsítótárazott tartalomra korlátozódik, így élő hálózati kérések nem hagyják el az OpenAI által felügyelt hálózatot. Ezt a korlátozást azért hoztuk létre, hogy megakadályozzuk az érzékeny adatok böngészés útján, támadóhoz történő kiszivárgását. Bizonyos funkciók teljesen le vannak tiltva, ha nem tudunk erős, determinisztikus garanciákat nyújtani az adatbiztonság érdekében.
A Zárolási mód egy új determinisztikus beállítás, amely segít megvédeni az adatokat a véletlen harmadik felekkel való megosztástól azáltal, hogy szigorúan korlátozza, miként léphet interakcióba a ChatGPT bizonyos külső rendszerekkel.
A ChatGPT üzleti csomagjai már most is vállalati szintű adatbiztonságot nyújtanak. A Zárolási mód ezekre a védelmi intézkedésekre épül, és elérhető a ChatGPT Enterprise, a ChatGPT Edu, a ChatGPT for Healthcare és a ChatGPT for Teachers számára. Az adminisztrátorok a Munkaterület beállításai(új ablakban nyílik meg) menüpontban engedélyezhetik, új szerepkör(új ablakban nyílik meg) létrehozásával. Ha engedélyezve van, a Zárolási mód további korlátozásokat vezet be a meglévő adminisztrátori beállításokon felül.
Tudj meg többet a Zárolási módról a Súgóközpontunkban(új ablakban nyílik meg).
Mivel egyes kritikus munkafolyamatok alkalmazásokra támaszkodnak, a munkaterület adminisztrátorai részletesebb irányítást tartanak meg. Pontosan kiválaszthatják, hogy mely alkalmazások—és azokon belül mely konkrét műveletek—érhetők el a felhasználók számára a Zárolási módban. Ezenkívül, a Lezárási módfüggetlenül, a Compliance API naplózási platform(új ablakban nyílik meg) részletes betekintést nyújt az alkalmazáshasználatba, a megosztott adatokba és a csatlakoztatott forrásokba, segítve az adminisztrátorokat a felügyelet fenntartásában.
Tervezik szerint a következő hónapokban Lezárási módot elérhetővé tesszük a fogyasztók számára.
Az AI-termékek hasznosabbak lehetnek, ha csatlakoznak az alkalmazásaidhoz és az internethez, és jelentős összegeket fektettünk be az összekapcsolt adatok biztonságának megőrzésébe. Ugyanakkor egyes hálózati képességek új kockázatokat jelentenek, amelyeket az iparág biztonsági és védelmi intézkedései még nem kezelnek teljes egészében. Egyes felhasználók számára elfogadható lehet ezeknek a kockázatoknak a vállalása, és úgy gondoljuk, fontos, hogy a felhasználók eldönthessék, hogy használják-e ezeket, és ha igen, hogyan, különösen a privát adataikkal való munka során.
A mi megközelítésünk az, hogy a terméken belüli útmutatást nyújtsunk azokhoz a funkciókhoz, amelyek további kockázatot jelenthetnek. Annak érdekében, hogy ez világosabb és következetesebb legyen, egységesítjük a meglévő képességek rövid listájának címkézését. Ezek a funkciók mostantól egységes „Kiemelt kockázat” címkét fognak használni a ChatGPT, a ChatGPT Atlas és a Codex felületein, így a felhasználók ugyanazt az útmutatást kapják, bárhol is találkoznak ezekkel.
Például a Codexben, a kódolási asszisztensünkben, a fejlesztőknek lehetősége van arra, hogy hálózati hozzáférést biztosítsanak a Codexnek, így az képes legyen műveleteket végrehajtani a weben, például dokumentációt keresni. A vonatkozó beállítási képernyő tartalmazza a „Kiemelet kockázat” címkét, valamint egy világos magyarázatot arról, hogy mi változik, milyen kockázatok merülhetnek fel, és mikor megfelelő az ilyen hozzáférés.
Egy képernyőkép a Codex beállítási képernyőről, ahol a felhasználók beállíthatják a Codex hálózati hozzáférését.
Továbbra is befektetünk a biztonsági és védelmi intézkedéseink megerősítésébe, különösképpen az új, felmerülő vagy növekvő kockázatok esetén. Amint megerősítjük az ezekhez a funkciókhoz kapcsolódó védelmi intézkedéseket, eltávolítjuk a „Kiemelt kockázat” címkét, ha megállapítjuk, hogy a biztonsági fejlesztések általános használatra kellően mérsékelték ezeket a kockázatokat. Továbbra is frissítjük, hogy idővel mely funkciók kapják meg ezt a címkét, hogy a lehető legjobban kommunikáljuk a kockázatot a felhasználók felé.
Szerző
Olvass tovább
