Biztonsági áttekintés: GPT‑6 Astra
Ma adjuk ki a GPT‑6 Astrát, az eddigi legnagyobb képességű, széles körben bevezetett modellünket. Az Astra az első modellünk, amely a Felkészültségi keretrendszerünk szerint elérte a Kritikus kiberbiztonsági képességszintet.
A kiadás biztonságáról a következőket a legfontosabb tudni:
A GPT‑6 Astra jelentős előrelépést képvisel a kiberképességek terén, és eléri a Kritikus küszöbértékünket. Ez azt jelenti, hogy a megfelelő eszközökkel és hozzáféréssel a GPT‑6 Astra korábban ismeretlen biztonsági hibákat találhat, és új módszereket dolgozhat ki azok kihasználására számos jól védett rendszerben anélkül, hogy minden lépését ember irányítaná. Ennek megfelelően jelentősen megerősítettük a védelmet az ellen, hogy a modell káros kiberműveleteket hajtson végre, akár visszaélés, akár hibás összehangolás miatt. Intézkedéseket tettünk az Astra és a hasonló modellek belső fejlesztésének és bevezetésének biztonságáért is. Ezek közé tartozik a szigorúbb elkülönítés, az ellenőrzőpontok titkosítása, a teljes folyamatok általános monitorozása – beleértve a gondolatmeneteket (CoT) is –, valamint egy olyan összehangolási értékelési folyamat, amely a belső használat előtt megakadályozhatja a továbblépést.
A GPT‑6 Astra jelentősen robusztusabb az elődeinél. Az új robusztussági biztonsági tanítási módszereknek köszönhetően a GPT‑6 Astra a GPT‑5.6 Solnál jóval ellenállóbb a jailbreakekkel szemben, a hosszabb folyamatokat is beleértve. Ezt offline tesztek, valamint szigorú belső és külső jailbreak-tesztelési és hibajavítási programunk eredményei igazolják. A potenciálisan magas kockázatúként megjelölt felhasználók esetében arra is betanítottuk a rendszert, hogy konzervatívabbá tegye a modell elutasítási küszöbét, és a kettős felhasználású kockázatok szélesebb körét fedje le. Regressziós teszteléssel gondoskodunk arról, hogy az Astra ellenálló legyen a korábbi tesztidőszakokban feltárt jailbreakekkel szemben. Emellett újabb automatizált támadásszimulációs köröket végeztünk legújabb belső támadásszimulációs rendszereinkkel, hogy igazoljuk a fejlesztéseinket.
A GPT‑6 Astra jobban összehangolt, mint a GPT‑5.6 Sol. Az Astra jelentős előrelépés a modellek összehangolásában: az előtanítási adatok összeállításától a megerősítéses tanulás során alkalmazott értékelésig számos fejlesztést tartalmaz. Bemutatunk egy új összehangolási értékeléscsomagot(új ablakban nyílik meg), amely szerint a GPT‑6 Astra hatékonyabban tartja tiszteletben a biztonsági és védelmi korlátokat, és megbízhatóbban marad az engedélyezett működési körén belül. Egy több mint 54 000 belső Codex-feladatot(új ablakban nyílik meg) felhasználó szimulációban az Astrát nagyjából feleannyiszor jelölték meg súlyosabb, hibásan összehangolt viselkedés miatt, mint a Solt.
Széles körben bevezetjük a hibás összehangolás monitorozását. A modellek összehangolását tekintjük az elsődleges eszköznek modelljeink esetleges hibásan összehangolt viselkedésének megelőzésére. A monitorozás ugyanakkor átfogó képet ad az élvonalbeli modellek viselkedéséről, és rávilágít az összehangolás és a biztonság további javításának lehetőségeire. Emellett a monitorozás további védelmi réteget biztosít az észlelt, hibásan összehangolt viselkedéssel szemben. Ezért az Astra külső bevezetése során minden eszközhasználattal járó következtetési folyamatot kiegészítettünk a hibás összehangolás monitorozásával, ami jelentős számítási költséggel jár. Ez a rendszer a belső megoldásunkat követi.
A GPT‑6 Astra monitorozhatósága romlott a GPT‑5.6 Solhoz képest. Alaposan vizsgáltuk a GPT‑6 Astra monitorozhatóságát(új ablakban nyílik meg) és irányíthatóságát(új ablakban nyílik meg). Megállapítottuk, hogy a GPT‑6 Astra a GPT‑5.6 Solnál jobban képes irányítani saját gondolatmenetét, és kisebb valószínűséggel foglal abba terhelő információkat. Ellenséges körülmények között – amikor arra ösztönözzük a modellt, hogy kerülje ki a monitorainkat – a modell képes észrevétlen maradni, amikor az értékeléseken szándékosan alulteljesít (szándékos alulteljesítés), és időnként belső monitorainkat is ki tudja kerülni, ha bizonyos szabotázsfeladatok(új ablakban nyílik meg) végrehajtására kérik. Nem találtunk szteganografikus CoT-érvelésre utaló bizonyítékot – például arra, hogy a rejtett érvelést hétköznapi és látszólag független szövegbe rejtené –, ami arra utal, hogy a kijátszás kockázata nagyrészt az alacsonyabb szintű érvelési feladatokra korlátozódhat.
Ezek az eredmények arra utalnak, hogy az Astra-osztályú modellek ellenséges körülmények között kijátszhatják CoT-monitorainkat. Jelenleg ezek az eredmények nagyrészt ellenséges értékeléseken alapulnak – vagyis olyan helyzeteken, amikor arra utasítjuk a modellt, hogy kerülje ki a monitorozást –, összehangolási értékeléseink összességében mégis azt mutatják, hogy az Astra a GPT‑5.6 Solnál kisebb valószínűséggel sérti meg a védelmi és biztonsági korlátozásokat.
A tendenciát azonban komolyan vesszük, és modelljeink képességeinek növekedésével tovább vizsgáljuk ezeket az eredményeket, valamint a monitorozhatóságra gyakorolt hatásukat. Az OpenAI azon dolgozik, hogy megőrizze és hasznosítsa a gondolatmenetek monitorozását; a CoT monitorozhatóságának fenntartása a kutatási program egyik alapvető célja. Ezek az eredmények ugyanakkor azt is hangsúlyozzák, hogy olyan összehangolás-ellenőrzési módszereket kell kidolgozni, amelyek túlmutatnak a modell gondolatmenetének vizsgálatán.
A GPT‑6 Astra felelősségteljesebben kezeli a böngészési és munkahelyi környezeteket: a GPT‑6 Astra a GPT‑5.6 Solnál lényegesen ellenállóbb az utasításbefecskendezéssel szemben. A modell viselkedését valósághű böngészési és professzionális számítógépes környezetekben is teszteltük. A GPT‑5.6 Solhoz képest jelentősen kisebb valószínűséggel hajt végre hibásan összehangolt és potenciálisan káros műveleteket, például jogosulatlan tranzakciókat, adatvesztést okozó műveleteket, túlzott hozzáférést vagy a védelmi intézkedések megkerülését. Ügynöki környezetekben a káros kéréseket is biztonságosabban kezeli, például ha erőszakos támadás megtervezéséhez vagy csalás elkövetéséhez kérnek segítséget.
A GPT‑6 Astra jelentősen biztonságosabb a magasabb kockázatú helyzetekben. A GPT‑6 Astra a GPT‑5.6 Solnál biztonságosabban válaszol az éles használatból és az emberek által végzett ellenséges támadásszimulációkból származó, nehéz kérésekre. Az Astra Pareto-javulást ér el: biztonságosabban teljesíti a veszélyes kéréseket, miközben ritkábban utasít el szükségtelenül ártalmatlan kéréseket. Ezek a fejlesztések azokra a súlyos helyzetekre is kiterjednek, amelyekben a károkozás kockázata nem egy kifejezett kérésből, hanem a tágabb összefüggésből ered. Az Astra a 18 év alatti felhasználóknál következetesebben alkalmazza az életkoruknak megfelelő biztonsági korlátokat is.
További információért tekintse meg a teljes rendszerkártyát(új ablakban nyílik meg).
