Forcimi i qëndrueshmërisë kibernetike ndërsa aftësitë e inteligjencës artificiale avancojnë

Aftësitë kibernetike në modelet e inteligjencës artificiale po përparojnë me shpejtësi, duke sjellë përfitime të rëndësishme për mbrojtjen kibernetike, si edhe rreziqe të reja të përdorimit të dyfishtë që duhet të menaxhohen me kujdes. Për shembull, aftësitë e vlerësuara përmes sfidave capture-the-flag (CTF) janë përmirësuar nga 27% në GPT‑5⁠(hapet në një dritare të re) në gusht 2025 në 76% në GPT‑5.1‑Codex‑Max⁠(hapet në një dritare të re) në nëntor 2025.

Ne presim që modelet e ardhshme të AI të vazhdojnë në këtë trajektore; në përgatitje, po planifikojmë dhe vlerësojmë sikur secili model i ri mund të arrijë nivele "Të larta" të aftësive të sigurisë kibernetike, siç matet nga Preparedness Framework⁠(hapet në një dritare të re). Me këtë nënkuptojmë modele që ose mund të zhvillojnë eksploite funksionale zero-day në distancë kundër sistemeve të mbrojtura mirë ose të ndihmojnë në mënyrë domethënëse në operacione komplekse dhe të fshehta depërtimi në ndërmarrje ose në mjedise industriale, të synuara për të shkaktuar efekte në botën reale. Ky postim shpjegon se si mendojmë për masat mbrojtëse për model që arrijnë këto nivele aftësish dhe si sigurohemi që ato i ndihmojnë në mënyrë domethënëse mbrojtësit, duke kufizuar njëkohësisht keqpërdorimin.

Ndërsa këto aftësi avancojnë, OpenAI po investon në forcimin e modeleve tona për detyra të sigurisë kibernetike mbrojtëse dhe në krijimin e mjeteve që u mundësojnë mbrojtësve të kryejnë më lehtë flukse pune si auditimi i kodit dhe korrigjimi i dobësive. Qëllimi ynë është që model dhe produktet tona të sjellin përparësi domethënëse për mbrojtësit, të cilët shpesh janë më të paktë në numër dhe me burime të pamjaftueshme.

Ashtu si fushat e tjera me përdorim të dyfishtë, flukset e punës kibernetike mbrojtëse dhe sulmuese shpesh mbështeten në të njëjtat njohuri dhe teknika bazë. Ne po investojmë në masa mbrojtëse për të ndihmuar që këto aftësi të fuqishme t'u shërbejnë kryesisht përdorimeve mbrojtëse dhe të kufizojnë përmirësimin për qëllime keqdashëse. Siguria kibernetike prek pothuajse çdo fushë, çka do të thotë se nuk mund të mbështetemi tek asnjë kategori e vetme e masave mbrojtëse - si kufizimi i njohurive ose përdorimi vetëm i aksesit të verifikuar - por, përkundrazi, kemi nevojë për një qasje të mbrojtjes në thellësi që balancon rrezikun dhe u jep fuqi përdoruesve. Në praktikë, kjo do të thotë të formësojmë mënyrën se si aksesohen, udhëzohen dhe zbatohen aftësitë, që modelet e avancuara të forcojnë sigurinë në vend që të ulin barrierat për keqpërdorim.

Ne e shohim këtë punë jo si një përpjekje të vetme, por si një investim të qëndrueshëm dhe afatgjatë për t'u dhënë mbrojtësve një avantazh dhe për të forcuar vazhdimisht situatën e sigurisë së infrastrukturës kritike në të gjithë ekosistemin më të gjerë.

Modelet tona janë projektuar dhe trajnuar për të funksionuar në mënyrë të sigurt, të mbështetura nga sisteme proaktive që zbulojnë dhe reagojnë ndaj abuzimit kibernetik. Ne i përmirësojmë vazhdimisht këto masa mbrojtëse ndërsa aftësitë tona dhe peizazhi i kërcënimeve ndryshojnë. Ndërsa asnjë sistem nuk mund të garantojë parandalimin e plotë të keqpërdorimit në sigurinë kibernetike pa ndikuar rëndë në përdorimet mbrojtëse, strategjia jonë është të zbusim rrezikun përmes një pakete sigurie me shumë shtresa.

Në themel të kësaj, ne ndjekim një qasje të mbrojtjes në thellësi, duke u mbështetur në një kombinim të kontrolleve të aksesit, forcimit të infrastrukturës, kontrolleve të daljes dhe monitorimit. Ne i plotësojmë këto masa me sisteme zbulimi dhe reagimi, si edhe me inteligjencë të dedikuar për kërcënime dhe programe për rrezikun e brendshëm, duke mundësuar që kërcënimet e reja të identifikohen dhe bllokohen shpejt. Këto masa mbrojtëse janë projektuar të evoluojnë me peizazhin e kërcënimeve. Ne e marrim ndryshimin si të mirëqenë dhe ndërtojmë që të mund të përshtatemi shpejt dhe siç duhet.

Ndërtuar mbi këtë themel:

• Trajnimi i modelit për të refuzuar ose për t'iu përgjigjur në mënyrë të sigurt kërkesave të dëmshme, ndërsa mbetet i dobishëm për raste përdorimi edukative dhe mbrojtëse: Ne po trajnojmë modelet tona avangardë që të refuzojnë ose të përgjigjen në mënyrë të sigurt ndaj kërkesave që do të mundësonin abuzim të qartë kibernetik, ndërsa mbeten maksimalisht të dobishëm për raste përdorimi legjitime mbrojtëse dhe edukative.
• Sistemet e zbulimit: Ne përmirësojmë dhe mirëmbajmë monitorimin në të gjithë sistemin nëpër produkte që përdorin modele avangardë për të zbuluar aktivitet të mundshëm kibernetik keqdashës. Kur aktiviteti duket i pasigurt, ne mund të bllokojmë daljen, t'i drejtojmë kërkesat te modele më të sigurta ose më pak të afta ose ta përshkallëzojmë për zbatim. Zbatimi i masave nga ana jonë kombinon shqyrtimin e automatizuar dhe atë njerëzor, duke u bazuar në faktorë si kërkesat ligjore, serioziteti dhe sjellja e përsëritur. Ne gjithashtu bashkëpunojmë ngushtë me zhvilluesit dhe klientët e ndërmarrjeve për të rënë dakord për standardet e sigurisë dhe për të mundësuar përdorim të përgjegjshëm me rrugë të qarta për përshkallëzim.
• Simulim sulmesh nga fillimi në fund: Ne po bashkëpunojmë me organizata eksperte të simulimit sulmesh për të vlerësuar dhe përmirësuar masat tona mbrojtëse për sigurinë. Detyra e tyre është të përpiqen të anashkalojnë të gjitha mbrojtjet tona duke vepruar nga fillimi në fund, ashtu siç mund të vepronte një kundërshtar i vendosur dhe me burime të shumta. Kjo na ndihmon të identifikojmë boshllëqet herët dhe të forcojmë të gjithë sistemin.

OpenAI ka investuar herët në aplikimin e AI për raste mbrojtëse të sigurisë kibernetike dhe ekipi ynë bashkëpunon ngushtë me ekspertë globalë për të përmirësuar si model tona ashtu edhe zbatimin e tyre. Ne e vlerësojmë komunitetin global të profesionistëve të sigurisë kibernetike që punojnë pa u lodhur për ta bërë botën tonë digjitale më të sigurt dhe jemi të përkushtuar për të ofruar mjete të fuqishme që mbështesin sigurinë mbrojtëse. Ndërsa zbatojmë masa të reja mbrojtëse, do të vazhdojmë të bashkëpunojmë me komunitetin e sigurisë kibernetike për të kuptuar se ku AI mund të forcojë qëndrueshmërinë në mënyrë domethënëse dhe ku masat mbrojtëse të menduara me kujdes janë më të rëndësishme.

Krahas këtyre bashkëpunimeve, po krijojmë një sërë përpjekjesh për të ndihmuar mbrojtësit të lëvizin më shpejt, të mbështesim masat tona mbrojtëse në nevojat reale dhe të përshpejtojmë korrigjimin me përgjegjësi në shkallë të gjerë.

Së shpejti do të prezantojmë një program aksesi të besuar, ku do të shqyrtojmë ofrimin e aksesit të shkallëzuar për përdoruesit dhe klientët e kualifikuar që punojnë në mbrojtje kibernetike, duke përdorur aftësi të përmirësuara në modelet tona më të fundit për raste përdorimi mbrojtës. Ne jemi ende duke shqyrtuar kufirin e duhur të aftësive për të cilat mund të ofrojmë akses të gjerë dhe atyre që kërkojnë kufizime të shkallëzuara, çka mund të ndikojë në hartimin e ardhshëm të këtij programi. Ne synojmë që ky program i aksesit të besuar të shërbejë si një bllok ndërtues drejt një ekosistemi të qëndrueshëm.

Aardvark, kërkuesi ynë i sigurisë që ndihmon zhvilluesit dhe ekipet e sigurisë të zbulojnë dhe rregullojnë dobësitë në shkallë të gjerë, tani është në versionin privat beta. Ai skanon bazat e kodit për dobësi dhe propozon korrigjime që mirëmbajtësit mund t'i përdorin menjëherë. Ka identifikuar tashmë CVE të reja në softuer me burim të hapur duke bërë arsyetim mbi të gjitha bazat e kodit. Ne planifikojmë të ofrojmë mbulim falas për depo të përzgjedhura jokomerciale me burim të hapur, për të kontribuar në sigurinë e ekosistemit të softuerit me burim të hapur dhe zinxhirit të furnizimit. Apliko për të marrë pjesë këtu.

Do të krijojmë Frontier Risk Council, një grup këshillues që do të sjellë mbrojtës kibernetikë me përvojë dhe praktikues të sigurisë në bashkëpunim të ngushtë me ekipet tona. Ky këshill do të fillojë me fokus te siguria kibernetike dhe në të ardhmen do të zgjerohet në domena të tjera të aftësive avangardë. Anëtarët do të këshillojnë për kufirin midis aftësisë së dobishme dhe të përgjegjshme dhe keqpërdorimit të mundshëm dhe këto mësime do të informojnë drejtpërdrejt vlerësimet dhe masat tona mbrojtëse. Së shpejti do të ndajmë më shumë rreth këshillit. 

Së fundi, parashikojmë se keqpërdorimi kibernetik mund të jetë i mundshëm nga çdo model avangardë në industri. Për ta trajtuar këtë, ne bashkëpunojmë me laboratorë të tjerë avangardë përmes Frontier Model Forum, një organizatë jofitimprurëse e mbështetur nga laboratorët kryesorë të inteligjencës artificiale dhe partnerë të industrisë, për të krijuar një kuptim të përbashkët të modeleve të kërcënimeve dhe praktikave më të mira. Në këtë kontekst, modelimi i kërcënimeve ndihmon në zbutjen e rrezikut duke identifikuar se si aftësitë e inteligjencës artificiale mund të përdoren si armë, ku ekzistojnë pengesa kritike për aktorë të ndryshëm të kërcënimit dhe se si modelet avangardë mund të ofrojnë përmirësime të rëndësishme. Ky bashkëpunim synon të krijojë një kuptim të qëndrueshëm dhe gjithëpërfshirës të aktorëve të kërcënimeve dhe rrugëve të sulmit, duke u mundësuar laboratorëve, mirëmbajtësve dhe mbrojtësve të përmirësojnë masat e tyre mbrojtëse dhe të sigurojnë që njohuritë kritike të sigurisë të përhapen shpejt në të gjithë ekosistemin. Ne po bashkëpunojmë gjithashtu me ekipe të jashtme për të zhvilluar vlerësime të sigurisë kibernetike⁠(hapet në një dritare të re). Shpresojmë që një ekosistem vlerësimesh të pavarura të ndihmojë më tej në krijimin e një kuptimi të përbashkët për aftësitë e model.

Së bashku, këto përpjekje pasqyrojnë angazhimin tonë afatgjatë për forcimin e aspektit mbrojtës të ekosistemit. Ndërsa modelet bëhen më të afta, synimi ynë është të sigurojmë që këto aftësi të përkthehen në një avantazh të vërtetë për mbrojtësit - të bazuara në nevojat reale, të formësuara nga ekspertiza dhe të zbatuara me kujdes. Krahas kësaj pune, planifikojmë të shqyrtojmë nisma të tjera dhe grante për sigurinë kibernetike për të nxjerrë në pah ide novatore që mund të mos dalin nga kanalet tradicionale, si dhe të mbledhim ide të guximshme dhe krijuese nga akademia, industria dhe komuniteti me burim të hapur. Të marra së bashku, kjo është një punë e vazhdueshme dhe presim të vazhdojmë të zhvillojmë këto programe ndërsa mësojmë se çfarë përparon më me efikasitet sigurinë në botën reale.