Критикалық кибермүмкіндіктердің келесі озық деңгейіне ден қою

Модельдердің мүмкіндіктері артып, киберқорғанысты күшейтуге де, бұрын-соңды болмаған жылдамдық пен ауқымда шабуыл жасауға да жол ашқан сайын, киберқауіпсіздік қарқынды өзгеріп келеді.

Соңғы бірнеше күнде алдағы модельдеріміздің бірі — Astra-ға жүргізген ішкі бағалауларымыз агенттік бағдарламалау мен киберқауіпсіздік салаларында елеулі ілгерілеу бар екенін көрсетті. Осы нәтижелер мен сарапшылардың бағалауларына сүйене отырып, кеше кешке Дайындық шеңбері⁠(жаңа терезеде ашылады) бойынша Критикалық кибермүмкіндіктердің бар екенін жоққа шығара алмаймыз деген қорытындыға келдік.

Мүмкіндіктердегі осындай ықтимал өзгеріс туралы жұртшылыққа және қауіпсіздік саласындағы қауымдастықтарға ашық хабарлау маңызды деп санайтындықтан, бұл ақпаратпен бөлісіп отырмыз.

Біз Дайындық шеңберін алғаш рет 2023 жылғы желтоқсанда, модельдердің биологиялық, химиялық, киберқауіпсіздік және ЖИ-дің өзін-өзі жетілдіру мүмкіндіктері осы деңгейге жақындамай тұрып жарияладық. Оны мүмкіндіктердің даму барысын анықтауға және сол мүмкіндіктер пайда болған кезде компаниямыз не істейтінін жоспарлауға арналған нұсқаулық ретінде жасадық. Бұған дейінгі модельдер, соның ішінде GPT‑5.6‑Sol, озық кибермүмкіндіктер бойынша бағаланып, Критикалық емес, Жоғары шекке жеткен деп танылды.

Дайындық шеңберіне сәйкес, модель адамның араласуынсыз қорғанысы күшейтілген көптеген нақты аса маңызды жүйелерде барлық ауырлық деңгейіндегі жұмыс істейтін «нөлдік күн» эксплойттарын анықтап, әзірлей алса немесе тек жоғары деңгейлі мақсат берілгенде қорғалған нысандарға кибершабуыл жасаудың басынан аяғына дейінгі жаңа стратегияларын құрып, орындай алса, киберқауіпсіздік бойынша Критикалық шекке жетеді. 

Бұл модельді сынау мен бағалауды жалғастырып жатқанымызға қарамастан, алдын ала бағалауларымыз оның нәтижелері жеткілікті деңгейде жоғары екенін көрсетеді, сондықтан қазір Критикалық мүмкіндік деңгейін жоққа шығара алмаймыз. Astra — алдағы модель және ол Hugging Face жүйесіндегі осалдықтарды пайдалануға қатысқан жоқ. 

Осыған байланысты қорғаныс тетіктері мен қауіпсіздік бақылауларының мұндай мүмкіндіктерді енгізуге сай болуын қамтамасыз ету үшін олардың беріктігін сынау ауқымын кеңейттік. Сондай-ақ бұл модельді әрі қарай қауіпсіз әзірлеу үшін компания ішінде мынадай шаралар қабылдадық: 

• Мүмкіндігі жоғары модельдер мен оларға қатысты жұмыстар үшін қатаңырақ қауіпсіздік бақылауларын енгізіп жатырмыз. Олардың қатарында оқшауланған сынақ орталары, желі мен құралдарға шектеулі қолжетімділік, модель салмақтарын қорғаудың күшейтілген тетіктері мен шифрлау, қосымша бақылау және анықтау мүмкіндіктері, сондай-ақ оқшауланған ортада орындау бар.
• Astra-ға қатысты күшейтілген қауіпсіздік талаптарына әлі сай келмейтін ішкі жұмыстарды уақытша тоқтатып жатырмыз.
• Astra-ны агент ретінде қолданудың барлық түрінде, соның ішінде оқыту мен бағалау кезінде, қауіпті әрекеттер мен сәйкессіздікті бақылауды енгіздік. Бақылау жүйелері модельдің ойлау тізбегін бағалап, қаупі жоғары әрекеттерді тексеру және тоқтату үшін қауіпсіздік шараларын іске қосады.
• Бұл модельдің мүмкіндіктерін сынау үшін тиісті мемлекеттік органдармен және ЖИ қауіпсіздігі саласындағы іріктелген ұйымдармен жұмыс істейміз.
• Қауіп деңгейі жоғары бағалаулар мен жұмыс жүктемелерін қауіпсіз орындау үшін үшінші тараптағы сынақ серіктестеріне қолдануға ұсынылатын қауіпсіздік бақылауларын береміз. 

Бұл шеңбер мүмкіндіктердің басқа деңгейлерге өтуі кезінде де бізге бағыт-бағдар берді. 2025 жылғы маусымда модельдеріміз Дайындық шеңбері бойынша биология саласындағы жоғары мүмкіндік шегіне жақындағанда, қорғаныс тетіктерін күшейту, сынақтарды кеңейту, сыртқы сарапшылармен жұмыс істеу және қосымша қауіпсіздік бақылауларын енгізу үшін қабылдап жатқан шараларымызды баяндадық. Бұл жерде де сол қағиданы ұстанып отырмыз.

Озық кибермүмкіндіктері бар модельдер қорғаушыларға осалдықтарды шабуылдаушылардан бұрын анықтап, жоюға көмектесуі керек деп санаймыз. Astra секілді модельдердің және олардан кейінгі модельдердің озық мүмкіндіктері бүкіл адамзат игілігі үшін жауапкершілікпен әрі кеңінен қолданылуы үшін үкіметтермен, қауіпсіздік институттарымен және азаматтық қоғаммен бірлесіп жұмыс істеуге ниеттіміз.