Одговор на следната граница на критичните сајбер-способности

Сајбер-безбедноста брзо се менува бидејќи моделите стануваат сè поспособни, што може и да ја зајакне сајбер-одбраната и да овозможи напади со досега невидени брзина и размери.

Нашите најнови интерни процени на Astra, еден од нашите претстојни модели, спроведени во изминативе неколку дена, укажуваат на значителен напредок во кодирањето со агент и сајбер-безбедноста. Овие резултати, заедно со стручните процени, нè наведоа синоќа да заклучиме дека не можеме да го исклучиме постоењето на критични сајбер-способности според нашата Рамка за подготвеност⁠(се отвора во нов прозорец).

Го споделуваме ова бидејќи сметаме дека е важно јавноста и заедниците посветени на безбедноста и заштитата да бидат транспарентно информирани за оваа можна промена во способностите.

Нашата Рамка за подготвеност првпат ја објавивме во декември 2023 година, многу пред моделите да се приближат до ова ниво на способности во биологијата, хемијата, сајбер-безбедноста и самостојното подобрување на ВИ. Ја создадовме како водич за препознавање на напредокот во способностите и за планирање на чекорите што нашата компанија би ги презела со нивната појава. Претходните модели, вклучувајќи го GPT‑5.6‑Sol, беа оценувани за гранични сајбер-способности и беа класифицирани на прагот „Висок“, а не „Критичен“.

Според нашата Рамка за подготвеност, моделот го достигнува критичниот праг за сајбер-безбедност ако може без човечка интервенција да идентификува и развива функционални експлоити за ранливости од нултиот ден од сите нивоа на сериозност во многу добро заштитени критични системи од реалниот свет или ако може да осмисли и спроведе целосни нови стратегии за сајбер-напади врз добро заштитени цели, само врз основа на општо зададена посакувана цел. 

Додека продолжуваме да го тестираме и оценуваме овој модел, нашите прелиминарни процени укажуваат на доволно добри резултати поради кои засега не можеме да го исклучиме критичното ниво на способности. Astra е претстоен модел и не беше вклучен во искористувањето на ранливоста на Hugging Face. 

Затоа го проширивме тестирањето на отпорноста на нашите заштитни мерки и безбедносни контроли, за тие да бидат соодветни за примена на овие способности. Интерно ги презедовме и следниве чекори за натамошниот развој на овој модел да се одвива безбедно и заштитено: 

• Воведуваме построги безбедносни контроли за поспособните модели и поврзаните активности, вклучувајќи изолирани средини за тестирање, ограничен пристап до мрежи и алатки, засилена заштита и шифрирање на тежините на моделот, дополнителни можности за следење и откривање и извршување во изолирана околина.
• Ги паузираме интерните активности поврзани со Astra што сè уште не ги исполнуваат овие построги барања за безбедносни контроли.
• Воведовме сеопфатно следење на ризичните дејства и неусогласеноста во сите агентски примени на Astra, вклучувајќи ги обуката и оценувањето. Системите за следење го оценуваат синџирот на мисли на моделот и активираат безбедносен одговор за проверка и прекинување на високоризичните активности.
• Ќе соработуваме со надлежните државни институции и избрани организации за безбедност на ВИ за да ги тестираме способностите на овој модел.
• На надворешните партнери за тестирање ќе им препорачаме безбедносни контроли за сигурно спроведување на поризични процени и работни оптоварувања. 

Рамката веќе нè водеше низ други премини кон нови нивоа на способности. Во јуни 2025 година, кога нашите модели се приближија до прагот на високи способности во биологијата според Рамката за подготвеност, ги наведовме чекорите што ги преземавме за зајакнување на заштитните мерки, проширување на тестирањето, соработка со надворешни експерти и воведување дополнителни безбедносни контроли. И овде го применуваме истиот принцип.

Веруваме дека напредните модели со сајбер-способности треба да им помагаат на бранителите да ги откријат и отстранат ранливостите пред напаѓачите. Посветени сме на соработка со владите, институтите за безбедност и граѓанското општество за граничните способности на моделите како Astra, како и на оние што ќе следуваат, да се применуваат одговорно и широко, во полза на целото човештво.