Нашият подход към партньорствата с правителства и в националната сигурност

Правителствата започват да използват авангардни системи с ИИ за все по-важна работа, включително в националната сигурност. Това създава нови императиви за лабораториите за ИИ, правителствата и гражданското общество да работят заедно по въпроса как тези инструменти трябва да се използват в чувствителни среди. 

Вярваме, че демократичните общества трябва да могат да използват ИИ, за да защитават хората, да бранят критичната инфраструктура, да предоставят обществени услуги и да реагират на възникващи заплахи, включително в области като киберзащита и биологична сигурност, където ИИ може осезаемо да даде предимство на защитниците. Но все по-способните системи с ИИ трябва да се внедряват по начини, които укрепват демократичната отчетност, съществената човешка преценка и върховенството на закона, и които засилват демократичните институции, вместо да концентрират власт.

Днес публикуваме Принципите на OpenAI за национална сигурност, за да дадем прозрачност за подхода си към правителствените партньорства и употребите на нашата технология в националната сигурност.

Тези принципи отразяват общофирмени усилия за разработване на по-всеобхватен подход към работата ни в областта на националната сигурност и правоприлагането, докато технологията ни продължава да напредва. Привлякохме водещ експерт по национална сигурност, Дейвид Крис, за да помогне за улесняването на процеса и да предостави независимата си преценка, проведохме сесии за изслушване в цялата компания и ангажирахме служители, представляващи различни екипи — от изследвания и безопасност до политики и правителствени партньорства.

Публикуваме ги сега, докато разширяваме работата си с правителството на САЩ и съюзнически партньори в критични отбранителни области, особено киберсигурността и биосигурността. През последния месец, като част от нашата програма за киберзащита Daybreak⁠, вече установихме партньорства Trusted Access for Cyber с Австралия, Канада, Япония, Република Корея, Франция, Германия, Полша, Нидерландия и институции на ЕС като ENISA. Имаме и разрастващо се доверено партньорство с правителството на Обединеното кралство в областта на киберсигурността, тестването и оценяването. Прилагаме сходен подход и в биосигурността. Миналия месец обявихме и разширен доверен достъп до нашия модел GPT‑Rosalind за подбрани партньори от правителството на САЩ и съюзнически държави, които подпомагат мисии в областта на общественото здраве и биозащитата.

Тези принципи се прилагат към настоящите и бъдещите ни партньорства в националната сигурност и правоприлагането, включително съществуващата ни работа с Министерството на войната. Когато обявихме споразумението си по-рано тази година, формулирахме няколко договорни ограничения: технологията на OpenAI да не се използва за масово наблюдение в страната, да не се използва за насочване на автономни оръжейни системи и да не се използва за автоматизирани решения с големи последици. Тези ограничения са в съответствие с принципите, които споделяме днес.

Вярваме, че правилният подход е да бъдем ясни за това как нашата технология може и не може да се използва, и да бъдем прозрачни по тези въпроси. Но много от най-значимите въпроси за ИИ в управлението, особено в националната сигурност, трябва да получат отговор чрез демократичния процес. Ролята на компании като нашата е да помагат тези решения да бъдат информирани, а не да ги вземат сами. Затова подкрепяме законодателни усилия за установяване на предпазни мерки около някои от военните приложения на ИИ с най-висок риск, включително в контекста на вътрешното наблюдение, автономните оръжейни системи и други високорискови употреби, които пряко засягат националната сигурност на САЩ.

Прочетете принципите тук⁠(отваря се в нов прозорец).