Помагаме во градење заеднички стандарди за напредна AI

Сè поспособните модели можат да ја зајакнат сајбер-одбраната, да го забрзаат научното откривање и да го прошират пристапот до експертиза. Но тие можат да создадат и ризици за безбедноста и сигурноста ако нивните способности се погрешно разбрани, ако заштитните механизми се недоволни или ако владите ги немаат информациите што им се потребни за да реагираат. За придобивките да се остварат безбедно и со доверба, на општествата ќе им бидат потребни институции со технички и управувачки капацитет за оценување, обезбедување и управување со сè поспособни системи.

Тоа е една од причините зошто OpenAI помогна во основањето на Фондацијата Appia⁠(се отвора во нов прозорец), чиј домаќин е Linux Foundation. Appia ќе развива отворени, модуларни спецификации наменети да ги преточат меѓународните стандарди и воспоставените рамки во практични критериуми за оценување низ синџирот на вредност на AI. Нејзината работа може да помогне во создавање клучен слој на доверба што недостига, преку кој трети страни ја проверуваат усогласеноста со стандардите и обезбедуваат појасни и поприменливи докази кога моделите, инфраструктурата и апликациите ги развиваат различни организации. Со оваа работа, Appia ќе помогне да се создаде заеднички технички јазик што ќе им овозможи на националните и меѓународните институции да имаат доверба во работата едни на други.

Овој напор го гледаме како важен следен чекор во пошироката работа за зајакнување на институциите, стандардите и практиките за оценување што се потребни за напредните AI системи.

Нашиот неодамнешен план за демократско управување со frontier AI нуди патоказ за таа работа. Тој повикува на трајна рамка во САД, зајакнат Центар за стандарди и иновации во AI (CAISI) и поширока стратегија за отпорност низ владата. Тој исто така признава дека ризиците од најсовремените модели имаат меѓународен опсег. Државите треба да соработуваат за да развијат усогласиви рамки за безбедност, доверливи канали за споделување наоди за ризик и координирани одговори на инциденти.

Националниот капацитет и меѓународната соработка треба меѓусебно да се зајакнуваат. Силни институции како CAISI можат да развиваат техничка експертиза, да оценуваат најсовремени системи и да поддржат независен екосистем за оценување. Мрежа од способни национални институции потоа може да воспостави заеднички методи, да признава доверливи докази и да им даде на владите заедничко техничко разбирање потребно за заедничко дејствување.

Стандардите се во средиштето на тој напор и мора да се темелат на веродостојна практика на оценување и техничка строгост. Во нашиот заеднички прирачник за доверливи оценки од трети страни, наведуваме што сè повеќе треба да откриваат процените на најсовремените модели: тестираниот систем, неговиот пристап до алатки и евалуациската средина, методите користени за предизвикување способности, достапните ресурси и проверките извршени за потврдување на резултатите. Овие принципи ги применивме и во практика преку партнерства за тестирање со US CAISI и UK AISI, чија работа на процени на најсовремени способности и заштити од биолошка злоупотреба доведе до конкретни подобрувања во нашите системи. Оваа работа има важна улога: да создаде основа за практики што може да се стандардизираат за проверка на перформансите на споредлив начин.

Овие практики ја надополнуваат пошироката безбедносна инфраструктура на OpenAI. Нашата Preparedness Framework е основата за тоа како го дефинираме и операционализираме нашиот пристап кон управување со најсериозните ризици од напредните AI системи, вклучувајќи ги и нашите внатрешни практики. Нашата Рамка за управување со најсовремени модели ги применува релевантните делови од тој пристап во јавен документ за управување, насочен кон конкретни регулаторни обврски, вклучувајќи процена на ризик, известување за модели, безбедносни контроли, одговор на инциденти и вклучување мислења од надворешни експерти. Заедно, овие документи помагаат широките обврски да се преточат во оперативни практики што може да се потврдуваат и подобруваат.

Работата на Appia е насочена кон следниот предизвик: овие практики да станат интероперабилни меѓу организации, јурисдикции и низ синџирот на снабдување.

OpenAI веќе придонесува во поширок екосистем на стандарди и напори за претстандардизација. Учествуваме во Заедничкиот технички комитет 1, Поткомитет 42 за вештачка интелигенција, на Меѓународната организација за стандардизација и Меѓународната електротехничка комисија⁠(се отвора во нов прозорец) и во Конзорциумот за вештачка интелигенција предводен од Националниот институт за стандарди и технологија⁠(се отвора во нов прозорец); помогнавме во основањето на Форумот за најсовремени модели и Фондацијата за агентска вештачка интелигенција⁠(се отвора во нов прозорец) на Linux Foundation; учествуваме во Коалицијата за безбедна вештачка интелигенција⁠(се отвора во нов прозорец); членуваме во управниот комитет на Коалицијата за потекло и автентичност на содржини⁠(се отвора во нов прозорец); и се вклучуваме во процесите на Работната група за интернет-инженерство⁠(се отвора во нов прозорец) и Алијансата за брз онлајн идентитет⁠(се отвора во нов прозорец) за унапредување интероперабилни технички стандарди.

Во сите овие форуми, сега и преку Appia, нашата цел е лекциите од развојот на најсовремените модели да ги преточиме во отворени, технички засновани практики што владите, компаниите и независните оценувачи можат да ги користат во различни јурисдикции.