Градимо заједничке стандарде за напредну AI
Све способнији модели могу да ојачају сајбер одбрану, убрзају научна открића и прошире приступ стручном знању. Али могу и да створе ризике по безбедност и сигурност ако се њихове способности погрешно разумеју, ако су заштитне мере недовољне или ако владе немају информације потребне за реаговање. Да би се користи оствариле безбедно и с поверењем, друштвима ће бити потребне институције са техничким и управљачким капацитетом да процењују, обезбеђују и управљају све способнијим системима.
То је један од разлога зашто је OpenAI помогао оснивање Appia Foundation(отвара се у новом прозору), под окриљем Linux Foundation-а. Appia ће развијати отворене, модуларне спецификације намењене претварању међународних стандарда и успостављених оквира у практичне критеријуме процене дуж AI ланца вредности. Њен рад може помоћи да се развије кључни недостајући слој поверења, преко којег треће стране проверавају усаглашеност са стандардима и стварају јасније доказе који се лакше поново користе када моделе, инфраструктуру и апликације развијају различите организације. Радећи на томе, Appia ће помоћи да се створи заједнички технички језик који ће националним и међународним институцијама омогућити да имају поверења у рад једних других.
Овај напор видимо као важан следећи корак у ширем раду на јачању институција, стандарда и пракси процене потребних за напредне AI системе.
Наш недавни план за демократско управљање граничном AI нуди мапу пута за тај рад. Он позива на трајан оквир у САД, ојачан Центар за стандарде и иновације у области AI (CAISI) и ширу стратегију отпорности у целој влади. Такође препознаје да су гранични ризици међународног обима. Државе треба да сарађују на развоју усклађених безбедносних оквира, поузданих канала за размену налаза о ризицима и координисаних одговора на инциденте.
Национални капацитети и међународна сарадња треба међусобно да се јачају. Снажне институције као што је CAISI могу да развијају техничку експертизу, процењују граничне системе и подржавају екосистем независне процене. Мрежа способних националних институција затим може да успостави заједничке методе, призна поуздане доказе и владама пружи заједничко техничко разумевање потребно за заједничко деловање.
Стандарди су у средишту тог напора и морају бити засновани на кредибилној пракси евалуације и техничкој строгости. У нашем заједничком приручнику за поуздане евалуације трећих страна навели смо шта процене граничних система све више треба да откривају: тестирани систем, његов приступ алатима и евалуационо окружење, методе коришћене за изазивање способности, доступне ресурсе и провере спроведене ради потврде резултата. Ове принципе смо применили и у пракси кроз партнерства у тестирању са америчким CAISI-јем и британским AISI-јем, чији је рад на проценама граничних способности и заштитама од биолошке злоупотребе довео до конкретних побољшања у нашим системима. Овај рад има важну улогу у стварању основе за праксе које се могу стандардизовати ради упоредиве провере перформанси.
Ове праксе допуњују ширу безбедносну инфраструктуру OpenAI-ја. Наш Preparedness Framework представља основу за то како дефинишемо и спроводимо приступ управљању најозбиљнијим ризицима напредних AI система, укључујући наше интерне праксе. Наш Оквир управљања граничним AI системима примењује релевантне делове тог приступа у јавном документу о управљању, усмереном на конкретне регулаторне обавезе, укључујући процену ризика, извештавање о моделима, безбедносне контроле, реаговање на инциденте и укључивање доприноса спољних стручњака. Заједно, ови документи помажу да се шире обавезе преточе у оперативне праксе које се могу проверавати и унапређивати.
Рад Appia-е усмерен је на следећи изазов: да те праксе постану интероперабилне међу организацијама, јурисдикцијама и у ланцу снабдевања.
OpenAI већ доприноси ширем екосистему стандарда и напора пре стандардизације. Учествујемо у Заједничком техничком комитету 1, Поткомитету 42 за вештачку интелигенцију, Међународне организације за стандардизацију и Међународне електротехничке комисије(отвара се у новом прозору) и у Конзорцијуму за вештачку интелигенцију који предводи Национални институт за стандарде и технологију(отвара се у новом прозору); помогли смо оснивање Форума за граничне моделе и Фондације за агенску вештачку интелигенцију(отвара се у новом прозору) Linux Foundation-а; учествујемо у Коалицији за безбедну вештачку интелигенцију(отвара се у новом прозору); чланови смо управног одбора Коалиције за порекло и аутентичност садржаја(отвара се у новом прозору); и укључени смо у процесе Радне групе за интернет инжењеринг(отвара се у новом прозору) и Fast Identity Online Alliance(отвара се у новом прозору) ради унапређивања интероперабилних техничких стандарда.
У свим овим форумима, сада и кроз Appia-у, наш циљ је да поуке из развоја граничних система преточимо у отворене, технички утемељене праксе које владе, компаније и независни процењивачи могу да користе у различитим јурисдикцијама.
