Моћ континуираног учења

Општа вештачка интелигенција (AGI) требало би да надмаши људе у већини економски вредних послова. Радујем се што ћу видети да AGI помаже људском друштву на ове начине:

1. Да у потпуности аутоматизује или значајно смањи људски труд на задацима који се понављају и нису иновативни. Другим речима, AGI би требало драстично да повећа људску продуктивност.
2. Да у великој мери убрза откривање нових научних пробоја, укључујући, али не ограничавајући се на, олакшавање процеса људског доношења одлука пружањем додатних анализа и информација.
3. Да ефикасно, делотворно и безбедно разуме и ступа у интеракцију са физичким светом.

Током прве 2,5 године у OpenAI-ју, радила сам у тиму за роботику на једној амбициозној идеји: желели смо да научимо једну роботску шаку налик људској да решава Рубикову коцку. Било је то невероватно узбудљиво, изазовно и емотивно искуство. Решили смо⁠ тај изазов уз дубоко учење у сврху јачања (RL), огромне количине доменске рандомизације и без података за обучавање из стварног света. Још важније, тај изазов смо савладали као тим.

Од симулације и RL обучавања до визуелне перцепције и фирмвера за хардвер, сарађивали смо веома блиско и складно. Био је то невероватан експеримент и у то време сам често мислила на поље искривљења стварности⁠(отвара се у новом прозору) Стива Џобса: када у нешто верујете толико снажно и настављате да га гурате с таквом упорношћу, некако можете да учините немогуће могућим.

Од почетка 2021. почела сам да водим тим за примењено AI истраживање. Вођење тима доноси другачији скуп изазова и захтева промене у стилу рада. Најпоноснија сам на неколико пројеката повезаних са безбедношћу језичких модела у оквиру примењеног AI-ја:

1. Осмислили смо и конструисали скуп евалуационих података и задатака како бисмо проценили склоност унапред обучених језичких модела да генеришу садржај пун мржње, сексуални или насилан садржај.
2. Направили смо детаљну таксономију и изградили снажан класификатор за откривање нежељеног садржаја⁠, као и разлога због којег је тај садржај непримерен.
3. Радимо на различитим техникама како би модел мање вероватно генерисао небезбедне излазе.

Пошто тим за примењени AI примењује најбоље начине за увођење најсавременијих AI техника, као што су велики унапред обучени језички модели, видимо колико су оне моћне и корисне за задатке из стварног света. Такође смо свесни важности безбедног увођења тих техника, као што је наглашено у нашој Повељи⁠.

Тренутни модели дубоког учења нису савршени. Обучавају се на огромној количини података које су створили људи (нпр. на интернету, у курираним изворима и литератури) и неизбежно усвајају многе недостатке и предрасуде које у нашем друштву постоје већ дуго. На пример, када би се од DALL·E тражило да прикаже медицинску сестру, генерисао би само женске ликове, а за професора само белце. Модел преузима предрасуде из статистике стварног света или из наших података за обучавање.

То ме је мотивисало да осмислим метод за ублажавање ове врсте друштвених предрасуда и проценим колико је тај метод ефикасан. Са тимом смо осмислили процес за смањење таквих предрасуда, као и ток рада за евалуацију уз учешће људи. Смањивање друштвених предрасуда није лак проблем, јер се јављају у многим аспектима наших живота и понекад их је тешко уочити. Али ми је драго што тим DALL·E овај проблем схвата озбиљно и предузима кораке веома рано. Ово што сада имамо је тек почетак и наставићемо да напредујемо. Поносна сам што радим у овој области и драго ми је што видим како, корак по корак, савремену вештачку интелигенцију чинимо безбеднијом и бољом.

Верујем у моћ учења и никада није касно да се учи. Одржавање мог личног блога је добар начин да ту радозналост одржим живом и да редовно учим о новим помацима у заједници дубоког учења. Такође подстичем свој тим да настави да учи, било да је то повезано или није повезано са њиховим тренутним пројектима. Идеје из различитих тема или области често могу да инспиришу нове идеје и прошире простор могућих решења.

Такође снажно верујем у тимски рад. Ако свако заблиста у ономе у чему је најјачи, добићемо 1+1 > 2. У међувремену, често можемо наићи на „прљав“ посао и ја сам лично веома спремна да преузмем такве задатке, јер ако је то највећа препрека или тај задатак може да донесе највећу вредност пројекту, ништа не треба сматрати „прљавим“ или „тривијалним“. Подстичем људе око себе да раде исто, да буду добри тимски играчи и да заједно раде како би убрзали продуктивност тима.

Све је почело као скуп личних белешки за учење. Нисам ушла у област дубоког учења баш рано и и даље сам себе сматрала „почетницом“. Када сам у почетку почела да улазим у толико радова, одушевио ме је концепт да се не осмишљава алгоритам за решавање проблема, већ да се обучава модел да научи алгоритам који решава проблем. Што сам више читала, постајала сам све радозналија. Практично, постало је веома тешко да организујем све радове које сам прочитала и нове концепте које сам научила. Зато сам одлучила да покренем блог како бих бележила и организовала своје белешке за учење. Такође верујем да је најбољи начин да нешто научите да будете сигурни да то знање можете тачно и јасно да пренесете другима. Писање ми у томе помаже.

Нисам очекивала да ће постати популаран у ML заједници, али кад год добијем имејл захвалности или ми неко лично каже да је много научио читајући мој блог, осећам велику част и захвалност. Прошло је скоро 6 година откако сам покренула блог 2017. и наставићу да га водим колико год будем могла.

AI заједница је последњих година остварила огроман напредак. Напредак у хардверу, архитектури модела и подацима омогућава обучавање гигантских модела и, као резултат тога, стално виђамо све веће и веће способности. Верујем да смо на правом путу ка AGI-ју, али скалирање није једини рецепт. По мом мишљењу, најхитнији изазови тренутно су усклађеност и безбедност. У извесној мери, то могу бити исто питање контролисаности или управљивости.

Прво, чак и када бисмо већ имали у рукама изузетно моћан AI систем, ако не можемо ефикасно да саопштимо своје циљеве и осигурамо да модел буде усклађен са оним што желимо, не би било могуће створити онолико вредности колико нам је потребно. Тренутно најмоћнији модел учи из огромне количине података, а скуп података неизбежно бележи несавршености, недостатке и предрасуде из стварног света. У том погледу, неусклађени модели носе безбедносне ризике, јер нису свесни онога што треба избегавати.

Ово није конкретан савет који ми је неко дао, већ произилази из мог досадашњег искуства у OpenAI-ју. То је: размишљајте велико. Стварамо нешто ново и треба да будемо амбициозни, храбри и довољно истрајни да наставимо са тим напорима.

Књиге. Обично читам књиге ван области дубоког учења и инспирацију проналазим у разним областима; на пример, колико је важно да писац буде истрајан 50 година, да хирург буде савршено усмерен на детаље и да предузетник има „луде идеје“.

Људи око мене. Част ми је што радим са великом групом изузетно талентованих колега у OpenAI-ју. Свако има нешто посебно, инспиративно или вредно поштовања и уживам да учим од њих.