Обраќањето на Сем Алтман пред Советот за безбедност на ОН

Денес, извршниот директор на OpenAI, Сем Алтман, се обрати пред Советот за безбедност на Обединетите нации за вештачката интелигенција. Тој говореше за потенцијалот на ВИ да ги прошири можностите, за важноста моќните системи да останат под човечка контрола и за потребата од меѓународна соработка во областа на безбедноста на ВИ.

Ви благодарам, господине претседателе и ваши екселенции. Почестен сум што сум тука и што можам да разговарам со сите вас во овој важен момент.

Со години зборуваме за вештачката интелигенција, но во последните недели и месеци работите изгледаат поинаку. Брзиот напредок на моделите создаде чувство дека роковите се скратуваат, придобивките стануваат поопипливи, но и дека влоговите и ризиците се понепосредни.

Пред нас е избор. ВИ може да донесе нова ренесанса на креативноста и откритијата или, пак, нова индустриска револуција исполнета со потреси и хаос.

Ренесансата беше време кога новите алатки, идеи и институции ги проширија границите на она што луѓето веруваа дека можат да го постигнат. ВИ може да ја одигра таа улога во нашево време. Верувам дека луѓето се многу поспособни отколку што мислат, но ги ограничува технологија што требаше да ги зајакне, а наместо тоа им го одвлекува и честопати им го краде вниманието.

Најдобрата верзија на ВИ не подразбира луѓето да станат запчаници во огромна машина ниту секој дел од животот да се оптимизира сè додека не исчезне она што нè прави луѓе. Таа треба да им даде на луѓето поголема способност самостојно да дејствуваат во сè посложен свет: повеќе можности да учат, создаваат, откриваат, градат и учествуваат. Има многу нешта што ВИ не може — и не треба — да ги автоматизира.

ВИ треба да се создава за луѓето, а не само за машините да работат побрзо без друга цел. Некои изјави на луѓето што работат на создавање ВИ се толку дистописки што звучат како заплет од лоши научнофантастични филмови.

Сè што има толкава моќ воедно предизвикува и страв. Овој момент е сложен бидејќи истовремено чувствуваме огромен потенцијал и сосема разбирлива вознемиреност.

Овие модели можат да им помогнат на луѓето да дојдат до нови откритија: нови лекови, подобра здравствена заштита и поквалитетно образование, како и да изградат попродуктивни економии. Тие можат да бидат нови алатки со кои луѓето ќе ги остваруваат соништата и амбициите што денес изгледаат недостижни. За просечниот човек, сложеноста на животот драстично се зголеми. ВИ може да биде и средство за заштита од оваа сложеност и алатка за откритија и иновации без преседан.

Од друга страна, како што системите за ВИ стануваат поспособни и поавтономни, тие би можеле да напредуваат побрзо од нашите институции, да концентрираат моќ во премалку раце или да носат одлуки што луѓето повеќе не ги разбираат ниту ги контролираат.

Оваа загриженост станува особено важна додека се приближуваме до системи што можат да се подобруваат себеси и своите идни верзии, што често се нарекува рекурзивно самоподобрување. Како што процесот на создавање ВИ станува поавтоматизиран, темпото на нејзиниот напредок би можело нагло да се забрза. Овој момент бара исклучителна претпазливост.

Во голема мера се согласувам со професорот Бенџио. Иако јас ќе издвојам две наместо три — верувам дека напредокот на ВИ може да тргне во две многу лоши насоки што мора да ги избегнеме.

Прво, би можеле да ѝ ја препуштиме контролата врз иднината на ВИ. Ризикот е таа да напредува толку брзо што луѓето повеќе нема да можат да следат што се случува или да интервенираат кога е потребно. Тоа очигледно би било ужасно.

Индустријата не смее да прифаќа преголем технолошки ризик само затоа што придобивките се огромни и изгледаат премногу важни за да се забави напредокот. Желбата да се победат другите компании во конкурентската трка не е причина да се носат избрзани одлуки. Ниту, пак, веруваме дека сме заробени во трка во која не можеме да забавиме. Во минатото, самоиницијативно го забавувавме развојот. Тоа ќе го правиме и во иднина. Не сакаме да создаваме системи — и сметаме дека е важно сите да избегнуваат да создаваат системи — за кои не можеме да ги обезбедиме неопходните гаранции за усогласеност, можност за надзор и безбедност.

Мора да разбереме што прават овие системи и да имаме цврсти докази дека ќе го прават она што луѓето го сакаат, дури и кога ќе станат многу, многу интелигентни. Всушност, особено кога ќе станат многу, многу интелигентни. Не е важно дали луѓето го проценуваат ризикот од катастрофа на 10 %, 1 %, 12 % или 0,1 %. Ниту едно од овие нивоа не е ни оддалеку прифатливо. И не треба да обучуваме модели ако не можеме да дадеме исклучително убедливи докази дека ќе успееме да ги задржиме под човечка контрола.

Тоа е едниот начин на кој работите можат да тргнат наопаку. Во другата насока, овие системи би можеле да концентрираат премногу моќ во премалку раце. Ниту еден човек, компанија или земја не треба да може да ги користи најмоќните модели на ВИ за да им го наметне својот светоглед на сите други. Компанија или земја што верува дека само нејзе може да ѝ се довери оваа технологија може со тоа уверување да оправда речиси сè друго. Мора да ја отфрлиме таа логика, дури и кога му одговара на одреден учесник.

Верувам дека постои прагматичен начин да се справиме со двете прашања. Во OpenAI, на овие прашања им пристапуваме со јасна цел: ВИ треба да им даде на луѓето поголема контрола врз сопствениот живот. Поголема слобода да живеат онака како што сакаат. Поголема способност да решаваат проблеми, големи или мали, и да ги унапредуваат своите заедници. Не сакаме да паднеме во стапицата на слепиот оптимизам. Но не сакаме да паднеме ниту во стапицата на крајниот песимизам. Ако нè повлече која било од овие крајности, нема успешно да се справиме со предизвиците пред нас, особено во време кога светот и неговите жители се соочуваат со огромни проблеми за чие решавање оваа технологија може да помогне. Затоа се обидуваме да одиме по средниот пат меѓу овие две крајности.

За нас, тоа значи три начела.

Прво, како што ВИ станува поспособна, луѓето мора да останат во средиштето на одлучувањето поврзано со неа. Усогласувањето не е апстрактно истражувачко прашање. Тоа е работа со која се обезбедува овие системи сигурно да останат под човечка контрола, да ги одразуваат човечките вредности и да им помогнат на луѓето да ги насочуваат следните фази од развојот. Не се обидуваме, а и не смееме, да ги автоматизираме човечкото расудување или човечките вредности.

Второ, придобивките од научниот напредок и економскиот раст мора да ги создаваат луѓето и тие да им служат на луѓето. ВИ треба да им помага на истражувачите да доаѓаат до откритија, на лекарите да лекуваат пациенти, на наставниците да подучуваат ученици, на претприемачите да основаат компании, а на заедниците да решаваат проблеми што изгледале нерешливи — и многу повеќе. Постојаната нишка во приказната за човечкиот напредок не е дека алатките ја заменуваат човечката способност за дејствување. Туку дека вистинските алатки ги прават луѓето поспособни, а верувам дека ова ќе нè одведе многу подалеку отколку што сега мислиме дека е можно.

Трето, оваа технологија мора да го зајакне секој човек поединечно. Одличната иднина ќе произлезе од тоа што луѓето ќе го остваруваат својот потенцијал и ќе создаваат вредност за себе, за своите заедници, за своите земји и за светот во целина. Можеби сме меѓу создавачите на оваа технологија, но не сме хероите во оваа приказна. Нашата улога е да ги оспособиме луѓето низ целиот свет и да веруваме во магијата на човечките вештини и способности.

Сега имаме модели способни да откриваат знаења што досега не сме ги имале. Размислете за напредокот што го видовме во математиката. Пред три лета, нашите модели беа солидни во математиката за основно училиште. Пред две лета, беа прилично добри на средношколските натпревари по математика. Минатото лето достигнавме ниво за златен медал на најпрестижниот меѓународен натпревар по математика. А пред само неколку недели ова лето, еден од нашите модели реши еден од Милениумските проблеми — равенките на Навие-Стокс.

Овие равенки се користат за проектирање авиони, прогнозирање на времето и проучување на протокот на крвта. Не решаваме математички проблеми заради самото решавање, туку за да им овозможиме на луѓето да откриваат нови знаења и да ги користат за подобрување на здравствената заштита, подигнување на животниот стандард и проширување на потенцијалот на секој човек низ светот. Останува уште многу да се открие.

Но многу е важно компаниите да не го заменуваат демократскиот процес.

Ако ВИ треба да биде демократска, најважните одлуки не можат да ги носат само лабораториите во Сан Франциско. Тие мора да се обликуваат преку демократски процеси и од влади што одговараат пред луѓето на кои им служат.

На меѓународно ниво, за ова ќе биде потребна соработка. Во нашата историја имало моменти кога земји што се натпреваруваат и не се секогаш во најдобри односи сепак се здружувале заради заедничките интереси и општото добро, соочени со моќна нова технологија. Веруваме дека ова мора да биде еден од тие моменти.

Ни треба механизам за усогласени национални и меѓународни стандарди за гранична ВИ: стандарди за мерење на способностите, процена на ризиците, утврдување дали заштитните мерки се доволни и зачувување суштински човечки надзор додека системите стануваат поавтономни.

Ни требаат заеднички стандарди за да можат земјите да ги споредуваат доказите, да ја проверуваат усогласеноста и да имаат заеднички јазик и разбирање за она што се случува.

Ни требаат точни и брзи пријави за инциденти, како и протоколи за нивна класификација и пријавување, за светот да може да учи од неуспесите пред тие да прераснат во катастрофи.

И ни требаат безбедни канали преку кои владите, операторите на критична инфраструктура и техничките експерти ќе споделуваат информации за новите ранливости и закани.

Се разбира, овие стандарди не треба да ја зацврстуваат положбата на постојните играчи ниту да му даваат предност на еден деловен модел пред друг. Тие мора да ги поддржуваат програмерите на отворени и затворени модели, новите учесници и етаблираните лаборатории, националните надлежности и меѓународната соработка. Секоја влада треба сама да одлучи како ќе ги вгради стандардите во својот правен систем. Но на сите ќе ни биде подобро ако на глобално ниво се согласиме што претставуваат добри докази, добри заштитни мерки и добар надзор.

Ги немаме сите одговори и сосема сме отворени за подобри идеи. Подготвени сме да работиме со сите вас и да дадеме сè од себе за да го најдеме патот напред.

Се наоѓаме на крстопат. Едниот пат води кон свет во кој моќта е концентрирана, одлуките се нетранспарентни, а луѓето чувствуваат дека најважната технологија во нивниот живот е нешто што им се наметнува. Другиот пат води кон свет во кој ВИ работи за луѓето затоа што тие, преку демократските институции, помагаат да се одлучува како таа треба да се развива и насочува; во кој научниот напредок го подобрува животот на луѓето; во кој повеќе луѓе можат да учествуваат во обликувањето на иднината; и во кој оваа технологија продолжува да им дава на поединците и заедниците поголема моќ да живеат како што сакаат. Тоа е иднина на остварен потенцијал, возбуда и восхит.

И веруваме дека вреди да ја изградиме токму таа иднина. Ви благодарам многу.