ВИ има потенцијал значително да подобри многу аспекти на општеството.
Оваа технологија, како и другите пред неа, ќе им даде на луѓето поголема способност и автономија; она што луѓето ќе можат да го прават со ВИ ќе го надмине она што луѓето можеа да го прават со парните машини или електричната енергија.
Замислуваме свет со широко распространет напредок на ниво што во моментов е тешко да се замисли, и свет во кој индивидуалниот потенцијал, автономијата и исполнетоста значително се зголемуваат. Многу од работите за кои си дозволувавме само да сонуваме во научната фантастика би можеле да станат реалност, а повеќето луѓе би можеле да живеат поисполнети животи отколку што повеќето можат денес.
Но, овој исход не е загарантиран. Моќта во иднина или ќе ја држи мала група компании што користат и контролираат суперинтелигенција, или ќе биде децентрализирана во рацете на луѓето. Веруваме дека второто е многу подобро, и нашата цел е навистина општата ВИ да ја ставиме во рацете на што е можно повеќе луѓе. Како и сегашноста, иднината нема да биде ниту целосно лоша ниту целосно добра, но одлуките што ги носиме сега можат да помогнат да се зголеми доброто.
Нашата мисија е да обезбедиме AGI да биде од полза за целото човештво. Еве ги принципите што ја водат нашата работа.
1. Демократизација. Ќе се спротивставиме на потенцијалот оваа технологија да ја концентрира моќта во рацете на малкумина.
Тоа значи дека, покрај тоа што на сите ќе им дадеме пристап до ВИ, треба да обезбедиме клучните одлуки за ВИ да се носат преку демократски процеси и со егалитарни принципи, а не само од ВИ лаборатории.
2. Овластување. Веруваме дека ВИ може да им помогне на сите да ги постигнат своите цели, да научат повеќе, да бидат посреќни и поисполнети и да ги следат своите соништа, и дека општеството во целина ќе има корист од тоа.
За да се постигне тоа, потребно е да им се дозволи на луѓето да го истражуваат огромниот потенцијал пред нас, и треба да градиме производи што го овозможуваат тоа. Корисниците треба сигурно да можат да извршуваат сè повредни задачи со нашите услуги.
Светот е разновиден и луѓето имаат различни потреби. Сакаме на нашите корисници да им ја дадеме автономијата што им е потребна и да дозволиме колку што разумно можеме.
Иако сакаме на нашите корисници да им дадеме многу широка слобода во тоа како ги користат нашите услуги и силно веруваме дека ВИ во целина ќе биде огромно корисна, имаме одговорност да ја изградиме и примениме на начин што ја минимизира штетата. Тоа, секако, вклучува спречување катастрофална штета, но и минимизирање локални штети и избегнување потенцијално разорни општествени ефекти. Тоа ќе значи да бидеме претпазливи кога има неизвесност и да ги олеснуваме ограничувањата кога има повеќе докази.
3. Универзален просперитет. Сакаме иднина во која секој може да има одличен живот.
Веруваме дека, ставајќи лесни за користење системи за ВИ со многу компјутерска моќ во рацете на сите, луѓето ќе најдат нови начини да создаваат вредност и масовно да го подобрат квалитетот на животот за сите, особено преку откривање нови научни сознанија.
За просперитетот целосно да се оствари и широко да се споделува, веруваме дека 1) нашите влади можеби ќе треба да разгледаат нови економски модели за да обезбедат секој да може да учествува во создавањето вредност што е пред нас и 2) треба да изградиме огромни количества ВИ инфраструктура и да развиеме нова технологија за значително да ги намалиме трошоците за ВИ инфраструктура.
Многу од работите што ги правиме и изгледаат чудно — купување огромни количества компјутерска моќ додека нашите приходи се релативно мали, вертикална интеграција за намалување на трошоците и за полесно користење на нашата технологија, залагање за изградба на центри за податоци низ целиот свет и многу повеќе — се водени од нашето темелно верување во иднина на универзален просперитет.
4. Отпорност. ВИ ќе донесе нови ризици, и ќе работиме со други компании, екосистеми, влади и општеството за да ги решиме. Значително ќе ги користиме ресурсите на нашата Фондација за да ја поддржиме оваа работа.
Ниту една ВИ лабораторија не може сама да обезбеди добра иднина. На пример, може да има исклучително способни модели што го олеснуваат создавањето нов патоген, и ни е потребен пристап на ниво на цело општество за одбрана од тоа со контрамерки што не зависат од конкретен патоген. Друг пример е дека, како што се зголемуваат сајбербезбедносните способности на моделите, треба брзо да ги користиме овие модели за да помогнеме во обезбедувањето на софтвер со отворен код и критична инфраструктура, додека ги обучуваме моделите да им помагаат на сите да создаваат побезбеден софтвер.
Ова е проширување на нашата одамна воспоставена стратегија на итеративно воведување; веруваме дека општеството треба да се соочи со секое следно ниво на способности на ВИ, да го разбере, да го интегрира и заедно да го утврди најдобриот пат напред. Ова не може да се направи во вакуум; општеството и технологијата коеволуираат, а за тоа е потребно време.
Со ова не мислиме дека тоа е нашата единствена стратегија за безбедност; исто така треба да правиме безбедни системи и да продолжиме со одлична работа на техничкото усогласување.
Очекуваме да има периоди кога ќе треба да соработуваме со влади, меѓународни агенции и други AGI напори за да обезбедиме доволно да сме решиле сериозни проблеми со усогласување, безбедност или општествени прашања пред да продолжиме понатаму со нашата работа.
5. Приспособливост. И натаму веруваме дека единствениот начин да се одговори на предизвиците на многу непредвидлива иднина е да бидеме подготвени да ги ажурираме нашите ставови додека учиме повеќе. Исто така признаваме дека OpenAI е многу поголема сила во светот отколку што беше пред неколку години, и ќе бидеме транспарентни за тоа кога, како и зошто се менуваат нашите оперативни принципи. Како конкретен пример, иако сме прилично уверени дека универзалниот просперитет ќе остане навистина важен, можеме да замислиме периоди во иднина кога ќе треба да жртвуваме дел од овластувањето за поголема отпорност.
Развојот на ВИ донесе многу изненадувања, а уште повеќе допрва доаѓаат. Како што технологијата напредува, нејзините појавни однесувања ќе стануваат сè потешки за предвидување. Ние ја прифаќаме таа неизвесност така што внимателно ги унапредуваме способностите, ги воведуваме системите итеративно и учиме од нивните интеракции со светот.
Не беше толку одамна кога бевме загрижени околу објавувањето на тежините на GPT‑2 бидејќи не бевме сигурни какви ќе бидат влијанијата врз општеството. Очигледно, гледано наназад, тоа беше погрешна грижа, но нè доведе до откривање на стратегијата на итеративно воведување, што е една од најважните работи што сме ги сфатиле.
__
Влегуваме во многу влијателна фаза додека технологијата продолжува да се подобрува. Сосема е оправдано да нè критикувате за секоја одлука; заслужуваме огромно ниво на преиспитување со оглед на тежината на она што го правиме. Нема сè да направиме како што треба, но ќе учиме брзо и ќе го коригираме курсот.
Посветени сме да го дадеме нашиот придонес за иднината да биде подобра од минатото; се чувствуваме привилегирани што можеме да преземеме толку важна работа.
