ИИ има потенциала значително да подобри много аспекти на обществото.
Тази технология, както и други преди нея, ще даде на хората повече способности и самостоятелност; това, което хората ще могат да правят с ИИ, ще засенчи онова, което са можели да правят с парни машини или електричество.
Визията ни е за свят с широко разпространен просперитет на ниво, което днес е трудно да си представим, и свят, в който индивидуалният потенциал, самостоятелността и удовлетворението значително нарастват. Много от нещата, които сме си позволявали да мечтаем само в научната фантастика, биха могли да станат реалност, а повечето хора биха могли да живеят по-смислен живот, отколкото повечето могат днес.
Но този изход не е гарантиран. Властта в бъдеще може или да бъде държана от малка шепа компании, които използват и контролират свръхинтелект, или да бъде разпределена децентрализирано между хората. Ние вярваме, че второто е много по-добро, и целта ни е да поставим истински общия ИИ в ръцете на възможно най-много хора. Както и настоящето, бъдещето няма да е нито изцяло лошо, нито изцяло добро, но решенията, които вземаме сега, могат да помогнат да увеличим максимално доброто.
Мисията ни е да гарантираме, че AGI е в полза на цялото човечество. Ето принципите, които насочват работата ни.
1. Демократизация. Ще се противопоставяме на потенциала тази технология да концентрира власт в ръцете на малцина.
Това означава, че освен да даваме на всички достъп до ИИ, трябва да гарантираме, че ключовите решения за ИИ се вземат чрез демократични процеси и с егалитарни принципи, а не само от лабораториите за ИИ.
2. Овластяване. Вярваме, че ИИ може да даде възможност на всеки да постига целите си, да учи повече, да бъде по-щастлив и по-удовлетворен и да следва мечтите си, и че обществото като цяло ще спечели от това.
Постигането на това изисква да позволим на хората да изследват огромния потенциал пред нас, и трябва да изграждаме продукти, които го правят възможно. Потребителите трябва надеждно да могат да изпълняват все по-ценни задачи с нашите услуги.
Светът е разнообразен и хората имат различни нужди. Искаме да дадем на потребителите си нужната автономност и да позволим колкото се може повече в разумни граници.
Макар да искаме да дадем на потребителите си много широка свобода в начина, по който използват услугите ни, и силно да вярваме, че ИИ като цяло ще бъде изключително полезен, имаме отговорност да го изграждаме и внедряваме по начин, който свежда вредите до минимум. Това включва, разбира се, предотвратяване на катастрофални вреди, но и ограничаване на локалните вреди и избягване на потенциални разрушителни обществени ефекти. Това означава да грешим в полза на предпазливостта при несигурност и да разхлабваме ограниченията при повече доказателства.
3. Всеобщ просперитет. Искаме бъдеще, в което всеки може да има отличен живот.
Като даваме на всеки лесни за използване ИИ системи с голяма изчислителна мощ, вярваме, че хората ще намират нови начини да създават стойност и масово да подобряват качеството на живот за всички, особено чрез откриването на нова наука.
За да се реализира просперитетът изцяло и да бъде широко споделен, смятаме, че 1) нашите правителства може да трябва да обмислят нови икономически модели, за да гарантират, че всеки може да участва в създаването на стойност пред нас, и 2) трябва да изградим огромни количества ИИ инфраструктура и да разработим нови технологии, за да намалим значително разходите за ИИ инфраструктура.
Много от нещата, които правим и които изглеждат странни — купуване на огромни количества изчислителна мощ, докато приходите ни са сравнително малки, вертикална интеграция за понижаване на разходите и по-лесно използване на технологията ни, стремеж към изграждане на центрове за данни по целия свят и много други — се движат от фундаменталната ни вяра в бъдеще на всеобщ просперитет.
4. Устойчивост. ИИ ще въведе нови рискове и ние ще работим с други компании, екосистеми, правителства и обществото, за да ги решим. Ще използваме значително ресурсите на нашата Фондация в подкрепа на тази работа.
Никоя лаборатория за ИИ не може сама да гарантира добро бъдеще. Като очевиден пример, може да има изключително способни модели, които улесняват създаването на нов патоген, и ни е нужен подход на цялото общество, за да се защитим от това с противодействия, независими от конкретния патоген. Като друг пример, с нарастването на способностите за киберсигурност на моделите трябва бързо да използваме тези модели, за да помагаме за защитата на софтуер с отворен код и критична инфраструктура, като същевременно обучаваме моделите да помагат на всички да създават по-сигурен софтуер.
Това е разширение на нашата отдавнашна стратегия за итеративно внедряване; вярваме, че обществото трябва да се справя с всяко следващо ниво на способностите на ИИ, да го разбира, да го интегрира и заедно да намира най-добрия път напред. Това не може да стане във вакуум; обществото и технологиите се развиват съвместно, а това изисква време.
Нямаме предвид това като единствената ни стратегия за безопасност; трябва също да създаваме безопасни системи и да продължим отличната работа по техническото съгласуване.
Очакваме да има периоди, в които ще трябва да си сътрудничим с правителства, международни агенции и други усилия за AGI, за да гарантираме, че сме решили в достатъчна степен сериозни проблеми със съгласуването, безопасността или обществото, преди да продължим по-нататък с работата си.
5. Адаптивност. Продължаваме да вярваме, че единственият начин да посрещнем предизвикателствата на едно силно непредвидимо бъдеще е да сме готови да актуализираме позициите си, когато научаваме повече. Признаваме също, че OpenAI е много по-значима сила в света, отколкото беше преди няколко години, и ще бъдем прозрачни за това кога, как и защо се променят оперативните ни принципи. Като конкретен пример, макар да сме доста уверени, че всеобщият просперитет ще остане наистина важен, можем да си представим периоди в бъдеще, в които ще трябва да заменим част от овластяването с повече устойчивост.
Развитието на ИИ донесе много изненади, а още предстоят. С напредъка на технологията нейното възникващо поведение ще става все по-трудно за предвиждане. Ние приемаме тази несигурност, като развиваме способностите внимателно, внедряваме системите итеративно и се учим от взаимодействията им със света.
Не мина толкова много време, откакто се притеснявахме да публикуваме теглата на GPT‑2, защото не бяхме сигурни какви ще са последиците за обществото. Очевидно, погледнато в ретроспекция, това беше неоправдано притеснение, но именно то ни доведе до откриването на стратегията за итеративно внедряване, което е едно от най-важните неща, до които сме стигнали.
__
Навлизаме в етап с много голямо въздействие, тъй като технологията продължава да се подобрява. Напълно справедливо е да ни критикувате за всяко решение; заслужаваме огромна степен на обществено внимание предвид тежестта на това, което правим. Няма да направим всичко правилно, но ще се учим бързо и ще коригираме курса.
Ангажирани сме да дадем своя принос, за да направим бъдещето по-добро от миналото; чувстваме се късметлии, че можем да се заемем с толкова важна работа.
