На всеки няколко поколения нова технология променя всичко.
Представете си как електричеството достига до селско американско градче през 20-те години на XX век. Преди да пристигнат електропроводите, ежедневието е било оформяно от физически ограничения: носене на вода, пране на ръка, съхраняване на храна с лед и приключване на голяма част от деня, когато слънцето залезе. Електричеството не преобрази всяко домакинство за една нощ и много от ползите му достигнаха до хората неравномерно. Но с разширяването на достъпа обикновеният живот се промени. Светлината през нощта удължи деня. Електрическите помпи, уреди и хладилници намалиха част от най-тежката ежедневна работа. Радиата донесоха новини, музика и връзка от стотици километри разстояние в домовете и общностните пространства.
Първото обещание на електричеството беше практично, но по-дълбокото му въздействие дойде от новите възможности, които то откри, когато повече хора можеха да го използват. С времето се появиха много нови възможности, като машините и компютрите значително ускориха напредъка в медицината, инженерството и много други области. До края на XX век средната продължителност на живота се беше увеличила с над 20 години, а медианният доход, коригиран спрямо инфлацията, приблизително се утрои. Тези придобивки се дължаха немалко на напредъка в здравеопазването, санитарните условия и жизнения стандарт, много от които бяха направени възможни или ускорени от широкото електрифициране и свързания технологичен напредък.
Това се случва отново с AI. AI скоро ще бъде способен на изключителни неща. Но смисълът не е в технологията сама по себе си. Смисълът е в това какво могат да правят хората с нея. Той може да помогне на някого да се ориентира в медицинска сметка, да научи ново умение, да започне малък бизнес, да се грижи за възрастен родител, да разбере правно или финансово решение, да превърне идея в нещо реално или да направи научно откритие.
Макар че чудото на светлината през нощта вероятно е избледняло доста бързо, това, което хората решиха да правят с нея, не избледня. И тъй като технологиите са надежден начин за постигане на благоденствие с времето, смятаме, че AI трябва да бъде достъпен за всички, за да го използват толкова, колкото им е нужно, където и както им е нужен.
Това бъдеще няма да се случи автоматично. Преобразяващите технологии могат да концентрират силата или да я разширят. Те могат да улеснят живота на малцина или да разширят възможностите за мнозина. Нашият подход се корени в убеждението, че AI трябва да работи за хората: да им помага да преследват собствените си цели, да увеличава способностите им и да разпределя ползите от тази технология възможно най-широко.
Първият ни ангажимент е да изграждаме AI в служба на човечеството. Това означава, че искаме да даваме възможности на хората широко, а не да виждаме сила, концентрирана в няколко компании, правителства или индивиди. Вярваме, че по-безопасното бъдеще е такова, в което силата е широко разпределена, така че по-голяма част от света да може да участва в изграждането на екосистема за устойчивост.*
Ние сме оптимисти за AI, защото вярваме, че той може да разшири човешките способности и благоденствие. Но също така гледаме ясно на рисковете. Мощните системи трябва да останат безопасни, съгласувани с човешкото намерение и под човешки контрол. Нашата мисия в OpenAI е да гарантираме, че AGI носи ползи за цялото човечество. Това означава да изграждаме системи, които помагат на хората да правят повече от това, което избират, а не системи, които заменят човешката преценка за това кое е важно.
Пълното автоматизиране на всичко не е бъдещето, което искаме. То би било неудовлетворяващо и опасно. AI трябва да помага на хората да преследват целите си, а не да се откъсва от тях. С нарастването на способностите на AI системите човешката роля става по-важна: задаване на посока, правене на компромиси, прилагане на преценка и внасяне на ценности, вкус, грижа и отговорност в работата.
Ключова дългосрочна роля за хората ще бъде да решават какво си струва да се прави.
Вярваме, че AI, който извършва AI изследвания, ще стане определящият фактор за темпа на напредъка през следващите няколко години. Това е важно, защото съгласуването само по себе си е труден изследователски проблем. За да постигнат бърз и дълбок напредък, нашите изследователи ще се нуждаят от AI системи, които могат да помагат за тестване на идеи, намиране на грешки, изследване на алтернативи и итериране заедно с нас.
Но по-бързият технически напредък прави човешката преценка и обществената координация по-важни, а не по-малко важни. Бъдещето трябва да се оформя от хора, институции и общества, а не само от компаниите, които изграждат най-способните системи.
С продължаването на развитието на най-напредналия AI очакваме националната и глобалната координация да стават по-важни. Отдавна вярваме, че в крайна сметка трябва да има международна организация, която да помага за координирането на водещите AI усилия с цел намаляване на катастрофалния риск. Сътрудничеството и споделените стандарти за безопасност са важна част от пътя напред, особено защото е трудно да се избегнат стимулите около търговската и националната конкуренция. Една цел на такава организация трябва да бъде да направи възможно светът да предприема координирани действия, включително забавяне на развитието на най-напредналите системи, когато е необходимо, така че обществената устойчивост, безопасността и съгласуването да могат да поддържат темпото.
Изграждане на автоматизиран AI изследовател — AI система, която може да ускори и все повече да автоматизира самия изследователски процес, като остава управляема, подлежаща на отчетност и свързана с хората. Вътрешното ни убеждение е, че до март 2028 г. значителна част от нашите изследвания може да се извършва от AI системи съвместно с нашите изследователи. Смятаме, че за да постигнем достатъчен напредък в съгласуването, ще ни трябват AI системи, които да итерират заедно с нас. Това ще ни помогне да преминем през прехода към света след AGI, така че колективно да решим пътя към бъдещето.
Ускоряване на икономиката чрез ускоряване на научния напредък, производителността и икономическия растеж, като същевременно работим, за да гарантираме, че ползите ще бъдат широко споделени. Всеки трябва да има възможност за значим дял от благоденствието, което AI създава.
Даване на личен AGI на всеки човек на Земята, като му се даде възможност да се възползва от една от най-преобразяващите технологии на човечеството по какъвто начин избере.
За да можем да постигнем това, навлизаме в третата фаза на OpenAI.
Първата фаза на OpenAI беше посветена на изследванията в посока AGI. Втората фаза започна, когато нашите изследвания станаха релевантни за реалния свят и се превърнахме в продуктова компания: внедряване на системите ни, учене от начина, по който хората ги използват, и продължаващ напредък към AGI, който е безопасен и съгласуван с нашата мисия.
Сега навлизаме в третата фаза. Икономиката започва да се преобразява около AI. Централният въпрос сега е как да направим напредналия AI изобилен, достъпен, безопасен, полезен и достатъчно лесен, за да може всеки човек и всяка организация да се възползва от него. Върховите способности са само част от задачата. По-голямата задача е да превърнем тези способности в инструменти, които хората действително могат да използват, за да процъфтяват.
Преди всичко вярваме, че широкото разпределение на силата ще помогне за по-добро бъдеще. Човешката история показва, че концентрираната сила създава крехкост, докато широко споделената сила прави обществата по-устойчиви, адаптивни и свободни.
Затова достъпът е важен. Затова са важни и безопасността, поверителността, достъпността, отворените екосистеми и общественият надзор.
Едно добро AI бъдеще не може да бъде такова, в което малък брой институции контролират повечето способности и повечето ползи. То трябва да бъде бъдеще, в което много хора, компании, общности и държави могат да изграждат, да се възползват и да държат сила. Вярваме, че тази трансформация трябва да принадлежи на всички.
Ако успеем, AI може да стане основа за по-голяма производителност, креативност, научен напредък и икономически възможности за мнозина, а ние ще постигнем мисията си: да гарантираме, че AGI носи ползи за цялото човечество.
*Устойчивостта спрямо AI означава съвкупността от организации, системи и хора, които обществото би могло да създаде, за да предвижда, издържа, адаптира се към и бързо да се възстановява от смущения, предизвикани от AI. Например автомобилът преобрази обществото, но автомобилите станаха широко полезни едва защото обществата изградиха системи около тях: предпазни колани, правила за движение, шофьорски книжки, краш тестове и пътна инфраструктура. Целта не беше хората да бъдат спрени да шофират — а мощна технология да стане достатъчно устойчива за масова употреба.
