ШІ має потенціал значно поліпшити багато аспектів суспільства.
Ця технологія, як і інші до неї, дасть людям більше можливостей і свободи дій; те, що люди зможуть робити за допомогою ШІ, значно перевершить те, що вони могли робити за допомогою парових машин чи електрики.
Ми уявляємо світ широкого процвітання на рівні, який нині важко навіть уявити, і світ, у якому індивідуальний потенціал, свобода дій і самореалізація значно зростають. Багато речей, які ми дозволяли собі бачити лише в науковій фантастиці, можуть стати реальністю, і більшість людей зможе жити змістовнішим життям, ніж сьогодні доступне більшості.
Але такий результат не гарантований. У майбутньому влада може або опинитися в руках невеликої групи компаній, що використовують і контролюють суперінтелект, або бути децентралізовано розподіленою між людьми. Ми вважаємо другий варіант набагато кращим, і наша мета — дати по-справжньому загальний ШІ в руки якомога більшій кількості людей. Як і теперішнє, майбутнє не буде ані суцільно поганим, ані суцільно хорошим, але рішення, які ми ухвалюємо зараз, можуть допомогти максимізувати добро.
Наша місія — зробити так, щоб AGI приносив користь усьому людству. Ось принципи, які спрямовують нашу роботу.
1. Демократизація. Ми протидіятимемо тому, щоб ця технологія зосереджувала владу в руках небагатьох.
Це означає, що, окрім надання всім доступу до ШІ, нам потрібно забезпечити, щоб ключові рішення щодо ШІ ухвалювалися через демократичні процеси та на засадах рівності, а не лише в лабораторіях ШІ.
2. Розширення можливостей. Ми вважаємо, що ШІ може дати кожному змогу досягати своїх цілей, більше дізнаватися, бути щасливішими й більш реалізованими, втілювати свої мрії, і що від цього виграє суспільство загалом.
Щоб цього досягти, потрібно дати людям можливість досліджувати величезний потенціал, який перед нами відкривається, і нам потрібно створювати продукти, що це забезпечують. Користувачі повинні мати змогу надійно виконувати дедалі цінніші завдання за допомогою наших сервісів.
Світ різноманітний, і люди мають різні потреби. Ми хочемо дати нашим користувачам необхідну їм автономію й дозволити якомога більше в межах розумного.
Хоча ми хочемо надати нашим користувачам дуже широку свободу в тому, як вони використовують наші сервіси, і твердо віримо, що загалом ШІ принесе величезну користь, ми маємо відповідальність створювати й впроваджувати його так, щоб мінімізувати шкоду. Це, звісно, включає запобігання катастрофічній шкоді, а також мінімізацію локальної шкоди та уникнення потенційно руйнівних суспільних наслідків. Це означає, що в умовах невизначеності ми схилятимемося до обережності й послаблюватимемо обмеження, коли матимемо більше доказів.
3. Загальне процвітання. Ми прагнемо майбутнього, у якому кожен може мати чудове життя.
Ми вважаємо, що, передаючи в руки всім прості у використанні системи ШІ з великими обчислювальними ресурсами, люди знайдуть нові способи створювати цінність і суттєво підвищувати якість життя для всіх, особливо завдяки новим науковим відкриттям.
Щоб процвітання повною мірою реалізувалося й було широко розподілене, ми вважаємо, що 1) нашим урядам, можливо, доведеться розглянути нові економічні моделі, аби кожен міг брати участь у створенні цінності, що відкривається перед нами, і 2) нам потрібно створити величезні обсяги інфраструктури ШІ та розробити нові технології, щоб значно знизити вартість інфраструктури ШІ.
Багато з того, що ми робимо і що може здаватися дивним — купуємо величезні обсяги обчислювальних ресурсів, коли наш дохід відносно невеликий, вертикально інтегруємося, щоб зменшити витрати й спростити використання нашої технології, просуваємо будівництво дата-центрів по всьому світу та багато іншого, — зумовлене нашою фундаментальною вірою в майбутнє загального процвітання.
4. Стійкість. ШІ принесе нові ризики, і ми працюватимемо з іншими компаніями, екосистемами, урядами та суспільством, щоб їх вирішувати. Ми значною мірою використовуватимемо ресурси нашого фонду, щоб підтримати цю роботу.
Жодна лабораторія ШІ не може самостійно забезпечити добре майбутнє. Очевидний приклад: можуть з’явитися надзвичайно потужні моделі, які полегшать створення нового патогена, і нам потрібен буде загальносуспільний підхід, щоб захиститися від цього за допомогою контрзаходів, не прив’язаних до конкретного патогена. Інший приклад: у міру зростання кібербезпекових можливостей моделей нам потрібно швидко використовувати ці моделі, щоб допомагати захищати програмне забезпечення з відкритим кодом і критичну інфраструктуру, одночасно навчаючи моделі допомагати всім створювати безпечніше програмне забезпечення.
Це розширення нашої давньої стратегії ітеративного впровадження; ми вважаємо, що суспільству потрібно взаємодіяти з кожним наступним рівнем можливостей ШІ, розуміти його, інтегрувати й разом визначати найкращий шлях уперед. Це неможливо зробити у вакуумі; суспільство й технології розвиваються разом, а це потребує часу.
Ми не маємо на увазі, що це єдина наша стратегія безпеки; нам також потрібно створювати безпечні системи й продовжувати чудову роботу над технічним узгодженням.
Ми очікуємо, що будуть періоди, коли нам потрібно буде співпрацювати з урядами, міжнародними агенціями та іншими ініціативами AGI, щоб переконатися, що ми достатньо розв’язали серйозні проблеми узгодження, безпеки чи суспільного впливу, перш ніж рухатися далі в нашій роботі.
5. Адаптивність. Ми й далі вважаємо, що єдиний спосіб відповідати на виклики дуже непередбачуваного майбутнього — бути готовими оновлювати свої позиції в міру того, як ми дізнаємося більше. Ми також визнаємо, що OpenAI є значно потужнішою силою у світі, ніж кілька років тому, і будемо прозоро пояснювати, коли, як і чому змінюються наші операційні принципи. Як конкретний приклад: хоча ми цілком упевнені, що загальне процвітання залишатиметься справді важливим, ми можемо уявити періоди в майбутньому, коли нам доведеться пожертвувати частиною розширення можливостей заради більшої стійкості.
Розвиток ШІ уже приніс багато сюрпризів, і попереду їх буде ще більше. У міру розвитку технології її неочевидну поведінку буде дедалі важче передбачати. Ми сприймаємо цю невизначеність, обережно розвиваючи можливості, ітеративно впроваджуючи системи та навчаючись на їхній взаємодії зі світом.
Ще не так давно ми нервували через випуск ваг GPT‑2, бо не були впевнені, яким буде вплив на суспільство. Очевидно, ретроспективно це занепокоєння було хибним, але саме воно привело нас до відкриття стратегії ітеративного впровадження, яка стала однією з найважливіших речей, які ми зрозуміли.
__
Технологія продовжує вдосконалюватися, і для нас починається дуже важливий етап. Цілком справедливо критикувати нас за кожне рішення; ми заслуговуємо на надзвичайно пильну увагу з огляду на вагу того, що робимо. Ми не все зробимо правильно, але швидко вчитимемося й коригуватимемо курс.
Ми віддані тому, щоб зробити свій внесок у майбутнє, яке буде кращим за минуле; ми вважаємо за велику удачу можливість братися за таку важливу роботу.
