Раз на кілька поколінь нова технологія змінює все.
Уявіть, як електрика з’явилася в сільському містечку в Америці 1920-х років. До появи ліній електропередач повсякденне життя визначали фізичні обмеження: носіння води, ручне прання, зберігання їжі за допомогою льоду й завершення більшої частини дня із заходом сонця. Електрика не змінила кожне домогосподарство за одну ніч, і багато її переваг доходили до людей нерівномірно. Але зі зростанням доступу повсякденне життя змінювалося. Світло вночі подовжило день. Електричні насоси, прилади й холодильники зменшили частину найважчої щоденної праці. Радіо приносило новини, музику й зв’язок із місць за сотні миль до домівок і громадських просторів.
Перша обіцянка електрики була практичною, але її глибший вплив виник із нових можливостей, які вона відкрила, коли дедалі більше людей змогли нею користуватися. З часом з’явилося багато нових можливостей, а машини й комп’ютери значно прискорили прогрес у медицині, інженерії та багатьох інших сферах. До кінця XX століття середня тривалість життя зросла більш ніж на 20 років, а середній дохід з поправкою на інфляцію приблизно потроївся. Ці здобутки значною мірою були зумовлені прогресом в охороні здоров’я, санітарії та рівні життя, багато з чого стало можливим або прискорилося завдяки широкій електрифікації та пов’язаному технологічному прогресу.
Те саме знову відбувається з ШІ. Невдовзі ШІ буде здатний на надзвичайні речі. Але суть не в самій технології. Суть у тому, що люди можуть робити з її допомогою. Вона може допомогти людині розібратися з медичним рахунком, опанувати нову навичку, започаткувати малий бізнес, доглядати за літніми батьками, зрозуміти юридичне або фінансове рішення, перетворити ідею на щось реальне чи зробити наукове відкриття.
Хоча захоплення від світла вночі, ймовірно, досить швидко минуло, те, що люди вирішили з ним робити, — ні. І оскільки технології з часом були надійним способом приносити добробут, ми вважаємо, що ШІ має бути доступним кожному для використання настільки, наскільки потрібно, там і так, як потрібно.
Таке майбутнє не настане автоматично. Трансформаційні технології можуть концентрувати силу або розширювати її. Вони можуть полегшити життя небагатьом або розширити можливості для багатьох. Наш підхід ґрунтується на переконанні, що ШІ має працювати для людей: допомагати їм досягати власних цілей, розширювати їхні можливості й розподіляти переваги цієї технології якомога ширше.
Наше перше зобов’язання — створювати ШІ на службі людству. Це означає, що ми хочемо розширювати можливості всіх людей, а не бачити силу зосередженою в руках кількох компаній, урядів чи окремих осіб. Ми вважаємо, що безпечніше майбутнє — це те, де сила широко розподілена, щоб більша частина світу могла брати участь у побудові екосистеми стійкості.*
Ми оптимістично ставимося до ШІ, бо віримо, що він може розширити людські можливості та добробут. Але ми також тверезо оцінюємо ризики. Потужні системи мають залишатися безпечними, узгодженими з людськими намірами та підконтрольними людині. Наша місія в OpenAI — забезпечити, щоб AGI приносила користь усьому людству. Це означає створювати системи, які допомагають людям робити більше з того, що вони обирають, а не системи, які замінюють людське судження про те, що має значення.
Повна автоматизація всього — не те майбутнє, якого ми хочемо. Воно було б позбавлене сенсу й небезпечне. ШІ має допомагати людям досягати їхніх цілей, а не відриватися від них. У міру того як системи ШІ стають потужнішими, роль людини стає важливішою: задавати напрям, робити компроміси, застосовувати судження й привносити в роботу цінності, смак, турботу та відповідальність.
Ключова довгострокова роль людей полягатиме у вирішенні, що варто робити.
Ми вважаємо, що ШІ, який виконує ШІ-дослідження, у найближчі кілька років стане визначальним чинником темпу прогресу. Це важливо, бо узгодження саме по собі є складною дослідницькою проблемою. Щоб швидко й глибоко просуватися вперед, нашим дослідникам знадобляться системи ШІ, які можуть допомагати перевіряти ідеї, знаходити помилки, досліджувати альтернативи й ітерувати разом із нами.
Але швидший технічний прогрес робить людське судження та громадську координацію важливішими, а не менш важливими. Майбутнє мають формувати люди, інституції та суспільства, а не лише компанії, що створюють найпотужніші системи.
У міру розвитку передового ШІ ми очікуємо, що національна й глобальна координація ставатиме важливішою. Ми давно вважаємо, що зрештою має бути створена міжнародна організація, яка допомагатиме координувати провідні зусилля у сфері ШІ для зменшення катастрофічних ризиків. Співпраця та спільні стандарти безпеки є важливою частиною подальшого шляху, особливо тому, що важко уникнути стимулів, пов’язаних із комерційною та національною конкуренцією. Однією з цілей такої організації має бути зробити можливими скоординовані дії світу, зокрема уповільнення передового розвитку, коли це потрібно, щоб суспільна стійкість, безпека й вирівнювання встигали за прогресом.
Створити автоматизованого ШІ-дослідника — систему ШІ, здатну прискорити й дедалі більше автоматизувати сам дослідницький процес, залишаючись керованою, підзвітною та пов’язаною з людьми. Ми внутрішньо вважаємо, що до березня 2028 року значну частину наших досліджень можуть виконувати системи ШІ в тандемі з нашими дослідниками. Щоб досягти достатнього прогресу в узгодженні, ми вважаємо, що ШІ мають ітерувати разом із нами. Це допоможе нам пройти перехід до світу після AGI так, щоб ми разом визначали шлях у майбутнє.
Прискорити економіку, прискорюючи науковий прогрес, продуктивність та економічне зростання й водночас працюючи над тим, щоб здобутки були широко розподілені. Кожен має отримати можливість мати значущу частку в добробуті, який створює ШІ.
Дати кожній людині на Землі персональну AGI, надаючи змогу скористатися однією з найбільш трансформаційних технологій людства так, як вона сама обере.
Щоб мати змогу це здійснити, ми входимо в третю фазу OpenAI.
Перша фаза OpenAI була присвячена дослідженням на шляху до AGI. Друга фаза почалася, коли наші дослідження стали релевантними для реального світу, а ми стали продуктовою компанією: розгортали наші системи, вчилися з того, як люди їх використовували, і продовжували просуватися до AGI, безпечної та узгодженої з нашою місією.
Тепер ми входимо в третю фазу. Економіка починає перебудовуватися навколо ШІ. Головне питання тепер — як зробити передовий ШІ доступним у достатку, прийнятним за ціною, безпечним, корисним і досить простим, щоб кожна людина й організація могли ним скористатися. Передові можливості — лише частина роботи. Більше завдання — перетворити ці можливості на інструменти, якими люди справді можуть користуватися, щоб процвітати.
Передусім ми віримо, що широкий розподіл сили допоможе привести нас до кращого майбутнього. Історія людства показує, що зосереджена сила створює крихкість, тоді як широко розподілена сила робить суспільства стійкішими, адаптивнішими й вільнішими.
Саме тому доступ має значення. І саме тому важливі безпека, приватність, доступність за ціною, відкриті екосистеми та громадський нагляд.
Добре майбутнє ШІ не може бути таким, де невелика кількість інституцій контролює більшість можливостей і більшість вигод. Це має бути майбутнє, у якому багато людей, компаній, спільнот і країн можуть будувати, отримувати користь і мати силу. Ми вважаємо, що ця трансформація має належати всім.
Якщо ми зробимо це правильно, ШІ може стати основою більшої продуктивності, творчості, наукового прогресу й економічних можливостей для багатьох, і ми досягнемо нашої місії: забезпечити, щоб AGI приносила користь усьому людству.
*Стійкість ШІ означає сукупність організацій, систем та окремих людей, яку суспільство могло б створити, щоб передбачати, витримувати, адаптуватися до збоїв, спричинених ШІ, і швидко відновлюватися після них. Наприклад, автомобіль змінив суспільство, але автомобілі стали широко корисними лише тому, що суспільства побудували навколо них системи: ремені безпеки, правила дорожнього руху, водійські посвідчення, краш-тести та дорожню інфраструктуру. Мета полягала не в тому, щоб заборонити людям водити, а в тому, щоб зробити потужну технологію достатньо стійкою для широкого використання.
