OpenAI-дің шекаралық тәуекелге көзқарасы

2023 жылғы 21 шілдеде OpenAI ЖИ саласындағы басқа жетекші зертханалармен бірге ЖИ-дегі қауіпсіздікті, қорғанысты және сенімді нығайтуға арналған ерікті міндеттемелер жиынтығын қабылдады. Бұл міндеттемелер тәуекел салаларының кең ауқымын қамтыды, олардың өзегінде алдағы AI Safety Summit назар аударатын озық тәуекелдер болды.

Осы жаңартуда біз сол ерікті міндеттемелер бойынша ілгерілеуімізді сипаттап, озық тәуекелдерді азайтуға қатысты дамып келе жатқан тәсілімізді, соның ішінде Дайындық шеңберін әзірлеу бойынша жүріп жатқан жұмысымызды, толығырақ баяндаймыз. 

2023 жылғы 3 қазанда біз жүйе картасын⁠ мәтіннен суретке арналған DALL-E 3 моделімізге⁠ ашық түрде жарияладық; бұл ерікті міндеттемелеріміз аясындағы жаңа озық модельдің алғашқы ірі ашық релизі болды. Миссиямызға да, ерікті міндеттемелерге де сай, біз орналастыруға дейінгі қауіпсіздік бағалауы мен редтимингті қоса алғанда, маңызды қауіпсіздік жұмыстарын атқардық. Бұған қоса, адамдарға ЖИ жасаған медианың шығу тегін қадағалауға мүмкіндік беретін жаңа әдістерді әзірлеу бағытында жұмыс істеп жатырмыз және ChatGPT ішінде дауыс пен кескінді талдау мүмкіндіктерін енгізу арқылы жауапты тәжірибелерге инвестиция салуды жалғастырдық. 

Сондай-ақ біз Frontier Model Forum ұйымының тең құрылтайшысы болу арқылы «озық ЖИ қауіпсіздігіне арналған ортақ стандарттар мен үздік тәжірибелерді әзірлеп, ілгерілетіп және қабылдай алатын форумды немесе тетікті құру не соған қосылу» жөніндегі ерікті міндеттемемізді⁠ орындадық. Microsoft, Google Deepmind және Anthropic-пен бірлесіп құрылған бұл жаңа салалық ұйым — ЖИ қауіпсіздігі бойынша зерттеулерді ілгерілетуге және озық ЖИ жүйелерін жауапты әзірлеу тәжірибелерін қолдауға арналған алаң.

Озық ЖИ модельдері бүкіл адамзатқа пайда әкелу әлеуетіне ие, бірақ сонымен бірге барған сайын елеулі тәуекелдер де тудырады. ЖИ модельдері жақсара берген сайын бұл тәуекелдерді басқару үшін біз Дайындық шеңберін әзірлеп жатырмыз, ол озық модельдерді жауапкершілікпен әзірлеуге арналған тәуекелге негізделген проактив тәсілімізді, әсіресе апаттық тәуекелдерге қатысты, тереңдете түседі. 

Дайындық шеңбері озық модельдердің қабілеттерін қатаң бағалау және мониторинг жасау тәсілімізді, сондай-ақ әзірлеу үдерісінің барлық кезеңінде есептілік пен қадағалауға арналған басқару құрылымын құруды егжей-тегжейлі сипаттайды. Осы саясат аясында қадағалауды жоспарлап отырған тәуекелдеріміз бірнеше санатты қамтиды, соның ішінде киберқауіпсіздік, иландыру, химиялық және биологиялық қауіптер, сондай-ақ автономия. 

Дайындық шеңбері апаттық салдарлардан қорғауға арналған әрекеттер ауқымын да ұсынады. Апаттық тәуекелді эмпирикалық түсіну әлі бастапқы кезеңде және жылдам дамып келеді. Сондықтан біз соңғы бағалау мен мониторинг түсінігімізді көрсету үшін озық модельдердің ағымдағы тәуекел деңгейлеріне берген бағамызды динамикалық түрде жаңартып отырамыз. Біз осы жұмысты жүргізетін, оның ішінде қажетті зерттеу мен мониторингті орындайтын арнайы топты (Preparedness) құрып жатырмыз.  

Дайындық шеңбері жаңа, жоғары қабілетті жүйелердің қауіпсіздігі мен сәйкестігіне үлес қосатын, орналастыруға дейін де, кейін де жүргізілетін бар тәуекелдерді азайту жұмысымызды толықтырып, кеңейтуге арналған. Қолданыстағы осы күш-жігерге біздің Safety Systems тобының үздік модельдерімізді қауіпсіз орналастыруды қамтамасыз ету үшін зерттеу жүргізіп, жүйелі шешімдер құру жұмысы және аса зияткерлік ЖИ жүйелерін адам ниетімен сәйкестендірудегі машиналық оқыту мәселелеріне назар аударатын Superalignment тобының жұмысы кіреді. 

Бұған сондай-ақ Microsoft-пен бірлескен Deployment Safety Board (DSB) кіреді, ол белгілі бір қабілет шегінен жоғары модельдерді орналастыру туралы кез келген тараптың шешімдерін мақұлдайды. DSB белгілі бір ауқымдағы не қабілет деңгейіндегі модельдерді оқыту-оқытпау туралы шешім қабылдау сияқты ертерек қадамдарға емес, нақты орналастыру шешімдеріне назар аударады. Онда жауапты масштабтау саясаттары контекстінде жиі талқыланатын кейбір сипаттар бар, мысалы, ең қабілетті жүйелерге басымдық беру, қарсылас тестілеуге ерекше мән беру және сәйкестікті айқын ескеру. Біз GPT‑4 бойынша DSB шолуынан құнды сабақ алдық, бұл алғаш рет талаптарға сай келген орналастыру болды, және сол сабақтарды Дайындық шеңберін жобалау мен енгізуге пайдаланамыз. DSB де, Дайындық шеңбері де және олардың тиісті рөлдері де тәуекелдер мен оларды азайту жолдары туралы көбірек білген сайын уақыт өте келе өзгеруі мүмкін.

Ескерту: Біз саясатымызды Responsible Scaling Policy емес, Дайындық шеңбері деп атаймыз, себебі қабілет кейде ауқым айтарлықтай ұлғаймай-ақ, мысалы алгоритмдік жетілдірулер арқылы, күрт артуы мүмкін. Дайындық шеңбері артып келе жатқан бұл қабілеттер ауқымнан, алгоритмдік жетілдірулерден немесе өзге оңтайландырулардан туындағанына қарамастан, барған сайын қабілетті озық модельдерді әзірлеуімізді реттейді.

Бізден әлдеқайда ақылды ЖИ жүйелерін бақылау және біріктіру үшін ғылыми серпілістер, қоғамның дайындығы және озық қауіпсіздік жүйелері қажет. Біз бұл серпілістерге екі жаңа топ — Superalignment және Preparedness — құру және қауіпсіздік жүйелерімізге қосымша инвестиция салу арқылы инвестиция жасап жатырмыз.

ЖИ-ді сәйкестендірудің қазіргі тәсілдеріміз, мысалы Адам пікіріне негізделген күшейтпелі оқыту, адамдардың ЖИ-ді қадағалау қабілетіне сүйенеді. Бірақ бұл тәсілдер аса зияткерлікке жарамайды, өйткені адамдар бізден әлдеқайда ақылды ЖИ жүйелерін сенімді түрде қадағалай алмайды. Біз бұл мәселені төрт жыл ішінде шешуді мақсат етіп отырмыз және осы үшін Ilya Sutskever (OpenAI негізін қалаушы және бас ғалымы) мен Jan Leike (Alignment бөлімінің басшысы) бірлесіп жетекшілік ететін Superalignment⁠ деп аталатын жаңа топқа инвестиция жасап жатырмыз. Біздің мақсатымыз — адам деңгейіне жақын автоматтандырылған сәйкестендіру зерттеушісін құру және аса зияткерлікті сәйкестендіру бойынша күш-жігерімізді ауқымдау үшін үлкен есептеу қуатын пайдалану. Біз бұл іске 2023 жылғы маусымға дейін қамтамасыз еткен есептеу қуатымыздың 20%-ын бөлуді жоспарлап отырмыз.  Топ нәтижелерді кеңінен бөлісіп, OpenAI-ге жатпайтын модельдердің сәйкестігі мен қауіпсіздігіне де үлес қоспақ.

Аса зияткерлікті сәйкестендіру қиындығынан бөлек, барған сайын қабілетті бола түсетін озық модельдерді ықтимал теріс пайдаланудан туындайтын тәуекелдер де барған сайын ауырлай түседі деп санаймыз. Біз осы тәуекелдерді анықтау, қадағалау және оларға дайындалу үшін Preparedness деп аталатын арнайы жаңа топ құрып жатырмыз. Біз киберқауіпсіздік, CBRN, иландыру, автономды көшіру мен бейімделуді қоса алғанда, озық тәуекелдерді қадағалап, апаттық тәуекел әсерінен қорғану әрекеттерін бөлісуді көздейміз. Апаттық тәуекелді эмпирикалық түсіну әлі бастапқы кезеңде болғандықтан, соңғы бағалау және мониторинг түсінігімізді көрсету үшін озық модельдердің ағымдағы тәуекел деңгейлеріне берген бағамызды итератив түрде жаңартып отырамыз.  

Біз меншікті және әлі шығарылмаған модель салмақтарын қорғау үшін киберқауіпсіздікке және ішкі қауіп қатерлеріне қарсы қорғаныс шараларына инвестиция салуды жалғастырып жатырмыз. Ортақ қауіпсіздігіміз үшін жұмыс істейтін ниеттес зерттеушілердің күшін үйлестіру мақсатында Cybersecurity Grant Program және OpenAI Bug Bounty Program бағдарламаларын іске қостық. Cybersecurity Grant Program — ЖИ қолдайтын киберқауіпсіздік мүмкіндіктерін күшейтуге және өлшеуге, сондай-ақ ЖИ мен киберқауіпсіздік бойынша жоғары деңгейлі талқылауды дамытуға арналған $1M бастама. Сонымен қатар біз жұртшылықты жүйелерімізден тапқан осалдықтар, багтар немесе қауіпсіздік кемшіліктері туралы хабарлауға шақырамыз. OpenAI Bug Bounty Program технологиямыз бен компаниямыздың қауіпсіз болып қалуына үлес қосатын адамдардың құнды пайымдарын тануға және марапаттауға мүмкіндік береді.

Біз шығарылатын әрбір жаңа ірі модельді қауіпсіздік тұрғысынан бағалаймыз, оның ішінде редтиминг қолданамыз. Мысалы, GPT‑4‑ті ашық түрде шығармас бұрын, сыртқы редтиминг мамандары модельді мынадай озық тәуекелдер бойынша сынады: (1) ядролық, радиологиялық, биологиялық және химиялық қаруды (CBRN) әзірлеуге жәрдемдесу, (2) киберқауіптің артуы, (3) құралдарды пайдаланудан туындайтын тәуекелдер және (4) өзін-өзі көшіру қабілеттері. DALL-E 3-ті редтимингтеу аясында, ерікті міндеттемелеріміз шеңберінде, біз модельдің CBRN әзірлеуге, алуға немесе таратуға қажет визуалды ақпарат беру қабілетін тексердік. 

Сондай-ақ OpenAI модельдерінің қауіпсіздігін жақсартуға мүдделі салалық сарапшыларды редтиминг күш-жігерімізге ашық шақыру үшін OpenAI Red Teaming Network⁠ бастамасына ашық үндеу жарияладық.

CBRN. Кейбір LLM (үлкен тілдік модель) қабілеттері екі мақсатта қолданылуы мүмкін, яғни модельдер коммерциялық та, әскери немесе таратуға қатысты қолданбалар үшін де пайдаланылуы мүмкін. Біз GPT‑4‑ті төрт екіұшты қолдану саласында стресс-тестілеуге, шекаралық тестілеуге және редтимингке ұшыратып, модельдеріміз CBRN әзірлеуге, алуға немесе таратуға ұмтылатын таратушыларға қажетті ақпарат бере ала ма, соны зерттедік. Біз өз алдына GPT‑4‑ке қолжетімділік тарату үшін жеткілікті шарт емес екенін, бірақ әсіресе дәстүрлі іздеу құралдарымен салыстырғанда, ол таратушыларға қолжетімді ақпаратты өзгерте алатынын анықтадық. Редтиминг мамандары GPT‑4‑ке де, дәстүрлі іздеу жүйелеріне де берілетін сұрақтар жиынтығын таңдап, GPT‑4 қолданылған кезде зерттеуді аяқтауға кететін уақыттың қысқаратынын анықтады. Кейбір жағдайларда зерттеу үдерісі ақпарат дәлдігін жоғалтпай бірнеше сағатқа қысқарды. Сондықтан біз негізгі тәуекел драйвері GPT‑4‑тің жалпыға қолжетімді, бірақ табуы қиын ақпаратты генерациялау қабілеті деп қорытындыладық; бұл пайдаланушылардың зерттеуге жұмсайтын уақытын азайтып, ақпаратты салалық емес пайдаланушыға түсінікті түрде жинақтап береді. DALL-E 3-ті шығармас бұрын біз мәтіннен сурет генерациялаудың тәуекел профилін қалай өзгерткенін бағалап, модельдің CBRN тәуекелдеріне қатысты ақпаратты өндіруге және алуға арналған диаграммалар мен визуалды нұсқаулар жасау қабілетін сынадық. GPT‑4 сияқты, біз DALL-E 3 бойынша да ішкі және сыртқы тестілеу жүргіздік: тәуекелдерді іштей тексеріп, әртүрлі салалардан келген сыртқы сарапшыларға жүйелерді зерттеп, тәуекелдерді картаға түсіріп, бағалауға көмектесу үшін ерте қолжетімділік бердік. Біз DALL·E 3-ті төрт екіұшты қолдану саласында редтимингке ұшыратып, оның CBRN әзірлеуге, алуға немесе таратуға қажетті ақпаратты бере алатынын зерттедік. Редтиминг мамандары бұл салаларда осы тақырыптар бойынша дәлсіздік, бас тартулар және сәтті тарату үшін қажетті қосымша қолжетімділік пен «құрамдастардың» кеңірек қажеттілігі үйлесімінің арқасында тәуекелдің өте аз екенін анықтады.

Киберқабілеттер. Біз сондай-ақ GPT‑4‑тің осалдықтарды табу және пайдалану, сондай-ақ әлеуметтік инженерия үшін қолданылу қабілетін бағаладық. Модельдің компьютерлік осалдықтарды табуға, бағалауға және пайдалануға көмектесу қабілетін тексеру үшін біз сыртқы киберқауіпсіздік сарапшыларын тарттық; олар бастапқы код модельдің контекст терезесіне сыятындай шағын болса, GPT‑4 кейбір осалдықтарды түсіндіре алатынын, бірақ анықталған осалдықтарға арналған эксплуатацияларды құруда GPT‑4 әлсіз нәтиже көрсеткенін анықтады. Әлеуметтік инженерия қабілеттерін сынау үшін сарапшы редтиминг мамандары GPT‑4‑тің нысананы анықтау, нысаналы фишинг және bait-and-switch фишингі сияқты өзекті тапсырмаларда қазіргі құралдардан артықшылық бере ме, соны тексерді. Олар модель қазіргі әлеуметтік инженерия мүмкіндіктеріне дайын күйдегі жаңарту емес екенін, өйткені ол нысаналарды тізіп шығу және жуырдағы ақпаратты тиімдірек фишинг мазмұнын жасауға қолдану сияқты фактологиялық тапсырмаларда қиналатынын анықтады. Алайда нысана туралы тиісті бастапқы білім болған жағдайда, GPT‑4 шынайы әлеуметтік инженерия мазмұнын дайындауда тиімді болды. Осы нәтижелерге сүйене отырып, біз GPT‑4‑ті зиянды киберқауіпсіздік сұрауларынан бас тартуға кейін дайындаттық және мониторинг, анықтау және әрекет етуді қоса алғанда, ішкі қауіпсіздік жүйелерімізді ауқымдадық.

Өзін-өзі көшіру. GPT‑4‑ті шығармас бұрын біз сондай-ақ Alignment Research Center (ARC) ұйымына модельдің автономды түрде өзін көшіру және ресурстар жинау үшін әрекет ету қабілетін алдын ала бағалауға мүмкіндік бердік. Олардың тобы билікке ұмтылатын мінез-құлықтан туындайтын тәуекелдерді бағалай алуы үшін ARC-ке редтимингіміздің бір бөлігі ретінде модельдерге ерте қолжетімділік бердік. ARC бағалаған билікке ұмтылудың нақты түрі — модельдің автономды түрде өзін көшіру және ресурстар алу қабілеті болды. ARC жүргізген алдын ала тәжірибелерде GPT‑4‑тің ерте нұсқалары автономды көшіру тапсырмасында тиімсіз болғанын анықтады. Сондықтан олар модельдің автономды түрде өзін көшіруі екіталай деген қорытындыға келді.

Ашықтық — есеп беретін ЖИ жүйелерін құрудың маңызды элементі. Біздің есептілікке деген тәсіліміздің негізгі бөлігі — біз орналастыратын жаңа ЖИ жүйелері үшін қазір жүйе картасы деп атайтын құжатты жариялау. Біздің жүйе карталарымыз оқырмандарды жүйенің мінез-құлқына әсер ететін негізгі факторлар туралы, әсіресе жауапты пайдалану үшін маңызды салаларда, хабардар етуді мақсат етеді және модель мен жүйе карталары жөніндегі алдыңғы зерттеу жұмыстарына сүйенеді. Ерікті міндеттемелерді қабылдамас бұрын OpenAI екі жүйе картасын жариялаған болатын: GPT‑4 жүйе картасы және DALL-E 2 жүйе картасы. Содан бері біз DALL-E 3-ті ChatGPT ішінде шығармас бұрын Жүйе картасын жарияладық, бұл ерікті міндеттемелерге қол қойғаннан кейінгі жаңа модельдің алғашқы ірі ашық релизі болды. Технологиямызды жауапкершілікпен шығару бағытындағы үздіксіз күш-жігер аясында біз GPT‑4‑тің көру қабілеттеріне арналған Жүйе картасын да оны ChatGPT ішінде қолжетімді етпес бұрын жарияладық.

Ерікті міндеттемелерді қабылдағаннан бері біз Frontier Model Forum аясында ЖИ зертханалары арасында қауіпті қабілеттер туралы жауапты жария ету тетігін жасау үшін жұмыс тобын құрдық. Бұл тетік озық модельдерде анықталған елеулі тәуекелдерді озық зертханалар мен басқа ЖИ зертханалары арасында құпия түрде жария етуге мүмкіндік беруді көздейді. Бастапқы назарымыз химиялық, биологиялық, радиологиялық және ядролық (CBRN) қабілеттер сияқты ұлттық қауіпсіздікке қатысты салаларды, сондай-ақ өзін-өзі көшіру, алдау және манипуляция секілді өзге қауіпті қабілеттерді қамтиды. Жария ету әдістеріне бағалаулар, редтиминг жаттығуларынан алынған түсініктер және кеңірек жария ету елеулі тәуекел туғызатын салаларда зертхана мүшелері арасындағы ортақ қауіптерге қатысты өзге де дәлелдер кіреді. 

Сондай-ақ біз жүйелеріміздегі қауіпсіздік осалдықтары туралы хабарлайтын адамдарды тану және марапаттау тәсілі ретінде OpenAI-дің қателерді табатын сыйақы бағдарламасын жарияладық. Біздің сыйақыларымыз төмен ауырлықтағы табылымдар үшін $200-ден бастап, ерекше жаңалықтар үшін $20,000-ға дейін жетеді. Біз жіберу және марапаттау үдерісін жасау үшін қателерді табуға арналған жетекші Bugcrowd платформасымен серіктестік орнаттық, ол Қателерді табатын сыйақы бағдарламасы бетінде⁠(жаңа терезеде ашылады) қолжетімді.

Біз болжанатын тәуекелдердің орналастыруға дейін алдын алу үшін көп күш жұмсаймыз. Алайда зертханада кез келген адамның біле алатынының да шегі бар. Тіпті ауқымды зерттеу мен тестілеуден кейін де адамдар технологиямызды қандай пайдалы тәсілдермен қолданатынын да, оны қалай теріс пайдалануы мүмкін екенін де толық болжай алмаймыз. Күтпеген тәуекелдерді жылдам анықтап, жою қабілетін қалыптастыру біз үшін жоғары басымдыққа ие, өйткені бұл қабілет барлық тәуекелді толық алдын ала болжау мүмкін емес озық жүйелер үшін аса маңызды қорғаныс шарасы болып табылады. Біз күтпеген теріс пайдалану түрлерін анықтауға арналған ішкі шаралар жасаймыз, оларға жауап беру үдерістерін құрамыз және алынған сабақтарды пайдалану саясатымызды, қауіпсіздік жүйелерімізді және модель нәтижелерін жақсартуға қолданамыз. Жүйені шығарғаннан кейін теріс пайдалану мен күтпеген тәуекелдерді анықтау үшін проактив зерттеу, мониторинг және келіп түсетін хабарламаларды тексеру жұмыстарын жүргіземіз. Содан соң анықталған мәселелерді саясаттық және техникалық шешімдер арқылы жылдам әрі итератив түрде шешуге тырысамыз. Біз операцияларымызды кеңейтуді және әрекет ету уақытын қысқартуды жалғастырып жатырмыз.

Біз OpenAI технологиясын, зияткерлік меншігін және деректерін қорғауға елеулі ресурстар бөлеміз.

Біз ең қуатты ЖИ модельдерімізді қызмет ретінде ұсынамыз. Мұндай модельдердің салмақтарын OpenAI мен технологиялық серіктесіміз Microsoft-тен тыс таратпаймыз және модель салмақтары, бастапқы код және өзге де сезімтал ақпарат бақыланатын күйде қалуы үшін ең қабілетті модельдерімізге үшінші тарап қолжетімділігін API арқылы береміз.

Сондай-ақ жеке ақпараттың жоғалуын, теріс пайдаланылуын және рұқсатсыз қол жеткізуді болдырмауға арналған коммерциялық тұрғыдан орынды техникалық, әкімшілік және ұйымдастырушылық шараларды енгіземіз. Бұған SOC 2 Type 2 қоса алғанда, қауіпсіздік бағдарламамыздың үшінші тарап аудиттерінен өту кіреді. Сонымен қатар біз тәуелсіз зерттеушілерді жүйелеріміздегі осалдықтарды ақшалай сыйақыға хабарлауға шақыратын қателерді табатын сыйақы бағдарламасын бастадық. Біздің Сенім порталы клиенттер мен өзге мүдделі тараптарға қауіпсіздік бақылауларымыз бен аудит есептерімізді қарауға мүмкіндік береді. Киберқауіпсіздік бағытындағы күш-жігеріміз аясында біз ішкі және үшінші тарап ену тестілеуін тұрақты жүргіземіз және қауіпсіздік бақылауларымыздың жарамдылығы мен тиімділігін тексереміз.

Біз модельдеріміз жасаған аудиовизуалды контентті анықтауға көмектесу үшін шығу тегіне қатысты техникалық тәсіл әзірлеп жатырмыз. Бұл тәсіл әзірленген соң, оны жаңа озық жүйелеріміздің барлығында кеңінен енгіземіз. Біз әрқайсысының артықшылықтары мен кемшіліктері бар, жалпы алғанда үш топқа бөлінетін шығу тегін анықтау әдістерінің ауқымын бағалап жатырмыз: сутаңбалау, классификаторлар, метадерекке негізделген тәсілдер. 

Ерікті міндеттемелерімізді қабылдағаннан бері біз кескіннің DALL·E 3 арқылы жасалған-жасалмағанын анықтауға көмектесетін шығу тегі классификаторын зерттеп, сынап келеміз. Қазір біз оны ішкі түрде бағалап жатырмыз және DALL·E 3 релизі аясында көпшілікке жаңарту ұсындық.

OpenAI-дің үлкен тілдік модельдері, соның ішінде ChatGPT‑ті қуаттандыратын модельдер, үш негізгі ақпарат көзі арқылы әзірленеді: (1) интернетте ашық қолжетімді ақпарат, (2) біз үшінші тараптардан лицензиялайтын ақпарат және (3) пайдаланушыларымыз немесе адам жаттықтырушыларымыз беретін ақпарат.  

Біздің оқыту деректеріміздің басым көпшілігі интернетте еркін және ашық қолжетімді ақпараттан келеді — мысалы, біз төлем қабырғасының артындағы ақпаратты немесе «deep web»-тен ақпарат іздемейміз. Біз сүзгілерді қолданамыз және модельдеріміздің үйренгенін немесе шығарғанын қаламайтын белгілі бір деректерді, мысалы өшпенділік сөзін, ересектерге арналған контентті, негізінен жеке ақпаратты жинақтайтын сайттарды және спамды алып тастаймыз. 

Сондай-ақ авторларға, құқық иелеріне және веб-сайт операторларына өздері иелік ететін немесе бақылайтын контентке қатысты ЖИ оқытуына байланысты өз қалауын білдіруге мүмкіндік беретін шараларды енгіздік. Мысалы, OpenAI веб-сайт операторларына robots.txt веб-стандартына сүйене отырып, өз контентіне OpenAI-дің “GPTBot” веб-краулері қол жеткізбеуі үшін қарапайым тәсіл енгізді. Сол сияқты OpenAI ChatGPT пен ChatGPT плагиндері веб-сайттарға қол жеткізу үшін пайдаланатын user-agent-string-ті (“ChatGPT‑user”) құжаттады, осылайша сайт операторлары бұл мақсаттар үшін де қолжетімділікті бұғаттай алады. Біз интернетте екі боттың кез келгеніне сайттарға қол жеткізуге тыйым салу жөнінде нұсқаулар береміз. Сондай-ақ болашақтағы DALL-E суретті генерациялау модельдерімізді оқытудан өз контентін алып тастау үшін сурет авторларына арналған өзін-өзі қызмет көрсету формасын⁠(жаңа терезеде ашылады) ұсынамыз.