Иранның жасырын ықпал ету операциясын тоқтату
Біз ChatGPT‑ті пайдаланып, соның ішінде АҚШ президенттік науқаны туралы, бірнеше тақырыпқа арналған контент жасаған Иранның ықпал ету операциясымен байланысты аккаунттарды бұғаттадық. Бұл контенттің елеулі аудиторияға жеткенін көрсететін белгі байқамадық.
OpenAI теріс пайдаланудың алдын алуға және AI жасаған контент төңірегіндегі ашықтықты арттыруға ұмтылады. Бұған олардың артында тұрған тұлғалардың шынайы болмысын не ниетін жасырып, қоғамдық пікірді манипуляциялауға немесе саяси нәтижелерге ықпал етуге тырысатын жасырын ықпал ету операцияларын (IO) анықтау және тоқтату жөніндегі жұмысымыз кіреді. Бұл 2024 жылы өтіп жатқан көптеген сайлау аясында әсіресе маңызды. Біз жыл бойы осы бағыттағы жұмысымызды кеңейттік, соның ішінде теріс пайдалануды жақсырақ анықтап, түсіну үшін өз AI модельдерімізді қолдандық.
Осы аптада біз Storm-2035(жаңа терезеде ашылады) деп анықталған Иранның жасырын ықпал ету операциясы үшін контент жасап отырған ChatGPT аккаунттарының шоғырын анықтап, жойдық. Біз бұл аккаунттарға қызметтерімізді пайдалануға тыйым салдық және саясаттарымызды бұзудың кез келген келесі әрекеттерін бақылауды жалғастырып келеміз. Операция ChatGPT‑ті бірқатар тақырыптарға, соның ішінде АҚШ президенттік сайлауында екі жақтағы кандидаттар туралы пікірлерге арналған контент жасау үшін пайдаланды, кейін оны әлеуметтік желідегі аккаунттар мен веб-сайттар арқылы таратты.
Біз мамырда хабарлаған жасырын ықпал ету операцияларына ұқсас, бұл операция елеулі аудиториялық тартылымға қол жеткізбеген сияқты. Біз анықтаған әлеуметтік желі жазбаларының көбі аз ғана немесе мүлде лайк, бөлісу не пікір алмады. Сол сияқты, веб-мақалалардың әлеуметтік желілерде таратылғанын көрсететін белгілерді де таппадық. Brookings ұйымының жасырын IO-ның әсерін 1-ден (ең төмен) 6-ға (ең жоғары) дейінгі шкаламен бағалайтын Breakout Scale(жаңа терезеде ашылады) жүйесін қолдансақ, бұл операция 2-санаттың төменгі шегінде болды (бірнеше платформадағы белсенділік, бірақ шынайы адамдар олардың контентін іліп әкеткеніне немесе кеңінен бөліскеніне дәлел жоқ). Тергеуімізге Microsoft компаниясының өткен аптада жариялаған(жаңа терезеде ашылады) операция туралы ақпараты көмектесті.
Тергеуіміз бұл операцияның ChatGPT‑ті екі мақсатта пайдаланғанын көрсетті: көлемді мақалалар мен қысқа әлеуметтік желі пікірлерін жасау. Бірінші жұмыс ағыны АҚШ саясаты мен жаһандық оқиғалар туралы мақалалар шығарды, олар өзін прогрессивті де, консервативті де жаңалық құралдары ретінде көрсеткен бес веб-сайтта жарияланды. Екінші жұмыс ағыны әлеуметтік желіде жарияланған ағылшын және испан тілдеріндегі қысқа пікірлерді жасады. Біз осы операцияға қатысқан X желісіндегі он екі аккаунтты және Instagram-дағы бір аккаунтты анықтадық. X желісіндегі аккаунттардың бір бөлігі өзін прогрессивті, ал басқалары консервативті етіп көрсетті. Олар осы пікірлердің бір бөлігін басқа әлеуметтік желі қолданушылары жариялаған пікірлерді біздің модельдерден қайта жазғызу арқылы жасады.
Операция бірнеше тақырыпта контент жасады: негізінен Газадағы қақтығыс, Олимпиада ойындарындағы Израильдің қатысуы және АҚШ президенттік сайлауы туралы, ал аз дәрежеде Венесуэла саясаты, АҚШ-тағы Latinx қауымдастықтарының құқықтары (испан және ағылшын тілдерінде), сондай-ақ Шотландияның тәуелсіздігі туралы. Олар саяси контенттің арасына сән мен сұлулық туралы пікірлерді қосты, бәлкім шынайырақ көріну үшін немесе аудитория жинауға тырысқан болуы мүмкін.
Бұл операцияның нәтижесінде елеулі аудиториялық тартылым болмағанына қарамастан, біз қызметтерімізді шетелдік ықпал ету операцияларында пайдаланудың кез келген әрекетін байыппен қабылдаймыз. Сондықтан аккаунттарды қызметтерімізден алып тастағаннан кейін осы әрекетті бұзуға кең қауымдастыққа қолдау көрсету жөніндегі жұмысымыздың бір бөлігі ретінде біз мемлекеттік органдармен, науқан өкілдерімен және сала мүдделі тараптарымен қауіп туралы барлау деректерін бөлістік. OpenAI мұндай теріс пайдалануды ауқымды түрде әшкерелеу және азайту ісіне саламен, азаматтық қоғаммен және үкіметпен серіктесе отырып, сондай-ақ генеративті AI қуатын жұмысымыздағы тиімділікті еселейтін күш ретінде пайдалану арқылы адал болып қала береді. Ақпарат алмасу мен үздік тәжірибелерді ілгерілету үшін осындай тұжырымдарды жариялауды жалғастырамыз.
Осы операция жасаған және оның екі веб-сайтында жарияланған екі мақаланың тақырыптары. Біз бұл мақалалардың әлеуметтік желілерде кеңінен таратылғанына дәлел көрмедік.
Осы операция жасаған, X желісіндегі екі түрлі аккаунт жариялаған АҚШ сайлауындағы кандидаттар туралы жазбалар. Бұл жазбалар өте аз не мүлде реакция жинамады.
Сұлулық туралы операция аясында ағылшын және испан тілдерінде жасалған, X желісіндегі екі түрлі аккаунт жариялаған жазбалар. Біз бұл суреттерді өзіміздің DALL·E 3 классификаторымыз арқылы тексердік, ол олардың біздің қызметтерімізде жасалмағанын анықтады. Бұл жазбалар өте аз не мүлде реакция жинамады.
Осы әрекетке байланысты домендер:
- niothinker[.]com
- savannahtime[.]com
- evenpolitics[.]com
- teorator[.]com
- westlandsun[.]com