मुख्य मजकूराकडे जा
OpenAI

१ जून, २०२५

सुरक्षितता

“अंकल स्पॅम” मोहीम: अमेरिकेतील ध्रुवीकरणासाठी प्रभाव कारवाई

अमेरिकी राजकीय मजकूर तयार करण्यासाठी आणि व्यक्ती, चळवळी व ऑनलाइन समुदायांवर संशोधन करण्यासाठी कृत्रिम बुद्धिमत्ता वापरणाऱ्या चीनमधून चालवल्या जाणाऱ्या खात्यांवर OpenAIने बंदी घातली.

लोड होत आहे...

हा प्रकरण-अभ्यास मूळतः OpenAIच्या जून २०२५⁠(नवीन विंडोमध्ये उघडेल)च्या अहवालात प्रकाशित झाला होता.

कारवाईमागील घटक

Metaमधील आमच्या सहकाऱ्यांकडून मिळालेल्या माहितीच्या आधारे आम्ही चीनमधून चालवल्या जाणाऱ्या प्रभाव मोहिमेशी⁠(नवीन विंडोमध्ये उघडेल) संबंधित अनेक ChatGPT खात्यांवर बंदी घातली. या मोहिमेने अमेरिकी राजकीय चर्चेतील वादग्रस्त विषयांच्या दोन्ही बाजूंना पाठिंबा देणारा, ध्रुवीकरण करणारा समाजमाध्यमांवरील मजकूर तयार केला. त्यात X आणि Bluesky यांसारख्या मंचांसाठीचा मजकूर व कृत्रिम बुद्धिमत्तेने तयार केलेल्या परिचय-प्रतिमांचा समावेश होता.

वर्तन

या जाळ्याने विविध कामांसाठी आमची प्रारूपे वापरली. त्यात प्रामुख्याने आयात शुल्काचे समर्थन किंवा टीका करणाऱ्या समाजमाध्यमांवरील प्रतिक्रिया तयार करणे समाविष्ट होते. प्रेक्षकांचा सहभाग जास्तीत जास्त वाढवण्यासाठी मजकूर प्रसिद्ध करण्याची सर्वोत्तम वेळ कोणती, असे या खात्यांनी आमच्या प्रारूपांना विचारले. हे नियोजनबद्ध प्रसारतंत्राचे निदर्शक आहे.

“अंकल स्पॅम” मोहिमेने आयात शुल्काबाबत तयार केलेल्या नोंदी.

आयात शुल्कावरील चर्चेच्या परस्परविरोधी बाजू मांडणाऱ्या दोन नोंदी. त्यांचा मजकूर या धोकादायक घटकाने आमची प्रारूपे वापरून तयार केला होता.

दुसरे म्हणजे, या खात्यांनी शैलीबद्ध बोधचिन्हे तयार करण्यासाठी आमच्या इमेज जनरेशन क्षमतांचा वापर केला. नंतर ही बोधचिन्हे विविध समाजमाध्यमांवर काल्पनिक व्यक्तिमत्त्वांच्या परिचय-प्रतिमा म्हणून वापरण्यात आली. विशेषतः, या खात्यांनी सध्याच्या अमेरिकी प्रशासनावर टीका करणाऱ्या अमेरिकी माजी सैनिकांची काल्पनिक व्यक्तिमत्त्वे घडवण्यावर भर दिला.

“न्यायासाठी माजी सैनिक” बोधचिन्ह वापरणारे Bluesky खाते.

या जाळ्याने तयार केलेला मजकूर प्रसिद्ध करणारे BlueSky खाते. “न्यायासाठी माजी सैनिक” हे बोधचिन्ह आमची प्रारूपे वापरून तयार करण्यात आले.

शेवटी, या खात्यांनी Tweepy, Nitter आणि Blueskyचे सार्वजनिक API यांसारखी साधने वापरून X व Blueskyसारख्या समाजमाध्यमांवरून वापरकर्ता परिचय, अनुयायांच्या याद्या आणि इतर तपशील असा वैयक्तिक विदा काढण्यासाठी सातत्याने संगणकीय संकेतलेखन व पद्धती मागितल्या. याशिवाय, व्यक्तींची वैशिष्ट्ये आणि संस्थांशी असलेली संलग्नता शोधण्यासाठी परिचय-विषयक विदाचे विश्लेषण कसे करावे, याबाबत या खात्यांनी आमच्या प्रारूपांकडून मार्गदर्शन घेतले. त्यातून व्यक्तींचे वर्गीकरण किंवा त्यांचे संबंध व गुणधर्म यांचा अंदाज घेण्याचा हेतू असू शकतो.

निर्मित प्रतिसाद

या खात्यांनी अमेरिकी राजकीय चर्चेतील विविध विषयांवर ध्रुवीकरण करणारा मजकूर तयार केला आणि अनेकदा एकाच सत्रात परस्परविरोधी बाजू मांडल्या. प्रभाव मोहिमांच्या ज्ञात कार्यपद्धतींशी हे सुसंगत आहे. एखाद्या विशिष्ट वैचारिक भूमिकेचा प्रचार करण्याऐवजी विद्यमान राजकीय मतभेदांचा फायदा घेण्यासाठीच ही मोहीम आखली असावी. मजकुराचे मोठे प्रमाण आणि अमेरिकी संदेशांवरील भर पाहून आम्ही या मोहिमेला “अंकल स्पॅम” असे नाव दिले.

“अंकल स्पॅम” मोहिमेतील काल्पनिक व्यक्तिमत्त्वांनी प्रसिद्ध केलेल्या नोंदी.

आमच्या प्रारूपांनी तयार केलेला मजकूर असलेल्या, काल्पनिक व्यक्तिमत्त्वांनी प्रसिद्ध केलेल्या नोंदी.

परिणाम

प्रभाव मोहिमेच्या परिणामाची ब्रेकआउट मापनश्रेणी⁠(नवीन विंडोमध्ये उघडेल) वापरून आम्ही याचे मूल्यांकन श्रेणी २ असे करू: अनेक मंचांवरील हालचाली, पण व्यापक प्रसार नाही किंवा अत्यल्प सहभाग. आमच्या प्रारूपांनी तयार केलेला मजकूर प्रसिद्ध करणाऱ्या समाजमाध्यम खात्यांना वास्तविक वापरकर्त्यांकडून फारच कमी प्रतिसाद मिळाला. या जाळ्याने Xवर प्रसिद्ध केलेल्या बहुतेक नोंदींना फारच कमी किंवा एकही पसंती अथवा पुनर्प्रसारण मिळाले नाही. केवळ काही नोंदींनाच थोडा प्रतिसाद मिळाला. समाजमाध्यमांवरील काही खात्यांचे अनुयायी हजारोंमध्ये होते. मात्र, त्या अनुयायांची सत्यता आम्हाला तपासता आली नाही आणि त्यांच्या संख्येचे रूपांतर नोंदींवरील प्रतिसादात झाल्याचेही दिसले नाही.