మోసపూరిత కార్యకలాపాలు: ఆన్‌లైన్ మోసపు నెట్‌వర్క్‌లు

ఈ కేస్ స్టడీ తొలుత OpenAI అక్టోబర్ 2025⁠(కొత్త విండోలో తెరుచుకుంటుంది) నివేదికలో ప్రచురితమైంది.

కంబోడియా, మయన్మార్, నైజీరియాల నుంచి ఉద్భవించినట్లు భావిస్తున్న నెట్‌వర్క్‌లు, ఆన్‌లైన్‌లో ప్రజలను మోసగించే ప్రయత్నాల్లో ChatGPTని దుర్వినియోగం చేస్తున్నాయి.

హానికరమైన ప్రయోజనాల కోసం మా మోడల్‌లను దుర్వినియోగం చేసే ప్రయత్నాలను గుర్తించడం, నిరోధించడం, అడ్డుకోవడానికి మేము కట్టుబడి ఉన్నాం. మా మోడల్‌లను దుర్వినియోగం చేసి ప్రజలను మభ్యపెట్టి మోసం చేయడానికి ప్రయత్నించే హానికర వ్యక్తులను గుర్తించి నిషేధించే కుంభకోణాలు కూడా ఈ దుర్వినియోగాల్లో ఉన్నాయి. గత మూడు నెలల్లో కంబోడియా, మయన్మార్, నైజీరియాల నుంచి ఉద్భవించినట్లు భావిస్తున్న మోసపూరిత నెట్‌వర్క్‌లను మేము అడ్డుకున్నాం. మోసాన్ని ఎదుర్కోవడంలో కృత్రిమ మేధ పోషించగల పాత్రకు నిదర్శనంగా, ఈ దుర్వినియోగ ధోరణులను పరిశోధించే క్రమంలో మోసాలను గుర్తించేందుకు మా మోడల్‌ల సహాయం తీసుకుంటున్న అనేక మందిని కూడా చూశాం. ఈ నివేదిక రెండు వినియోగ సందర్భాలనూ చర్చిస్తుంది.

మోసాలకు తోడ్పడేందుకు మా మోడల్‌లను దుర్వినియోగం చేయడం అనేది ఒంటరిగా మోసానికి ప్రయత్నించే వ్యక్తుల నుంచి, వ్యవస్థీకృత నేరగాళ్ల ముఠాలతో సంబంధమున్నట్లు భావిస్తున్న భారీ స్థాయి నిరంతర కార్యకలాపాల వరకు విస్తరించింది. వాటి మూలాలు, నిర్దిష్ట వ్యూహాలు ఏవైనా సరే, మేము అడ్డుకున్న మోసపూరిత కార్యకలాపాలు సాధారణంగా ఒకే నమూనాను అనుసరిస్తాయి. దీన్ని మేము పింగ్ అంటే ముందస్తు పరిచయం, జింగ్ అంటే ఉత్సాహం లేదా భయాందోళన కలిగించడం, స్టింగ్ అంటే డబ్బు లేదా విలువైన సమాచారం రాబట్టడం అని పిలుస్తాం.

ఈ మోసగాళ్లు సామాజిక మాధ్యమాల్లో ప్రకటనలు ఇవ్వడంతో సహా, కృత్రిమ మేధతో రూపొందించినదైనా కాకపోయినా సందేశ సేవలు, అంతర్జాలం అంతటా కంటెంట్‌ను విస్తరించడం ద్వారా మొదలుపెడతారు. ఆ తర్వాత స్పందించిన వారిలో లాభదాయక అవకాశంపై ఉత్సాహాన్ని లేదా త్వరలో కలగబోయే ఆర్థిక నష్టంపై భయాన్ని రేకెత్తించి, ఆ భావోద్వేగాన్ని ఆసరాగా చేసుకుని లక్ష్యంగా చేసుకున్న వ్యక్తి నుంచి డబ్బు లేదా సున్నితమైన సమాచారం రాబట్టడానికి ప్రయత్నిస్తారు.

మోసం బారిన పడకుండా ప్రజలను సురక్షితంగా ఉంచడంలో మా మోడల్‌లు సహాయపడినట్లు భావిస్తున్న అనేక సందర్భాలను కూడా మేము గమనించాం. ఆన్‌లైన్ మోసాలను గుర్తించి తప్పించుకోవడానికి ప్రజలు నెలకు లక్షలసార్లు ChatGPTని ఉపయోగిస్తున్నట్లు ఆధారాలు చూశాం. ఈ నివేదికలోని ప్రతి మోసపూరిత కార్యకలాపంలోనూ, మోసాన్ని సరిగ్గా గుర్తించి తగిన భద్రతా చర్యలపై ప్రజలకు మోడల్ సలహా ఇవ్వడాన్ని చూశాం. మోసాలు చేయడానికి ChatGPTని ఉపయోగిస్తున్న దానికంటే, మోసాలను గుర్తించడానికి దాన్ని మూడు రెట్లు ఎక్కువగా ఉపయోగిస్తున్నారని మా ప్రస్తుత అంచనా.

OpenAI పరిశోధకుడు తనకు అందిన మోసపూరిత ఎస్ఎంఎస్ సందేశపు తెరచిత్రాన్ని ChatGPTలో అతికించి, అది మోసమని గుర్తించేందుకు మోడల్‌ను విజయవంతంగా ఉపయోగించిన ఉదాహరణ. ఈ సందర్భంలో బెదిరింపు చర్యలకు పాల్పడినవారు TikTok నియామక అధికారులుగా నటించడానికి ప్రయత్నించారు.

మా గత నివేదిక తర్వాత మోసాలను గుర్తించి అడ్డుకునే మా సామర్థ్యాన్ని మరింత బలోపేతం చేశాం. కంబోడియా, మయన్మార్, నైజీరియాల నుంచి ఉద్భవించినట్లు కనిపించిన మరికొన్ని మోసపూరిత నెట్‌వర్క్‌లను మేము అడ్డుకున్నాం. గతంలో మేము చేపట్టిన చర్యలతో కలిపి, ఈ తొలగింపులు వివిధ దేశాలకు చెందిన అనేక మోసపూరిత కార్యకలాపాల్లో ఉద్భవిస్తున్న కొన్ని ధోరణులను గుర్తించేందుకు వీలు కల్పించాయి.

మేము అడ్డుకున్న మోసపూరిత కార్యకలాపాల్లో అధిక భాగం, కృత్రిమ మేధ కేంద్రంగా కొత్త వ్యూహాలను రూపొందించడం కంటే ఇప్పటికే ఉన్న మోసపు వ్యూహాల్లో దాన్ని చేర్చడంపైనే దృష్టి సారించింది. ఈ ఏడాది మేము గుర్తించి నిషేధించిన మోసపూరిత కార్యకలాపాలన్నీ ప్రధానంగా కృత్రిమ మేధను భారీ స్థాయిలో, సమర్థంగా పనిచేసే సాధనంగా ఉపయోగించాయి. సాధారణంగా అనువాదం, సందేశాలు రాయడం, సామాజిక మాధ్యమాల కోసం కంటెంట్ సృష్టించడం వంటి పనులకు మా మోడల్‌లను ఉపయోగించారు.

ఉదాహరణకు, అనేక దేశాల్లోని బాధితులను మోసగించే ప్రయత్నంలో “పెట్టుబడి సంస్థలు”గా నటించిన, కంబోడియా మరియు నైజీరియాల నుంచి ఉద్భవించినట్లు భావిస్తున్న మోసపూరిత కార్యకలాపాలను ఇటీవల నిషేధించాం. నకిలీ సంస్థలను ప్రచారం చేయడానికి మోసగాళ్లు వెబ్‌సైట్‌లు, ఆన్‌లైన్ ప్రకటనలు సృష్టించారు. వ్యాపార నిపుణులుగా నటించే నకిలీవిగా భావిస్తున్న సామాజిక మాధ్యమ ఖాతాలతో ప్రజలను ప్రైవేట్ సందేశ సమూహాల్లో చేరమని ఆహ్వానించారు. అధిక లాభాలు, అసలు నష్టభయమే లేని సంపాదన అవకాశాలను వాగ్దానం చేస్తూ, సంభావ్య బాధితులు కల్పిత వ్యాపార వేదికల్లో డబ్బు చెల్లించేలా వారిని ఆకర్షించడానికి బెదిరింపు చర్యలకు పాల్పడినవారు ప్రయత్నించారు. అన్ని మోసాల్లోనూ మోసగాళ్లు ప్రధానంగా ఉత్తరప్రత్యుత్తరాలు రూపొందించి అనువదించడానికి, తమ వెబ్‌సైట్‌లు మరియు సామాజిక మాధ్యమ ఖాతాల కోసం కంటెంట్ సృష్టించడానికి, ప్రాథమిక పరిశోధన చేయడానికి మా మోడల్‌లను ఉపయోగించారు.

మరో సందర్భంలో, మయన్మార్‌లోనే ఉన్నట్లు బలంగా భావిస్తున్న ఒక మోస కేంద్రాన్ని నిషేధించాం. అది తన మోసపూరిత పథకాలకు కంటెంట్ రూపొందించడంతో పాటు రోజువారీ వ్యాపార పనుల కోసం కూడా మా మోడల్‌లను ఉపయోగించింది. వీటిలో కాలపట్టికలను క్రమబద్ధీకరించడం, అంతర్గత ప్రకటనల ముసాయిదాలు రూపొందించడం, పని బల్లలు మరియు వసతి గదులను కేటాయించడం, ఆర్థిక ఖాతాలను నిర్వహించడం ఉన్నాయి. ఆన్‌లైన్ మోసాలు చేస్తూ పట్టుబడిన వారికి విధించే నేర శిక్షల గురించి కొందరు నిర్వాహకులు అడిగారు.

మేము అడ్డుకున్న మోసగాళ్లందరూ మా మోడల్‌లను ఒకే విధంగా లేదా ఒకే స్థాయి సంక్లిష్టతతో ఉపయోగించలేదు. ChatGPTతో మోసగాళ్లు జరిపిన సంభాషణల్లో అధిక భాగం అనువాదం వంటి సాపేక్షంగా సరళమైన పనులకే సంబంధించినవి. అయితే కొన్ని మోసపూరిత కార్యకలాపాలు మరింత ప్రతిష్ఠాత్మకంగా, విస్తృతంగా సాగాయి.

ఉదాహరణకు, కంబోడియా నుంచి ఉద్భవించినట్లు భావిస్తున్న ఒక మోసపూరిత కార్యకలాపాన్ని మేము అడ్డుకున్నాం. అది నకిలీ పెట్టుబడి నిపుణులు, నకిలీ వ్యాపార సంస్థల కల్పిత ఉద్యోగుల కోసం వివరణాత్మక జీవిత చరిత్రలను రూపొందించేందుకు మా మోడల్‌లను ఉపయోగించింది. ఆ తర్వాత ఆ పాత్రల శైలిలో సామాజిక మాధ్యమ సందేశాలు రాయమని మోసగాళ్లు ChatGPTని అడిగారు. బెదిరింపు చర్యలకు పాల్పడినవారు తమ లక్ష్యాల నుంచి వచ్చినట్లు కనిపించే సందేశాలను తరచూ మా మోడల్‌కు ఇచ్చి, నకిలీ వ్యక్తిత్వంతో సంభాషణను కొనసాగించమని అడిగారు.

కంబోడియా నుంచి ఉద్భవించినట్లు భావిస్తున్న మరో మోసపూరిత కార్యకలాపం, అమెరికా ఫోన్ నంబర్లకు పెద్ద సంఖ్యలో పంపే ముందస్తు పరిచయ ఎస్ఎంఎస్ సందేశాలను రూపొందించేందుకు మా మోడల్‌లను ఉపయోగించడం ద్వారా మొదలైంది. జూన్‌లో మేము నివేదించిన సందర్భం మాదిరిగానే, వీటిలో ఒక సందేశం OpenAI పరిశోధకుడికి పంపబడింది. ఈ ఎస్ఎంఎస్ సందేశాల్లో చట్టబద్ధమైన పెట్టుబడి సంస్థ పేర్లను పోలిన WhatsApp సమూహాల్లో చేరాలనే ఆహ్వానాలు ఉన్నాయి. అనంతరం ఆ సమూహాలు నిషేధించబడ్డాయి.

OpenAI పరిశోధకుడికి పంపిన వరుస WhatsApp సందేశాల ఆధారంగా చూస్తే, సంభావ్య లక్ష్యం ఈ సమూహాల్లో ఒకదానిలో చేరితే, పెట్టుబడి గురించి మాట్లాడుతున్న అరడజను వేర్వేరు ఖాతాల మధ్య జరిగే ఒక “సంభాషణ”ను వెంటనే చూసేవారు. వాటిలో ఒక ఖాతా “పెట్టుబడి నిపుణుడి”గా నటించగా, మిగిలినవి వివిధ స్థాయుల ఆత్మవిశ్వాసం, అనుభవం ఉన్న పెట్టుబడిదారులుగా నటించాయి. ఆసక్తి, విజయం ఉన్న వ్యాపారులతో సందడిగా ఉండే సమూహమనే భావన కలిగించడానికి అన్నట్లుగా, ఈ సంభాషణలోని ప్రతి భాగాన్ని మోసగాళ్లే రూపొందించి, దానంతటినీ ఒకే విడతలో చైనీస్ నుంచి అనువదించారు. చివరికి, లక్ష్యంగా చేసుకున్న వ్యక్తి కూడా పెట్టుబడి పెట్టి చూడాలని “పెట్టుబడి నిపుణుడు” సూచించేవారు.

ఇది కాకుండా, నైజీరియా నుంచి ఉద్భవించినట్లు బలంగా భావిస్తున్న ఒక పెట్టుబడి మోసపూరిత కార్యకలాపం, సామాజిక మాధ్యమ ప్రకటనల ద్వారా లాటిన్ అమెరికాలోని సంపన్నులను చేరుకోవడం, తమ స్థానాన్ని దాచడం, సామాజిక మాధ్యమ వేదికల ఆంక్షలను తప్పించుకోవడం ఎలాగో దశలవారీగా సలహా ఇవ్వమని మోడల్‌ను అడిగింది. ఇందులో భాగంగా మోడల్‌కు ఒక వేదిక బహిరంగంగా అందుబాటులో ఉంచిన సేవా నిబంధనలను చూపించి, ప్రతిపాదిత ప్రకటన కంటెంట్ వాటికి అనుగుణంగా ఉందో సమీక్షించమని అడిగారు.

మోసగాళ్లు, ముఖ్యంగా భారీ స్థాయి మోస కేంద్రాలు, పట్టువదలకుండా ప్రయత్నిస్తాయి. తమ ప్రవర్తనలోని కొన్ని అంశాలను మార్చి, తదుపరి గుర్తింపును తప్పించుకోవాలనే ఉద్దేశంతో నిబంధనలను ఉల్లంఘించే కార్యకలాపాలను మళ్లీ ప్రారంభించడానికి ప్రయత్నించడమే, తమకు ఎదురైన అడ్డంకులకు వారు చాలా తరచుగా ఇచ్చే ప్రతిస్పందన. వారి మారుతున్న కార్యకలాపాలపై అవగాహనను పరిశ్రమవ్యాప్తంగా పంచుకోవడం ముఖ్యమనడానికి ఇది ఒక కారణం. ఉదాహరణకు, తదుపరి దర్యాప్తు, అమలు చర్యలకు తోడ్పడేలా బెదిరింపు చర్యలకు పాల్పడినవారి గురించి OpenAI, Meta సమాచారాన్ని పంచుకున్నాయి.

చర్యలకు గురైనందుకు లేదా కృత్రిమ మేధ వినియోగాన్ని బయటపెట్టగల సంకేతాల గురించి అంతర్జాలంలో విస్తృతంగా జరుగుతున్న చర్చలకు ప్రతిస్పందనగా కావచ్చు, మోసగాళ్లు ఆన్‌లైన్ కంటెంట్‌లో, లక్ష్యాలతో జరిపే సంభాషణల్లో తమ కృత్రిమ మేధ వినియోగాన్ని దాచడానికి ప్రయత్నించడాన్ని మేము చూశాం. కంబోడియా నుంచి ఉద్భవించినట్లు భావిస్తున్న మోసపూరిత కార్యకలాపాలు, మోడల్ ఇచ్చే సమాధానాల నుంచి దీర్ఘ విరామచిహ్నాలను తొలగించమని ఆదేశించడం కూడా ఇందులో ఉంది.

ఒక సందర్భంలో, తమ సామాజిక మాధ్యమ వనరులను భారీ స్థాయిలో తొలగించడాన్ని వివరించేందుకు, నిషేధానికి ఒక సాకును కల్పించడానికి మోసగాళ్లు ప్రయత్నించారు. ఇది పైన వివరించిన, ఎస్ఎంఎస్ మరియు WhatsApp ద్వారా కార్యకలాపాలు సాగించిన, కంబోడియా నుంచి ఉద్భవించినట్లు భావిస్తున్న మోస కేంద్రానికి సంబంధించినది. ఆ కార్యకలాపంతో సంబంధమున్న “పెట్టుబడి సమూహాలను” WhatsApp నిషేధించిన తర్వాత, నిషేధాలకు సాకు చెప్పేందుకు అన్నట్లుగా, పోటీదారు ఆ సమూహాలపై తప్పుడు ఫిర్యాదు చేశారని పేర్కొనే సందేశాలను నిర్వాహకులు రూపొందించడం ప్రారంభించారు.

WhatsApp తొలగింపు చర్య తర్వాత, కంబోడియాతో సంబంధమున్న మోసపూరిత కార్యకలాపం OpenAI పరిశోధకుడికి పంపిన WhatsApp సందేశపు తెరచిత్రం.