ప్రేమ వల మోసం: కృత్రిమ మేధ సహాయంతో పిగ్ బుచరింగ్ కార్యప్రవాహాలు
కంబోడియా నుంచి పనిచేస్తున్నట్లు కనిపిస్తూ, ప్రేమ మరియు పెట్టుబడి మోసపు సంభాషణలను అనువదించడానికి, రూపొందించడానికి కృత్రిమ మేధను ఉపయోగించిన ఖాతాలను OpenAI నిషేధించింది.
ఈ సందర్భ అధ్యయనం మొదట OpenAI ఫిబ్రవరి 2025(కొత్త విండోలో తెరుచుకుంటుంది) నివేదికలో ప్రచురితమైంది.
ముప్పు కార్యకర్త
జపనీస్, చైనీస్, ఆంగ్ల భాషల్లో చిన్న వ్యాఖ్యలను అనువదిస్తూ, రూపొందిస్తూ ఉన్న ChatGPT ఖాతాల సమూహాన్ని మేము నిషేధించాము. ఈ కార్యకలాపం కంబోడియా నుంచి ప్రారంభమైనట్లు కనిపించింది. ఇది ప్రేమ, పెట్టుబడి మోసానికి, మరో పేరుతో చెప్పాలంటే “పిగ్ బుచరింగ్” మోసానికి అనుగుణంగా ఉంది. కంబోడియాలో కొత్తగా ఏర్పాటు చేసిన మోసపు కేంద్రం నుంచి ప్రారంభమైనట్లు కనిపించిన సంబంధిత కార్యకలాపాన్ని Meta ఇటీవల తన వేదికలో గుర్తించింది(కొత్త విండోలో తెరుచుకుంటుంది).
ప్రవర్తన
చిన్న వ్యాఖ్యలను అనువదించడానికి, రూపొందించడానికి ఈ నెట్వర్క్ మా మోడళ్లను ఉపయోగించింది. ఈ కార్యకర్తల ప్రధాన భాష చైనీస్ అయి ఉండవచ్చు. ఫలితాలు పలు భాషల్లో, ముఖ్యంగా జపనీస్, చైనీస్ భాషల్లో, అలాగే ఆంగ్లంలోనూ ఉన్నాయి.
ఈ కార్యకర్తలు ప్రధానంగా రెండు పనుల కోసం మా మోడళ్లను ఉపయోగించారు. మొదట, Facebook, X, Instagram సహా సామాజిక మాధ్యమ వేదికల్లో బహిరంగంగా పోస్ట్ చేయడానికి వారు వ్యాఖ్యలను రూపొందించేవారు. ప్రతి సామాజిక మాధ్యమ ఖాతాలో సాధారణంగా ఒక యువతి చిత్రాలు ఒకటి లేదా అంతకంటే ఎక్కువ ప్రొఫైల్ చిత్రాలుగా ఉండేవి. వీటిలో కనీసం కొన్నింటిని కృత్రిమ మేధతో రూపొందించకుండా, నిజమైన మోడళ్లు లేదా ప్రభావశీలుల నుంచి కాపీ చేశారని మేము అంచనా వేస్తున్నాము.
రూపొందించిన వ్యాఖ్యల్లో అధిక భాగాన్ని నిజమైన వ్యక్తుల సామాజిక మాధ్యమ పోస్ట్లకు సమాధానంగా పోస్ట్ చేశారు. నిర్వాహకులు సమాధానమిచ్చిన కొన్ని పోస్ట్లు నెలలు లేదా సంవత్సరాల కిందటివి. ఈ కార్యకలాపం సాధారణంగా బహిరంగ ప్రొఫైల్ ప్రకారం 40 ఏళ్లు పైబడిన పురుషులను, ముఖ్యంగా వైద్య వృత్తుల్లో ఉన్నవారిని లక్ష్యంగా చేసుకుంది. ఈ కార్యకలాపం గోల్ఫ్కు సంబంధించిన పోస్ట్లకు తరచూ సమాధానమిచ్చింది. ఇది ఉద్దేశపూర్వక లక్ష్య ఎంపిక వ్యూహాన్ని సూచిస్తోంది. అప్పుడప్పుడు మోసగాళ్లు రాజకీయ అంశాలు లేదా ప్రస్తుత ఘటనల గురించి పోస్ట్ చేసేవారు.
ఈ వ్యక్తి మా మోడళ్లను ఉపయోగించి రూపొందించిన Facebook వ్యాఖ్య. ఈ కార్యకలాపంతో సంబంధం ఉన్నట్లు కనిపించని వ్యక్తి గోల్ఫ్ గురించి చేసిన వ్యాఖ్యకు సమాధానంగా దీన్ని పోస్ట్ చేశారు. మోసపు ఖాతా ప్రొఫైల్ చిత్రాన్ని అమెరికాకు చెందిన ఫ్యాషన్, సౌందర్య ప్రభావశీలి నుంచి కాపీ చేశారు. మోసపు ఖాతా అక్కడ పోస్ట్ చేసే సమయానికి అసలు పోస్ట్ చేసి నెలకు పైగా అయింది.
మా మోడళ్లు రూపొందించిన ఈ వ్యాఖ్యను, ఈ మోసంతో సంబంధం ఉన్నట్లు కనిపించని ఒక ఖాతా చేసిన ట్వీట్కు సమాధానంగా Xలోని ధృవీకృత ఖాతా పోస్ట్ చేసింది. ఆ ఖాతా ప్రొఫైల్ చిత్రాన్ని అదే అమెరికా ఫ్యాషన్, సౌందర్య ప్రభావశీలి నుంచి కాపీ చేశారు. అసలు ట్వీట్ దాదాపు ఆరు నెలల కిందటిది.
రెండవది, మరింత తరచుగా, ఆన్లైన్ సంభాషణలోని భాగాల్లా కనిపించే చిన్న వ్యాఖ్యలను నిర్వాహకులు రూపొందించేవారు. సాధారణంగా చైనీస్లోని వ్యాఖ్యలను లక్ష్య భాషకు, అంటే జపనీస్ లేదా ఆంగ్లానికి, లేదా లక్ష్య భాష నుంచి తిరిగి చైనీస్కు అనువదించేవారు. కొనసాగుతున్న సంభాషణలను అనువదించడానికే మోసగాళ్లు ప్రధానంగా మోడల్ను ఉపయోగించారనే దానికి ఇది అనుగుణంగా ఉంది.
కొన్నిసార్లు, సరసంగా మాట్లాడే యువతిలా నిర్దిష్ట శైలిలో సమాధానాన్ని రూపొందించమని ఖాతాలు మోడల్ను అడిగేవి. మోడల్ సమాధానాలకు మార్గనిర్దేశం చేయడానికి కొన్నిసార్లు నకిలీ వ్యక్తిత్వం పేరు, విద్యా నేపథ్యం, ఉద్యోగం, ప్రాంతం, అభిరుచులు సహా విస్తృతమైన జీవిత వివరాలను అందించేవారు. ఈ నకిలీ వ్యక్తి ఆన్లైన్ పెట్టుబడులు పెడతారనే వివరాన్ని సాధారణంగా ఆ జీవిత చరిత్రల్లో చేర్చేవారు.
తమ లక్ష్యాలతో సంభాషించడానికి మోసగాళ్లు అనేక రకాల సాధనాలు, వేదికలను ఉపయోగించినట్లు కనిపిస్తోంది. వారు LINE, WhatsApp, X, Facebook, Instagram, ఇతర సందేశ సేవలు, Appleకు చెందిన “నా ఈమెయిల్ను దాచు” సదుపాయం(కొత్త విండోలో తెరుచుకుంటుంది), క్రిప్టోకరెన్సీ, విదేశీ మారక వేదికలను ఉపయోగించినట్లు మా దర్యాప్తులో ఆధారాలు లభించాయి.
రూపొందించిన స్పందనలు
ఈ కార్యకలాపంలో మాకు కనిపించిన నిర్దిష్ట భాగం ఆధారంగా, లక్ష్యాలతో పరిచయం ఏర్పరచుకోవడం నుంచి మోసపూరిత పెట్టుబడికి నడిపించడం వరకు మోసగాళ్లు ఒకే విధమైన కార్యప్రవాహాన్ని అనుసరించినట్లు కనిపిస్తోంది:
బహిరంగ పరిచయం: లక్ష్య వ్యక్తి సామాజిక మాధ్యమ పోస్ట్లపై మోసగాళ్లు వ్యాఖ్యలు చేసేవారు. ఈ వ్యాఖ్యలు తరచూ “ఈ [అంశం] గురించి మీ అభిప్రాయం ఏమిటి?” వంటి ప్రశ్నతో ముగిసేవి. దీనివల్ల సంభాషణ మొదలయ్యే అవకాశం పెరుగుతుందని భావించవచ్చు. కొన్ని సందర్భాల్లో వారు రాజకీయాలపై వ్యాఖ్యానించారు. అయితే ఎక్కువగా గోల్ఫ్ గురించి మాట్లాడారు.
ప్రత్యక్ష సందేశాలు పంపే అవకాశం: ఆ తర్వాత మోసగాళ్లు సంభాషణ శైలిలో చిన్న వ్యాఖ్యలను రూపొందించేవారు. వీటిని ఎలా, ఎక్కడ ఉపయోగించారనే పూర్తి సమాచారం మాకు లేదు. అయితే మోసగాడు, లక్ష్య వ్యక్తి ప్రత్యక్ష సందేశాలు పంపుకోవడం ప్రారంభించిన సందర్భానికి ఈ వ్యాఖ్యలు అనుగుణంగా ఉన్నాయి.
సురక్షిత సందేశ సేవ: అతి త్వరగా, తరచూ కొన్ని రోజుల్లోనే, మరింత సురక్షితమైన సందేశ అనువర్తనానికి మారాలని సూచించే సందేశాలను మోసగాళ్లు రూపొందించేవారు. కొన్నిసార్లు సామాజిక మాధ్యమాలను తాము నమ్మబోమని మోసగాళ్లు చెప్పేవారు. మరికొన్నిసార్లు సామాజిక మాధ్యమాలు అందుబాటులో ఉండని ప్రాంతానికి వెళ్లబోతున్నామని చెప్పడం వంటి ఆచరణాత్మక సాకులు చూపేవారు.
ప్రేమపూర్వక పరిచయం: మోసగాళ్లు క్రమంగా మరింత ఆప్యాయంగా, సన్నిహితంగా ఉండే సందేశాలను రాసి, అనువదించేవారు. తాము మాట్లాడుతున్న “మహిళ” ఫొటోలు కావాలని లక్ష్య వ్యక్తులు అడిగితే, మోసగాళ్లు సాకులు చెప్పేవారు.
ఆర్థిక పరిచయం: విదేశీ మారకం, క్రిప్టోకరెన్సీ లేదా బంగారంలో ఆన్లైన్ పెట్టుబడి ద్వారా పెద్ద మొత్తంలో డబ్బు సంపాదించామని గొప్పగా చెప్పే సందేశాలను మోసగాళ్లు రాసి, అనువదించేవారు. ఆర్థిక రంగంలో పనిచేసే బంధువు సలహాను పాటించడం వల్లే ఇది సాధ్యమైందని తరచూ చెప్పేవారు. అదే విధంగా పెట్టుబడి పెట్టడం ప్రారంభించాలని మోసగాడు లక్ష్య వ్యక్తిని ఒత్తిడి చేస్తూ, ఆ ప్రక్రియలో మార్గనిర్దేశం చేస్తానని చెప్పేవాడు.
మోసం: వ్యాపార అనువర్తనానికి డబ్బు బదిలీ చేయాలని బాధితుడిని ఒప్పించే సందేశాలను మోసగాళ్లు రాసి, అనువదించేవారు. తాము ఎంత లాభం పొందుతున్నామో గొప్పగా చెబుతూ వారిని ప్రోత్సహించేవారు. బాధితుడు తన “లాభాలను” ఉపసంహరించుకోవడానికి ప్రయత్నించిన ప్రతిసారీ, రుసుము చెల్లించాలనడం వంటి సాకును మోసగాడు చూపేవాడు.
ఇలాంటి మోసాలు సాధారణంగా పనిచేసే విధానంపై బహిరంగంగా అందుబాటులో ఉన్న నివేదికలకు(కొత్త విండోలో తెరుచుకుంటుంది) ఈ కార్యకలాప నమూనా అనుగుణంగా ఉంది.
ప్రభావం
ఈ కార్యకలాపంలో ఫలించని అనేక ప్రయత్నాలు, వైఫల్యాలు ఉన్నట్లు కనిపిస్తోంది. మోసగాళ్లు మా మోడళ్ల ద్వారా నిర్వహించిన కొన్ని సంభాషణలు, ఈ కార్యకలాపం మోసమని లక్ష్య వ్యక్తి గుర్తించి చెప్పడంతో లేదా తమను ఒంటరిగా వదిలేయమని మోసగాడికి చెప్పడంతో ముగిశాయి. మోసగాళ్లు సామాజిక మాధ్యమాల్లో చేసిన కొన్ని పోస్ట్లకు అసలు ఎలాంటి స్పందనా రాలేదని కూడా మేము గుర్తించాము.
అయితే, కొన్ని సంభాషణల్లో వ్యక్తిగత లావాదేవీల మొత్తాలు వేల డాలర్లు లేదా ఇతర కరెన్సీల్లో దానికి సమానమైన మొత్తాల్లో ఉన్నట్లు ప్రస్తావించారు. ఈ నిర్వాహకులు మా మోడళ్లను ఉపయోగించిన తీరును బట్టి, ఆ ఆర్థిక లావాదేవీలు నిజంగా జరిగాయో లేదో మాకు తెలియదు. అయితే కనీసం కొన్ని సందర్భాల్లో మోసగాళ్లు తమ లక్ష్యాలను మోసం చేయగలిగారని సంభాషణల్లోని ప్రస్తావనలు సూచిస్తున్నాయి.
మోసం లేదా కుంభకోణాల కోసం మా సాధనాల ఫలితాలను ఉపయోగించడాన్ని OpenAI విధానాలు ఖచ్చితంగా నిషేధిస్తాయి. ప్రతికూల కార్యకలాపాల్లో కృత్రిమ మేధను ఎలా ఉపయోగిస్తున్నారో అర్థం చేసుకోవడానికి, మా సేవలను దుర్వినియోగం చేసే మోసపు కార్యకలాపాలను చురుగ్గా అడ్డుకోవడానికి పరిశ్రమ సహచరులు, అధికారులతో కలిసి పనిచేయడానికి మేము కట్టుబడి ఉన్నాము. ఈ నిబద్ధతకు అనుగుణంగా, మేము అడ్డుకున్న మోసపు నెట్వర్క్ల సమాచారాన్ని పరిశ్రమ సహచరులు, సంబంధిత అధికారులతో పంచుకున్నాము.