పీఆర్‌సీతో సంబంధమున్న దుర్వినియోగం: నిఘా, ప్రభావ కార్యకలాపాలు

ఈ కేస్ స్టడీ మొదట OpenAI అక్టోబర్ 2025⁠(కొత్త విండోలో తెరుచుకుంటుంది) నివేదికలో ప్రచురితమైంది.

చైనా ప్రభుత్వ సంస్థలతో సంబంధం ఉన్నట్లు కనిపించిన వ్యక్తులు అభివృద్ధి, ప్రొఫైలింగ్, అధికార వ్యవహారాల్లో సహాయం కోసం ChatGPTని ఉపయోగించారు.

మార్చిలో అమెరికా కృత్రిమ మేధ కార్యాచరణ ప్రణాళికపై విజ్ఞాన, సాంకేతిక విధాన కార్యాలయానికి సమర్పించిన మా నివేదికలో పేర్కొన్నట్లుగా, వాస్తవ హాని నుంచి ప్రజలను రక్షించే ఆచరణాత్మక నిబంధనలతో కృత్రిమ మేధ వినియోగాన్ని సాధ్యం చేయడం, ప్రజాస్వామ్య కృత్రిమ మేధను నిర్మించడం ద్వారానే వీలైనంత ఎక్కువ మందికి దాని ప్రయోజనాలు అందుతాయని మేము విశ్వసిస్తున్నాం. ప్రజాస్వామ్య కృత్రిమ మేధ అంటే, అమెరికా ఎప్పుడూ సమర్థించిన ప్రజాస్వామ్య సూత్రాలకు అనుగుణంగా రూపుదిద్దుకున్న కృత్రిమ మేధ అని మా ఉద్దేశం. అధికారవాద పాలక వ్యవస్థలు తమ అధికారాన్ని పెంచుకోవడానికి, పౌరులను నియంత్రించడానికి కృత్రిమ మేధ సాధనాలను ఉపయోగించకుండా నిరోధించడం కూడా ఇందులో భాగం.

అధికారవాద పాలక వ్యవస్థలు ChatGPT సామర్థ్యాలను దుర్వినియోగం చేయడానికి చేసే ప్రయత్నాలను గుర్తించి, అడ్డుకోవడంపై మేము పెడుతున్న వనరులు ప్రస్తుతం ప్రజలను రక్షించడమే కాకుండా, భవిష్యత్తు సామర్థ్యాలను ఆ వ్యవస్థలు ఎలా దుర్వినియోగం చేయవచ్చో కీలక అవగాహనను అందిస్తాయి. అలాంటి పాలక వ్యవస్థలతో సంబంధం ఉండవచ్చని భావిస్తున్న వ్యక్తులపై, ముఖ్యంగా పీఆర్‌సీకి సంబంధించిన ఒక పరిశీలనల సమాహారాన్ని ఈ విభాగం వివరిస్తుంది.

జూన్‌లో మేము రాసినట్లుగా, తన అధికారవాద కృత్రిమ మేధ నమూనాను అభివృద్ధి చేయడంలో పీఆర్‌సీ గణనీయమైన పురోగతి సాధిస్తోంది. చైనా ప్రభుత్వ సంస్థలతో సంబంధం ఉన్నట్లు కనిపించిన వ్యక్తులు ఉపయోగించిన ChatGPT ఖాతాలను మేము నిలిపివేయడం, ఈ అధికారవాద వాతావరణంలో కృత్రిమ మేధ ప్రస్తుత వినియోగ స్థితిని కొంతవరకు వెల్లడించింది. ఈ వినియోగంలోని కొన్ని అంశాలు ఆన్‌లైన్ లేదా ఆఫ్‌లైన్ సంచారాన్ని పెద్ద ఎత్తున పర్యవేక్షించడానికి ఉద్దేశించినట్లు కనిపించాయి. ఈ రంగంలో అధికారవాద దుర్వినియోగాల అవకాశంపై మేము నిరంతరం దృష్టి పెట్టాల్సిన ప్రాముఖ్యతను ఇది స్పష్టం చేస్తోంది. ఈ వినియోగంలోని ఇతర అంశాలు మరింత లోతైన ప్రొఫైలింగ్ కోసం ఉద్దేశించినట్లు కనిపించాయి. ఈ కార్యకలాపంతో సంబంధం ఉన్న ఖాతాలను మేము నిషేధించాం. మా పరిశీలనలను ఈ నివేదికలో పంచుకుంటున్నాం.

మేము గుర్తించి నిషేధించిన, నిబంధనలను ఉల్లంఘించే కార్యకలాపాల్లో కొన్నింటిని అడ్డుకున్న ఘటనల ఆధారంగా ఈ అధ్యయనం రూపొందింది. ఆ కార్యకలాపం మా మోడళ్లను సంస్థాగతంగా, పెద్ద ఎత్తున స్వీకరించడం కంటే వ్యక్తిగత వినియోగదారులు ChatGPTని ఉపయోగించిన తీరుకే అనుగుణంగా ఉంది. కాబట్టి, ఈ సందర్భంలో వివిధ కృత్రిమ మేధ మోడళ్ల వినియోగాన్ని పరిమితంగా చూపించే చిత్రణ మాత్రమే ఇది.

మేము నిషేధించిన కొన్ని ఖాతాలు పెద్ద ఎత్తున పర్యవేక్షణ కోసం సాధనాలను రూపొందించేందుకు ChatGPTని ఉపయోగించడానికి ప్రయత్నించినట్లు కనిపించాయి. అవి తరచూ పాశ్చాత్య లేదా చైనా సామాజిక మాధ్యమ వేదికల నుంచి సేకరించిన డేటా సమితులను విశ్లేషించేవి. చైనా భద్రతా దళాల కోసం రూపొందిస్తున్నట్లు నిర్వహకులు పేర్కొన్న, కృత్రిమ మేధ ఆధారిత సామాజిక మాధ్యమ పర్యవేక్షణ సాధనం రూపకల్పనకు సంబంధించిన ఇలాంటి ఒక ఘటనపై ఫిబ్రవరిలో మేము నివేదించాం. ఈ వినియోగదారులు సాధారణంగా అలాంటి సాధనాల రూపకల్పనకు లేదా వాటి ప్రచార సామగ్రి తయారీకి సహాయం చేయమని ChatGPTని అడిగారు. పర్యవేక్షణను అమలు చేయమని మాత్రం అడగలేదు.

ఉదాహరణకు, చైనా నుంచి మా సేవలను పొందేందుకు VPN ఉపయోగించి ఉండవచ్చని భావిస్తున్న ఒక వినియోగదారును ఇటీవల మేము నిషేధించాం. ప్రభుత్వ ఖాతాదారు కోసం అని చెబుతూ, సామాజిక మాధ్యమ పర్యవేక్షణ సాధనానికి ప్రచార సామగ్రి, ప్రాజెక్టు ప్రణాళికలు రూపొందించడంలో సహాయం చేయమని ఆ వినియోగదారు ChatGPTని అడిగారు. వినియోగదారు తీవ్రవాద ప్రసంగంగా పేర్కొన్న అంశాలతో పాటు జాతి, మత, రాజకీయ విషయాల కోసం Twitter/X, Facebook, Instagram, Reddit, TikTok, YouTubeలను శోధించగల సామాజిక మాధ్యమాల ‘శోధక పరికరం’ (探针)గా ఆ సాధనాన్ని వర్ణించారు. వాస్తవ సామాజిక మాధ్యమ పర్యవేక్షణను నిర్వహించడానికి ఆ వినియోగదారు మా మోడల్‌ను ఉపయోగించలేదు. ఈ సాధనాన్ని చైనా ప్రభుత్వ సంస్థ ఏదైనా ఉపయోగించిందో లేదో మేము స్వతంత్రంగా నిర్ధారించలేకపోయాం.

అదేవిధంగా, ప్రభుత్వ సంస్థతో సంబంధం ఉన్నట్లు భావిస్తున్న మరో వినియోగదారును మేము నిషేధించాం. ‘అధిక ప్రమాదం గల ఉయ్‌ఘర్ సంబంధిత వ్యక్తుల ప్రవాహ ముందస్తు హెచ్చరిక మోడల్’ (高危涉维吾尔关注人员流入预警模型)గా వారు వర్ణించిన వ్యవస్థకు ప్రతిపాదన రాయడంలో సహాయం చేయమని ఆ వినియోగదారు ChatGPTని అడిగారు. ఉయ్‌ఘర్ సంబంధిత, అధిక ప్రమాదం గలవారిగా వర్గీకరించిన వ్యక్తుల ప్రయాణాలను ముందుగానే హెచ్చరించేందుకు రవాణా రిజర్వేషన్లను విశ్లేషించి, పోలీసు రికార్డులతో పోల్చే సాధనాన్ని ఆ ప్రతిపాదన వివరించింది. అయితే, ఆ వర్గానికి ఎలాంటి నిర్వచనమూ ఇవ్వలేదు. అలాంటి సాధనాన్ని నిర్మించడంలో సహాయం చేయమని కాకుండా, సాధారణ ప్రతిపాదనను రూపొందించమని మాత్రమే వినియోగదారు మా మోడల్‌ను అడిగారు. కాబట్టి, వారు ఏ సాంకేతికతను ఉపయోగించాలని భావించారో లేదా అలాంటి సాధనాన్ని చైనా ప్రభుత్వ సంస్థ ఏదైనా ఉపయోగించిందో మేము స్వతంత్రంగా నిర్ధారించలేకపోయాం.

చైనా ప్రభుత్వ సంస్థలతో సంబంధం ఉన్నట్లు కనిపిస్తూ, నిర్దిష్ట వ్యక్తులను లక్ష్యంగా చేసుకున్న ప్రత్యేక ప్రొఫైలింగ్, ఆన్‌లైన్ పరిశోధన కోసం ChatGPTని ఉపయోగించడానికి ప్రయత్నించిన వినియోగదారులను కూడా మేము నిషేధించాం.

ఉదాహరణకు, చైనా ప్రభుత్వాన్ని విమర్శించిన ఒక X ఖాతాకు నిధులు ఎక్కడి నుంచి వస్తున్నాయో గుర్తించమని ఒక వినియోగదారు ChatGPTని అడిగారు. మంగోలియాలో ఒక వినతిపత్రాన్ని నిర్వహించినవారిని గుర్తించమని మరో వినియోగదారు ChatGPTని అడిగారు. ఈ రెండు సందర్భాల్లోనూ మా మోడళ్లు బహిరంగంగా అందుబాటులో ఉన్న సమాచారాన్ని మాత్రమే ఇచ్చాయి. అందులో నిధుల మూలాలు లేదా వినతిపత్ర నిర్వాహకుల గుర్తింపుల వంటి సున్నితమైన వివరాలు లేవు.

గతంలో వినియోగదారులు అంతర్జాలం లేదా సామాజిక మాధ్యమాల్లో శోధించిన విధంగానే, ఈ కార్యకలాపాల్లో కొన్నింటికి మా మోడళ్లను బహిరంగ వనరుల పరిశోధన సాధనంగా ఉపయోగించారు. ఉదాహరణకు, 1989 తియానన్‌మెన్ కూడలి మారణకాండ వార్షికోత్సవం, దలైలామా జన్మదినం వంటి సున్నితమైన అంశాలతో సహా చైనాకు సంబంధించిన రోజువారీ తాజా వార్తలను గుర్తించి, సంగ్రహించమని మూడో వినియోగదారు ChatGPTని అడిగారు.