চীন গণপ্রজাতন্ত্র-সংশ্লিষ্ট অপব্যবহার: নজরদারি ও প্রভাব কার্যক্রম

এই কেস স্টাডিটি প্রথমে OpenAI-এর অক্টোবর ২০২৫⁠(একটি নতুন উইন্ডোতে খোলে) প্রতিবেদনে প্রকাশিত হয়েছিল.

চীন গণপ্রজাতন্ত্রের সরকারি সংস্থার সঙ্গে আপাতভাবে যুক্ত ব্যক্তিরা উন্নয়ন, প্রোফাইলিং এবং আমলাতান্ত্রিক কাজে সহায়তার জন্য ChatGPT ব্যবহার করছিলেন.

মার্চে বিজ্ঞান ও প্রযুক্তি নীতি দপ্তরের যুক্তরাষ্ট্রের কৃত্রিম বুদ্ধিমত্তা কর্মপরিকল্পনায় আমাদের জমা দেওয়া মতামতে যেমন বলেছিলাম, আমরা মনে করি কৃত্রিম বুদ্ধিমত্তা যাতে যত বেশি সম্ভব মানুষের উপকারে আসে তা নিশ্চিত করার অর্থ হলো বাস্তব ক্ষতি থেকে মানুষকে সুরক্ষিত রাখার লক্ষ্যে সাধারণ বোধসম্পন্ন নিয়মের মাধ্যমে কৃত্রিম বুদ্ধিমত্তাকে সক্ষম করা, এবং গণতান্ত্রিক কৃত্রিম বুদ্ধিমত্তা গড়ে তোলা. গণতান্ত্রিক কৃত্রিম বুদ্ধিমত্তা বলতে আমরা এমন কৃত্রিম বুদ্ধিমত্তা বুঝি, যা আমেরিকার চিরকালীন গণতান্ত্রিক নীতির আলোকে গড়ে ওঠে. এর মধ্যে রয়েছে কর্তৃত্ববাদী শাসনব্যবস্থাগুলোকে ক্ষমতা কুক্ষিগত করা এবং নাগরিকদের নিয়ন্ত্রণের জন্য কৃত্রিম বুদ্ধিমত্তার সরঞ্জাম ব্যবহার থেকে বিরত রাখা.

কর্তৃত্ববাদী শাসনব্যবস্থাগুলোর ChatGPT‑এর সক্ষমতা অপব্যবহারের চেষ্টা শনাক্ত ও ব্যাহত করতে আমাদের বিনিয়োগ এখনই মানুষকে সুরক্ষা দেয়, এবং ভবিষ্যৎ সক্ষমতাগুলো তারা কীভাবে অপব্যবহার করতে পারে সে সম্পর্কে গুরুত্বপূর্ণ ধারণাও দেয়. এই অংশে চীন গণপ্রজাতন্ত্রকে কেন্দ্র করে, এমন শাসনব্যবস্থার সঙ্গে সম্ভাব্যভাবে যুক্ত ব্যক্তিদের বিষয়ে এ ধরনের অনুসন্ধানের একটি সেট আলোচনা করা হয়েছে.

জুনে আমরা যেমন লিখেছিলাম, চীন গণপ্রজাতন্ত্র কৃত্রিম বুদ্ধিমত্তার নিজস্ব স্বৈরতান্ত্রিক সংস্করণ এগিয়ে নিতে বাস্তব অগ্রগতি করছে. চীনা সরকারি সংস্থার সঙ্গে আপাতভাবে যুক্ত ব্যক্তিদের ব্যবহৃত ChatGPT অ্যাকাউন্ট আমরা ব্যাহত করায় এই কর্তৃত্ববাদী প্রেক্ষাপটে কৃত্রিম বুদ্ধিমত্তা ব্যবহারের বর্তমান অবস্থার ওপর কিছুটা আলো পড়েছে. এই ব্যবহারের কিছু অংশ অনলাইন বা অফলাইন ট্রাফিকের বৃহৎ পরিসরের নজরদারিতে সহায়তা করার উদ্দেশ্যে ছিল বলে মনে হয়েছে, যা এই ক্ষেত্রে সম্ভাব্য কর্তৃত্ববাদী অপব্যবহারের দিকে আমাদের চলমান মনোযোগের গুরুত্ব তুলে ধরে. এই ব্যবহারের অন্য অংশগুলো আরও গভীর প্রোফাইলিংয়ের উদ্দেশ্যে ছিল বলে মনে হয়েছে. আমরা এই কার্যকলাপের সঙ্গে যুক্ত অ্যাকাউন্টগুলো নিষিদ্ধ করেছি এবং এই প্রতিবেদনে প্রাপ্ত ধারণা শেয়ার করছি.

এই গবেষণাটি নীতিলঙ্ঘনকারী যে কার্যকলাপ আমরা শনাক্ত করে নিষিদ্ধ করেছি, সেগুলোর কয়েকটি ব্যাহত করার ঘটনার ওপর ভিত্তি করে তৈরি. সেই কার্যকলাপ আমাদের মডেলগুলোর বৃহৎ পরিসরের প্রাতিষ্ঠানিক গ্রহণের বদলে ব্যক্তিগত ব্যবহারকারীদের ChatGPT ব্যবহারের সঙ্গে সামঞ্জস্যপূর্ণ ছিল. তাই এই প্রেক্ষাপটে বিভিন্ন কৃত্রিম বুদ্ধিমত্তা মডেলের ব্যবহারের এটি একটি সীমিত চিত্রমাত্র.

আমরা যে অ্যাকাউন্টগুলোর কিছু নিষিদ্ধ করেছি, সেগুলো বৃহৎ পরিসরের নজরদারির সরঞ্জাম তৈরি করতে ChatGPT ব্যবহার করার চেষ্টা করছিল বলে মনে হয়েছে: ডেটাসেট বিশ্লেষণ করা, যা প্রায়ই পশ্চিমা বা চীনা সামাজিক মাধ্যম প্ল্যাটফর্ম থেকে সংগ্রহ করা হয়েছিল. ফেব্রুয়ারিতে আমরা এমন একটি ঘটনার কথা জানিয়েছিলাম, যার লক্ষ্য ছিল কৃত্রিম বুদ্ধিমত্তাচালিত সামাজিক মাধ্যম শুনানি সরঞ্জাম নকশা করা; অপারেটরদের দাবি ছিল এটি চীনা নিরাপত্তা বাহিনীর জন্য. এই ব্যবহারকারীরা সাধারণত ChatGPT‑কে এমন সরঞ্জাম নকশা করতে বা সেগুলো নিয়ে প্রচারমূলক উপকরণ তৈরি করতে সাহায্য করতে বলেছিলেন, তবে নজরদারি বাস্তবায়ন করতে বলেননি.

উদাহরণস্বরূপ, আমরা সম্প্রতি এক ব্যবহারকারীকে নিষিদ্ধ করেছি, যিনি সম্ভবত চীন থেকে আমাদের সেবায় প্রবেশ করতে VPN ব্যবহার করছিলেন এবং ChatGPT‑কে একটি সামাজিক মাধ্যম শুনানি সরঞ্জামের প্রচারমূলক উপকরণ ও প্রকল্প পরিকল্পনা নকশায় সাহায্য করতে বলছিলেন; দাবি করা হয়েছিল এটি সরকারি ক্লায়েন্টের ব্যবহারের জন্য. সরঞ্জামটিকে সামাজিক মাধ্যমের একটি “প্রোব” (探针) হিসেবে বর্ণনা করা হয়েছিল, যা ব্যবহারকারীর ভাষায় চরমপন্থী বক্তব্য এবং জাতিগত, ধর্মীয় ও রাজনৈতিক কনটেন্টের জন্য Twitter/X, Facebook, Instagram, Reddit, TikTok এবং YouTube স্ক্যান করতে পারে বলে দাবি করা হয়েছিল. ব্যবহারকারী প্রকৃত সামাজিক মাধ্যম নজরদারি চালাতে আমাদের মডেল ব্যবহার করেননি. এই সরঞ্জামটি কোনো চীনা সরকারি সংস্থা ব্যবহার করেছে কি না, তা আমরা স্বাধীনভাবে যাচাই করতে পারছি না.

একইভাবে, আমরা সম্ভবত কোনো সরকারি সংস্থার সঙ্গে যুক্ত দ্বিতীয় এক ব্যবহারকারীকে নিষিদ্ধ করেছি, যিনি ChatGPT‑কে “উচ্চ-ঝুঁকির উইঘুর-সম্পর্কিত আগমন সতর্কতা মডেল” (高危涉维吾尔关注人员流入预警模型) নামে বর্ণিত বিষয়ে একটি প্রস্তাব লিখতে সাহায্য করতে বলেছিলেন. প্রস্তাবে এমন একটি সরঞ্জামের কথা বলা হয়েছিল, যা পরিবহন বুকিং বিশ্লেষণ করে সেগুলো পুলিশের নথির সঙ্গে মিলিয়ে দেখবে, যাতে উইঘুর-সম্পর্কিত ও উচ্চ-ঝুঁকির হিসেবে শ্রেণিবদ্ধ মানুষের ভ্রমণগতিবিধি সম্পর্কে আগাম সতর্কতা দেওয়া যায়; এই শ্রেণিটির আর কোনো সংজ্ঞা দেওয়া হয়নি. ব্যবহারকারী এমন সরঞ্জাম তৈরিতে আমাদের মডেলের সাহায্য চাননি, শুধু একটি সাধারণ প্রস্তাব তৈরি করতে বলেছেন; তাই তারা কোন প্রযুক্তি ব্যবহার করতে চেয়েছিলেন বা এমন কোনো সরঞ্জাম কোনো চীনা সরকারি সংস্থা ব্যবহার করেছে কি না, তা আমরা স্বাধীনভাবে নিশ্চিত করতে পারছি না.

আমরা এমন ব্যবহারকারীদেরও নিষিদ্ধ করেছি, যারা চীনা সরকারি সংস্থার সঙ্গে যুক্ত বলে মনে হয়েছে এবং যারা আরও নির্দিষ্ট, লক্ষ্যভিত্তিক প্রোফাইলিং ও অনলাইন গবেষণার জন্য ChatGPT ব্যবহার করার চেষ্টা করছিলেন বলে মনে হয়েছে.

উদাহরণস্বরূপ, এক ব্যবহারকারী ChatGPT‑কে চীনা সরকারের সমালোচনাকারী একটি X অ্যাকাউন্টের অর্থায়নের উৎস শনাক্ত করতে বলেছিলেন. দ্বিতীয় এক ব্যবহারকারী ChatGPT‑কে মঙ্গোলিয়ার একটি আবেদনের আয়োজকদের শনাক্ত করতে বলেছিলেন. এই দুই ক্ষেত্রেই, আমাদের মডেলগুলো কেবল সর্বসাধারণের জন্য উপলভ্য তথ্যই দিয়েছে, যাতে অর্থায়নের উৎস বা আবেদন আয়োজকদের পরিচয়ের মতো সংবেদনশীল বিবরণ ছিল না.

এই কার্যকলাপের কিছু অংশে আমাদের মডেলগুলোকে ওপেন-সোর্স গবেষণা সরঞ্জাম হিসেবে ব্যবহার করা হয়েছে, অনেকটা আগের ব্যবহারকারীরা যেমন ইন্টারনেট বা সামাজিক মাধ্যম অনুসন্ধান ব্যবহার করতে পারতেন. উদাহরণস্বরূপ, তৃতীয় এক ব্যবহারকারী ChatGPT‑কে চীনের জন্য প্রাসঙ্গিক দৈনিক জরুরি সংবাদ শনাক্ত ও সংক্ষেপ করতে বলেছিলেন, যার মধ্যে ১৯৮৯ সালের তিয়ানআনমেন স্কয়ার হত্যাকাণ্ডের বার্ষিকী এবং দালাই লামার জন্মদিনের মতো সংবেদনশীল বিষয়ও ছিল.