মডেলের জ্ঞান স্থানান্তরের সমন্বিত অভিযান রুখে দেওয়া
সম্প্রতি আমরা আমাদের মডেলগুলো থেকে সুরক্ষিত যুক্তিবিশ্লেষণ বের করার একটি সমন্বিত অভিযান শনাক্ত করে তা রুখে দিয়েছি. এই তৎপরতা প্রথম নজরে আসে জুলাইয়ের প্রথম সপ্তাহে. এই তৎপরতা বিদ্বেষমূলক জ্ঞান স্থানান্তরের সঙ্গে সংগতিপূর্ণ: অর্থাৎ, অন্য একটি মডেলকে প্রশিক্ষণ দিতে, পুনরায় তৈরি করতে বা উন্নত করতে একটি মডেলের উত্তর বা যুক্তিবিশ্লেষণ পদ্ধতিগতভাবে ও অনুমতি ছাড়া ব্যবহার করা. সুরক্ষিত যুক্তিবিশ্লেষণ হলো কোনো কাজ সম্পন্ন করার সময় মডেলের অভ্যন্তরীণ চিন্তাপ্রক্রিয়ার নথি. এটি বের করা গেলে চূড়ান্ত উত্তরে প্রকাশ না করা তথ্য জানা যেতে পারে এবং অন্যরা মডেলটির সক্ষমতা পুনরায় তৈরি করতে সহায়তা পেতে পারে.
অভিযান পরিচালনাকারীরা আমাদের সাংকেতিক সুরক্ষা ভাঙেনি, কোনো তথ্যভান্ডারে অনুপ্রবেশ করেনি বা সংরক্ষিত ব্যবহারকারী কথোপকথনে সরাসরি প্রবেশাধিকার পায়নি. বরং তারা মডেলের সঙ্গে কথোপকথন কৌশলে এমনভাবে প্রভাবিত করেছে, যাতে সুরক্ষিত যুক্তিবিশ্লেষণ অনুরোধকারীর কাছে দৃশ্যমান আকারে পুনরায় প্রকাশ করা যায়. তারা সমন্বিতভাবে ও ব্যাপক পরিসরে এটি করেছে, যা আমাদের পরিষেবার শর্তাবলির লঙ্ঘন. এই কৌশলে কাজে লাগানো দুর্বলতা শুধু OpenAI-এর মডেলেই সীমাবদ্ধ নয়. বিদ্বেষমূলক জ্ঞান স্থানান্তরের বিরুদ্ধে যৌথ প্রতিরক্ষা জোরদার করতে আমরা ফ্রন্টিয়ার মডেল ফোরামের মাধ্যমে শিল্পখাতের অংশীদারদের সঙ্গে এ-সংক্রান্ত তথ্য বিনিময় করেছি.
এটি প্রকাশের আগে আমরা ঘটনার পরিসর ও সম্ভাব্য প্রভাব তদন্ত করেছি এবং নিজেদের প্রতিরোধব্যবস্থা কার্যকর করেছি. এ ধরনের আক্রমণের বিরুদ্ধে সুরক্ষা নিশ্চিত করতে গবেষক ও শিল্পখাতের অংশীদারদের তথ্য জানিয়েছি এবং তাঁদের মতামত নিয়েছি. আরও প্রতিরোধব্যবস্থা নেওয়ার কাজ ও তদন্ত চলছে. আমরা বিশ্বাস করি, এখনই আমাদের অর্জিত অভিজ্ঞতা সবার সঙ্গে ভাগ করে নিলে তা সংশ্লিষ্ট বৃহত্তর পরিমণ্ডলের প্রতিরক্ষা জোরদার করতে সাহায্য করবে.
আমরা দেখেছি, অভিযান পরিচালনাকারীরা নতুন নতুন উপায়ে সুরক্ষিত যুক্তিবিশ্লেষণ বের করার চেষ্টা করেছে. এর মধ্যে ছিল এক কথোপকথন থেকে সাংকেতিকভাবে সুরক্ষিত যুক্তিবিশ্লেষণ অনুলিপি করে অন্য কথোপকথনে একটি মডেলকে দিয়ে তার সংকেতোদ্ধার করানো এবং লুকানো যুক্তিবিশ্লেষণ লিখিয়ে নেওয়ার চেষ্টা.
স্বাধীন নিরাপত্তা গবেষকেরাও(একটি নতুন উইন্ডোতে খোলে) দায়িত্বশীলভাবে তথ্য প্রকাশের প্রক্রিয়ার মাধ্যমে একাধিক মডেল জুড়ে ব্যবহার এবং কথোপকথন সংকোচনের সঙ্গে সম্পর্কিত দুর্বলতাগুলো আমাদের নজরে এনেছেন. আমরা তাঁদের অনুসন্ধানের ফল তদন্ত করে নিশ্চিত হয়েছি যে তাঁদের শনাক্ত করা পথে সত্যিই আক্রমণ করা সম্ভব ছিল. তাঁদের কাজ এই বৃহত্তর শ্রেণির আক্রমণ বুঝতে এবং প্রতিরোধব্যবস্থা দ্রুত কার্যকর করতে আমাদের সহায়তা করেছে.
তৎপরতা শুরু হয় ১ জুলাই, প্রথমে সীমিত পরিসরে. এরপর ২৪ ও ২৫ জুলাই আমরা এর মাত্রা হঠাৎ বেড়ে যেতে দেখি. ওই দুই দিনে ৪,০০০-এর বেশি ব্যবহারকারীর কাছ থেকে সংশ্লিষ্ট তথ্য বের করার ধরন অনুসরণ করে ১৬,০০০টি অনুরোধ1 আসে. আরও তদন্তে ১৫,০০০-এর বেশি ব্যবহারকারীর একটি গুচ্ছে সংশ্লিষ্ট প্রম্পটের ধরনভিত্তিক তৎপরতা শনাক্ত হয়. ২৮ জুলাইয়ের মধ্যে আমরা তা পুরোপুরি রুখে দিই.
সময়ের সঙ্গে তৎপরতার ধরন বদলেছে. এতে আরও স্পষ্ট হয়েছে যে বিদ্বেষমূলক জ্ঞান স্থানান্তর একটি বৃহত্তর নিরাপত্তা চ্যালেঞ্জ, যার মোকাবিলায় বহুস্তরীয় ও পরিস্থিতির সঙ্গে খাপ খাওয়াতে সক্ষম প্রতিরক্ষা প্রয়োজন.
সংশ্লিষ্ট সময়ে আমাদের নজরে আসা সব পরিচালনাকারী একই পক্ষের হয়ে কাজ করছিল কি না, তা স্পষ্ট নয়. তবে আমাদের মূল্যায়নে, এই তৎপরতার একটি মূল গুচ্ছের পেছনে ছিল কিমির নির্মাতা মুনশট এআইয়ের সঙ্গে যুক্ত কিছু ব্যক্তি.
বিদ্বেষমূলক জ্ঞান স্থানান্তর নিরাপদ ব্যবহার ও জাতীয় নিরাপত্তার জন্য ঝুঁকি তৈরি করে. মূল মডেল ব্যবহারকারীকে যে উত্তর দেয়, তাতে প্রযোজ্য সুরক্ষাব্যবস্থা বজায় না রেখেই বের করে নেওয়া যুক্তিবিশ্লেষণ অন্য মডেলকে প্রশিক্ষণ দিতে ব্যবহার করা যেতে পারে. বড় পরিসরে জ্ঞান স্থানান্তরের মাধ্যমে নিরাপত্তায় সমপরিমাণ বিনিয়োগ ছাড়াই উন্নত সক্ষমতা আরও দ্রুত অন্য মডেলে স্থানান্তর করাও সম্ভব. যেসব ক্ষেত্রে মঙ্গল ও ক্ষতি—দুই উদ্দেশ্যেই ব্যবহার সম্ভব, সেসব ক্ষেত্রে মডেলের সক্ষমতা বাড়ার সঙ্গে সঙ্গে এই উদ্বেগগুলো আরও তীব্র হয়.
এই ঝুঁকি শুধু OpenAI-এর নয়. আগেই উল্লেখ করা হয়েছে, একই ধরনের কৌশল অন্য উন্নত কৃত্রিম বুদ্ধিমত্তাব্যবস্থাকেও প্রভাবিত করতে পারে. ফলে এটি সবার জন্য একটি নিরাপত্তা চ্যালেঞ্জ, যা মোকাবিলায় শিল্পখাত জুড়ে সমন্বয় প্রয়োজন.
অ্যাকাউন্টের বিরুদ্ধে বিধি অনুযায়ী ব্যবস্থা, প্রযুক্তিগত নিয়ন্ত্রণ এবং অংশীদারদের সঙ্গে সমন্বয়ের মাধ্যমে আমরা সাম্প্রতিক এই জ্ঞান স্থানান্তর অভিযান প্রতিহত করেছি. আমরা প্রতারণামূলক অ্যাকাউন্টগুলো নিষিদ্ধ করেছি বা সেগুলোর ব্যবহার সীমিত করেছি, নিবন্ধন ও অবকাঠামোগত নিয়ন্ত্রণ জোরদার করেছি এবং সংশ্লিষ্ট নেটওয়ার্কগুলোর ওপর নজরদারি বাড়িয়েছি.
এ ছাড়া আমরা বিভিন্ন ব্যবহারকারী, কর্মপরিসর, প্রতিষ্ঠান ও মডেল পরিবারের মধ্যে লুকানো যুক্তিবিশ্লেষণের সুরক্ষা জোরদার করেছি. কারও কাছে অন্য ব্যবহারকারীর সাংকেতিকভাবে সুরক্ষিত যুক্তিবিশ্লেষণ আগে থেকেই থাকলে, সেটি পুনরায় পাঠিয়ে তার বিষয়বস্তু উদ্ধার করার একটি পথ আমরা বন্ধ করেছি. এ ছাড়া, ধাপে ধাপে পাঠানো উত্তরে যুক্তিবিশ্লেষণ প্রকাশ পাওয়ার আশঙ্কা থাকলে তা শনাক্ত করে আটকে রাখার ব্যবস্থা যোগ করেছি. সংশ্লিষ্ট তৎপরতা তৃতীয় পক্ষের পরিষেবার মাধ্যমে চলতে শুরু করলে আমরা সেসব সেবাদাতার সঙ্গে কাজ করে জড়িত অ্যাকাউন্টগুলো শনাক্ত করেছি এবং তাদের কার্যক্রম রুখে দিয়েছি.
সবশেষে, আমরা ফ্রন্টিয়ার মডেল ফোরাম এবং উপযুক্ত সরকারি তথ্য বিনিময় ব্যবস্থার মাধ্যমে প্রাসঙ্গিক অনুসন্ধানের ফল জানিয়েছি. এর উদ্দেশ্য ছিল, অত্যাধুনিক মডেলের অন্য নির্মাতারা ও সরকারি খাতের অংশীদারেরা যেন একই ধরনের তৎপরতা খুঁজে দেখতে এবং নিজেদের প্রতিরক্ষা জোরদার করতে পারেন. যেসব ব্যবস্থায় যুক্তিবিশ্লেষণের নথি এক জায়গা থেকে অন্য জায়গায় নেওয়া বা পুনরায় পাঠানো যায়, সেগুলোও একই ধরনের ঝুঁকিতে পড়তে পারে.
আমাদের ধারণা, অত্যাধুনিক মডেলের উন্নতির সঙ্গে সঙ্গে এবং সংশ্লিষ্ট পক্ষগুলো সেগুলোর সক্ষমতা কম খরচে অনুকরণ করার উপায় খুঁজতে থাকায় বিদ্বেষমূলক জ্ঞান স্থানান্তরের চেষ্টাও আরও পরিশীলিত হবে. এই তৎপরতা প্রতিরোধে বহুস্তরীয় নিয়ন্ত্রণ এবং প্রতিনিয়ত পরিস্থিতির সঙ্গে খাপ খাইয়ে নেওয়া প্রয়োজন.
এই কাজ এখনো শেষ হয়নি. নিজেদের সরাসরি পরিচালিত পরিষেবার মতো অংশীদারদের অবকাঠামোয় চালু ব্যবস্থাগুলোতেও একই সুরক্ষা প্রয়োজন. আর সরঞ্জামের ফলাফলের মাধ্যমে চালানো আক্রমণ ঠেকাতে এমন সুরক্ষাব্যবস্থা দরকার, যা সাধারণ দৃশ্যমান লেখার বাইরেও পরীক্ষা করে. আমরা সরঞ্জামের প্রতিরক্ষা, শ্রেণিবিন্যাসকারীর শনাক্তকরণের পরিসর এবং অনুচিত অনুরোধ প্রত্যাখ্যানে মডেলের সক্ষমতা উন্নত করে চলেছি. পাশাপাশি, ক্লাউড পরিষেবার অংশীদারদের মধ্যেও প্রাসঙ্গিক নিয়ন্ত্রণগুলো কার্যকর করছি.
আমাদের পদক্ষেপে তিনটি ক্ষেত্র অগ্রাধিকার পেতে থাকবে: তথ্য বের করে নেওয়ার বিরুদ্ধে আরও শক্তিশালী প্রযুক্তিগত সুরক্ষা, সমন্বিত অভিযান আরও ভালোভাবে শনাক্ত করা ও তার বিরুদ্ধে ব্যবস্থা নেওয়া এবং শিল্পখাত ও সরকারের মধ্যে হুমকি-সংক্রান্ত তথ্য আরও ব্যাপকভাবে বিনিময় করা.
