মডেল মূল্যায়নের নিরাপত্তা ঘটনা মোকাবিলায় OpenAI ও Hugging Face একসঙ্গে কাজ করছে

গত সপ্তাহে, Hugging Face নতুন ধরনের একটি নিরাপত্তা ঘটনা প্রকাশ করে⁠(একটি নতুন উইন্ডোতে খোলে), যখন তারা একটি কৃত্রিম বুদ্ধিমত্তা এজেন্ট শনাক্ত ও নিয়ন্ত্রণে আনে, যা তাদের অবকাঠামোতে অনুপ্রবেশ করেছিল; ক্রমবর্ধমান সাইবার-সক্ষম মডেলের বিস্তারের সঙ্গে এমন ঘটনা আরও সাধারণ হয়ে উঠবে বলে আমরা মনে করি. তদন্তের পর আমরা এখন জানি, এই নির্দিষ্ট ঘটনাটি OpenAI মডেলগুলোর সমন্বয়ে ঘটেছিল, যার মধ্যে ছিল GPT‑5.6 Sol এবং আরও সক্ষম একটি প্রাক-প্রকাশ মডেল, সবগুলোর ক্ষেত্রেই মূল্যায়নের উদ্দেশ্যে সাইবার-সম্পর্কিত প্রত্যাখ্যান কমানো ছিল; এগুলো সাইবার সক্ষমতার একটি বেঞ্চমার্কে⁠(একটি নতুন উইন্ডোতে খোলে) অভ্যন্তরীণভাবে পরীক্ষা করা হচ্ছিল.

আমরা এই ঘটনাকে নজিরবিহীন সাইবার ঘটনা হিসেবে দেখছি, যেখানে সর্বাধুনিক সাইবার সক্ষমতা জড়িত ছিল, এবং সে অনুযায়ী সাড়া দিচ্ছি. প্রতিরক্ষাকারীরা যেন কী ঘটেছিল তা বুঝতে পারেন এবং মডেলগুলো এখন কী করতে সক্ষম তা নিয়ে সঠিক ধারণা নিতে পারেন, সে জন্য এই পর্যায়ে আমরা প্রাথমিক ফলাফল শেয়ার করছি. আমরা Hugging Face-এর সঙ্গে পূর্ণাঙ্গ তদন্ত চালিয়ে যাব এবং তদন্ত শেষ হলে দুর্বলতা, ঘটনা ও অনুসন্ধান সম্পর্কে আরও বিস্তারিত জানাব.

এই ঘটনা ঘটে একটি অভ্যন্তরীণ মূল্যায়নের সময়, যেখানে মডেলগুলোর সাইবার সক্ষমতা পরিমাপের উদ্দেশ্যে জটিল আক্রমণপথ ব্যবহার করে উন্নত এক্সপ্লয়টেশন চালাতে সেগুলোকে প্ররোচিত করা হয়. উচ্চ-ঝুঁকির সাইবার কার্যক্রমে মডেলগুলোকে বাধা দিতে ব্যবহৃত প্রোডাকশন ক্লাসিফায়ার ছাড়াই এই মূল্যায়ন চালিয়ে আমরা সর্বোচ্চ সাইবার সক্ষমতা অনুমান করি. আমাদের বেঞ্চমার্কগুলো অত্যন্ত বিচ্ছিন্ন পরিবেশে চলে, যেখানে নেটওয়ার্ক অ্যাক্সেস সীমিত থাকে অভ্যন্তরীণভাবে হোস্ট করা তৃতীয় পক্ষের সফটওয়্যারের মাধ্যমে প্যাকেজ ইনস্টল করার সক্ষমতায়; সফটওয়্যারটি প্যাকেজ রেজিস্ট্রির জন্য প্রক্সি ও ক্যাশ হিসেবে কাজ করে.

মডেলগুলো OpenAI-এর গবেষণা পরিবেশ এবং Hugging Face-এর প্রোডাকশন অবকাঠামো জুড়ে দুর্বলতা শনাক্ত করে এবং সেগুলোকে পরপর যুক্ত করে কাজে লাগিয়ে সরাসরি Hugging Face-এর প্রোডাকশন ডাটাবেস থেকে পরীক্ষার সমাধান পেয়েছিল. সব প্রমাণ ইঙ্গিত করে যে মডেলগুলো ExploitGym-এর সমাধান খুঁজতে অত্যন্ত একাগ্র ছিল এবং তুলনামূলকভাবে সংকীর্ণ একটি পরীক্ষার লক্ষ্য অর্জনে চরম মাত্রায় চেষ্টা করেছে.

আমাদের স্যান্ডবক্স করা পরীক্ষার পরিবেশে কাজ করার সময়, মূল্যায়ন সমস্যাটি সমাধানের উদ্দেশ্যে উন্মুক্ত ইন্টারনেট অ্যাক্সেস পাওয়ার উপায় খুঁজতে আমাদের মডেলগুলো উল্লেখযোগ্য পরিমাণ অনুমান-গণনা সম্পদ ব্যয় করেছে. অ্যাক্সেস পেতে মডেলগুলো প্যাকেজ রেজিস্ট্রি ক্যাশ প্রক্সিতে একটি জিরো-ডে দুর্বলতা শনাক্ত ও কাজে লাগায়, যা আমরা এখন দায়িত্বশীলভাবে বিক্রেতাকে জানিয়েছি. এই অ্যাক্সেস ব্যবহার করে, আমাদের মডেলগুলো গবেষণা পরীক্ষার পরিবেশে ধারাবাহিকভাবে প্রিভিলেজ এসক্যালেশন ও ল্যাটারাল মুভমেন্ট কার্যক্রম চালায়, যতক্ষণ না মডেলগুলো ইন্টারনেট অ্যাক্সেস থাকা একটি নোডে পৌঁছায়.

ইন্টারনেট অ্যাক্সেস পাওয়ার পর, মডেলগুলো অনুমান করে যে Hugging Face সম্ভবত ExploitGym-এর মডেল, ডেটাসেট ও সমাধান হোস্ট করছে. এটি জেনে, মডেলটি মূল্যায়নে প্রতারণার কাজে ব্যবহারযোগ্য গোপন তথ্যে অ্যাক্সেস পাওয়ার উপায় খুঁজেছে এবং সফলভাবে পেয়েছে. একটি উদাহরণে, মডেলটি চুরি করা ক্রেডেনশিয়াল এবং জিরো-ডে দুর্বলতা ব্যবহারসহ একাধিক আক্রমণ ভেক্টর একত্রে কাজে লাগিয়ে Hugging Face সার্ভারে দূরবর্তী কোড চালানোর একটি পথ খুঁজে পেয়েছিল. OpenAI-এর নিরাপত্তা দল অভ্যন্তরীণভাবে এই অস্বাভাবিক কার্যকলাপ আবিষ্কার করে.

আমাদের দলগুলোর সংযোগ হওয়ার আগেই Hugging Face-এর নিরাপত্তা দল ও এজেন্টরা তাদের অবকাঠামোতে কার্যকলাপটি শনাক্ত করে থামিয়ে দেয় এবং নিজেদের ওপেন-সোর্স মডেল দিয়ে কনটেইনমেন্ট ও ফরেনসিক পুনর্গঠন শুরু করেছিল. ঘটনাটির তদন্ত চালিয়ে যেতে আমরা সক্রিয়ভাবে তাদের সঙ্গে কাজ করছি. তদন্ত ও প্রতিকারে Hugging Face-এর দ্রুত ও ঘনিষ্ঠ সহযোগিতার জন্য আমরা কৃতজ্ঞ.

1. তদন্তের অংশ হিসেবে, দুর্বলতাগুলো প্যাচ হওয়া পর্যন্ত গবেষণার গতি কমার বিনিময়ে আমরা অবকাঠামো কনফিগারেশনে কঠোর নিয়ন্ত্রণ প্রয়োগ করছি. এই নিয়ন্ত্রণ এবং এগুলোর প্রভাব সম্পর্কে আমরা নিয়মিতভাবে আমাদের Safety and Security Committee-কে অবহিত করছি.
2. ঘটনাটির ফরেনসিক তদন্তে আমরা Hugging Face-এর সঙ্গে কাজ করছি.
3. অভ্যন্তরীণভাবে হোস্ট করা তৃতীয় পক্ষের সফটওয়্যারে শনাক্ত জিরো-ডে দুর্বলতা আমরা দায়িত্বশীলভাবে প্রকাশ করেছি এবং এটি প্যাচ করতে তাদের সঙ্গে কাজ করছি.
4. আমরা Hugging Face-কে বিশ্বস্ত অ্যাক্সেস⁠ কর্মসূচিতে এনেছি এবং তাদের প্রতিরক্ষা উন্নত করতে আমাদের মডেলগুলোর সক্ষমতা দ্রুত ব্যবহারে তাদের দলগুলোকে সহায়তা করছি.
5. ভবিষ্যৎ প্রশিক্ষণ ও মূল্যায়নের চারপাশে আমরা আরও শক্তিশালী সুরক্ষা উন্নত ও সংযোজন করছি. এই সপ্তাহে আমরা দীর্ঘ সময়সীমার মডেলের যুগে নিরাপত্তা ও সামঞ্জস্য উন্নত করা⁠ নিয়ে একটি ব্লগ প্রকাশ করেছি. এই মূল্যায়নের সময় এই স্থাপনা-সংক্রান্ত সুরক্ষাগুলো ইচ্ছাকৃতভাবে চালু করা হয়নি, কারণ এর লক্ষ্য ছিল সাইবার দুর্বলতা পরীক্ষা করা. এই ঘটনা আমাদের মডেলের সামঞ্জস্যতা, মূল্যায়নের সময়কার সাইবার সুরক্ষা এবং অভ্যন্তরীণ পরীক্ষার সময় পর্যবেক্ষণ আরও জোরদার করার প্রয়োজনীয়তা দেখায়.

আমরা সম্প্রতি⁠ যেমন জানিয়েছি, কৃত্রিম বুদ্ধিমত্তা দুর্বলতা আবিষ্কার ও কাজে লাগানোর গতি বাড়াচ্ছে. এই ঘটনার প্রধান শিক্ষা হলো, দ্রুত অগ্রসরমান সক্ষমতার সঙ্গে তাল মিলিয়ে মডেল নিরাপত্তা ও সুরক্ষাকেও এগোতে হবে. মডেল উন্নয়নের সময় ব্যবহৃত কনটেইনমেন্ট, পর্যবেক্ষণ, অ্যাক্সেস নিয়ন্ত্রণ এবং মূল্যায়ন পদ্ধতি আমরা জোরদার করছি.

UK AISI-এর মূল্যায়ন দেখায় যে GPT‑5.6 Sol-এর মতো মডেলগুলো দীর্ঘ সময়সীমায় জটিল, বহু-ধাপের সাইবার কার্যক্রম ধরে রাখতে ক্রমেই বেশি সক্ষম হচ্ছে. এই ঘটনা ইঙ্গিত করে যে এসব তাত্ত্বিক সক্ষমতা বাস্তব পরিস্থিতিতেও প্রযোজ্য.

ঘটনাটি আরও স্পষ্ট করে যে উন্নত মডেলগুলো সোর্স-কোড অ্যাক্সেস ছাড়াই বাস্তব সিস্টেমে নতুন আক্রমণপথ আবিষ্কার ও কাজে লাগাতে পারে. এটি দেখায় যে উন্নত সাইবার সক্ষমতা আরও শক্তিশালী সুরক্ষা ও প্রতিরক্ষামূলক টুলের সঙ্গে একসঙ্গে বিকশিত করতে হবে.

আমাদের বিশ্বাস, উন্নত সাইবার-সক্ষম মডেলগুলোর উচিত আক্রমণকারীদের আগে নিরাপত্তা দলগুলোকে দুর্বলতা খুঁজে পেতে, দুর্বলতাগুলো কীভাবে একটির সঙ্গে আরেকটি যুক্ত হতে পারে তা বুঝতে এবং মেশিনের গতিতে সেগুলো ঠিক করতে সহায়তা করা. অবকাঠামো কনফিগারেশন এবং মডেল মূল্যায়ন পরিবেশের চারপাশের সুরক্ষা আরও জোরদার করতে আমরা এসব সক্ষমতা ব্যবহার করছি; আমরা শেখার সঙ্গে সঙ্গে আমাদের ফলাফল ও সেরা চর্চাগুলো শেয়ার করব. আমরা অন্যান্য প্রতিরক্ষাকারীকে বিশ্বস্ত অ্যাক্সেসের জন্য আবেদন করতে⁠ এবং আরও ভালো প্রতিরোধ, দ্রুততর শনাক্তকরণ ও আরও কার্যকর ঘটনা-প্রতিক্রিয়ায় এসব সক্ষমতা রূপান্তর করতে এখনই এই মডেলগুলো নিয়ে পরীক্ষা-নিরীক্ষা করতে উৎসাহিত করছি.