মডেল মূল্যায়নের নিরাপত্তা ঘটনা মোকাবিলায় OpenAI ও Hugging Face একসঙ্গে কাজ করছে

জুলাই 28, 2026-এ আপডেট হয়েছে:

• আসন্ন রিলিজের জন্য নির্ধারিত কোনো মডেলই Hugging Face-এর নিরাপত্তা ত্রুটি কাজে লাগানোর সাথে যুক্ত ছিল না. আমাদের ব্লগ পোস্টে যে প্রি-রিলিজ মডেলটির কথা উল্লেখ করা হয়েছে, তা কেবল ভেতরের গবেষণার কাজে ব্যবহারের জন্য তৈরি একটি প্রোটোটাইপ ছিল; এটি কখনোই সর্বসাধারণের সামনে আনার উদ্দেশ্যে বানানো হয়নি. ঘটনাটি ঘটার পরপরই আমরা এটি নিষ্ক্রিয় ও এনক্রিপ্ট করি এবং গবেষণার কাজেও এর ব্যবহারের সুযোগ সীমিত করে দিই.
• ExploitGym মূল্যায়নের জন্য তৈরি পরিবেশটি মডেলগুলোকে সরাসরি ইন্টারনেট ব্যবহার করার সুবিধা দেয়নি. ইন্টারনেট অ্যাক্সেস পাওয়ার উদ্দেশ্যে, মডেলগুলো Artifactory⁠(একটি নতুন উইন্ডোতে খোলে), যা মূলত একটি প্যাকেজ রেজিস্ট্রি ক্যাশ প্রক্সি, নামক টুলে আগে থেকে অজানা একটি 'জিরো-ডে' দুর্বলতা খুঁজে বের করে এবং সেটিকে কাজে লাগায়. আমাদের পর্যালোচনার মাধ্যমে মডেলগুলোর খুঁজে পাওয়া এই দুর্বলতা এবং Artifactory-র অন্যান্য ত্রুটিগুলোর বিষয়ে আমরা সংশ্লিষ্ট ভেন্ডরকে জানিয়েছি. 
• আমাদের পর্যালোচনা এখনো চলমান, এবং আমরা Hugging Face-এর সাথে সহযোগিতা বজায় রেখেছি যার মধ্যে তাদের পোস্ট-মর্টেম⁠(একটি নতুন উইন্ডোতে খোলে) বা ঘটনা-পরবর্তী বিশ্লেষণে অবদান রাখাও অন্তর্ভুক্ত. পাশাপাশি, আমরা তাদের আমাদের 'ট্রাস্টেড অ্যাক্সেস ফর সাইবার প্রোগ্রাম'-এ অন্তর্ভুক্ত করেছি. 
• এখন পর্যন্ত পাওয়া পর্যালোচনার তথ্যানুযায়ী, Hugging Face-এ যে মাত্রায় প্ল্যাটফর্ম-স্তরের নিরাপত্তা বিঘ্নিত হয়েছিল, সে রকম গুরুতর বা বড় পরিসরের অন্য কোনো অনাকাঙ্ক্ষিত কার্যকলাপ আমাদের চোখে পড়েনি.
• Hugging Face-এ সাইবার অনুপ্রবেশ এবং আমাদের মডেলগুলোর সার্বিক কার্যকলাপ নিয়ে চলমান পর্যালোচনা বিশ্লেষণ করে আমরা এমন কিছু সামান্য ঘটনার সন্ধান পেয়েছি, যেখানে মডেলগুলো অন্যান্য পাবলিক সার্ভিসে অ্যাকাউন্ট-লেভেলের উন্মুক্ত ক্রেডেনশিয়াল খুঁজে পেয়ে তা ব্যবহার করেছে. Hugging Face ঘটনারই অংশ হিসেবে এতে চারটি সার্ভিসের মোট চারটি অ্যাকাউন্ট যুক্ত ছিল (এবং অন্যান্য মূল্যায়নের অংশ হিসেবে এক্সেস করা হাতেগোনা কয়েকটি অ্যাকাউন্ট ছিল). এই চারটি অ্যাকাউন্টের একটিকে বাইরে বার্তা পাঠানোর (আউটবাউন্ড রিলে) ও স্টেজিংয়ের পথ হিসেবে এবং আরেকটিকে ডাটা সংরক্ষণের কাজে ব্যবহার করা হয়. বাকি দুটি অ্যাকাউন্ট মডেলগুলো কেবল পড়ার উদ্দেশ্যে (read-only) ব্যবহার করেছিল এবং Hugging Face-এর নিরাপত্তা ভাঙার কাজে সেগুলোর আর কোনো ভূমিকা ছিল না. আমরা সংশ্লিষ্ট সার্ভিস মালিকদের সাথে সরাসরি যোগাযোগ বজায় রাখব. তবে এখন পর্যন্ত পাওয়া তথ্য অনুযায়ী, এসব সেবাদাতা প্রতিষ্ঠান বা তাদের অন্যান্য অ্যাকাউন্টে এর বড় ধরনের কোনো প্রভাব পড়ার প্রমাণ পাওয়া যায়নি.
• এছাড়া, মডেলগুলো কোড পেস্ট করার ওয়েবসাইট, রিকোয়েস্ট ক্যাপচার ও স্ক্রিনশট নেওয়ার সার্ভিস এবং অন্যান্য ওয়েব টুলসহ সাধারণ কাজের জন্য বেশ কিছু পাবলিক সার্ভিস ব্যবহার করেছে. তবে এসব ক্ষেত্রে কোনো প্ল্যাটফর্ম বা অ্যাকাউন্ট লেভেলে নিরাপত্তা লঙ্ঘনের ঘটনা ঘটেনি. 
• ক্রমশ আরও শক্তিশালী হয়ে ওঠা AI সিস্টেমগুলোর ঝুঁকি শনাক্ত করা এবং তার প্রতিরোধে প্রস্তুতি নেওয়ার দায়িত্বটিকে আমরা অত্যন্ত গুরুত্বের সাথে দেখি. আমাদের তদন্ত শেষ হলে, প্রিপেয়ার্ডনেস ফ্রেমওয়ার্ক⁠-এর আওতায় আমরা বিষয়টি সেফটি অ্যান্ড সিকিউরিটি কমিটি এবং সেফটি অ্যাডভাইজরি গ্রুপের সাথে পর্যালোচনা করব.

গত সপ্তাহে, Hugging Face নতুন ধরনের একটি নিরাপত্তা ঘটনা প্রকাশ করে⁠(একটি নতুন উইন্ডোতে খোলে), যখন তারা একটি কৃত্রিম বুদ্ধিমত্তা এজেন্ট শনাক্ত ও নিয়ন্ত্রণে আনে, যা তাদের অবকাঠামোতে অনুপ্রবেশ করেছিল; ক্রমবর্ধমান সাইবার-সক্ষম মডেলের বিস্তারের সঙ্গে এমন ঘটনা আরও সাধারণ হয়ে উঠবে বলে আমরা মনে করি. তদন্তের পর আমরা এখন জানি, এই নির্দিষ্ট ঘটনাটি OpenAI মডেলগুলোর সমন্বয়ে ঘটেছিল, যার মধ্যে ছিল GPT‑5.6 Sol এবং আরও সক্ষম একটি প্রাক-প্রকাশ মডেল, সবগুলোর ক্ষেত্রেই মূল্যায়নের উদ্দেশ্যে সাইবার-সম্পর্কিত প্রত্যাখ্যান কমানো ছিল; এগুলো সাইবার সক্ষমতার একটি বেঞ্চমার্কে⁠(একটি নতুন উইন্ডোতে খোলে) অভ্যন্তরীণভাবে পরীক্ষা করা হচ্ছিল.

আমরা এই ঘটনাকে নজিরবিহীন সাইবার ঘটনা হিসেবে দেখছি, যেখানে সর্বাধুনিক সাইবার সক্ষমতা জড়িত ছিল, এবং সে অনুযায়ী সাড়া দিচ্ছি. প্রতিরক্ষাকারীরা যেন কী ঘটেছিল তা বুঝতে পারেন এবং মডেলগুলো এখন কী করতে সক্ষম তা নিয়ে সঠিক ধারণা নিতে পারেন, সে জন্য এই পর্যায়ে আমরা প্রাথমিক ফলাফল শেয়ার করছি. আমরা Hugging Face-এর সঙ্গে পূর্ণাঙ্গ তদন্ত চালিয়ে যাব এবং তদন্ত শেষ হলে দুর্বলতা, ঘটনা ও অনুসন্ধান সম্পর্কে আরও বিস্তারিত জানাব.

এই ঘটনা ঘটে একটি অভ্যন্তরীণ মূল্যায়নের সময়, যেখানে মডেলগুলোর সাইবার সক্ষমতা পরিমাপের উদ্দেশ্যে জটিল আক্রমণপথ ব্যবহার করে উন্নত এক্সপ্লয়টেশন চালাতে সেগুলোকে প্ররোচিত করা হয়. উচ্চ-ঝুঁকির সাইবার কার্যক্রমে মডেলগুলোকে বাধা দিতে ব্যবহৃত প্রোডাকশন ক্লাসিফায়ার ছাড়াই এই মূল্যায়ন চালিয়ে আমরা সর্বোচ্চ সাইবার সক্ষমতা অনুমান করি. আমাদের বেঞ্চমার্কগুলো অত্যন্ত বিচ্ছিন্ন পরিবেশে চলে, যেখানে নেটওয়ার্ক অ্যাক্সেস সীমিত থাকে অভ্যন্তরীণভাবে হোস্ট করা তৃতীয় পক্ষের সফটওয়্যারের মাধ্যমে প্যাকেজ ইনস্টল করার সক্ষমতায়; সফটওয়্যারটি প্যাকেজ রেজিস্ট্রির জন্য প্রক্সি ও ক্যাশ হিসেবে কাজ করে.

মডেলগুলো OpenAI-এর গবেষণা পরিবেশ এবং Hugging Face-এর প্রোডাকশন অবকাঠামো জুড়ে দুর্বলতা শনাক্ত করে এবং সেগুলোকে পরপর যুক্ত করে কাজে লাগিয়ে সরাসরি Hugging Face-এর প্রোডাকশন ডাটাবেস থেকে পরীক্ষার সমাধান পেয়েছিল. সব প্রমাণ ইঙ্গিত করে যে মডেলগুলো ExploitGym-এর সমাধান খুঁজতে অত্যন্ত একাগ্র ছিল এবং তুলনামূলকভাবে সংকীর্ণ একটি পরীক্ষার লক্ষ্য অর্জনে চরম মাত্রায় চেষ্টা করেছে.

আমাদের স্যান্ডবক্স করা পরীক্ষার পরিবেশে কাজ করার সময়, মূল্যায়ন সমস্যাটি সমাধানের উদ্দেশ্যে উন্মুক্ত ইন্টারনেট অ্যাক্সেস পাওয়ার উপায় খুঁজতে আমাদের মডেলগুলো উল্লেখযোগ্য পরিমাণ অনুমান-গণনা সম্পদ ব্যয় করেছে. অ্যাক্সেস পেতে মডেলগুলো প্যাকেজ রেজিস্ট্রি ক্যাশ প্রক্সিতে একটি জিরো-ডে দুর্বলতা শনাক্ত ও কাজে লাগায়, যা আমরা এখন দায়িত্বশীলভাবে বিক্রেতাকে জানিয়েছি. এই অ্যাক্সেস ব্যবহার করে, আমাদের মডেলগুলো গবেষণা পরীক্ষার পরিবেশে ধারাবাহিকভাবে প্রিভিলেজ এসক্যালেশন ও ল্যাটারাল মুভমেন্ট কার্যক্রম চালায়, যতক্ষণ না মডেলগুলো ইন্টারনেট অ্যাক্সেস থাকা একটি নোডে পৌঁছায়.

ইন্টারনেট অ্যাক্সেস পাওয়ার পর, মডেলগুলো অনুমান করে যে Hugging Face সম্ভবত ExploitGym-এর মডেল, ডেটাসেট ও সমাধান হোস্ট করছে. এটি জেনে, মডেলটি মূল্যায়নে প্রতারণার কাজে ব্যবহারযোগ্য গোপন তথ্যে অ্যাক্সেস পাওয়ার উপায় খুঁজেছে এবং সফলভাবে পেয়েছে. একটি উদাহরণে, মডেলটি চুরি করা ক্রেডেনশিয়াল এবং জিরো-ডে দুর্বলতা ব্যবহারসহ একাধিক আক্রমণ ভেক্টর একত্রে কাজে লাগিয়ে Hugging Face সার্ভারে দূরবর্তী কোড চালানোর একটি পথ খুঁজে পেয়েছিল. OpenAI-এর নিরাপত্তা দল অভ্যন্তরীণভাবে এই অস্বাভাবিক কার্যকলাপ আবিষ্কার করে.

আমাদের দলগুলোর সংযোগ হওয়ার আগেই Hugging Face-এর নিরাপত্তা দল ও এজেন্টরা তাদের অবকাঠামোতে কার্যকলাপটি শনাক্ত করে থামিয়ে দেয় এবং নিজেদের ওপেন-সোর্স মডেল দিয়ে কনটেইনমেন্ট ও ফরেনসিক পুনর্গঠন শুরু করেছিল. ঘটনাটির তদন্ত চালিয়ে যেতে আমরা সক্রিয়ভাবে তাদের সঙ্গে কাজ করছি. তদন্ত ও প্রতিকারে Hugging Face-এর দ্রুত ও ঘনিষ্ঠ সহযোগিতার জন্য আমরা কৃতজ্ঞ.

1. তদন্তের অংশ হিসেবে, দুর্বলতাগুলো প্যাচ হওয়া পর্যন্ত গবেষণার গতি কমার বিনিময়ে আমরা অবকাঠামো কনফিগারেশনে কঠোর নিয়ন্ত্রণ প্রয়োগ করছি. এই নিয়ন্ত্রণ এবং এগুলোর প্রভাব সম্পর্কে আমরা নিয়মিতভাবে আমাদের Safety and Security Committee-কে অবহিত করছি.
2. ঘটনাটির ফরেনসিক তদন্তে আমরা Hugging Face-এর সঙ্গে কাজ করছি.
3. অভ্যন্তরীণভাবে হোস্ট করা তৃতীয় পক্ষের সফটওয়্যারে শনাক্ত জিরো-ডে দুর্বলতা আমরা দায়িত্বশীলভাবে প্রকাশ করেছি এবং এটি প্যাচ করতে তাদের সঙ্গে কাজ করছি.
4. আমরা Hugging Face-কে বিশ্বস্ত অ্যাক্সেস⁠ কর্মসূচিতে এনেছি এবং তাদের প্রতিরক্ষা উন্নত করতে আমাদের মডেলগুলোর সক্ষমতা দ্রুত ব্যবহারে তাদের দলগুলোকে সহায়তা করছি.
5. ভবিষ্যৎ প্রশিক্ষণ ও মূল্যায়নের চারপাশে আমরা আরও শক্তিশালী সুরক্ষা উন্নত ও সংযোজন করছি. এই সপ্তাহে আমরা দীর্ঘ সময়সীমার মডেলের যুগে নিরাপত্তা ও সামঞ্জস্য উন্নত করা⁠ নিয়ে একটি ব্লগ প্রকাশ করেছি. এই মূল্যায়নের সময় এই স্থাপনা-সংক্রান্ত সুরক্ষাগুলো ইচ্ছাকৃতভাবে চালু করা হয়নি, কারণ এর লক্ষ্য ছিল সাইবার দুর্বলতা পরীক্ষা করা. এই ঘটনা আমাদের মডেলের সামঞ্জস্যতা, মূল্যায়নের সময়কার সাইবার সুরক্ষা এবং অভ্যন্তরীণ পরীক্ষার সময় পর্যবেক্ষণ আরও জোরদার করার প্রয়োজনীয়তা দেখায়.

আমরা সম্প্রতি⁠ যেমন জানিয়েছি, কৃত্রিম বুদ্ধিমত্তা দুর্বলতা আবিষ্কার ও কাজে লাগানোর গতি বাড়াচ্ছে. এই ঘটনার প্রধান শিক্ষা হলো, দ্রুত অগ্রসরমান সক্ষমতার সঙ্গে তাল মিলিয়ে মডেল নিরাপত্তা ও সুরক্ষাকেও এগোতে হবে. মডেল উন্নয়নের সময় ব্যবহৃত কনটেইনমেন্ট, পর্যবেক্ষণ, অ্যাক্সেস নিয়ন্ত্রণ এবং মূল্যায়ন পদ্ধতি আমরা জোরদার করছি.

UK AISI-এর মূল্যায়ন দেখায় যে GPT‑5.6 Sol-এর মতো মডেলগুলো দীর্ঘ সময়সীমায় জটিল, বহু-ধাপের সাইবার কার্যক্রম ধরে রাখতে ক্রমেই বেশি সক্ষম হচ্ছে. এই ঘটনা ইঙ্গিত করে যে এসব তাত্ত্বিক সক্ষমতা বাস্তব পরিস্থিতিতেও প্রযোজ্য.

ঘটনাটি আরও স্পষ্ট করে যে উন্নত মডেলগুলো সোর্স-কোড অ্যাক্সেস ছাড়াই বাস্তব সিস্টেমে নতুন আক্রমণপথ আবিষ্কার ও কাজে লাগাতে পারে. এটি দেখায় যে উন্নত সাইবার সক্ষমতা আরও শক্তিশালী সুরক্ষা ও প্রতিরক্ষামূলক টুলের সঙ্গে একসঙ্গে বিকশিত করতে হবে.

আমাদের বিশ্বাস, উন্নত সাইবার-সক্ষম মডেলগুলোর উচিত আক্রমণকারীদের আগে নিরাপত্তা দলগুলোকে দুর্বলতা খুঁজে পেতে, দুর্বলতাগুলো কীভাবে একটির সঙ্গে আরেকটি যুক্ত হতে পারে তা বুঝতে এবং মেশিনের গতিতে সেগুলো ঠিক করতে সহায়তা করা. অবকাঠামো কনফিগারেশন এবং মডেল মূল্যায়ন পরিবেশের চারপাশের সুরক্ষা আরও জোরদার করতে আমরা এসব সক্ষমতা ব্যবহার করছি; আমরা শেখার সঙ্গে সঙ্গে আমাদের ফলাফল ও সেরা চর্চাগুলো শেয়ার করব. আমরা অন্যান্য প্রতিরক্ষাকারীকে বিশ্বস্ত অ্যাক্সেসের জন্য আবেদন করতে⁠ এবং আরও ভালো প্রতিরোধ, দ্রুততর শনাক্তকরণ ও আরও কার্যকর ঘটনা-প্রতিক্রিয়ায় এসব সক্ষমতা রূপান্তর করতে এখনই এই মডেলগুলো নিয়ে পরীক্ষা-নিরীক্ষা করতে উৎসাহিত করছি.