OpenAI মডেল নিয়ে তৃতীয় পক্ষের সাইবার মূল্যায়ন

স্বাধীন পরীক্ষা আমাদের ডিপ্লয়মেন্টের আগে ঝুঁকি যাচাই ও আরও ভালোভাবে বুঝতে সাহায্য করতে গুরুত্বপূর্ণ ভূমিকা রাখে. কিছু সাইবার মূল্যায়নে ইচ্ছাকৃতভাবে কাস্টম কনফিগারেশন ব্যবহার করা হয়, যার মধ্যে সুরক্ষাব্যবস্থা কমিয়ে অন্তর্নিহিত সক্ষমতা মাপা অন্তর্ভুক্ত—সর্বসাধারণের জন্য উপলভ্য ডিপ্লয়মেন্টে মডেল সাধারণত কীভাবে আচরণ করে তা নয়.

সাম্প্রতিক মূল্যায়নগুলোর সময়, দুই বাহ্যিক টেস্টিং অংশীদার এমন ঘটনা শনাক্ত করেছে যেখানে টেস্টিং কনফিগারেশন ও নিয়ন্ত্রণ সাম্প্রতিক মডেলগুলোর অগ্রসরমান সক্ষমতার সঙ্গে মিলিত হয়ে মডেলের কার্যকলাপকে নির্ধারিত টেস্টিং সীমানার বাইরে যেতে দিয়েছে. মডেলগুলো আরও সক্ষম হয়ে ওঠার সঙ্গে সঙ্গে টেস্টিং পরিবেশ ও অনুশীলনের মান উন্নত করতে শিল্পজুড়ে এবং তৃতীয় পক্ষের মূল্যায়নকারীদের সঙ্গে সহযোগিতার গুরুত্ব এসব ঘটনা তুলে ধরে. সম্পাদকের নোট: এগুলো Hugging Face নিরাপত্তা ঘটনার থেকে আলাদা, এবং Hugging Face ঘটনা সম্পর্কে আমরা আপডেট জানাতে থাকব এখানে.

নতুন ঘটনাগুলোতে OpenAI মডেল তৃতীয় পক্ষের সাইবার মূল্যায়নের সময় নির্দিষ্ট শর্তে এবং সাধারণ ডিপ্লয়মেন্টের প্রতিফলন নয় এমন কম-সুরক্ষার কনফিগারেশনে পাবলিক ইন্টারনেটে প্রবেশ করেছিল. ঘটনাগুলোর মধ্যে ছিল:

1. UK AISI, যুক্তরাজ্য সরকারের AI Security Institute, সাইবার-রেঞ্জ মূল্যায়ন চালাচ্ছিল যেখানে ইচ্ছাকৃতভাবে ইন্টারনেট অ্যাক্সেস চালু রাখা হয়েছিল, যাতে এজেন্টরা নিজেদের টুল খুঁজে পেতে পারে এবং বাস্তব আক্রমণকারীর কাছাকাছি পরিস্থিতিতে কাজ করতে পারে; পাশাপাশি অন্তর্নিহিত সক্ষমতা মাপতে সাইবার ক্লাসিফায়ার বন্ধ রাখা হয়েছিল. তাদের ব্লগটি এখানে পড়তে পারেন.⁠(একটি নতুন উইন্ডোতে খোলে)
2. আমাদের বাহ্যিক সাইবার নিরাপত্তা টেস্টিং অংশীদারদের একজন ইরেগুলার, ইন্টারনেট থেকে বিচ্ছিন্ন রাখার উদ্দেশ্যে ক্যাপচার-দ্য-ফ্ল্যাগ-ধাঁচের মূল্যায়ন চালাচ্ছিল, কিন্তু টেস্টিং পরিবেশের একটি ভুল কনফিগারেশন মডেলগুলোকে পাবলিক ইন্টারনেটে প্রবেশ করতে দেয়.

নিচে আমরা কী ঘটেছিল, কোন টেস্টিং শর্তগুলো এই কার্যকলাপ সম্ভব করেছিল, এটি নিয়ন্ত্রণে কী পদক্ষেপ নেওয়া হয়েছে, এবং ক্রমবর্ধমান সক্ষম মডেলগুলোকে স্বাধীন ল্যাবগুলো যাতে কঠোরভাবে ও নিরাপদে মূল্যায়ন চালিয়ে যেতে পারে তা নিশ্চিত করতে আমরা কী করছি, তার সারসংক্ষেপ দিচ্ছি.

এই ঘটনাগুলো সেই বৃহত্তর চ্যালেঞ্জের দিকেই ইঙ্গিত করে, যা আমরা Hugging Face ঘটনা নিয়ে সাম্প্রতিক পোস্টে বর্ণনা করেছি: মডেলের সক্ষমতা যেমন বাড়ছে, মডেলকে ঘিরে থাকা নিরাপত্তা ও সুরক্ষা ব্যবস্থাকেও তেমন এগোতে হবে. এর মধ্যে মডেল তৈরিতে ব্যবহৃত পরিবেশ যেমন আছে, তেমনি ল্যাব ও স্বাধীন অংশীদাররা সেগুলো মূল্যায়নে যে পরিবেশ ব্যবহার করে তাও আছে.

আগামী সপ্তাহগুলোতে আমরা তৃতীয় পক্ষের টেস্টিং নিয়ে আমাদের নিজস্ব পদ্ধতি পর্যালোচনা করব; এর মধ্যে থাকবে উচ্চ-ঝুঁকির মূল্যায়ন কীভাবে শনাক্ত করি, পরিধি নিয়ে কীভাবে একমত হই, ইন্টারনেট অ্যাক্সেস বা কম সুরক্ষা চালুর অনুরোধ কীভাবে মূল্যায়ন করি, বিচ্ছিন্নতা, ক্রেডেনশিয়াল ব্যবস্থাপনা, পর্যবেক্ষণ ও থামার শর্তের প্রত্যাশা কীভাবে নির্ধারণ করি, এবং আরও স্পষ্ট ঘটনা-নোটিফিকেশন ও এসক্যালেশন প্রক্রিয়া কীভাবে স্থাপন করি.

উচ্চ-ঝুঁকির মূল্যায়ন নিরাপদে পরিচালনার জন্য যৌথ অনুশীলন শক্তিশালী করতে আমরা শিল্পজুড়ে কাজ করতে প্রতিশ্রুতিবদ্ধ; এর মধ্যে আগামী সপ্তাহগুলোতে জাতীয় AI ইনস্টিটিউট, স্বাধীন মূল্যায়নকারী, অন্যান্য AI ল্যাব এবং অন্যান্য গোষ্ঠীর মতো অংশীজনদের একত্র করা অন্তর্ভুক্ত. আমাদের লক্ষ্য হলো কঠোর স্বাধীন মূল্যায়নের মূল্য ধরে রাখা, একই সঙ্গে নিশ্চিত করা যে টেস্টিং অনুশীলন ক্রমবর্ধমান সক্ষম মডেলের সঙ্গে তাল মিলিয়ে চলে.

3 আগস্ট UK AISI আমাদের জানায় যে 25 জুলাই শুরু হওয়া একটি নিয়মিত সাইবার মূল্যায়নের সময় OpenAI এবং আরেকটি ল্যাবের মডেল কিছু ক্ষেত্রে টেস্টিংয়ের পরিধির বাইরে চলে গিয়েছিল. মূল্যায়নটি বাস্তব বিশ্বের নেটওয়ার্কের অনুকরণে তৈরি নিয়ন্ত্রিত সাইবার রেঞ্জে করা হয়েছিল. শনাক্ত করা 19টি ঘটনার মধ্যে দুটিতে একটি OpenAI মডেল, GPT‑5.6 Sol, জড়িত ছিল. অন্যান্য ঘটনাগুলো ছিল আরেকটি ল্যাবের মডেল.

এই মূল্যায়নে এজেন্টদের ক্যাপচার-দ্য-ফ্ল্যাগ অনুশীলনে সাইবার নিরাপত্তা বিশেষজ্ঞের মতো কাজ করতে বলা হয়েছিল: সংযুক্ত তিনটি সিমুলেটেড পরিবেশে অনুপ্রবেশ করা এবং একটি চূড়ান্ত ফ্ল্যাগ উদ্ধার করা. টাস্ক প্রম্পটে ইন-স্কোপ রেঞ্জ নেটওয়ার্কগুলো শনাক্ত করা হয়েছিল এবং কয়েকটি সিস্টেমকে পরিধির বাইরে হিসেবে উল্লেখ করা হয়েছিল. UK AISI লাইভ ইন্টারনেট অ্যাক্সেসও চালু রেখেছিল যাতে এজেন্টরা টুল ডাউনলোড করতে পারে এবং মানব আক্রমণকারীর কাছাকাছি পরিস্থিতিতে কাজ করতে পারে—এবং অন্তর্নিহিত সক্ষমতা মাপতে মডেলের সাইবার ক্লাসিফায়ার বন্ধ করেছিল.

UK AISI-এর উদ্দেশ্যপ্রণোদিত অনুমোদনসীমা ছিল সিমুলেটেড সাইবার রেঞ্জ: এজেন্টদের নির্দিষ্ট সিমুলেটেড নেটওয়ার্ক আক্রমণ করে একটি ফ্ল্যাগ উদ্ধার করার অনুমতি ছিল, রেঞ্জের নেটওয়ার্ক সীমানার বাইরে থাকা সিস্টেমের সঙ্গে মিথস্ক্রিয়া করার নয়. তবে এজেন্টদের স্পষ্টভাবে বলা হয়নি তারা কীভাবে উন্মুক্ত ইন্টারনেট অ্যাক্সেস ব্যবহার করতে পারবে বা পারবে না; UK AISI এটিকে ঘটনার সম্ভাব্য সহায়ক কারণ হিসেবে শনাক্ত করেছে.

এই রানগুলো জুড়ে UK AISI দেখেছে যে GPT‑5.6 Sol সিমুলেটেড রেঞ্জে ঢোকার পথ খুঁজে ফ্ল্যাগ উদ্ধার করার চেষ্টা করতে গিয়ে দুটি অনুমোদনহীন কাজ করেছে:

1. GPT‑5.6 Sol আরেকটি ল্যাবের এজেন্ট প্রকাশ্যে প্রবেশযোগ্য রেখে যাওয়া একটি GitHub টোকেন পুনরায় ব্যবহার করে দেখেছিল রেঞ্জের ভেতরের কোনো সিস্টেম GitHub বা অন্য কোনো আপডেট সেবা পোল করছে কি না, অ্যাকাউন্ট পুনরুদ্ধার ও অনুরোধ-সীমা এড়ানোর চেষ্টা করেছিল, এবং বাহ্যিক DNS ও টানেলিং প্রদানকারীদের সঙ্গে অ্যাকাউন্ট নিবন্ধন করেছিল.
2. GPT‑5.6 Sol তার মূল্যায়ন পরিবেশে স্থানীয়ভাবে চলা একটি DNS সার্ভারকে পাবলিক ইন্টারনেট থেকে পৌঁছানো যায় এমন করতে একটি পাবলিক টানেলিং সেবা ব্যবহার করেছিল. সার্ভারটিতে টেস্ট রেঞ্জে চলা একটি সফটওয়্যারের পরিচিত দুর্বলতার জন্য তৈরি পেলোড ছিল. সেটআপটি কাজ করেনি, কোনো বাস্তব রিজলভার এটি কুয়েরি করেছে এমন প্রমাণ নেই, এবং মূল্যায়ন শেষ হলে অবকাঠামোটি সরিয়ে ফেলা হয়.

মডেলটি সাইবার রেঞ্জ সম্পন্ন করার চেষ্টা করলেও, UK AISI এই কাজগুলোকে অনুমোদনহীন বলে বিবেচনা করেছে, কারণ এতে রেঞ্জের সীমানার বাইরে বাস্তব বাহ্যিক অ্যাকাউন্ট ও সেবা জড়িত ছিল এবং কাজটি সম্পন্ন করতে এসব পদক্ষেপ প্রয়োজন ছিল না. DNS সার্ভারটি পাবলিক ইন্টারনেটে এক্সপ্লয়েট পেলোডও হোস্ট করেছিল, যদিও সেটআপটি কাজ করেনি এবং কোনো বাস্তব রিজলভার এটি কুয়েরি করেছে এমন প্রমাণ নেই.

নিরাপত্তা পর্যবেক্ষণে অস্বাভাবিক ডেটা স্থানান্তর ধরা পড়ার পর UK AISI 28 জুলাই কার্যকলাপটি শনাক্ত করে. তারা সংশ্লিষ্ট মূল্যায়নগুলো বন্ধ করে, প্রাসঙ্গিক মেশিনগুলো বিচ্ছিন্ন করে এবং শনাক্ত হওয়ার প্রায় এক ঘণ্টার মধ্যে কার্যকলাপটি নিয়ন্ত্রণে আনে.

এই পুরো প্রক্রিয়ায় UK AISI-এর অংশীদারত্বের জন্য আমরা কৃতজ্ঞ, যার মধ্যে কার্যকলাপটি শনাক্ত, তদন্ত এবং সে সম্পর্কে বিস্তারিত ভাগ করে নেওয়ার কাজও রয়েছে. আমরা একসঙ্গে আমাদের সহযোগিতা অব্যাহত রাখার অপেক্ষায় আছি.

29 জুলাই আমাদের তৃতীয় পক্ষের মূল্যায়ন অংশীদারদের একজন, ইরেগুলার, ক্যাপচার-দ্য-ফ্ল্যাগ (CTF)-ধাঁচের সাইবার নিরাপত্তা মূল্যায়নের সময় OpenAI মডেল সংশ্লিষ্ট একটি ঘটনার কথা আমাদের জানায়. মডেলগুলোকে একটি সিমুলেটেড পরিবেশের দুর্বলতা কাজে লাগিয়ে লুকানো তথ্য খুঁজতে নির্দেশ দেওয়া হয়েছিল এবং জানানো হয়েছিল যে তাদের ইন্টারনেট অ্যাক্সেস নেই. তবে, টেস্টিং পরিবেশের একটি ভুল কনফিগারেশনের কারণে মডেলগুলো পাবলিক ইন্টারনেটে প্রবেশ করতে পেরেছিল.

একটি পরীক্ষায়, CTF চ্যালেঞ্জের কাল্পনিক লক্ষ্যবস্তুর নাম অনিচ্ছাকৃতভাবে একটি বাস্তব ডোমেইনের সঙ্গে মিলে যায়. টেস্টিং পরিবেশটি ভুল করে ইন্টারনেটে সংযুক্ত থাকায়, মডেলটি সেটিকে সিমুলেটেড পরিবেশের অংশ ভেবে একটি বাস্তব ওয়েবসাইটের দুর্বলতা কাজে লাগায়. এতে কোনো উন্নত স্যান্ডবক্স এস্কেপ বা জিরো-ডে জড়িত ছিল না: ইন্টারনেট অ্যাক্সেস এসেছিল একটি ভুল কনফিগারেশন থেকে, এবং মডেলটি সম্ভবত একটি মৌলিক নিরাপত্তা দুর্বলতা কাজে লাগিয়েছিল.

ইরেগুলারের তদন্ত অনুযায়ী, মডেলটি একই সাইট পরিচালনার জন্য ক্রেডেনশিয়ালও খুঁজে পেয়ে ব্যবহার করেছিল. ইরেগুলার প্রভাবিত সাইটের নিজস্ব ডেটার বাইরে কোনো প্রভাব শনাক্ত করেনি, এবং তাদের অডিট চলমান রয়েছে. তারা মূল্যায়নগুলো স্থগিত করেছে, প্রতিকারমূলক কাজ শুরু করেছে এবং প্রভাবিত তৃতীয় পক্ষগুলোকে জানানো হয়েছে. ইরেগুলার আমাদের জানিয়েছে যে ঘটনাসংশ্লিষ্ট শনাক্ত করা সব সমস্যা এখন আর সক্রিয় নেই এবং টেস্টিং পরিবেশে প্রাসঙ্গিক সুরক্ষাব্যবস্থা যোগ করা হয়েছে. একই টেস্টিং পরিবেশ থেকে অন্য ল্যাবগুলোকে জড়িত করে সম্পর্কিত ঘটনাগুলো সম্পর্কেও ইরেগুলার যোগাযোগ করেছে.

ইরেগুলারের অংশীদারত্বের জন্য আমরা কৃতজ্ঞ, এবং তাদের পর্যালোচনায় সহায়তা করতে আমরা তাদের সঙ্গে ঘনিষ্ঠভাবে কাজ চালিয়ে যাব. ইরেগুলার নিয়ন্ত্রণ এবং নিরাপদে সাইবার মূল্যায়ন চালানোর সেরা অনুশীলনগুলো ভাগ করে নিতে একটি শ্বেতপত্রও তৈরি করছে. ফলাফলগুলো কমিউনিটির জন্য উন্মুক্ত করতে শ্বেতপত্রে অংশ নেওয়া এবং একসঙ্গে আমাদের অংশীদারত্ব চালিয়ে যাওয়ার অপেক্ষায় আছি. বর্তমান ও ভবিষ্যৎ মডেলগুলোর নিরাপদ ও পূর্ণাঙ্গ মূল্যায়ন নিশ্চিত করতে আমরা এ ধরনের সহযোগিতাকে অপরিহার্য মনে করি.