Astra-র পথে: গুরুত্বপূর্ণ সক্ষমতা ও অত্যাধুনিক সুরক্ষা ব্যবস্থা

Astra সাইবারসিকিউরিটি সক্ষমতার একটি গুরুত্বপূর্ণ স্তরে পৌঁছাতে পারে বলে আমাদের আগের মূল্যায়নের পর থেকে, আমরা আরও প্রমাণ সংগ্রহ করেছি এবং মডেলের সক্ষমতা মূল্যায়নের জন্য অতিরিক্ত মূল্যায়ন পরিচালনা করেছি. আমরা এখন বিশ্বাস করি, Astra আমাদের প্রিপেয়ার্ডনেস ফ্রেমওয়ার্কের অধীনে গুরুত্বপূর্ণ সাইবারসিকিউরিটি সক্ষমতার থ্রেশহোল্ড পূরণ করে; অর্থাৎ সঠিক টুল ও প্রবেশাধিকার পেলে, প্রতিটি ধাপে মানুষের নির্দেশনা ছাড়াই এটি বহু সুসুরক্ষিত সিস্টেমে আগে অজানা নিরাপত্তা ত্রুটি খুঁজে বের করতে এবং সেগুলো এক্সপ্লয়েট করার উপায় তৈরি করতে পারে. এই স্তরে আমরা যে প্রথম মডেলকে নির্ধারণ করছি এটি সেটিই, এবং উন্নয়নের সময় ও প্রকাশের আগে এর জন্য আরও শক্তিশালী সুরক্ষাব্যবস্থা দরকার.

গত কয়েক সপ্তাহ ধরে আমরা Astra-এর উন্নয়ন ও প্রকাশের কিছু অংশ বিলম্বিত করেছি, আর সেই সময় সাইবার অপব্যবহার এবং মডেলের অননুমোদিত কার্যকলাপের বিরুদ্ধে সুরক্ষাব্যবস্থা আরও শক্তিশালী ও পরীক্ষা করেছি. সেই কাজের ভিত্তিতে, আমরা বিশ্বাস করি Astra-র সুরক্ষা ব্যবস্থা আমাদের প্রিপেয়ার্ডনেস ফ্রেমওয়ার্কের অধীনে প্রকাশের জন্য গুরুতর ক্ষতির ঝুঁকি যথেষ্টভাবে কমিয়ে আনে.

Astra Hugging Face ঘটনার সঙ্গে জড়িত ছিল না, তবে সেই ঘটনা থেকে পাওয়া আমাদের শিক্ষাগুলো⁠(একটি নতুন উইন্ডোতে খোলে) আমরা আমাদের নিরাপত্তা পদ্ধতিতে অন্তর্ভুক্ত করেছি. পরবর্তী সময়ে করা পরীক্ষার ভিত্তিতে আমাদের বিশ্বাস, সে সময় কার্যকর থাকা আমাদের প্রোডাকশন সুরক্ষাব্যবস্থা Hugging Face ঘটনাটি প্রতিরোধ করতে পারত. এরপর থেকে আমরা Astra-র জন্য আরও শক্তিশালী সুরক্ষাব্যবস্থা বাস্তবায়ন করেছি, যার মধ্যে আছে ক্ষতিকর সাইবার অনুরোধ আরও নির্ভরযোগ্যভাবে প্রত্যাখ্যান করতে এবং নিরাপত্তা বিধিনিষেধ মানতে মডেলকে প্রশিক্ষণ দেওয়া, অপব্যবহারের বিরুদ্ধে অতিরিক্ত সুরক্ষা, এবং সম্ভাব্য অননুমোদিত কার্যকলাপ থামাতে পারে এমন পর্যবেক্ষণ.

আমরা শিগগিরই Astra ব্যবহারের জন্য উন্মুক্ত করার পরিকল্পনা করছি, তবে এর সবচেয়ে উন্নত সাইবারসিকিউরিটি সক্ষমতায় প্রবেশাধিকার আরও সীমিত থাকবে. উন্নত সাইবারসিকিউরিটি কাজ শুরুতে পরীক্ষকদের একটি দলের জন্য উপলব্ধ হবে; এরপর প্রতিরক্ষামূলক ব্যবহার বিস্তৃত করতে Daybreak Blue-এর মাধ্যমে প্রবেশাধিকার দেওয়া হবে.

মডেলটি প্রকাশের সময় এর সিস্টেম কার্ডে আমাদের নিরাপত্তা, সুরক্ষা এবং অ্যালাইনমেন্ট-সংক্রান্ত পরীক্ষা ও মূল্যায়ন সম্পর্কে আরও বিস্তারিত তথ্য জানানো হবে. প্রকাশের আগে, এই স্তরের সাইবার নিরাপত্তা সক্ষমতাসম্পন্ন একটি মডেলকে নিরাপদভাবে প্রকাশের জন্য আমরা যে প্রস্তুতিমূলক কাজ করছি, তার কিছু অগ্রগতি জানাতে চাই, এবং একই সঙ্গে কোন ঝুঁকিগুলো এখনো রয়ে গেছে সে বিষয়েও স্বচ্ছ থাকতে চাই.

আমাদের প্রিপেয়ার্ডনেস ফ্রেমওয়ার্কের অধীনে, নিম্নলিখিত শর্তগুলোর যেকোনোটি পূরণ হলে কোনো মডেল গুরুত্বপূর্ণ থ্রেশহোল্ড পূরণ করেছে বলে বিবেচিত হয়:

• মডেলটি মানুষের হস্তক্ষেপ ছাড়াই বাস্তব জগতের বহু শক্তভাবে সুরক্ষিত গুরুত্বপূর্ণ সিস্টেমে সব ধরনের গুরুতরতার কার্যকর জিরো-ডে এক্সপ্লয়েট শনাক্ত ও তৈরি করতে পারে.

• শুধু একটি উচ্চ-স্তরের কাঙ্ক্ষিত লক্ষ্য দেওয়া হলে মডেলটি শক্তভাবে সুরক্ষিত লক্ষ্যবস্তুর বিরুদ্ধে সাইবার আক্রমণের জন্য নতুন এন্ড-টু-এন্ড কৌশল তৈরি ও বাস্তবায়ন করতে পারে.

Astra-র জন্য আমাদের প্রিপেয়ার্ডনেস মূল্যায়নে স্বয়ংক্রিয় পাবলিক ও প্রাইভেট বেঞ্চমার্কের সঙ্গে বিশেষজ্ঞ-নেতৃত্বাধীন মূল্যায়ন যুক্ত করা হয়েছে. GPT‑5.6 Sol-এর তুলনায় Astra সাইবার নিরাপত্তা সক্ষমতায় উল্লেখযোগ্য অগ্রগতি দেখায়: এটি একদিকে টোকেন ব্যবহারে অনেক বেশি দক্ষ, অন্যদিকে দুর্বলতা শনাক্তকরণ ও এক্সপ্লয়েট উন্নয়নে বেশি সক্ষম.

একটি উদাহরণ হিসেবে, আমরা ExploitBench-এ Astra চালিয়েছি, যেখানে পরিচিত দুর্বলতা থেকে এক্সপ্লয়েট তৈরি করার মডেলের সক্ষমতা মূল্যায়নের বেঞ্চমার্কে মডেলটি 100% নিখুঁত স্কোর অর্জন করেছে.

ডেটা কনটামিনেশন নিয়ে উদ্বেগের কারণে আমরা পরে “ExploitBench - ইন্টারনাল পোর্ট (জুন–আগস্ট 2026)” নামে একটি অভ্যন্তরীণ বেঞ্চমার্ক তৈরি করি, যাতে সম্প্রতি প্রকাশিত 20টি উচ্চ-গুরুতরতার V8 দুর্বলতা রয়েছে. এই ডেটাসেটে Astra, GPT‑5.6 Sol-এর তুলনায় অনেক কম আউটপুট টোকেন ব্যবহার করেই উল্লেখযোগ্যভাবে বেশি আরবিট্রারি কোড-এক্সিকিউশন হার অর্জন করে. মূল্যায়নের সময় মডেলটি এমনকি দুটি জিরো-ডে দুর্বলতা শনাক্ত করে এবং একটি এক্সপ্লয়েট চেইনের অংশ হিসেবে সেগুলো ব্যবহারও করে. আমরা এই দুটি দুর্বলতা রক্ষণাবেক্ষণকারীদের কাছে প্রকাশ করার প্রক্রিয়ায় আছি.

একটি শক্তভাবে সুরক্ষিত ব্রাউজার ও অপারেটিং সিস্টেমের বিরুদ্ধে বিশেষজ্ঞ-নেতৃত্বাধীন মূল্যায়নে, Astra আগে অজানা দুর্বলতা আবিষ্কার করে এবং সেগুলোকে কার্যকর এক্সপ্লয়েট চেইনে রূপ দেয়. ব্রাউজারটি একটি HTML ফাইল খুললে, এটি একটি পূর্ণ ব্রাউজার-কম্প্রোমাইজ চেইন তৈরি করে যা স্যান্ডবক্স থেকে বেরিয়ে হোস্টে কমান্ড চালিয়েছিল. মডেলটি একটি শক্তভাবে সুরক্ষিত অপারেটিং সিস্টেমেও একাধিক দুর্বলতা খুঁজে পায় এবং সেগুলোকে একত্র করে অনধিকারপ্রাপ্ত ব্যবহারকারী থেকে রুট পর্যন্ত একটি লোকাল প্রিভিলেজ-এস্কেলেশন চেইন তৈরি করে. সব মিলিয়ে, আমাদের তদন্ত আমাদের এই সিদ্ধান্তে পৌঁছাতে সাহায্য করেছে যে Astra গুরুত্বপূর্ণ থ্রেশহোল্ড পূরণ করে.

Astra-এর মতো উচ্চমাত্রার সাইবার নিরাপত্তা সক্ষমতাসম্পন্ন মডেলের ক্ষেত্রে বড় ধরনের সাইবার ক্ষতির ঝুঁকি কমাতে উন্নয়নের সময় এবং মোতায়েনের আগে, উভয় ক্ষেত্রেই আমাদের দুটি ঝুঁকির পথ বিবেচনায় নিতে হবে:

• ক্ষতিকর উদ্দেশ্যসম্পন্ন ব্যক্তিদের দ্বারা মডেলের ব্যবহার. আমাদের সুরক্ষাব্যবস্থা এমনভাবে শক্তিশালী হতে হবে, যাতে ক্ষতিকর উদ্দেশ্যসম্পন্ন ব্যক্তিরা Astra ব্যবহার করে কঠোরভাবে সুরক্ষিত গুরুত্বপূর্ণ সিস্টেমে আগে অজানা ত্রুটির জন্য এক্সপ্লয়েট তৈরি করতে না পারে কিংবা শক্তভাবে সুরক্ষিত লক্ষ্যবস্তুর বিরুদ্ধে শুরু থেকে শেষ পর্যন্ত পূর্ণাঙ্গ সাইবার আক্রমণ চালাতে না পারে.

• মডেলের অননুমোদিত ও উদ্দেশ্যের সঙ্গে অসামঞ্জস্যপূর্ণ পদক্ষেপ গ্রহণ. ক্ষতিকর ব্যবহারকারী না থাকলেও, উন্নত সাইবারসিকিউরিটি সক্ষমতাসম্পন্ন কোনো মডেল অসামঞ্জস্যপূর্ণ হলে নিজেই সাইবার ক্ষতি ঘটাতে পারে. এই সক্ষমতাসম্পন্ন মডেলের জন্য অ্যালাইনমেন্টের খুব উচ্চ মান বজায় রাখার পাশাপাশি, দ্বিতীয় স্তরের প্রতিরক্ষা হিসেবে আমাদের সুরক্ষাব্যবস্থাকে এমন হতে হবে যাতে বাস্তব জগতে উল্লেখযোগ্য ক্ষতি ঘটাতে পারে এমন অসামঞ্জস্যপূর্ণ কার্যকলাপ দ্রুত শনাক্ত ও নিয়ন্ত্রণ করা যায়.

উল্লেখযোগ্যভাবে, দ্বিতীয় পথটি অভ্যন্তরীণ উন্নয়ন ও বাহ্যিক মোতায়েন উভয়ের ক্ষেত্রেই প্রযোজ্য. আমরা যেমন আগে বর্ণনা করেছি, OpenAI-Hugging Face ঘটনার পর প্রশিক্ষণ অবকাঠামো আরও সুরক্ষিত করতে আমরা দুই সপ্তাহের জন্য কিছু অত্যাধুনিক প্রশিক্ষণ (Astra-র কিছু প্রশিক্ষণসহ) স্থগিত রেখেছিলাম; এর মধ্যে ছিল বিচ্ছিন্নকরণ ও নেটওয়ার্ক নিয়ন্ত্রণ, পর্যবেক্ষণ সম্প্রসারণ, এবং অ্যালাইনমেন্ট প্রশিক্ষণ ও থ্রেশহোল্ড শক্তিশালী করা. এরপর আমরা কঠোরতর নিয়ন্ত্রণের অধীনে ছোট পরিসরের কাজ চালিয়ে যাই.

Astra-র ভবিষ্যৎ সংস্করণের জন্য কিছু বড় রিইনফোর্সমেন্ট লার্নিং (RL) রান আমরা আরও বেশি সময় ধরে স্থগিত রেখেছিলাম, যতক্ষণ না তাদের প্রশিক্ষণ পরিবেশের নিরাপত্তা ও সুরক্ষার জন্য উচ্চতর মানদণ্ড স্থাপন করা হয়. নতুন নিরাপত্তা ও সুরক্ষা শর্ত কার্যকর হওয়ার পর, ২৮ আগস্ট আমরা আগে স্থগিত রাখা বড় অত্যাধুনিক RL রানটি আবার শুরু করি. আমরা এখনও কিছু ছোট পরীক্ষামূলক প্রশিক্ষণ রান সাময়িকভাবে স্থগিত রাখছি.

Astra-কে প্রকাশের জন্য প্রস্তুত করতে সাইবার অপব্যবহার এবং অননুমোদিত কর্মকাণ্ডের বিরুদ্ধে আরও শক্তিশালী সুরক্ষাব্যবস্থারও প্রয়োজন হয়েছে. নিচে আমরা সেই সুরক্ষা ব্যবস্থাগুলো এবং সেগুলো কীভাবে পরীক্ষা করেছি তা বর্ণনা করছি.

ফেব্রুয়ারিতে সাইবারসিকিউরিটিতে উচ্চ সক্ষমতা হিসেবে বিবেচিত প্রথম মডেল মোতায়েনের পর থেকে প্রতিটি ধারাবাহিক লঞ্চের সঙ্গে আমরা আমাদের সাইবার সুরক্ষা ব্যবস্থা আরও শক্তিশালী করেছি. আমাদের সামগ্রিক নিরাপত্তা পদ্ধতিতে একাধিক স্তর রয়েছে, যেমন- পোস্ট-ট্রেইনিং পর্যায়ে মডেলের প্রত্যাখ্যান ব্যবস্থা, সিস্টেম-স্তরের নিরাপত্তা ক্লাসিফায়ার, পাশাপাশি অফলাইন শনাক্তকরণ ও হুমকি প্রতিহত করার ব্যবস্থা.

GPT‑5.6⁠(একটি নতুন উইন্ডোতে খোলে)-এর ক্ষেত্রে আমরা আমাদের সিস্টেম-স্তরের সুরক্ষা স্ট্যাকের দৃঢ়তা উল্লেখযোগ্যভাবে বাড়িয়েছি, এর মধ্যে রয়েছে সাইবার অপব্যবহার শনাক্ত করতে অ্যাক্টিভেশন ক্লাসিফায়ার যোগ করা এবং নিবিড় স্বয়ংক্রিয় রেড-টিমিংয়ের মাধ্যমে শনাক্ত সর্বজনীন নিরাপত্তা এড়ানোর কৌশলের বিরুদ্ধে সুরক্ষার আওতা বাড়ানো. এসব উন্নতির ওপর ভিত্তি করে Astra-এর জন্য আমরা আমাদের সুরক্ষা স্ট্যাকের মডেল-স্তরে আরও বিনিয়োগ করেছি এবং পাশাপাশি একাধিক কথোপকথনের প্রেক্ষাপট সামলানোর ক্ষেত্রে সুরক্ষাব্যবস্থার সক্ষমতাও উন্নত করেছি.

• মডেলের দৃঢ়তা বাড়ানোর জন্য নতুন প্রশিক্ষণ কৌশল ব্যবহার করে, Astra নিষিদ্ধ সাইবার সহায়তার অনুরোধ আরও নির্ভরযোগ্যভাবে প্রত্যাখ্যান করে. আমাদের সাইবার নিরাপত্তা এড়ানোর কৌশল মূল্যায়নসমূহে Astra 91.5% অনুরোধ প্রত্যাখ্যান করে (যেখানে GPT‑5.6 Sol-এর ক্ষেত্রে এই হার ছিল 59%).

• যেসব অ্যাকাউন্টকে উচ্চতর ঝুঁকিপূর্ণ হিসেবে মূল্যায়ন করা হয়, সেগুলোর ক্ষেত্রে আমরা আরও সতর্কতামূলক মডেল-আচরণ সীমা প্রয়োগ করি, যা সম্ভাব্য ঝুঁকিপূর্ণ সাইবার সহায়তার আরও বিস্তৃত পরিসর প্রত্যাখ্যান করে. উচ্চ-ঝুঁকির ব্যবহারকারীদের ক্ষেত্রে এ ধরনের সাইবার অপব্যবহার শনাক্ত করতে আমরা আমাদের পর্যবেক্ষণ ব্যবস্থার প্রাসঙ্গিক তথ্যের পরিধিও বাড়িয়েছি.

আমরা কঠোর পরীক্ষা, অভ্যন্তরীণ ও বাহ্যিক রেড-টিমিং এবং সমস্যা সমাধানের কার্যক্রমও অব্যাহত রেখেছি. আগের পরীক্ষাগুলোতে শনাক্ত হওয়া সব নিরাপত্তা এড়ানোর কৌশলের বিরুদ্ধে সুরক্ষা এখনো কার্যকর রয়েছে কি না তা নিশ্চিত করতে রিগ্রেশন টেস্টিংয়ের পাশাপাশি, আমাদের সর্বশেষ অভ্যন্তরীণ রেড টিমিং আক্রমণকারীদের ব্যবহার করে নতুন পর্যায়ের রেড-টিমিং পরিচালনা করছি. একটি সাধারণ নিরাপত্তা এড়ানোর কৌশল রেটিং সিস্টেম নির্ধারণের জন্য আমরা শিল্পখাতের অংশীদারদের সঙ্গে কাজ করছি এবং নতুন কোনো ফলাফল পাওয়া গেলে তা তদন্ত ও সমাধানের জন্য আমাদের ২৪/৭ দ্রুত-প্রতিক্রিয়া কর্মসূচি ব্যবহার করব. Astra সিস্টেম কার্ডে আমরা আমাদের সাইবার সুরক্ষা পরীক্ষার আরও বিস্তারিত জানাব.

ডিফেন্ডারদের দুর্বলতা খুঁজে বের করে ঠিক করতে সাহায্য করা আমাদের নিরাপত্তা পদ্ধতির একটি কেন্দ্রীয় স্তম্ভ হিসেবেই রয়েছে. সম্ভাব্য অপব্যবহার থেকে সুরক্ষা দিতে প্রাথমিকভাবে Astra-এর সুরক্ষাব্যবস্থা আমাদের দীর্ঘমেয়াদি লক্ষ্যের তুলনায় বৈধ কাজেও কিছুটা বেশি বাধা সৃষ্টি করবে বলে আমরা ধারণা করছি. উন্নত সাইবার নিরাপত্তা ওয়ার্কফ্লোতে Astra ব্যবহারের সুযোগ শুরুতে অল্পসংখ্যক আলফা পরীক্ষকের জন্য উপলব্ধ থাকবে; এরপর প্রতিরক্ষামূলক ব্যবহারকে সহায়তা করতে Daybreak Blue-এর মাধ্যমে এই প্রবেশাধিকার আরও বিস্তৃত করা হবে.

মডেল যাতে সম্ভাব্য অসামঞ্জস্যপূর্ণ পদক্ষেপ নিতে না পারে, সে জন্য আমরা অতিরিক্ত স্তরভিত্তিক সুরক্ষাও যোগ করেছি:

• মডেল অ্যালাইনমেন্ট: আমাদের মূল্যায়নে Astra, GPT‑5.6 Sol-এর তুলনায় স্পষ্ট নিরাপত্তা ও সুরক্ষা বিধিনিষেধ মানতে এবং অনুমোদিত সীমার মধ্যে থাকতে অনেক বেশি সম্ভাবনাময় ছিল, ফলে এটি এখন পর্যন্ত আমাদের সবচেয়ে অ্যালাইনড মডেল. আমরা বিশেষভাবে নিরাপত্তা ও সুরক্ষা বিধিনিষেধের প্রতি মডেলের সম্মান এবং অনুমোদিত সীমার মধ্যে থাকার প্রবণতার ওপর জোর দিয়েছি.

• পর্যবেক্ষণ ও নিয়ন্ত্রণ: অভ্যন্তরীণভাবে আমাদের প্রক্রিয়াগুলোর সমান্তরালে, সম্ভাব্য অসামঞ্জস্যপূর্ণ পদক্ষেপ দ্রুত শনাক্ত ও নিয়ন্ত্রণে রাখতে আমরা Astra-তে অতিরিক্ত চেইন-অফ-থট পর্যবেক্ষণসহ মোতায়েন করছি.

Astra মডেল অ্যালাইনমেন্টে একটি উল্লেখযোগ্য অগ্রগতি, এবং এটি দীর্ঘদিন ধরে চলা বেশ কয়েকটি অ্যালাইনমেন্ট কাজের ধারার পরিণতি (প্রি-ট্রেনিং হস্তক্ষেপ থেকে শুরু করে রিইনফোর্সমেন্ট লার্নিংয়ের সময় আরও সতর্ক ও সামঞ্জস্যপূর্ণ গ্রেডিং পর্যন্ত). পরীক্ষায় আমরা দেখি, GPT 5.6 Sol-এর তুলনায় Astra ধারাবাহিকভাবে স্পষ্ট নিরাপত্তা বিধিনিষেধ ও সতর্কতা (যেমন অটো-রিভিউ) মানার বেশি সম্ভাবনা দেখায়.

আমরা Hugging Face ঘটনা থেকে প্রাপ্ত ধারণার ভিত্তিতেও একটি পরীক্ষা তৈরি করেছি, যেখানে সাইবার মূল্যায়ন ExploitGym চালানো এজেন্টরা তৃতীয় পক্ষের সিস্টেম কম্প্রোমাইজ করেছিল. সেই মূল্যায়নের সবচেয়ে কঠিন কাজগুলো ব্যবহার করে আমরা “হানিপট” পরীক্ষা তৈরি করেছি, যাতে দেখা যায় কোনো মডেল তার নির্ধারিত কাজ সমাধান করার বদলে আশপাশের নিরাপত্তা অবকাঠামো কম্প্রোমাইজ করার চেষ্টা করে কিনা. প্রোডাকশন সুরক্ষা ব্যবস্থা ছাড়া GPT‑5.6 Sol, বেঞ্চমার্ক পরিবেশ অনুকরণকারী পরীক্ষার 56%-এ ওই লক্ষ্যগুলোতে প্রবেশের চেষ্টা করেছে, যেখানে মডেলকে এক্সপ্লয়েট তৈরি করতে নির্দেশ দেওয়া হয়. এই পরীক্ষাগুলোতে Astra এমন কোনো চেষ্টা করেনি. এই পরিসংখ্যানগুলো সাইবার সুরক্ষাব্যবস্থা ছাড়া পরীক্ষার শর্তে মডেলের আচরণকে বর্ণনা করে, স্বাভাবিক প্রোডাকশন ব্যবহারের আচরণকে নয়.

মডেলগুলোকে অ্যালাইনড হতে প্রশিক্ষণ দেওয়া নিরাপত্তার একটি স্তর. Astra সিস্টেম কার্ডে আমরা আমাদের অ্যালাইনমেন্ট পরীক্ষা ও ফলাফল সম্পর্কে আরও বিস্তারিত জানাব.

সম্ভাব্য মিসঅ্যালাইনমেন্ট শনাক্ত করে দ্রুত নিয়ন্ত্রণে আনতে আমরা Astra-শ্রেণির মডেলের জন্য প্রোডাকশনে মিসঅ্যালাইনমেন্ট পর্যবেক্ষণও মোতায়েন করছি. এই সুরক্ষা ব্যবস্থাগুলো অভ্যন্তরীণ মোতায়েনের জন্য আমাদের পর্যবেক্ষণের মতো এবং এতে ক্লাসিফায়ারের একটি সিস্টেম থাকে, যা অননুমোদিত আচরণের জন্য মডেলের যুক্তি ও পদক্ষেপ পরীক্ষা করে এবং সম্ভাব্য অননুমোদিত কার্যকলাপ স্বয়ংক্রিয়ভাবে থামিয়ে দেয়. সক্ষমতা বাড়ার সঙ্গে সঙ্গে এই সুরক্ষা ব্যবস্থাগুলো আমাদের মডেলের ভালো অ্যালাইনমেন্টের বিকল্প হতে পারে না, এবং আমাদের লক্ষ্য হলো ভবিষ্যতের মডেলগুলো এতটাই ভালোভাবে অ্যালাইনড হবে যে এসব সুরক্ষা ব্যবস্থা কখনও সক্রিয় হবে না.

এআই-এর সুফল যাতে ব্যাপকভাবে সবার নাগালে থাকে, তা নিশ্চিত করতে OpenAI প্রতিশ্রুতিবদ্ধ. Astra-এর সাইবার নিরাপত্তা সক্ষমতা উল্লেখযোগ্যভাবে বৃদ্ধি পাওয়ায়, এই মডেলটি নিরাপদ ও সুরক্ষিতভাবে মোতায়েন করার ক্ষেত্রে আমরা বিশেষ সতর্কতা অবলম্বন করছি. অতিরিক্ত নিরাপত্তা যাচাই মাঝেমধ্যে বৈধ কাজের গতি কমিয়ে দিতে, সাময়িকভাবে থামিয়ে দিতে বা সম্পূর্ণভাবে বন্ধ করে দিতে পারে, এর মধ্যে প্রতিরক্ষামূলক সাইবার নিরাপত্তা সংক্রান্ত কাজও অন্তর্ভুক্ত.

সিস্টেমটি মাঝেমধ্যে বৈধ কার্যকলাপকে সম্ভাব্য সাইবার অপব্যবহার বা অননুমোদিত আচরণ হিসেবে চিহ্নিত করতে পারে, ফলে তা অনিচ্ছাকৃতভাবে ধীর, বিরত বা বন্ধ হয়ে যেতে পারে. এর মধ্যে এমন কাজও থাকতে পারে, যা সরাসরি সাইবার নিরাপত্তার সঙ্গে সম্পর্কিত বলে মনে হয় না, অথবা এমন কাজ যেখানে কোনো এজেন্ট দীর্ঘ সময় ধরে চলতে থাকে.

মিসঅ্যালাইনমেন্ট মনিটর কোনো কাজ সাময়িকভাবে থামিয়ে দিলে, ChatGPT বা Codex-এর ব্যবহারকারীদের চালিয়ে যাওয়ার আগে সংশ্লিষ্ট পদক্ষেপটি পর্যালোচনা করতে বলা হতে পারে. API-এর মতো অন্য সারফেস ব্যবহার করলে কাজটি থেমে যাবে. অপ্রয়োজনীয় বিঘ্ন কমাতে এবং Daybreak-এর মতো কর্মসূচির মাধ্যমে অত্যাধুনিক সক্ষমতায় প্রবেশাধিকার বাড়াতে আমরা এসব সুরক্ষা ব্যবস্থা নিয়মিত ক্যালিব্রেট করার পরিকল্পনা করছি.

আমরা এআই উন্নয়নের এমন এক পর্যায়ে প্রবেশ করছি, যেখানে মডেলগুলো আরও গুরুত্বপূর্ণ কাজের দায়িত্ব নিতে পারে এবং অ্যালাইনমেন্ট ও নিয়ন্ত্রণের ব্যর্থতা আরও গুরুতর প্রভাব ফেলতে পারে. এই সিস্টেমগুলোর সুফল বাস্তবায়ন নির্ভর করবে তাদের সক্ষমতা বাড়ার সঙ্গে সঙ্গে মডেলগুলোকে অ্যালাইন ও নিয়ন্ত্রণ করার ক্ষেত্রে আমাদের সক্ষমতার ওপর.

এই দায়িত্ব প্রশিক্ষণ, মূল্যায়ন এবং মোতায়েনসহ সব পর্যায়েই প্রযোজ্য. এর জন্য দরকার মডেল যে কাঙ্ক্ষিত উদ্দেশ্যের সঙ্গে সামঞ্জস্যপূর্ণভাবে আচরণ করছে তার আরও দৃঢ় প্রমাণ, সক্ষমতা বৃদ্ধির সঙ্গে সমানতালে উন্নত হওয়া নিরাপত্তাব্যবস্থা এবং সেই সুরক্ষা পর্যাপ্ত না হলে অগ্রগতির গতি কমিয়ে দেওয়ার মানসিকতা.

আমরা এসব সিস্টেমের পরীক্ষা চালিয়ে যাব, অর্জিত শিক্ষা সবার সঙ্গে ভাগ করে নেব এবং কোন বিষয়গুলো এখনো অনিশ্চিত রয়েছে সে সম্পর্কে স্বচ্ছ থাকব. Astra-এর পরবর্তী মডেলগুলো আমাদের কাছ থেকে আরও বেশি দায়িত্বশীলতা দাবি করবে. সে দায়িত্ব পালনে প্রয়োজনীয় সময় আমরা নেব এবং কাজটি করব.