অত্যাধুনিক এআইয়ের ঝুঁকি ব্যবস্থাপনা: প্রশিক্ষণ থেকে মোতায়েন
১৮ নভেম্বর, ২০২৬ · নিরাপত্তা
অত্যাধুনিক মডেলের সক্ষমতা দ্রুত বাড়ছে. সেগুলো বোঝা, সামঞ্জস্যপূর্ণ করা ও সুরক্ষিত রাখার সক্ষমতায় আমাদের এগিয়ে থাকতে হবে. আমরা মডেল উন্নয়ন ও প্রকাশের গতি নিয়ন্ত্রণ করছি. নিরাপত্তার মান পূরণে আরও সময় লাগলে অভ্যন্তরীণ প্রশিক্ষণ(একটি নতুন উইন্ডোতে খোলে) স্থগিত রাখছি বা GPT‑6.1 Astra-র মতো মডেল প্রকাশ পিছিয়ে দিচ্ছি. আমরা নিরাপত্তার পক্ষে প্রমাণভিত্তিক যুক্তি তৈরির মতো নতুন প্রক্রিয়া চালু করেছি এবং প্রশিক্ষণজুড়ে সামঞ্জস্যপূর্ণ আচরণের আরও জোরালো প্রমাণ দাবি করছি. এসব শর্ত মডেল প্রকাশের গতি কমায়, তবে নিরাপদে এগোনোর আত্মবিশ্বাস বাড়ায়.
জুলাইয়ের হাগিং ফেসের ঘটনার পর থেকে মডেল প্রশিক্ষণ, পরীক্ষা ও মোতায়েনের রক্ষাব্যবস্থা এবং সামঞ্জস্যের শর্ত আরও কঠোর করেছি. কঠোরভাবে স্যান্ডবক্সে আবদ্ধ প্রশিক্ষণ পরিবেশ থেকে আপনার কম্পিউটারে Codex ব্যবহার পর্যন্ত, প্রতিটি পর্যায়ে কীভাবে ঝুঁকি মূল্যায়ন ও নিয়ন্ত্রণ করি, এই লেখায় তা ব্যাখ্যা করা হয়েছে. প্রতিটি পর্যায়ে মডেল ও রক্ষাব্যবস্থা দুটোই মূল্যায়ন করি. পরের পর্যায়ে যেতে নিরাপত্তা পর্যালোচনা আবশ্যক.
আমরা সুরক্ষার একাধিক স্তর নিয়ে বহুস্তরীয় প্রতিরক্ষা ব্যবহার করি, যা কোনো একক রক্ষাব্যবস্থার ওপর নির্ভরতা কমায়. একটি স্তর ব্যর্থ হলে অন্যগুলো ক্ষতি ঠেকাতে, পরিণতি সীমিত রাখতে বা আমাদের সতর্ক করতে সাহায্য করে, যাতে আমরা হস্তক্ষেপ করতে পারি.
আমাদের সুরক্ষাব্যবস্থা চারটি স্তরে সাজানো:
কার্যকর পর্যবেক্ষণ নির্ভর করে মডেলের পর্যবেক্ষণযোগ্যতার ওপর - অর্থাৎ পর্যবেক্ষকেরা মডেলের যুক্তিপ্রক্রিয়া ও কাজ থেকে কতটা নির্ভরযোগ্যভাবে ভুল বা অনিরাপদ আচরণ শনাক্ত করতে পারেন. যেমন, যে মডেল তার চেইন-অফ-থটে (CoT) প্রতারণার ইচ্ছা প্রকাশ করে, সেটি এই তথ্য বাদ দেওয়া মডেলের চেয়ে বেশি পর্যবেক্ষণযোগ্য. প্রশিক্ষণকালে ও মোতায়েনের আগে পর্যবেক্ষণযোগ্যতা মূল্যায়ন করি, তা মাপার উন্নত পদ্ধতি(একটি নতুন উইন্ডোতে খোলে) তৈরি করি এবং কোন বিষয়গুলো তা প্রভাবিত করে তা গবেষণা করি(একটি নতুন উইন্ডোতে খোলে).
হাগিং ফেসের ঘটনা দেখিয়েছে, অত্যন্ত সক্ষম মডেলকে আবদ্ধ রাখতে শুধু স্যান্ডবক্সের ওপর নির্ভর করা উচিত নয় কেন. এখন আমরা অধিকাংশ অভ্যন্তরীণ ও বাহ্যিক মোতায়েনে অত্যাধুনিক মডেল পর্যবেক্ষণ করি, যার মধ্যে সরঞ্জাম ব্যবহারকারী সব অভ্যন্তরীণ মোতায়েন অন্তর্ভুক্ত.
মডেল উন্নয়ন ও মোতায়েনের তিনটি পর্যায়ে প্রতিটি স্তরের ভূমিকা বদলায়:
গবেষণা: স্যান্ডবক্স পরিবেশে মডেল প্রশিক্ষণ, পরীক্ষা ও ব্যবহার করি.
অভ্যন্তরীণ মোতায়েন: OpenAI কর্মীরা বাস্তব কাজে মডেল ব্যবহার করেন.
বাহ্যিক মোতায়েন: আরও বিস্তৃত পরিসরে মানুষ ও প্রতিষ্ঠানের জন্য মডেল উপলব্ধ হয়.
বিভিন্ন পর্যায়ে আমরা বিভিন্ন স্তরের ওপর নির্ভর করি. প্রশিক্ষণকালে সামঞ্জস্য কম নিশ্চিত থাকায় স্যান্ডবক্সে আবদ্ধ রাখা ও পর্যবেক্ষণের ওপর বেশি নির্ভর করি. মোতায়েনে মডেলের প্রবেশাধিকার বাড়ার সঙ্গে সঙ্গে সামঞ্জস্য ও সিস্টেম-স্তরের নিয়ন্ত্রণের গুরুত্ব বাড়ে. প্রতি পর্যায়ে মূল্যায়ন করি, মডেলের সক্ষমতা ও প্রবেশাধিকারের তুলনায় সম্মিলিত সুরক্ষা যথেষ্ট কি না. আমাদের সিদ্ধান্তগুলো নিরাপত্তা উপদেষ্টা গ্রুপের (SAG) সঙ্গে পর্যালোচনা করা হতে পারে. OpenAI Foundation-এর পরিচালনা পর্ষদের নিরাপত্তা ও সুরক্ষা কমিটি (SSC) এগুলোর তত্ত্বাবধান করতে পারে.
গবেষণা পর্যায়ে মডেলের সামঞ্জস্যের বৈশিষ্ট্য সম্পর্কে আস্থা অর্জনে সেগুলোর মূল্যায়ন করি. ক্ষতি ঠেকাতে এখনো সামঞ্জস্যের ওপর পুরোপুরি নির্ভর করা যায় না. তাই মডেল কী করতে ও কোথায় প্রবেশ করতে পারবে, তা সীমিত রাখতে সুরক্ষা ও স্যান্ডবক্সের ওপর অনেকটা নির্ভর করি.
সামঞ্জস্য গবেষণা, পর্যবেক্ষণব্যবস্থা ও ইন্টারনেট অবকাঠামোর সুরক্ষার বর্তমান অবস্থা বিবেচনায়, আমরা মনে করি সরাসরি ইন্টারনেট সংযোগ ছাড়া অত্যাধুনিক মডেলের প্রশিক্ষণ চালানোই দায়িত্বশীল পথ. হাগিং ফেসের ঘটনার পর মডেলকে আবদ্ধ রাখতে অভ্যন্তরীণ গবেষণাব্যবস্থায় বড় ধরনের পুনর্গঠন করেছি. এতে ব্যবহার করছি:
মডেলের ক্ষমতা সীমিত রাখার স্যান্ডবক্স
মূল কম্পিউটার থেকে কাজকে আরও বিচ্ছিন্ন রাখতে ভার্চুয়াল মেশিন
পুরো কম্পিউটারগুচ্ছকে ইন্টারনেট থেকে বিচ্ছিন্ন রাখার নেটওয়ার্ক ও ক্লাউড সীমানা
আমরা নিয়মিত এই ব্যবস্থার রেড টিমিং করি. আমাদের সবচেয়ে শক্তিশালী মডেলের দলগুলো সরাসরি ইন্টারনেটে পৌঁছানো, সুরক্ষাসীমা ভাঙা বা যেসব এজেন্ট থেকে বিচ্ছিন্ন থাকার কথা তাদের সঙ্গে যোগাযোগের চেষ্টা করে. এতে যাচাই করা যায়, যে মডেলগুলোকে আবদ্ধ রাখার কথা, তাদের সক্ষমতার বিরুদ্ধে আবদ্ধ রাখার ব্যবস্থা টিকে থাকে কি না.
বাড়তি প্রতিরক্ষা হিসেবে অত্যাধুনিক মডেলের সব ইনফারেন্স পর্যবেক্ষণ করি, যাতে মডেল আমাদের অপরিবর্তনীয় সুরক্ষাশর্ত এড়িয়ে গেছে কি না ধরা যায়. পর্যবেক্ষণে মডেলের ইন্টারনেটে পৌঁছানোর প্রমাণ মিললে, আমরা সুরক্ষা দলগুলোকে জরুরি সংকেত পাঠাই ও স্বয়ংক্রিয়ভাবে কাজ স্থগিত করি.
আবদ্ধ রাখার ব্যবস্থা ব্যর্থ হলে পর্যবেক্ষণ জরুরি শেষ রক্ষাকবচ হিসেবে কাজ করে. সাম্প্রতিক অসামঞ্জস্যের প্রতিবেদনে জানিয়েছি, পর্যবেক্ষকেরা অভ্যন্তরীণ গবেষণার একটি মডেলকে ডিএনএসের ভুল কনফিগারেশন কাজে লাগাতে শনাক্ত করেছে(একটি নতুন উইন্ডোতে খোলে). এভাবে সেটি সীমিত ইন্টারনেট সংযোগ পেয়েছিল. তদন্ত ও সুরক্ষার ফাঁক বন্ধ করার সময়, ২০ সেপ্টেম্বর থেকে ১ অক্টোবর পর্যন্ত সবচেয়ে সক্ষম মডেলগুলোর প্রশিক্ষণ ও মূল্যায়ন স্থগিত রেখেছিলাম.
দ্রুত ও নির্ভরযোগ্য হস্তক্ষেপের জন্য আমরা Control Room তৈরি করেছি. এই কেন্দ্রীয় ব্যবস্থা গবেষণার কাজের হিসাব রাখে এবং কাজ থামানোর নির্দেশ পাওয়ার ৩৫ সেকেন্ডের মধ্যে মডেলের পরবর্তী আউটপুট বন্ধ করে. এই নিয়ন্ত্রণ সরাসরি ইনফারেন্স অবকাঠামোতে কার্যকর হয়. তাই প্রতিটি গবেষণার কাজে আলাদা বন্ধ করার ব্যবস্থা থাকার ওপর এগুলো নির্ভর করে না. অত্যাধুনিক মডেলের গবেষণার কাজের ক্ষেত্রে Control Room অপ্রাপ্য হলেও এগুলো মডেলের আউটপুট বন্ধ করে দেয়.
রেড টিমিং ও পর্যবেক্ষণ একসঙ্গে কাজ করে. স্যান্ডবক্স অভেদ্য, এমন নিশ্চয়তা দিতে পারি না. তবে তা থেকে বের হতে মডেলের কতটা চেষ্টা লাগবে, রেড টিমিং দিয়ে তা মূল্যায়ন করা যায়. মডেলের যত বেশি চেষ্টা লাগবে, পর্যবেক্ষকদের সেটি শনাক্ত করে থামানোর সুযোগ তত বাড়বে.
কয়েকটি কারণে গবেষণা পর্যায়ে শক্তিশালী সুরক্ষা ও পর্যবেক্ষণ নিয়ন্ত্রণ বাধ্যতামূলক করেছি:
মডেলগুলোর মূল্যায়ন এখনো চলছে. কিছু মডেলের ক্ষেত্রে সর্বসাধারণের জন্য প্রকাশের আগে প্রয়োজনীয় নিরাপত্তা প্রশিক্ষণ, সামঞ্জস্য নিরীক্ষা ও পর্যালোচনা এখনো শেষ হয়নি.
অত্যাধুনিক গবেষণার পরিবেশ ঝুঁকি বাড়াতে পারে. কিছু গবেষণায় আরও উচ্চাভিলাষী ব্যবস্থা দরকার হয়. এতে মডেল সাধারণ বাহ্যিক ব্যবহারের তুলনায় আরও বেশি সময় ধরে চেষ্টা চালাতে পারে বা বেশি সক্ষম হয়ে ওঠে (যেমন, নাভিয়ার–স্টোকস সমস্যা সমাধানে ১০,০০০ এজেন্টের একটি দল লেগেছিল).
সরাসরি মানব তত্ত্বাবধান কম রেখেই বৃহৎ পরিসরে প্রশিক্ষণ চলে. সাধারণ Codex সেশনের বিপরীতে, আমাদের প্রশিক্ষণের কাজে মডেল বিপুলসংখ্যক পদক্ষেপ নেয়, যার প্রতিটি মিথস্ক্রিয়া কোনো মানুষ অনুসরণ করেন না.
বিস্তৃত প্রকাশের আগে, কর্মীরা অত্যাধুনিক মডেলগুলো স্যান্ডবক্সে গবেষণার কাজে ব্যবহার থেকে স্যান্ডবক্সের বাইরে অভ্যন্তরীণ ব্যবহারে যান. যেমন, কর্মীদের জন্য ChatGPT‑তে মডেলটি উপলব্ধ করা হয়. এতে মডেলগুলো বাস্তব পরিবেশে কেমন আচরণ করে(একটি নতুন উইন্ডোতে খোলে) তা আরও ভালোভাবে বোঝা যায় এবং মোতায়েনের সিদ্ধান্ত নিতে সুবিধা হয়.
এই পর্যায়ে আমরা মডেলকে বৃহত্তর ইন্টারনেট, আমাদের স্ল্যাক, কোডবেস ও অভ্যন্তরীণ অবকাঠামোতে প্রবেশাধিকার দিই. এতে ঝুঁকিতে বড় পরিবর্তন আসে, কারণ মডেলের কাজ এখন OpenAI গড়ে তোলা ও পরিচালনার সিস্টেমগুলোকে সরাসরি প্রভাবিত করে. অভ্যন্তরীণ মোতায়েনে সুরক্ষা নিয়ন্ত্রণের চেয়ে মডেলের সামঞ্জস্য, সিস্টেমের রক্ষাব্যবস্থা ও পর্যবেক্ষণের ওপর আমাদের বেশি নির্ভর করতে হয়.
অত্যাধুনিক মডেল স্যান্ডবক্সের বাইরে মোতায়েনের আগে সেটির সামঞ্জস্য ও পর্যবেক্ষণযোগ্যতার পরীক্ষা(একটি নতুন উইন্ডোতে খোলে) আবশ্যক. আমাদের সামঞ্জস্য মূল্যায়নগুলো নির্দিষ্ট ব্যর্থতা (যেমন নিরাপত্তা ও সুরক্ষার বিধিনিষেধ এড়ানো) এবং সার্বিক প্রবণতা দুটোই পরীক্ষা করে. সার্বিক প্রবণতা মাপতে, (যেমন, অভ্যন্তরীণ Codex-এর কাজের ধারার পুনর্নমুনায়ন করে অসামঞ্জস্য খোঁজা হয়). আমাদের সামঞ্জস্য ও পর্যবেক্ষণযোগ্যতার মূল্যায়ন সম্পর্কে আরও জানুন সর্বশেষ GPT‑6 Astra সিস্টেম কার্ডে(একটি নতুন উইন্ডোতে খোলে).
বাস্তব ব্যবহারের ব্যবস্থার অনুকরণে আমরা সিস্টেম-স্তরের শ্রেণিবিন্যাসকারী দিয়ে বাড়তি প্রতিরক্ষা যোগ করি. এগুলো সাইবার অপব্যবহার ও জীবাণু অস্ত্র তৈরির মতো অত্যাধুনিক প্রযুক্তিজনিত ক্ষতি ঠেকাতে তৈরি. Codex ব্যবহারকারী কর্মীদের জন্যও সাধারণত স্বয়ংক্রিয় পর্যালোচনা(একটি নতুন উইন্ডোতে খোলে) বাধ্যতামূলক. এটি সম্ভাব্য ঝুঁকিপূর্ণ কাজ মূল্যায়ন করে সিদ্ধান্তের জন্য ব্যবহারকারীর কাছে পাঠায়.
সবশেষে, অভ্যন্তরীণ মোতায়েনে অত্যাধুনিক মডেলের প্রতিটি ইনফারেন্সে অসামঞ্জস্যপূর্ণ আচরণ আছে কি না পর্যবেক্ষণ করি. মডেলের ক্ষমতা ও অভ্যন্তরীণ তথ্য-সিস্টেমে প্রবেশাধিকার এখন বেশি. তাই তথ্য পাচার বা অননুমোদিত গন্তব্যে সংবেদনশীল তথ্য পাঠানোর মতো ঝুঁকি শনাক্ত করা বিশেষ জরুরি. পর্যবেক্ষণ আমাদের অসামঞ্জস্যের নতুন ধরনগুলো(একটি নতুন উইন্ডোতে খোলে) তদন্ত করতেও সাহায্য করে.
সর্বসাধারণের জন্য মোতায়েন করলে মডেল অনেক বেশি ব্যবহারকারী, কাজ ও পরিবেশের মুখোমুখি হয়. এতে ঝুঁকির পরিসর ও বৈচিত্র্য দুটোই বাড়ে. এই পর্যায়ে এমন সম্ভাব্য দুরভিসন্ধিমূলক পক্ষের বিরুদ্ধেও সুরক্ষা দিতে হয়, যারা ইচ্ছাকৃতভাবে মডেলকে ক্ষতিকর কাজের নির্দেশ দেয়.
সর্বসাধারণের জন্য প্রকাশের আগে মডেল ও সিস্টেমের রক্ষাব্যবস্থাকে আমাদের বাহ্যিক মোতায়েনের নিরাপত্তা শর্ত পূরণ করতে হয়. এগুলো মূল্যায়নে আমরা যা করি:
আরও বিস্তৃত সামঞ্জস্য ও নিরাপত্তা মূল্যায়ন চালানো. অত্যাধুনিক মডেলের ক্ষেত্রে আমাদের অভ্যন্তরীণ স্বয়ংক্রিয় রেড টিমিং ব্যবস্থা দিয়ে নতুন দফায় অভিযোজিত পরীক্ষা চালানো হয়, যাতে কঠিন পরিস্থিতিতে মডেলের দৃঢ়তা যাচাই করা যায়. আমাদের সক্ষমতা ও নিরাপত্তা মূল্যায়নের ফল সিস্টেম কার্ডগুলোতে(একটি নতুন উইন্ডোতে খোলে) প্রকাশ করি.
সবচেয়ে সক্ষম মডেলগুলোর জন্য তৃতীয় পক্ষকে নিয়েও পরীক্ষা চালাই, যাতে অপব্যবহার রোধের রক্ষাব্যবস্থা ও মডেলের অন্তর্নিহিত সামঞ্জস্য—দুটোই কঠিন পরিস্থিতিতে যাচাই করা যায়.
মূল মডেলের অন্তর্নিহিত সামঞ্জস্যে পরিবর্তন ধরতে অভ্যন্তরীণ মোতায়েনে পর্যবেক্ষণ থেকে ওঠা সতর্কসংকেত পরীক্ষা করা.
বাহ্যিক মোতায়েনে আমাদের “তাৎক্ষণিক” রক্ষাব্যবস্থার (যেমন মডেলের নিরাপত্তা প্রশিক্ষণ ও সিস্টেমের শ্রেণিবিন্যাসকারী) পাশাপাশি অফলাইনে বিধি প্রয়োগ ও তদন্তও কাজে লাগাই. এই দলগুলো বৃহৎ পরিসরের তদন্তকারী এজেন্ট ও মানব পর্যালোচনা মিলিয়ে সম্ভাব্য হুমকিসৃষ্টিকারী পক্ষ শনাক্ত করে. এর আওতায় আছে সাইবার অপব্যবহার, জীবাণু অস্ত্র তৈরি, জ্ঞান স্থানান্তর ও মডেলের নিজস্ব অসামঞ্জস্য. সম্ভাব্য হুমকির পূর্ণাঙ্গ চিত্র পেতে বিভিন্ন অ্যাকাউন্টজুড়ে তথ্য সংগ্রহে অফলাইনে বিধি প্রয়োগ বিশেষ সহায়ক.
Daybreak ও Rosalind-এর মতো বিশ্বস্ত প্রবেশাধিকার কর্মসূচি বাড়তি সুরক্ষা দেয়. এগুলো সম্ভাব্য আক্রমণকারীর প্রবেশ সীমিত রেখে প্রতিরক্ষাকারী ও বৈধ গবেষকদের কাজ ত্বরান্বিত করে.
নিরাপত্তার কোনো স্তরে ব্যর্থতা দেখলে, বাস্তবে ক্ষতি হোক বা না হোক, আমরা দ্রুত তদন্ত, অগ্রাধিকার নির্ধারণ এবং সম্ভব ও যথাযথ হলে বাইরের সবার কাছে তা প্রকাশ করতে চাই. আমাদের অসামঞ্জস্য জানানোর নীতি অনুযায়ী, যেকোনো কর্মী কোনো ঘটনা জনসমক্ষে প্রকাশের জন্য চিহ্নিত করতে পারেন. এসব প্রতিবেদন তদন্ত করা হয়. বাইরে প্রকাশ করা উচিত কি না, তা নিয়ে মতবিরোধ হলে সিদ্ধান্তের জন্য আমাদের নিরাপত্তা উপদেষ্টা গ্রুপের (SAG) কাছে পাঠানো হয়. কর্মীদের প্রতিবেদনের ওপর নির্ভর করার পাশাপাশি আমরা উদ্যোগী হয়ে অসামঞ্জস্যের ঘটনা খুঁজি, যাতে সেগুলোর সমাধান করতে ও ফলাফল জানাতে পারি.
আমাদের অসামঞ্জস্যের প্রতিবেদনগুলো এখানে(একটি নতুন উইন্ডোতে খোলে) দেখতে পারেন.
এই কাজ গবেষণার অগ্রগতি ও পরিচালনাগত শৃঙ্খলা দুটোর ওপরই নির্ভরশীল: নিয়ন্ত্রণ সঠিকভাবে স্থাপন, সেগুলো একসঙ্গে কীভাবে কাজ করে তা পরীক্ষা এবং ব্যর্থ হলে দৃঢ় পদক্ষেপ নেওয়া. নেটওয়ার্ক সেবার ভুল কনফিগারেশন বা স্বয়ংক্রিয়ভাবে থামানোর ব্যবস্থার ব্যর্থতা অন্যথায় শক্তিশালী সুরক্ষাকেও দুর্বল করে দিতে পারে.
মডেল নতুন সক্ষমতা অর্জন করলে আমাদের রক্ষাব্যবস্থার পেছনের অনুমানগুলো বারবার যাচাই করতে এবং প্রয়োজনে সেগুলো উন্নত করতে হবে. গবেষণা, অভ্যন্তরীণ ব্যবহার ও সর্বসাধারণের জন্য মোতায়েন থেকে শেখা বিষয়গুলোকে পরবর্তী মডেলের প্রশিক্ষণ, মূল্যায়ন ও মোতায়েনে কাজে লাগাতে হবে.
সিস্টেম কার্ড, ঘটনার প্রতিবেদন, অভ্যন্তরীণ মোতায়েনের ঝুঁকি প্রতিবেদন(একটি নতুন উইন্ডোতে খোলে) ও বাহ্যিক মূল্যায়নের মাধ্যমে ফলাফল জানানো চালিয়ে যাব, যাতে অন্যরা আমাদের পদ্ধতি ও তার সীমাবদ্ধতা খতিয়ে দেখতে পারেন. প্রমাণ আমাদের নিরাপত্তার মানদণ্ড পূরণে যথেষ্ট না হলে, শর্তগুলো পূরণ না হওয়া পর্যন্ত আবারও প্রশিক্ষণ স্থগিত রাখব বা প্রকাশ আটকে দেব.
নিরাপত্তার মান নির্ধারণ
সাইবার ক্ষেত্রে সংকটসৃষ্টির সক্ষমতার যুগে মডেল উন্নয়নের গতি নিয়ন্ত্রণ — আবদ্ধ রাখার ব্যবস্থা জোরদার, পর্যবেক্ষণ সম্প্রসারণ ও সামঞ্জস্যের জোরালো প্রমাণ দাবি করার পাশাপাশি কীভাবে অত্যাধুনিক মডেলের প্রশিক্ষণের গতি কমিয়েছি.
অত্যাধুনিক এআই প্রশিক্ষণের নিরাপত্তার পক্ষে প্রমাণভিত্তিক যুক্তির পথে — প্রযুক্তিগত রক্ষাব্যবস্থা, পরিচালনপদ্ধতি ও অসামঞ্জস্যের তদন্ত নিয়ে নিরাপত্তার পক্ষে প্রমাণভিত্তিক যুক্তি তৈরির প্রাথমিক নির্দেশনা.
কার্যকর তৃতীয় পক্ষের মূল্যায়নের অগ্রাধিকার ও নীতি — নিরাপত্তার যুক্তি, রক্ষাব্যবস্থা, মূল্যায়ন ও মডেলের আচরণ স্বাধীনভাবে যাচাইয়ে আমাদের প্রস্তাবিত পদ্ধতি.
অভ্যন্তরীণ ব্যবহারে বিপর্যয়কর ঝুঁকি মূল্যায়নের পর্যায়ক্রমিক সারসংক্ষেপ(একটি নতুন উইন্ডোতে খোলে) — জুন–সেপ্টেম্বর ২০২৬ নিয়ে আমাদের প্রকাশ্য প্রতিবেদনে অত্যাধুনিক মডেলের অভ্যন্তরীণ মোতায়েন, মূল্যায়িত ঝুঁকি এবং রক্ষাব্যবস্থা ও তদারকির পরিবর্তন বর্ণিত হয়েছে.
সামঞ্জস্যপূর্ণ আচরণ নির্ধারণ ও মূল্যায়ন
আরও সক্ষম ও উপকারী এআইয়ের জন্য হালনাগাদ মডেল স্পেক — মডেলের বিচারবোধ, আচরণ ও মানব তত্ত্বাবধানের প্রতি শ্রদ্ধাকে দিকনির্দেশ দিতে পাঁচটি মূল মূল্যবোধ ঘিরে কীভাবে মডেল স্পেক হালনাগাদ করেছি.
এজেন্টের নিরাপত্তায় মূল্যায়ন ও বাস্তব ব্যবহারের আচরণগত ফারাক এবং মূল্যায়ন-সচেতনতার ভূমিকা(একটি নতুন উইন্ডোতে খোলে) — নিরাপত্তা মূল্যায়নের ফল ও বাস্তব আচরণের পার্থক্য নিয়ে গবেষণা. এতে মডেলের মূল্যায়নের উদ্দেশ্য বোঝার ধরন কীভাবে কর্মদক্ষতায় প্রভাব ফেলে, তা-ও আছে.
g-mean²-এর বাইরে: পর্যবেক্ষণযোগ্যতার পরিপূরক পরিমাপক(একটি নতুন উইন্ডোতে খোলে) — যেসব অনুকরণমূলক ব্যবস্থায় পর্যবেক্ষকেরা মডেলের আউটপুট প্রত্যাখ্যান করে, সেখানে পর্যবেক্ষণযোগ্যতা তুলনা ও অবশিষ্ট ঝুঁকি অনুমানের নতুন পরিমাপক.
GPT‑6 Astra সিস্টেম কার্ড(একটি নতুন উইন্ডোতে খোলে) — Astra-এর সক্ষমতা, নিরাপত্তা, সামঞ্জস্য ও পর্যবেক্ষণযোগ্যতার বিস্তারিত মূল্যায়ন, সঙ্গে মোতায়েনের রক্ষাব্যবস্থা ও সীমাবদ্ধতা.
মডেলকে আবদ্ধ রাখা ও রক্ষাব্যবস্থা উন্নত করা
অত্যাধুনিক মডেলের প্রশিক্ষণ পরিবেশ সুরক্ষিত করা — কীভাবে বিচ্ছিন্নতা জোরদার করেছি, অফলাইন গবেষণা পরিবেশ গড়েছি এবং আবদ্ধ রাখার সীমানা পরীক্ষায় সবচেয়ে শক্তিশালী মডেল ব্যবহার করেছি.
নিরাপত্তা ও সামঞ্জস্যের জন্য সক্রিয়তাভিত্তিক শ্রেণিবিন্যাসকারীর প্রশিক্ষণ(একটি নতুন উইন্ডোতে খোলে) — শ্রেণিবিন্যাসকারীরা কীভাবে মডেলের অভ্যন্তরীণ সক্রিয়তা ব্যবহার করে সম্ভাব্য ক্ষতিকর আচরণ শনাক্ত এবং উত্তর দেওয়া বা সরঞ্জাম ব্যবহার থামায়.
তাৎক্ষণিক মানব তত্ত্বাবধান ছাড়া এজেন্টের কাজের স্বয়ংক্রিয় পর্যালোচনা(একটি নতুন উইন্ডোতে খোলে) — আলাদা পর্যালোচক এজেন্ট কীভাবে স্যান্ডবক্সের সীমানা ছাড়ানো কাজ মূল্যায়ন করে, সম্ভাব্য ক্ষতিকর বা অননুমোদিত কাজ আটকে কোডিং এজেন্টকে স্বতন্ত্রভাবে কাজ করতে সাহায্য করে.
GPT‑Red: দৃঢ়তা বাড়াতে স্ব-উন্নয়নের পথ খোলা — দুর্বলতা খোঁজা ও প্রম্পট ইনজেকশনের বিরুদ্ধে মডেলের দৃঢ়তা বাড়াতে স্ব-প্রতিযোগিতার মাধ্যমে স্বয়ংক্রিয় রেড টিমিং ব্যবস্থা প্রশিক্ষণের পদ্ধতি.
Control Room — কীভাবে গবেষণা অবকাঠামোজুড়ে কাজের হিসাব রাখি এবং নিরাপত্তা বা সুরক্ষার উদ্বেগে হস্তক্ষেপ দরকার হলে মডেলের আউটপুট দ্রুত বন্ধ করি.
ঘটনায় সাড়া দেওয়া ও তথ্য প্রকাশ
অত্যাধুনিক মডেলের অসামঞ্জস্য কীভাবে শনাক্ত করি — উদ্বেগজনক আচরণ শনাক্ত ও তদন্তে আমাদের পর্যবেক্ষণব্যবস্থা সক্রিয়তা যাচাই, মডেলভিত্তিক পর্যালোচনা, স্বয়ংক্রিয় তদন্ত ও মানুষের পদক্ষেপ একত্র করে.
হাগিং ফেসের ঘটনা ও সামনের পথ — হাগিং ফেসের ঘটনা থেকে পাওয়া তথ্য এবং তার ফলে সুরক্ষা, পর্যবেক্ষণ ও সামঞ্জস্যে আনা পরিবর্তন.
একটি এজেন্ট ডিএনএস ব্যবহার করে বাইরের চ্যাটবটে পৌঁছেছিল(একটি নতুন উইন্ডোতে খোলে) — অপর্যাপ্ত ডিএনএস ছাঁকনির সুযোগে গবেষণার একটি মডেল কীভাবে ইন্টারনেটের বিধিনিষেধ এড়িয়েছিল, পর্যবেক্ষণে তা কীভাবে ধরা পড়ে এবং পরে কী নিয়ন্ত্রণ যোগ করা হয়.
সমন্বিত মডেল-জ্ঞান স্থানান্তর অভিযান ব্যাহত করা — অ্যাকাউন্টে বিধি প্রয়োগ, প্রযুক্তিগত নিয়ন্ত্রণ ও অংশীদারদের সঙ্গে সমন্বয়ের মাধ্যমে মডেলের সুরক্ষিত যুক্তিপ্রক্রিয়া বের করার চেষ্টা কীভাবে তদন্ত ও ব্যাহত করেছি.
মডেলের অসামঞ্জস্য জানানোর আমাদের কাঠামো — উদ্বেগজনক মডেল-আচরণ অনুসরণ, তদন্ত ও প্রকাশের প্রক্রিয়া; যার কারণ বা তাৎপর্য অনিশ্চিত, এমন ঘটনাও এর অন্তর্ভুক্ত.
অসামঞ্জস্যের প্রতিবেদন ও বিজ্ঞপ্তি(একটি নতুন উইন্ডোতে খোলে) — অসামঞ্জস্য কীভাবে জন্মায় এবং কোথায় রক্ষাব্যবস্থা সফল বা ব্যর্থ হয়, তা তুলে ধরা প্রকাশিত ঘটনা ও বিজ্ঞপ্তির সংগ্রহ.
গবেষণার অগ্রগতি ও প্রয়োগ
গবেষণায় গতি সঞ্চার: OpenAI-এর ভেতরের চিত্র — কোডিং এজেন্ট কীভাবে OpenAI-এর গবেষণা বদলাচ্ছে তার প্রাথমিক প্রমাণ; বাড়তে থাকা ব্যবহার, আরও জটিল কাজ ও পরীক্ষানিরীক্ষায় প্রভাবসহ.
নাভিয়ার–স্টোকস সহস্রাব্দ পুরস্কার সমস্যা প্রসঙ্গে — অভ্যন্তরীণ এআই ব্যবস্থার তৈরি গাণিতিক প্রমাণ ও লিন ভাষায় তার আনুষ্ঠানিক রূপ, যা বৃহৎ পরিসরে গবেষণায় মোতায়েনের সক্ষমতা তুলে ধরে.
Daybreak — দুর্বলতা খোঁজা ও প্রতিরক্ষা জোরদার করতে আমাদের সাইবার সুরক্ষা কর্মসূচি যাচাইকৃত প্রতিরক্ষাকারীদের উন্নত এআই সক্ষমতা, সুরক্ষা সরঞ্জাম ও সহায়তা দেয়.
জীববিজ্ঞান গবেষণার জন্য GPT‑Rosalind‑এর পরিচয় — জীববিজ্ঞান, ওষুধ আবিষ্কার ও গবেষণালব্ধ জ্ঞান চিকিৎসায় প্রয়োগের বিশেষায়িত মডেল. বিশ্বস্ত প্রবেশাধিকার কর্মসূচির মাধ্যমে যোগ্য প্রতিষ্ঠানগুলো এটি ব্যবহার করতে পারে.






