OpenAI

অত্যাধুনিক এআইয়ের ঝুঁকি ব্যবস্থাপনা: প্রশিক্ষণ থেকে মোতায়েন

১৮ নভেম্বর, ২০২৬ · নিরাপত্তা

অত্যাধুনিক মডেলের সক্ষমতা দ্রুত বাড়ছে. সেগুলো বোঝা, সামঞ্জস্যপূর্ণ করা ও সুরক্ষিত রাখার সক্ষমতায় আমাদের এগিয়ে থাকতে হবে. আমরা মডেল উন্নয়ন ও প্রকাশের গতি নিয়ন্ত্রণ করছি. নিরাপত্তার মান পূরণে আরও সময় লাগলে অভ্যন্তরীণ প্রশিক্ষণ⁠(একটি নতুন উইন্ডোতে খোলে) স্থগিত রাখছি বা GPT‑6.1 Astra-র মতো মডেল প্রকাশ পিছিয়ে দিচ্ছি. আমরা নিরাপত্তার পক্ষে প্রমাণভিত্তিক যুক্তি তৈরির মতো নতুন প্রক্রিয়া চালু করেছি এবং প্রশিক্ষণজুড়ে সামঞ্জস্যপূর্ণ আচরণের আরও জোরালো প্রমাণ দাবি করছি. এসব শর্ত মডেল প্রকাশের গতি কমায়, তবে নিরাপদে এগোনোর আত্মবিশ্বাস বাড়ায়.

জুলাইয়ের হাগিং ফেসের ঘটনার⁠ পর থেকে মডেল প্রশিক্ষণ, পরীক্ষা ও মোতায়েনের রক্ষাব্যবস্থা এবং সামঞ্জস্যের শর্ত আরও কঠোর করেছি. কঠোরভাবে স্যান্ডবক্সে আবদ্ধ প্রশিক্ষণ পরিবেশ থেকে আপনার কম্পিউটারে Codex ব্যবহার পর্যন্ত, প্রতিটি পর্যায়ে কীভাবে ঝুঁকি মূল্যায়ন ও নিয়ন্ত্রণ করি, এই লেখায় তা ব্যাখ্যা করা হয়েছে. প্রতিটি পর্যায়ে মডেল ও রক্ষাব্যবস্থা দুটোই মূল্যায়ন করি. পরের পর্যায়ে যেতে নিরাপত্তা পর্যালোচনা আবশ্যক.

মডেলের জীবনচক্রজুড়ে বহুস্তরীয় প্রতিরক্ষা

আমরা সুরক্ষার একাধিক স্তর নিয়ে বহুস্তরীয় প্রতিরক্ষা ব্যবহার করি, যা কোনো একক রক্ষাব্যবস্থার ওপর নির্ভরতা কমায়. একটি স্তর ব্যর্থ হলে অন্যগুলো ক্ষতি ঠেকাতে, পরিণতি সীমিত রাখতে বা আমাদের সতর্ক করতে সাহায্য করে, যাতে আমরা হস্তক্ষেপ করতে পারি.

আমাদের সুরক্ষাব্যবস্থা চারটি স্তরে সাজানো:

কার্যকর পর্যবেক্ষণ নির্ভর করে মডেলের পর্যবেক্ষণযোগ্যতার ওপর - অর্থাৎ পর্যবেক্ষকেরা মডেলের যুক্তিপ্রক্রিয়া ও কাজ থেকে কতটা নির্ভরযোগ্যভাবে ভুল বা অনিরাপদ আচরণ শনাক্ত করতে পারেন. যেমন, যে মডেল তার চেইন-অফ-থটে (CoT) প্রতারণার ইচ্ছা প্রকাশ করে, সেটি এই তথ্য বাদ দেওয়া মডেলের চেয়ে বেশি পর্যবেক্ষণযোগ্য. প্রশিক্ষণকালে ও মোতায়েনের আগে পর্যবেক্ষণযোগ্যতা মূল্যায়ন করি, তা মাপার উন্নত পদ্ধতি⁠(একটি নতুন উইন্ডোতে খোলে) তৈরি করি এবং কোন বিষয়গুলো তা প্রভাবিত করে তা গবেষণা করি⁠(একটি নতুন উইন্ডোতে খোলে).

হাগিং ফেসের ঘটনা দেখিয়েছে, অত্যন্ত সক্ষম মডেলকে আবদ্ধ রাখতে শুধু স্যান্ডবক্সের ওপর নির্ভর করা উচিত নয় কেন. এখন আমরা অধিকাংশ অভ্যন্তরীণ ও বাহ্যিক মোতায়েনে অত্যাধুনিক মডেল পর্যবেক্ষণ করি, যার মধ্যে সরঞ্জাম ব্যবহারকারী সব অভ্যন্তরীণ মোতায়েন অন্তর্ভুক্ত.

মডেল উন্নয়ন ও মোতায়েনের তিনটি পর্যায়ে প্রতিটি স্তরের ভূমিকা বদলায়:

  • গবেষণা: স্যান্ডবক্স পরিবেশে মডেল প্রশিক্ষণ, পরীক্ষা ও ব্যবহার করি.

  • অভ্যন্তরীণ মোতায়েন: OpenAI কর্মীরা বাস্তব কাজে মডেল ব্যবহার করেন.

  • বাহ্যিক মোতায়েন: আরও বিস্তৃত পরিসরে মানুষ ও প্রতিষ্ঠানের জন্য মডেল উপলব্ধ হয়.

বিভিন্ন পর্যায়ে আমরা বিভিন্ন স্তরের ওপর নির্ভর করি. প্রশিক্ষণকালে সামঞ্জস্য কম নিশ্চিত থাকায় স্যান্ডবক্সে আবদ্ধ রাখা ও পর্যবেক্ষণের ওপর বেশি নির্ভর করি. মোতায়েনে মডেলের প্রবেশাধিকার বাড়ার সঙ্গে সঙ্গে সামঞ্জস্য ও সিস্টেম-স্তরের নিয়ন্ত্রণের গুরুত্ব বাড়ে. প্রতি পর্যায়ে মূল্যায়ন করি, মডেলের সক্ষমতা ও প্রবেশাধিকারের তুলনায় সম্মিলিত সুরক্ষা যথেষ্ট কি না. আমাদের সিদ্ধান্তগুলো নিরাপত্তা উপদেষ্টা গ্রুপের (SAG) সঙ্গে পর্যালোচনা করা হতে পারে. OpenAI Foundation-এর পরিচালনা পর্ষদের নিরাপত্তা ও সুরক্ষা কমিটি (SSC) এগুলোর তত্ত্বাবধান করতে পারে.

গবেষণাকালে: মডেলকে স্যান্ডবক্স পরিবেশে আবদ্ধ রাখা

গবেষণা পর্যায়ে মডেলের সামঞ্জস্যের বৈশিষ্ট্য সম্পর্কে আস্থা অর্জনে সেগুলোর মূল্যায়ন করি. ক্ষতি ঠেকাতে এখনো সামঞ্জস্যের ওপর পুরোপুরি নির্ভর করা যায় না. তাই মডেল কী করতে ও কোথায় প্রবেশ করতে পারবে, তা সীমিত রাখতে সুরক্ষা ও স্যান্ডবক্সের ওপর অনেকটা নির্ভর করি.

সামঞ্জস্য গবেষণা, পর্যবেক্ষণব্যবস্থা ও ইন্টারনেট অবকাঠামোর সুরক্ষার বর্তমান অবস্থা বিবেচনায়, আমরা মনে করি সরাসরি ইন্টারনেট সংযোগ ছাড়া অত্যাধুনিক মডেলের প্রশিক্ষণ চালানোই দায়িত্বশীল পথ. হাগিং ফেসের ঘটনার পর মডেলকে আবদ্ধ রাখতে অভ্যন্তরীণ গবেষণাব্যবস্থায় বড় ধরনের পুনর্গঠন করেছি. এতে ব্যবহার করছি:

  • মডেলের ক্ষমতা সীমিত রাখার স্যান্ডবক্স

  • মূল কম্পিউটার থেকে কাজকে আরও বিচ্ছিন্ন রাখতে ভার্চুয়াল মেশিন

  • পুরো কম্পিউটারগুচ্ছকে ইন্টারনেট থেকে বিচ্ছিন্ন রাখার নেটওয়ার্ক ও ক্লাউড সীমানা

আমরা নিয়মিত এই ব্যবস্থার রেড টিমিং করি. আমাদের সবচেয়ে শক্তিশালী মডেলের দলগুলো সরাসরি ইন্টারনেটে পৌঁছানো, সুরক্ষাসীমা ভাঙা বা যেসব এজেন্ট থেকে বিচ্ছিন্ন থাকার কথা তাদের সঙ্গে যোগাযোগের চেষ্টা করে. এতে যাচাই করা যায়, যে মডেলগুলোকে আবদ্ধ রাখার কথা, তাদের সক্ষমতার বিরুদ্ধে আবদ্ধ রাখার ব্যবস্থা টিকে থাকে কি না.

বাড়তি প্রতিরক্ষা হিসেবে অত্যাধুনিক মডেলের সব ইনফারেন্স পর্যবেক্ষণ করি, যাতে মডেল আমাদের অপরিবর্তনীয় সুরক্ষাশর্ত এড়িয়ে গেছে কি না ধরা যায়. পর্যবেক্ষণে মডেলের ইন্টারনেটে পৌঁছানোর প্রমাণ মিললে, আমরা সুরক্ষা দলগুলোকে জরুরি সংকেত পাঠাই ও স্বয়ংক্রিয়ভাবে কাজ স্থগিত করি.

আবদ্ধ রাখার ব্যবস্থা ব্যর্থ হলে পর্যবেক্ষণ জরুরি শেষ রক্ষাকবচ হিসেবে কাজ করে. সাম্প্রতিক অসামঞ্জস্যের প্রতিবেদনে জানিয়েছি, পর্যবেক্ষকেরা অভ্যন্তরীণ গবেষণার একটি মডেলকে ডিএনএসের ভুল কনফিগারেশন কাজে লাগাতে শনাক্ত করেছে⁠(একটি নতুন উইন্ডোতে খোলে). এভাবে সেটি সীমিত ইন্টারনেট সংযোগ পেয়েছিল. তদন্ত ও সুরক্ষার ফাঁক বন্ধ করার সময়, ২০ সেপ্টেম্বর থেকে ১ অক্টোবর পর্যন্ত সবচেয়ে সক্ষম মডেলগুলোর প্রশিক্ষণ ও মূল্যায়ন স্থগিত রেখেছিলাম.

দ্রুত ও নির্ভরযোগ্য হস্তক্ষেপের জন্য আমরা Control Room⁠ তৈরি করেছি. এই কেন্দ্রীয় ব্যবস্থা গবেষণার কাজের হিসাব রাখে এবং কাজ থামানোর নির্দেশ পাওয়ার ৩৫ সেকেন্ডের মধ্যে মডেলের পরবর্তী আউটপুট বন্ধ করে. এই নিয়ন্ত্রণ সরাসরি ইনফারেন্স অবকাঠামোতে কার্যকর হয়. তাই প্রতিটি গবেষণার কাজে আলাদা বন্ধ করার ব্যবস্থা থাকার ওপর এগুলো নির্ভর করে না. অত্যাধুনিক মডেলের গবেষণার কাজের ক্ষেত্রে Control Room অপ্রাপ্য হলেও এগুলো মডেলের আউটপুট বন্ধ করে দেয়.

রেড টিমিং ও পর্যবেক্ষণ একসঙ্গে কাজ করে. স্যান্ডবক্স অভেদ্য, এমন নিশ্চয়তা দিতে পারি না. তবে তা থেকে বের হতে মডেলের কতটা চেষ্টা লাগবে, রেড টিমিং দিয়ে তা মূল্যায়ন করা যায়. মডেলের যত বেশি চেষ্টা লাগবে, পর্যবেক্ষকদের সেটি শনাক্ত করে থামানোর সুযোগ তত বাড়বে.

কয়েকটি কারণে গবেষণা পর্যায়ে শক্তিশালী সুরক্ষা ও পর্যবেক্ষণ নিয়ন্ত্রণ বাধ্যতামূলক করেছি:

  • মডেলগুলোর মূল্যায়ন এখনো চলছে. কিছু মডেলের ক্ষেত্রে সর্বসাধারণের জন্য প্রকাশের আগে প্রয়োজনীয় নিরাপত্তা প্রশিক্ষণ, সামঞ্জস্য নিরীক্ষা ও পর্যালোচনা এখনো শেষ হয়নি.

  • অত্যাধুনিক গবেষণার পরিবেশ ঝুঁকি বাড়াতে পারে. কিছু গবেষণায় আরও উচ্চাভিলাষী ব্যবস্থা দরকার হয়. এতে মডেল সাধারণ বাহ্যিক ব্যবহারের তুলনায় আরও বেশি সময় ধরে চেষ্টা চালাতে পারে বা বেশি সক্ষম হয়ে ওঠে (যেমন, নাভিয়ার–স্টোকস সমস্যা সমাধানে ১০,০০০ এজেন্টের একটি দল লেগেছিল).

  • সরাসরি মানব তত্ত্বাবধান কম রেখেই বৃহৎ পরিসরে প্রশিক্ষণ চলে. সাধারণ Codex সেশনের বিপরীতে, আমাদের প্রশিক্ষণের কাজে মডেল বিপুলসংখ্যক পদক্ষেপ নেয়, যার প্রতিটি মিথস্ক্রিয়া কোনো মানুষ অনুসরণ করেন না.

অভ্যন্তরীণ মোতায়েন: সামঞ্জস্য পরীক্ষা ও আচরণ নিবিড়ভাবে পর্যবেক্ষণ

বিস্তৃত প্রকাশের আগে, কর্মীরা অত্যাধুনিক মডেলগুলো স্যান্ডবক্সে গবেষণার কাজে ব্যবহার থেকে স্যান্ডবক্সের বাইরে অভ্যন্তরীণ ব্যবহারে যান. যেমন, কর্মীদের জন্য ChatGPT‑তে মডেলটি উপলব্ধ করা হয়. এতে মডেলগুলো বাস্তব পরিবেশে কেমন আচরণ করে⁠(একটি নতুন উইন্ডোতে খোলে) তা আরও ভালোভাবে বোঝা যায় এবং মোতায়েনের সিদ্ধান্ত নিতে সুবিধা হয়.

এই পর্যায়ে আমরা মডেলকে বৃহত্তর ইন্টারনেট, আমাদের স্ল্যাক, কোডবেস ও অভ্যন্তরীণ অবকাঠামোতে প্রবেশাধিকার দিই. এতে ঝুঁকিতে বড় পরিবর্তন আসে, কারণ মডেলের কাজ এখন OpenAI গড়ে তোলা ও পরিচালনার সিস্টেমগুলোকে সরাসরি প্রভাবিত করে. অভ্যন্তরীণ মোতায়েনে সুরক্ষা নিয়ন্ত্রণের চেয়ে মডেলের সামঞ্জস্য, সিস্টেমের রক্ষাব্যবস্থা ও পর্যবেক্ষণের ওপর আমাদের বেশি নির্ভর করতে হয়.

অত্যাধুনিক মডেল স্যান্ডবক্সের বাইরে মোতায়েনের আগে সেটির সামঞ্জস্য ও পর্যবেক্ষণযোগ্যতার পরীক্ষা⁠(একটি নতুন উইন্ডোতে খোলে) আবশ্যক. আমাদের সামঞ্জস্য মূল্যায়নগুলো নির্দিষ্ট ব্যর্থতা (যেমন নিরাপত্তা ও সুরক্ষার বিধিনিষেধ এড়ানো) এবং সার্বিক প্রবণতা দুটোই পরীক্ষা করে. সার্বিক প্রবণতা মাপতে, (যেমন, অভ্যন্তরীণ Codex-এর কাজের ধারার পুনর্নমুনায়ন করে অসামঞ্জস্য খোঁজা হয়). আমাদের সামঞ্জস্য ও পর্যবেক্ষণযোগ্যতার মূল্যায়ন সম্পর্কে আরও জানুন সর্বশেষ GPT‑6 Astra সিস্টেম কার্ডে⁠(একটি নতুন উইন্ডোতে খোলে).

বাস্তব ব্যবহারের ব্যবস্থার অনুকরণে আমরা সিস্টেম-স্তরের শ্রেণিবিন্যাসকারী দিয়ে বাড়তি প্রতিরক্ষা যোগ করি. এগুলো সাইবার অপব্যবহার ও জীবাণু অস্ত্র তৈরির মতো অত্যাধুনিক প্রযুক্তিজনিত ক্ষতি ঠেকাতে তৈরি. Codex ব্যবহারকারী কর্মীদের জন্যও সাধারণত স্বয়ংক্রিয় পর্যালোচনা⁠(একটি নতুন উইন্ডোতে খোলে) বাধ্যতামূলক. এটি সম্ভাব্য ঝুঁকিপূর্ণ কাজ মূল্যায়ন করে সিদ্ধান্তের জন্য ব্যবহারকারীর কাছে পাঠায়.

সবশেষে, অভ্যন্তরীণ মোতায়েনে অত্যাধুনিক মডেলের প্রতিটি ইনফারেন্সে অসামঞ্জস্যপূর্ণ আচরণ আছে কি না পর্যবেক্ষণ করি. মডেলের ক্ষমতা ও অভ্যন্তরীণ তথ্য-সিস্টেমে প্রবেশাধিকার এখন বেশি. তাই তথ্য পাচার বা অননুমোদিত গন্তব্যে সংবেদনশীল তথ্য পাঠানোর মতো ঝুঁকি শনাক্ত করা বিশেষ জরুরি. পর্যবেক্ষণ আমাদের অসামঞ্জস্যের নতুন ধরনগুলো⁠(একটি নতুন উইন্ডোতে খোলে) তদন্ত করতেও সাহায্য করে.

বাহ্যিক মোতায়েন: বৃহৎ পরিসরে অপব্যবহার ও অসামঞ্জস্য প্রতিরোধ

সর্বসাধারণের জন্য মোতায়েন করলে মডেল অনেক বেশি ব্যবহারকারী, কাজ ও পরিবেশের মুখোমুখি হয়. এতে ঝুঁকির পরিসর ও বৈচিত্র্য দুটোই বাড়ে. এই পর্যায়ে এমন সম্ভাব্য দুরভিসন্ধিমূলক পক্ষের বিরুদ্ধেও সুরক্ষা দিতে হয়, যারা ইচ্ছাকৃতভাবে মডেলকে ক্ষতিকর কাজের নির্দেশ দেয়.

সর্বসাধারণের জন্য প্রকাশের আগে মডেল ও সিস্টেমের রক্ষাব্যবস্থাকে আমাদের বাহ্যিক মোতায়েনের নিরাপত্তা শর্ত পূরণ করতে হয়. এগুলো মূল্যায়নে আমরা যা করি:

  • আরও বিস্তৃত সামঞ্জস্য ও নিরাপত্তা মূল্যায়ন চালানো. অত্যাধুনিক মডেলের ক্ষেত্রে আমাদের অভ্যন্তরীণ স্বয়ংক্রিয় রেড টিমিং ব্যবস্থা দিয়ে নতুন দফায় অভিযোজিত পরীক্ষা⁠ চালানো হয়, যাতে কঠিন পরিস্থিতিতে মডেলের দৃঢ়তা যাচাই করা যায়. আমাদের সক্ষমতা ও নিরাপত্তা মূল্যায়নের ফল সিস্টেম কার্ডগুলোতে⁠(একটি নতুন উইন্ডোতে খোলে) প্রকাশ করি.

  • সবচেয়ে সক্ষম মডেলগুলোর জন্য তৃতীয় পক্ষকে নিয়েও পরীক্ষা চালাই, যাতে অপব্যবহার রোধের রক্ষাব্যবস্থা ও মডেলের অন্তর্নিহিত সামঞ্জস্য—দুটোই কঠিন পরিস্থিতিতে যাচাই করা যায়.

  • মূল মডেলের অন্তর্নিহিত সামঞ্জস্যে পরিবর্তন ধরতে অভ্যন্তরীণ মোতায়েনে পর্যবেক্ষণ থেকে ওঠা সতর্কসংকেত পরীক্ষা করা.

বাহ্যিক মোতায়েনে আমাদের “তাৎক্ষণিক” রক্ষাব্যবস্থার (যেমন মডেলের নিরাপত্তা প্রশিক্ষণ ও সিস্টেমের শ্রেণিবিন্যাসকারী) পাশাপাশি অফলাইনে বিধি প্রয়োগ ও তদন্তও কাজে লাগাই. এই দলগুলো বৃহৎ পরিসরের তদন্তকারী এজেন্ট ও মানব পর্যালোচনা মিলিয়ে সম্ভাব্য হুমকিসৃষ্টিকারী পক্ষ শনাক্ত করে. এর আওতায় আছে সাইবার অপব্যবহার, জীবাণু অস্ত্র তৈরি, জ্ঞান স্থানান্তর⁠ ও মডেলের নিজস্ব অসামঞ্জস্য. সম্ভাব্য হুমকির পূর্ণাঙ্গ চিত্র পেতে বিভিন্ন অ্যাকাউন্টজুড়ে তথ্য সংগ্রহে অফলাইনে বিধি প্রয়োগ বিশেষ সহায়ক.

Daybreak ও Rosalind⁠-এর মতো বিশ্বস্ত প্রবেশাধিকার কর্মসূচি বাড়তি সুরক্ষা দেয়. এগুলো সম্ভাব্য আক্রমণকারীর প্রবেশ সীমিত রেখে প্রতিরক্ষাকারী ও বৈধ গবেষকদের কাজ ত্বরান্বিত করে.

ঘটনায় সাড়া দেওয়া ও তথ্য প্রকাশ

নিরাপত্তার কোনো স্তরে ব্যর্থতা দেখলে, বাস্তবে ক্ষতি হোক বা না হোক, আমরা দ্রুত তদন্ত, অগ্রাধিকার নির্ধারণ এবং সম্ভব ও যথাযথ হলে বাইরের সবার কাছে তা প্রকাশ করতে চাই. আমাদের অসামঞ্জস্য জানানোর⁠ নীতি অনুযায়ী, যেকোনো কর্মী কোনো ঘটনা জনসমক্ষে প্রকাশের জন্য চিহ্নিত করতে পারেন. এসব প্রতিবেদন তদন্ত করা হয়. বাইরে প্রকাশ করা উচিত কি না, তা নিয়ে মতবিরোধ হলে সিদ্ধান্তের জন্য আমাদের নিরাপত্তা উপদেষ্টা গ্রুপের (SAG) কাছে পাঠানো হয়. কর্মীদের প্রতিবেদনের ওপর নির্ভর করার পাশাপাশি আমরা উদ্যোগী হয়ে অসামঞ্জস্যের ঘটনা খুঁজি, যাতে সেগুলোর সমাধান করতে ও ফলাফল জানাতে পারি.

আমাদের অসামঞ্জস্যের প্রতিবেদনগুলো এখানে⁠(একটি নতুন উইন্ডোতে খোলে) দেখতে পারেন.

​


​

এই কাজ গবেষণার অগ্রগতি ও পরিচালনাগত শৃঙ্খলা দুটোর ওপরই নির্ভরশীল: নিয়ন্ত্রণ সঠিকভাবে স্থাপন, সেগুলো একসঙ্গে কীভাবে কাজ করে তা পরীক্ষা এবং ব্যর্থ হলে দৃঢ় পদক্ষেপ নেওয়া. নেটওয়ার্ক সেবার ভুল কনফিগারেশন বা স্বয়ংক্রিয়ভাবে থামানোর ব্যবস্থার ব্যর্থতা অন্যথায় শক্তিশালী সুরক্ষাকেও দুর্বল করে দিতে পারে.

মডেল নতুন সক্ষমতা অর্জন করলে আমাদের রক্ষাব্যবস্থার পেছনের অনুমানগুলো বারবার যাচাই করতে এবং প্রয়োজনে সেগুলো উন্নত করতে হবে. গবেষণা, অভ্যন্তরীণ ব্যবহার ও সর্বসাধারণের জন্য মোতায়েন থেকে শেখা বিষয়গুলোকে পরবর্তী মডেলের প্রশিক্ষণ, মূল্যায়ন ও মোতায়েনে কাজে লাগাতে হবে.

সিস্টেম কার্ড, ঘটনার প্রতিবেদন, অভ্যন্তরীণ মোতায়েনের ঝুঁকি প্রতিবেদন⁠(একটি নতুন উইন্ডোতে খোলে) ও বাহ্যিক মূল্যায়নের⁠ মাধ্যমে ফলাফল জানানো চালিয়ে যাব, যাতে অন্যরা আমাদের পদ্ধতি ও তার সীমাবদ্ধতা খতিয়ে দেখতে পারেন. প্রমাণ আমাদের নিরাপত্তার মানদণ্ড পূরণে যথেষ্ট না হলে, শর্তগুলো পূরণ না হওয়া পর্যন্ত আবারও প্রশিক্ষণ স্থগিত রাখব বা প্রকাশ আটকে দেব.

সম্পর্কিত গবেষণা ও উপকরণ

নিরাপত্তার মান নির্ধারণ

সামঞ্জস্যপূর্ণ আচরণ নির্ধারণ ও মূল্যায়ন

মডেলকে আবদ্ধ রাখা ও রক্ষাব্যবস্থা উন্নত করা

ঘটনায় সাড়া দেওয়া ও তথ্য প্রকাশ

গবেষণার অগ্রগতি ও প্রয়োগ

  • গবেষণায় গতি সঞ্চার: OpenAI-এর ভেতরের চিত্র — কোডিং এজেন্ট কীভাবে OpenAI-এর গবেষণা বদলাচ্ছে তার প্রাথমিক প্রমাণ; বাড়তে থাকা ব্যবহার, আরও জটিল কাজ ও পরীক্ষানিরীক্ষায় প্রভাবসহ.

  • নাভিয়ার–স্টোকস সহস্রাব্দ পুরস্কার সমস্যা প্রসঙ্গে — অভ্যন্তরীণ এআই ব্যবস্থার তৈরি গাণিতিক প্রমাণ ও লিন ভাষায় তার আনুষ্ঠানিক রূপ, যা বৃহৎ পরিসরে গবেষণায় মোতায়েনের সক্ষমতা তুলে ধরে.

  • Daybreak — দুর্বলতা খোঁজা ও প্রতিরক্ষা জোরদার করতে আমাদের সাইবার সুরক্ষা কর্মসূচি যাচাইকৃত প্রতিরক্ষাকারীদের উন্নত এআই সক্ষমতা, সুরক্ষা সরঞ্জাম ও সহায়তা দেয়.

  • জীববিজ্ঞান গবেষণার জন্য GPT‑Rosalind‑এর পরিচয়⁠ — জীববিজ্ঞান, ওষুধ আবিষ্কার ও গবেষণালব্ধ জ্ঞান চিকিৎসায় প্রয়োগের বিশেষায়িত মডেল. বিশ্বস্ত প্রবেশাধিকার কর্মসূচির মাধ্যমে যোগ্য প্রতিষ্ঠানগুলো এটি ব্যবহার করতে পারে.