টিনএজারদের জন্য নিরাপদ AI তৈরিতে ডেভেলপারদের সাহায্য করা

আজ, আমরা প্রম্পট-ভিত্তিক নিরাপত্তা নীতিমালা⁠(একটি নতুন উইন্ডোতে খোলে) প্রকাশ করছি, যাতে ডেভেলপাররা কিশোর-কিশোরীদের জন্য বয়স-উপযোগী সুরক্ষা তৈরি করতে পারেন. আমাদের ওপেন-ওয়েট নিরাপত্তা মডেল, gpt-oss-safeguard⁠(একটি নতুন উইন্ডোতে খোলে)-এর সঙ্গে কাজ করার জন্য তৈরি, এই নীতিমালাগুলো ডেভেলপারদের জন্য নিরাপত্তা চাহিদাকে বাস্তব-জগতের সিস্টেমের জন্য ব্যবহারযোগ্য শ্রেণিবিন্যাসে রূপান্তর করা সহজ করে.

শক্তিশালী AI-এর সহজলভ্যতা নিশ্চিত করতে এবং উদ্ভাবনকে উৎসাহিত করতে আমরা ওপেন ওয়েট মডেলগুলো উন্মুক্ত করেছি. একই সঙ্গে, আমরা বিশ্বাস করি যে নিরাপত্তা ও উদ্ভাবন হাত ধরাধরি করে চলে এবং ডেভেলপারদের সক্ষম মডেলের পাশাপাশি সেগুলোকে নিরাপদে ও দায়িত্বশীলভাবে মোতায়েন করার জন্য প্রয়োজনীয় সরঞ্জাম ও নীতিমালারও অ্যাক্সেস থাকা উচিত. আমরা তরুণ প্রজন্মের ব্যবহারকারীদের সুরক্ষিত রাখতে ডেভেলপারদের নিরাপত্তা প্রচেষ্টাকে সমর্থন করার জন্য এই নীতিগুলো তৈরি করেছি এবং এতে Common Sense Media⁠(একটি নতুন উইন্ডোতে খোলে) ও everyone.ai⁠(একটি নতুন উইন্ডোতে খোলে)-সহ বিশ্বস্ত বাহ্যিক সংস্থাগুলোর মতামত অন্তর্ভুক্ত ছিল.

আমরা স্বীকার করি যে কিশোর-কিশোরী এবং প্রাপ্তবয়স্কদের চাহিদা ভিন্ন এবং কিশোর-কিশোরীদের অতিরিক্ত সুরক্ষা প্রয়োজন. এই নীতিমালাগুলো ডেভেলপারদের সেই পার্থক্যগুলো বিবেচনায় নিতে এবং কমবয়সী ব্যবহারকারীদের জন্য ক্ষমতায়নকারী ও উপযুক্ত—উভয় ধরনের—অভিজ্ঞতা তৈরি করতে সহায়তা করার জন্য প্রণয়ন করা হয়েছে.

আমরা দীর্ঘদিন ধরে এমন AI তৈরি করতে প্রতিশ্রুতিবদ্ধ, যা তরুণ প্রজন্মের জন্য সুযোগ প্রসারিত করে এবং একই সঙ্গে তাদের নিরাপদ রাখে. এই কাজের অংশ হিসেবে, আমরা আমাদের মডেল স্পেক⁠(একটি নতুন উইন্ডোতে খোলে)—যে নির্দেশিকাগুলো OpenAI-এর মডেলগুলোর অভিপ্রেত আচরণ নির্ধারণ করে—আপডেট করেছি, যাতে Under-18 (U18) নীতিমালা⁠(একটি নতুন উইন্ডোতে খোলে) অন্তর্ভুক্ত করা হয় এবং কমবয়সী ব্যবহারকারীদের আরো ভালোভাবে সুরক্ষিত করতে প্যারেন্টাল কন্ট্রোলস⁠ এবং বয়স পূর্বাভাস⁠ -এর মতো প্রোডাক্ট-স্তরের সুরক্ষাব্যবস্থা চালু করেছি. আমরা আমাদের কিশোর-কিশোরীদের সুরক্ষা পরিকল্পনা⁠ এর মাধ্যমে শিল্পখাতজুড়ে সুরক্ষার আহ্বানও জানিয়েছি.

আজকের রিলিজ সেই ভিত্তির উপর নির্মিত হয়েছে. আমরা এই নিরাপত্তা নীতিমালাগুলো ডেভেলপারদের জন্য উপলব্ধ করছি, যাতে তারা কিশোর-কিশোরীদের জন্য নিরাপত্তা সুরক্ষা বাস্তবায়নে সমর্থন পান এবং ওপেন ওয়েটস ইকোসিস্টেম জুড়ে অ্যাক্সেসকে আরো গণতান্ত্রিক করতে সহায়তা করা যায়.

gpt-oss-safeguard-এর মতো নিরাপত্তা শ্রেণিবিন্যাসকারী ক্ষতিকর কন্টেন্ট শনাক্ত করতে পারলেও, সেই কন্টেন্ট কী, তার স্পষ্ট সংজ্ঞার উপর নির্ভর করে. বাস্তবে, ডেভেলপারদের সামনে থাকা সবচেয়ে বড় চ্যালেঞ্জগুলোর একটি হলো এমন নীতিমালা নির্ধারণ করা, যা কিশোর-কিশোরীদের জন্য নির্দিষ্ট ঝুঁকিগুলোকে সঠিকভাবে প্রতিফলিত করে এবং বাস্তব সিস্টেমে ধারাবাহিকভাবে প্রয়োগ করা যায়.

এমনকি অভিজ্ঞ দলগুলোও প্রায়ই উচ্চ-স্তরের নিরাপত্তা লক্ষ্যগুলোকে সুনির্দিষ্ট, কার্যকরী নিয়মে রূপান্তর করতে হিমশিম খায়, বিশেষ করে কারণ এর জন্য বিষয়ভিত্তিক দক্ষতা এবং AI সম্পর্কে গভীর জ্ঞান—উভয়ই প্রয়োজন. এটি সুরক্ষায় ফাঁকফোকর, অসামঞ্জস্যপূর্ণ প্রয়োগ অথবা অতিরিক্ত বিস্তৃত ফিল্টারিংয়ের দিকে নিয়ে যেতে পারে. সুস্পষ্টভাবে নির্ধারিত নীতিমালাগুলো কার্যকর সুরক্ষা পদ্ধতির জন্য একটি অত্যন্ত গুরুত্বপূর্ণ ভিত্তি.

এই চ্যালেঞ্জ মোকাবিলার জন্য, আমরা নিরাপত্তা নীতিমালার⁠(একটি নতুন উইন্ডোতে খোলে) একটি সেট প্রকাশ করছি, যা কিশোর-কিশোরীরা যে সাধারণ ঝুঁকির মুখোমুখি হয় সেগুলোর জন্য উপযোগী করে তৈরি করা হয়েছে এবং কিশোর-কিশোরীদের বিশেষ উন্নয়নগত পার্থক্য সম্পর্কে বিদ্যমান গবেষণার সতর্ক পর্যালোচনার ভিত্তিতে প্রণয়ন করা হয়েছে. এই নীতিমালাগুলি প্রম্পট হিসেবে গঠিত, যা gpt-oss-safeguard⁠(একটি নতুন উইন্ডোতে খোলে) এবং অন্যান্য রিজনিং মডেলের সঙ্গে সরাসরি ব্যবহার করা যেতে পারে, ফলে ডেভলপারদেরকে তাদের সিস্টেমজুড়ে আরো সহজে সামঞ্জস্যপূর্ণ নিরাপত্তা মানদণ্ড প্রয়োগ করতে সক্ষম করে.

প্রাথমিক রিলিজে নীতিমালাগুলো অন্তর্ভুক্ত রয়েছে.

• গ্রাফিক সহিংস কনটেন্ট
• গ্রাফিক যৌন কনটেন্ট
• ক্ষতিকারক শরীর-সংক্রান্ত আদর্শ ও আচরণ
• বিপজ্জনক কার্যকলাপ এবং চ্যালেঞ্জ
• রোমান্টিক বা সহিংস রোলপ্লে
• বয়স-নির্ধারিত পণ্য ও সেবাসমূহ

এই নীতিগুলি রিয়েল-টাইম কনটেন্ট ফিল্টারিংয়ের জন্য এবং ব্যবহারকারী-তৈরি কনটেন্টের অফলাইন বিশ্লেষণের জন্য ব্যবহার করা যেতে পারে.

নীতিগুলোকে প্রম্পট আকারে গঠন করার মাধ্যমে, ডেভেলপাররা সেগুলোকে বিদ্যমান ওয়ার্কফ্লোতে আরো সহজে একীভূত করতে, তাদের ব্যবহারের ক্ষেত্রের সাথে মানিয়ে নিতে এবং সময়ের সাথে সাথে পুনরাবৃত্তিমূলকভাবে উন্নত করতে পারেন.

আমরা এই নীতিগুলোর উন্নয়নে সহায়তা করার জন্য Common Sense Media⁠(একটি নতুন উইন্ডোতে খোলে) এবং everyone.ai⁠(একটি নতুন উইন্ডোতে খোলে)-সহ বাহ্যিক সংস্থাগুলোর সঙ্গে কাজ করেছি. কোন কোন কনটেন্ট অন্তর্ভুক্ত করা হবে তার পরিসর নির্ধারণ করতে, প্রম্পটগুলোর কাঠামো আরো শক্তিশালী করতে এবং সেগুলো মূল্যায়নের সময় বিবেচনা করার এজ কেসগুলো পরিমার্জন করতে তাদের দক্ষতা সহায়তা করেছে. 

এই কাজটি বিশেষজ্ঞ এবং বৃহত্তর ইকোসিস্টেমের সঙ্গে সহযোগিতার মাধ্যমে AI সিস্টেমগুলো কিভাবে তরুণদের সহায়তা করে তা উন্নত করার একটি চলমান প্রচেষ্টার প্রতিফলন.

“কিশোর-কিশোরীদের জন্য AI নিরাপত্তার ক্ষেত্রে সবচেয়ে বড় ঘাটতিগুলোর একটি হলো এমন স্পষ্ট, কার্যকর নীতিমালার অভাব, যার ভিত্তিতে ডেভেলপাররা কাজ করতে পারেন. অনেক সময় ডেভেলপারদের একদম শূন্য থেকে শুরু করতে হয়. এই প্রম্পট-ভিত্তিক নীতিমালাগুলো ইকোসিস্টেম জুড়ে নিরাপত্তার একটি তাৎপর্যপূর্ণ ন্যূনতম ভিত্তি স্থাপনে সহায়তা করে এবং এগুলো ওপেন সোর্স হিসেবে প্রকাশিত হওয়ায় সময়ের সাথে সাথে এগুলোকে মানিয়ে নেওয়া ও উন্নত করা যেতে পারে. এই ধরনের পরিকাঠামো সবার জন্য উন্মুক্ত হতে দেখে আমরা উৎসাহিত বোধ করছি এবং আমরা আশা করি এটি পুরো ইন্ডাস্ট্রিতে তরুণদের নিরাপত্তার জন্য আরও অনেক অভিন্ন প্রারম্ভিক বিন্দু বা মানদণ্ড তৈরিতে সাহায্য করবে.”

—রবি টর্নি, Common Sense Media-এর AI ও ডিজিটাল অ্যাসেসমেন্টসের প্রধান

“এ ধরনের প্রচেষ্টা, যা তরুণদের সুরক্ষা নীতিমালাকে আরো কার্যকরভাবে বাস্তবায়নযোগ্য করে তোলে, মূল্যবান, কারণ এগুলো বিশেষজ্ঞ জ্ঞানকে এমন নির্দেশিকায় রূপান্তর করতে সাহায্য করে যা বাস্তব সিস্টেমে ব্যবহার করা যেতে পারে. কনটেন্ট নীতিমালা একটি গুরুত্বপূর্ণ প্রথম পদক্ষেপ এবং সময়ের সঙ্গে সঙ্গে মডেলের আচরণ কিভাবে তরুণদের জন্য প্রাসঙ্গিক ঝুঁকিগুলোকে প্রভাবিত করতে পারে সে বিষয়ে আরো বিস্তৃত কাজের সুযোগও তৈরি করে. এই কাজ এবং আমাদের নিজস্ব গবেষণা থেকে অনুপ্রাণিত হয়ে, everyone.ai⁠(একটি নতুন উইন্ডোতে খোলে) একচেটিয়াতা এবং অতিনির্ভরতার মতো ঝুঁকির উপর কেন্দ্রীভূত একটি প্রাথমিক আচরণগত নীতিমালাও তৈরি করেছে.”

—ড. ম্যাথিল্ড সেরিওলি, everyone.AI-এর চিফ সায়েন্টিস্ট

নীতিমালাগুলো কিশোর-কিশোরীদের নিরাপত্তার চূড়ান্ত সংজ্ঞা বা নিশ্চয়তা নয়, বরং একটি সূচনা বিন্দু. প্রতিটি অ্যাপ্লিকেশনের নিজস্ব ঝুঁকি, ব্যবহারকারীগোষ্ঠী ও প্রেক্ষাপট রয়েছে. ডেভেলপাররা তাদের পণ্য ও AI ইন্টিগ্রেশন থেকে উদ্ভূত ঝুঁকি বোঝার জন্য সবচেয়ে ভালো অবস্থানে থাকেন. আমরা ডেভেলপারদের উৎসাহিত করছি যাতে তারা তাদের নিজস্ব প্রয়োজন অনুযায়ী এই নীতিগুলো পরিবর্তন ও বিস্তার করেন; এবং সেই সাথে পণ্যের ডিজাইন সংক্রান্ত সিদ্ধান্ত, ব্যবহারকারী নিয়ন্ত্রণ, কিশোর-কিশোরী বান্ধব স্বচ্ছতা, মনিটরিং সিস্টেম এবং বয়স-উপযোগী চিন্তা প্রসূত উত্তরের মতো অন্যান্য সুরক্ষা ব্যবস্থার সাথে এগুলোকে সমন্বিত করেন. 

আমরা বিশ্বাস করি আরো নিরাপদ AI সিস্টেম তৈরি করার জন্য স্তরভিত্তিক গভীর প্রতিরক্ষা⁠ পদ্ধতি অপরিহার্য. এই নীতিমালাগুলো আমাদের অভ্যন্তরীণ অভিজ্ঞতা থেকে নেওয়া, তবে এগুলো OpenAI-এর অভ্যন্তরীণ নীতিমালা বা সুরক্ষাব্যবস্থার সম্পূর্ণ পরিসরকে প্রতিফলিত করে না.

সহযোগিতা ও পুনরাবৃত্তিকে উৎসাহিত করতে আমরা ROOST মডেল কমিউনিটি⁠(একটি নতুন উইন্ডোতে খোলে)-এর মাধ্যমে এই নীতিগুলো ওপেন সোর্স হিসেবে প্রকাশ করছি. অবদান রাখতে, মতামত দিতে বা কিশোর-কিশোরীদের নিরাপত্তা সম্পর্কিত অতিরিক্ত নীতিমালা শেয়ার করতে, RMC GitHub রিপোজিটরি ভিজিট করুন.⁠(একটি নতুন উইন্ডোতে খোলে)

ডেভেলপাররা এবং প্রতিষ্ঠানগুলো এই নীতিমালাগুলোকে তাদের নির্দিষ্ট অ্যাপ্লিকেশনের জন্য মানিয়ে নিতে, এগুলোকে বিভিন্ন ভাষায় অনুবাদ করতে এবং অতিরিক্ত ঝুঁকির ক্ষেত্রগুলোকে অন্তর্ভুক্ত করার জন্য এগুলোকে সম্প্রসারিত করতে পারে. সময়ের সাথে সাথে, আমরা আশা করি এটি AI সিস্টেমে নিরাপত্তা নীতিমালা বাস্তবায়নের জন্য আরো শক্তিশালী ও যৌথ ভিত্তি গড়ে তুলতে অবদান রাখবে.

gpt-oss-safeguard দিয়ে শুরু করতে, Hugging Face⁠(একটি নতুন উইন্ডোতে খোলে) থেকে এটি ডাউনলোড করুন.