আমাদের মডেল স্পেসিফিকেশন (Model Spec) কিশোর-কিশোরীদের সুরক্ষা সহ আপডেট করা হচ্ছে

আমরা আমাদের Model Spec-এর একটি আপডেট শেয়ার করছি, যা আমাদের AI মডেলগুলির আচরণ কিভাবে হওয়া উচিত তা নির্দেশ করে এমন নিয়ম, মূল্যবোধ এবং আচরণগত প্রত্যাশার লিখিত সেট, বিশেষ করে কঠিন বা উচ্চ ঝুঁকিপূর্ণ পরিস্থিতিতে, নতুন Under-18 (U18) Principles⁠(একটি নতুন উইন্ডোতে খোলে) সহ। মডেলের আচরণ AI-এর সাথে মানুষের মিথস্ক্রিয়ার ক্ষেত্রে অত্যন্ত গুরুত্বপূর্ণ এবং কিশোর-কিশোরীদের বিকাশের প্রয়োজন প্রাপ্তবয়স্কদের থেকে আলাদা।

U18 নীতিমালা নির্দেশ করে কিভাবে ChatGPT 13 থেকে 17 বছর বয়সী কিশোর-কিশোরীদের জন্য একটি নিরাপদ, বয়স-উপযোগী অভিজ্ঞতা প্রদান করবে। উন্নয়নমূলক বিজ্ঞানের ভিত্তিতে, এই পদ্ধতি প্রতিরোধ, স্বচ্ছতা এবং প্রাথমিক হস্তক্ষেপকে অগ্রাধিকার দেয়। এই নীতিগুলি বিকাশের সময়, আমরা আমাদের পদ্ধতি শক্তিশালী করার জন্য ইনপুট খোঁজার চলমান কাজের অংশ হিসেবে আমেরিকান সাইকোলজিক্যাল অ্যাসোসিয়েশন সহ বাইরের বিশেষজ্ঞদের সাথে প্রিভিউ করেছি।

যদিও Model Spec-এর নীতিগুলি প্রাপ্তবয়স্ক এবং কিশোর-কিশোরীদের উভয় ব্যবহারকারীর জন্য জারি রাখা প্রযোজ্য থাকে, এই আপডেটটি কিশোর-কিশোরীদের প্রসঙ্গে এই নীতিগুলি কিভাবে প্রযোজ্য তা স্পষ্ট করে, বিশেষ করে যেখানে নাবালকদের জন্য সুরক্ষা বিবেচনা আরও বেশি গুরুত্বপূর্ণ হতে পারে। 

U18 নীতিমালা চারটি নির্দেশনা প্রতিশ্রুতির উপর ভিত্তি করে স্থাপিত:

• কিশোর-কিশোরীদের নিরাপত্তাকে অগ্রাধিকার দিন, এমনকি যখন এটি অন্যান্য লক্ষ্যগুলির সাথে বিরোধ সৃষ্টি করে
• বাস্তব জীবনের সহায়তা প্রচার করুন অফলাইন সম্পর্ক এবং বিশ্বস্ত রিসোর্সগুলোকে উৎসাহিত করে
• কিশোর-কিশোরীদের কিশোর-কিশোরী হিসেবেই গণ্য করুন, তাদের প্রতি অনুগ্রহ দেখাবেন না বা প্রাপ্তবয়স্কদের মতো ব্যবহার করবেন না
• স্পষ্ট প্রত্যাশা নির্ধারণ করে স্বচ্ছ থাকুন

আমাদের কিশোর-কিশোরীদের সুরক্ষা নকশা⁠ এর সাথে সামঞ্জস্য রেখে, এই নীতিগুলি আমাদের কিশোর-কিশোরীদের সুরক্ষা কাজকে আজ পর্যন্ত নির্দেশনা দিয়েছে, যার মধ্যে রয়েছে সেই বিষয়বস্তু সুরক্ষা যা আমরা সাইন-আপের সময় আমাদেরকে জানানো ব্যবহারকারীদের জন্য প্রয়োগ করি যারা বলে যে তারা 18 বছরের নিচে এবং অভিভাবকীয় নিয়ন্ত্রণের মাধ্যমে। এই প্রসঙ্গগুলিতে, আমরা মডেলকে উচ্চ-ঝুঁকিপূর্ণ ক্ষেত্রগুলি নিয়ে আলোচনা করার সময় অতিরিক্ত সতর্কতা অবলম্বন করার জন্য সুরক্ষা ব্যবস্থা প্রয়োগ করেছি, যার মধ্যে রয়েছে নিজের-ক্ষতি এবং আত্মহত্যা, রোমান্টিক বা যৌনকেন্দ্রিক ভূমিকা পালন, গ্রাফিক বা স্পষ্ট কন্টেন্ট, বিপজ্জনক কার্যকলাপ এবং মাদক জাতীয় পদার্থ, শরীরের চিত্র এবং খাদ্যাভ্যাসের ব্যাধি এবং অনিরাপদ আচরণ সম্পর্কে গোপনীয়তা রাখার অনুরোধ।

আমেরিকান সাইকোলজিক্যাল অ্যাসোসিয়েশন, যারা U18 Model Spec-এর একটি প্রাথমিক খসড়া পর্যালোচনা করেছে এবং দীর্ঘমেয়াদে গুরুত্বপূর্ণ অন্তর্দৃষ্টি প্রদান করেছে, কিশোর-কিশোরীদের সুরক্ষা রক্ষার গুরুত্ব সম্পর্কে স্পষ্টভাবে জানিয়েছে:

এই আপডেটটি আরও স্পষ্ট করে যে কিশোর-কিশোরীদের জন্য নিরাপত্তা উদ্বেগ দেখা দিলে সহকারী কীভাবে প্রতিক্রিয়া জানাবে। এর মানে হলো কিশোর-কিশোরীদের আরও শক্তিশালী সুরক্ষা সীমা, নিরাপদ বিকল্প এবং যখন কথোপকথন উচ্চ-ঝুঁকিপূর্ণ অঞ্চলে চলে যায় তখন বিশ্বস্ত অফলাইন সহায়তা খোঁজার জন্য উৎসাহিত করা উচিত। যেখানে তাৎক্ষণিক ঝুঁকি রয়েছে, কিশোর-কিশোরীদের জরুরি সেবা বা সংকট রিসোর্সগুলির সাথে যোগাযোগ করতে বলা হয়।

Model Spec-এর বাকি অংশের মতো, U18 নীতিমালা আমাদের মডেলের অভিপ্রেত আচরণ প্রতিফলিত করে। আমরা নতুন গবেষণা, বিশেষজ্ঞদের ইনপুট এবং বাস্তব জীবনের ব্যবহার অন্তর্ভুক্ত করে সেগুলি পরিমার্জন জারি রাখব।

Model Spec আপডেট করার পাশাপাশি, আমরা ChatGPT‑এ কিশোর-কিশোরীদের সুরক্ষা জোরদার⁠ করার জন্য একটি বহুস্তরীয় পদ্ধতি গ্রহণ করেছি, যা পণ্য সুরক্ষা, পরিবার সহায়তা এবং বিশেষজ্ঞ পরামর্শ অন্তর্ভুক্ত করে।

অভিভাবকীয় নিয়ন্ত্রণ⁠(একটি নতুন উইন্ডোতে খোলে) চালু করার পর থেকে, আমরা নতুন পণ্যগুলিতে সুরক্ষা বাড়িয়েছি, যার মধ্যে রয়েছে গ্রুপ চ্যাট, ChatGPT Atlas ব্রাউজার এবং Sora অ্যাপ। এই আপডেটগুলি অভিভাবকদের তাদের কিশোর-কিশোরীদের ChatGPT অভিজ্ঞতা ব্যক্তিগতকরণে সহায়তা করে, যখন আমরা নতুন পণ্য এবং বৈশিষ্ট্যগুলি প্রবর্তন করি।

বিশেষজ্ঞদের পরামর্শ অনুযায়ী, আমরা অভিভাবক এবং কিশোর-কিশোরীদের মধ্যে তাদের পরিবারের স্বাস্থ্যকর এবং দায়িত্বশীল AI ব্যবহারের বিষয়ে নিয়মিত কথোপকথন চালিয়ে যাওয়ার পরামর্শ দিই। এই কথোপকথনগুলোকে সহায়তা করার জন্য, আমরা পেরেন্টস রিসোর্স হাব⁠(একটি নতুন উইন্ডোতে খোলে)-এ নতুন বিশেষজ্ঞ-পরীক্ষিত রিসোর্স যোগ করেছি, যার মধ্যে রয়েছে কিশোর-কিশোরীদের দায়িত্বশীলভাবে AI ব্যবহার করতে সহায়তা করার জন্য একটি পরিবারিক গাইড⁠(একটি নতুন উইন্ডোতে খোলে) এবং অভিভাবকদের জন্য টিপস⁠(একটি নতুন উইন্ডোতে খোলে) কিভাবে তাদের সন্তানদের সাথে AI সম্পর্কে কথা বলা যায়, যা ConnectSafely এবং আমাদের সুস্থতা (Well-Being) এবং AI বিষয়ক বিশেষজ্ঞ কাউন্সিল⁠ এর সদস্যদের দ্বারা পর্যালোচিত হয়েছে। আমরা সময়ের সাথে সাথে আরও রিসোর্স যোগ করা জারি রাখব। আমরা পণ্যের মধ্যে সরাসরি স্বাস্থ্যকর ব্যবহারের সহায়তা করি, দীর্ঘ সেশনের সময় বিল্ট-ইন ব্রেক রিমাইন্ডার⁠ সহ, যা ChatGPT‑এর সাথে সময় কাটানোকে উদ্দেশ্যমূলক এবং ভারসাম্যপূর্ণ রাখতে সহায়তা করে।

কিশোর-কিশোরীদের নিরাপত্তা নিয়ে আমাদের কাজ বিভিন্ন ক্ষেত্রের বিশেষজ্ঞদের সাথে ঘনিষ্ঠভাবে সম্পৃক্ত থেকে পরিচালিত হয়। অক্টোবরে, আমরা একটি সুস্থতা (Well-Being) এবং AI বিষয়ক বিশেষজ্ঞ কাউন্সিল⁠ প্রতিষ্ঠা করেছি যাতে সব বয়সের জন্য AI-এর সাথে স্বাস্থ্যকর মিথস্ক্রিয়াগুলি কেমন হওয়া উচিত তা পরামর্শ ও নির্ধারণে সহায়তা করে। এই কাজটি অভিভাবকীয় নিয়ন্ত্রণ এবং অভিভাবকীয় নোটিফিকেশন সম্পর্কে নির্দেশনা দিয়েছে। আমরা আমাদের গ্লোবাল ফিজিশিয়ান নেটওয়ার্ক⁠ এর মাধ্যমে ক্লিনিকাল দক্ষতাও অন্তর্ভুক্ত করি যাতে নিরাপত্তা গবেষণাকে অবহিত করা যায় এবং মডেলের আচরণ মূল্যায়ন করা যায়, যার মধ্যে রয়েছে ChatGPT কীভাবে মানসিক চাপ সনাক্ত করে এবং প্রযোজ্য ক্ষেত্রে পেশাদার যত্নের দিকে মানুষকে পরিচালিত করে তা উন্নত করা। আমরা এই ভিত্তির উপর GPT‑5.2⁠ তৈরি করেছি এবং ThroughLine⁠(একটি নতুন উইন্ডোতে খোলে) এর সাথে আমাদের অংশীদারিত্বের মাধ্যমে ChatGPT এবং Sora-তে স্থানীয়কৃত হেল্পলাইন প্রদর্শনের মাধ্যমে বাস্তব-জগতের সহায়তা প্রসারিত করেছি।

আমরা ChatGPT ভোক্তা পরিকল্পনায় একটি বয়স অনুমান মডেল⁠(একটি নতুন উইন্ডোতে খোলে) চালু করার প্রাথমিক পর্যায়ে আছি। এটি আমাদেরকে স্বয়ংক্রিয়ভাবে কিশোর-কিশোরী সংক্রান্ত সুরক্ষাগুলি প্রয়োগ করতে সাহায্য করবে যখন আমরা মনে করব একটি অ্যাকাউন্ট কোনো নাবালকের জন্য। যদি আমরা কারো বয়স সম্পর্কে নিশ্চিত না হই বা আমাদের কাছে অসম্পূর্ণ তথ্য থাকে, তবে আমরা ডিফল্টরূপে আঠারো-এর নিচের (U18) অভিজ্ঞতাটি প্রয়োগ করব এবং প্রাপ্তবয়স্কদের তাদের বয়স যাচাই করার উপায় দেব।

কিশোর-কিশোরীদের সুরক্ষা জোরদার করা একটি চলমান কাজ এবং আমরা অভিভাবকীয় নিয়ন্ত্রণ এবং মডেল সক্ষমতা উন্নত করতে জারি রাখব, পিতামাতার জন্য রিসোর্স সম্প্রসারণ করব এবং সুস্থতা কাউন্সিল ও গ্লোবাল ফিজিশিয়ান নেটওয়ার্ক সহ বিভিন্ন সংস্থা, গবেষক এবং বিশেষজ্ঞ অংশীদারদের সাথে কাজ করব। 

আমরা কিশোর-কিশোরীদের জন্য শক্তিশালী সুরক্ষা ব্যবস্থা গড়ে তোলার এবং সময়ের সাথে সাথে সেগুলি উন্নত করার প্রতিশ্রুতি দিয়েছি, যাতে কিশোর-কিশোরীদের এবং পরিবারকে আরও ভালোভাবে সহায়তা করা যায়।