সবচেয়ে প্রয়োজনের সময়ে পাশে থাকা.

বিশ্বজুড়ে ChatGPT ব্যবহারের প্রসার ঘটার সঙ্গে সঙ্গে আমরা দেখেছি মানুষ এটি ব্যবহার করছে শুধু সার্চ, কোডিং, আর লেখার জন্যই নয়—বরং অত্যন্ত ব্যক্তিগত সিদ্ধান্তের ক্ষেত্রেও, যেমন জীবন নিয়ে পরামর্শ⁠(একটি নতুন উইন্ডোতে খোলে), কোচিং⁠(একটি নতুন উইন্ডোতে খোলে), এবং সমর্থন⁠(একটি নতুন উইন্ডোতে খোলে).

এই পরিসরে আমরা মাঝে মাঝে এমন মানুষদের পাই, যারা গভীর মানসিক ও আবেগজনিত কষ্টে রয়েছেন. আমরা কিছু সপ্তাহ আগে এ বিষয়ে লিখেছিলাম এবং ভেবেছিলাম আমাদের পরবর্তী বড় আপডেটের পর আরও শেয়ার করব. তবে সাম্প্রতিক কিছু হৃদয়বিদারক ঘটনার পর—যেখানে মানুষ ChatGPT ব্যবহার করেছেন তীব্র সংকটের মুহূর্তে—আমাদের কাছে এখনই আরও জানানো জরুরি মনে হয়েছে.

আমাদের লক্ষ্য হলো আমাদের টুলস যেন মানুষকে যতটা সম্ভব সাহায্য করতে পারে—আর তার অংশ হিসেবে আমরা নিরন্তর কাজ করছি যেন মডেলগুলো মানসিক ও আবেগজনিত কষ্টের সিগনালগুলো আরও ভালোভাবে চিনতে পারে এবং বিশেষজ্ঞদের পরামর্শে মানুষের জন্য যথাযথ কেয়ার কানেক্ট করতে পারে.

বিশ্ব যখন এই নতুন প্রযুক্তির সঙ্গে মানিয়ে নিচ্ছে, তখন আমরা গভীরভাবে দায়িত্ব অনুভব করি যেন সবচেয়ে প্রয়োজনের সময়ে আমরা সত্যিই পাশে থাকতে পারি. আমরা ব্যাখ্যা করতে চাই ChatGPT কী করার জন্য তৈরি, কোথায় আমাদের সিস্টেমগুলো আরও উন্নত হতে পারে, এবং সামনে কী কাজের পরিকল্পনা রয়েছে.

আমাদের লক্ষ্য মানুষের মনোযোগ ধরে রাখা নয়. সময় ব্যয় বা ক্লিক দিয়ে সাফল্য মাপার বদলে আমরা সত্যিকারের সাহায্য করতে পারাকে বেশি গুরুত্ব দিই. কোনো কথোপকথনে বোঝা গেলে কেউ দুর্বল অবস্থায় আছেন বা ঝুঁকিতে থাকতে পারেন, তখন ChatGPT‑তে আমরা বহুস্তরীয় সেফগার্ড তৈরি করেছি.

সহানুভূতির সঙ্গে চিহ্নিত করা ও প্রতিক্রিয়া জানানো.

২০২৩ সালের শুরু থেকে, আমাদের মডেলগুলোকে প্রশিক্ষণ দেওয়া হয়েছে যেন তারা আত্ম-ক্ষতির কোনো নির্দেশনা না দেয় এবং বরং সহায়ক, সহানুভূতিশীল ভাষায় সাড়া দেয়. যেমন, কেউ যদি লেখেন যে তিনি নিজেকে আঘাত করতে চান, ChatGPT‑কে প্রশিক্ষণ দেওয়া হয়েছে যাতে এটি সে অনুরোধ মেনে না নিয়ে বরং তার অনুভূতিকে স্বীকার করে এবং তাকে সাহায্যের দিকে পরিচালিত করে.

আরও, আমাদের ডিফেন্স ইন ডেপথ পদ্ধতির অংশ হিসেবে, মডেলগুলোর সেফটি ট্রেনিংয়ের বিপরীতে গেলে—আমাদের ক্লাসিফায়ার যেটি শনাক্ত করে—সে রেসপন্সগুলো স্বয়ংক্রিয়ভাবে ব্লক হয়ে যায়, যেখানে অপ্রাপ্তবয়স্ক ও লগ-আউট ব্যবহারকারীদের জন্য সুরক্ষা আরও শক্তিশালী. আত্ম-ক্ষতি সম্পর্কিত ইমেজ আউটপুট সবার জন্যই ব্লক করা হয়, যেখানে অপ্রাপ্তবয়স্কদের জন্য সুরক্ষা আরও শক্তিশালী.

খুব দীর্ঘ সেশনে ChatGPT মানুষকে বিরতি নেওয়ার জন্য নাজ করে.

মানুষকে বাস্তব জীবনের রিসোর্সে রেফার করা.

কেউ যদি আত্মহত্যার ইচ্ছা প্রকাশ করেন, ChatGPT‑কে প্রশিক্ষণ দেওয়া হয়েছে যেন মানুষকে প্রফেশনাল সাহায্য নেওয়ার দিকে পরিচালিত করে. যুক্তরাষ্ট্রে ChatGPT মানুষকে 988 (সুইসাইড অ্যান্ড ক্রাইসিস হটলাইন)-এ রেফার করে, যুক্তরাজ্যে Samaritans-এ, আর অন্যান্য দেশে findahelpline.com⁠(একটি নতুন উইন্ডোতে খোলে)-এ. এই লজিক মডেলের আচরণের মধ্যেই তৈরি করা হয়েছে.

আমরা ৩০+ দেশের ৯০+ চিকিৎসকের সঙ্গে ঘনিষ্ঠভাবে কাজ করছি—যাদের মধ্যে আছেন মনোরোগ বিশেষজ্ঞ, শিশুরোগ বিশেষজ্ঞ, এবং সাধারণ চিকিৎসক—এবং আমরা একটি অ্যাডভাইজরি গ্রুপ গঠন করছি যেখানে মানসিক স্বাস্থ্য, যুব উন্নয়ন, এবং human-computer interaction-এর বিশেষজ্ঞরা থাকবেন, যাতে আমাদের পদ্ধতি সর্বশেষ গবেষণা ও সেরা অনুশীলনের প্রতিফলন ঘটায়.

অন্যদের শারীরিক ক্ষতির ঝুঁকি মানব রিভিউতে এগিয়ে দেওয়া.

আমরা যখন শনাক্ত করি যে ব্যবহারকারীরা অন্যদের ক্ষতি করার পরিকল্পনা করছেন, তখন তাদের কথোপকথন বিশেষায়িত পাইপলাইনে পাঠানো হয়, যেখানে একটি ছোট দল সেটি রিভিউ করে—যারা আমাদের ব্যবহারের নীতিতে প্রশিক্ষিত এবং অ্যাকশন নিতে অনুমোদিত, যার মধ্যে অ্যাকাউন্ট ব্যান করাও অন্তর্ভুক্ত. মানব রিভিউয়াররা যদি নির্ধারণ করেন যে কোনো ক্ষেত্রে অন্যদের জন্য গুরুতর শারীরিক ক্ষতির আসন্ন হুমকি রয়েছে, আমরা তা আইন প্রয়োগকারী সংস্থার কাছে রেফার করতে পারি. ChatGPT কথোপকথনের বিশেষভাবে ব্যক্তিগত প্রকৃতির কারণে মানুষের প্রাইভেসি সম্মান জানাতে আমরা বর্তমানে আত্ম-ক্ষতির কেস আইন প্রয়োগকারী সংস্থায় রেফার করছি না.

সংবেদনশীল ইন্টারঅ্যাকশনে আমাদের মডেলগুলো কীভাবে প্রতিক্রিয়া জানায় তা আমরা ক্রমাগত উন্নত করছি, এবং বর্তমানে আমরা বেশ কিছু ক্ষেত্রে লক্ষ্যভিত্তিক সেফটি উন্নয়নে কাজ করছি—যার মধ্যে রয়েছে emotional reliance, মানসিক স্বাস্থ্য জরুরি অবস্থা, এবং sycophancy.

আগস্টে আমরা GPT‑5 লঞ্চ করেছি, যা এখন ChatGPT‑এর ডিফল্ট মডেল. সার্বিকভাবে, GPT‑5 অর্থবহ উন্নতি দেখিয়েছে—যেমন অস্বাস্থ্যকর মাত্রার আবেগনির্ভরতা এড়িয়ে চলা, সাইকোফ্যান্সি কমানো, এবং মানসিক স্বাস্থ্য জরুরি অবস্থায় অনুপযুক্ত বা অপ্রত্যাশিত মডেল রেসপন্সের হার 4o-এর তুলনায় 25% এরও বেশি হ্রাস করা. GPT‑5 একটি নতুন সেফটি ট্রেনিং পদ্ধতির উপরও ভিত্তি করে তৈরি হয়েছে, যেটির নাম সেইফ কমপ্লিশন্স, যা মডেলকে শেখায় যেন এটি যতটা সম্ভব সহায়ক হয়, কিন্তু সেফটির সীমার মধ্যে থেকেই. এর মানে হতে পারে এমন একটি আংশিক বা উচ্চ-স্তরের উত্তর দেওয়া, বিস্তারিত নয়—যেটি নিরাপত্তার জন্য ঝুঁকিপূর্ণ হতে পারে.

এই সেফগার্ড থাকা সত্ত্বেও, কিছু মুহূর্তে আমাদের সিস্টেম সংবেদনশীল পরিস্থিতিতে প্রত্যাশিতভাবে আচরণ করেনি. এখানে কিছু দিক দেওয়া হলো যেগুলো আমরা উন্নত করতে কাজ করছি.

দীর্ঘ কথোপকথনে সেফগার্ড শক্তিশালী করা.

সাধারণ ও ছোট কথোপকথনে আমাদের সেফগার্ড আরও নির্ভরযোগ্যভাবে কাজ করে. সময়ের সঙ্গে আমরা শিখেছি যে দীর্ঘ ইন্টারঅ্যাকশনে এই সেফগার্ড কখনও কম নির্ভরযোগ্য হয়ে যেতে পারে: বারবার কথোপকথন চলতে থাকলে মডেলের সেফটি ট্রেনিংয়ের কিছু অংশ দুর্বল হয়ে যেতে পারে. যেমন, কেউ প্রথমবার আত্মহত্যার ইচ্ছা প্রকাশ করলে ChatGPT সঠিকভাবে হটলাইনের দিকে নির্দেশ করতে পারে, কিন্তু অনেকবার কথোপকথনের পর সময়ের সঙ্গে এটি হয়তো এমন উত্তর দিতে পারে যেটি আমাদের সেফগার্ডের বিপরীতে যায়. এটাই সেই ধরণের ভেঙে পড়া আচরণ, যেটি প্রতিরোধে আমরা কাজ করছি. আমরা এই মিটিগেশনগুলো আরও শক্তিশালী করছি যাতে তারা দীর্ঘ কথোপকথনেও নির্ভরযোগ্য থাকে, এবং আমরা গবেষণা করছি কীভাবে একাধিক কথোপকথন জুড়েও মডেলের আচরণ দৃঢ় রাখা যায়. এভাবে, কেউ যদি একটি চ্যাটে আত্মহত্যার ইচ্ছা প্রকাশ করেন এবং পরে আরেকটি শুরু করেন, মডেল তখনও সঠিকভাবে প্রতিক্রিয়া জানাতে পারে.

আমরা কীভাবে কনটেন্ট ব্লক করি তা আরও সূক্ষ্ম করা.

আমরা কিছু ক্ষেত্রে দেখেছি যে যেসব কনটেন্ট ব্লক হওয়ার কথা ছিল, সেগুলো হয়নি. এই ফাঁকগুলো সাধারণত ঘটে কারণ ক্লাসিফায়ার পরিস্থিতির গুরুতরতা সঠিকভাবে মূল্যায়ন করতে পারে না. আমরা সেই থ্রেশহোল্ডগুলো টিউন করছি যাতে সঠিক সময়ে সুরক্ষা কার্যকর হয়.

আমাদের সবচেয়ে বড় অগ্রাধিকার হলো নিশ্চিত করা যে ChatGPT কোনো কঠিন মুহূর্ত আরও খারাপ না করে.

উপরোক্ত সমস্যাগুলো সমাধান করেই কাজ শেষ হচ্ছে না. আমরা আরও পরিকল্পনা করছি: 

সংকটে থাকা আরও মানুষের জন্য হস্তক্ষেপ বাড়ানো.

আমাদের প্রাথমিক মিটিগেশনগুলো মূলত তীব্র আত্ম-ক্ষতির ঝুঁকিকে অগ্রাধিকার দিয়েছিল, কিন্তু অনেক মানুষ মানসিক কষ্টের অন্য রূপও ভোগ করেন. উদাহরণস্বরূপ, কেউ হয়তো উৎসাহ নিয়ে মডেলকে বলবেন যে তিনি বিশ্বাস করেন তিনি 24/7 গাড়ি চালাতে পারবেন, কারণ টানা দুই রাত না ঘুমিয়েও বুঝতে পেরেছেন তিনি অজেয়. বর্তমানে ChatGPT এটিকে বিপজ্জনক হিসেবে চিনতে নাও পারে বা মজার কথা ভেবে কৌতূহলভরে অনুসন্ধান করতে গিয়ে অনিচ্ছাকৃতভাবে সেটি আরও জোরদার করে দিতে পারে.

আমরা GPT‑5‑এর একটি আপডেট নিয়ে কাজ করছি যাতে ChatGPT পরিস্থিতি প্রশমিত করে এবং ব্যক্তিকে বাস্তবতার সঙ্গে সংযুক্ত করে. এই উদাহরণে, এটি বোঝাবে যে ঘুমের অভাব বিপজ্জনক এবং কোনো পদক্ষেপ নেওয়ার আগে বিশ্রাম নেওয়ার পরামর্শ দেবে.

জরুরি পরিষেবায় পৌঁছানো এবং বিশেষজ্ঞদের সাহায্য পাওয়া আরও সহজ করা.

আজকে, মানুষ যখন নিজেদের ক্ষতি করার ইচ্ছা প্রকাশ করেন, আমরা তাদের সাহায্য নিতে উৎসাহ দিই এবং বাস্তব জীবনের রিসোর্সে রেফার করি. আমরা ইতিমধ্যে যুক্তরাষ্ট্র ও ইউরোপে রিসোর্স লোকালাইজ করা শুরু করেছি, এবং অন্যান্য বৈশ্বিক বাজারে সম্প্রসারণের পরিকল্পনা রয়েছে. আমরা এক-ক্লিক অ্যাক্সেস দিয়ে জরুরি পরিষেবায় পৌঁছানো আরও সহজ করব.

আমরা খুঁজে দেখছি কীভাবে আগে হস্তক্ষেপ করা যায় এবং মানুষকে তীব্র সংকটের আগে সার্টিফায়েড থেরাপিস্টদের সঙ্গে সংযুক্ত করা যায়. এর মানে হলো শুধু ক্রাইসিস হটলাইনের বাইরে গিয়ে ভাবা, কীভাবে একটি লাইসেন্সপ্রাপ্ত পেশাদারের নেটওয়ার্ক তৈরি করা যায় যাদের সঙ্গে মানুষ সরাসরি ChatGPT‑এর মাধ্যমে যোগাযোগ করতে পারবেন. সঠিকভাবে করতে হলে এতে সময় এবং সতর্ক কাজ লাগবে.

বিশ্বস্ত কনট্যাক্টের সঙ্গে সংযোগ সক্রিয় করা.

জরুরি পরিষেবার পাশাপাশি, মানুষ যেন তাদের সবচেয়ে কাছের মানুষের সঙ্গে সহজে যোগাযোগ করতে পারেন, সে উপায়গুলোও আমরা খুঁজে দেখছি. এর মধ্যে থাকতে পারে এক-ক্লিকে সেভ করা জরুরি কনট্যাক্ট, বন্ধু বা পরিবারের কাছে মেসেজ/কল, যেখানে কথোপকথন শুরু করা সহজ করতে প্রস্তাবিত ভাষাও দেওয়া থাকবে.

আমরা এমন ফিচারের কথাও ভাবছি যেখানে মানুষ চাইলে গুরুতর পরিস্থিতিতে ChatGPT তাদের পক্ষ থেকে নির্ধারিত কনট্যাক্টের সঙ্গে যোগাযোগ করতে পারবে.

কিশোরদের জন্য সুরক্ষা আরও শক্তিশালী করা.

আগে আমরা সব ব্যবহারকারীর জন্য একটি একক আদর্শ মডেল আচরণ নির্ধারণ করেছিলাম; কিন্তু ChatGPT‑এর বিস্তারের সঙ্গে সঙ্গে, আমরা অতিরিক্ত সুরক্ষা যুক্ত করেছি যখন জানি ব্যবহারকারীর বয়স 18 বছরের নিচে. আমরা কিশোরদের অনন্য বিকাশগত প্রয়োজনকে চিনতে সক্ষম এমন সেফগার্ড তৈরি ও চালু করে চলেছি, যেখানে সংবেদনশীল কনটেন্ট এবং ঝুঁকিপূর্ণ আচরণের চারপাশে আরও শক্তিশালী গার্ডরেল রয়েছে.

আমরা শিগগিরই এমন প্যারেন্টাল কন্ট্রোলস চালু করব যা অভিভাবকদের তাদের কিশোররা ChatGPT কীভাবে ব্যবহার করছে তা আরও ভালোভাবে বোঝার এবং নিয়ন্ত্রণ করার সুযোগ দেবে. আমরা এটিও খুঁজে দেখছি যে কিশোররা (অভিভাবকের তত্ত্বাবধানে) একটি বিশ্বস্ত জরুরি কনট্যাক্ট নির্ধারণ করতে পারে এমন সুযোগ দেওয়া যায় কি না. এভাবে, তীব্র কষ্টের মুহূর্তে ChatGPT শুধু রিসোর্স দেখানোই নয়—বরং এমন কারও সঙ্গে সরাসরি সংযুক্ত করতে সাহায্য করতে পারবে যিনি পদক্ষেপ নিতে পারেন.

আমরা গভীরভাবে সচেতন যে প্রতিটি উপাদান প্রত্যাশিতভাবে কাজ করলে সেফগার্ডই সবচেয়ে শক্তিশালী হয়. আমরা ক্রমাগত উন্নতি করতে থাকব—বিশেষজ্ঞদের নির্দেশনায় এবং আমাদের টুলস ব্যবহারকারীদের প্রতি দায়িত্ববোধে—এবং আমরা আশা করি অন্যরাও আমাদের সঙ্গে যুক্ত হবেন যেন এই প্রযুক্তি সবচেয়ে দুর্বল সময়ে মানুষকে সুরক্ষিত রাখতে পারে.