SafetyKit OpenAI-এর উন্নত মডেলে ঝুঁকি এজেন্ট স্কেল করে

SafetyKit⁠(একটি নতুন উইন্ডোতে খোলে) টেক্সট, ছবি, আর্থিক লেনদেন, পণ্যের তালিকা এবং আরও অনেক কিছুর মধ্যে জালিয়াতি ও নিষিদ্ধ কার্যকলাপ শনাক্ত করতে এবং সেগুলোর বিরুদ্ধে ব্যবস্থা নিতে মার্কেটপ্লেস, পেমেন্ট প্ল্যাটফর্ম এবং ফিনটেক প্রতিষ্ঠানগুলোকে সহায়তা করার জন্য মাল্টিমোডাল AI এজেন্ট তৈরি করে. মডেলের যুক্তিপ্রয়োগ এবং মাল্টিমোডাল বোঝাপড়ায় সাম্প্রতিক অগ্রগতি এটিকে আরও কার্যকর করেছে এবং ঝুঁকি, কমপ্লায়েন্স ও সুরক্ষা কার্যক্রমের জন্য একটি নতুন মানদণ্ড স্থাপন করেছে.

SafetyKit-এর এজেন্টরা GPT‑5, GPT‑4.1, ডীপ রিসার্চ এবং কম্পিউটার-ইউজিং এজেন্ট (CUA) ব্যবহার করে SafetyKit-এর ইভ্যালস-এর ভিত্তিতে 95% এর বেশি নির্ভুলতায় 100% গ্রাহক কন্টেন্ট পর্যালোচনা করে. এগুলো প্ল্যাটফর্মগুলোকে ব্যবহারকারীদের সুরক্ষা দিতে, প্রতারণা প্রতিরোধ করতে, নিয়ন্ত্রক জরিমানা এড়াতে এবং এমন জটিল নীতিমালা কার্যকর করতে সহায়তা করতে পারে, যা পুরোনো সিস্টেমগুলোর নজর এড়িয়ে যেতে পারে; যেমন অঞ্চলভিত্তিক নিয়ম, প্রতারণামূলক ছবিতে এম্বেড করা ফোন নম্বর বা আপত্তিকর কনটেন্ট. স্বয়ংক্রিয় ব্যবস্থা মানব মডারেটরদের আপত্তিকর উপাদানের সংস্পর্শে আসা থেকে সুরক্ষা দিতে পারে এবং তাদেরকে নীতিগত সূক্ষ্ম সিদ্ধান্তগুলো সামলানোর সুযোগ দেয়.

SafetyKit-এর এজেন্টগুলো প্রতিটিই স্ক্যাম থেকে অবৈধ পণ্য পর্যন্ত নির্দিষ্ট ঝুঁকির ক্যাটেগরি মোকাবিলা করার জন্য তৈরি. প্রতিটি কন্টেন্ট সেই লঙ্ঘনের জন্য সবচেয়ে উপযুক্ত এজেন্টের কাছে পাঠানো হয়, সর্বোত্তম OpenAI মডেল ব্যবহার করে.

• GPT‑5 টেক্সট, চিত্র এবং UI জুড়ে মাল্টিমোডাল যুক্তি প্রয়োগ করে লুকানো ঝুঁকি প্রকাশ করে এবং স্তরভিত্তিক, সুনির্দিষ্ট সিদ্ধান্ত গ্রহণে সহায়তা করে
• GPT‑4.1 নির্ভরযোগ্যভাবে বিস্তারিত কনটেন্ট-পলিসি নির্দেশনা অনুসরণ করে এবং উচ্চ-মাত্রার মডারেশন ওয়ার্কফ্লো দক্ষতার সঙ্গে পরিচালনা করে
• রিইনফোর্সমেন্ট ফাইন-টিউনিং (RFT) ডিফল্ট মডেলের তুলনায় রিকল ও প্রিসিশন বাড়ায় এবং জটিল সেফটি পলিসি মেনেও অত্যাধুনিক পারফরম্যান্স অর্জন করে
• ডীপ রিসার্চ মার্চেন্ট রিভিউ এবং যাচাইকরণের জন্য রিয়েল-টাইম অনলাইন তদন্তকে সংযুক্ত করে
• কম্পিউটার ইউজিং এজেন্ট (CUA) জটিল পলিসি টাস্ক স্বয়ংক্রিয় করে ব্যয়বহুল ম্যানুয়াল রিভিউ এর উপর নির্ভরতা কমায়

এই মডেল-ম্যাচিং পদ্ধতি SafetyKit-কে বিভিন্ন মোডালিটিজুড়ে কনটেন্ট পর্যালোচনা লিগ্যাসি সমাধানগুলোর তুলনায় আরও বেশি সূক্ষ্মতা ও নির্ভুলতার সঙ্গে সম্প্রসারণ করতে সক্ষম করে.

উদাহরণস্বরূপ, স্ক্যাম ডিটেকশন এজেন্ট শুধু টেক্সট স্ক্যান করার বাইরেও যায়. এটি পণ্যের ছবিতে এম্বেড করা QR কোড বা ফোন নম্বরের মতো ভিজ্যুয়াল উপাদান বিশ্লেষণ করে. GPT‑4.1 এটিকে ছবিটি বিশ্লেষণ করতে, বিন্যাস বুঝতে এবং এটি নীতিমালা লঙ্ঘন কিনা তা নির্ধারণ করতে সহায়তা করে.

পলিসি ডিসক্লোজার এজেন্ট লিস্টিং বা ল্যান্ডিং পেজে প্রয়োজনীয় ভাষা, যেমন লিগ্যাল ডিসক্লেইমার বা অঞ্চল-নির্দিষ্ট কমপ্লায়েন্স সতর্কবার্তা, আছে কি না তা পরীক্ষা করে. GPT‑4.1 প্রাসঙ্গিক অংশগুলো বের করে, GPT‑5 কমপ্লায়েন্স মূল্যায়ন করে এবং এজেন্ট ভায়োলেশনগুলো চিহ্নিত করে.

“আমরা আমাদের এজেন্টগুলোকে উদ্দেশ্য-নির্দিষ্ট ওয়ার্কফ্লো হিসেবে ভাবি,” গ্রাউনকি বলেন. “কিছু কাজের জন্য ডিপ রিজনিং প্রয়োজন, অন্যগুলোর জন্য মাল্টিমোডাল কনটেক্সট দরকার. OpenAI-ই একমাত্র স্ট্যাক যা উভয় ক্ষেত্রেই নির্ভরযোগ্য পারফরম্যান্স প্রদান করে.”

নীতি-সংক্রান্ত সিদ্ধান্ত প্রায়ই সূক্ষ্ম পার্থক্যের উপর নির্ভর করে. ধরা যাক এমন একটি মার্কেটপ্লেস, যেখানে বিক্রেতাদের ওয়েলনেস পণ্যের জন্য একটি দাবিত্যাগমূলক বিবৃতি অন্তর্ভুক্ত করতে হয় এবং এর প্রয়োজনীয়তাগুলি পণ্যের দাবিসমূহ ও আঞ্চলিক নিয়মাবলির ভিত্তিতে ভিন্ন হয়. লেগ্যাসি প্রোভাইডাররা কীওয়ার্ড ট্রিগার বা কঠোর রুলসেট ব্যবহার করে, যা এই সিদ্ধান্তগুলোর জন্য প্রয়োজন হতে পারে এমন আরও গভীর বিচার-বিবেচনা ধরতে ব্যর্থ হতে পারে, ফলে প্রয়োগ বাদ পড়া বা ভুল প্রয়োগ হতে পারে.

SafetyKit-এর পলিসি ডিসক্লোজার এজেন্ট প্রথমে SafetyKit-এর অভ্যন্তরীণ লাইব্রেরি থেকে নীতিগুলো রেফারেন্স করে. এরপর GPT‑5 কনটেন্টটি মূল্যায়ন করে: এতে কি চিকিৎসা বা প্রতিরোধের উল্লেখ আছে? এটি কি এমন কোনো অঞ্চলে বিক্রি হচ্ছে যেখানে তথ্য প্রকাশ বাধ্যতামূলক? আর যদি তাই হয়, প্রয়োজনীয় ভাষাটি কি তালিকায় অন্তর্ভুক্ত আছে? যদি কোনো কিছু প্রত্যাশা পূরণে ব্যর্থ হয়, GPT‑5 একটি স্ট্রাকচার্ড আউটপুটস ফেরত দেয় যা এজেন্ট সমস্যাটি চিহ্নিত করতে ব্যবহার করে.

“GPT‑5-এর শক্তি নিহিত বাস্তব নীতিমালার ভিত্তিতে এটি কতটা নির্ভুল যুক্তি করতে পারে তার মধ্যে,” উল্লেখ করেন গ্রাউনকি. “এটি আমাদের এমন এজ কেসেও নির্ভুল এবং যুক্তিসঙ্গত সিদ্ধান্ত নিতে সক্ষম করে যেখানে অন্যান্য সিস্টেম ব্যর্থ হয়.”

SafetyKit প্রতিটি নতুন OpenAI মডেলকে তার সবচেয়ে কঠিন কেসে বেঞ্চমার্ক করে এবং প্রায়ই একই দিন সেরা ফল করা মডেলগুলো ডিপ্লয় করে. কঠোর অভ্যন্তরীণ মূল্যায়ন টিমকে দ্রুত চিহ্নিত করতে সাহায্য করে—নতুন মডেল কিভাবে পারফরম্যান্স উন্নত করতে পারে এবং তাদের মূল অবকাঠামোর সঙ্গে বাধাহীনভাবে একীভূত হতে পারে.

OpenAI o3 চালু হওয়ার পর, SafetyKit মূল নীতিমালা ক্ষেত্রগুলোতে প্রান্তিক ক্ষেত্রে পারফরম্যান্স বাড়ানোর জন্য এটি ব্যবহার করে. এরপর GPT‑5 আসে এবং কয়েক দিনের মধ্যেই এটি তাদের সবচেয়ে চাহিদাপূর্ণ এজেন্টগুলোর মধ্যে মোতায়েন করা হয়, যা তাদের সবচেয়ে কঠিন ভিশন টাস্কগুলোতে বেঞ্চমার্ক স্কোর 10 পয়েন্টেরও বেশি উন্নত করে.

SafetyKit ইকোসিস্টেমে উন্নয়ন ফিরিয়ে দেয়, মূল্যায়নের ফলাফল, এজ কেস ব্যর্থতা এবং নীতি-নির্দিষ্ট অন্তর্দৃষ্টি সরাসরি OpenAI-এর সঙ্গে শেয়ার করে, যাতে নিরাপত্তা-সংকটপূর্ণ ওয়ার্কলোডের জন্য ভবিষ্যতের মডেলের কর্মক্ষমতা উন্নত করা যায়.

SafetyKit-এর আর্কিটেকচার বৃহৎ পরিসরে পলিসি এনফোর্সমেন্ট নিশ্চিত করে, গতি, নির্ভুলতা এবং ব্যাপক ঝুঁকি কভারেজ প্রদান করে. নেপথ্যে, এটি এখন প্রতিদিন 16 বিলিয়নেরও বেশি টোকেন পরিচালনা করছে, যা ছয় মাস আগে 200 মিলিয়ন থেকে বেড়েছে এবং নির্ভুলতা বজায় রেখেই আরও বেশি কনটেন্ট বিশ্লেষণ করছে.

এই একই সময়ে, SafetyKit পেমেন্ট ঝুঁকি, জালিয়াতি, শিশু শোষণ প্রতিরোধ, মানি লন্ডারিং প্রতিরোধ এবং এমন নতুন গ্রাহকদের কাছে সম্প্রসারিত হয়েছে, যাদের শত কোটি শেষ ব্যবহারকারী SafetyKit-এর সুরক্ষার আওতায় রয়েছে. এই ভিত্তি গ্রাহকদের উদীয়মান ঝুঁকির প্রতি দ্রুত ও আত্মবিশ্বাসের সঙ্গে সাড়া দিতে সক্ষম করে.

“আমরা এমন একটি চক্র তৈরি করেছি যেখানে OpenAI-এর প্রতিটি প্রকাশ সরাসরি আমাদের সক্ষমতাকে শক্তিশালী করে,” গ্রাউনকি বলেন. “এই কারণেই সিস্টেমটি ক্রমাগত উন্নত হয় এবং সবসময় পরিবর্তিত ঝুঁকির থেকে এগিয়ে থাকে.”

• গ্রাহকের 100% কনটেন্ট পর্যালোচনা করে 95%+ নির্ভুলতা নিশ্চিত করা
• প্রতিদিন 16 বিলিয়ন টোকেন প্রসেস করা হচ্ছে, যা ছয় মাসে 200 মিলিয়ন থেকে বৃদ্ধি পেয়েছে
• সবচেয়ে কঠিন ভিশন-সম্পর্কিত কাজগুলোতে বেঞ্চমার্কে 10+ পয়েন্ট উন্নতি