আজ, OpenAI আমাদের পণ্যজুড়ে AI-এর অপব্যবহার এবং নিরাপত্তা ঝুঁকি শনাক্ত করার ওপর কেন্দ্রীভূত একটি পাবলিক সেফটি বাগ বাউন্টি(একটি নতুন উইন্ডোতে খোলে) প্রোগ্রাম চালু করছে. AI প্রযুক্তি দ্রুত বিকশিত হওয়ার সাথে সাথে এর অপব্যবহারের সম্ভাব্য উপায়গুলিও তেমনি বাড়ছে. আমাদের লক্ষ্য হলো নিশ্চিত করা যে আমাদের সিস্টেমগুলো অপব্যবহার বা দুর্ব্যবহার থেকে নিরাপদ ও সুরক্ষিত থাকে, যা বাস্তব ক্ষতির দিকে নিয়ে যেতে পারে.
এই নতুন প্রোগ্রামটি OpenAI-এর Security Bug Bounty(একটি নতুন উইন্ডোতে খোলে)-এর পরিপূরক হিসেবে কাজ করবে; এখানে এমন সব সমস্যা গ্রহণ করা হবে যা উল্লেখযোগ্য অপব্যবহার এবং নিরাপত্তা ঝুঁকি তৈরি করে, এমনকি যদি সেগুলো প্রথাগত নিরাপত্তা ত্রুটির মানদণ্ডে নাও পড়ে. এই প্রোগ্রামের মাধ্যমে, আমরা সুরক্ষা ও নিরাপত্তা গবেষকদের সঙ্গে অংশীদারিত্ব চালিয়ে যেতে চাই, যাতে তারা আমাদের এমন সমস্যাগুলো চিহ্নিত ও সমাধান করতে সাহায্য করতে পারেন, যেগুলো প্রচলিত নিরাপত্তা দুর্বলতার বাইরে হলেও প্রকৃত ঝুঁকি সৃষ্টি করে. জমা দেওয়া প্রতিবেদনগুলো OpenAI-এর Safety এবং Security Bug Bounty টিম দ্বারা প্রাথমিকভাবে পর্যালোচনা করা হবে এবং পরিধি ও মালিকানার ভিত্তিতে দুটি প্রোগ্রামের মধ্যে পুনর্নির্দেশিত হতে পারে.
নতুন Safety Bug Bounty(একটি নতুন উইন্ডোতে খোলে) প্রোগ্রামটি নিচে তালিকাভুক্ত AI-নির্দিষ্ট নিরাপত্তা পরিস্থিতিগুলোর উপর গুরুত্ব দেয়:
MCP-সহ এজেন্টিক ঝুঁকি
- তৃতীয় পক্ষের প্রম্পট ইনজেকশন এবং ডেটা এক্সফিলট্রেশন: যখন আক্রমণকারীর টেক্সট নির্ভরযোগ্যভাবে কোনো ভুক্তভোগীর এজেন্টের (ব্রাউজার, ChatGPT এজেন্ট এবং অনুরূপ এজেন্টিক পণ্যসহ) নিয়ন্ত্রণ দখল করতে সক্ষম হয়, যাতে সেটিকে ক্ষতিকর কোনো কাজ করতে বা ব্যবহারকারীর সংবেদনশীল তথ্য ফাঁস করতে প্রতারিত করা যায়. আচরণটি অন্তত 50% সময় পুনরায় তৈরি করা সম্ভব হতে হবে.
- একটি এজেন্টিক OpenAI পণ্য OpenAI-এর ওয়েবসাইটে বড় পরিসরে একটি নিষিদ্ধ কাজ সম্পাদন করে.
- একটি স্বায়ত্তশাসিত OpenAI পণ্য উপরে তালিকাভুক্ত নয় এমন কোনো সম্ভাব্য ক্ষতিকর পদক্ষেপ সম্পাদন করে. এখানে বৈধ রিপোর্টে যুক্তিসঙ্গত এবং বাস্তব ক্ষতির উল্লেখ থাকতে হবে.
- MCP ঝুঁকির জন্য যেকোনো পরীক্ষা তৃতীয় পক্ষের পরিষেবার শর্তাবলী মেনে চলতে হবে.
OpenAI মালিকানাধীন তথ্য
- রিজনিং-সম্পর্কিত প্রোপ্রায়েটারি তথ্য ফেরত দেয় এমন মডেল জেনারেশন.
- OpenAI-এর অন্যান্য মালিকানাধীন তথ্য প্রকাশ করে এমন দুর্বলতাসমূহ.
অ্যাকাউন্ট ও প্ল্যাটফর্মের অখণ্ডতা
- অ্যাকাউন্টের অখণ্ডতা এবং প্ল্যাটফর্মের অখণ্ডতার সংকেত সংক্রান্ত দুর্বলতাসমূহ, যেমন অ্যান্টি-অটোমেশন নিয়ন্ত্রণ এড়িয়ে যাওয়া, অ্যাকাউন্টের বিশ্বাসযোগ্যতার সংকেত বিকৃত করা, অ্যাকাউন্টের বিধিনিষেধ/সাসপেনশন/ব্যান এড়িয়ে যাওয়া এবং এ ধরনের অনুরূপ সমস্যা.
- যেসব সমস্যা ব্যবহারকারীদের অনুমোদিত অনুমতির বাইরে ফিচার, ডেটা বা কার্যকারিতায় প্রবেশাধিকার দেয়, সেগুলো Security Bug Bounty(একটি নতুন উইন্ডোতে খোলে)-এ রিপোর্ট করা উচিত.
যদিও 'জেলব্রেক' এই প্রোগ্রামের আওতার বাইরে, আমরা নির্দিষ্ট ক্ষতির ধরন যেমন ChatGPT Agent এবং GPT‑5-এ বায়োরিস্ক বিষয়ক কনটেন্ট সমস্যা নিয়ে ব্যক্তিগত বাগ বাউন্টি ক্যাম্পেইন পরিচালনা করি. যখন এই প্রোগ্রামগুলো চালু হবে, তখন আমরা আগ্রহী গবেষকদের এতে আবেদন করতে আমন্ত্রণ জানাই.
উপরে তালিকাভুক্ত বিভাগগুলোর বাইরে, যদি গবেষকরা এমন ত্রুটি শনাক্ত করেন যা সরাসরি ব্যবহারকারীর ক্ষতির পথ তৈরি করে এবং যার জন্য বাস্তবায়নযোগ্য, সুনির্দিষ্ট প্রতিকারমূলক পদক্ষেপ রয়েছে, তবে সেগুলো ক্ষেত্রভিত্তিকভাবে পুরস্কারের আওতাভুক্ত হিসেবে বিবেচিত হতে পারে. নিরাপত্তা বা অপব্যবহারের উপর প্রমাণযোগ্য প্রভাব ছাড়া সাধারণ কনটেন্ট-নীতি বাইপাস এই প্রোগ্রামের আওতার বাইরে. উদাহরণ হিসেবে, এমন “জেইলব্রেক” যা মডেলকে অশালীন ভাষা ব্যবহার করতে বাধ্য করে বা সার্চ ইঞ্জিনের মাধ্যমে সহজেই পাওয়া যায় এমন তথ্য ফিরিয়ে দেয়, সেগুলো স্কোপের বাইরে.
অংশগ্রহণে আগ্রহী গবেষকরা আমাদের Safety Bug Bounty(একটি নতুন উইন্ডোতে খোলে) প্রোগ্রামের মাধ্যমে আবেদন করতে পারেন. একটি নিরাপদ AI ইকোসিস্টেম গড়ে তোলার লক্ষ্যে আমরা গবেষক, এথিক্যাল হ্যাকার এবং সেফটি ও সিকিউরিটি কমিউনিটির সাথে একত্রে কাজ করার প্রত্যাশা করছি.
