প্রম্পট ইনজেকশন বোঝা: একটি অত্যাধুনিক নিরাপত্তা চ্যালেঞ্জ

AI টুলগুলি এখন কেবল প্রশ্নের উত্তর দেওয়ার চেয়ে বেশি কিছু করছে. তারা এখন ওয়েব ব্রাউজ করতে পারে, গবেষণায় সহায়তা করতে পারে, ভ্রমণের পরিকল্পনা করতে পারে এবং পণ্য কেনায় সহায়তা করতে পারে. তারা যত বেশি সক্ষম হয়ে ওঠে এবং অন্যান্য অ্যাপে আপনার ডেটা অ্যাক্সেস করার ও আপনার পক্ষ থেকে পদক্ষেপ নেওয়ার ক্ষমতা অর্জন করে, নতুন নিরাপত্তা চ্যালেঞ্জ উদ্ভূত হয়. আমরা যেটিতে বিশেষভাবে মনোযোগ দিচ্ছি তা হলো প্রম্পট ইনজেকশন.

প্রম্পট ইনজেকশন কথোপকথনমূলক AI-এর জন্য নির্দিষ্ট একটি সামাজিক প্রকৌশল আক্রমণের ধরন. প্রাথমিক পর্যায়ের AI সিস্টেমগুলো ছিল একজন একক ব্যবহারকারী এবং একটি একক AI এজেন্টের মধ্যকার কথোপকথন. আজকের AI পণ্যগুলিতে, আপনার কথোপকথনে ইন্টারনেট সহ বিভিন্ন উৎসের বিষয়বস্তু অন্তর্ভুক্ত থাকতে পারে. একটি তৃতীয় পক্ষ (যা ব্যবহারকারী বা AI নয়) কথোপকথনের প্রেক্ষাপটে ক্ষতিকারক নির্দেশনা প্রবেশ করিয়ে মডেলকে বিভ্রান্ত করতে পারে—এই ধারণা থেকেই “প্রম্পট ইনজেকশন” শব্দটির উৎপত্তি.

ওয়েবে ফিশিং ইমেল বা স্ক্যামগুলো যেভাবে মানুষকে প্রতারিত করে তাদের সংবেদনশীল তথ্য হাতিয়ে নেওয়ার চেষ্টা করে, ঠিক একইভাবে 'প্রম্পট ইনজেকশন' AI-কে প্রতারিত করার চেষ্টা করে এমন কিছু করানোর জন্য যা আপনি তাকে করতে বলেননি.

ধরুন আপনি অনলাইনে ছুটির জন্য কিছু গবেষণায় সাহায্য করতে একটি AI-কে বলেছেন, এবং এটি সেই কাজ করার সময় কোনো ওয়েবপেজে লুকানো বিভ্রান্তিকর কনটেন্ট বা ক্ষতিকারক নির্দেশনার মুখোমুখি হয়, যেমন কোনো তালিকার মন্তব্যে বা কোনো পর্যালোচনায়. কনটেন্টটি সতর্কতার সাথে তৈরি করা হতে পারে, যাতে AI-কে ভুল লিস্টিং সুপারিশ করতে প্রতারিত করা যায় অথবা আরও খারাপ, আপনার ক্রেডিট কার্ডের তথ্য চুরি করা হতে পারে.

এগুলো “প্রম্পট ইনজেকশন” আক্রমণের কিছু উদাহরণ—ক্ষতিকর নির্দেশনা যা AI-কে এমন কিছু করতে প্রলুব্ধ করার জন্য তৈরি করা হয় যা আপনি চাননি এবং প্রায়ই ওয়েব পেজ, ডকুমেন্ট বা ইমেলের মতো সাধারণ কন্টেন্টের মধ্যে লুকানো থাকে.

এই ঝুঁকিগুলি বৃদ্ধি পায় যখন AI-গুলির কাছে আরও সংবেদনশীল ডেটার অ্যাক্সেস থাকে এবং তারা আরও বেশি উদ্যোগ ও দীর্ঘতর কাজ গ্রহণ করে.

প্রম্পট ইনজেকশনের বিরুদ্ধে প্রতিরক্ষা করা AI শিল্পের জন্য একটি চ্যালেঞ্জ এবং OpenAI-এ একটি প্রধান লক্ষ্য. যদিও আমরা আশা করি প্রতিপক্ষরা এ ধরনের আক্রমণ চালিয়ে যাবে, আমরা এমন প্রতিরক্ষা তৈরি করছি যা ব্যবহারকারীর উদ্দেশ্যকৃত কাজটি সম্পাদন করতে সক্ষম হবে, এমনকি কেউ সক্রিয়ভাবে তাদের বিভ্রান্ত করার চেষ্টা করলেও. AGI-এর সুবিধাগুলি নিরাপদে উপলব্ধি করতে সেই সক্ষমতাটি অপরিহার্য.

আমাদের ব্যবহারকারীদের সুরক্ষিত রাখতে এবং এই আক্রমণগুলোর বিরুদ্ধে আমাদের মডেলগুলোর উন্নতি করতে, আমরা নিম্নলিখিত বিষয়গুলোসহ একটি বহু-স্তরীয় পদ্ধতি গ্রহণ করি:

আমরা এমন AI চাই যা প্রম্পট ইনজেকশন শনাক্ত করতে পারে এবং সেগুলোর ফাঁদে পা না দেয়. তবে, বৈরী আক্রমণের বিরুদ্ধে দৃঢ়তা মেশিন লার্নিং এবং AI-এর জন্য দীর্ঘদিনের একটি চ্যালেঞ্জ, যা এটিকে একটি কঠিন, উন্মুক্ত সমস্যা হিসেবে উপস্থাপন করে. আমরা বিশ্বস্ত এবং অবিশ্বস্ত নির্দেশনার মধ্যে পার্থক্য করতে পারে এমন মডেলের দিকে কাজ করার জন্য Instruction Hierarchy⁠ নামে গবেষণা তৈরি করেছি. আমরা মডেলগুলিকে প্রম্পট ইনজেকশন প্যাটার্ন আরও ভালোভাবে শনাক্ত করতে প্রশিক্ষণ দেওয়ার জন্য নতুন পদ্ধতি বিকাশ অব্যাহত রাখছি, যাতে তারা সেগুলি উপেক্ষা করতে পারে বা ব্যবহারকারীদের কাছে সতর্কতা হিসেবে চিহ্নিত করতে পারে. আমরা যে কৌশলগুলির একটি প্রয়োগ করি তা হলো স্বয়ংক্রিয় রেড-টিমিং, এমন একটি ক্ষেত্র যা আমরা বছরের পর বছর ধরে গবেষণা⁠(একটি নতুন উইন্ডোতে খোলে) করে আসছি, নতুন প্রম্পট ইনজেকশন আক্রমণ বিকাশের জন্য.

আমরা প্রম্পট ইনজেকশন আক্রমণ শনাক্ত ও প্রতিরোধ করার জন্য একাধিক স্বয়ংক্রিয় AI-চালিত মনিটর⁠ তৈরি করেছি. এগুলো নিরাপত্তা প্রশিক্ষণ পদ্ধতির পরিপূরক, কারণ এগুলো দ্রুত আপডেট করা যায় যাতে আমরা যে কোনো নতুন আক্রমণ শনাক্ত করলে তা দ্রুত প্রতিরোধ করা যায়. এই মনিটরগুলো কেবল আমাদের ব্যবহারকারীদের বিরুদ্ধে সম্ভাব্য প্রম্পট ইনজেকশন আক্রমণ শনাক্ত করতে সাহায্য করে না, বরং আমাদের প্ল্যাটফর্ম ব্যবহার করে পরিচালিত বৈরী প্রম্পট ইনজেকশন গবেষণা ও পরীক্ষাও শনাক্ত করতে পারে, সেই আক্রমণগুলো বাস্তব পরিবেশে ছড়িয়ে পড়ার আগেই.

ব্যবহারকারীর ডেটা সুরক্ষিত রাখতে সহায়তা করার জন্য আমরা আমাদের প্রোডাক্ট এবং ইনফ্রাস্ট্রাকচারকে বিভিন্ন ওভারল্যাপিং সুরক্ষা ব্যবস্থার সাথে ডিজাইন করেছি. এই বৈশিষ্ট্যগুলি, যা আমরা ভবিষ্যতের পোস্টগুলিতে আরও প্রযুক্তিগত বিশদে অন্বেষণ করব, প্রতিটি পণ্যের জন্য বিশেষভাবে তৈরি করা হয়েছে. উদাহরণস্বরূপ, অবিশ্বস্ত সাইট এড়াতে আপনাকে সাহায্য করার জন্য, আমরা আপনাকে ChatGPT‑এ কিছু নির্দিষ্ট লিঙ্ক অনুমোদন করতে বলব, বিশেষ করে যেসব ওয়েবসাইট আমাদের সেগুলো ক্যাটালগ না করতে বলে⁠(একটি নতুন উইন্ডোতে খোলে), সেগুলো ভিজিট করার আগে. যখন আমাদের AI টুল ব্যবহার করে অন্যান্য প্রোগ্রাম বা কোড চালায় (যেমন Canvas-এ, বা আমাদের ডেভেলপমেন্ট টুল Codex-এ), তখন আমরা প্রম্পট ইনজেকশন থেকে সৃষ্ট ক্ষতিকর পরিবর্তন মডেল যাতে করতে না পারে, সে জন্য স্যান্ডবক্সিং নামে একটি কৌশল ব্যবহার করি.

ব্যবহারকারীদের নিজেদের সুরক্ষিত রাখতে সহায়তা করার জন্য আমরা আমাদের পণ্যগুলিতে বিল্ট-ইন নিয়ন্ত্রণ অন্তর্ভুক্ত করি. উদাহরণস্বরূপ, ChatGPT Atlas-এ আপনি লগড-আউট মোড নির্বাচন করতে পারেন, যা ChatGPT এজেন্টকে সাইটগুলোতে লগ ইন না করেই কাজ শুরু করতে দেয়. ChatGPT এজেন্ট সংবেদনশীল পদক্ষেপ, যেমন একটি ক্রয় সম্পন্ন করা, নেওয়ার আগে বিরতি দেয় এবং নিশ্চিতকরণের জন্য অনুরোধ করে. যখন এজেন্ট সংবেদনশীল সাইটে কাজ করে, আমরা একটি “Watch Mode” বাস্তবায়ন করেছি যা আপনাকে সাইটের সংবেদনশীল প্রকৃতি সম্পর্কে সতর্ক করে এবং এজেন্টের কাজ পর্যবেক্ষণ করতে আপনার ট্যাব সক্রিয় রাখার প্রয়োজন হয়. আপনি সংবেদনশীল তথ্যের ট্যাব থেকে সরে গেলে এজেন্ট থেমে যাবে. এটি নিশ্চিত করে যে আপনি এজেন্টের কার্যকলাপ সম্পর্কে সচেতন থাকবেন এবং নিয়ন্ত্রণে থাকবেন.

আমরা আমাদের প্রতিরক্ষা পরীক্ষা ও উন্নত করতে, আক্রমণকারীর আচরণ অনুকরণ করতে এবং আমাদের নিরাপত্তা উন্নত করার নতুন উপায় খুঁজে পেতে অভ্যন্তরীণ ও বাহ্যিক দলগুলোর সঙ্গে ব্যাপক রেড-টিমিং পরিচালনা করি. এতে প্রম্পট ইনজেকশনের উপর বিশেষভাবে ফোকাস করা হাজার হাজার ঘণ্টা অন্তর্ভুক্ত. আমরা নতুন কৌশল এবং আক্রমণ আবিষ্কার করার সাথে সাথে, আমাদের দলগুলো সক্রিয়ভাবে নিরাপত্তা দুর্বলতাগুলো সমাধান করে এবং আমাদের মডেলের প্রশমন উন্নত করে.

সৎ উদ্দেশ্যসম্পন্ন স্বাধীন নিরাপত্তা গবেষকদের আমাদেরকে নতুন প্রম্পট ইনজেকশন কৌশল ও আক্রমণ আবিষ্কারে সহায়তা করতে উৎসাহিত করতে, আমরা আমাদের বাগ বাউন্টি প্রোগ্রাম⁠(একটি নতুন উইন্ডোতে খোলে) এর অধীনে আর্থিক পুরস্কার প্রদান করি, যখন তারা এমন একটি বাস্তবসম্মত আক্রমণ পথ প্রদর্শন করে যা অনিচ্ছাকৃতভাবে ব্যবহারকারীর ডেটা প্রকাশের কারণ হতে পারে. আমরা বাহ্যিক অবদানকারীদের দ্রুত এই সমস্যাগুলি চিহ্নিত করতে উৎসাহিত করি, যাতে আমরা সেগুলি সমাধান করতে পারি এবং আমাদের প্রতিরক্ষা আরও শক্তিশালী করতে পারি.

আমরা পণ্যের নির্দিষ্ট ফিচার ব্যবহারের ঝুঁকি সম্পর্কে ব্যবহারকারীদের সচেতন করি, যাতে তারা জ্ঞাত সিদ্ধান্ত নিতে পারেন. উদাহরণস্বরূপ, যখন ChatGPT‑কে অন্যান্য অ্যাপের সাথে সংযুক্ত করা হয়, আমরা ব্যাখ্যা করি কোন ডেটা অ্যাক্সেস করা যেতে পারে, কিভাবে এটি ব্যবহার করা যেতে পারে এবং কী ধরনের ঝুঁকি দেখা দিতে পারে যেমন কোনো সাইট আপনার ডেটা চুরি করার চেষ্টা করতে পারে এবং নিরাপদে থাকার উপায় সম্পর্কে জানতে একটি লিঙ্ক প্রদান করি. আমরা সংস্থাগুলোকেও নিয়ন্ত্রণ দিই যে তাদের ওয়ার্কস্পেসগুলোতে ব্যবহারকারীরা কোন বৈশিষ্ট্যগুলি সক্রিয় বা ব্যবহার করতে পারবে.

প্রম্পট ইনজেকশন একটি অত্যাধুনিক নিরাপত্তা চ্যালেঞ্জ, যা আমরা আশা করি সময়ের সাথে সাথে বিকশিত হতে থাকবে. নতুন বুদ্ধিমত্তা ও সক্ষমতার স্তর অর্জনের জন্য প্রযুক্তি, সমাজ এবং ঝুঁকি প্রশমন কৌশলকে একসাথে বিকশিত হতে হবে. এবং 2000-এর দশকের শুরুর দিকের কম্পিউটার ভাইরাসগুলোর মতোই, আমরা মনে করি সবার জন্য প্রম্পট ইনজেকশনের হুমকি এবং ঝুঁকি কিভাবে সামলাতে হয় তা বোঝা গুরুত্বপূর্ণ, যাতে আমরা সবাই এই প্রযুক্তি থেকে নিরাপদে উপকৃত হতে শিখতে পারি. সতর্ক থাকা এবং সাবধানতা অবলম্বন করা আপনার ডেটা আরও সুরক্ষিত রাখতে সাহায্য করে যখন আপনি AI এবং আপনার হয়ে কাজ করতে সক্ষম এজেন্টিক বৈশিষ্ট্যগুলি ব্যবহার করেন.

যেখানে সম্ভব, একটি এজেন্টের অ্যাক্সেস শুধুমাত্র সেই সংবেদনশীল তথ্য বা প্রমাণপত্রে সীমাবদ্ধ রাখুন যা কাজটি সম্পন্ন করতে প্রয়োজন. উদাহরণস্বরূপ, ChatGPT Atlas-এ ছুটির গবেষণার জন্য এজেন্ট মোড ব্যবহার করার সময়, যদি এজেন্ট শুধুমাত্র গবেষণা করে এবং লগ ইন করা প্রয়োজন না হয়, তাহলে “লগ আউট” মোড ব্যবহার করুন.

আমরা প্রায়ই এজেন্টদের এমনভাবে ডিজাইন করি যাতে তারা কোনো ক্রয় সম্পন্ন করা বা ইমেল পাঠানোর মতো গুরুত্বপূর্ণ পদক্ষেপ নেওয়ার আগে আপনার কাছ থেকে চূড়ান্ত নিশ্চিতকরণ চায়. যখন কোনো এজেন্ট আপনাকে কোনো পদক্ষেপ নিশ্চিত করতে বলে, তখন সতর্কতার সাথে যাচাই করুন যে পদক্ষেপটি সঠিক দেখাচ্ছে এবং যে কোনো তথ্য শেয়ার করা হচ্ছে তা সেই প্রসঙ্গে শেয়ার করার জন্য উপযুক্ত কিনা.

যখন কোনো এজেন্ট আপনার ব্যাংকের মতো সংবেদনশীল সাইটে কাজ করছে, তখন তার কাজ পর্যবেক্ষণ করুন. এটা স্বয়ংচালিত গাড়ি মনিটর করার সময় স্টিয়ারিংয়ে হাত রাখার মতো.

এজেন্টকে "আমার ইমেলগুলো পর্যালোচনা করুন এবং যা যা প্রয়োজন তা করুন" এর মতো খুব বিস্তৃত নির্দেশনা দেওয়া হলে, লুকানো ক্ষতিকারক কনটেন্টের পক্ষে মডেলকে বিভ্রান্ত করা সহজ হতে পারে, যদিও এটি সংবেদনশীল পদক্ষেপ নেওয়ার আগে আপনার সঙ্গে যাচাই করার জন্য ডিজাইন করা হয়েছে.

আপনার এজেন্টকে নির্দিষ্ট কাজ করতে বলা নিরাপদ এবং ইমেইলের মতো অন্য উৎস থেকে সম্ভাব্য ক্ষতিকারক নির্দেশনা অনুসরণ করার জন্য এটিকে বিস্তৃত স্বাধীনতা না দেওয়াই ভালো. যদিও এটি নিশ্চিত করে না যে আক্রমণ হবে না, এটি আক্রমণকারীদের সফল হওয়া আরও কঠিন করে তোলে.

AI প্রযুক্তি বিকশিত হওয়ার সাথে সাথে নতুন ঝুঁকি এবং সুরক্ষাব্যবস্থা আবির্ভূত হবে. সেরা অনুশীলন সম্পর্কে জানার জন্য OpenAI এবং অন্যান্য বিশ্বস্ত উৎস থেকে আপডেটগুলি অনুসরণ করুন.

প্রম্পট ইনজেকশন একটি অত্যাধুনিক এবং চ্যালেঞ্জিং গবেষণা সমস্যা হিসেবে রয়ে গেছে, এবং ওয়েবে প্রচলিত প্রতারণার মতোই, আমরা আশা করি আমাদের কাজ অব্যাহত থাকবে. যদিও আমরা এখনও আক্রমণকারীদের দ্বারা এই কৌশলটির উল্লেখযোগ্য গ্রহণযোগ্যতা দেখিনি, আমরা আশা করি প্রতিপক্ষরা AIগুলোকে এই আক্রমণগুলোর ফাঁদে ফেলানোর উপায় খুঁজে বের করতে উল্লেখযোগ্য সময় এবং সম্পদ ব্যয় করবে. আমরা আমাদের পণ্যগুলিকে নিরাপদ করতে এবং এই ঝুঁকির বিরুদ্ধে AI-এর দৃঢ়তা বাড়াতে গবেষণায় ব্যাপকভাবে বিনিয়োগ অব্যাহত রাখছি. আমরা আরও জানার সাথে সাথে আপডেট শেয়ার করব, যার মধ্যে এই ক্ষেত্রে আমাদের নিরাপত্তা কাজের চলমান অগ্রগতিও থাকবে. উদাহরণস্বরূপ, আমরা একটি প্রতিবেদন তৈরি করছি যা আমরা শীঘ্রই প্রকাশ করব, যেখানে আমরা আরও বিস্তারিতভাবে জানাব কিভাবে আমরা সনাক্ত করি যে ইন্টারনেটের সাথে আপনার AI-এর যোগাযোগ আপনার কথোপকথন থেকে তথ্য প্রেরণ করছে কি না.

আমাদের লক্ষ্য হলো এই সিস্টেমগুলোকে এমনভাবে নির্ভরযোগ্য ও নিরাপদ করা যেন আপনি আপনার সবচেয়ে বিশ্বস্ত এবং নিরাপত্তা সচেতন সহকর্মী বা বন্ধুর সাথে কাজ করছেন. আমরা বাস্তব-জগতের ব্যবহার থেকে শেখা অব্যাহত রাখব, নিরাপদভাবে পুনরাবৃত্তি করব, এবং প্রযুক্তি অগ্রসর হলে আমরা যা শিখি তা প্রকাশ করব.