বিষয়বস্তুর উৎস-ইতিহাস মানুষকে বুঝতে সাহায্য করে কোনো বিষয়বস্তু কোথা থেকে এসেছে, কীভাবে তা তৈরি বা সম্পাদনা করা হয়েছে এবং তাতে আমাদের মডেলের সঙ্গে সম্পর্কিত কোনো সংকেত আছে কি না. আমাদের মডেলের তৈরি ছবি ও অডিও শনাক্ত করার সরঞ্জাম আমরা ইতোমধ্যে সবার জন্য উন্মুক্ত করেছি. ইইউর কৃত্রিম বুদ্ধিমত্তা আইন মেনে লেখায় জলছাপ যোগ করার ক্ষেত্রে আমরা কী পদ্ধতি নিচ্ছি এবং তা আমাদের বৃহত্তর কাজের সঙ্গে কীভাবে যুক্ত, আজ আমরা তা জানাচ্ছি.
ইইউর কৃত্রিম বুদ্ধিমত্তা আইন অনুযায়ী, সৃজনশীল কৃত্রিম বুদ্ধিমত্তা সেবাদাতাদের তৈরি লেখা এমনভাবে চিহ্নিত করতে হবে, যাতে যন্ত্র তা পড়ে শনাক্ত করতে পারে. লেখায় জলছাপ যোগ করা ও তা শনাক্ত করার প্রযুক্তি এখনো প্রাথমিক পর্যায়ে আছে এবং এর উল্লেখযোগ্য সীমাবদ্ধতা রয়েছে. এর সুফল ও দায়িত্বশীল ব্যবহার নিয়ে দৃষ্টিভঙ্গিও এখনো গড়ে উঠছে. আমাদের ধাপে ধাপে এগোনোর পদ্ধতিতে ইইউর কৃত্রিম বুদ্ধিমত্তা আইনের শর্ত ও প্রযুক্তির সীমাবদ্ধতা—দুটিই বিবেচনা করা হয়েছে. লেখার জলছাপ মানুষকে কী জানাতে পারে আর কী পারে না, তা স্পষ্ট করে জানানোয় আমরা গুরুত্ব দিচ্ছি:
আজ থেকে বিশ্বজুড়ে এপিআই গ্রাহকেরা নির্দিষ্ট কিছু মডেলের লেখায় জলছাপ যোগ করার সুবিধা নিজে বেছে চালু করতে পারবেন. এপিআইতে লেখায় জলছাপ যোগ করার সুবিধা পূর্বনির্ধারিতভাবে বন্ধই থাকবে.
আগামী কয়েক সপ্তাহে আমরা ইউরোপীয় ইউনিয়নে ChatGPT ও Codex-এর প্রযোজ্য লিখিত আউটপুটে অদৃশ্য জলছাপ যোগ করব.
আমাদের লেখার জলছাপ শনাক্তকারী ব্যবহারের জন্য আবেদন গ্রহণ শুরু করছি. প্রথমে শুধু অনুমোদিত গবেষক ও বিশেষজ্ঞ প্রতিষ্ঠানকে এটি ব্যবহারের সুযোগ দেওয়া হবে, যারা প্রযুক্তিটি মূল্যায়ন ও উন্নত করতে আমাদের সাহায্য করতে পারবেন.
ওপরের বিষয়গুলো শুধু লেখার উৎস-ইতিহাসের ক্ষেত্রে প্রযোজ্য. কোনো ছবি বা অডিও ফাইল আমাদের কোনো ব্যবস্থার মাধ্যমে তৈরি হয়েছে কি না, তা জানতে চায় এমন প্রতিষ্ঠানগুলোর জন্য আমাদের অডিও ও ছবি যাচাইয়ের সরঞ্জাম উন্মুক্ত থাকবে. এর মধ্যে রয়েছে openai.com/verify ওয়েব সরঞ্জাম ও বিষয়বস্তুর উৎস-ইতিহাস এপিআই(একটি নতুন উইন্ডোতে খোলে).
লেখায় জলছাপ যোগ করার আমাদের প্রযুক্তি textGrain মডেলের শব্দ বাছাইয়ে একটি অদৃশ্য পরিসংখ্যানগত সংকেত যোগ করে. কোনো লেখার অংশে OpenAI-এর জলছাপ আছে কি না, তা মূল্যায়ন করতে আমাদের শনাক্তকারী ওই সংকেত খোঁজে. textGrain কীভাবে কাজ করে, সে সম্পর্কে বিস্তারিত জানতে আমাদের প্রযুক্তিগত প্রতিবেদন(একটি নতুন উইন্ডোতে খোলে) পড়তে পারেন. আগামী কয়েক সপ্তাহে এতে আরও তথ্য যোগ করা হবে. অন্যরা যাতে এই প্রযুক্তির ওপর ভিত্তি করে আরও কাজ করতে পারেন, সে জন্য এর উৎসকোড উন্মুক্ত করারও পরিকল্পনা রয়েছে.
আমাদের মূল্যায়নে, লেখার জন্য SynthID-সহ পরীক্ষিত অন্যান্য পদ্ধতির সমান বা তার চেয়ে ভালো ফল দিয়েছে textGrain. তবু আদর্শ পরিস্থিতিতে ভালো ফল পাওয়া মানেই দৈনন্দিন ব্যবহারে নির্ভরযোগ্য শনাক্তকরণের নিশ্চয়তা নয়.
শনাক্তকারী দুই ধরনের ভুল করতে পারে: জলছাপ না থাকা সত্ত্বেও আছে বলে জানাতে পারে—অর্থাৎ ভুল ইতিবাচক ফল, অথবা জলছাপ থাকা সত্ত্বেও তা শনাক্ত করতে ব্যর্থ হতে পারে—অর্থাৎ ভুল নেতিবাচক ফল. নিচের মূল্যায়নগুলোতে কিছু চ্যালেঞ্জ উঠে এসেছে:
ছোট বা শব্দ ব্যবহারে বেশি সীমাবদ্ধতা থাকা লেখায় জলছাপ শনাক্ত করা কঠিন. ভুল ইতিবাচক ফলের লক্ষ্যমাত্রা ১% রেখে, মনোবিজ্ঞানের মতো বিষয়ের লেখায় আমাদের শনাক্তকারী ২০০ টোকেনের অংশগুলোর প্রায় ৮০%-এ জলছাপ শনাক্ত করেছে. তুলনায়, ৪০০ টোকেনের অংশগুলোর ক্ষেত্রে এই হার ছিল প্রায় ৯৫%. গণিতের মতো বিষয়ে, যেখানে শব্দ বাছাইয়ের সুযোগ কম, সেখানে শনাক্তকরণের হার উল্লেখযোগ্যভাবে কম ছিল.
সম্পাদনা জলছাপকে দুর্বল করতে পারে. ৪০০ টোকেনের লেখার অংশ নিয়ে করা এক মূল্যায়নে ১০% শব্দ প্রতিশব্দ দিয়ে বদলে দেওয়ায় শনাক্তকরণের হার প্রায় ৯২% থেকে ৬৬%-এ নেমে আসে. ২৫% শব্দ বদলে দিলে এই হার ১৭%-এ নেমে আসে.
এসব সীমাবদ্ধতার কারণেও আমরা প্রাথমিকভাবে শুধু অনুমোদিত গবেষক ও বিশেষজ্ঞ প্রতিষ্ঠানকে শনাক্তকারী ব্যবহারের সুযোগ দেওয়ার সিদ্ধান্ত নিয়েছি. তাঁরা নির্ভরযোগ্যতা ও দায়িত্বশীল ব্যবহার মূল্যায়নে আমাদের সাহায্য করতে পারবেন.
এই লেখচিত্রে ELI5 উপাত্তসমষ্টির(একটি নতুন উইন্ডোতে খোলে) গণিত ও মনোবিজ্ঞানের প্রশ্নগুলোর জলছাপযুক্ত উত্তরের ফল দেখানো হয়েছে. ভুল ইতিবাচক ফলের লক্ষ্যমাত্রা ছিল ১%. লেখা যত দীর্ঘ হয়, শনাক্তকরণ তত ভালো হয়. তবে গণিতের মতো বিষয়ে, যেখানে শব্দ বাছাইয়ের সুযোগ কম, সেখানে সামগ্রিকভাবে শনাক্তকরণের হার উল্লেখযোগ্যভাবে কম.
সম্পাদনা জলছাপের সংকেতকে উল্লেখযোগ্যভাবে দুর্বল করতে পারে. লেখার কোনো অংশে ১০% বা ২৫% শব্দ বদলে দিলে শনাক্তকরণে কী প্রভাব পড়ে, এই লেখচিত্রে তা দেখানো হয়েছে. ফলগুলো ELI5(একটি নতুন উইন্ডোতে খোলে)-এর প্রশ্নগুলোর জলছাপযুক্ত ইংরেজি উত্তরের ভিত্তিতে পাওয়া.
আমাদের সর্বশেষ অত্যাধুনিক মডেল Astra মূল্যায়নের পরীক্ষাগুলোতে জলছাপ থাকলে ও না থাকলে কার্যক্ষমতায় তাৎপর্যপূর্ণ কোনো পার্থক্য দেখা যায়নি.
মানদণ্ডভিত্তিক পরীক্ষা | জলছাপহীন লেখা (Astra, Max) | জলছাপযুক্ত লেখা (Astra, Max) |
|---|---|---|
Artificial Analysis বুদ্ধিমত্তা সূচক | ৪৯.৫৭ পয়েন্ট | ৪৯.৭৬ পয়েন্ট |
AutomationBench | ৩৪.০৯% | ৩৪.৮৬% |
DeepSWE v1.1 | ৭২.৮০% | ৭১.৬৮% |
Terminal-Bench 4.0 | ৫৩.৯০% | ৫৬.০৬% |
Terminal-Bench Science 0.1 | ৫৬.৯০% | ৬০.০০% |
BrowseComp | ৮৭.৯২% | ৮৭.৩৫% |
HealthBench Professional | ৬৪.২৭% | ৬৪.৬০% |
GPQA Diamond | ৯৪.৪৪% | ৯৩.৯৪% |
কোনো লেখার অংশে আমাদের ব্যবস্থাগুলো কী ভূমিকা রেখেছে, সে সম্পর্কে জলছাপ সীমিত সংকেত দেয়. শনাক্তকরণের ফল থেকে কোন সিদ্ধান্তে পৌঁছানো যায় আর কোনটিতে যায় না, তা বোঝা জরুরি.
জলছাপ মানুষের অবদান পরিমাপ করে না. এটি ইঙ্গিত দিতে পারে যে লেখার কোনো অংশ OpenAI-এর একটি ব্যবস্থার মাধ্যমে তৈরি বা প্রক্রিয়াকরণ করা হয়েছে. তবে তাতে মানুষের বিচারবোধ, সম্পাদনা বা সৃজনশীলতার কতটা অবদান রয়েছে, তা জানায় না.
জলছাপ মালিকানা বা দায়দায়িত্ব প্রতিষ্ঠা করে না. লেখার মালিক কে, এর ব্যবহার আইনসম্মত ছিল কি না, এর উৎস প্রকাশ করা বাধ্যতামূলক ছিল কি না বা এর দায় কার—এসব জলছাপ নির্ধারণ করে না.
জলছাপ ব্যবহারকারীর পরিচয় জানায় না. এটি লেখার সঙ্গে কোনো ব্যক্তি, প্রতিষ্ঠান, অ্যাকাউন্ট, প্রম্পট বা কথোপকথনকে যুক্ত করে না.
জলছাপ যথার্থতা যাচাই করে না. কোনো লেখা সত্য, বিভ্রান্তিকর বা ক্ষতিকর কি না, কিংবা সঠিক প্রসঙ্গে উপস্থাপন করা হয়েছে কি না, জলছাপ তা জানায় না.
জলছাপ শনাক্ত না হওয়া মানেই লেখাটি মানুষের লেখা, এমন প্রমাণ নয়. OpenAI-এর সরঞ্জাম দিয়ে তৈরি লেখা খুব ছোট, সম্পাদিত বা অনূদিত হতে পারে, যার ফলে নির্ভরযোগ্যভাবে জলছাপ শনাক্ত করা সম্ভব না-ও হতে পারে. লেখাটি এমন কোনো মডেল থেকেও আসতে পারে, যাতে জলছাপের সুবিধা নেই; জলছাপ চালু হওয়ার আগে তৈরি হতে পারে, অথবা অন্য কোনো প্রতিষ্ঠানের সরঞ্জাম দিয়ে তৈরি হতে পারে.
ইইউতে লেখায় জলছাপ যোগের সুবিধা চালু করা. আগামী কয়েক সপ্তাহে শুধু ইইউতে সব সেবা পরিকল্পনার আওতায় থাকা ChatGPT ও Codex-এর যোগ্য ব্যবহারকারীদের জন্য লেখায় জলছাপ যোগের সুবিধা চালু করব. শুরুতেই আমরা বিশ্বজুড়ে লেখায় জলছাপ যোগের সুবিধা পূর্বনির্ধারিতভাবে চালু করছি না. এই অঞ্চলভিত্তিক পদ্ধতি আমাদের বাস্তব ব্যবহার ও মতামত থেকে শেখার সুযোগ দেবে.
এপিআই গ্রাহকদের স্বেচ্ছায় জলছাপ চালু করার সুযোগ দেওয়া. আজ থেকে বিশ্বজুড়ে এপিআই গ্রাহকেরা নির্দিষ্ট কিছু মডেলের লিখিত আউটপুটে জলছাপ যোগ করার সুবিধা নিজে বেছে চালু করতে পারবেন. ফলে গ্রাহকেরা তাঁদের স্বচ্ছতা বজায় রাখার বাধ্যবাধকতা ও ব্যবহারকারীদের দেওয়া সেবার অভিজ্ঞতার সঙ্গে জলছাপ কীভাবে মানিয়ে নেবে, তা নিজেরাই ঠিক করতে পারবেন. আমরা ক্লাউড অংশীদারদের সঙ্গেও কাজ করছি, যাতে আগামী কয়েক সপ্তাহে তাঁদের সেবার মাধ্যমে পাওয়া OpenAI মডেলের আউটপুটেও জলছাপ যোগের সুবিধা দেওয়া যায়.
গবেষক ও বিশেষজ্ঞ প্রতিষ্ঠানকে শনাক্তকারী ব্যবহারের সুযোগ দেওয়া. অনুমোদিত গবেষক ও বিশেষজ্ঞ প্রতিষ্ঠান আজ থেকেই আবেদন করতে পারবে. আচরণবিধি(একটি নতুন উইন্ডোতে খোলে) অনুযায়ী, লেখার উৎস-ইতিহাস নির্ণয়ের পদ্ধতি মূল্যায়ন ও উন্নত করতে প্রাথমিকভাবে প্রতিটি আবেদন আলাদাভাবে বিবেচনা করে ব্যবহারের অনুমতি দেওয়া হবে. সরঞ্জামটি ব্যবহারকারীর পরিচয় কিংবা তাঁর প্রম্পট বা কথোপকথন প্রকাশ না করেই জানাবে, এটি OpenAI-এর জলছাপ শনাক্ত করেছে কি না. জলছাপ শনাক্ত করতে ব্যর্থ হওয়া ও ভুল ইতিবাচক ফলের ঝুঁকি থাকায়, শুরুতেই আমরা এটি সবার জন্য উন্মুক্ত করছি না.
প্রযুক্তি, মানদণ্ড ও প্রমাণের অগ্রগতির সঙ্গে সঙ্গে এই পদ্ধতির প্রতিটি দিক পুনর্বিবেচনা করব বলে আমরা আশা করছি.
উৎস-ইতিহাস নির্ণয়ের কোনো একক কৌশলই যথেষ্ট নয়. তাই আমরা উন্মুক্ত মানদণ্ড, টেকসই জলছাপ ও যাচাইয়ের সরঞ্জাম মিলিয়ে বহুস্তরীয় পদ্ধতি ব্যবহার করি.
আমরা প্রযোজ্য ছবি আউটপুটে Content Credentials যোগ করি, C2PA মান মেনে চলি(একটি নতুন উইন্ডোতে খোলে), প্রযোজ্য ছবি ও অডিওতে অদৃশ্য SynthID(একটি নতুন উইন্ডোতে খোলে) জলছাপ যুক্ত করি এবং openai.com/verify ও আমাদের বিষয়বস্তুর উৎস-ইতিহাস এপিআই(একটি নতুন উইন্ডোতে খোলে)-এর মাধ্যমে ছবি ও অডিও যাচাইয়ের সুযোগ দিই. এই কৌশলগুলো একে অন্যের পরিপূরক: Content Credentials কোনো ফাইলের উৎস ও ইতিহাস নথিবদ্ধ করতে পারে, আর অদৃশ্য জলছাপ মেটাডেটা সরিয়ে ফেলার পরও একটি সংকেত ধরে রাখতে পারে.
আমাদের নির্বাচনী সুরক্ষা নিয়ে কাজে আমরা যেমন ব্যাখ্যা করেছি, উৎস-ইতিহাসের তথ্য মানুষ ও অনলাইন মাধ্যমগুলোকে ডিপফেকসহ কৃত্রিম বুদ্ধিমত্তায় তৈরি সম্ভাব্য বিভ্রান্তিকর বিষয়বস্তু মূল্যায়নে সাহায্য করতে পারে. এসব সংকেতের পাশাপাশি আমরা নীতিমালা, অপব্যবহার শনাক্তকরণ, অভিযোগ গ্রহণ, তদন্ত ও নিয়ম প্রয়োগের ব্যবস্থা রাখি. আরও বিস্তৃত পরিসরে উৎস-ইতিহাসের তথ্যকে কাজে লাগাতে গবেষক, মান নির্ধারণকারী সংস্থা, অনলাইন মাধ্যম ও নাগরিক সমাজের সঙ্গে কাজ করি.
লেখার ক্ষেত্রেও উৎস-ইতিহাস নির্ণয়ের ব্যবস্থা চালু করতে হলে বিবেচনায় রাখতে হবে, লেখা কত সহজে নতুন করে লেখা, অনুবাদ বা সম্পাদনা করা যায়. জুনে আমরা যেমন আলোচনা করেছি, আমাদের পদ্ধতিতে বর্তমান প্রযুক্তির বাস্তব সীমাবদ্ধতাগুলো বিবেচনায় রাখতে হবে. আমরা শনাক্তকরণ আরও উন্নত করব, সম্পাদনা ও অনুবাদের পর জলছাপ কতটা টিকে থাকে তা নিয়ে গবেষণা চালাব এবং কৃত্রিম বুদ্ধিমত্তার সহায়তায় লেখা ও সম্পূর্ণ তার তৈরি লেখার মধ্যে আরও অর্থবহভাবে পার্থক্য করার উপায় খুঁজব. প্রমাণ, মানদণ্ড ও নিয়ন্ত্রক শর্তের পরিবর্তনের সঙ্গে আমরা আমাদের পদ্ধতি মানিয়ে নেব. ফলাফল দায়িত্বশীলভাবে ব্যাখ্যা করা সম্ভব বলে মনে হলে শনাক্তকারী ব্যবহারের সুযোগ আরও বাড়াব.
আরও তথ্যের জন্য আমাদের সহায়তা কেন্দ্রের নিবন্ধটি(একটি নতুন উইন্ডোতে খোলে) দেখুন.
