এআই-এর পরবর্তী পর্যায়ের মানদণ্ড গঠন
আমাদের লক্ষ্য হলো আর্টিফিশিয়াল জেনারেল ইন্টেলিজেন্স যেন সমগ্র মানবজাতির উপকারে আসে তা নিশ্চিত করা. স্যাম অল্টম্যান সম্প্রতি যেমন ব্যাখ্যা করেছেন এবং জ্যাকুব পাচকি যেমন বলেছেন, আমরা এই লক্ষ্য ঘিরে আমাদের কাজকে তিনটি প্রধান উদ্দেশ্যে অগ্রাধিকার দিই:
স্বয়ংক্রিয় এআই গবেষক তৈরি করে, তার সঙ্গে অ্যালাইনমেন্ট সমস্যায় পুনরাবৃত্তিমূলকভাবে কাজ করে এবং মানুষকে স্ব-উন্নয়নের চক্রের অংশ রাখার উপায় খুঁজে এআই অগ্রগতির পরবর্তী পর্যায় সামলানো.
অত্যন্ত বুদ্ধিমান যন্ত্র যে বৈজ্ঞানিক অগ্রগতি ও অর্থনৈতিক প্রবৃদ্ধি সম্ভব করে, তার সুফল পৌঁছে দেওয়া.
প্রত্যেক ব্যক্তিকে একটি ব্যক্তিগত AGI দিয়ে সক্ষম করা.
এআই আমাদের নিজস্ব গবেষণা ও প্রকৌশলকে ত্বরান্বিত করছে, এবং এআই-সক্ষম গবেষণা গণিতে অগ্রগতি এনেছে, যার মধ্যে রয়েছে নাভিয়ার-স্টোকস মিলেনিয়াম সমস্যা. এই অগ্রগতি আমাদের অন্য দুই লক্ষ্য পূরণেও বড় সম্ভাবনা তৈরি করে, যা চিকিৎসাবিজ্ঞানে গুরুত্বপূর্ণ আবিষ্কার, ব্যাপকভাবে সহজলভ্য স্বাস্থ্যসেবা এবং সবখানের ছোট ব্যবসা ও ব্যক্তিগত উদ্যোক্তাদের অর্থনৈতিক ক্ষমতায়নের দিকে নিয়ে যেতে পারে.
বহু কোম্পানি ও দেশে এআই এগিয়ে যাচ্ছে, এবং পুরো ক্ষেত্রের অগ্রগতি সবার সামনে থাকা সুযোগ ও চ্যালেঞ্জ বদলে দিচ্ছে. এর অন্যান্য সুফলের পাশাপাশি, সক্ষম ও অ্যালাইনড এআই এই রূপান্তর সামলানোর একটি গুরুত্বপূর্ণ অংশ হবে—প্রতিরক্ষা শক্তিশালী করবে, অ্যালাইনমেন্ট গবেষণাকে এগিয়ে নেবে এবং মানুষকে এআই উন্নয়নের পরবর্তী ধাপগুলো বুঝতে ও পরিচালনা করতে সাহায্য করবে.
এই রূপান্তর নিরাপদে সামলাতে হলে অ্যালাইনমেন্ট গবেষণাকে এসব সক্ষমতার সঙ্গে তাল মিলিয়ে চলতে হবে, যাতে আমরা ও অন্যরা যে সিস্টেম তৈরি করি সেগুলো মানবিক মূল্যবোধের সঙ্গে অ্যালাইনড এবং মানুষের নিয়ন্ত্রণে থাকে. এআই সিস্টেমগুলো আরও সক্ষম ও স্বয়ংক্রিয় হয়ে উঠলে, এমনকি এআই গবেষণা ও উন্নয়নের আরও বেশি কাজ নিজেরাই নিতে শুরু করলে, বিষয়টি ক্রমেই বেশি গুরুত্বপূর্ণ হয়ে ওঠে. এআই-এর ধারাবাহিক অগ্রগতিকে নিরাপদ ও উপকারী করতে অ্যালাইনমেন্ট গবেষণায় অগ্রগতি এবং বিভিন্ন ল্যাব ও দেশে উন্নয়ন পরিচালনার জন্য অভিন্ন মানদণ্ড—দুটিই দরকার হবে.
স্বয়ংক্রিয় এআই গবেষণায় মানুষের তত্ত্বাবধানের মাত্রা ভিন্ন হতে পারে. এআই সিস্টেমগুলো ধারাবাহিক প্রজন্মের এআই উন্নয়নের আরও বেশি কাজ হাতে নিলে, মানুষ যুক্ত থাকলেও সেগুলো ক্রমেই পুনরাবৃত্তিমূলক স্ব-উন্নয়ন (RSI) প্রক্রিয়া চালাতে পারে. এই প্রক্রিয়া আরও স্বয়ংক্রিয় হলে এআই অগ্রগতির গতি দ্রুত ত্বরান্বিত হতে পারে.
আমরা বিশ্বাস করি স্বয়ংক্রিয় এআই গবেষণা এমন মডেল তৈরি করবে যা সরাসরি মানুষের জীবন উন্নত করবে. এটি উন্নত বুদ্ধিমত্তার খরচ কমাতে পারে, যাতে সারা বিশ্বের মানুষ উপকৃত হতে পারে. স্বয়ংক্রিয় গবেষণা আমাদের অ্যালাইনমেন্ট উল্লেখযোগ্যভাবে উন্নত করতে এবং ক্রমশ সক্ষম এআই-এর বিরুদ্ধে প্রতিরক্ষা গড়তেও সাহায্য করতে পারে—একটি স্বয়ংক্রিয় এআই গবেষক একই সঙ্গে স্বয়ংক্রিয় এআই নিরাপত্তা গবেষকও হতে পারে. আরও সক্ষম ও অ্যালাইনড সিস্টেম গুরুত্বপূর্ণ অবকাঠামো সুরক্ষিত করতে, বিপজ্জনক এআই এজেন্টের বিরুদ্ধে প্রতিরক্ষা গড়তে এবং নতুন সুরক্ষামূলক ব্যবস্থা তৈরি করতে সাহায্য করতে পারে.
সম্পূর্ণ স্বয়ংক্রিয় RSI আজ ঘটছে না, এবং নিরাপদে করা সম্ভব না হওয়া পর্যন্ত আমাদের এটি অনুসরণ করা উচিত নয়. এগোনো হবে কি না এবং কীভাবে হবে তা নির্ভর করতে হবে মানুষের নিয়ন্ত্রণ বজায় রাখার আমাদের সক্ষমতা এবং সুফল ও ঝুঁকি সম্পর্কে অবহিত গণতান্ত্রিক সিদ্ধান্তের(একটি নতুন উইন্ডোতে খোলে) ওপর. যথাযথ যত্ন ও সতর্কতা ছাড়া করা হলে, RSI-এর ফলে মানুষ এআই উন্নয়নের ওপর বাস্তব নিয়ন্ত্রণ হারাতে পারে এবং যে গবেষণা প্রক্রিয়া তারা আর বোঝে না, তাতে তত্ত্বাবধান দিতে অক্ষম হয়ে পড়তে পারে. এ পর্যায় থেকে এআই আরও বিপজ্জনক, কম অ্যালাইনড এবং সামগ্রিকভাবে মানুষের জন্য ঝুঁকিপূর্ণ হয়ে উঠতে পারে. আমরা যে Hugging Face ঘটনা প্রকাশ করেছি, তা RSI-এর সরাসরি ফল না হলেও, শক্তিশালী সুরক্ষা ও অ্যালাইনমেন্ট না থাকলে কী ধরনের ঝুঁকি আরও অনেক গুরুতর হতে পারে তার এক ঝলক দেখায়.
অত্যাধুনিক এআই উন্নয়নে নিরাপত্তা ও সুরক্ষা চর্চার আন্তর্জাতিক মানদণ্ড অত্যাধুনিক পর্যায়ের গতি সামলাতে অ্যালাইনমেন্ট গবেষণার মতোই গুরুত্বপূর্ণ হতে পারে. মানদণ্ড উচ্চমানের প্রমাণের অভিন্ন সংজ্ঞা এবং প্রযুক্তিগত সুরক্ষাব্যবস্থার কঠোরতার জন্য সম্মত ভিত্তিরেখা তৈরি করতে পারে. সংক্ষেপে, এগুলো আমাদের এই প্রশ্নের উত্তর দিতে সাহায্য করে, “বিপর্যয়কর এআই ঝুঁকি কমাতে ভালো ব্যবস্থা কেমন হওয়া উচিত?”
Center for AI Standards and Innovation (CAISI), অঙ্গরাজ্য আইন এবং এআই-এর জন্য একটি ফেডারেল কাঠামোর মতো বিদ্যমান গণতান্ত্রিক প্রতিষ্ঠানগুলোও এতে সহায়তা করতে পারে, পাশাপাশি সরকারি-বেসরকারি অংশীদারত্বের নতুন রূপগুলোও(একটি নতুন উইন্ডোতে খোলে) সহায়ক হতে পারে. কিন্তু এআই উন্নয়ন ও প্রয়োগ বহু দেশে ঘটছে, গ্রহণ প্রক্রিয়া বিশ্বজুড়ে চলছে, এবং এর প্রভাব সম্ভবত কোনো না কোনো সময়ে কোনো না কোনোভাবে সবাই অনুভব করবে.
তাই কয়েকটি মূল চ্যালেঞ্জ সমাধানে মানদণ্ড তৈরির আন্তর্জাতিক প্রচেষ্টা দরকার:
খণ্ডিতকরণ—বিভিন্ন দেশের মূল্যায়ন, রিপোর্টিংয়ের প্রয়োজনীয়তা এবং ঘটনার সংজ্ঞা পরস্পরবিরোধী হতে পারে, ফলে প্রমাণ তুলনা করা, উদীয়মান সক্ষমতা বোঝা এবং সীমান্ত পেরোনো ঝুঁকিতে সাড়া দেওয়া কঠিন হয়ে পড়ে.
সম্মিলিত পদক্ষেপ—প্রতিটি দেশ আলাদাভাবে কাজ করলে এমন ফল হতে পারে যা কোনো দেশই চায় না. RSI এআই গবেষণাকেই ত্বরান্বিত করতে পারে, সম্ভাব্যভাবে এমন পর্যায়ে নিয়ে যেতে পারে যা অগ্রগতি বোঝা, ঝুঁকি মূল্যায়ন করা এবং অর্থপূর্ণ মানব তত্ত্বাবধান বজায় রাখার আমাদের সম্মিলিত সক্ষমতার বাইরে.
অসম সক্ষমতা—অত্যাধুনিক উন্নয়ন কর্মকাণ্ড ও সংশ্লিষ্ট দক্ষতা বিশ্বজুড়ে সমানভাবে ছড়ানো নয়. এটি ওপরের দুটি সমস্যাকেই আরও তীব্র করে.
এই চ্যালেঞ্জগুলো ওপেন ও ক্লোজড—দুই ধরনের মডেলের ক্ষেত্রেই প্রযোজ্য.
স্পষ্ট করে বললে, যে কোনো এআই ল্যাব স্বয়ংক্রিয় এআই গবেষণা বা অন্যান্য উন্নত সক্ষমতা নিয়ে কাজ করলে, তাদের নিজস্ব দায়িত্ববোধের মৌলিক নীতি ও বিদ্যমান আইন মেনে তা নিরাপদে এগিয়ে নেওয়ার দায় নিতে হবে. মানদণ্ডের পক্ষে আমাদের যুক্তি ক্ষমতার কেন্দ্রীকরণ এড়ানো এবং বাস্তবে আরও ভালো ফল পাওয়ার ওপর ভিত্তি করে. মানদণ্ড ল্যাবের বাইরে আরও বেশি অংশীজনকে এই প্রযুক্তি কীভাবে বিকশিত হওয়া উচিত সে বিষয়ে মত দেওয়ার পথ দেয়, এবং এমন দৃশ্যমান নীতিসমষ্টি দেয় যার ওপর নির্দিষ্ট কোনো ল্যাবের বিশেষ চর্চা নির্বিশেষে নির্ভর করা যায়. আর উপরোক্ত চ্যালেঞ্জগুলো মোকাবিলায় পক্ষগুলো সহযোগিতা করলে আমরা সম্ভবত আরও ভালো ফল পাব.
এই কারণেই আমরা বিশ্বাস করি, RSI-সহ অত্যাধুনিক এআই-এর জন্য বৈশ্বিক প্রযুক্তিগত মানদণ্ড তৈরি করতে বিশ্বের দেশগুলোর সঙ্গে যৌথভাবে কাজ করার প্রচেষ্টায় যুক্তরাষ্ট্রের নেতৃত্ব দেওয়া উচিত.
আমরা আশা করি সময়ের সঙ্গে এই ধারণা অনেক বদলাবে, তবে দুটি দিক অপরিহার্য হবে.
এটি করার একটি উপায় হলো অস্ট্রেলিয়া, কানাডা, জার্মানি, ফ্রান্স, কেনিয়া, জাপান, কোরিয়া, সিঙ্গাপুর, ভারত ও যুক্তরাজ্যে ইতোমধ্যে প্রতিষ্ঠিত এআই নিরাপত্তা ইনস্টিটিউটগুলোর উদীয়মান নেটওয়ার্ক কাজে লাগিয়ে CAISI ও জাতীয় শিল্প সংস্থার মাধ্যমে মানদণ্ড নির্ধারণে সহায়তা করা, বিশেষভাবে নজর দিয়ে (1) সক্ষমতা বেঞ্চমার্কে পরিমাপ করা অত্যাধুনিক এআই মডেল ও ডেভেলপারদের ওপর; এবং (2) RSI-সহ স্বয়ংক্রিয় এআই গবেষণার সুফল-ঝুঁকি ব্যবস্থাপনার ওপর. যুক্তরাষ্ট্র 2024 সালে CAISI-এর তৈরি International Network for Advanced AI Measurement, Evaluation, and Science(একটি নতুন উইন্ডোতে খোলে)-এর ওপর ভিত্তি গড়তে পারে, যা এআই পরিমাপ, মূল্যায়ন ও বিজ্ঞানে সহযোগিতার জন্য সরকারি প্রতিষ্ঠানগুলোকে একত্র করে.
এই উদ্যোগে তৈরি মানদণ্ড সক্ষমতা পরিমাপ ও মূল্যায়ন, ঝুঁকি মূল্যায়ন এবং সুরক্ষাব্যবস্থার পর্যাপ্ততার জন্য একটি অভিন্ন প্রযুক্তিগত ভিত্তি দেবে. এই প্রযুক্তিগত মানদণ্ডগুলো এআই মডেলের জন্য লাইসেন্স, বাধ্যতামূলক প্রি-রিলিজ পর্যালোচনা বা অনুমোদনের শর্ত হবে না. জাতীয় সরকারগুলো সিদ্ধান্ত নেবে এসব মানদণ্ড তাদের নিজস্ব আইনি ব্যবস্থায় অন্তর্ভুক্ত করবে কি না এবং কীভাবে করবে.
এই কাজের উচিত ওপেন মডেল ও ক্লোজড মডেল ডেভেলপার, স্বাধীন প্রযুক্তিগত বিশেষজ্ঞ এবং শিক্ষাঙ্গনের সঙ্গে পরামর্শ করে একটি প্রতিযোগিতামূলক এআই ইকোসিস্টেমকে সহায়তা করা. অভিন্ন মানদণ্ড স্বচ্ছভাবে তৈরি করা উচিত এবং এমনভাবে নকশা করা উচিত যাতে তা নতুন প্রবেশকারী বা ওপেন-ওয়েট ডেভেলপারদের প্রতিযোগিতা করা কঠিন করে তোলাসহ কোনো নির্দিষ্ট কোম্পানি, দেশ বা ব্যবসায়িক মডেলকে সুবিধা না দেয়.
আমরা যেমন প্রস্তাব করেছি(একটি নতুন উইন্ডোতে খোলে), এই পদ্ধতি বিমান চলাচল ও আর্থিক স্থিতিশীলতার মতো ক্ষেত্র থেকে শিক্ষা নিতে পারে, যেখানে দেশগুলো জাতীয় কর্তৃত্ব ছেড়ে না দিয়ে অভিন্ন প্রযুক্তিগত মানদণ্ড ও সহযোগিতার বিশ্বস্ত চ্যানেল গড়ে তুলেছে. এটির উচিত ISO(একটি নতুন উইন্ডোতে খোলে), Frontier Model Forum(একটি নতুন উইন্ডোতে খোলে), Agentic AI Foundation(একটি নতুন উইন্ডোতে খোলে), এবং Open Secure AI Alliance(একটি নতুন উইন্ডোতে খোলে)-এর মতো প্রতিষ্ঠিত ও নতুন মানদণ্ড সংস্থার সঙ্গে ঘনিষ্ঠভাবে কাজ করা, পাশাপাশি বাস্তবায়নকেন্দ্রিক সংস্থা যেমন Appia Foundation-এর সঙ্গেও কাজ করা, যারা আন্তর্জাতিক মানদণ্ডকে বাস্তব বিশ্বের এআই মূল্যায়নের সঙ্গে যুক্ত করে এমন ব্যবহারিক স্পেসিফিকেশন তৈরি করছে.
এআই গবেষণায় বাড়তে থাকা স্বয়ংক্রিয়তা এবং পুনরাবৃত্তিমূলক স্ব-উন্নয়ন পরিচালনায় আন্তর্জাতিক এআই মানদণ্ড বিশেষভাবে গুরুত্বপূর্ণ হবে. বিশেষভাবে, এতে নিম্নলিখিত বিষয়ে মানদণ্ড থাকতে পারে:
RSI-সংশ্লিষ্ট এআই অগ্রগতি এবং একটি এআই কোম্পানির ভেতরে কতটা স্বয়ংক্রিয় গবেষণা হচ্ছে তার মূল্যায়ন. গবেষণা ত্বরান্বিতকরণ নিয়ে আমাদের সাম্প্রতিক প্রতিবেদন এই প্রচেষ্টায় একটি প্রাথমিক অবদান.
স্বয়ংক্রিয় এআই গবেষণার ওপর মানব তত্ত্বাবধান, যার মধ্যে কোন ধরনের স্বয়ংক্রিয় এআই গবেষণা প্রক্রিয়ায় অবিলম্বে মানব পর্যালোচনা শুরু হওয়া উচিত তা অন্তর্ভুক্ত.
অ্যালাইনমেন্ট ও স্বয়ংক্রিয় এআই গবেষণাসংক্রান্ত সমস্যার জন্য ঘটনা শ্রেণিবিন্যাস, ট্র্যাকিং, রিপোর্টিং ও প্রতিক্রিয়া, যেমন অভিন্ন ঘটনার তীব্রতার মাত্রা ও রিপোর্টিং সীমা. আমাদের মিসঅ্যালাইনমেন্ট রিপোর্টিং কাঠামো একটি প্রাথমিক অবদান.
এসব মানদণ্ডের পাশাপাশি, আমরা মনে করি বিশ্বজুড়ে গুরুত্বপূর্ণ অবকাঠামো পরিচালনাকারী প্রতিষ্ঠান ও সরকারগুলোর জন্য নিরাপদ যোগাযোগ চ্যানেল স্থাপন করা গুরুত্বপূর্ণ হবে, যাতে দ্রুত বিকশিত অত্যাধুনিক এআই নিরাপত্তা ক্ষেত্রে জাতীয় নিরাপত্তা উদ্বেগ, উদীয়মান দুর্বলতা ও হুমকি এবং সেরা চর্চা ভাগ করা যায়. এই ক্ষেত্রগুলোতে যুক্তরাষ্ট্র ও চীনের মধ্যে সংলাপ একটি ইতিবাচক পদক্ষেপ হবে, এবং আসন্ন আলোচনা যথাযথ সময়ে হচ্ছে.
এআই উন্নয়নের গতি নির্ধারণ মানে আগে থেকে ঠিক করা কোনো গতিবেগ ধরে রাখা নয়. প্রযুক্তিগতভাবে, এর অর্থ হলো অ্যালাইনমেন্ট গবেষণা ও সেই গবেষণার প্রয়োগ যেন সক্ষমতার চেয়ে এগিয়ে থাকে তা নিশ্চিত করা. সামাজিকভাবে, এর অর্থ হলো মানদণ্ড, প্রতিষ্ঠান ও সহযোগিতা ব্যবহার করে শিল্প, সামাজিক সম্পর্ক ও বাজারশক্তির নেটওয়ার্ককে আরও শক্তিশালী করা, যাতে সবার জন্য লাভজনক ফলাফল তৈরি হয়. সাম্প্রতিক সাইবার প্রতিরক্ষায় সম্মিলিত পদক্ষেপের আহ্বান এরই একটি উদাহরণ.
যুক্তরাষ্ট্র এ ক্ষেত্রে নেতৃত্ব দেওয়ার সবচেয়ে সুবিধাজনক অবস্থানে রয়েছে; কারণ তাদের এআই শিল্প প্রযুক্তিগত উৎকর্ষের শীর্ষে এবং অর্থ, বাণিজ্য, প্রতিরক্ষা, প্রযুক্তি ও তথ্যব্যবস্থার মতো গুরুত্বপূর্ণ বৈশ্বিক ক্ষেত্রে তারা এখনও বিশেষ প্রভাব বজায় রেখেছে. এই মুহূর্তে তাদের নেতৃত্ব দেওয়াই ঠিক করে দেবে যুক্তরাষ্ট্র বিশ্বব্যাপী এআই-এর রূপরেখা নির্ধারণ করবে, নাকি তাদের চোখের সামনেই একটি বিভক্ত, অসম ও সংঘাতে জর্জরিত ব্যবস্থা গড়ে উঠবে. এছাড়া এই সিদ্ধান্তের ওপরই নির্ভর করছে অগ্রসর এআই যুক্তরাষ্ট্র ও তার মিত্রদের বর্তমান মেলবন্ধনকে আরও শক্তিশালী করবে, নাকি নেতৃত্বে ব্যর্থ হয়ে তারা তা হারিয়ে দুর্বল হয়ে পড়বে.
ভূরাজনৈতিক প্রতিযোগিতা শুধু প্রযুক্তিগতভাবে কে এগিয়ে তা নিয়ে হবে না, বরং এআই গ্রহণ ও বিস্তার নিয়েও হবে. ক্রমেই বিষয়টি নির্ভর করতে পারে কারা এমন বাস্তবসম্মত সহযোগিতা ও যুক্তিসংগত নীতিমালা তৈরি করছে, যা এই প্রযুক্তির ওপর ভবিষ্যৎ বাজি রাখতে চাইলে সব সমাজ ও ব্যবসা গ্রহণ করতে চাইবে.
বাস্তব আন্তর্জাতিক সহযোগিতার সঙ্গে যুক্ত শক্তিশালী জাতীয় শাসনব্যবস্থা আরও শক্তিশালী সুরক্ষা, ধারাবাহিক উদ্ভাবন এবং এআই-এর সুফলে ব্যাপক প্রবেশাধিকারের পথ দেখায়.
