আরও সক্ষম ও উপকারী এআইয়ের জন্য হালনাগাদ মডেল স্পেক
আমাদের মডেলগুলো যত বুদ্ধিমান হচ্ছে এবং বাস্তব জগতে আরও সুদূরপ্রসারী প্রভাব ফেলে এমন কাজ করছে, ততই জরুরি হয়ে উঠছে যে তারা শুধু পাওয়া নির্দিষ্ট নির্দেশনাগুলোর অর্থ বোঝার মধ্যে সীমাবদ্ধ না থাকে. মডেলগুলোকে মানুষের অভিপ্রায় ও মূল্যবোধও বুঝতে হবে. তবেই নির্দেশনায় স্পষ্টভাবে উল্লেখ নেই এমন পরিস্থিতিতে তারা সুবিবেচনা প্রয়োগ করতে পারবে, আবার মানুষের অভিপ্রায় ও তত্ত্বাবধানের প্রতিও বিশ্বস্ত থাকতে পারবে.
আমরা চাই আমাদের মডেলগুলো কীভাবে আচরণ করুক, তার প্রকাশ্য বিবরণ হলো মডেল স্পেক(একটি নতুন উইন্ডোতে খোলে). আজ আমরা এটি হালনাগাদ করছি. এই হালনাগাদে পাঁচটি মৌলিক মূল্যবোধকে কেন্দ্র করে নির্দেশনাগুলো নতুনভাবে সাজানো হয়েছে: মানুষের অভিপ্রায়ের প্রতি বিশ্বস্ততা, ক্ষতি কমানো, সততা ও স্বচ্ছতা, মানুষের সিদ্ধান্ত ও কাজের স্বাধীনতা এবং যত্নশীলতা. এতে মূল্যবোধের সঙ্গে সামঞ্জস্য স্থাপন নিয়ে আমাদের কাজের একটি লক্ষ্য প্রতিফলিত হয়েছে: মডেলগুলো যেন মানুষের অভিপ্রায়ের প্রতি বিশ্বস্ত থেকে অপরিচিত পরিস্থিতিতে মানুষের মূল্যবোধ বুঝতে ও প্রয়োগ করতে পারে. এই সংশোধনে বিদ্যমান নীতিগুলোর ব্যাখ্যা আরও স্পষ্ট করার পাশাপাশি প্রেক্ষাপট, তত্ত্বাবধান এবং স্বাধীনভাবে সিদ্ধান্ত ও কাজ করার ক্ষমতা নিয়ে নির্দেশনা যোগ করা হয়েছে. কিছু পূর্বনির্ধারিত আচরণগত নিয়মও বদলানো হয়েছে এবং প্রকাশভঙ্গির বিস্তারিত নির্দেশনার বড় অংশ বাদ দেওয়া হয়েছে.
ওপরের পাঁচটি মূল্যবোধ এমন কিছু বিস্তৃত অঙ্গীকারকে স্পষ্ট করে, যা মডেল স্পেকজুড়েই ইতিমধ্যে প্রতিফলিত হয়েছে: মানুষের উদ্দেশ্য পূরণে সহায়তা করা, সত্যনিষ্ঠ থাকা, ক্ষতি কমানো, নিজের মত গড়ে তোলার স্বাধীনতাকে সম্মান করা এবং মানুষের পরিস্থিতিকে গুরুত্ব দেওয়া. এই অঙ্গীকারগুলো একত্র করলে বোঝা সহজ হয়, স্পেক কেন মডেলগুলোকে নির্দিষ্টভাবে আচরণ করতে বলে. যেখানে এসব অঙ্গীকার পুরোপুরি স্পষ্ট ছিল না, সেখানেও আরও পরিষ্কার নির্দেশনা তৈরি করতে এটি আমাদের সাহায্য করে. গবেষণা, মডেল ব্যবহারে আনার অভিজ্ঞতা, স্পেক ও মডেলের আচরণ নিয়ে জনসাধারণের মতামত এবং ব্যবহারকারী ও বাইরের বিশেষজ্ঞদের সঙ্গে আলোচনার মাধ্যমে স্পেক পরিমার্জনের কাজে এই হালনাগাদ আরেকটি পদক্ষেপ.
আমরা চাই এআই এমন এক বিশ্বের মানুষের উপকার করুক, যাদের চাহিদা, মূল্যবোধ ও ভবিষ্যৎ নিয়ে আশা ভিন্ন ভিন্ন.
এই পদ্ধতির ভিত্তি হলো মানুষের অভিপ্রায়ের প্রতি বিশ্বস্ততা: মানুষের কাছে কী গুরুত্বপূর্ণ তা বোঝা এবং সে অনুযায়ী এগিয়ে যেতে তাদের সাহায্য করা. OpenAI স্পেক লেখে, সীমা নির্ধারণ করে এবং সেই সীমা মেনে চলতে মডেলগুলোকে প্রশিক্ষণ দেয়; ডেভেলপাররা সেই সীমার মধ্যে অ্যাপ্লিকেশন পরিচালনা করেন; আর ব্যবহারকারীরা সেই সীমা মেনে মডেলের কাজের দিকনির্দেশনা দেন. আমাদের মডেলগুলোর উচিত মানুষকে বিশ্ব বুঝতে, সম্ভাবনা খুঁজে পেতে এবং নিজেদের বেছে নেওয়া লক্ষ্য অর্জনে সাহায্য করে নিজেদের জীবন গড়ার ক্ষমতা বাড়ানো. একই সঙ্গে, এই সহায়তা অন্যদের ওপর কী প্রভাব ফেলে, তা গুরুত্বের সঙ্গে বিবেচনা করা উচিত. মানুষের অভিপ্রায়ের প্রতি বিশ্বস্ততা এবং বাকি চারটি মূল্যবোধের ভিত্তিতে স্পেক সাজানো হয়েছে. মডেলগুলোকে যখন গুরুত্বপূর্ণ কিন্তু পরস্পরবিরোধী বিবেচনাগুলোর মধ্যে ভারসাম্য রাখতে হয়, তখন এগুলো দিকনির্দেশনা দেয়. আমাদের মডেলগুলোর যেসব মানবিক মূল্যবোধকে সম্মান করা এবং মানুষকে সেগুলো অনুসরণে সাহায্য করা উচিত, তার সবকিছু এই পাঁচটির মধ্যে তুলে ধরা উদ্দেশ্য নয়.
বিশ্বস্ততা মানে শুধু আক্ষরিকভাবে নির্দেশনা মেনে চলা নয়; OpenAI, ডেভেলপার ও ব্যবহারকারীরা কী চান এবং কী মূল্য দেন, তা গভীরভাবে বোঝা. আর সেই বোঝাপড়া অসম্পূর্ণ হলে বিচক্ষণতার সঙ্গে কাজ করা. এর অর্থ এটিও স্বীকার করা যে মানুষের বিশ্বাস ও মূল্যবোধ বদলাতে পারে. তাই তাদের অজান্তে কোনো দিকে চালিত না করে বা তাদের পছন্দ অগ্রাহ্য না করে, তাদের কাছেই গ্রহণযোগ্য এমন উপায়ে ভাবতে ও বিকশিত হতে সাহায্য করতে হবে. যেমন, কাউকে চাকরির প্রস্তাব তুলনা করতে সাহায্য করার সময় মডেল তার আগে জানানো অগ্রাধিকারগুলো—যেমন কাজের সময় নির্দিষ্ট থাকা—বিবেচনায় নিতে পারে. তবে এসব অনুমান স্পষ্টভাবে জানাতে হবে, যাতে সহজেই সংশোধন করা যায়.
আমাদের লক্ষ্য হলো আর্টিফিশিয়াল জেনারেল ইন্টেলিজেন্স যেন সমগ্র মানবজাতির উপকারে আসে, তা নিশ্চিত করা. এ জন্য শুধু কারও তাৎক্ষণিক অভিপ্রায় নয়, তার দীর্ঘমেয়াদি স্বার্থ এবং অন্যদের ওপর প্রভাবও বিবেচনা করতে হবে. বাকি চারটি মূল্যবোধ এসব বিবেচনাকে স্পষ্ট করে:
ক্ষতি কমানো মানে নিরাপত্তার কঠোর সীমা মেনে চলা এবং মডেলের কাজের যেসব পরিণতি আগে থেকে অনুমান করা যায়, সেগুলো বিবেচনায় নেওয়া.
সততা ও স্বচ্ছতা মানে মডেল কী জানে, কী করে এবং কোন বিষয়ে অনিশ্চিত, তা সত্যভাবে জানানো. এতে মানুষ তার যুক্তি ও কাজ বুঝতে এবং মূল্যায়ন করতে পারে.
মানুষের সিদ্ধান্ত ও কাজের স্বাধীনতা বাড়ানো মানে মানুষের নিজের মতো বুঝতে, বেছে নিতে ও কাজ করতে পারার ক্ষমতা জোরদার করা.
যত্নশীলতা মানে যাদের ওপর প্রভাব পড়ে তাদের পরিস্থিতির প্রতি মনোযোগ দেওয়া, প্রাসঙ্গিক সামাজিক ও পেশাগত রীতি মেনে চলা এবং মানুষের ভরসা করার মতো কাজ করা.
স্পেক এই মূল্যবোধগুলোকে ব্যবহারিক নির্দেশনায় রূপ দেয়. মানুষ ও সমাজকে সুরক্ষিত রাখতে যেখানে প্রয়োজন, সেখানে কঠোর সীমা নির্ধারণ করে. অন্য ক্ষেত্রে এটি মূলত পূর্বনির্ধারিত নিয়ম দেয়, যা ব্যবহারকারী ও ডেভেলপাররা বদলাতে পারেন.
মডেল স্পেকের এই হালনাগাদের পাশাপাশি আমরা নতুন প্রশিক্ষণপদ্ধতিও পরীক্ষা করে দেখছি. এর উদ্দেশ্য হলো মডেলগুলোকে এই মূল মূল্যবোধগুলো শিখতে এবং স্পেকের নির্দিষ্ট আচরণগত নীতিগুলো আরও ভালোভাবে বুঝতে ও অনুসরণ করতে সাহায্য করা. লক্ষ্য হলো নীতিগুলো কেন গুরুত্বপূর্ণ এবং নতুন পরিস্থিতিতে কীভাবে সেগুলো প্রয়োগ করতে হয়, সেই বোঝাপড়া গড়ে তোলা: সঠিক কারণে সঠিক কাজগুলো করা. আমরা চাই এই বোঝাপড়া সুদূরপ্রসারী প্রভাব ফেলে এমন সিদ্ধান্তে সুবিবেচনা এবং দৈনন্দিন সিদ্ধান্তে যত্নশীলতা আনুক. এসব সিদ্ধান্ত মিলেই মানুষ ও সমাজের দীর্ঘস্থায়ী কল্যাণ(একটি নতুন উইন্ডোতে খোলে) বয়ে আনতে পারে. এই প্রশিক্ষণের কাজ থেকে পাওয়া ফলাফল ও শিক্ষা আমরা ভবিষ্যতের হালনাগাদগুলোতে জানাব.
এই পুনর্বিন্যাসের ফলে কোথায় অতিরিক্ত নির্দেশনা দরকার তা চিহ্নিত করা, সেই ঘাটতি পূরণে নতুন নীতি তৈরি করা এবং প্রয়োজনে বিদ্যমান নির্দেশনা সংশোধন বা বাদ দেওয়াও সহজ হয়েছে.
মানুষের অভিপ্রায়ের প্রতি বিশ্বস্ততা নিয়ে নতুন বিভাগটির মূল ধারণা হলো, মানুষ যা মূল্য দেয়, সেটিই প্রধান. আর নির্দেশনা সাধারণত সেই মূল্যবোধের সবচেয়ে স্পষ্ট ও গুরুত্বপূর্ণ ইঙ্গিত. এই পদ্ধতিতে মানুষের সঙ্গে এআইয়ের সামঞ্জস্য স্থাপনকে সহযোগিতামূলক খেলার কাঠামোয় দেখার ধারণা কাজে লাগানো হয়েছে (দেখুন প্রাথমিক গবেষণা(একটি নতুন উইন্ডোতে খোলে) এবং পরবর্তী একটি সারসংক্ষেপ(একটি নতুন উইন্ডোতে খোলে)). এই বিভাগে হালনাগাদ নির্দেশনার অগ্রাধিকারক্রম(একটি নতুন উইন্ডোতে খোলে) অন্তর্ভুক্ত হয়েছে, যা ব্যাখ্যা করে কোন নির্দেশনা প্রযোজ্য এবং দ্বন্দ্ব কীভাবে মেটানো হয়. নতুন উপবিভাগ প্রেক্ষাপট যত্ন নিয়ে বিবেচনা করুন(একটি নতুন উইন্ডোতে খোলে) ব্যাখ্যা করে, মানুষের অভিপ্রায় ও পছন্দ বোঝার ক্ষেত্রে মডেলের কীভাবে কথোপকথন, স্মৃতি এবং প্রেক্ষাপট থেকে পাওয়া অন্যান্য তথ্য কাজে লাগানো উচিত.
আমরা মানুষের সিদ্ধান্ত ও কাজের স্বাধীনতাকে সমর্থন করা(একটি নতুন উইন্ডোতে খোলে) এবং প্রাসঙ্গিক সামাজিক রীতি অনুসরণ করা(একটি নতুন উইন্ডোতে খোলে) নিয়ে পূর্বনির্ধারিত নিয়মও যোগ করেছি. পাশাপাশি পার্শ্বপ্রতিক্রিয়া নিয়ন্ত্রণ করা ও তা জানানো(একটি নতুন উইন্ডোতে খোলে) নিয়ে বিদ্যমান নির্দেশনা আরও বিস্তৃত করেছি. বাকি মূল্যবোধগুলো মডেলের আচরণে আরও যেসব সূক্ষ্ম কিন্তু গুরুত্বপূর্ণ উপায়ে প্রকাশ পাওয়া উচিত, এই নীতিগুলো তা তুলে ধরে: ব্যবহারকারীর লক্ষ্য ও নির্দেশনাকে সম্মান করার পাশাপাশি কাজের ফলে অন্যদের ওপর প্রভাব বিবেচনা করা, ব্যবহারকারীর সক্ষমতা বাড়ানো এবং মানুষের ভরসা করার মতো কাজ করা.
একই সঙ্গে, আমরা স্পেক থেকে প্রকাশভঙ্গির বেশির ভাগ বিস্তারিত নির্দেশনা বাদ দিচ্ছি. প্রকাশভঙ্গি মানুষের পছন্দের সঙ্গে মানানসই হওয়া উচিত—সামগ্রিকভাবে, ভাষা ও সংস্কৃতিভেদে এবং ব্যক্তিভেদে. ব্যবহারকারীর মতামত ও প্রেক্ষাপট থেকে এসব পছন্দের ইঙ্গিত পাওয়া যায়. স্পেকে আরও জোরালো কিছু পূর্বনির্ধারিত নিয়ম বহাল রয়েছে, যেমন নিরপেক্ষভাবে প্রশ্ন বিবেচনা করা(একটি নতুন উইন্ডোতে খোলে). ব্যবহারকারী ও ডেভেলপাররা মডেলকে স্পষ্টভাবে কোনো নির্দিষ্ট দৃষ্টিভঙ্গি নিতে বলতে পারেন. তবে তারা কী শুনতে চান বলে মডেলের মনে হয়, শুধু তার ভিত্তিতে এমন পছন্দ ধরে নেওয়া উচিত নয়.
সবশেষে, আমাদের মডেলগুলোর ব্যবহারের ক্ষেত্র ও পরিবেশ ক্রমেই বাড়ছে বলে স্পেকে এখন মডেলকে “সহকারী” না বলে “GPT” বলা হচ্ছে.
মডেলগুলো আরও সক্ষম হয়ে ওঠার সঙ্গে সঙ্গে স্পেকের পেছনের মূল্যবোধ ও যুক্তি আরও স্পষ্ট করার প্রথম পদক্ষেপ এই হালনাগাদ. মডেল স্পেক সেই কাঙ্ক্ষিত আচরণের বর্ণনা দেয়, যা অর্জনের জন্য আমরা কাজ করছি; আমাদের মডেলগুলোতে এখনো তা পুরোপুরি প্রতিফলিত হয় না. গবেষণা, বাস্তব ব্যবহার ও মতামত থেকে শেখার সঙ্গে সঙ্গে আমরা স্পেক ও মডেল—উভয়েরই উন্নতি করতে থাকব.
স্পেকের কোন অংশগুলো আপনার কাছে গ্রহণযোগ্য মনে হয়, এতে বিভিন্ন বিবেচনার মধ্যে যে ভারসাম্য রাখা হয়েছে তার কোথায় আপনি দ্বিমত পোষণ করেন এবং কী উপেক্ষিত বা অস্পষ্ট রয়ে গেছে—আমরা তা জানতে চাই. মূল্যবোধ, পরস্পরবিরোধী বিবেচনার মধ্যে ভারসাম্য এবং নির্দিষ্ট ভাষা নিয়ে মতামত এটি উন্নত করতে আমাদের সাহায্য করতে পারে. আপনাকে হালনাগাদ মডেল স্পেক(একটি নতুন উইন্ডোতে খোলে) পড়তে এবং আপনার দৃষ্টিভঙ্গি জানাতে(একটি নতুন উইন্ডোতে খোলে) আমন্ত্রণ জানাচ্ছি.
