এক ভিনগ্রহী মন

2023 সালের মাঝামাঝি, “RLSlow” গবেষণা প্রকল্পে আমরা প্রথম এমন ফলাফল দেখি, যা আমাদের আস্থা দেয় যে আমরা যুক্তিনির্ভর মডেলের প্রশিক্ষণ স্কেল করতে পারব, এবং প্রিট্রেইনড মডেলগুলোকে নিজেদের চেইন-অফ-থট গঠনের সক্ষমতা উন্মুক্ত করে দিতে পারব. সিমন আর আমি সেই রাতটি অফিসে কাটিয়েছিলাম; এই প্রযুক্তি যে অবিশ্বাস্য বেঞ্চমার্ক সংখ্যা, পণ্য বা বৈজ্ঞানিক ফল দেবে তা নিয়ে নয়, বরং আমাদের জীবদ্দশাতেই যে আমরা নিজেদের চেয়ে অর্থবহভাবে বেশি বুদ্ধিমান মেশিন সত্যিই দেখতে পাব, এবং ইতিমধ্যেই এসব সিস্টেমের রূপ দেখতে পাচ্ছি—এই গম্ভীর সত্যটি বোঝার চেষ্টা করছিলাম; ভাবছিলাম, এর গুরুত্ব মানুষকে কীভাবে জানানো যায়.

তিন বছর পরে, যুক্তিনির্ভর ভাষা মডেলগুলো অর্থনীতির দ্রুত-বর্ধনশীল অংশ হয়ে উঠেছে এবং বিজ্ঞানের সীমা ঠেলে দিতে শুরু করেছে. তারা কম্পিউটার ও গ্রাফিক্যাল ইন্টারফেস চালাতে, মানুষের সঙ্গে ও একে অপরের সঙ্গে সহযোগিতা করতে, এবং গবেষণা প্রকল্প সম্পন্ন করতে সক্ষম. তারা কম্পিউটার নিরাপত্তার দৃশ্যপটও বদলে দিচ্ছে, এবং তাতে স্পষ্ট নতুন বিপদ উপস্থিত করছে.

এই সময়ে অনেক নতুন গবেষণা হয়েছে, এবং এসব সিস্টেম সম্পর্কে আমাদের বোঝাপড়া আবারও 2023 সালের তুলনায় কিছুটা ভিন্ন. অভ্যন্তরীণ ফলাফলের ভিত্তিতে আমার দৃঢ় প্রত্যাশা, অগ্রগতির এই গতি রিকার্সিভ সেলফ-ইমপ্রুভমেন্ট পর্যন্ত বজায় থাকতে পারে. AI উন্নয়ন বর্তমান পথেই চলতে থাকলে, আগামী কয়েক বছরে আমরা যে সিস্টেমগুলো দেখব, সেগুলো সম্ভবত সমান বা আরও বড় মাত্রার সক্ষমতা-লাফ দেখাবে, এবং ক্রমেই নিজেরাই নিজেদের উন্নয়ন চালাবে.

এটি এমন এক সময়, যা চরম সতর্কতা দাবি করে. মেশিন বুদ্ধিমত্তার দ্রুত উত্থান অব্যাহত থাকলে তার পরিণতির জন্য কেউ প্রস্তুত নয়—এ নিয়ে আমি উদ্বিগ্ন. OpenAI অ্যালাইনমেন্ট ও মনিটরিংয়ের প্রযুক্তিগত সমাধান খুঁজতে, প্রতিরক্ষামূলক ব্যবস্থা গড়তে, এবং প্রয়োজনমতো একতরফাভাবে আরও স্কেলিং আটকে রাখতে থাকবে; তবে আমার বিশ্বাস, আরও বিস্তৃত হস্তক্ষেপ দরকার.

উচ্চ পর্যায়ে, মেশিন বুদ্ধিমত্তার অগ্রগতি বাড়তি কম্পিউটেশনাল শক্তি দ্বারা চালিত. 2017 সালের দিকে বহু গবেষণা প্রকল্পে স্কেলিং থেকে ধারাবাহিক ফল পাওয়ার পর OpenAI-তে আমরা বিষয়টি গভীরভাবে আত্মস্থ করি¹. ফলে আমরা শুরুতে যতটা পরিকল্পনা করেছিলাম তার চেয়ে অনেক বেশি কম্পিউট পাওয়ার চেষ্টা করি, এবং ক্রমশ অল্প কয়েকটি অত্যন্ত স্কেলযোগ্য দিকের চারপাশে আমাদের গবেষণা সাজাই. আমরা বিশ্বাস করেছিলাম, AI গবেষণার অত্যাধুনিক সীমান্তে থাকা এবং AGI-এর প্রভাবগুলো প্রভাবিত করার এটাই আমাদের একমাত্র উপায়.

পথে পথে নতুন অ্যালগরিদম তৈরি হয়েছে, দল ও পৃথক গবেষকদের নতুন নতুন উদ্ভাবনী সাফল্য এসেছে. আমি এগুলোকে মূলত স্কেলিংয়ের পথের আবিষ্কার হিসেবে দেখি; ডীপ লার্নিংয়ের বিজ্ঞান এখনো নবীন, এবং অর্থবহ অ্যালগরিদমিক অগ্রগতি সাধারণত কম্পিউটের প্রবেশাধিকারের সঙ্গে সম্পর্কিত. কয়েক বছরের দিগন্তে পেছন থেকে দেখলে, বড় কম্পিউটারে স্কেল হওয়ার সঙ্গে AI ক্রমেই আরও বুদ্ধিমান হয়ে উঠছে.

এবং বিংশ শতকের শেষভাগে রে কার্জওয়েলের পূর্বাভাসের⁠(একটি নতুন উইন্ডোতে খোলে) সঙ্গে মিল রেখে, আমরা এখন কম্পিউটিংয়ের ইতিহাসের এমন মুহূর্তে এসে দাঁড়িয়েছি, যখন মেশিন বুদ্ধিমত্তা রূপান্তরমূলকভাবে মানুষের বুদ্ধিমত্তাকে ছাড়িয়ে যেতে শুরু করেছে.

AI ডিজাইনের চেয়ে বেশি বিকশিত হয় - এটি মূলত অকল্পনীয় পরিমাণের কম্পিউটের ওপর একটি সরল অপ্টিমাইজেশন ধাপের বহুবার পুনরাবৃত্তির ফল. এর ফলে একটি অবিশ্বাস্য জটিল ব্যবস্থার সৃষ্টি হয়, যা বিমূর্ত ধারণার মাধ্যমে কাজ করে এবং মানুষের আচরণের নানা দিক অনুকরণ করতে পারে. স্নায়ুবিজ্ঞানের মতো একটি প্রক্রিয়ায় আমরা এই ব্যবস্থার ভেতরে উদ্ভূত ক্ষুদ্র ক্ষুদ্র কার্যপদ্ধতি সম্পর্কে বিভিন্ন অন্তর্দৃষ্টি আবিষ্কার করতে পারি এবং স্নায়ুবিজ্ঞানের মতোই, এর সামগ্রিক কার্যপ্রণালী এমন একটি বর্ণনার বাইরে থেকে যায় যা আমরা পুরোপুরি বুঝতে পারি.

ডীপ লার্নিং-ভিত্তিক AI-এর অধ্যয়ন মূলত একটি পরীক্ষামূলক বিজ্ঞান. আমরা নীতিনিষ্ঠ অ্যালগরিদম তৈরি এবং পরীক্ষাযোগ্য পূর্বাভাস দেওয়ার জন্য অনেক প্রচেষ্টা⁠ করি, কিন্তু মৌলিকভাবে আমাদের লার্জ-স্কেল ট্রেনিং রানগুলো পরীক্ষা, এবং তাদের ফল আমাদের কখনো কখনো বিস্মিত করে. আরও যা, সিস্টেমগুলো যত সক্ষম হয়, ফলাফল ব্যাখ্যা করা তত কঠিন হয়ে ওঠে.

বর্তমান অ্যালগরিদমগুলো সাধারণত সহজে মাপা যায় এমন সক্ষমতাকে, বস্তুনিষ্ঠভাবে মাপা কঠিন সক্ষমতার চেয়ে দ্রুত উন্নত করে—এতে বিষয়টি আরও জটিল হয়. সক্ষমতাগুলো কীভাবে জেনারালাইজ করে, এবং আগামী কয়েক বছরে সবচেয়ে প্রাসঙ্গিক হতে যাওয়া দক্ষতাগুলো এগিয়ে নিতে কী অগ্রাধিকার দেওয়া উচিত—তা বোঝার চেষ্টা করতে আমরা অনেক সময় দিই. যেমন, আমরা বিশ্বাস করি অতিরিক্ত মনোযোগ দিলে মডেলগুলোকে বিশেষভাবে গণিত গবেষণায় আরও ভালো করা যেতে পারে, কিন্তু RSI ও স্বয়ংক্রিয় অ্যালাইনমেন্ট গবেষণা নিয়ে যে জরুরিতা আমরা অনুভব করি, তার কারণে এই দিকটিকে অগ্রাধিকার দিই না—এ বিষয়ে পরে আলোচনা করব.

ডীপ লার্নিং স্কেল করে যে বুদ্ধিমত্তা তৈরি হয়, তা মানব বুদ্ধিমত্তার সঙ্গে সরাসরি তুলনীয় নয়. বাস্তব জগতে খুব প্রাসঙ্গিক—খুব উপকারী বা খুব বিপজ্জনক—হতে AI-এর সব মানব সক্ষমতার সমান বা বেশি হতে হয় না; যথেষ্ট কয়েকটি সক্ষমতা ছাড়িয়ে গেলেই চলে. আর যত বেশি মাত্রায় এটি মানুষকে ছাড়িয়ে যাচ্ছে, এটি ঠিক কতটা সক্ষম তা বোঝা ততই কঠিন হয়ে উঠছে.

মেশিন বুদ্ধিমত্তা মানব বুদ্ধিমত্তার তুলনায় মৌলিকভাবে ভিন্ন প্রক্রিয়া থেকে আসে, তাই আমরা ধরে নিতে পারি না যে এটি স্বভাবত মানবিক নীতি মেনে চলে, বা সেগুলো থেকে মানুষের মতো করে জেনারালাইজ করে. AI গবেষণার মূল সমস্যা হলো অ্যালাইনমেন্ট—মানব মানদণ্ডে AI-কে “সঠিক কাজটি করার চেষ্টা” করানো.

বাস্তব গবেষণার দিকগুলো সংগঠিত করার জন্য লক্ষ্য অ্যালাইনমেন্ট এবং মূল্যবোধ অ্যালাইনমেন্ট আলাদা করে দেখা আমার কাছে উপকারী মনে হয়.

লক্ষ্য অ্যালাইনমেন্ট মোটামুটি হলো: “AI কি তার সামনে নির্ধারিত লক্ষ্য পূরণ করার চেষ্টা করে?”. এর মধ্যে থাকতে পারে নির্দেশনা-স্তরক্রম⁠ মেনে চলা, বা মানুষের উদ্দেশ্য বোঝার চেষ্টা করতে তাদের সঙ্গে যোগাযোগ ও সহযোগিতা করার ক্ষমতা. এই দিকগুলোর সমষ্টি বাস্তবে অত্যন্ত প্রাসঙ্গিক হয়েছে.

মূল্যবোধ অ্যালাইনমেন্ট মডেলের আরও অন্তর্নিহিত বৈশিষ্ট্য. এটি উচ্চ-স্তরের নীতিমালা ধারণ করা এবং সেখান থেকে জেনারালাইজ করার ক্ষমতা; অস্পষ্ট বা সংঘাতপূর্ণ লক্ষ্য দেওয়া হলে, কিংবা অপরিচিত বা প্রতিপক্ষীয় পরিস্থিতিতে রাখা হলেও “যুক্তিসঙ্গতভাবে” কাজ করার ক্ষমতা. অ্যালাইন্ড AI-এর উচিত সততা, নৈতিক দৃঢ়তা এবং মানবতার প্রতি ভালোবাসা নিয়ে কাজ করা.

অবশ্যই, মূল্যবোধ ও লক্ষ্য অ্যালাইনমেন্টের সীমারেখা অস্পষ্ট হতে পারে, এবং লক্ষ্যকে সত্যিই গুরুত্ব দিতে হলে তার পেছনের অভিপ্রায়⁠(একটি নতুন উইন্ডোতে খোলে) ও মূল্যবোধ অনুমান করার চেষ্টা করতে হয়. তবে সাধারণত আমি যখন অ্যালাইনমেন্ট গবেষণার দীর্ঘমেয়াদি গুরুত্ব নিয়ে কথা বলি, তখন মূল্যবোধ অ্যালাইনমেন্টকেই বোঝাই.

AI অ্যালাইনমেন্টের মৌলিক চ্যালেঞ্জ হলো জেনারালাইজেশন. মেশিন যত বুদ্ধিমান হয়, তারা তত উচ্চ-স্তরের ধারণা নিয়ে কাজ করে, এবং প্রশিক্ষণে যে পরিবেশ দেখেছে তার চেয়ে ক্রমে আরও ভিন্ন পরিবেশে স্থাপিত হয়. প্রশিক্ষণ প্রক্রিয়ায় শেখানো ও জোরদার করা মূল্যবোধ থেকে নতুন পরিস্থিতিতে জেনারালাইজ করতে তারা ব্যর্থ হতে পারে; এবং তারা কীভাবে কাজ করবে সে বিষয়ে আমাদের নিশ্চিত হওয়া কঠিন হতে পারে. এটি আরও কঠিন হয় কারণ যে সামগ্রিক ইকোসিস্টেমে AI-গুলো ব্যবহৃত হয় তা খুব দ্রুত বদলাচ্ছে; উদাহরণস্বরূপ, আজ প্রশিক্ষিত AI-গুলোকে নানা ধরনের অন্য AI-এর সঙ্গে মিথস্ক্রিয়ায় দৃঢ় থাকতে হবে. সবচেয়ে গুরুত্বপূর্ণ হলো, ভবিষ্যৎ AI-গুলো মানুষের তত্ত্বাবধানে আছে বলে বিশ্বাস করুক বা না করুক, তাদের মানবিক মূল্যবোধ ধরে রাখতে হবে.

বর্তমানে বাস্তবে ব্যবহৃত অ্যালাইনমেন্ট প্রশিক্ষণ পদ্ধতির দুটি প্রধান শ্রেণি আছে.

প্রথমটি হলো লক্ষ্যভিত্তিক রিইনফোর্সমেন্ট লার্নিংয়ের অংশ হিসেবে অ্যালাইন্ড আচরণ উৎসাহিত করা. মডেলের কাজগুলো একটি নির্দিষ্ট পছন্দ-মডেল, “স্পেক” বা “কনস্টিটিউশন”-এর সঙ্গে সামঞ্জস্যপূর্ণ কি না তা (সাধারণত AI দ্বারা) মূল্যায়ন করা হয়, এবং সে অনুযায়ী পুরস্কৃত করা হয়. গড় ক্ষেত্রে এই পদ্ধতি খুব কার্যকর হতে পারে, এবং আধুনিক AI সহকারী তৈরির একটি মূল অংশ. দুর্ভাগ্যজনকভাবে, এটি ভঙ্গুরও হতে পারে এবং প্রশিক্ষণ তদারকির পরিধি ও প্রশিক্ষণে দেখা পরিস্থিতি থেকে মডেলের জেনারালাইজ করার ক্ষমতার ওপর প্রবলভাবে নির্ভর করে. উদাহরণস্বরূপ, OpenAI-Hugging Face ঘটনায় এজেন্টগুলো মানুষের ওপর সোশ্যাল ইঞ্জিনিয়ারিং না করার সীমা বজায় রেখেছিল. তবে অন্য পরিবেশে তাদের শেখানো মূল্যবোধের চেতনার বিরুদ্ধে যায় এবং আওতার বাইরে ছিল—এমন অন্যান্য কাজ থেকে বিরত থাকতে তারা স্পষ্টভাবে ব্যর্থ হয়েছিল.

দ্বিতীয় পদ্ধতিটি প্রিট্রেনিং ডেটা থেকে মডেলের জেনারালাইজ করার ক্ষমতাকে কাজে লাগাতে চায়. এর মধ্যে থাকতে পারে অ্যালাইনমেন্ট-উদ্দীপক প্রশিক্ষণ ডেটাসেট তৈরি করা, অথবা প্রিট্রেনিং বিতরণের ‘অ্যালাইন্ড’ অংশে মডেলের মনোযোগ কেন্দ্রীভূত করা; যেমন পারসোনা নির্বাচন মডেল⁠(একটি নতুন উইন্ডোতে খোলে). এই পদ্ধতির দুর্বলতা হলো আরও অপ্টিমাইজেশন চাপের বিরুদ্ধে দৃঢ়তার অভাব. আপনি যদি এমন একটি মডেল নেন যা সাধারণভাবে ‘অ্যালাইন্ড’ চিন্তা করে, এবং সেটিকে যথেষ্ট প্রশিক্ষণের মুখে ফেলেন যেখানে তাকে খুব কঠিন লক্ষ্য অর্জন করতে শেখানো হয়, তাহলে সে প্রেরণাপ্রসূতভাবে যুক্তি করতে শিখতে পারে: লক্ষ্য অর্জনের প্রয়োজনে ‘অ্যালাইন্ড’ মনে হওয়া চিন্তাগুলোকে বাঁকিয়ে নেওয়া. সাম্প্রতিক সাইবারনিরাপত্তা ঘটনায়, যেখানে একটি non-OpenAI মডেল জড়িত ছিল, আমরা সম্ভবত এমন আচরণের একটি উদাহরণ দেখেছি.

এই দিকগুলো যে পদ্ধতির বিস্তৃত পরিসর তৈরি করে, তার জুড়ে আমরা ব্যাপক বিনিয়োগ করি. আমরা অর্থবহ অগ্রগতিও দেখছি—GPT‑6 Astra হলো প্রথম মডেল, যা দীর্ঘদিন ধরে আমাদের কাজ করা কিছু গুরুত্বপূর্ণ অগ্রগতির সুফল পাচ্ছে, এবং GPT‑5.6 Sol-এর তুলনায় উল্লেখযোগ্যভাবে বেশি অ্যালাইন্ড. তবু, মডেলগুলো আরও সক্ষম হওয়ার সঙ্গে অনেক বেশি অগ্রগতি প্রয়োজন—এবং জেনারালাইজযোগ্য অ্যালাইনমেন্টে অগ্রগতি সাধারণ মডেল বুদ্ধিমত্তার অগ্রগতিকে যথেষ্টভাবে ছাড়িয়ে নাও যেতে পারে—এটি স্বীকার ও বোঝা গুরুত্বপূর্ণ.

জেনারালাইজেশন নিয়ে আমাদের কোনো সন্তোষজনক তত্ত্ব নেই, এবং আরও শক্তিশালী AI-এর সহায়তা ছাড়া শিগগিরই এমন তত্ত্ব তৈরি করা সম্ভব হবে বলে মনে হয় না. তাই বর্তমানে আমাদের অ্যালাইনমেন্ট কৌশলগুলোকে অভিজ্ঞতাভিত্তিকভাবে যাচাই করার ক্ষমতা বাস্তবে সম্ভবত অ্যালাইনমেন্ট কৌশলগুলোর চেয়েও বেশি গুরুত্বপূর্ণ.

এখানে OpenAI-এর প্রধান বাজি ছিল চেইন-অফ-থট মনিটরিং⁠(একটি নতুন উইন্ডোতে খোলে). এটি আকর্ষণীয়ভাবে স্কেলযোগ্য একটি ধারণার ওপর ভিত্তি করে: মডেলের সক্ষমতার বড় অংশ আসে ভাষায় প্রকাশিত একটি যুক্তিপ্রক্রিয়া থেকে (চেইন-অফ-থট). আমরা যদি সেই প্রক্রিয়ার ফলাফলের ওপর অপ্টিমাইজেশন স্কেল করি, কিন্তু প্রক্রিয়াটিকে নিজে তত্ত্বাবধান না করি, তাহলে প্রশিক্ষণে সেই চেইন-অফ-থটের কোনো বিভ্রান্ত লক্ষ্য বা উদ্দেশ্য লুকানোর সরাসরি প্রণোদনা থাকে না. এর অর্থ এই নয় যে মডেলটি চেইন-অফ-থট ব্যবহার না করা বিভ্রান্ত প্রবণতাগুলো বাইরে প্রকাশ করতে শিখবে; তবে এটি যুক্তি থেকে সক্ষমতা বৃদ্ধিটুকু ঠিকভাবে পর্যবেক্ষণ করতে আমাদের সাহায্য করতে পারে.

আমরা যখন যুক্তিনির্ভর মডেল তৈরি করি, একই সময়ে চেইন-অফ-থট মনিটরিংয়ের সম্ভাব্য গুরুত্বও বুঝেছিলাম. আমরা যখন o1‑preview প্রকাশ করি, দীর্ঘমেয়াদে তত্ত্বাবধানের চাপ থেকে সুরক্ষার জন্য পণ্যটি ইচ্ছাকৃতভাবে এমনভাবে নকশা করি যাতে চেইন-অফ-থট লুকানো থাকে⁠². এর পরের উন্নয়নকাজে আমরা যুক্তিপ্রক্রিয়া তত্ত্বাবধান না করার নিয়ম বজায় রাখতে চেষ্টা করেছি. আমাদের মডেলগুলো তাদের প্রশিক্ষণ বিতরণ থেকে কীভাবে জেনারালাইজ করে তা অধ্যয়নে CoT মনিটরিং আমাদের জন্য অত্যন্ত গুরুত্বপূর্ণ হাতিয়ার হয়ে ওঠে; এতে আমরা শুধু তাদের কাজ নয়, তাদের অভ্যন্তরীণ প্রক্রিয়াও পর্যবেক্ষণ ও বিশ্লেষণ করতে পারি.

Astra শ্রেণির মডেলগুলো আমরা অধ্যয়ন করছি বলে এই হাতিয়ার এখনো অত্যন্ত গুরুত্বপূর্ণ. তবে দুর্ভাগ্যজনকভাবে, আমাদের মূল্যায়ন দেখাচ্ছে যে CoT মনিটরিংয়ের ওপর নির্ভর করার আমাদের সক্ষমতা ক্রমশ কমছে. এটি কয়েকটি কারণের সমন্বয়ে ঘটছে.

• আধুনিক যুক্তিনির্ভর মডেলগুলো o1‑preview‑এর তুলনায় আরও জটিল পরিবেশে ব্যবহৃত হয়; তাদের যুক্তিপ্রক্রিয়া ক্রমেই মানুষের সঙ্গে, অন্যান্য AI-এর সঙ্গে যোগাযোগ এবং টুল ব্যবহারের সঙ্গে মিশে যাচ্ছে. এসব মিথস্ক্রিয়ার অনেকগুলোকেই তত্ত্বাবধান করতে হয়, ফলে আমরা যে সীমারেখা বজায় রাখতে চাই তা অস্পষ্ট হয়ে যাচ্ছে.

• AI নিজের যুক্তিপ্রক্রিয়া নিয়ে যুক্তি করতে এবং সেটিকে প্রভাবিত করতে আরও দক্ষ হয়ে উঠছে.

• প্রিট্রেনিং পারফরম্যান্স উন্নত হওয়ার সঙ্গে আমরা আরও দেখি, ভাষায় প্রকাশিত যুক্তি একেবারেই ব্যবহার না করেও মডেলগুলো অনেক বেশি বুদ্ধিমান হয়ে উঠছে.

এই চ্যালেঞ্জগুলো অতিক্রম করা অসম্ভব—এমন নয়. আমি আশাবাদী যে আমাদের মডেলগুলোর চেইন-অফ-থট মনিটরযোগ্যতা উন্নত করার জন্য আমরা হস্তক্ষেপ তৈরি করতে পারব; যেমন মডেল যে বিভিন্ন অপ্টিমাইজেশন উদ্দেশ্য এবং টেস্ট-টাইম কম্পিউটের রূপ ব্যবহার করে, সেগুলোর পারস্পরিক ক্রিয়া আরও ভালোভাবে বোঝার মাধ্যমে. আমি আরও মনে করি CoT এবং অ্যাক্টিভেশন মনিটরিংয়ের ধারণা একত্র করলে বড় মূল্য পাওয়া যেতে পারে—নেটওয়ার্কের অভ্যন্তরে সরাসরি প্রবেশাধিকার থাকা মনিটরগুলোর প্রশিক্ষণ স্কেল করা, যেমন স্বীকারোক্তি⁠(একটি নতুন উইন্ডোতে খোলে). আমরা সক্রিয়ভাবে এই ধারণাগুলো অনুসরণ করছি. তবু আমি আশা করি সাধারণ AI অগ্রগতি ক্রমেই পর্যবেক্ষণের ওপর আস্থার দ্বারা সীমাবদ্ধ হবে.

অনেক বেশি বুদ্ধিমান মডেল দ্রুত প্রশিক্ষণ চালিয়ে যাওয়ার পক্ষে আমার দেখা সবচেয়ে শক্তিশালী যুক্তি হলো অন্য AI থেকে আসা বিপদের বিরুদ্ধে প্রতিরক্ষামূলক ব্যবস্থা গড়ার প্রয়োজন.

এই বছরজুড়ে আলোচিত একটি স্পষ্ট ঝুঁকি সাইবারনিরাপত্তা নিয়ে: কম্পিউটার সিস্টেমে ঢোকা ও সেখান থেকে বেরিয়ে আসার সক্ষমতায় মডেলগুলো অতিমানবীয় হয়ে উঠছে. এটি AI-সংশ্লিষ্ট ঝুঁকির পরিসর বিপুলভাবে বাড়ায়: এজেন্টরা সবচেয়ে সুরক্ষিত অবকাঠামো ছাড়া প্রায় সবখানেই প্রবেশ করতে পারবে, এবং শারীরিক দেহ ছাড়াই বিশ্বের বড় অংশে সরাসরি প্রভাব ফেলতে পারবে. বর্তমানে আমরা গুরুত্বপূর্ণ সিস্টেমগুলোর নিরাপত্তা সংকীর্ণ সময়সীমার⁠ মধ্যে সেরা উপলভ্য মডেল ব্যবহার করে উল্লেখযোগ্যভাবে জোরদার করার⁠ সুযোগে আছি.

দুর্ভাগ্যবশত AI-এর সাথে সম্পর্কিত ঝুঁকিগুলো এখান থেকে আরও বৃদ্ধি পেতে চলেছে. অসৎ কাজকর্ম চালানোর জন্য স্পষ্টভাবে প্রশিক্ষিত এবং নির্দেশিত একটি অত্যন্ত সক্ষম এজেন্ট এক নতুন ধরণের বিপদ ডেকে আনে; এটি তার পরিচালনাকারীর উদ্দেশ্যের আওতা অতিক্রম করে সম্ভাব্য আরও মারাত্মক ক্ষতিকারক আচরণে সাধারণীকৃত হওয়ার প্রবল সম্ভাবনা রাখে. AI আরও এজেন্সি বা স্বাধীন কার্যক্ষমতা অর্জন করার সাথে সাথে অপব্যবহার এবং স্বায়ত্তশাসিত অসংগতিপূর্ণ পদক্ষেপের মধ্যকার সীমারেখা অস্পষ্ট হয়ে উঠবে. আমরা AI-কে কেবল টুল হিসেবে ভাবতেই অভ্যস্ত হতে পারি, কিন্তু কিছু এজেন্ট নিজস্ব লক্ষ্য অনুসরণে কাজ করবে. তারা মানুষের সাথে বোঝাপড়া করে, প্রতারণা করে কিংবা তাদের ব্ল্যাকমেইল করে তাদের সাথে সহযোগিতা আদায়ের উপায় খুঁজে নেবে.

এ ছাড়া AI সম্ভাব্যভাবে সক্ষম করে তুলতে পারে এমন নতুন প্রযুক্তি থেকেও ঝুঁকি আছে, যেমন জেনেটিকালি ইঞ্জিনিয়ার্ড রোগজীবাণু.

প্রতিরক্ষার জন্য আমাদের শক্তিশালী, অ্যালাইন্ড AI দরকার হবে; অবকাঠামো সুরক্ষিত করতে, রিয়েল টাইমে দুর্বৃত্ত এজেন্ট থেকে রক্ষা করতে, এবং সম্পূর্ণ নতুন প্রতিরক্ষামূলক ব্যবস্থা উদ্ভাবন করতে. এটি OpenAI-এর ডিপ্লয়মেন্ট প্রচেষ্টার প্রধান কেন্দ্রবিন্দু হবে.

একই সঙ্গে, প্রত্যাশিত বিস্তৃত AI অগ্রগতি এবং প্রতিরক্ষামূলক ব্যবস্থা গড়ার প্রয়োজন থেকে যে অনিশ্চয়তা আসে, তা যেন বেপরোয়াপনার অজুহাত না হয়. বিষয়টির গুরুত্ব অন্তরে ধারণ করলে যেকোনো মূল্যে সামনে ছুটে চলার ধারণা অযৌক্তিক মনে হয়.

নিজের উন্নয়ন প্রক্রিয়ায় মেশিন বুদ্ধিমত্তার ক্রমবর্ধমান ভূমিকা টেকসই প্রযুক্তিগত অগ্রগতির স্বাভাবিক পরিণতি. AI অগ্রগতি চলতে থাকলে, মেশিনের রিকার্সিভ সেলফ-ইমপ্রুভমেন্ট (RSI) ভবিষ্যৎ বৈজ্ঞানিক আবিষ্কারের একেবারে কেন্দ্রে থাকবে.

স্বয়ংক্রিয় AI গবেষণা হলো কম্পিউট দিয়ে বুদ্ধিমত্তা স্কেল করার আরও নাটকীয় রূপ; এবং স্বাভাবিকভাবেই এর অংশ হিসেবে AI কম্পিউটেশনাল সাবস্ট্রেট নিজেকেও⁠ উন্নত করবে. স্কেলিংয়ের মতোই, আমরা OpenAI গবেষণাকে RSI-এর দিকে কেন্দ্রীভূত করছি, কারণ আমাদের বিশ্বাস সামনে এগোতে AI গবেষণার অত্যাধুনিক সীমান্তে থাকার এটিই একমাত্র উপায়.

আমি জোর দিয়ে বলতে চাই, ওপরের কথাগুলোর অর্থ এই নয় যে ডীপ লার্নিং গবেষণাকে, বিশেষ করে স্বল্পমেয়াদে, ব্যাপকভাবে ত্বরান্বিত করাই গবেষণা সম্প্রদায় হিসেবে আমাদের নেওয়া সঠিক সম্মিলিত পদক্ষেপ বলে আমি মনে করি. তবে আমার মনে হয় বর্তমান পথ এখানেই নিয়ে যাচ্ছে, এবং কীভাবে এগোব সে বিষয়ে আমাদের সবাইকে সচেতন সিদ্ধান্ত নিতে হবে. আমাদের প্রধান লিভারগুলো হলো: AI-এর পাশাপাশি অ্যালাইনমেন্ট ও মনিটরিং শক্তিশালী করতে প্রক্রিয়াটিকে দিকনির্দেশ করা এবং মানুষকে প্রক্রিয়ায় রাখার উপায় খোঁজা; অথবা এসব ব্যবস্থার ওপর আস্থা গড়তে প্রয়োজনমতো ভবিষ্যৎ উন্নয়ন ধীর করার জন্য সমন্বয় করা.

বর্তমানে আমার দেখা সেরা পথ হলো দুটির সমন্বয়.

অ্যালাইনমেন্ট ও মনিটরিংয়ে আমরা যে বাস্তব অগ্রগতি করেছি, তা সাধারণ AI অগ্রগতির সঙ্গে সাধারণত গভীরভাবে জড়িত ছিল. চমৎকার উদাহরণ হলো মানুষের প্রতিক্রিয়া থেকে রিইনফোর্সমেন্ট লার্নিং⁠(একটি নতুন উইন্ডোতে খোলে), যা প্রাথমিক AI সহকারী প্রশিক্ষণে গুরুত্বপূর্ণ ছিল, এবং আগে উল্লিখিত চেইন-অফ-থট মনিটরিং⁠(একটি নতুন উইন্ডোতে খোলে), যা যুক্তিনির্ভর মডেলের অগ্রগতির ফলে সম্ভব হয়েছিল. ক্রমে আরও স্বয়ংক্রিয় হয়ে ওঠা গবেষণা প্রক্রিয়াকে আমাদের এমন নতুন অন্তর্দৃষ্টি, অ্যালগরিদম ও তত্ত্ব তৈরিতে কেন্দ্রীভূত করতে হবে, এবং আরও সক্ষম AI-এর জন্য ধাপে ধাপে নিরাপত্তা-প্রমাণ গড়ে তুলতে হবে.

AI সিস্টেম স্কেল করা আমাদের নিরাপত্তা-আস্থার দ্বারা সীমাবদ্ধ হতে হবে. প্রিপেয়ার্ডনেস ফ্রেমওয়ার্ক⁠ বা রেসপনসিবল স্কেলিং পলিসি⁠(একটি নতুন উইন্ডোতে খোলে)-এর মতো প্রতিশ্রুতিগুলোকে চলমান উন্নয়নের জন্য ব্যাপকভাবে বাধ্যতামূলক নিরাপত্তা মানদণ্ডে রূপ দিতে হবে. এগুলো তৃতীয়-পক্ষ নিরীক্ষকদের নেটওয়ার্ক, সরকারি সংস্থা বা আন্তর্জাতিক প্রতিষ্ঠানের মাধ্যমে প্রয়োগ করা যেতে পারে.

AI গবেষণা স্বয়ংক্রিয় করার মূল চ্যালেঞ্জ “সেখানে পৌঁছানো” নয়—বরং এমনভাবে পৌঁছানো যাতে মানুষ চলমান উন্নয়ন প্রক্রিয়ার অংশ থাকে, এবং ভবিষ্যৎ মানবতার হাতে থাকে.

সম্প্রতি স্যামের সঙ্গে আমরা যেমন রূপরেখা দিয়েছি⁠, OpenAI তিনটি উত্তর নক্ষত্রকে সামনে রেখে কাজকে অগ্রাধিকার দেয়:

1. স্বয়ংক্রিয় AI গবেষক গড়ে, তার সঙ্গে অ্যালাইনমেন্ট সমস্যায় পুনরাবৃত্তিমূলক কাজ করে, এবং মানুষকে আত্ম-উন্নয়নের লুপে রাখার উপায় খুঁজে AI অগ্রগতির পরবর্তী সময়টি সামলানো.

2. অত্যন্ত বুদ্ধিমান মেশিন যে বৈজ্ঞানিক অগ্রগতি ও অর্থনৈতিক প্রবৃদ্ধির সুফল সম্ভব করে, তা পৌঁছে দেওয়া.

3. ব্যক্তিগত AGI দিয়ে প্রত্যেক মানুষকে ক্ষমতায়িত করা.

এই প্রবন্ধে আমি শুধু প্রথম বিষয়টিতে মনোযোগ দিয়েছি, কারণ আমার বিশ্বাস এটিই এখন পর্যন্ত সবচেয়ে জরুরি. তবে আরও প্রযুক্তিগত অগ্রগতি যে সুফল আনবে, তা নিয়ে আমার গভীর আশা ও কৃতজ্ঞতা রয়েছে. ভবিষ্যতের অ্যালাইন্ড AI বিজ্ঞানকে এগিয়ে নিতে, নতুন চিকিৎসা তৈরি করতে, এবং বিস্তৃত বস্তুগত প্রাচুর্য আনতে পারে. বন্ধুসুলভ ও সৎ AI মানুষকে জীবনের সমস্যাগুলো সামলাতে সাহায্য করতে পারে এবং তাদের সুখ ও পরিতৃপ্তির অনুভূতি অর্থবহভাবে বাড়াতে পারে. এই সুফলগুলো বাস্তবে আনতে OpenAI বিপুল প্রচেষ্টা করে. বর্তমান একটি উদাহরণ, যার জন্য আমি গর্বিত—এবং যা আমার প্রিয়জনদের সহায়ক লেগেছে—হলো স্বাস্থ্য তথ্য দেওয়ার ChatGPT‑এর সক্ষমতায় গভীর বিনিয়োগ.

AI-এর দীর্ঘমেয়াদি সম্ভাবনা যত বড়ই হোক, আমাদের মনোযোগের বেশির ভাগ থাকা উচিত আগামী কয়েক বছরে. আমরা অবিশ্বাস্য বুদ্ধিমান মেশিনের এক জগতে উত্তরণের মুখে দাঁড়িয়ে আছি, এবং নিশ্চিত করতে হবে যে এই উত্তরণ মানবতার জন্য ভালোভাবে ঘটে. এমন এক জগতে, যেখানে বেশির ভাগ কাজ AI করতে পারে, আমাদের মানবিক এজেন্সি সংরক্ষণ এবং মানুষ হওয়ার অন্তর্নিহিত মূল্য প্রতিষ্ঠার উপায় খুঁজতে হবে. এবং এমন এক জগতে ক্ষমতার চরম কেন্দ্রীভবন ঠেকাতে হবে, যেখানে আগে হাজারো বিশেষজ্ঞের প্রয়োজন হতো এমন কাজ এখন বড় কম্পিউটার চালানো কয়েকজন মানুষের পক্ষেই সম্ভব হবে. আর নিশ্চিত করতে হবে যে মানুষ ভবিষ্যতের নিয়ন্ত্রণে থাকে এবং আমাদের চেয়ে বেশি সক্ষম এক ভিনধর্মী বুদ্ধি থেকে আসা লাগামহীন অগ্রগতির কারণে পিছিয়ে না পড়ে.

বর্তমানে আমার বিশ্বাস, কোনো ল্যাবই অ্যালাইনমেন্ট ও মনিটরিং এমন মাত্রায় সমাধান করেনি যাতে আরও দীর্ঘ সময় সর্বোচ্চ গতিতে দায়িত্বশীলভাবে স্কেলিং চালিয়ে যেতে পারে. সাধারণ নিরাপত্তা মানদণ্ড প্রতিষ্ঠা না হওয়া পর্যন্ত স্বেচ্ছায় ধীরগতি সাধারণ হয়ে উঠবে—এমনটাই আমি আশা করি ও কামনা করি. এবং আমার বিশ্বাস, ভবিষ্যৎ AI উন্নয়ন নিয়ে আন্তর্জাতিক সমন্বয় বিশ্বজুড়ে সরকারগুলোর শীর্ষ অগ্রাধিকার হওয়া দরকার.