AI অ্যালাইনমেন্টে স্বাধীন গবেষণা অগ্রসর করা

যখন AI সিস্টেমগুলো আরও সক্ষম ও স্বায়ত্তশাসিত হয়ে উঠছে, তখন অ্যালাইনমেন্ট গবেষণাকে একই সঙ্গে তাল মিলিয়ে চলতে হবে এবং বৈচিত্র্যকে প্রসারিত করতে হবে. OpenAI-এ, আমরা অত্যাধুনিক অ্যালাইনমেন্ট এবং নিরাপত্তা গবেষণায় ব্যাপকভাবে বিনিয়োগ করি কারণ এটি আমাদের মিশনের জন্য অত্যন্ত গুরুত্বপূর্ণ. আমরাও বিশ্বাস করি যে AGI সবার জন্য নিরাপদ ও উপকারী করা কোনো একক সংস্থার পক্ষে সম্ভব নয় এবং আমরা স্বাধীন গবেষণা ও ধারণাগত পদ্ধতিগুলিকে সমর্থন করতে চাই, যা অত্যাধুনিক ল্যাবগুলির বাইরে অনুসরণ করা যেতে পারে. আমরা বিশ্বাস করি AI-এর ভবিষ্যৎ কারো পূর্বাভাস অনুযায়ী ঠিকভাবে উন্মোচিত হবে না, এবং আরও অনেক মানুষেরই ফলাফল গঠনে অংশ নেওয়া উচিত.

আজ আমরা The Alignment Project⁠(একটি নতুন উইন্ডোতে খোলে)-কে 7.5 মিলিয়ন ডলার অনুদান দেওয়ার ঘোষণা করছি, যা UK AI Security Institute (UK AISI) দ্বারা তৈরি স্বাধীন অ্যালাইনমেন্ট গবেষণার জন্য একটি বৈশ্বিক তহবিল. Renaissance Philanthropy অনুদানের প্রশাসনিক কাজকে সমর্থন করছে. এই অবদানটি The Alignment Project-কে স্বাধীন অ্যালাইনমেন্ট গবেষণার জন্য আজ পর্যন্ত বৃহত্তম নিবেদিত তহবিল প্রচেষ্টাগুলোর একটি হিসেবে গড়ে তুলতে সহায়তা করে এবং বৃহত্তর, স্বাধীন ইকোসিস্টেমকে শক্তিশালী করে.

OpenAI-এর মতো অত্যাধুনিক ল্যাবগুলি অত্যাধুনিক মডেল এবং উল্লেখযোগ্য কম্পিউট অ্যাক্সেসের উপর নির্ভরশীল অ্যালাইনমেন্ট গবেষণা চালানোর জন্য একটি বিশেষ অবস্থানে রয়েছে—এমন কাজ যা স্বাধীন গবেষকদের জন্য প্রায়ই অনুসন্ধান করা কঠিন. আমরা আমাদের অভ্যন্তরীণ সামঞ্জস্য প্রচেষ্টার একটি বড় অংশ স্কেলযোগ্য পদ্ধতি উন্নয়নে ব্যয় করি, যাতে সামঞ্জস্যের অগ্রগতি সক্ষমতার অগ্রগতির সাথে তাল মিলিয়ে চলতে পারে. আমরা পুনরাবৃত্তিমূলক ডিপ্লয়মেন্টে বিশ্বাস করি—সুরক্ষাব্যবস্থা শক্তিশালী করার সময় ধীরে ধীরে সক্ষমতা বৃদ্ধি—সমস্যাগুলোকে দ্রুত সামনে আনতে সাহায্য করে এবং বাস্তবে কী কাজ করে সে সম্পর্কে আমাদেরকে সুনির্দিষ্ট প্রমাণ দেয়. দায়িত্বশীল উন্নয়নের জন্য উল্লেখযোগ্য অ্যালাইনমেন্ট ও সেফটি কাজ প্রয়োজন, যা মডেল নির্মাণ ও ডিপ্লয়মেন্টের সাথে ঘনিষ্ঠভাবে একীভূত.

একইসঙ্গে, ক্ষেত্রটি স্বাধীন ও অনুসন্ধানমূলক গবেষণায় ধারাবাহিক বিনিয়োগের মাধ্যমে উপকৃত হয়—যা ধারণার পরিসরকে প্রসারিত করতে এবং নতুন দিকনির্দেশনা উন্মোচন করতে সহায়তা করে. স্বাধীন গবেষণা অপরিহার্য; অনেক ধরনের উপযোগী অনুসন্ধানে, ল্যাবগুলির তুলনামূলক সুবিধা থাকে না. একটি সুস্থ অ্যালাইনমেন্ট ইকোসিস্টেম নির্ভর করে স্বাধীন দলগুলোর উপর, যারা বিভিন্ন অনুমান পরীক্ষা করে, বিকল্প কাঠামো তৈরি করে এবং এমন ধারণাগত, তাত্ত্বিক ও উদ্ভাবনী আইডিয়া অনুসন্ধান করে, যা কোনো একক প্রতিষ্ঠানের রোডম্যাপের সঙ্গে সবসময় সঠিকভাবে মেলে না.

আর যেহেতু AGI-এর দিকে অগ্রগতি শেষ পর্যন্ত এমন মৌলিক সাফল্যের উপর নির্ভর করতে পারে যা অ্যালাইনমেন্ট সমস্যার কাঠামো বদলে দেয় এবং কোন পদ্ধতিগুলো সবচেয়ে উপযোগী তা পরিবর্তন করে, তাই এমন গবেষণাকে সমর্থন করা গুরুত্বপূর্ণ যা আজকের প্রভাবশালী পদ্ধতিগুলো আমাদের প্রত্যাশিতভাবে স্কেল নাও করতে পারে, তবুও তা প্রাসঙ্গিক থাকবে. সেইসব জগতে, মৌলিক, ধারণাগত এবং অসংগত কাজ পরিচালনাকারী একটি শক্তিশালী বাহ্যিক বাস্তুতন্ত্র থাকা বিশেষভাবে গুরুত্বপূর্ণ হয়ে ওঠে. AI সামঞ্জস্য এবং নিরাপত্তার সমস্যা অভূতপূর্ব গুরুত্বের এবং আমরা এখনও জানি না কোন পদ্ধতিগুলি সবচেয়ে টেকসই প্রমাণিত হবে কারণ সক্ষমতা অব্যাহতভাবে উন্নত হচ্ছে, তাই আমাদের সবারই এগিয়ে আসা প্রয়োজন.

আমাদের অনুদান—বর্তমান বিনিময় হারে আনুমানিক 5.6 মিলিয়ন পাউন্ড—অন্যান্য সরকারি, দাতব্য এবং শিল্পখাতের পৃষ্ঠপোষকদের পাশাপাশি The Alignment Project⁠(একটি নতুন উইন্ডোতে খোলে)-এ সহ-অর্থায়ন করবে. মোট তহবিল 27 মিলিয়ন পাউন্ডের বেশি এবং এটি বিশ্বব্যাপী অ্যালাইনমেন্ট গবেষণা প্রকল্পগুলোর একটি বিস্তৃত পোর্টফোলিওকে সমর্থন করার জন্য ডিজাইন করা হয়েছে, যেখানে কম্পিউটেশনাল কমপ্লেক্সিটি তত্ত্ব, অর্থনৈতিক তত্ত্ব ও গেম তত্ত্ব, জ্ঞানীয় বিজ্ঞান এবং তথ্য তত্ত্ব ও ক্রিপ্টোগ্রাফির মতো বৈচিত্র্যময় বিষয় অন্তর্ভুক্ত রয়েছে. স্বতন্ত্র প্রকল্পগুলো সাধারণত 50,000 পাউন্ড থেকে 1 মিলিয়ন পাউন্ড পর্যন্ত অর্থায়ন পায় এবং ঐচ্ছিকভাবে কম্পিউটিং রিসোর্স ও বিশেষজ্ঞ সহায়তার অ্যাক্সেসও পেতে পারে.

আমাদের অর্থায়ন কোনো নতুন প্রোগ্রাম বা নির্বাচন প্রক্রিয়া তৈরি করে না এবং বিদ্যমান প্রক্রিয়াকে প্রভাবিতও করে না; এটি বর্তমান রাউন্ডে অর্থায়ন করা যেতে পারে এমন ইতোমধ্যেই যাচাই-বাছাই করা, উচ্চ-মানের প্রকল্প⁠(একটি নতুন উইন্ডোতে খোলে) এর সংখ্যা বাড়ায়.

UK AISI এই স্কেল এবং পরিসরে সারিবদ্ধকরণ তহবিল পরিচালনা করতে ভালোভাবে প্রস্তুত. এটি সরকার, একাডেমিয়া, দাতব্য সংস্থা এবং শিল্পের মধ্যে বিস্তৃত একটি প্রতিষ্ঠিত আন্তঃখাত জোটকে একত্রিত করে, সাথে একটি চলমান অনুদান প্রদানের প্রক্রিয়া এবং বিশেষজ্ঞ পর্যালোচনার মধ্য দিয়ে যাওয়া প্রস্তাবনার একটি বৃহৎ ভাণ্ডারও নিয়ে আসে. যুক্তরাজ্য সরকারের বিজ্ঞান, উদ্ভাবন ও প্রযুক্তি বিভাগ (DSIT)-এর অধীন একটি গবেষণা সংস্থা হিসেবে, এটি গুরুতর AI ঝুঁকির উপর কেন্দ্রীভূত একটি ম্যান্ডেট নিয়ে কাজ করে এবং গবেষণা অর্থায়ন প্রোগ্রাম পরিচালনায় অভিজ্ঞ.

কারণ AI-এর ভবিষ্যৎ কারো পূর্বাভাস অনুযায়ী ঠিকভাবে উন্মোচিত হবে না এবং খুব দ্রুত অগ্রসরও হতে পারে, আমরা বিশ্বাস করি যে গণতান্ত্রিকীকরণ, “AI স্থিতিস্থাপকতা,” এবং পুনরাবৃত্তিমূলক স্থাপন অপরিহার্য. OpenAI-এ আমরা আমাদের অত্যাধুনিক অ্যালাইনমেন্ট এবং নিরাপত্তা গবেষণা এগিয়ে নিয়ে যেতে থাকলেও, সক্ষমতা অগ্রসর হওয়ার সাথে সাথে পরিপূরক পদ্ধতি অনুসরণকারী একটি শক্তিশালী, বৈচিত্র্যময়, স্বাধীন ইকোসিস্টেম থেকে অগ্রগতি উপকৃত হবে. এই অনুদানটি সেই লক্ষ্য অর্জনের দিকে একটি পদক্ষেপ. ক্ষেত্রের অগ্রগতির সাথে সাথে আমরা বৃহত্তর গবেষণা কমিউনিটির সাথে সহযোগিতা চালিয়ে যাওয়ার জন্য উন্মুখ.