আমাদের নীতিমালা

AI সমাজের বহু দিককে উল্লেখযোগ্যভাবে উন্নত করার সম্ভাবনা রাখে.

আগের অন্যান্য প্রযুক্তির মতোই, এই প্রযুক্তি মানুষকে আরও বেশি সক্ষমতা ও স্বায়ত্তশাসন দেবে; AI ব্যবহার করে মানুষ যা করতে পারবে, তা স্টিম ইঞ্জিন বা বিদ্যুৎ দিয়ে মানুষ যা করতে পেরেছে তার তুলনায় অনেক বেশি হবে.

আমরা এমন একটি বিশ্বের কল্পনা করি যেখানে ব্যাপক সমৃদ্ধি এমন এক পর্যায়ে পৌঁছাবে যা বর্তমানে কল্পনা করা কঠিন, এবং এমন একটি বিশ্ব যেখানে ব্যক্তিগত সম্ভাবনা, স্বায়ত্তশাসন ও আত্মতৃপ্তি উল্লেখযোগ্যভাবে বৃদ্ধি পাবে. সায়েন্স ফিকশনে আমরা যেসব বিষয় কেবল স্বপ্ন দেখার সাহস করেছি, তার অনেক কিছুই বাস্তবে পরিণত হতে পারে, এবং অধিকাংশ মানুষ আজকের তুলনায় আরও বেশি অর্থবহ জীবনযাপন করতে পারে.

কিন্তু এই ফলাফল নিশ্চিত নয়. ভবিষ্যতের ক্ষমতা হয় সুপারইন্টেলিজেন্স ব্যবহার ও নিয়ন্ত্রণকারী অল্প কয়েকটি কোম্পানির হাতে কেন্দ্রীভূত হতে পারে, অথবা বিকেন্দ্রীভূতভাবে মানুষের হাতে থাকতে পারে. আমরা বিশ্বাস করি দ্বিতীয় পথটি অনেক ভালো, এবং আমাদের লক্ষ্য হলো সত্যিকারের সাধারণ AI যত বেশি সম্ভব মানুষের হাতে পৌঁছে দেওয়া. বর্তমানের মতো ভবিষ্যতও পুরোপুরি খারাপ বা পুরোপুরি ভালো হবে না, তবে আমরা এখন যে সিদ্ধান্তগুলো নিই তা ভালো দিকটিকে সর্বাধিক করতে সাহায্য করতে পারে.

আমাদের মিশন হলো AGI যেন সমগ্র মানবতার উপকারে আসে তা নিশ্চিত করা. আমাদের কাজকে পরিচালিত করে এমন নীতিগুলো এখানে দেওয়া হলো.

1. গণতন্ত্রীকরণ. আমরা এই প্রযুক্তির সেই সম্ভাবনার বিরোধিতা করব, যা ক্ষমতাকে অল্প কয়েকজনের হাতে কেন্দ্রীভূত করতে পারে.

এর অর্থ হলো, সবাইকে AI-তে প্রবেশাধিকার দেওয়ার পাশাপাশি আমাদের নিশ্চিত করতে হবে যে AI সম্পর্কিত গুরুত্বপূর্ণ সিদ্ধান্তগুলো গণতান্ত্রিক প্রক্রিয়া ও সমতাভিত্তিক নীতির মাধ্যমে নেওয়া হয়, শুধু AI ল্যাবগুলোর মাধ্যমে নয়.

2. ক্ষমতায়ন. আমরা বিশ্বাস করি AI সবার লক্ষ্য অর্জন, আরও শেখা, আরও সুখী ও পরিপূর্ণ হওয়া, এবং নিজের স্বপ্ন অনুসরণ করতে সহায়তা করতে পারে, এবং এর ফলে সামগ্রিকভাবে সমাজ উপকৃত হবে.

এটি অর্জনের জন্য মানুষের সামনে থাকা বিপুল সম্ভাবনা অন্বেষণ করার সুযোগ দিতে হবে, এবং আমাদের এমন পণ্য তৈরি করতে হবে যা এটি সম্ভব করে. ব্যবহারকারীরা যেন নির্ভরযোগ্যভাবে আমাদের সেবার মাধ্যমে ক্রমেই আরও মূল্যবান কাজ সম্পন্ন করতে পারেন.

পৃথিবী বৈচিত্র্যময় এবং মানুষের চাহিদা ভিন্ন ভিন্ন. আমরা আমাদের ব্যবহারকারীদের তাদের প্রয়োজনীয় স্বায়ত্তশাসন দিতে চাই এবং যুক্তিসঙ্গতভাবে যতটা সম্ভব স্বাধীনতা দিতে চাই.

যদিও আমরা চাই আমাদের ব্যবহারকারীরা আমাদের সেবাগুলো কীভাবে ব্যবহার করবেন সে বিষয়ে খুব বিস্তৃত স্বাধীনতা পাক এবং আমরা দৃঢ়ভাবে বিশ্বাস করি যে সামগ্রিকভাবে AI বিপুল উপকার বয়ে আনবে, তবু এটিকে এমনভাবে তৈরি ও মোতায়েন করার দায়িত্ব আমাদের আছে যাতে ক্ষতি ন্যূনতম হয়. এর মধ্যে অবশ্যই বিপর্যয়কর ক্ষতি প্রতিরোধ করা রয়েছে, তবে স্থানীয় ক্ষতি কমানো এবং সম্ভাব্য ক্ষয়কর সামাজিক প্রভাব এড়ানোও রয়েছে. এর অর্থ হলো অনিশ্চয়তার মুখে সতর্কতার দিকেই ঝোঁকা, এবং আরও প্রমাণের ভিত্তিতে সীমাবদ্ধতা শিথিল করা.

3. সার্বজনীন সমৃদ্ধি. আমরা এমন একটি ভবিষ্যত চাই যেখানে সবাই চমৎকার জীবনযাপন করতে পারে.

সহজে ব্যবহারযোগ্য এবং বিপুল কম্পিউট শক্তিসম্পন্ন AI সিস্টেম সবার হাতে পৌঁছে দিয়ে আমরা বিশ্বাস করি মানুষ মূল্য সৃষ্টির নতুন পথ খুঁজে পাবে এবং সবার জীবনমান ব্যাপকভাবে উন্নত করবে, বিশেষত নতুন বিজ্ঞান আবিষ্কারের মাধ্যমে.

সমৃদ্ধি যাতে পূর্ণভাবে বাস্তবায়িত হয় এবং ব্যাপকভাবে সবার মাঝে ভাগ হয়, সে জন্য আমরা বিশ্বাস করি যে 1) আমাদের সরকারগুলোকে হয়তো নতুন অর্থনৈতিক মডেল বিবেচনা করতে হবে, যাতে সবাই সামনে থাকা মূল্য সৃষ্টির প্রক্রিয়ায় অংশ নিতে পারে এবং 2) আমাদের বিপুল পরিমাণ AI অবকাঠামো গড়ে তুলতে হবে এবং AI অবকাঠামোর খরচ অনেক কমাতে নতুন প্রযুক্তি উন্নয়ন করতে হবে.

আমরা যে অনেক কাজ করি, যা দেখতে অস্বাভাবিক লাগতে পারে—যেমন আমাদের আয় তুলনামূলকভাবে কম থাকা সত্ত্বেও বিপুল কম্পিউট কেনা, খরচ কমাতে ও আমাদের প্রযুক্তি ব্যবহার সহজ করতে উল্লম্বভাবে একীভূত হওয়া, বিশ্বজুড়ে ডেটাসেন্টার নির্মাণে জোর দেওয়া, এবং আরও অনেক কিছু—এসবই সার্বজনীন সমৃদ্ধির ভবিষ্যতের প্রতি আমাদের মৌলিক বিশ্বাস দ্বারা চালিত.

4. স্থিতিস্থাপকতা. AI নতুন ঝুঁকি নিয়ে আসবে, এবং সেগুলো সমাধানে আমরা অন্যান্য কোম্পানি, ইকোসিস্টেম, সরকার ও সমাজের সঙ্গে কাজ করব. এই কাজকে সমর্থন করতে আমরা আমাদের Foundation-এর সম্পদের উল্লেখযোগ্য ব্যবহার করব.

কোনো একক AI ল্যাব একা ভালো ভবিষ্যত নিশ্চিত করতে পারে না. একটি স্পষ্ট উদাহরণ হলো, এমন অত্যন্ত সক্ষম মডেল থাকতে পারে যা নতুন প্যাথোজেন তৈরি করা সহজ করে দেয়, এবং এর বিরুদ্ধে প্রতিরক্ষার জন্য আমাদের প্যাথোজেন-অ্যাগনস্টিক প্রতিরোধব্যবস্থাসহ সমাজব্যাপী একটি পদ্ধতি দরকার. আরেকটি উদাহরণ হিসেবে, মডেলগুলোর সাইবারসিকিউরিটি সক্ষমতা বাড়ার সঙ্গে সঙ্গে, আমাদের দ্রুত এই মডেলগুলো ব্যবহার করে ওপেন-সোর্স সফটওয়্যার ও গুরুত্বপূর্ণ অবকাঠামো সুরক্ষিত করতে সহায়তা করতে হবে, একই সঙ্গে মডেলগুলোকে এমনভাবে প্রশিক্ষণ দিতে হবে যাতে তারা সবাইকে আরও নিরাপদ সফটওয়্যার তৈরি করতে সাহায্য করে.

এটি আমাদের দীর্ঘদিনের ধাপে ধাপে মোতায়েন কৌশলেরই বিস্তৃতি; আমরা বিশ্বাস করি সমাজকে AI সক্ষমতার প্রতিটি পরবর্তী স্তরের সঙ্গে মোকাবিলা করতে, তা বুঝতে, একীভূত করতে এবং একসঙ্গে সর্বোত্তম অগ্রগতির পথ নির্ধারণ করতে হবে. এটি শূন্যতায় করা সম্ভব নয়; সমাজ ও প্রযুক্তি সহ-বিবর্তিত হয়, আর তার জন্য সময় লাগে.

এটিকে আমরা আমাদের একমাত্র নিরাপত্তা কৌশল হিসেবে বোঝাতে চাই না; আমাদের নিরাপদ সিস্টেমও তৈরি করতে হবে এবং প্রযুক্তিগত অ্যালাইনমেন্ট নিয়ে উৎকৃষ্ট কাজ চালিয়ে যেতে হবে.

আমরা আশা করি এমন সময় আসবে যখন আমাদের সরকার, আন্তর্জাতিক সংস্থা এবং অন্যান্য AGI প্রচেষ্টার সঙ্গে সহযোগিতা করতে হবে, যাতে আমাদের কাজ আরও এগিয়ে নেওয়ার আগে গুরুতর অ্যালাইনমেন্ট, নিরাপত্তা বা সামাজিক সমস্যাগুলোর যথেষ্ট সমাধান হয়েছে তা নিশ্চিত করা যায়.

5. অভিযোজনযোগ্যতা. আমরা এখনো বিশ্বাস করি যে খুব অনিশ্চিত ভবিষ্যতের চ্যালেঞ্জ মোকাবিলার একমাত্র উপায় হলো আরও শেখার সঙ্গে সঙ্গে আমাদের অবস্থান হালনাগাদ করতে প্রস্তুত থাকা. আমরা এটাও স্বীকার করি যে কয়েক বছর আগের তুলনায় OpenAI এখন বিশ্বে অনেক বড় একটি শক্তি, এবং কখন, কীভাবে ও কেন আমাদের পরিচালন নীতিমালা বদলায় সে বিষয়ে আমরা স্বচ্ছ থাকব. একটি নির্দিষ্ট উদাহরণ হিসেবে, আমরা যথেষ্ট আত্মবিশ্বাসী যে সার্বজনীন সমৃদ্ধি অত্যন্ত গুরুত্বপূর্ণই থাকবে, তবে আমরা ভবিষ্যতে এমন সময় কল্পনা করতে পারি যখন আরও বেশি স্থিতিস্থাপকতার জন্য আমাদের কিছু ক্ষমতায়নের সঙ্গে আপস করতে হবে.

AI উন্নয়ন অনেক চমক নিয়ে এসেছে, এবং আরও অনেক কিছু এখনো আসার বাকি. প্রযুক্তি যত এগোবে, এর উদীয়মান আচরণ ততই পূর্বানুমান করা কঠিন হয়ে উঠবে. আমরা সেই অনিশ্চয়তাকে গ্রহণ করি⁠ সক্ষমতাকে সতর্কতার সঙ্গে এগিয়ে নিয়ে, ধাপে ধাপে সিস্টেম মোতায়েন করে, এবং বিশ্বের সঙ্গে তাদের মিথস্ক্রিয়া থেকে শিখে.

খুব বেশি দিন আগে নয়, আমরা GPT‑2‑এর weights প্রকাশ করা নিয়ে উদ্বিগ্ন ছিলাম, কারণ আমরা নিশ্চিত ছিলাম না যে এর সামাজিক প্রভাব কী হবে. এখন ফিরে তাকালে স্পষ্ট যে সেই উদ্বেগটি সঠিক ছিল না, কিন্তু এর ফলেই আমরা ধাপে ধাপে মোতায়েন কৌশল আবিষ্কার করি, যা আমাদের উদ্ভাবিত সবচেয়ে গুরুত্বপূর্ণ বিষয়গুলোর একটি.

__

প্রযুক্তি উন্নত হতে থাকায় আমরা অত্যন্ত প্রভাবশালী এক পর্যায়ে প্রবেশ করছি. আমাদের প্রতিটি সিদ্ধান্তের সমালোচনা করা একেবারেই ন্যায্য; আমরা যা করছি তার গুরুত্ব বিবেচনায় আমাদের ওপর বিপুল মাত্রার পর্যালোচনা প্রাপ্য. আমরা সবকিছু সঠিকভাবে করতে পারব না, কিন্তু আমরা দ্রুত শিখব এবং প্রয়োজনে পথ সংশোধন করব.

আমরা আমাদের অংশটুকু করতে প্রতিশ্রুতিবদ্ধ, যাতে ভবিষ্যত অতীতের চেয়ে ভালো হয়; এত গুরুত্বপূর্ণ কাজ করার সুযোগ পেয়ে আমরা নিজেদের সৌভাগ্যবান মনে করি.