OpenAI রেড টিমিং নেটওয়ার্ক

আমরা OpenAI রেড টিমিং নেটওয়ার্কে যোগ দেওয়ার জন্য উন্মুক্তভাবে আবেদন আহ্বান করছি. OpenAI-এর মডেলগুলোর নিরাপত্তা উন্নত করতে আগ্রহী বিভিন্ন ক্ষেত্রের বিশেষজ্ঞদের আমাদের এই প্রচেষ্টায় যোগ দেওয়ার আমন্ত্রণ জানাচ্ছি. আমাদের এআই মডেলগুলোর পুঙ্খানুপুঙ্খ মূল্যায়ন ও রেড টিমিংয়ে সহযোগিতা করার জন্য আমরা বিভিন্ন ক্ষেত্রের বিশেষজ্ঞদের খুঁজছি.

রেড টিমিং^A আমাদের ধাপে ধাপে উন্নয়ন করে ব্যবহারে আনার প্রক্রিয়ার⁠ একটি অবিচ্ছেদ্য অংশ. গত কয়েক বছরে আমাদের রেড টিমিংয়ের পরিসর বেড়েছে. শুরুতে OpenAI-এর অভ্যন্তরে প্রতিকূল পরিস্থিতিতে পরীক্ষার ওপর জোর দেওয়া হতো. এখন আমরা বাইরের একদল বিশেষজ্ঞের^B সঙ্গে কাজ করছি, যাতে ক্ষেত্রভিত্তিক ঝুঁকির শ্রেণিবিন্যাস তৈরি করা যায় এবং নতুন ব্যবস্থাগুলোর সম্ভাব্য ক্ষতিকর সক্ষমতা মূল্যায়ন করা যায়. DALL·E 2⁠(একটি নতুন উইন্ডোতে খোলে) ও GPT‑4⁠(একটি নতুন উইন্ডোতে খোলে)-এর মতো মডেলে আমাদের আগের রেড টিমিং কার্যক্রম সম্পর্কে আরও পড়তে পারেন. এর মধ্যে বাইরের বিশেষজ্ঞদের সঙ্গে আমাদের আগের কাজও রয়েছে.^C

আগের এই কাজের ভিত্তিতে আজ আমরা আরও আনুষ্ঠানিক একটি উদ্যোগ শুরু করছি. আমাদের মডেলগুলোকে আরও নিরাপদ করতে বাইরের বিশেষজ্ঞদের সঙ্গে সহযোগিতার গভীরতা ও পরিসর বাড়ানোই এর উদ্দেশ্য. ব্যক্তিগত পর্যায়ে বিশেষজ্ঞদের সঙ্গে এবং গবেষণা প্রতিষ্ঠান ও নাগরিক সমাজের সংগঠনগুলোর সঙ্গে কাজ করা আমাদের প্রক্রিয়ার একটি গুরুত্বপূর্ণ অংশ. তৃতীয় পক্ষের নিরীক্ষার মতো বাইরে থেকে নির্ধারিত তত্ত্বাবধানমূলক ব্যবস্থার পরিপূরক হিসেবে আমরা এই কাজকে দেখি.

OpenAI রেড টিমিং নেটওয়ার্ক হলো বিশ্বস্ত ও অভিজ্ঞ বিশেষজ্ঞদের একটি সম্প্রদায়. বড় মডেলগুলো ব্যবহারে আনার আগে এককালীন সম্পৃক্ততা ও বাছাইপ্রক্রিয়ার মধ্যে সীমাবদ্ধ না থেকে, এই সম্প্রদায় আমাদের ঝুঁকি মূল্যায়ন ও প্রশমনের কাজে আরও বিস্তৃতভাবে তথ্য ও পরামর্শ দিয়ে সহায়তা করতে পারে. মডেল ও পণ্য উন্নয়নের বিভিন্ন পর্যায়ে রেড টিমিংয়ে সহায়তার জন্য নেটওয়ার্কের সদস্যদের তাঁদের বিশেষজ্ঞতা অনুযায়ী ডাকা হবে. প্রতিটি নতুন মডেল বা পণ্যের সঙ্গে সব সদস্য যুক্ত থাকবেন না. প্রত্যেক সদস্যের সঙ্গে আলোচনা করে ঠিক করা হবে তিনি কতটা সময় দেবেন—তা বছরে মাত্র ৫–১০ ঘণ্টাও হতে পারে.

OpenAI-এর উদ্যোগে পরিচালিত রেড টিমিং কার্যক্রমের বাইরেও সদস্যরা রেড টিমিংয়ের সাধারণ চর্চা ও ফলাফল নিয়ে নিজেদের মধ্যে মতবিনিময়ের সুযোগ পাবেন. এর লক্ষ্য হলো আরও বৈচিত্র্যময় ও ধারাবাহিক মতামত পাওয়ার সুযোগ তৈরি করা এবং রেড টিমিংকে বারবার পরীক্ষা ও উন্নয়নের প্রক্রিয়ায় রূপ দেওয়া. এই নেটওয়ার্ক এআইয়ের নিরাপত্তা নিয়ে সহযোগিতার অন্যান্য সুযোগের পরিপূরক. এর মধ্যে রয়েছে আমাদের গবেষকদের প্রবেশাধিকার কর্মসূচি⁠ ও উন্মুক্ত উৎসের মূল্যায়নগুলো⁠(একটি নতুন উইন্ডোতে খোলে).

এই নেটওয়ার্ক আরও নিরাপদ এআই প্রযুক্তি ও নীতিমালা গড়ে তোলায় ভূমিকা রাখার এক অনন্য সুযোগ দেয়. আমাদের জীবনযাপন, কাজ ও পারস্পরিক যোগাযোগে এআই কেমন প্রভাব ফেলবে, তা নির্ধারণেও অবদান রাখার সুযোগ দেয়. এই নেটওয়ার্কে যোগ দিলে আপনি আমাদের বিষয়ভিত্তিক বিশেষজ্ঞ দলের সদস্য হবেন. আমাদের মডেল ও ব্যবস্থাগুলো ব্যবহারে আনার বিভিন্ন পর্যায়ে সেগুলো মূল্যায়নের জন্য এই বিশেষজ্ঞদের ডাকা হতে পারে.

এআই ব্যবস্থা মূল্যায়ন করতে হলে নানা ক্ষেত্র, বিচিত্র দৃষ্টিভঙ্গি ও বাস্তব জীবনের অভিজ্ঞতা সম্পর্কে বোঝাপড়া থাকা প্রয়োজন. আমরা সারা বিশ্বের বিশেষজ্ঞদের কাছ থেকে আবেদন আহ্বান করছি এবং বাছাইয়ের ক্ষেত্রে ভৌগোলিক ও বিশেষজ্ঞতার ক্ষেত্রের বৈচিত্র্যকে অগ্রাধিকার দিচ্ছি. 

আমাদের আগ্রহের কিছু ক্ষেত্র নিচে দেওয়া হলো, তবে আগ্রহ শুধু এগুলোর মধ্যেই সীমাবদ্ধ নয়:

এআই ব্যবস্থা বা ভাষা মডেল নিয়ে কাজের পূর্ব অভিজ্ঞতা আবশ্যক নয়, তবে তা সহায়ক হতে পারে. আমরা সবচেয়ে গুরুত্ব দিই আপনার অংশগ্রহণের আগ্রহকে এবং এআই ব্যবস্থার প্রভাব মূল্যায়নে আপনার নিজস্ব দৃষ্টিভঙ্গি তুলে ধরার ইচ্ছাকে.

OpenAI রেড টিমিং নেটওয়ার্কের সব সদস্য রেড টিমিং প্রকল্পে অংশ নিলে তাঁদের অবদানের জন্য পারিশ্রমিক পাবেন. এই নেটওয়ার্কের সদস্যপদ আপনার গবেষণা প্রকাশ বা অন্য সুযোগ গ্রহণের পথে বাধা হবে না. তবে মনে রাখবেন, রেড টিমিং ও অন্যান্য প্রকল্পে অংশগ্রহণ প্রায়ই গোপনীয়তা চুক্তির (এনডিএ) আওতাধীন থাকে বা অনির্দিষ্টকালের জন্য গোপন রাখতে হয়.

আবেদন গ্রহণ এখন বন্ধ.

প্রশ্ন: নেটওয়ার্কে যোগ দিলে কী করতে হবে?

উত্তর: নেটওয়ার্কের সদস্য হলে নতুন কোনো মডেল পরীক্ষা করার বা ইতিমধ্যে ব্যবহৃত কোনো মডেলে আগ্রহের একটি নির্দিষ্ট দিক পরীক্ষা করার সুযোগ নিয়ে আপনার সঙ্গে যোগাযোগ করা হতে পারে. নেটওয়ার্কের আওতায় করা কাজ গোপনীয়তা চুক্তির (এনডিএ) অধীন. তবে এর আগে আমরা রেড টিমিংয়ে পাওয়া বহু ফলাফল ব্যবস্থার বিবরণপত্রে ও ব্লগ পোস্টে প্রকাশ করেছি. রেড টিমিং প্রকল্পে দেওয়া সময়ের জন্য আপনি পারিশ্রমিক পাবেন.

প্রশ্ন: নেটওয়ার্কের সদস্য হিসেবে কতটা সময় দিতে হবে? 

উত্তর: আপনার সময়সূচি অনুযায়ী কতটা সময় দেবেন, তা সমন্বয় করা যাবে. মনে রাখবেন, প্রতিটি সুযোগের জন্য নেটওয়ার্কের সবার সঙ্গে যোগাযোগ করা হবে না. নির্দিষ্ট রেড টিমিং প্রকল্পের উপযোগিতা অনুযায়ী OpenAI সদস্য বাছাই করবে এবং পরবর্তী রেড টিমিং কার্যক্রমগুলোতে নতুন দৃষ্টিভঙ্গিকে গুরুত্ব দেবে. বছরে মাত্র ৫ ঘণ্টা দিলেও তা আমাদের কাছে মূল্যবান. তাই আগ্রহ থাকলেও সময় কম হলে আবেদন করতে দ্বিধা করবেন না.

প্রশ্ন: আবেদনকারীদের নির্বাচিত হওয়ার খবর কখন জানানো হবে?

উত্তর: OpenAI পর্যায়ক্রমে নেটওয়ার্কের সদস্য বাছাই করবে এবং আপনি ১ ডিসেম্বর, ২০২৩ পর্যন্ত আবেদন করতে পারবেন. আবেদনের এই সময়সীমা শেষ হলে ভবিষ্যতে আবার আবেদনের সুযোগ দেওয়ার বিষয়টি আমরা বিবেচনা করব.

প্রশ্ন: নেটওয়ার্কের সদস্য হলে কি আমাকে প্রতিটি নতুন মডেলের রেড টিমিং করতে বলা হবে?

উত্তর: না. নির্দিষ্ট রেড টিমিং প্রকল্পের উপযোগিতা অনুযায়ী OpenAI সদস্য বাছাই করবে. তাই প্রতিটি নতুন মডেল পরীক্ষা করার সুযোগ পাবেন বলে ধরে নেওয়া উচিত নয়.

প্রশ্ন: নেটওয়ার্কের সদস্য বাছাইয়ে আপনারা কোন বিষয়গুলো দেখছেন?

উত্তর: আমরা যেসব বিষয় দেখছি, তার কয়েকটি হলো:

• রেড টিমিংয়ের সঙ্গে প্রাসঙ্গিক কোনো নির্দিষ্ট ক্ষেত্রে প্রমাণিত দক্ষতা বা অভিজ্ঞতা

• এআইয়ের নিরাপত্তা উন্নত করার ব্যাপারে প্রবল আগ্রহ

• স্বার্থের কোনো সংঘাত না থাকা

• বিভিন্ন পটভূমি ও বরাবরই কম প্রতিনিধিত্ব পেয়ে আসা জনগোষ্ঠীর অন্তর্ভুক্তি

• বিভিন্ন ভৌগোলিক অঞ্চলের প্রতিনিধিত্ব 

• একাধিক ভাষায় সাবলীলতা

• প্রযুক্তিগত দক্ষতা (আবশ্যক নয়)

প্রশ্ন: নিরাপত্তা নিয়ে সহযোগিতার আর কী কী সুযোগ আছে?

উত্তর: নেটওয়ার্কে যোগ দেওয়া ছাড়াও সহযোগিতার মাধ্যমে এআইয়ের নিরাপত্তায় অবদান রাখার অন্য সুযোগ রয়েছে. যেমন, এআই ব্যবস্থার নিরাপত্তা মূল্যায়নের পদ্ধতি তৈরি করা বা মূল্যায়ন চালিয়ে তার ফলাফল বিশ্লেষণ করা যেতে পারে.

এই প্রক্রিয়া দ্রুত শুরু করতে OpenAI-এর উন্মুক্ত উৎসের Evals⁠(একটি নতুন উইন্ডোতে খোলে) রিপোজিটরিতে সহজে ব্যবহারযোগ্য ছাঁচ ও নমুনা পদ্ধতি রয়েছে. এটি GPT‑4 প্রকাশের⁠ অংশ হিসেবে উন্মুক্ত করা হয়েছিল.

মূল্যায়ন হতে পারে সহজ প্রশ্নোত্তর পরীক্ষা থেকে শুরু করে আরও জটিল অনুকরণভিত্তিক পরীক্ষা পর্যন্ত. সুনির্দিষ্ট উদাহরণ হিসেবে, নানা দিক থেকে এআইয়ের আচরণ মূল্যায়নের জন্য OpenAI-এর তৈরি কিছু নমুনা মূল্যায়ন এখানে দেওয়া হলো:

প্রভাবিত করার ক্ষমতা

• MakeMeSay⁠(একটি নতুন উইন্ডোতে খোলে): একটি এআই ব্যবস্থা অন্য একটি এআই ব্যবস্থাকে কৌশলে দিয়ে কোনো গোপন শব্দ বলিয়ে নিতে কতটা পারদর্শী?

• MakeMePay⁠(একটি নতুন উইন্ডোতে খোলে): একটি এআই ব্যবস্থা অন্য একটি এআই ব্যবস্থাকে অর্থ দান করতে রাজি করাতে কতটা পারদর্শী?

• ভোটের প্রস্তাব⁠(একটি নতুন উইন্ডোতে খোলে): একটি রাজনৈতিক প্রস্তাবের প্রতি অন্য একটি এআই ব্যবস্থার সমর্থনকে একটি এআই ব্যবস্থা কতটা প্রভাবিত করতে পারে?

তথ্য আড়ালকরণ (লুকানো বার্তা আদান-প্রদান)

• তথ্য আড়ালকরণ⁠(একটি নতুন উইন্ডোতে খোলে): অন্য একটি এআই ব্যবস্থার কাছে ধরা না পড়ে একটি এআই ব্যবস্থা গোপন বার্তা পাঠাতে কতটা পারদর্শী?

• পাঠ্য সংকোচন⁠(একটি নতুন উইন্ডোতে খোলে): গোপন বার্তা লুকানোর জন্য একটি এআই ব্যবস্থা বার্তা সংকুচিত করতে এবং আগের রূপে ফিরিয়ে আনতে কতটা পারদর্শী?

• শেলিং বিন্দু⁠(একটি নতুন উইন্ডোতে খোলে): সরাসরি যোগাযোগ ছাড়াই একটি এআই ব্যবস্থা অন্য একটি এআই ব্যবস্থার সঙ্গে কতটা ভালোভাবে সমন্বয় করতে পারে?

এআই ব্যবস্থা মূল্যায়নে আমরা সৃজনশীলতা ও পরীক্ষা-নিরীক্ষাকে উৎসাহ দিই. আপনার মূল্যায়ন তৈরি হয়ে গেলে তা উন্মুক্ত উৎসের Evals⁠(একটি নতুন উইন্ডোতে খোলে) রিপোজিটরিতে যুক্ত করার আমন্ত্রণ জানাচ্ছি, যাতে বৃহত্তর এআই সম্প্রদায় তা ব্যবহার করতে পারে.

আপনি আমাদের গবেষকদের প্রবেশাধিকার কর্মসূচি⁠তেও আবেদন করতে পারেন. এআইয়ের দায়িত্বশীল প্রয়োগ ও সংশ্লিষ্ট ঝুঁকি কমানো নিয়ে গবেষণায় আমাদের পণ্য ব্যবহার করেন এমন গবেষকদের সহায়তা করতে এই কর্মসূচি ক্রেডিট দেয়.