যুদ্ধ বিভাগের সাথে আমাদের চুক্তি

গতকাল আমরা পেন্টাগনের সাথে সংরক্ষিত ও গোপন পরিবেশে উন্নত AI সিস্টেম মোতায়েনের বিষয়ে একটি চুক্তিতে পৌঁছেছি; আমরা তাদের অনুরোধ জানিয়েছি যেন এই সুযোগটি সমস্ত AI কোম্পানির জন্যও উন্মুক্ত করা হয়.

আমরা মনে করি, ক্লাসিফাইড (গোপনীয়) পরিবেশে AI মোতায়েনের জন্য পূর্বে সম্পাদিত অন্য যেকোনো চুক্তির তুলনায় আমাদের এই চুক্তিতে অনেক বেশি সুরক্ষাকবচ রয়েছে; এমনকি অ্যানথ্রোপিক (Anthropic)-এর চুক্তির চেয়েও. এখানে কারণটি.

DoW-এর সাথে আমাদের কাজকে নির্দেশনা দেয় এমন তিনটি প্রধান রেড লাইন আছে, যা সাধারণত আরও কয়েকটি অত্যাধুনিক ল্যাবও শেয়ার করে:

• গণ অভ্যন্তরীণ নজরদারির জন্য OpenAI প্রযুক্তির কোনো ব্যবহার নয়.
• স্বায়ত্তশাসিত অস্ত্র ব্যবস্থা পরিচালনার জন্য OpenAI প্রযুক্তির কোনো ব্যবহার নয়. 
• উচ্চ-ঝুঁকিপূর্ণ স্বয়ংক্রিয় সিদ্ধান্তের জন্য OpenAI প্রযুক্তির কোনো ব্যবহার নয় (যেমন, “সামাজিক ক্রেডিট”)-এর মতো সিস্টেমসমূহ.

অন্যান্য AI ল্যাবগুলো তাদের নিরাপত্তা গার্ডরেল কমিয়েছে বা সরিয়ে দিয়েছে এবং জাতীয় নিরাপত্তা ডিপ্লয়মেন্টে প্রাথমিক সুরক্ষাব্যবস্থা হিসেবে মূলত ব্যবহার নীতিমালার উপর নির্ভর করেছে. আমরা মনে করি আমাদের পদ্ধতি অগ্রহণযোগ্য ব্যবহার থেকে আরও ভালোভাবে সুরক্ষিত করে.

আমাদের চুক্তিতে, আমরা আরও বিস্তৃত, বহু-স্তরীয় পদ্ধতির মাধ্যমে আমাদের রেড লাইনগুলো সুরক্ষিত রাখি. আমরা আমাদের সেফটি স্ট্যাকের উপর পূর্ণ বিবেচনাধিকার বজায় রাখি, আমরা ক্লাউডের মাধ্যমে ডিপ্লয় করি, যাচাইকৃত OpenAI কর্মীরা প্রক্রিয়ায় যুক্ত থাকেন এবং আমাদের শক্তিশালী চুক্তিভিত্তিক সুরক্ষা রয়েছে. এই সবকিছুই মার্কিন আইনের বিদ্যমান শক্তিশালী সুরক্ষার পাশাপাশি যুক্ত. 

আমরা গণতন্ত্রে দৃঢ়ভাবে বিশ্বাস করি. এই প্রযুক্তির গুরুত্ব বিবেচনায়, আমরা বিশ্বাস করি যে সামনে এগোনোর একমাত্র ভালো পথ হলো AI উদ্যোগ এবং গণতান্ত্রিক প্রক্রিয়ার মধ্যে গভীর সহযোগিতা. আমরা আরও বিশ্বাস করি যে আমাদের প্রযুক্তি বিশ্বে নতুন ঝুঁকি নিয়ে আসবে এবং আমরা চাই United States-এর প্রতিরক্ষায় নিয়োজিত ব্যক্তিদের কাছে সর্বোত্তম সরঞ্জামগুলো থাকুক.

আমাদের চুক্তির মধ্যে রয়েছে:

1. ডিপ্লয়মেন্ট স্থাপত্য. এটি একটি কেবল-ক্লাউড ডিপ্লয়মেন্ট, যেখানে আমরা যে সেফটি স্ট্যাক চালাই তাতে এই নীতিমালা এবং অন্যান্য বিষয় অন্তর্ভুক্ত রয়েছে. আমরা DoW-কে “guardrails off” বা নিরাপত্তা নয় এমন প্রশিক্ষিত মডেল, কোনোটিই প্রদান করছি না এবং আমরা আমাদের মডেলগুলোকে এজ ডিভাইসে (যেখানে স্বায়ত্তশাসিত প্রাণঘাতী অস্ত্রের জন্য ব্যবহারের সম্ভাবনা থাকতে পারে) স্থাপনও করছি না. 

আমাদের ডিপ্লয়মেন্ট আর্কিটেকচার আমাদের স্বাধীনভাবে যাচাই করতে সক্ষম করবে যে এই রেড লাইনগুলো অতিক্রম করা হচ্ছে না, যার মধ্যে ক্লাসিফায়ার চালানো এবং আপডেট করাও অন্তর্ভুক্ত.

2. আমাদের চুক্তি. এখানে প্রাসঙ্গিক ভাষাটি রয়েছে:

যুদ্ধ বিভাগ প্রযোজ্য আইন, অপারেশনাল প্রয়োজনীয়তা এবং সুপ্রতিষ্ঠিত নিরাপত্তা ও তদারকি প্রোটোকলের সাথে সামঞ্জস্য রেখে, সকল বৈধ উদ্দেশ্যে AI System ব্যবহার করতে পারে. আইন, বিধিমালা, বা বিভাগের নীতিমালা যেখানে মানব নিয়ন্ত্রণের প্রয়োজন করে, এমন কোনো ক্ষেত্রেই AI System স্বয়ংক্রিয় অস্ত্রকে স্বাধীনভাবে নির্দেশনা দিতে ব্যবহার করা হবে না; একই কর্তৃত্বের অধীনে মানব সিদ্ধান্তগ্রহণকারীর অনুমোদন প্রয়োজন এমন অন্যান্য উচ্চ-ঝুঁকির সিদ্ধান্ত গ্রহণের দায়িত্বও এটি গ্রহণ করতে ব্যবহার করা হবে না . DoD নির্দেশিকা 3000.09 (25 জানুয়ারি 2023-এর তারিখকৃত) অনুযায়ী, স্বয়ংক্রিয় এবং আধা-স্বয়ংক্রিয় সিস্টেমে AI-এর যেকোনো ব্যবহারকে মোতায়েনের আগে বাস্তবসম্মত পরিবেশে উদ্দেশ্য অনুযায়ী কর্মসম্পাদন নিশ্চিত করতে কঠোর যাচাইকরণ, বৈধতা নিরূপণ, এবং পরীক্ষা-নিরীক্ষার মধ্য দিয়ে যেতে হবে.

গোয়েন্দা কার্যক্রমের ক্ষেত্রে, ব্যক্তিগত তথ্যের যেকোনো প্রক্রিয়াকরণ Fourth Amendment, the National Security Act of 1947 and the Foreign Intelligence and Surveillance Act of 1978, Executive Order 12333 এবং নির্ধারিত বিদেশি গোয়েন্দা উদ্দেশ্য প্রয়োজন এমন প্রযোজ্য DoD নির্দেশাবলীর সাথে সামঞ্জস্যপূর্ণ হবে. AI System এই কর্তৃপক্ষগুলির সাথে সামঞ্জস্যপূর্ণভাবে মার্কিন ব্যক্তিদের ব্যক্তিগত তথ্যের অনিয়ন্ত্রিত পর্যবেক্ষণের জন্য ব্যবহার করা যাবে না. Posse Comitatus Act এবং অন্যান্য প্রযোজ্য আইন দ্বারা অনুমোদিত ক্ষেত্র ব্যতীত, দেশীয় আইন প্রয়োগকারী কার্যক্রমের জন্যও সিস্টেমটি ব্যবহার করা যাবে না.

3. AI বিশেষজ্ঞের সম্পৃক্ততা. আমরা সরকারকে সহায়তা করার জন্য ক্লিয়ারেন্সপ্রাপ্ত ফরওয়ার্ড-ডিপ্লয়েড OpenAI ইঞ্জিনিয়ার রাখব এবং ক্লিয়ারেন্সপ্রাপ্ত নিরাপত্তা ও অ্যালাইনমেন্ট গবেষকরা লুপে থাকবেন. 

আপনি কেন এটা করছেন? 

প্রথমত, আমরা মনে করি US সামরিক বাহিনীর তাদের মিশন সমর্থন করার জন্য শক্তিশালী AI মডেল একেবারেই প্রয়োজন, বিশেষ করে সম্ভাব্য প্রতিপক্ষদের ক্রমবর্ধমান হুমকির মুখে, যারা তাদের সিস্টেমে ক্রমশ AI প্রযুক্তি একীভূত করছে. আমরা শুরুতে শ্রেণিবদ্ধ ডিপ্লয়মেন্টের জন্য কোনো চুক্তিতে যাইনি, কারণ আমরা মনে করিনি যে আমাদের সেফগার্ড এবং সিস্টেম প্রস্তুত ছিল, এবং আমরা কঠোরভাবে কাজ করে যাচ্ছি যাতে এমন সেফগার্ডসহ একটি শ্রেণিবদ্ধ ডিপ্লয়মেন্ট করা সম্ভব হয় যা নিশ্চিত করে যে রেড লাইন অতিক্রম না করা হয়. 

আমরা জাতীয় নিরাপত্তা সংক্রান্ত কাজে কর্মক্ষমতা বাড়ানোর জন্য গুরুত্বপূর্ণ প্রযুক্তিগত সুরক্ষাব্যবস্থা সরিয়ে দিতে অনিচ্ছুক ছিলাম—এবং এখনও আছি. এটি মার্কিন সামরিক বাহিনীকে সমর্থন করার সঠিক পদ্ধতি নয়. 

দ্বিতীয়ত, আমরা DoW এবং US AI ল্যাবগুলোর মধ্যে উত্তেজনা কমাতেও চেয়েছিলাম. একটি ভালো ভবিষ্যতের জন্য সরকার এবং AI ল্যাবগুলোর মধ্যে বাস্তব ও গভীর সহযোগিতা প্রয়োজন হবে. এখানকার আমাদের চুক্তির অংশ হিসেবে, আমরা অনুরোধ করেছিলাম যে একই শর্তগুলো সব AI ল্যাবের জন্য উপলব্ধ করা হোক এবং বিশেষভাবে যে সরকার Anthropic-এর সাথে বিষয়গুলো মীমাংসা করার চেষ্টা করবে; সরকার এবং AI ল্যাবগুলোর মধ্যে সহযোগিতার এই পরবর্তী ধাপ শুরু করার জন্য বর্তমান পরিস্থিতি খুবই খারাপ একটি উপায়.

Anthropic যখন কোনো চুক্তিতে পৌঁছাতে পারেনি, তখন আপনি কিভাবে চুক্তিতে পৌঁছাতে পেরেছিলেন? তারা যে চুক্তিটিতে স্বাক্ষর করতে রাজি হয়নি, আপনি কি সেটি স্বাক্ষর করেছেন?

আমরা যা জানি তার ভিত্তিতে, আমরা বিশ্বাস করি আমাদের চুক্তি আগের চুক্তিগুলোর তুলনায়, Anthropic-এর মূল চুক্তিসহ, আরও ভালো নিশ্চয়তা এবং আরও দায়িত্বশীল সুরক্ষা ব্যবস্থা প্রদান করে. আমরা মনে করি এখানে আমাদের রেড লাইনগুলো আরও বেশি প্রয়োগযোগ্য, কারণ ডিপ্লয়মেন্ট কেবল ক্লাউড-অনলি (এজে নয়) সীমিত, আমাদের সেফটি স্ট্যাককে আমরা যেভাবে সবচেয়ে ভালো মনে করি সেভাবেই কাজ করতে দেয় এবং ক্লিয়ার্ড OpenAI কর্মীদের লুপে রাখে.

আমরা জানি না কেন Anthropic এই চুক্তিতে পৌঁছাতে পারেনি এবং আমরা আশা করি তারা এবং আরও ল্যাব এটি বিবেচনা করবে.

আপনি কি মনে করেন Anthropic-কে একটি “সাপ্লাই চেইন ঝুঁকি” হিসেবে চিহ্নিত করা উচিত?

না এবং এ বিষয়ে আমরা সরকারের কাছে আমাদের অবস্থান স্পষ্ট করে দিয়েছি.

এই চুক্তিটি কি যুদ্ধ বিভাগকে স্বায়ত্তশাসিত অস্ত্র চালাতে OpenAI মডেল ব্যবহার করতে সক্ষম করবে? 

না. আমাদের সেফটি স্ট্যাক, আমাদের কেবল-ক্লাউড ডিপ্লয়মেন্ট, চুক্তির ভাষা এবং বিদ্যমান আইন, নিয়ন্ত্রণ ও নীতিমালার ভিত্তিতে, আমরা নিশ্চিত যে এটি ঘটতে পারে না. অতিরিক্ত নিশ্চয়তার জন্য আমরা লুপে OpenAI কর্মীদেরও রাখব.  

এই চুক্তিটি কি যুদ্ধ বিভাগকে OpenAI মডেলগুলো ব্যবহার করে U.S. ব্যক্তিদের উপর গণ নজরদারি পরিচালনা করতে সক্ষম করবে?

না. আমাদের সেফটি স্ট্যাক, চুক্তির ভাষা এবং বিদ্যমান আইন যা দেশীয় নজরদারি থেকে DoW-কে কঠোরভাবে সীমাবদ্ধ করে—এসবের ভিত্তিতে আমরা নিশ্চিত যে এটি ঘটতে পারে না. অতিরিক্ত নিশ্চয়তার জন্য আমরা লুপে OpenAI কর্মীদেরও রাখব.  

আপনাকে কি সেফটি স্ট্যাক ছাড়া মডেল মোতায়েন করতে হবে?

না, আমরা যে সেফটি স্ট্যাক মোতায়েন করি তার উপর পূর্ণ নিয়ন্ত্রণ আমাদেরই থাকে এবং সেফটি গার্ডরেইল ছাড়া আমরা মোতায়েন করব না. এছাড়াও, আমাদের নিরাপত্তা ও অ্যালাইনমেন্ট গবেষকরা প্রক্রিয়ায় যুক্ত থাকবেন এবং সময়ের সাথে সাথে সিস্টেম উন্নত করতে সহায়তা করবেন. আমরা জানি যে অন্যান্য AI ল্যাবগুলো মডেলের সুরক্ষাকবচ বা 'গার্ডরেল' কমিয়ে দিয়েছে এবং প্রাথমিক সুরক্ষাব্যবস্থা হিসেবে কেবল ব্যবহারের নীতিমালার উপর নির্ভর করেছে, কিন্তু আমরা মনে করি আমাদের বহুস্তরীয় পদ্ধতি অগ্রহণযোগ্য ব্যবহারের বিরুদ্ধে আরও কার্যকর সুরক্ষা প্রদান করে.

সরকার যদি চুক্তির শর্তাবলী লঙ্ঘন করে তবে কী হবে?

যেকোনো চুক্তির মতোই, প্রতিপক্ষ শর্তাবলী লঙ্ঘন করলে আমরা এটি বাতিল করতে পারি. আমরা আশা করি এটা ঘটবে না.

সরকার যদি আইন বা বিদ্যমান DoW নীতিমালা পরিবর্তন করে ফেলে তাহলে কী হবে?

আমাদের চুক্তিতে নজরদারি এবং স্বায়ত্তশাসিত অস্ত্র সম্পর্কিত আইন ও নীতিমালার আজকের বিদ্যমান অবস্থার প্রতি স্পষ্টভাবে উল্লেখ রয়েছে, যাতে ভবিষ্যতে সেই আইন বা নীতিমালা পরিবর্তিত হলেও, আমাদের সিস্টেমের ব্যবহার অবশ্যই চুক্তিতে প্রতিফলিত বর্তমান মানদণ্ডের সাথে সামঞ্জস্যপূর্ণ থাকতে হবে. 

DoW-এর সঙ্গে তাদের আলোচনার বিষয়ে তাদের ব্লগ পোস্টে⁠(একটি নতুন উইন্ডোতে খোলে) Anthropic যে যুক্তিগুলো দিয়েছে, সেগুলোর জবাব আপনি কিভাবে দেন?

তাদের পোস্টে, Anthropic তাদের দুটি রেড লাইন উল্লেখ করেছে (আমাদেরও একই দুটি রেড লাইন আছে, সঙ্গে তৃতীয়টি: স্বয়ংক্রিয় উচ্চ-ঝুঁকির সিদ্ধান্ত গ্রহণ), এবং কেন তারা বিশ্বাস করে না যে এই রেড লাইনগুলো সেই সময় DoW থেকে তারা যে চুক্তিগুলো দেখেছিল তাতে বজায় রাখা হবে. নিচে ব্যাখ্যা করা হলো কেন আমরা বিশ্বাস করি যে, আমাদের চুক্তিতে সেই একই রেড-লাইনগুলো বহাল থাকবে:

• গণ অভ্যন্তরীণ নজরদারি. আমাদের ইন্টারঅ্যাকশনে স্পষ্ট ছিল যে DoW গণ অভ্যন্তরীণ নজরদারিকে অবৈধ মনে করে এবং এই উদ্দেশ্যে এটি ব্যবহার করার পরিকল্পনা করেনি. আমরা আমাদের চুক্তিতে এটি যে আইনসম্মত ব্যবহারের আওতায় পড়ে না তা স্পষ্টভাবে উল্লেখ করেছি.
• সম্পূর্ণ স্বায়ত্তশাসিত অস্ত্র. আমাদের চুক্তিতে অন্তর্ভুক্ত ক্লাউড ডিপ্লয়মেন্ট সারফেস সম্পূর্ণ স্বায়ত্তশাসিত অস্ত্রকে চালিত করার অনুমতি দেবে না, কারণ এর জন্য এজ ডিপ্লয়মেন্ট প্রয়োজন হবে. 

এই সুরক্ষা ব্যবস্থাগুলোর পাশাপাশি, আমাদের চুক্তি আমাদের সেফটি স্ট্যাক এবং লুপে থাকা OpenAI প্রযুক্তিগত বিশেষজ্ঞদের অন্তর্ভুক্ত করে অতিরিক্ত স্তরযুক্ত সুরক্ষা ব্যবস্থা প্রদান করে.