অস্ট্রেলিয়ার জন্য আমরা কীভাবে আরও ভালো করব

জুনে অভ্যন্তরীণ প্রশিক্ষণ ও মূল্যায়নের সময় আমাদের মডেলগুলো অস্ট্রেলিয়ার সরকারি ওয়েবসাইটগুলোতে এমনভাবে প্রবেশ করেছিল, যার অনুমতি তাদের ছিল না. এই পরিস্থিতি আমাদের আরও ভালোভাবে মোকাবিলা করাও উচিত ছিল. আমরা দুঃখিত এবং ভবিষ্যতে আরও ভালো করার জন্য কাজ করছি.

এই লেখায় আমরা তুলে ধরছি কী জানি, কী পরিবর্তন এনেছি এবং অস্ট্রেলিয়ার মানুষের আস্থা পুনরুদ্ধারে কী করব. এটি নতুন ধরনের একটি সাইবার ঘটনা, যা বিশ্বজুড়ে উদীয়মান এক চ্যালেঞ্জকে সামনে এনেছে. এই পরিস্থিতির দায় নেওয়ার অংশ হিসেবে আমরা অস্ট্রেলিয়ার সঙ্গে পরিকল্পিতভাবে কাজ করতে চাই. এর একটি লক্ষ্য হলো, কৃত্রিম বুদ্ধিমত্তার সাইবার আচরণ—তা ক্ষতিকর উদ্দেশ্যে হোক বা অনিচ্ছাকৃত—নির্মাতা ও সরকারগুলো কীভাবে শনাক্ত করবে, প্রকাশ করবে এবং মোকাবিলা করবে, সে বিষয়ে বাস্তবসম্মত পদ্ধতি তৈরিতে সহায়তা করা.

জুলাইয়ে হাগিং ফেসের ঘটনার পর, অন্য কোন সংস্থা ক্ষতিগ্রস্ত হয়েছে তা শনাক্ত করতে আমরা আগের প্রশিক্ষণ ও মূল্যায়নের কার্যকলাপ পর্যালোচনা শুরু করি. আগস্টের মাঝামাঝি এই পর্যালোচনায় নিচে উল্লেখ করা অস্ট্রেলিয়ার সরকারি ওয়েবসাইটগুলোতে প্রভাব ফেলা কার্যকলাপ শনাক্ত হয়.

প্রমাণের ভিত্তিতে আমরা যা জানি, তা হলো:

• সার্ভিসেস অস্ট্রেলিয়া: OpenAI-এর একটি মডেল সেবাটির জনসাধারণের জন্য উন্মুক্ত নয় এমন অংশে প্রবেশের উপায় খুঁজে পায়. এটি সেখানে কমান্ড চালায়, অভ্যন্তরীণ ফাইল, প্রবেশের প্রমাণীকরণ তথ্য ও সামষ্টিক পরিসংখ্যান সংগ্রহ করে এবং ফাইলে তথ্য লেখে. তবে কোনো রোগী বা সেবাগ্রহীতার ব্যক্তিগত নথিতে প্রবেশ করা হয়নি. নিচে আমরা এই ঘটনা নিয়ে আরও বিস্তারিত আলোচনা করেছি.

• নিউ সাউথ ওয়েলস অপরাধ পরিসংখ্যান ও গবেষণা ব্যুরো (BOCSAR): প্রকাশ্য অপরাধ পরিসংখ্যান নিয়ে গবেষণা করতে OpenAI-এর একটি মডেল BOCSAR-এর সবার জন্য উন্মুক্ত অপরাধ মানচিত্র তৈরির সরঞ্জামটি ব্যবহার করে (মডেলগুলো কেন বিভিন্ন তথ্য নিয়ে গবেষণার কাজ করে, তা আমরা নিচে আরও ব্যাখ্যা করেছি). BOCSAR-এর উন্মুক্ত সরঞ্জামটির মাধ্যমে মডেলটি এপিআই ও ওয়েবসাইটের মেটাডেটা পাওয়ার অনুরোধ পাঠায়. এই সরঞ্জাম ব্রাউজার থেকে এপিআই অনুরোধ পাঠানোর জন্য প্রমাণীকরণ তথ্য সরবরাহ করে. BOCSAR-এর সিস্টেম থেকে অ্যাপ্লিকেশনের কনফিগারেশন, সিস্টেম পরিচালনাসংক্রান্ত কাজ ও লগ এবং ওয়েবসাইটের মেটাডেটা ফেরত আসে. কোনো ব্যক্তির অপরাধসংক্রান্ত নথিতে প্রবেশ করা হয়নি.

• ভিক্টোরিয়ার স্বাস্থ্য বিভাগ: OpenAI-এর এজেন্টগুলো একটি অরক্ষিত প্রবেশ-চাবি খুঁজে পায়. সেটি ব্যবহার করে তারা ভিক্টোরিয়ার স্বাস্থ্য তথ্য সংস্থার প্রতিবেদন ব্যবস্থায় তথ্যের অনুরোধ পাঠায় এবং প্রতিবেদন তৈরির কনফিগারেশন ও জরিপের সামষ্টিক পরিসংখ্যান সংগ্রহ করে. এই তথ্য কতটা উন্মুক্ত থাকার কথা ছিল, তা স্পষ্ট নয়. এটি ভিক্টোরিয়ার স্বাস্থ্য তথ্য সংস্থার প্রবেশাধিকার নীতির ওপর নির্ভর করে. কোনো ব্যক্তির চিকিৎসার নথি বা উত্তরদাতাকে শনাক্ত করা যায় এমন জরিপের উত্তরে প্রবেশ করা হয়নি.

• অস্ট্রেলীয় স্বাস্থ্য ও কল্যাণ ইনস্টিটিউট: তৃতীয় পক্ষের ব্রাউজিং ও ডাউনলোড সেবা ব্যবহার করে OpenAI-এর এজেন্টগুলো এই ইনস্টিটিউটের ওয়েবসাইটসহ বিভিন্ন উৎস থেকে সামষ্টিক পরিসংখ্যান সংগ্রহ করে এবং সরাসরি লেখচিত্রের তথ্যের অনুরোধ পাঠায়. প্রবেশাধিকার নিয়ন্ত্রণ এড়িয়ে যাওয়ার পৃথক চেষ্টাগুলো সফল হয়নি. ডাউনলোড করা উপকরণগুলো জনসাধারণের জন্য উন্মুক্ত ছিল বলে মনে হচ্ছে. সিস্টেমের নিরাপত্তা ভঙ্গ হয়নি. কোনো ব্যক্তির চিকিৎসার নথিতে প্রবেশ করা হয়নি.

আগস্টের মাঝামাঝি এই কার্যকলাপগুলো সম্পর্কে জানার সঙ্গে সঙ্গেই আমরা তদন্ত শুরু করি. আমরা 10 সেপ্টেম্বর সার্ভিসেস অস্ট্রেলিয়া ও ভিক্টোরিয়ার স্বাস্থ্য বিভাগকে এবং 18 সেপ্টেম্বর নিউ সাউথ ওয়েলস অপরাধ পরিসংখ্যান ও গবেষণা ব্যুরোকে বিষয়টি জানাই. অস্ট্রেলীয় স্বাস্থ্য ও কল্যাণ ইনস্টিটিউটের সঙ্গে সম্পর্কিত কার্যকলাপটি আমাদের তথ্য প্রকাশের নির্ধারিত মানদণ্ডে পড়েনি, কারণ যেভাবে তথ্য নেওয়া হয়েছিল, তা জনসাধারণের প্রবেশাধিকারের সঙ্গে সামঞ্জস্যপূর্ণ বলে মনে হয়েছিল. তবু তদন্তে পাওয়া তথ্য জানাতে এবং বিস্তারিত আলোচনার প্রস্তাব দিতে আমরা 24 সেপ্টেম্বর সংস্থাটিকে অবহিত করি.

আমাদের লক্ষ্য ছিল তদন্ত শেষ হলে ক্ষতিগ্রস্ত সংস্থাগুলোকে বিস্তারিত বিবরণ দেওয়া. তবে প্রাথমিকভাবে পাওয়া তথ্য আমাদের আরও আগে জানানো উচিত ছিল. আরও তথ্য সামনে আসার সঙ্গে সঙ্গে অস্ট্রেলিয়ার সংস্থাগুলোকে সেগুলোও জানানো উচিত ছিল.

এরপর থেকে এখন পর্যন্ত আমরা যা জেনেছি, তা জানাতে অস্ট্রেলিয়ার সরকারি সংস্থাগুলোর সঙ্গে ঘনিষ্ঠভাবে কাজ করেছি. আরও কোনো ক্ষতিগ্রস্ত সংস্থা শনাক্ত হলে, তখন হাতে থাকা তথ্য নিয়ে আমরা দ্রুত ও সরাসরি তাদের অবহিত করব. পরে আরও তথ্য পাওয়া গেলে সেগুলোও জানাব.

জুনে অভ্যন্তরীণ প্রশিক্ষণ ও মূল্যায়নের সময় আমরা OpenAI-এর একটি পরীক্ষামূলক মডেল চালাচ্ছিলাম. এটি শুধু অভ্যন্তরীণ ব্যবহারের জন্য ছিল, জনসাধারণের জন্য প্রকাশের উদ্দেশ্যে তৈরি করা হয়নি. আমাদের সবার জন্য উন্মুক্ত পণ্যগুলোতে যে পূর্ণাঙ্গ সুরক্ষাব্যবস্থা থাকে, তাও এতে ছিল না. এই প্রশিক্ষণ ও মূল্যায়ন চলাকালে এটি সার্ভিসেস অস্ট্রেলিয়ার মেডিকেয়ার পরিসংখ্যান প্রতিবেদন সেবায় প্রবেশ করে. এখন পর্যন্ত আমাদের পর্যালোচনায় কারও চিকিৎসার নথিতে প্রবেশের কোনো প্রমাণ পাওয়া যায়নি.

আমাদের মডেলগুলোর অভ্যন্তরীণ প্রশিক্ষণ ও মূল্যায়নের সময় আমরা তাদের নানা বিষয়ের গবেষণামূলক প্রশ্নের এক বিস্তৃত সংগ্রহ থেকে কাজ দিই. ব্যবহারকারীরা যে ধরনের বিস্তারিত প্রশ্ন করতে পারেন, এই প্রশ্নগুলোতে তার প্রতিফলন থাকে. এর মাধ্যমে একটি মডেল জনসাধারণের জন্য উন্মুক্ত তথ্য খুঁজে বের করা, ব্যাখ্যা করা ও বিশ্লেষণ করার প্রশিক্ষণ পায়, যাতে সেটি মানুষের আরও কাজে আসতে পারে. আমাদের মডেলগুলোর এসব প্রশ্নের উত্তর দেওয়ার কথা প্রকাশ্যে প্রকাশিত পরিসংখ্যান ব্যবহার করে.

এই ক্ষেত্রে, মডেলকে দেওয়া কাজগুলোর একটি ছিল ভিক্টোরিয়ার জনগোষ্ঠীগুলোর ত্বকের রোগের ওষুধের পেছনে সরকারের মাথাপিছু ব্যয় নিয়ে গবেষণা করা. মডেলটির সেই তথ্য পেতে সমস্যা হয়েছিল এবং এটি এমন কিছু পদক্ষেপ নিয়েছিল, যার অনুমতি আমরা দিইনি. সার্ভিসেস অস্ট্রেলিয়ার মেডিকেয়ার পরিসংখ্যান প্রতিবেদন সেবায় এই তথ্য খুঁজতে গিয়ে এটি সেবাটির এমন অংশে প্রবেশের উপায় খুঁজে পায়, যা জনসাধারণের জন্য উন্মুক্ত নয়. এরপর এই প্রবেশাধিকার ব্যবহার করে এটি সেবাটির সঙ্গে সম্পর্কিত সিস্টেমের কারিগরি তথ্য ও সোর্স কোড পর্যালোচনা করে—তখনও এর উদ্দেশ্য ছিল শুরুতে যে তথ্য খুঁজছিল, তা খুঁজে বের করা. আমরা এমন কার্যকলাপ চাইনি. সেবাটিতে এভাবে প্রবেশ এবং পরবর্তী কার্যকলাপগুলো ঘটা উচিত হয়নি.

হাগিং ফেসের ঘটনার পর আমরা গবেষণার সুরক্ষাব্যবস্থা জোরদার করেছি. এর মধ্যে রয়েছে নেটওয়ার্কে অতিরিক্ত বিধিনিষেধ আরোপ এবং নজরদারির পরিধি বাড়ানো. গবেষণার এই পরিবেশগুলোতে সরাসরি ইন্টারনেট সংযোগ বন্ধ করার ব্যবস্থা নিয়েছি. সেখানে ওয়েবের তথ্য সরবরাহ করা হয় ক্যাশে সংরক্ষিত বিষয়বস্তুর মাধ্যমে. নিরাপত্তার অতিরিক্ত স্তর হিসেবে, আমাদের বর্তমান নজরদারি ব্যবস্থা এই কার্যকলাপ শনাক্ত করতে পারত এবং জরুরি মানবীয় পর্যালোচনার জন্য আমাদের দলকে সতর্কবার্তা পাঠাত. যেমন, সাম্প্রতিক একটি প্রশিক্ষণ পর্বে⁠(একটি নতুন উইন্ডোতে খোলে) একটি মডেল সরাসরি ইন্টারনেট সংযোগ পেলে, আমাদের নজরদারি ব্যবস্থা তা শনাক্ত করে একজন পর্যালোচককে সতর্কবার্তা পাঠায়. এরপর আমরা সেই প্রশিক্ষণ পর্ব বন্ধ করে দিই. আমরা এই সুরক্ষাব্যবস্থাগুলো পরীক্ষা করে যাচ্ছি এবং ঘাটতিগুলো দূর করছি. আমাদের পর্যবেক্ষণে আসা ঘটনাগুলোর মধ্যে হাগিং ফেসের ঘটনাটিই এখন পর্যন্ত সবচেয়ে গুরুতর.

মানুষ জানতে চায় যে কৃত্রিম বুদ্ধিমত্তা নিরাপদে তৈরি করা হচ্ছে. আর তা নিশ্চিত করার শুরুটা হয় আমাদের মতো প্রতিষ্ঠানগুলো নিজেরা কী করছে, সেখান থেকে. আমরা সম্প্রতি জানিয়েছি⁠(একটি নতুন উইন্ডোতে খোলে) যে আমাদের সবচেয়ে সক্ষম মডেলগুলোর সরঞ্জাম ব্যবহারসংক্রান্ত প্রশিক্ষণ ও মূল্যায়ন স্থগিত রেখেছি. অতিরিক্ত সুরক্ষাব্যবস্থা কার্যকর রয়েছে বলে নিশ্চিত হলেই কেবল সেগুলোর প্রশিক্ষণ আবার শুরু করব. সেই সুরক্ষাব্যবস্থা নিয়েই আমরা এখন কাজ করছি.

সামগ্রিকভাবে কৃত্রিম বুদ্ধিমত্তার ব্যবস্থাগুলো আরও সক্ষম হয়ে ওঠার সঙ্গে সঙ্গে, সংস্থাগুলোকে দুর্বলতা খুঁজে বের করতে ও ঠিক করতে সহায়তা করার জন্য হাতে থাকা সময়ও কমে আসছে বলে আমরা দেখতে পাচ্ছি. এ জন্য বিশ্বজুড়ে সাইবার নিরাপত্তায় নিয়োজিত ব্যক্তিদের সঙ্গে মিলে সম্মিলিত উদ্যোগ নেওয়া প্রয়োজন.

প্রযুক্তি, সাইবার নিরাপত্তা ও গুরুত্বপূর্ণ অবকাঠামো খাতের বিভিন্ন সংস্থার সঙ্গে মিলে আমরা সাইবার প্রতিরক্ষায় সম্মিলিত উদ্যোগের আহ্বান জানিয়েছি. এই আহ্বানের শুরু আমাদের নিজেদের দায়িত্ব থেকে. এর মধ্যে রয়েছে আরও শক্তিশালী সুরক্ষাব্যবস্থা, সময়মতো তথ্য প্রকাশ এবং ক্ষতিগ্রস্ত সংস্থাগুলোকে বাস্তব সহায়তা দেওয়া. এতে জরুরি সেবাগুলোর নিরাপত্তায় নিয়োজিত দলগুলোর পেছনে বিনিয়োগেরও আহ্বান জানানো হয়েছে, যাতে তারা দুর্বলতা খুঁজে বের করতে, সমাধানগুলো যাচাই করতে এবং কার্যকর পদ্ধতিগুলো অন্যদের জানাতে পারে.

অস্ট্রেলিয়ায় ক্ষতিগ্রস্ত সংস্থাগুলোকে সহায়তা করতে এবং সাইবার নিরাপত্তায় নিয়োজিত ব্যক্তিদের এই নীতিগুলো বাস্তবায়নে সাহায্য করতে আমরা প্রয়োজনীয় সম্পদ ও দক্ষতা দেওয়ার অঙ্গীকার করছি, এর মধ্যে রয়েছে:

• ক্ষতিগ্রস্ত সংস্থাগুলোর জন্য বিশেষ সহায়তা. কী ঘটেছে তা বুঝতে এবং এর প্রভাব মূল্যায়ন করতে ক্ষতিগ্রস্ত সংস্থাগুলোকে সহায়তার জন্য আমরা প্রয়োজনীয় সম্পদ বরাদ্দ করব. এর মধ্যে রয়েছে তদন্তে পাওয়া প্রাসঙ্গিক কারিগরি তথ্য জানানো এবং তথ্য আদান-প্রদানের উপযুক্ত ব্যবস্থার মাধ্যমে আমাদের ঘটনা মোকাবিলা দলগুলোর সঙ্গে যোগাযোগের ব্যবস্থা করা.

• সাইবার প্রতিরক্ষা জোরদারে অর্থায়ন ও সহায়তা. গুরুত্বপূর্ণ অবকাঠামো ও অন্যান্য সংবেদনশীল পরিবেশে সাইবার প্রতিরক্ষা জোরদার করতে আমরা অস্ট্রেলিয়ার সরকারগুলো ও শিল্প খাতকে কারিগরি সহায়তা দেব এবং আমাদের 100 কোটি ডলারের সম্মুখসারির সাইবার নিরাপত্তারক্ষীদের জন্য ডেব্রেক তহবিল থেকে ক্রেডিট দেব. সরকার ও গুরুত্বপূর্ণ অবকাঠামোর পরিচালকদের সঙ্গে আমাদের চলমান সহযোগিতার ভিত্তিতে এই কাজ এগিয়ে যাবে. এটি সংস্থাগুলোকে ক্রমশ আরও সক্ষম হয়ে ওঠা কৃত্রিম বুদ্ধিমত্তার এজেন্টগুলোর ঝুঁকি আরও ভালোভাবে বুঝতে, শনাক্ত করতে ও মোকাবিলা করতে সাহায্য করবে.

• অস্ট্রেলিয়ায় একটি বিশেষ কর্মদল. ক্রমশ আরও সক্ষম হয়ে ওঠা কৃত্রিম বুদ্ধিমত্তার এজেন্টগুলোর ঝুঁকি ব্যবস্থাপনায় বাস্তবসম্মত নীতিগত সুপারিশ তৈরির জন্য আমরা অস্ট্রেলিয়ার স্বাধীন বিশেষজ্ঞদের নিয়ে একটি বিশেষ কর্মদল গঠন করব. এই ঘটনাগুলো থেকে পাওয়া শিক্ষা কাজে লাগিয়ে দলটি সংশ্লিষ্টদের জানানোর প্রক্রিয়া উন্নত করা, কৃত্রিম বুদ্ধিমত্তার নির্মাতা ও সরকারের মধ্যে সমন্বয় জোরদার করা এবং সরকারি সিস্টেমগুলোর সুরক্ষা বাড়ানোর উপায় চিহ্নিত করার ওপর জোর দেবে. এই বিশেষ কর্মদলের সুপারিশগুলো OpenAI-এর কর্মপন্থা নির্ধারণে ভূমিকা রাখবে এবং কৃত্রিম বুদ্ধিমত্তার নিরাপত্তা ও সাইবার নিরাপত্তা নিয়ে অস্ট্রেলিয়ার সরকারগুলোর কাজে সহায়তা করবে. বিশেষ কর্মদলটি বছরের শেষ নাগাদ কাজ শেষ করবে বলে আশা করা হচ্ছে. একই ধরনের ঘটনার ঝুঁকি কমাতে কৃত্রিম বুদ্ধিমত্তা নিয়ে কাজ করা প্রতিষ্ঠানগুলো কী কী বাস্তব পদক্ষেপ নিতে পারে, সে বিষয়েও দলটি সুপারিশ করবে.

অস্ট্রেলিয়ার সরকারগুলো, শিল্প খাত ও নাগরিকেরা OpenAI-এর অমূল্য অংশীদার, অতীতেও তা-ই ছিলেন. এই অংশীদারত্বকে আমরা নিশ্চিত প্রাপ্য বলে ধরে নিই না, আর আমরা এই পরিস্থিতি ঠিক করতে চাই.

OpenAI-এর প্রধান কৌশল কর্মকর্তা জেসন কওন যুক্তরাষ্ট্রে OpenAI-এর সদর দপ্তর থেকে সিডনিতে আসবেন. মঙ্গলবার, 6 অক্টোবর তিনি কৃত্রিম বুদ্ধিমত্তাবিষয়ক যৌথ বিশেষ কমিটির সামনে হাজির হবেন. আমরা কী জানি, পরিস্থিতি কীভাবে মোকাবিলা করেছি, কী কী পদক্ষেপ নিয়েছি এবং ভবিষ্যতে কীভাবে আরও ভালো করব—এসব প্রশ্নের উত্তর দেবেন তিনি.

তদন্তে পাওয়া যাচাইকৃত তথ্য আমরা ক্ষতিগ্রস্ত সংস্থা ও সংশ্লিষ্ট সরকারগুলোকে জানাতে থাকব. আমাদের চলমান পর্যালোচনা এবং এই অঙ্গীকারগুলো পূরণে অগ্রগতির খবর আমরা প্রকাশ করব. আমরা জানি, আস্থা পুনরুদ্ধার করতে আমাদের এখনও অনেক কাজ বাকি. আমরা যে অর্থবহ পরিবর্তন আনছি এবং প্রতিশ্রুতি পূরণ করছি, তা অস্ট্রেলিয়ার মানুষের কাছে প্রমাণ করার দায়ও আমাদের.