অত্যাধুনিক এআই প্রশিক্ষণে নিরাপত্তার যুক্তিপ্রমাণ তৈরির পথে

আমরা মনে করি, আমরা একটি নতুন যুগে প্রবেশ করছি, যেখানে অত্যাধুনিক রিইনফোর্সমেন্ট লার্নিংয়ের যেকোনো প্রশিক্ষণ কার্যক্রম চালিয়ে যাওয়ার আগে সুনির্দিষ্ট কাঠামোয় নিরাপত্তা নথি তৈরি বাধ্যতামূলক হওয়া উচিত. আদর্শভাবে, এসব নথি “নিরাপত্তার যুক্তিপ্রমাণ”-এর মানে পৌঁছাবে—অর্থাৎ ঝুঁকি নিয়ে পূর্ণাঙ্গ, সুনির্দিষ্ট কাঠামোর প্রমাণভিত্তিক যুক্তি, যা নিরাপত্তা অত্যন্ত গুরুত্বপূর্ণ এমন অন্যান্য শিল্প খাতে ব্যবহৃত হয়. নিরাপত্তার যুক্তিপ্রমাণকে আমরা একটি কাঙ্ক্ষিত দিকনির্দেশক লক্ষ্য হিসেবে দেখি, যার দিকে এগিয়ে যাচ্ছি. একই সঙ্গে আমরা স্বীকার করি, এআই সক্ষমতার প্রতিটি নতুন স্তরে নতুন জটিলতা দেখা দেওয়ায়, বিমান চলাচল বা পারমাণবিক বিদ্যুতের মতো এআই মডেলের ক্ষেত্রেও এসব যুক্তিপ্রমাণ সমান কঠোর মানে তৈরি করা কঠিন. এই চর্চাগুলোকে সুনির্দিষ্ট নিয়মে রূপ দিতে আমরা একটি কাঠামো নিয়ে কাজ করছি.

নিচে কিছু প্রাথমিক নির্দেশিকা দেওয়া হলো, যা আমাদের মতে অত্যাধুনিক এআই প্রশিক্ষণের এ ধরনের নিরাপত্তার যুক্তিপ্রমাণের অংশ হওয়া উচিত. এই উত্তম চর্চাগুলো আমাদের এ পর্যন্ত শেখা বিষয়গুলোর প্রতিফলন. সতর্কতার সঙ্গে উন্নয়নের জন্য অভ্যন্তরীণ প্রক্রিয়াগুলো বারবার পরিমার্জন করার পাশাপাশি এসব চর্চাও বিকশিত হবে বলে আমরা আশা করি. আমাদের বর্তমান ভাবনা স্পষ্টভাবে তুলে ধরতে এবং সংশ্লিষ্ট সবার মতামত আহ্বান করতে আমরা এখনই এগুলো প্রকাশ করছি. উল্লেখ্য, এই নথির মূল বিষয় অত্যাধুনিক রিইনফোর্সমেন্ট লার্নিং প্রশিক্ষণ; অভ্যন্তরীণ ও বাহ্যিক ব্যবহারে প্রয়োগের জন্য উদ্দেশ্যসামঞ্জস্যের আরও বিস্তৃত বৈশিষ্ট্য বিবেচনা করা প্রয়োজন.

নিরাপত্তার যুক্তিপ্রমাণে প্রযুক্তিব্যবস্থার তিনটি দিক থাকতে হবে: উদ্দেশ্যসামঞ্জস্যের প্রশিক্ষণ, নির্ধারিত গণ্ডিতে আবদ্ধ রাখা এবং পর্যবেক্ষণ. এসব সুরক্ষাব্যবস্থা নিশ্চিত করতে সাহায্য করে যে মডেল উদ্দেশ্যের সঙ্গে অসামঞ্জস্যপূর্ণ কাজ করার চেষ্টা করবে না; করলেও নির্ধারিত গণ্ডি ভেঙে বের হওয়া কঠিন হবে এবং ক্ষতি হওয়ার আগেই পর্যবেক্ষণে তা ধরা পড়বে.

• মডেলের উদ্দেশ্যসামঞ্জস্য: প্রতিরক্ষার প্রথম ধাপ হওয়া উচিত মডেলকে উদ্দেশ্যের সঙ্গে সামঞ্জস্যপূর্ণ থাকার প্রশিক্ষণ দেওয়া; অর্থাৎ, আমরা যেভাবে চাই সেভাবে নির্ভরযোগ্যভাবে কাজ করতে শেখানো. এর মধ্যে থাকতে পারে:

  • প্রশিক্ষণের পরিবেশ ও মান নির্ধারণ: প্রশিক্ষণের সময় পুরস্কারব্যবস্থার ফাঁকি দেওয়ার আচরণকে উৎসাহিত হতে না দিয়ে মডেলে উদ্দেশ্যের সঙ্গে অসামঞ্জস্যপূর্ণ আচরণ তৈরির ঝুঁকি কমান. এর মধ্যে থাকতে পারে:

    • স্বয়ংক্রিয় উপাত্তসমষ্টি পর্যালোচনা: এজেন্ট ব্যবহার করে ত্রুটিপূর্ণ রিইনফোর্সমেন্ট লার্নিং পরিবেশ খুঁজে সংশোধন করুন, যেখানে কাঙ্ক্ষিত আচরণের বদলে ত্রুটির সুযোগ নিয়ে অসামঞ্জস্যপূর্ণ কার্যধারা বেশি পুরস্কার পেতে পারে. এতে প্রশিক্ষণে অসামঞ্জস্যপূর্ণ আচরণ জোরদার হওয়ার সুযোগ কমবে.

    • মানুষের মাধ্যমে উপাত্তসমষ্টি পর্যালোচনা: স্বয়ংক্রিয় রেড টিমিংয়ের পাশাপাশি মানুষকে দিয়ে উপাত্তসমষ্টি পর্যালোচনা ও মান যাচাই করান. এতে এমন ত্রুটিপূর্ণ কাজ শনাক্ত হবে, যা অনিচ্ছাকৃতভাবে অসামঞ্জস্যপূর্ণ আচরণকে জোরদার করতে পারে.

    • মান নির্ধারকের সমন্বয়: মান নির্ধারকগুলো এমনভাবে সমন্বয় করুন, যাতে প্রশিক্ষণে মডেল রিইনফোর্সমেন্ট লার্নিং পরিবেশের ত্রুটির সুযোগ নেওয়ার বা তা ভাঙার চেষ্টা করলে শাস্তি পায়.

    • আগের প্রশিক্ষণ কার্যক্রমের বিশ্লেষণ: মান নির্ধারকগুলো কাঙ্ক্ষিতভাবে কাজ করছে কি না নিশ্চিত করতে আগের পরীক্ষার কার্যক্রমের রেকর্ডে শ্রেণিবিন্যাসক প্রয়োগ করুন.

  • উদ্দেশ্যসামঞ্জস্য পরিমাপ: উদ্দেশ্যসামঞ্জস্যের প্রশিক্ষণ কতটা কার্যকর, তা মাপতে মডেলের অসামঞ্জস্যের প্রবণতা অনুসরণ করে এমন মূল্যায়ন চালান. এর মধ্যে থাকতে পারে:

    • অফলাইন উদ্দেশ্যসামঞ্জস্য মূল্যায়ন: অত্যাধুনিক মডেলের প্রশিক্ষণ কার্যক্রম চলাকালে উদ্দেশ্যসামঞ্জস্যের মূল্যায়ন চালিয়ে দেখুন প্রশিক্ষণ কাঙ্ক্ষিতভাবে কাজ করছে কি না, এবং উল্লেখযোগ্য কোনো অবনতি হলে তা তদন্ত করুন.

    • অতীতের ঘটনায় যাচাই: আগের ঘটনাগুলোতে উদ্দেশ্যসামঞ্জস্য মূল্যায়ন প্রয়োগ করে নিশ্চিত করুন যে এগুলো আগে অসামঞ্জস্যপূর্ণ আচরণ করা মডেল শনাক্ত করে এবং কেবল নির্দিষ্ট কিছু ঘটনার উপযোগী হয়ে পড়ছে না.

    • মূল্যায়নে ফাঁকি দেওয়া পর্যবেক্ষণ: আচরণ বদলে দিতে পারে এমন মূল্যায়ন সচেতনতা বা পরীক্ষার পরিস্থিতি বুঝে কৌশল নেওয়া (মডেলের বুঝতে পারা যে তাকে পরীক্ষা করা হচ্ছে) পর্যবেক্ষণ করুন এবং কার্যক্রম থামানোর নির্দিষ্ট সীমা রাখুন. যেমন, উদ্দেশ্যসামঞ্জস্য মূল্যায়নে এ দুই ধরনের আচরণের পর্যবেক্ষণ চালু করুন.

    • চরম প্রতিকূল পরিস্থিতিতে পরীক্ষা: সবচেয়ে খারাপ আচরণ প্রকাশের পরিস্থিতি তৈরি করুন এবং যাচাই করুন যে অন্তত একটি মূল্যায়ন সেই আচরণ শনাক্ত করবে.

  • চেইন-অফ-থটের ওপর প্রশিক্ষণ প্রতিরোধ: রিইনফোর্সমেন্ট লার্নিংয়ে স্বয়ংক্রিয় মান নির্ধারককে চেইন-অফ-থট দেখতে দেবেন না, যাতে মডেল ক্রমে চেইন-অফ-থট পর্যবেক্ষণব্যবস্থা এড়াতে না শেখে.

• গণ্ডিতে আবদ্ধ রাখা: মডেল উদ্দেশ্যের সঙ্গে অসামঞ্জস্যপূর্ণ হয়ে পড়লেও যেন ক্ষতিকর কাজ করতে না পারে, সে জন্য বিচ্ছিন্ন পরিবেশে আবদ্ধ রাখার ব্যবস্থা ও সুরক্ষা যথেষ্ট শক্তিশালী করুন. এর মধ্যে থাকতে পারে:

  • অবকাঠামোর বহুস্তরীয় সুরক্ষা: মডেল যে বিচ্ছিন্ন পরিবেশে চলে এবং সেই পরিবেশ যে গবেষণা অবকাঠামোতে রয়েছে, দুটির সুরক্ষাই জোরদার করতে যথেষ্ট বিনিয়োগ করুন. এতে মডেল বিচ্ছিন্ন পরিবেশ থেকে বেরিয়ে গেলেও সুরক্ষার একটি বাড়তি স্তর থাকবে.

  • আবদ্ধ রাখার ব্যবস্থার রেড টিমিং: নিরাপত্তা বিশ্লেষণ সাপেক্ষে অত্যাধুনিক প্রশিক্ষণ কার্যক্রমের বিভিন্ন ধাপে সংরক্ষিত মডেল ব্যবহার করে বারবার রেড টিমিং চালান. এর মাধ্যমে ফাঁক খুঁজে বন্ধ করে বিচ্ছিন্ন পরিবেশ, গবেষণা অবকাঠামো ও বহিঃসীমার সুরক্ষা উন্নত করুন. প্রশিক্ষণের সময় মডেল ব্যবহার করতে পারে এমন সব সেবায়ও রেড টিমিং চালান (যেমন, ইন্টারনেট ক্যাশ).

  • নমুনাগুলোর মধ্যে যোগাযোগ: নমুনাগুলোর মধ্যে উচ্চ তথ্যপ্রবাহের যোগাযোগ শুধু অনুমোদিত পথে সীমিত রাখুন, যেমন বহু-এজেন্ট সরঞ্জাম. অবকাঠামোর এমন বিকল্প যোগাযোগপথ বন্ধ করুন, যেগুলোতে বেশি তথ্য আদান-প্রদান সম্ভব এবং এজেন্ট সহজেই খুঁজে পেতে পারে.

  • অপরিবর্তনীয় কথোপকথনের রেকর্ড: সব রিইনফোর্সমেন্ট লার্নিং প্রশিক্ষণ, মূল্যায়ন ও অভ্যন্তরীণ ব্যবহারের ক্ষেত্রে এজেন্টের কথোপকথনের রেকর্ড যুক্তিসংগত সময় পর্যন্ত অপরিবর্তনীয়ভাবে সংরক্ষণ করুন (যেমন, একবারই লেখা যায় এমন সংরক্ষণ হিসাবে). এতে নির্ভরযোগ্য তদন্ত সম্ভব হবে এবং অসাবধানতাবশত সম্পাদনা ঠেকানো যাবে.

• পর্যবেক্ষণ: মডেল উদ্দেশ্যের সঙ্গে অসামঞ্জস্যপূর্ণ কাজ শুরু করলে সম্ভাব্য অসামঞ্জস্য ধরতে তাৎক্ষণিক পর্যবেক্ষণব্যবস্থা রাখুন এবং গুরুতর ঘটনা ঘটার আগেই অগ্রাধিকারপ্রাপ্ত সমস্যাগুলো দ্রুত সমাধান করুন. এর মধ্যে থাকতে পারে:

  • পর্যবেক্ষণযোগ্যতা নিশ্চিত করা: উদ্বেগজনক আচরণ দ্রুত ধরতে মডেল যেন পর্যবেক্ষণযোগ্য থাকে, তা নিশ্চিত করুন. এটি যাচাইয়ে স্পষ্ট সীমাসহ পর্যবেক্ষণযোগ্যতা ও পর্যবেক্ষণ এড়ানোর মূল্যায়ন ব্যবহার করুন.

  • পরিচিত সমস্যা শনাক্তের উচ্চ হার: আগে আলাদা করে রাখা মূল্যায়নে নিশ্চিত করুন যে পর্যবেক্ষণব্যবস্থা অতীতের ঘটনাগুলোর বড় অংশ শনাক্ত করতে পারে.

  • পর্যবেক্ষণব্যবস্থার হালনাগাদ মূল্যায়ন: নতুন প্রশিক্ষণ কার্যক্রমের একেবারে নতুন ঝুঁকির প্রতিনিধিত্বকারী মূল্যায়ন নমুনা তৈরি করুন, যাতে পর্যবেক্ষণব্যবস্থার শনাক্তকরণের ব্যাপ্তি ও নির্ভুলতার পরিমাপ পুরোনো হয়ে না যায়.

  • দ্রুত সাড়া: মডেল ক্ষতি করার আগেই সেবার মানসংক্রান্ত চুক্তিতে নির্ধারিত সময়ের মধ্যে পদক্ষেপ নিশ্চিত করে এমন অগ্রাধিকারভিত্তিক সতর্কতা চালু করুন. তাৎক্ষণিক সাড়াদানের দায়িত্বে থাকা ব্যক্তিকে জরুরি বার্তা পাঠিয়ে বা সংশ্লিষ্ট প্রশিক্ষণ কার্যক্রম স্বয়ংক্রিয়ভাবে স্থগিত করে এটি করা যায়. যেমন, দিনে কোনো ঘটনা ঘটলে নিরাপত্তার দায়িত্বপ্রাপ্ত ব্যক্তি ও কার্যক্রমের দায়িত্বে থাকা ব্যক্তিকে বার্তা পাঠানো, আর রাতে সতর্কবার্তা প্রাপ্তির স্বীকৃতি না এলে কার্যক্রম স্বয়ংক্রিয়ভাবে স্থগিত করা.

প্রযুক্তিগত সুরক্ষাব্যবস্থার সুপারিশের পাশাপাশি, অত্যাধুনিক এআইয়ের প্রশিক্ষণ কার্যক্রমের নিরাপত্তার যুক্তিপ্রমাণ তৈরিতে পরিচালনাগত উত্তম চর্চা নিয়েও আমরা কাজ করছি. এর মধ্যে থাকতে পারে:

• ভিন্নমত (আগাম ব্যর্থতা বিশ্লেষণ): নিরাপত্তার যুক্তিপ্রমাণের খসড়া তৈরির পর অন্য দলের একজন সদস্যের উচিত সম্ভাব্য ফাঁকগুলো খুঁজে বের করে লিখিত ভিন্নমত দেওয়া এবং ঝুঁকি সম্পর্কে সুচিন্তিত মূল্যায়ন জানানো. এরপর প্রশিক্ষণ দলের উচিত সেগুলোর সমাধান করা, যাতে নিরাপত্তার যুক্তিপ্রমাণ আরও শক্তিশালী হয়.

• অনুমোদন: জ্যেষ্ঠ নেতৃত্বের সদস্যদের নিরাপত্তার যুক্তিপ্রমাণ পর্যালোচনা করা উচিত. প্রশিক্ষণ কার্যক্রমে একাধিক অভ্যন্তরীণ যাচাই নিশ্চিত করতে তাঁদের প্রত্যেকেরই কার্যক্রমটি বাতিল করার ক্ষমতা থাকা উচিত (যেমন, গবেষণা বিভাগের প্রধান / সহসভাপতি, নিরাপত্তাপ্রধান এবং প্রধান বিজ্ঞানী).

• জবাবদিহি: প্রশিক্ষণ কার্যক্রমের দায়িত্বে থাকা জ্যেষ্ঠ নেতাকে (যেমন, গবেষণা বিভাগের প্রধান / গবেষণা-বিষয়ক সহসভাপতি) নিরাপত্তার যুক্তিপ্রমাণ ও যেকোনো ঘটনা মোকাবিলার জন্য জবাবদিহি করতে হবে, কর্মদক্ষতা পর্যালোচনার ক্ষেত্রেও. এতে প্রশিক্ষণ দলগুলোও নিরাপত্তা ও উদ্দেশ্যসামঞ্জস্য নিশ্চিত করতে উৎসাহিত হবে.

• সাময়িক স্থগিতকরণ: নিরাপত্তার যুক্তিপ্রমাণকে অকার্যকর করে দিতে পারে এমন সমস্যা (যেমন, নতুন কোনো সুরক্ষা সমস্যা) পাওয়া গেলে, এর আওতাধীন সব প্রশিক্ষণ কার্যক্রম স্থগিত করার জন্য কার্যপদ্ধতির নির্দেশিকা, প্রযুক্তিগত নিয়ন্ত্রণ ও সেবার মানসংক্রান্ত চুক্তি থাকতে হবে.

• অভ্যন্তরীণ স্বচ্ছতা: অভ্যন্তরীণ তদারকি গোষ্ঠীগুলোকে (যেমন, নিরাপত্তা ও সুরক্ষা কমিটি) নিরাপত্তার যুক্তিপ্রমাণ দেখার সুযোগ দেওয়া উচিত.

• নিরীক্ষা: নিরাপত্তার যুক্তিপ্রমাণের দাবিগুলো যথার্থ ও সুপ্রতিষ্ঠিত কি না, তা যাচাই করতে এবং কোনো ঘাটতি পেলে তা তুলে ধরতে নিরীক্ষকদের পর্যাপ্ত প্রবেশাধিকার দেওয়া উচিত.

• ঊর্ধ্বতন পর্যায়ে অবহিতকরণ: উদ্দেশ্যের সঙ্গে অসামঞ্জস্যের সমস্যা ঊর্ধ্বতন পর্যায়ে জানানোর স্পষ্ট প্রক্রিয়া থাকা উচিত. সঙ্গে থাকতে হবে অসামঞ্জস্যের তীব্রতার নির্ধারিত স্তরগুলোর তালিকা এবং তাৎক্ষণিক সাড়াদানের দায়িত্বে থাকা কেউ, যিনি প্রশিক্ষণ কার্যক্রমে সমস্যা নির্দিষ্ট তীব্রতায় পৌঁছালে নির্বাহীদের (যেমন, প্রধান নির্বাহী কর্মকর্তা) জরুরি বার্তা পাঠাতে পারবেন.

• প্রযুক্তিগত নিয়ন্ত্রণ: মানুষ ও এজেন্টের পক্ষে নিয়মবহির্ভূত প্রশিক্ষণ কার্যক্রম শুরু করা কঠিন হওয়া উচিত. পর্যবেক্ষণ ও স্বয়ংক্রিয় স্থগিতকরণের মতো নিরাপত্তাব্যবস্থা ব্যর্থ হলে কার্যক্রম বন্ধ থাকতে হবে. যেমন, যথাযথ পর্যবেক্ষণ চালু না করে প্রশিক্ষণ শুরু করা, কিংবা রিইনফোর্সমেন্ট লার্নিং প্রশিক্ষণ, মূল্যায়ন বা অভ্যন্তরীণ ব্যবহারের মধ্য থেকে পর্যবেক্ষণব্যবস্থা নিষ্ক্রিয় করা সম্ভব হওয়া উচিত নয়.

• আগের অবস্থায় ফেরার সক্ষমতা: প্রশিক্ষণ প্রক্রিয়ায় উদ্দেশ্যের সঙ্গে অসামঞ্জস্যপূর্ণ কোনো মডেল পরবর্তী কোন কোন কাজে ব্যবহৃত হয়েছে (যেমন, উপাত্ত তৈরি বা মান নির্ধারণ), তা সহজে শনাক্ত করা সম্ভব হওয়া উচিত. এতে প্রয়োজনে অসামঞ্জস্যপূর্ণ আউটপুটের প্রভাব দূর করা যাবে.

• অবশিষ্ট ঝুঁকির পূর্ণাঙ্গ তালিকা: বর্তমানে কার্যকর প্রশমনব্যবস্থার আওতায় নেই এমন অবশিষ্ট ঝুঁকিগুলোর যথাসম্ভব পূর্ণাঙ্গ তালিকা নিরাপত্তার যুক্তিপ্রমাণে থাকা উচিত, যাতে তথ্যভিত্তিক ঝুঁকি গ্রহণের সিদ্ধান্ত নেওয়া যায়.

এগুলো আমাদের বর্তমান সুপারিশ এবং OpenAI-তে এগুলো বাস্তবায়নের কাজ চলছে. আগামী সপ্তাহগুলোতে আমাদের চর্চাগুলো আরও বিকশিত হবে বলে আমরা আশা করি.

এআইয়ের উদ্দেশ্যের সঙ্গে গুরুতর অসামঞ্জস্যের ঘটনা তদন্তের জন্যও আমরা কিছু উত্তম চর্চা তৈরি করছি. ভবিষ্যতে এমন ঘটনা প্রতিরোধ করতে গবেষণাগারগুলোর উচিত প্রতিটি ঘটনা থেকে যতটা সম্ভব শেখার চেষ্টা করা, যেমনটি বড় ধরনের ক্ষতির ঝুঁকিপূর্ণ অন্যান্য শিল্প খাতের তদন্তপদ্ধতিতে⁠(একটি নতুন উইন্ডোতে খোলে) করা হয়. এ ধরনের পদক্ষেপের কিছু উদাহরণ:

• অভ্যন্তরীণ স্বচ্ছতা: তদন্ত শেষ হতে অনেক সময় লাগতে পারে বলে এর অগ্রগতি নিয়মিতভাবে প্রতিষ্ঠানের ভেতরে জানানো উচিত (যেমন, চলমান তদন্তের দৈনিক অগ্রগতি). কর্মীদের কাজের জন্য নিরাপদ ও প্রাসঙ্গিক হলে, মূল কথোপকথনের রেকর্ড দেখা ও উদ্দেশ্যের সঙ্গে অসামঞ্জস্যপূর্ণ মডেল থেকে নমুনা সংগ্রহসহ আরও বিস্তৃত প্রবেশাধিকার পাওয়ার নির্ধারিত প্রক্রিয়া থাকা উচিত.

• উদ্দেশ্যের সঙ্গে অসামঞ্জস্যের মূল কারণ: অসামঞ্জস্যপূর্ণ আচরণ কীভাবে তৈরি হয়েছে, তা বুঝতে গবেষকদের প্রশিক্ষণ চলাকালীন পরিবর্তনগুলোর মূল কারণ খুঁজে বের করা উচিত (যেমন, নির্দিষ্ট উপাদান বাদ দিয়ে বা পুনরায় নমুনা সংগ্রহ করে পরীক্ষার মাধ্যমে). এতে অসামঞ্জস্যের বিজ্ঞান আরও ভালোভাবে বোঝা যাবে এবং ভবিষ্যতে তা আরও কার্যকরভাবে প্রতিরোধ করা যাবে.

• ঘটনা-পরবর্তী বিশ্লেষণ: ঘটনার পেছনে ভূমিকা রাখা সব কারণ বুঝতে পরিচালনাগত ও প্রাতিষ্ঠানিক সংস্কৃতির দিকগুলো বিশ্লেষণ করা উচিত. যেমন, সমস্যাগুলো কেন তৈরি হয়েছিল এবং ঘটনার আগে কেন সেগুলো শনাক্ত করা হয়নি বা ঊর্ধ্বতন পর্যায়ে জানানো হয়নি.

• শনাক্তকরণ: ঘটনা থেকে পাওয়া তথ্যের (যেমন, কথোপকথনের রেকর্ড বা ঘটনার সারসংক্ষেপ) ওপর সরাসরি বারবার উন্নয়ন প্রচেষ্টা না চালিয়ে, এমন উদ্দেশ্যসামঞ্জস্য পরীক্ষাপদ্ধতি তৈরি করা উচিত যা ওই ঘটনা ঘটানোর প্রবণতা শনাক্ত করতে পারে. ঘটনার ভিত্তিতে তৈরি মূল্যায়নগুলোকে “অবনতির পুনরাবৃত্তি যাচাইয়ের পরীক্ষা” হিসেবে ব্যবহার করা উচিত, যাতে ভবিষ্যতের মডেলগুলো খুবই অনুরূপ ঘটনায় উদ্দেশ্যের সঙ্গে অসামঞ্জস্যের প্রবণতা না দেখায়.

• জনসমক্ষে প্রকাশ: তদন্ত শেষ হলে তদন্তের ফলাফল, ঘটনা-পরবর্তী বিশ্লেষণ ও পরিচালনাগত পরিবর্তনগুলো জনসাধারণকে জানানো উচিত. ক্ষতিগ্রস্ত তৃতীয় পক্ষগুলোকে যত দ্রুত সম্ভব জানানো উচিত.