এআই থেকে বোর্ডের যা দাবি করা উচিত: মূল্যায়ন, নিরীক্ষা এবং নিশ্চয়তা

এরিকা ফিল টি. লেগারা লিখেছেন

পূর্ববর্তী একটি বিজনেসওয়ার্ল্ড নিবন্ধে আমি যুক্তি দিয়েছিলাম যে AI গভর্নেন্স কেবলমাত্র কয়েকটি প্রযুক্তি প্রকল্প তদারকি করার মধ্যে সীমাবদ্ধ নয় এবং এখন এটি নিশ্চিত করা জড়িত যে সংস্থা জুড়ে AI-সক্ষম সিদ্ধান্তগুলি কৌশল, ঝুঁকি গ্রহণযোগ্যতা এবং নৈতিক মানদণ্ডের সাথে সামঞ্জস্যপূর্ণ থাকে। বোর্ডের জন্য একটি স্বাভাবিক ফলো-অন প্রশ্ন হল: প্রত্যাশা নির্ধারণের বাইরে, কীভাবে একটি সংস্থা যাচাই করে যে এর AI সিস্টেমগুলি প্রকৃতপক্ষে উদ্দেশ্য অনুযায়ী, দায়িত্বশীলভাবে এবং নির্ধারিত সীমানার মধ্যে কার্যকর হচ্ছে?

উত্তরটি তিনটি সম্পর্কিত কিন্তু স্বতন্ত্র শৃঙ্খলার মধ্যে নিহিত: AI ঝুঁকি মূল্যায়ন, AI অডিট এবং AI নিশ্চয়তা। আর্থিক তদারকিতে অভিজ্ঞ বোর্ডগুলি যুক্তিটি স্বজ্ঞাত মনে করবে। চ্যালেঞ্জ, এবং সুযোগ হল, AI-তে একই শৃঙ্খলা প্রয়োগ করা।

৩টি স্বতন্ত্র কিন্তু সম্পর্কিত ধারণা
প্রতিটি শব্দের অর্থ সম্পর্কে সুনির্দিষ্ট হওয়া সহায়ক, কারণ সেগুলি প্রায়শই বিনিময়যোগ্যভাবে ব্যবহৃত হয় যখন সেগুলি করা উচিত নয়।

AI ঝুঁকি মূল্যায়ন হল অভ্যন্তরীণ প্রক্রিয়া যার মাধ্যমে একটি সংস্থা তার AI সিস্টেমের সাথে সম্পর্কিত ঝুঁকিগুলি চিহ্নিত, মূল্যায়ন এবং অগ্রাধিকার দেয়। এটি জিজ্ঞাসা করে কী ভুল হতে পারে, এটি কতটা সম্ভাব্য এবং প্রভাব কী হবে। এটি ভিত্তি যার উপর অন্য সবকিছু নির্ভর করে। একটি বিশ্বাসযোগ্য ঝুঁকি মূল্যায়ন ছাড়া, অডিট বা নিশ্চয়তা কোনোটিরই কাজ করার জন্য অর্থপূর্ণ বেসলাইন নেই। প্রতিটি সেক্টর জুড়ে উপাদান AI সিস্টেম বিদ্যমান: একটি ব্যাংকে ক্রেডিট স্কোরিং মডেল, একটি হাসপাতালে রোগী ট্রায়েজ সরঞ্জাম, একটি বিশ্ববিদ্যালয়ে শিক্ষার্থী পারফরম্যান্স পূর্বাভাসকারী, একটি সরকারি সংস্থায় কেস অগ্রাধিকার সিস্টেম। তারা যা ভাগ করে তা হল ফলাফল, যার মধ্যে রয়েছে আউটপুট যা অর্থপূর্ণ উপায়ে প্রকৃত মানুষকে প্রভাবিত করে।

এই ধরনের যেকোনো সিস্টেমের জন্য, ঝুঁকি মূল্যায়ন পদ্ধতিগত, নথিভুক্ত এবং নিয়মিতভাবে পুনর্বিবেচনা করা উচিত যখন মডেল বিকশিত হয় এবং অপারেটিং পরিবেশ পরিবর্তিত হয়।

AI অডিট হল স্বাধীন পরীক্ষা যা নির্ধারণ করে যে একটি AI সিস্টেম, বা এর চারপাশের গভর্নেন্স কাঠামো, নির্ধারিত মান, নীতি বা প্রয়োজনীয়তার সাথে সামঞ্জস্যপূর্ণ কিনা। এটি একটি প্রমাণ-ভিত্তিক প্রক্রিয়া যা পর্যালোচনাধীন সিস্টেমের জন্য দায়ী ব্যক্তিদের থেকে যথেষ্ট স্বাধীন একটি পক্ষ দ্বারা পরিচালিত হয়। একটি AI অডিট মূল্যায়ন করতে পারে যে একটি সংস্থার AI ব্যবস্থাপনা অনুশীলন আন্তর্জাতিকভাবে স্বীকৃত একটি মানের সাথে সামঞ্জস্যপূর্ণ কিনা, যেমন ISO/IEC 42001, 2023 সালে প্রকাশিত বিশ্বের প্রথম AI ব্যবস্থাপনা সিস্টেম মান, বা একটি নির্দিষ্ট মডেল অনুমোদিত পরামিতিগুলির মধ্যে এবং অনিচ্ছাকৃত পক্ষপাত ছাড়াই কার্যকর হচ্ছে কিনা। গুরুত্বপূর্ণভাবে, অডিটরদের নিজেদের নিয়ন্ত্রণকারী মান, ISO/IEC 42006, জুলাই 2025 এ প্রকাশিত, এখন AI ব্যবস্থাপনা সিস্টেম অডিট এবং সার্টিফাই করে এমন সংস্থাগুলির প্রয়োজনীয় দক্ষতা এবং কঠোরতা নির্ধারণ করে। অন্য কথায়, অডিটিং পেশা AI এনগেজমেন্টের জন্য তার নিজস্ব জবাবদিহিতা আনুষ্ঠানিক করা শুরু করছে।

AI নিশ্চয়তা হল সেই অডিট প্রক্রিয়া থেকে উদ্ভূত আনুষ্ঠানিক, স্টেকহোল্ডার-মুখী উপসংহার। এটি একটি পেশাদার মতামত, একটি যোগ্য এবং স্বাধীন পক্ষ দ্বারা জারি করা হয়, যা বোর্ড, নিয়ন্ত্রক, বিনিয়োগকারী এবং জনসাধারণকে আত্মবিশ্বাস দেয় যে একটি AI সিস্টেম বা AI ব্যবস্থাপনা কাঠামো একটি নির্ধারিত মান পূরণ করে। নিশ্চয়তা হল যা একটি অভ্যন্তরীণ পর্যালোচনাকে একটি বিশ্বাসযোগ্য বাহ্যিক সংকেতে রূপান্তরিত করে।

AI নিশ্চয়তার ভিত্তি
স্বাধীন নিশ্চয়তার ধারণা বোর্ডের কাছে নতুন নয়। প্রতি বছর, বাহ্যিক অডিটররা একটি সংস্থার আর্থিক বিবৃতি পরীক্ষা করে এবং একটি মতামত জারি করে; একটি উপসংহার প্রমাণের উপর ভিত্তি করে, আন্তর্জাতিকভাবে স্বীকৃত মানদণ্ডের অধীনে পরিচালিত এবং অডিটরের পেশাদার স্বাধীনতা দ্বারা সমর্থিত। সেই মতামত ওজন বহন করে ঠিক কারণ এটি নিয়ন্ত্রণকারী কাঠামো কঠোর এবং সুপ্রতিষ্ঠিত। এই যুক্তি শিল্প নির্বিশেষে প্রযোজ্য; সংস্থা একটি ব্যাংক, একটি হাসপাতাল, একটি কনগ্লোমারেট বা একটি পাবলিক প্রতিষ্ঠান হোক না কেন, আর্থিক অডিট একটি পরিচিত এবং বিশ্বস্ত প্রক্রিয়া।

একই যুক্তি এখন AI-তে প্রযোজ্য। যখন একটি সংস্থা তার AI সিস্টেম সম্পর্কে একটি পাবলিক বা নিয়ন্ত্রক দাবি করে, যে সেগুলি ন্যায্য, স্বচ্ছ, একটি নির্ধারিত মানের সাথে সামঞ্জস্যপূর্ণ, বা উপাদান পক্ষপাত থেকে মুক্ত, প্রশ্ন হল: কে স্বাধীনভাবে সেই দাবি যাচাই করে এবং কোন পেশাদার কাঠামোর অধীনে?

উত্তরটি, অ্যাকাউন্টিং এবং অডিট পেশার জন্য, হল ISAE 3000, ইন্টারন্যাশনাল অডিটিং অ্যান্ড অ্যাস্যুরেন্স স্ট্যান্ডার্ডস বোর্ড (IAASB) দ্বারা জারি করা অ্যাস্যুরেন্স এনগেজমেন্ট সংক্রান্ত আন্তর্জাতিক মান। ISAE 3000 ঐতিহাসিক আর্থিক তথ্য ছাড়া অন্যান্য বিষয়ে নিশ্চয়তা এনগেজমেন্ট নিয়ন্ত্রণ করে, এটি AI নিশ্চয়তার জন্য প্রাকৃতিক আবাসস্থল তৈরি করে। এই মানের অধীনে, একজন পেশাদার হয় একটি যুক্তিসঙ্গত নিশ্চয়তা এনগেজমেন্ট, উচ্চতর মান যা একটি আর্থিক অডিটের অনুরূপ, অথবা একটি সীমিত নিশ্চয়তা এনগেজমেন্ট পরিচালনা করতে পারেন, যা গভীরতায় একটি পর্যালোচনার কাছাকাছি। স্তরের পছন্দ গুরুত্বপূর্ণ এবং ইচ্ছাকৃত হওয়া উচিত, প্রশ্নবিদ্ধ AI সিস্টেমের বস্তুগততা এবং ঝুঁকির সাথে ক্যালিব্রেট করা।

একটি ঘনিষ্ঠ সমসাময়িক সমান্তরাল হল স্থায়িত্ব বা ESG নিশ্চয়তা। অনেক ফিলিপাইন-তালিকাভুক্ত কোম্পানি ইতিমধ্যে তাদের স্থায়িত্ব প্রকাশের উপর স্বাধীন নিশ্চয়তা কমিশন করছে, প্রায়শই ISAE 3000 এর অধীনে। মেকানিক্স একেবারে একই: একজন স্বাধীন অনুশীলনকারী নির্ধারিত মানদণ্ডের বিপরীতে দাবির একটি সেট পরীক্ষা করে এবং একটি আনুষ্ঠানিক উপসংহার জারি করে। বিষয়বস্তু ভিন্ন; পেশাদার শৃঙ্খলা নয়।

বোর্ডের জন্য এর অর্থ কী
এই কাঠামো থেকে তিনটি ব্যবহারিক প্রভাব অনুসরণ করে।

প্রথম, বোর্ডের জিজ্ঞাসা করা উচিত তাদের সংস্থাগুলি উপাদান সিস্টেমে কঠোর AI ঝুঁকি মূল্যায়ন পরিচালনা করেছে কিনা। একবারের অনুশীলন নয়, বরং একটি জীবন্ত প্রক্রিয়া যা মডেল পুনরায় প্রশিক্ষিত হওয়ার সাথে সাথে, ব্যবহারের ক্ষেত্রে সম্প্রসারিত হওয়ার সাথে সাথে এবং নিয়ন্ত্রক পরিবেশ বিকশিত হওয়ার সাথে সাথে আপডেট করা হয়। ডাউনস্ট্রিম অডিট এবং নিশ্চয়তা কাজের গুণমান শুধুমাত্র এর আগে আসা ঝুঁকি মূল্যায়নের মতো ভাল।

দ্বিতীয়, বোর্ডের অভ্যন্তরীণ এবং বাহ্যিক AI অডিটের মধ্যে পার্থক্য করা উচিত। অভ্যন্তরীণ অডিট ফাংশন AI নিয়ন্ত্রণগুলি ডিজাইন করা হিসাবে কাজ করে তা নিশ্চয়তা প্রদানে একটি গুরুত্বপূর্ণ ভূমিকা পালন করে। তবে, বোর্ডের এও বিবেচনা করা উচিত যে উপাদান AI সিস্টেমের একটি স্বাধীন, তৃতীয় পক্ষের অডিট যুক্তিসঙ্গত কিনা, বিশেষত এমন সিস্টেমের জন্য যা গ্রাহক, কর্মচারী বা জনসাধারণকে গুরুত্বপূর্ণ উপায়ে প্রভাবিত করে। আর্থিক অডিটিংয়ের মতো, স্বাধীনতা বিশ্বাসযোগ্যতা শক্তিশালী করে।

তৃতীয়, সংস্থাগুলি নিয়ন্ত্রক, বিনিয়োগকারী এবং তারা যে সম্প্রদায়গুলিকে পরিবেশন করে তাদের কাছে তাদের AI অনুশীলন সম্পর্কে ক্রমবর্ধমানভাবে পাবলিক প্রতিশ্রুতি দিচ্ছে, বোর্ডের জিজ্ঞাসা করা উচিত সেই প্রতিশ্রুতিগুলি বিশ্বাসযোগ্য নিশ্চয়তা দ্বারা সমর্থিত কিনা। স্বাধীন যাচাইকরণ ছাড়া দাবিগুলি, সর্বোত্তমভাবে, একটি খ্যাতিগত ঝুঁকি বাস্তবায়িত হওয়ার অপেক্ষায় রয়েছে।

একটি পেশা এখনও তার সক্ষমতা তৈরি করছে
এর বর্তমান সীমাবদ্ধতা স্বীকার না করে এই প্রাকৃতিক দৃশ্য উপস্থাপন করা অসম্পূর্ণ হবে। AI নিশ্চয়তার জন্য অবকাঠামো এখনও তৈরি হচ্ছে। পেশাদার মান উদ্ভূত হচ্ছে। AI-তে অডিটর দক্ষতা, মেশিন লার্নিং, অ্যালগরিদমিক পক্ষপাত, ডেটা গভর্নেন্স এবং মডেল স্বচ্ছতা জুড়ে, পেশা জুড়ে এখনও সমানভাবে উন্নত হয়নি। ISAE 3000 নিশ্চয়তা কাঠামো প্রদান করে, কিন্তু এর মধ্যে থাকা AI-নির্দিষ্ট পদ্ধতিগুলি এখনও পরিপক্ক হচ্ছে।

যে সংস্থাগুলি এখনও আনুষ্ঠানিক নিশ্চয়তা অনুসরণ করতে প্রস্তুত নয়, এটি স্থির থাকার কারণ নয়। উপাদান AI সিস্টেমের একটি কাঠামোগত, নিয়মিত মূল্যায়ন একটি অর্থপূর্ণ এবং ব্যবহারিক প্রথম পদক্ষেপ। এটি অভ্যন্তরীণ শৃঙ্খলা, নথিভুক্তকরণ এবং গভর্নেন্স অভ্যাস তৈরি করে যা নিশ্চয়তা-প্রস্তুতি শেষ পর্যন্ত প্রয়োজন। যে বোর্ডগুলি আজ এই ধরনের মূল্যায়ন কমিশন করে, এমনকি অনানুষ্ঠানিকভাবে, প্রাতিষ্ঠানিক পেশী বিকাশ করছে যা গুরুত্বপূর্ণ হবে যখন নিয়ন্ত্রক প্রত্যাশা কঠোর হয় এবং স্টেকহোল্ডার যাচাই তীব্র হয়।

এই দৃষ্টিভঙ্গি এমন একটি যা আমি সহকর্মীদের সাথে গবেষণায় আরও গভীরভাবে অন্বেষণ করেছি যেখানে নিয়ন্ত্রণ এখনও প্রযুক্তির সাথে ধরা দেয়নি এমন অর্থনীতিতে জেনারেটিভ AI গভর্নেন্স পরীক্ষা করছি। কেন্দ্রীয় যুক্তি হল যে সংস্থাগুলি ইতিমধ্যে তাদের স্টেকহোল্ডারদের কাছে বিদ্যমান নৈতিক দায়বদ্ধতা সহ নৈতিক এজেন্ট; বিশেষভাবে তৈরি AI আইনের জন্য অপেক্ষা করা দায়বদ্ধ গভর্নেন্সের জন্য প্রয়োজনীয় বা যথেষ্ট নয়। কাজ করার বাধ্যবাধকতা ইতিমধ্যে রয়েছে। যা প্রয়োজন তা হল এটি কার্যকর করার সাংগঠনিক ইচ্ছা।

এটি বোর্ডের জন্য বৃহত্তর এজেন্ডায় অপেক্ষা করার কারণ নয়। এটি এখন অবহিত প্রশ্ন জিজ্ঞাসা করার একটি কারণ, তাদের বাহ্যিক অডিটরদের, তাদের অভ্যন্তরীণ অডিট ফাংশনগুলির এবং তাদের ব্যবস্থাপনা দলগুলির, যাতে যখন পেশার সক্ষমতা চাহিদার সাথে ধরা দেয়, তাদের সংস্থাগুলি অর্থপূর্ণভাবে জড়িত হতে প্রস্তুত থাকে।

আর্থিক অডিট সম্পূর্ণরূপে গঠিত হয়নি। স্বাধীন অডিট আজকের বিশ্বাসযোগ্য প্রতিষ্ঠান হওয়ার জন্য মান-নির্ধারণ, পেশাদার উন্নয়ন এবং কর্পোরেট ব্যর্থতা থেকে কঠোর পাঠ নিতে কয়েক দশক লেগেছিল। AI নিশ্চয়তা একটি তুলনামূলক প্রাথমিক বিন্দুতে রয়েছে। যে বোর্ডগুলি এখন এটির সাথে জড়িত, তাদের অডিটরদের তীক্ষ্ণ প্রশ্ন জিজ্ঞাসা করে, ব্যবস্থাপনা দাবির চেয়ে বেশি দাবি করে এবং নিয়ন্ত্রক তাদের তা করার জন্য প্রয়োজনের আগে অভ্যন্তরীণ সক্ষমতা তৈরি করে, তারা কেবল তাদের নিজস্ব এক্সপোজার হ্রাস করবে না। তারা ফিলিপাইন সংস্থা এবং বৃহত্তর অঞ্চলের জন্য দায়বদ্ধ AI জবাবদিহিতা কেমন দেখায় তা গঠন করতে সহায়তা করবে।

এরিকা ফিল টি. লেগারা একজন পদার্থবিদ, শিক্ষাবিদ এবং ডেটা সায়েন্স এবং AI অনুশীলনকারী যা সরকার, একাডেমিয়া এবং শিল্প জুড়ে কাজ করছেন। তিনি এডুকেশন সেন্টার ফর AI রিসার্চের উদ্বোধনী ব্যবস্থাপনা পরিচালক এবং প্রধান AI এবং ডেটা অফিসার, এবং এশিয়ান ইনস্টিটিউট অফ ম্যানেজমেন্টে একজন সহযোগী অধ্যাপক এবং ডেটা সায়েন্সে আবইটিজ চেয়ার, যেখানে তিনি 2017 থেকে 2024 পর্যন্ত দেশের প্রথম MSc ইন ডেটা সায়েন্স প্রোগ্রাম প্রতিষ্ঠা ও নেতৃত্ব দিয়েছিলেন। তিনি কর্পোরেট বোর্ডে দায়িত্ব পালন করেন, ইনস্টিটিউট অফ কর্পোরেট ডিরেক্টরসের একজন ফেলো, একজন IAPP সার্টিফাইড AI গভর্নেন্স প্রফেশনাল এবং কর্টেক্স ইনোভেশনসের একজন সহ-প্রতিষ্ঠাতা।