এই অংশ দায়িত্বশীলভাবে AI ব্যবহার নিয়ে তিনটি পাঠ দিয়ে শেষ হচ্ছে, শুরু হচ্ছে এমন একটি প্রশ্ন দিয়ে যা গুরুত্বপূর্ণ হয়ে ওঠে ঠিক যে মুহূর্তে AI আউটপুট একজন প্রকৃত মানুষ সম্পর্কে একটি প্রকৃত সিদ্ধান্তকে প্রভাবিত করে: এটি ন্যায্য হবে বলে বিশ্বাস করা যায়?
AI মডেল মানুষ-তৈরি তথ্য থেকে শেখে, আর মানুষের তথ্যে ঐতিহাসিক পক্ষপাত থাকে — মানুষের নেওয়া সিদ্ধান্তের প্যাটার্ন, অন্যায্যগুলোসহ। একটি AI সিস্টেম কোথাও থেকে পক্ষপাত তৈরি করে না; এটি তার প্রশিক্ষণ তথ্যে যে প্যাটার্ন বিদ্যমান তা শেখে আর এটি এমন স্কেল আর গতিতে পুনরুৎপাদন করতে পারে যা কোনো একক মানুষ সিদ্ধান্ত-গ্রহীতা কখনো পারতেন না।
Amazon হায়ারিং AI-এর ঘটনা
একটি বড় প্রযুক্তি কোম্পানি চাকরির আবেদনকারীদের রিজিউমে স্ক্রিন করতে একটি AI টুল তৈরি করেছিল। এটি "women's" শব্দযুক্ত রিজিউমে জরিমানা করতে শিখেছিল (যেমন "women's chess club captain"), কারণ এর প্রশিক্ষণ তথ্য প্রশ্নবিদ্ধ পদগুলোতে বেশিরভাগ পুরুষ নিয়োগের একটি ইতিহাস প্রতিফলিত করেছিল। এটি আবিষ্কৃত হওয়ার পর টুলটি বাতিল করা হয়েছিল। AI দিয়ে নিয়োগ টুল তৈরি করা যে কারো জন্য শিক্ষা: শুধু চূড়ান্ত টুলের আচরণ নয়, প্রশিক্ষণ তথ্যই পক্ষপাতের জন্য অডিট করা প্রয়োজন।
একটি ইমেজ জেনারেটরকে "একজন ডাক্তার" জিজ্ঞাসা করুন আর এটি প্রায়ই বিপুলভাবে পুরুষদের ছবি তৈরি করবে; "একজন নার্স" জিজ্ঞাসা করুন আর এটি ব্যাপকভাবে নারীর দিকে ঝুঁকে থাকে। এটি মডেলটি যে ছবিতে প্রশিক্ষিত হয়েছিল তাতে ইতিমধ্যে বিদ্যমান প্যাটার্ন প্রতিফলিত করে — সামগ্রিকভাবে ইন্টারনেট — টুলের নির্মাতাদের একটি ইচ্ছাকৃত পছন্দ নয়। যে কেউ পেশাদারভাবে AI ইমেজ জেনারেশন ব্যবহার করেন তাকে যেখানে গুরুত্বপূর্ণ সেখানে সচেতনভাবে বৈচিত্র্য নির্দিষ্ট করতে হবে, আর লক্ষ্য করতে হবে যখন ডিফল্ট আউটপুট নিঃশব্দে একটি স্টেরিওটাইপ শক্তিশালী করে, আউটপুট ডিফল্টভাবে নিরপেক্ষ ধরে নেওয়ার বদলে।
বেশিরভাগ লার্জ ল্যাঙ্গুয়েজ মডেল বাংলা, হিন্দি, বা অন্যান্য ভারতীয় ভাষার চেয়ে ইংরেজিতে লক্ষণীয়ভাবে ভালো পারফর্ম করে — ইংরেজির জন্য প্রশিক্ষণ তথ্য শুধু অনেক বড় আর আরও পুঙ্খানুপুঙ্খভাবে প্রতিনিধিত্বকৃত। আপনি যদি ভারতীয় ব্যবহারকারীদের জন্য একটি AI পণ্য তৈরি করেন তাহলে এটি একটি ছোট বিবরণ নয়: ইংরেজিতে মান মানে অন্য জায়গায় সমান মান তা ধরে নেওয়ার বদলে লক্ষ্য ভাষায় এর প্রকৃত পারফরম্যান্স স্পষ্টভাবে টেস্ট করুন।
আপনি যদি একটি AI সিস্টেম মোতায়েন করেন — একটি চ্যাটবট, একটি স্ক্রিনিং টুল, একটি সুপারিশ ইঞ্জিন — আপনি এটি যা তৈরি করে তার জন্য দায়ী, যদিও আপনি নিজে অন্তর্নিহিত মডেলটি প্রশিক্ষণ দেননি। আপনার তৈরি করা একটি চ্যাটবট যদি একজন ব্যবহারকারীকে পক্ষপাতদুষ্ট, ক্ষতিকর, বা শুধু ভুল পরামর্শ দেয়, পরিণতি আপনার আর আপনার ক্লায়েন্টের উপর পড়ে, AI প্রোভাইডারের উপর নয়। লঞ্চের আগে এজ কেস, আপত্তিকর বা অপ্রত্যাশিত আউটপুট, আর ব্যর্থতার মোড টেস্ট করা ঐচ্ছিক পালিশ নয় — এটাই প্রকৃত কাজ।
একটিমাত্র অভ্যাস যা আসলে সাহায্য করে
এখানকার প্রতিটি উদাহরণ জুড়ে ব্যবহারিক শিক্ষাটা একই: পক্ষপাত এমন কিছু নয় যা AI নিজে থেকে যোগ করে — এটি তথ্যে ইতিমধ্যে যা ছিল তা প্রতিফলিত আর শক্তিশালী করে। AI আউটপুটকে স্বয়ংক্রিয়ভাবে নিরপেক্ষ ধরে নেওয়াই ভুল; এটি কার প্যাটার্ন শিখেছে তা টেস্ট করাই সমাধান।
পক্ষপাত AI ঝুঁকির একটি বিভাগ। পরের পাঠে ভিন্ন একটি আলোচনা করা হবে — ইচ্ছাকৃতভাবে প্রতারণা করার জন্য তৈরি কনটেন্ট, আর এটি কীভাবে চিনবেন।