কৃত্রিম বুদ্ধিমত্তার অদৃশ্য বৈষম্য ও আমাদের ভবিষ্যৎ

একুশ শতকের এই সময়ে দাঁড়িয়ে আমরা এক অদ্ভুত প্যারাডক্সের মধ্য দিয়ে যাচ্ছি। একদিকে আমরা দাবি করছি, কৃত্রিম বুদ্ধিমত্তা মানুষের আবেগতাড়িত ভুল ও পক্ষপাতিত্বের ঊর্ধ্বে উঠে নিখুঁত সিদ্ধান্ত নিতে সক্ষম; অন্যদিকে গবেষণায় দেখা যাচ্ছে, এই প্রযুক্তিগুলো অনেক ক্ষেত্রে মানুষের চেয়েও বেশি বৈষম্যমূলক আচরণ করছে। এই সংকটের নাম অ্যালগরিদমিক বায়াস।

এআই যেহেতু বিশাল উপাত্ত বিশ্লেষণ করে সিদ্ধান্ত গ্রহণ করে, তাই সেই উপাত্তে যদি সমাজের বিদ্যমান কুসংস্কার বা বৈষম্য লুকিয়ে থাকে, তবে এআই সেই বৈষম্যকে কেবল গ্রহণই করে না, বরং তাকে বহুগুণ শক্তিশালী করে পুনরায় উৎপাদন করে। ফলে এআই এখন কেবল একটি প্রযুক্তি নয়, বরং এটি সামাজিক ন্যায়বিচার ও সমঅধিকারের পথে এক নতুন এবং অদৃশ্য বাধা হিসেবে আবির্ভূত হয়েছে।

কেন ঘটে এই বায়াস

অ্যালগরিদমিক বায়াস কেন ঘটে, তা বুঝতে হলে এআইয়ের শিক্ষা পদ্ধতি বা মেশিন লার্নিং প্রক্রিয়াটি তলিয়ে দেখা প্রয়োজন। কম্পিউটার বিজ্ঞানের ভাষায় একে বলে গারবেজ ইন, গারবেজ আউট। অর্থাৎ, একটি অ্যালগরিদমকে যদি এমন ঐতিহাসিক ডেটা দিয়ে প্রশিক্ষণ দেওয়া হয়, যেখানে নির্দিষ্ট কোনো বর্ণ, লিঙ্গ বা ক্ষুদ্র নৃগোষ্ঠীর প্রতি অবিচার করা হয়েছে, তাহলে সেই অ্যালগরিদমটি অবচেতনভাবেই ওই নির্দিষ্ট গোষ্ঠীকে নেতিবাচকভাবে চিহ্নিত করতে শেখে।

এটি কোনো যান্ত্রিক ত্রুটি নয়, বরং এটি আমাদের সমাজের দীর্ঘদিনের বৈষম্যেরই একটি ডিজিটাল প্রতিফলন। যখন কোনো প্রযুক্তি প্রতিষ্ঠানের নিয়োগ প্রক্রিয়ায় ব্যবহৃত এআই স্বয়ংক্রিয়ভাবে নারীদের চেয়ে পুরুষদের জীবনবৃত্তান্তকে বেশি প্রাধান্য দেয়, কিংবা যখন কোনো অপরাধী শনাক্তকরণ সফটওয়্যার কৃষ্ণাঙ্গ বা সংখ্যালঘু মানুষের চেহারা ভুলভাবে চিহ্নিত করে, তখন বুঝতে হবে অ্যালগরিদমটি তার নিরপেক্ষতা হারিয়েছে।

বিশ্বজুড়ে বিতর্ক ও উদাহরণ

গ্লোবাল প্রেক্ষাপটে অ্যালগরিদমিক বায়াসের অসংখ্য উদাহরণ ইতিমধ্যে বিশ্বজুড়ে বিতর্কের ঝড় তুলেছে। যুক্তরাষ্ট্রে ব্যবহৃত কম্পাস নামে একটি অ্যালগরিদম জামিন পাওয়ার ক্ষেত্রে অপরাধীর পুনরায় অপরাধ করার ঝুঁকি মূল্যায়ন করত। গবেষণায় দেখা গেছে, অ্যালগরিদমটি শ্বেতাঙ্গদের তুলনায় কৃষ্ণাঙ্গদের দ্বিগুণ বেশি উচ্চ ঝুঁকিপূর্ণ হিসেবে চিহ্নিত করছে।

একইভাবে, ই-কমার্স জায়ান্ট আমাজন তাদের কর্মী নিয়োগের জন্য যে এআই টুল তৈরি করেছিল, তা গত দশ বছরের নিয়োগের প্যাটার্ন বিশ্লেষণ করে নারীদের আবেদনপত্র বাতিল করে দিতে শুরু করেছিল।

কারণ, গত দশ বছরে প্রযুক্তি খাতে পুরুষদের প্রাধান্য ছিল বেশি। এআই সেটাই সঠিক নিয়ম হিসেবে শিখে নিয়েছিল। এই উদাহরণগুলো প্রমাণ করে, এআই যদি অনিয়ন্ত্রিতভাবে সিদ্ধান্ত নিতে থাকে, তবে তা লিঙ্গ ও বর্ণবৈষম্যকে প্রাতিষ্ঠানিক রূপ দেবে।

অর্থনৈতিক ও সামাজিক প্রভাব

অর্থনৈতিক প্রভাবের ক্ষেত্রে অ্যালগরিদমিক বায়াস এক চরম অসমতা তৈরি করতে পারে। বর্তমানে ব্যাংক ও আর্থিক প্রতিষ্ঠানগুলো লোন বা ক্রেডিট কার্ড দেওয়ার যোগ্যতা যাচাইয়ে এআই ব্যবহার করছে। অ্যালগরিদমটি যদি এমন হয় যে এটি নির্দিষ্ট কোনো এলাকার মানুষের আয়ের চেয়ে তাদের সামাজিক পরিচয়কে বড় করে দেখে, তাহলে এক বিশাল গোষ্ঠী আর্থিক অন্তর্ভুক্তি থেকে বঞ্চিত হবে। বাংলাদেশের প্রেক্ষাপটে চিন্তা করলে দেখা যায়, আমাদের কোনো ব্যাংক যদি এমন একটি অ্যালগরিদম ব্যবহার করে, যা গ্রামীণ মানুষের চেয়ে শহরের মানুষকে বা নির্দিষ্ট পেশার মানুষকে বেশি সুযোগ দেয়, তাহলে তা সামগ্রিক অর্থনৈতিক প্রবৃদ্ধি বাধাগ্রস্ত করবে। ডিজিটাল অর্থনীতিতে প্রবেশের সুযোগ অ্যালগরিদমের হাতে জিম্মি থাকলে, তা দরিদ্রকে আরও দরিদ্র এবং প্রান্তিক জনগোষ্ঠীকে আরও বিচ্ছিন্ন করে তুলবে।

সামাজিক ও মনস্তাত্ত্বিক প্রভাবেও এই বৈষম্য খুবই গভীর। অ্যালগরিদমগুলো এখন আমাদের ঠিক করে দিচ্ছে আমরা ইন্টারনেটে কোন খবরটি দেখব কিংবা কোন মতামতটি শুনব। একে বলা হয় ফিল্টার বাবল। এই অ্যালগরিদমগুলো যদি মানুষের রাজনৈতিক বা ধর্মীয় বিশ্বাসের ভিত্তিতে কেবল একতরফা তথ্য দেখাতে থাকে, তাহলে সমাজে অসহিষ্ণুতা এবং মেরুকরণ বৃদ্ধি পায়। বাংলাদেশে সোশ্যাল মিডিয়া অ্যালগরিদমের কারণে যে গুজব বা উসকানিমূলক কনটেন্ট দ্রুত ছড়িয়ে পড়ে, তার মূলে রয়েছে এই বিশেষ এনগেজমেন্ট ভিত্তিক অ্যালগরিদম। এগুলো সত্য বা মিথ্যার চেয়ে মানুষের আবেগ ও উত্তেজনাকে বেশি প্রাধান্য দেয়।

বাংলাদেশের চ্যালেঞ্জ

বাংলাদেশের মতো উন্নয়নশীল দেশের জন্য চ্যালেঞ্জটি আরও জটিল। আমাদের নিজস্ব ডেটাসেট বা তথ্যের পর্যাপ্ততা কম থাকায় আমরা প্রায়ই বিদেশি প্রি-ট্রেইনড এআই মডেল ব্যবহার করি। এই মডেলগুলো পশ্চিমা সমাজের প্রেক্ষাপটে তৈরি। এগুলো আমাদের স্থানীয় সংস্কৃতি, ভাষা এবং সামাজিক প্রেক্ষাপটের সঙ্গে মোটেও সামঞ্জস্যপূর্ণ নয়। ফলে আমাদের অজান্তেই বিদেশি পক্ষপাতিত্ব আমাদের শাসনব্যবস্থা বা সেবা খাতে প্রবেশ করছে।

উদাহরণস্বরূপ, যদি কোনো এআই মডেল কেবল প্রমিত বাংলায় প্রশিক্ষিত হয়, তবে বাংলাদেশের অসংখ্য আঞ্চলিক ভাষাভাষী মানুষ সেই প্রযুক্তির সুফল থেকে বঞ্চিত হবে। এটি একধরনের ডিজিটাল ল্যাঙ্গুয়েজ বায়াস, যা প্রান্তিক জনগোষ্ঠীর নাগরিক অধিকার হরণ করতে পারে।

উত্তরণের উপায়

এই সংকট থেকে উত্তরণের পথ কী? একজন গবেষক হিসেবে আমি মনে করি, কেবল প্রযুক্তিগত সমাধান দিয়ে অ্যালগরিদমিক বায়াস রোখা সম্ভব নয়। এর জন্য প্রয়োজন ত্রিস্তরীয় পদক্ষেপ।

১. ডেটা স্বচ্ছতা: এআই প্রশিক্ষণে ব্যবহৃত তথ্যে সমাজের প্রতিটি স্তরের প্রতিনিধিত্ব থাকতে হবে। ডেটা হতে হবে বৈচিত্র্যময়।

২. অ্যালগরিদমিক অডিট: সরকারি পর্যায়ে অ্যালগরিদমের নিরপেক্ষতা যাচাইয়ের একটি আইনি কাঠামো তৈরি করতে হবে। প্রযুক্তি প্রতিষ্ঠানগুলো যে অ্যালগরিদম ব্যবহার করছে, তা জনস্বার্থবিরোধী কি না, তা পরীক্ষা করার এখতিয়ার রাষ্ট্রের থাকতে হবে।

৩. নৈতিক ব্যবহার: এআইয়ের নৈতিক ব্যবহার নিশ্চিত করার জন্য প্রযুক্তিনির্ভর নীতিনির্ধারক ও গবেষকদের সমন্বয় ঘটাতে হবে।

সবশেষে বলা যায়, কৃত্রিম বুদ্ধিমত্তা কোনো অলৌকিক বা দৈব শক্তি নয়; এটি মানুষের হাতে তৈরি এক অত্যন্ত শক্তিশালী হাতিয়ার। এই হাতিয়ার যদি পক্ষপাতদুষ্ট হয়, তাহলে তা সমাজের দীর্ঘদিনের ক্ষতগুলোকে আরও গভীর করবে। আমাদের লক্ষ্য হওয়া উচিত এমন এক প্রযুক্তি ব্যবস্থা গড়ে তোলা, যা কেবল দক্ষই নয়, বরং ন্যায়পরায়ণ ও মানবিক। প্রযুক্তির অন্ধ জয়গান গাওয়ার চেয়ে এর ভেতরে লুকিয়ে থাকা অদৃশ্য বৈষম্যগুলো চিহ্নিত করে তার প্রতিকার করা আজ সময়ের দাবি। স্বাধীনতা মানে কেবল ভৌগোলিক সীমান্ত রক্ষা নয়, একুশ শতকে স্বাধীনতা মানে অ্যালগরিদমের অদৃশ্য শৃঙ্খল থেকে মানুষের মৌলিক অধিকার ও স্বকীয়তা রক্ষা করা।

লেখক: সফটওয়্যার প্রকৌশলী ও তথ্যপ্রযুক্তি গবেষক