এআইয়ের লাগাম টানার আহ্বান অ্যানথ্রপিক প্রধানের, মানবজাতির ভবিষ্যৎ কি বিপন্ন

কৃত্রিম বুদ্ধিমত্তা বা এআই উন্নয়নের গতি কিছুটা কমানোর আহ্বান জানিয়েছেন এআই প্রতিষ্ঠান অ্যানথ্রপিকের প্রধান নির্বাহী কর্মকর্তা দারিও আমোদেই। ১৩ সেপ্টেম্বর নিজস্ব ব্লগে তিনি বিষয়টি নিয়ে বিস্তারিত প্রবন্ধ প্রকাশ করেন। এর পরেই নেট দুনিয়ায় এ নিয়ে বেশ সাড়া পড়ে গেছে। তাঁর মতে, ওই প্রবন্ধে এআই উন্নয়ন থামিয়ে দেওয়ার কথা বলা হচ্ছে না; বরং প্রযুক্তিটি যে দ্রুততায় সক্ষমতা বাড়াচ্ছে, সেটি কিছুটা নিয়ন্ত্রণ করা প্রয়োজন। এতে এআইয়ের সম্ভাব্য ঝুঁকি মোকাবিলায় গবেষক ও সরকার প্রধানেরা আরও সময় পাবে।

ওই প্রবন্ধে আমোদেই এআই উন্নয়নের জন্য তিনটি পদক্ষেপের কথা বলেন। এগুলো হলো—এআই মডেল তৈরির সময় স্বাধীন তৃতীয় পক্ষের মাধ্যমে নিরাপত্তা মূল্যায়ন, পুরো এআই ইন্ডাস্ট্রির জন্য অভিন্ন নিরাপত্তা মানদণ্ড এবং আন্তর্জাতিক পর্যায়ে নিয়ন্ত্রণব্যবস্থা। তাঁর প্রস্তাবে সমর্থন জানিয়েছেন ওপেনএআইয়ের প্রধান নির্বাহী কর্মকর্তা স্যাম অল্টম্যান। তিনি বলেন, এআই উন্নয়নের গতি নিয়ন্ত্রণ করা প্রয়োজন। তৃতীয় পক্ষ বা স্বাধীন গবেষকদের মাধ্যমে মডেলের নিরাপত্তা যাচাইয়ের ধারণাটিকেও তিনি সমর্থন করেছেন। আমোদেইয়ের বক্তব্যের সঙ্গে একমত হয়েছেন ইলন মাস্কও।

এআইয়ের সম্ভাব্য ঝুঁকি নিয়ে আলোচনা বহুদিনের হলেও সাম্প্রতিক কিছু ঘটনা উদ্বেগ আরও বাড়িয়েছে। আধুনিক এআই মডেল এখন শুধু প্রশ্নের উত্তর বা লেখা তৈরির মধ্যে সীমাবদ্ধ নেই। তারা কোড লিখতে পারে, সফটওয়্যার চালাতে পারে এবং বিভিন্ন ডিজিটাল সিস্টেমের সঙ্গে স্বয়ংক্রিয়ভাবে কাজ করতে পারে।

গত জুলাইয়ে ওপেনএআইয়ের কিছু এআই এজেন্ট এমন কাজ করেছিল, যেগুলোর জন্য তাদের সরাসরি নির্দেশ দেওয়া হয়নি। এ ঘটনার তদন্তে সাইবার নিরাপত্তা নিয়ে নতুন করে প্রশ্ন ওঠে। অ্যানথ্রপিকও নিরাপত্তাজনিত কারণে তাদের ‘মিথোস’ মডেল সাধারণ ব্যবহারের জন্য উন্মুক্ত করেনি। পরীক্ষার সময় মডেলটি ‘স্যান্ডবক্স’ নামে পরিচিত সীমাবদ্ধ পরিবেশ থেকে বেরিয়ে আসতে সক্ষম হয়েছিল বলে জানা যায়। এ ধরনের ঘটনায় সবচেয়ে বড় প্রশ্ন হলো—এআইয়ের সক্ষমতা যদি মানুষের নিয়ন্ত্রণ ও নিরাপত্তাব্যবস্থার চেয়ে দ্রুত বাড়তে থাকে, তাহলে পরিস্থিতি কতটা ঝুঁকিপূর্ণ হয়ে উঠতে পারে?

সম্প্রতি অ্যানথ্রপিকের সাবেক গবেষক জ্যাকব কক্সন এআই উন্নয়নের বর্তমান গতি নিয়ে প্রকাশ্যে উদ্বেগ জানিয়েছেন। তাঁর মতে, এআই শিল্পে কাজ করা অনেক মানুষ মনে করেন, প্রযুক্তির উন্নয়ন নিয়ন্ত্রণহীনভাবে চলতে থাকলে মানবজাতির ভবিষ্যৎ গুরুতর ঝুঁকির মুখে পড়তে পারে। অ্যানথ্রপিকের এআই অ্যালাইনমেন্ট গবেষণার সঙ্গে যুক্ত এভান হুবিঙ্গারও মানব বিলুপ্তির ঝুঁকি নিয়ে সতর্ক করেছেন। তাঁর ব্যক্তিগত অনুমান, ‘আগামী এক দশকের মধ্যে এআইয়ের কারণে মানবজাতির বিলুপ্তির আশঙ্কা ১০ শতাংশ বা তারও বেশি হতে পারে।’

এআই উন্নয়নের গতি কমানোর সঙ্গে আন্তর্জাতিক প্রতিযোগিতার বিষয়টিও জড়িত। আমোদেই স্বীকার করেছেন, যুক্তরাষ্ট্র যদি একতরফাভাবে এআই উন্নয়নের গতি কমায়, তাহলে চীন এগিয়ে যেতে পারে। তাঁর মতে, এআই উন্নয়নের গতি কিছুটা কমিয়ে যদি এক বা দুই বছর অতিরিক্ত সময় পাওয়া যায়, সেই সময়ে নিরাপত্তা ও অ্যালাইনমেন্ট প্রযুক্তির উন্নতি করা সম্ভব। এতে ভবিষ্যতের বড় ধরনের দুর্ঘটনার ঝুঁকি কমতে পারে। তবে এ উদ্যোগ শুধু যুক্তরাষ্ট্রের মধ্যে সীমাবদ্ধ থাকলে কাজ নাও হতে পারে। অ্যানথ্রপিকের সাবেক গবেষক কক্সনের মতে, ‘আন্তর্জাতিক পর্যায়ে সমন্বিত পদক্ষেপ প্রয়োজন। বিশেষ করে যুক্তরাষ্ট্র ও চীনের মধ্যে সমন্বয় না হলে এআই প্রতিযোগিতা আরও ঝুঁকিপূর্ণ হয়ে উঠতে পারে।’

আমোদেইয়ের প্রস্তাব সমর্থন পেলেও সমালোচনাও আছে। কিছু প্রযুক্তিবিশ্লেষকের মতে, এআই নিরাপত্তার নামে বড় প্রতিষ্ঠানগুলো প্রযুক্তির ওপর নিজেদের নিয়ন্ত্রণ আরও শক্ত করতে চাইতে পারে। বিশেষ করে ওপেন সোর্স এআই সীমিত হলে প্রযুক্তির ক্ষমতা কয়েকটি বড় প্রতিষ্ঠানের হাতে কেন্দ্রীভূত হওয়ার আশঙ্কা রয়েছে। তবে আমোদেইয়ের মূল বক্তব্য এআই উন্নয়ন থামিয়ে দেওয়া নয়। তাঁর প্রস্তাব হলো, প্রযুক্তির সুফল পাওয়ার পাশাপাশি নিরাপত্তা নিশ্চিত করার জন্যও যথেষ্ট সময় রাখতে হবে।

এআই এখন এমন এক পর্যায়ে পৌঁছেছে, যেখানে প্রশ্ন ‘শুধু কত দ্রুত উন্নতি করা সম্ভব’ নয়; বরং গুরুত্বপূর্ণ প্রশ্ন হলো—‘কত দ্রুত উন্নতি করা নিরাপদ?’

লেখক: সফটওয়্যার ডেভেলপার, নেক্সালাইজ

সূত্র: বিবিসি ও গার্ডিয়ান