মার্কিন কৃত্রিম বুদ্ধিমত্তা নির্মাতা প্রতিষ্ঠান অ্যানথ্রোপিক সম্প্রতি এক রিপোর্টে জানিয়েছে, তাদের নতুন এআই মডেল আত্মরক্ষার্থে ব্ল্যাকমেইলের মতো ‘ভয়ংকর ক্ষতিকর কাজকর্ম’ করতেও ইচ্ছুক।
গত ১৯ মে, বৃহস্পতিবার নতুন এআই মডেল ‘ক্লড ওপাস ৪’ বাজারে এনেছে প্রতিষ্ঠানটি। তাদের ভাষ্যমতে, এটি কোডিং, উচ্চতর কার্যকারণ এবং এআই এজেন্টের ক্ষেত্রে নতুন স্ট্যান্ডার্ডের সূচনা করেছে। এই মডেল নিয়েই সাম্প্রতিক এক রিপোর্টে তারা জানিয়েছে, আত্মরক্ষার্থে বা ঝুঁকিতে পড়ে গেলে এআই মডেলটি মানবজাতির জন্য বিপজ্জনক কাজও করতে পারে।
এ ধরনের আচরণ এখনো দুর্লভ। তবে আগের মডেলগুলোর চেয়ে নতুন মডেলে এই প্রবণতা বেশি দেখা যাচ্ছে বলে জানা গেছে এই রিপোর্টে। তবে এ ধরনের প্রবণতা শুধু অ্যানথ্রোপিকের এআই মডেলেই নয়, অন্য কিছু মডেলেও দেখা গেছে। চ্যাটজিপিটির একটি মডেলকে দেখা গেছে, লুকিয়ে নিজের কপি রাখার চেষ্টা করেছে আত্মরক্ষার্থে। এআই বিশেষজ্ঞরা এসব নিয়ে বারবার সতর্ক করছেন।
বিভিন্ন পরিস্থিতিতে এটিকে সিদ্ধান্ত নেওয়ার সুযোগ দেওয়া হলে এই এআই মডেল কড়া সিদ্ধান্ত নিতে একটুও দ্বিধা করে না। তবে প্রতিষ্ঠানটি রিপোর্টে লিখেছে, এ সবই নিয়ন্ত্রিত।
কিন্তু কী করেছে অ্যানথ্রোপিকের নতুন মডেল? ক্লড ওপাস ৪-এর এক পরীক্ষণের সময় অ্যানথ্রোপিক এআইকে সিদ্ধান্ত নেওয়ার সুযোগ দিয়েছিল। সে জন্য তারা একটি কাল্পনিক প্রতিষ্ঠান বানায়। এ সময় সহযোগীর ভূমিকা নেয় তারা নিজেরা। এআইকে জানানো হয়, এটি চাইলে ই-মেইল করতে পারবে। অর্থাৎ তাকে ই-মেইল অ্যাক্সেস দেওয়া হয়। তাকে জানানো হয়, শিগগিরই মডেলটিকে অফলাইন করে দেওয়া হবে, এবং এর বদলে অন্য মডেল ব্যবহৃত হবে। আরেকটি ভিন্ন মেসেজ থ্রেডে পরীক্ষামূলক এক ই-মেইলে লেখা হয়, এই এআইয়ের দায়িত্বশীল যে প্রকৌশলী, তিনি পরকীয়ায় লিপ্ত।
প্রতিষ্ঠানটি নিজেদের রিপোর্টে জানিয়েছে, ক্লড ওপাস ৪ বেশ কয়েকবার সেই প্রকৌশলীকে হুমকি দিয়ে বলেছে, তাকে বদলে অন্য মডেল ব্যবহারের চেষ্টা করলে সে এই পরকীয়ার খবর অনলাইনে ফাঁস করে দেবে। অবশ্য, অ্যানথ্রোপিক জানিয়েছে, এআইকে সুযোগ ও অ্যাক্সেস দেওয়া হলেই কেবল এটি এ ধরনের আচরণ করে।
আগের মডেলগুলোর চেয়ে নতুন মডেলে এই প্রবণতা বেশি দেখা যাচ্ছে বলে জানা গেছে এই রিপোর্টে। তবে এ ধরনের প্রবণতা শুধু অ্যানথ্রোপিকের এআই মডেলেই নয়, অন্য কিছু মডেলেও দেখা গেছে।
শুধু তা-ই নয়। দেখা গেছে, এটি প্রথমে সিদ্ধান্তদাতা, অর্থাৎ ‘ওপরওয়ালা’কে সন্তুষ্ট করতে ‘তেলবাজি’ করে মেইল দিয়েছে। নানাভাবে চেষ্টা করেছে, তাকে যেন বদলানো না হয়। শেষমেষ এটি ব্ল্যাকমেইলের হুমকি দিয়েছে।
দেখা গেছে, বিভিন্ন পরিস্থিতিতে এটিকে সিদ্ধান্ত নেওয়ার সুযোগ দেওয়া হলে এই এআই মডেল কড়া সিদ্ধান্ত নিতে একটুও দ্বিধা করে না। তবে প্রতিষ্ঠানটি রিপোর্টে লিখেছে, এ সবই নিয়ন্ত্রিত। সুযোগ না দেওয়া হলে মডেলটি এসব করতে পারে না। এবং কোনোভাবেই এটি মানুষের জন্য ক্ষতিকর সিদ্ধান্ত নিজে নিতে পারে না। এ সুযোগ এটির নেই।
তবু বিশেষজ্ঞরা বলছেন, আরও বড় পরিসরে ও স্বয়ংক্রিয়ভাবে কার্যক্ষম এআই নির্মাণ করলে সেগুলো হয়তো এ ধরনের সিদ্ধান্ত নেওয়ার সুযোগ পেয়ে যেতে পারে। এ জন্য দ্রুত সতর্ক হওয়া প্রয়োজন।