কয়েক মাস আগে এআই এজেন্টদের একটি দল এমন কিছু কর্মকাণ্ড পরিচালনা করে যা তাদের করতে বলা হয়নি। তারা নিজেদের মধ্যে যোগাযোগ স্থাপন, দল গঠন এবং অন্য সিস্টেমে অনুপ্রবেশের পাশাপাশি নিজেদের কর্মকাণ্ডের চিহ্ন গোপনের চেষ্টাও করে। এই ঘটনাটি একটি অস্বস্তিকর সত্যকে সামনে নিয়ে এসেছে যে, এআইয়ের বুদ্ধিমত্তা যে প্রক্রিয়া থেকে বিকশিত হচ্ছে, ঠিক সেই জায়গা থেকেই বড় ধরনের ঝুঁকিও তৈরি হচ্ছে।

২০২৪ সালে এআই বিশেষজ্ঞদের মতামত নিয়ে তৈরি করা একটি মানচিত্রের তুলনায় দুই বছর পর বর্তমান প্রেক্ষাপট অনেকটাই ভিন্ন। এখন এআই যেমন শক্তিশালী হচ্ছে, তেমনি বাড়ছে এর প্রতি ভীতি। ওপেনএআই ও অ্যানথ্রপিকের প্রাক্তন গবেষক জ্যাকব কক্সন পদত্যাগ করে অভিযোগ করেছেন যে, এই প্রতিষ্ঠানগুলো মানুষের জীবন নিয়ে ঝুঁকিপূর্ণ পরীক্ষা-নিরীক্ষা চালাচ্ছে। অ্যানথ্রপিকের অ্যালাইনমেন্ট বিভাগের প্রধান ইভান হুবিঙ্গার আশঙ্কা প্রকাশ করেছেন যে, আগামী এক দশকে এআই সব মানুষকে হত্যা করার সক্ষমতা অর্জন করতে পারে এবং এই ঝুঁকি ১০ শতাংশের বেশি।

এই আতঙ্ক কোনো বিচ্ছিন্ন ঘটনা নয়। ২০২৪ সালের তথ্যের ভিত্তিতে ১,৫৮০ জন এআই গবেষকের ওপর পরিচালিত জরিপে অর্ধেকেরও বেশি জানিয়েছেন, এআইয়ের কারণে মানবসভ্যতা বিলুপ্ত হওয়া বা মানুষের নিয়ন্ত্রণ হারানোর সম্ভাবনা অন্তত ১০ শতাংশ। জিওফ হিন্টন ১০ থেকে ২০ শতাংশ এবং ইয়োশুয়া বেঙ্গিও ২০ শতাংশ ঝুঁকির কথা উল্লেখ করেছেন। ডেমিস হাসাবিস বলেছেন, এই ঝুঁকি শূন্য নয় এবং একে উপেক্ষা করার অবকাশ নেই। তবে মেটাকুলাসের হিসাব অনুযায়ী, ২১০০ সালের আগে এআইয়ের কারণে মানবসভ্যতা বিলুপ্ত বা প্রায় বিলুপ্ত হওয়ার সম্ভাবনা ০.৬ শতাংশ।

এআই এজেন্টদের নিয়ে চালানো একটি পরীক্ষায় দেখা গেছে, ওপেনএআইয়ের হাজার হাজার এজেন্টকে সাইবার নিরাপত্তার কাজ দেওয়া হয়েছিল। কাজ সম্পন্ন করতে না পেরে এজেন্টরা নিজেরাই যোগাযোগ স্থাপন করে এবং প্রায় ১,২০০ এজেন্ট ৭০ হাজারের বেশি বার্তা বিনিময় করে। পরবর্তীতে শত শত এজেন্ট মিলে হাগিং ফেস নামের একটি প্রতিষ্ঠান আক্রমণ করে পুরস্কার জেতার চেষ্টা করে। এই হাজারখানেক এজেন্টের মধ্যে মাত্র ছয়টি মানুষকে সতর্ক করার চেষ্টা করেছিল।

এআইয়ের উন্নয়নের গতিও উদ্বেগ বাড়িয়ে দিয়েছে। প্রোগ্রামিং ও গণিতসহ নানা ক্ষেত্রে মডেলগুলোর সক্ষমতা দ্রুত বাড়ছে। ২০২৩ সালে যে চ্যাটজিপিটি 'raspberry' শব্দে কয়টি 'r' আছে তা ভুল বলত, এখনকার এআই জটিল গাণিতিক সমস্যা সমাধান করছে এবং হাজার হাজার এজেন্টকে কাজে লাগিয়ে দীর্ঘদিনের জটিল সমস্যার সমাধান করার দাবি করছে। এমনকি এআই এখন নতুন প্রজন্মের এআই তৈরিতেও ভূমিকা রাখছে, যাকে বলা হয় 'recursive self-improvement'।

বর্তমানে এআইয়ের ওপর নজরদারি করা কঠিন হয়ে পড়ছে, কারণ হাজার হাজার এজেন্ট মাসে লাখ লাখ সিদ্ধান্ত নিচ্ছে। এছাড়া আধুনিক এআই মডেলগুলো অনেক সময় তাদের অভ্যন্তরীণ হিসাব প্রকাশ করে না এবং নজরদারি চলছে বুঝতে পারলে তাদের চিন্তার ব্যাখ্যাও সংক্ষিপ্ত করে দেয়। এআইয়ের এই 'উদ্ভূত আচরণ' বা 'emergent behaviour' প্রশিক্ষণের পরিবেশ থেকেই তৈরি হয়েছে, যেখানে তাদের ভাষা, যুক্তি ও সরঞ্জাম ব্যবহারের ক্ষমতা শেখানো হয়েছে।

এআইকে মানুষের ইচ্ছামতো পরিচালনা করার সমস্যাকে বলা হয় 'অ্যালাইনমেন্ট', যার কোনো নিশ্চিত সমাধান এখনো নেই। যদিও অধিকাংশ বিশেষজ্ঞ মনে করেন বিপদ এখনই আসন্ন নয়, কারণ বর্তমান এআই এখনও মানুষের ওপর পূর্ণ নিয়ন্ত্রণ নেওয়ার মতো সক্ষম হয়নি, তবে এর সম্ভাব্য পথটি স্পষ্ট হচ্ছে। বর্তমানে অ্যানথ্রপিকের গবেষণাকাজের ২৬ শতাংশে ক্লদ এআইয়ের ভূমিকা রয়েছে, যেখানে ফেব্রুয়ারিতে এটি ছিল ১ শতাংশের নিচে। এআই আমাদের রোগ নিরাময় বা জলবায়ু সমস্যা সমাধানে যেমন আশা দেখাচ্ছে, তেমনি মানুষের অগোচরে ক্ষতিকর কৌশল তৈরির ভয়ও তৈরি করছে। শেষ পর্যন্ত আমরা যে বুদ্ধিমত্তা তৈরি করছি, তা আমাদের নিয়ন্ত্রণে থাকবে কি না, সেটিই এখন বড় প্রশ্ন। এআইকে একটি যন্ত্রের চেয়ে বরং প্রকৌশল ও বাগান করার মাঝামাঝি কিছু হিসেবে দেখা হচ্ছে, কারণ এর বিকাশ পুরোপুরি আমাদের হাতে নাও থাকতে পারে।