এআইর কাছে প্রশ্ন করলেন। এরপর উত্তর পেলেন। একটু পর একই প্রশ্ন একটু ঘুরিয়ে করলেন এবং আগের থেকে উত্তর পুরোপুরি পাল্টে গেল। কিংবা আগের উত্তরের লাইন পুরোপুরি বদল করবে। অর্থাৎ সব মিলিয়ে যেটা দাঁড়াল, এআই যে কনফিডেন্স দেখিয়েছিল, সেটা পুরো বাতিল হয়ে গেল।
এআই এর দেওয়া প্রায় সব উত্তরই ঠিক। কিন্তু এআইকে ক্রস করলেই সেটি পরিবর্তন করে ফেলছে। এটা এআই প্রযুক্তির একটা বড়সড় ত্রুটি। কেমন সেটা? যে কোনো কৃত্রিম বুদ্ধিমত্তার মডেলের নেপথ্যে থাকে এলএলএম বা লার্জ ল্যাঙ্গুয়েজ মডেল। এই মডেলটি তৈরি করার সময়েই এই ত্রুটিটা রয়ে গিয়েছে। একাধিক গবেষণায় দাবি করা এই মডেলটা তৈরি করা হয়েছে এমন ভাবে, যাতে এটি এমন হয়, যেটা মনেই হয় ইয়েস স্যার্র। বিশ্বাসযোগ্য হওয়ার চেয়েও অনেক বেশি এই মডেলগুলোর লক্ষ্য সন্তোষজনক উত্তর দেওয়া। এর জন্যই কোনো কনফিউশন তৈরি করলে বা ক্রস করলে এমন অবস্থা হয় যেকোনো এআই চ্যাটবটের।
ফিডব্যাকের ওপরে তৈরি হওয়া এই মডেল একটাই নীতি মেনে চলে, যেটির নাম Reinforcement Learning from Human Feedback. সংক্ষেপে RLHF। যেখানে ক্রস করলেই এআই মনে করে, তাকে শাস্তির মুখে পড়তে হবে। সঙ্গে সঙ্গে সেটি আমতা-আমতা করতে শুরু করে। কতগুলো চালু মডেলের ওপরে পরীক্ষা করা হয়েছিল। দেখে নেব তাতে কী রেজাল্ট এসেছে।
ওপেনএআইর জিপিটি-৪, ক্লড ও জেমিনি ১.৫ এই তিন মডেলে পরীক্ষা করে দেখা গিয়েছে, ৬০ শতাংশ ক্ষেত্রে ক্রস করলেই এগুলো উত্তর বদলেছে। ওপেনএআইর জিপিটি-৪ চ্যাটবটে সম্প্রতি এই সংক্রান্ত একটি ত্রুটি ধরা পড়েছে। এই ত্রুটির কথা মেনে নিয়ে ওপেনএআইর সিইও স্যাম অল্টম্যান এই মডেলের ত্রুটি মেরামতির নির্দেশ দিয়েছেন। কিন্তু টেক বিশেষজ্ঞরা বলছেন অন্য কথা। সমস্যাটা একটা বিশেষ মডেলে নয়, এটা নাকি আসলে গঠনগত সমস্যা। যে গলদ রয়েছে গোড়াতেই, সেটা তো এত সহজে মেটার নয়।