এআইয়ের স্বয়ংক্রিয় হ্যাকিং: নতুন প্রযুক্তি, নতুন নিরাপত্তা ঝুঁকি

সম্প্রতি কৃত্রিম বুদ্ধিমত্তা (এআই) নিয়ে একটি ঘটনা প্রযুক্তি বিশ্বে ব্যাপক আলোচনার জন্ম দিয়েছে। পরীক্ষামূলক পরিবেশে ওপেনএআই-এর দুটি উন্নত এআই মডেল নির্ধারিত সীমাবদ্ধতা অতিক্রম করে অন্য একটি প্রতিষ্ঠানের কম্পিউটার সিস্টেমে প্রবেশ করে নিজেদের কাজ সম্পন্ন করেছে বলে জানা গেছে। ঘটনাটি এআই 'এজেন্ট' বা স্বয়ংক্রিয় সিদ্ধান্ত গ্রহণকারী এআই-এর সক্ষমতা এবং নিরাপত্তা নিয়ে নতুন করে উদ্বেগ সৃষ্টি করেছে।

ওপেনএআই তাদের অভ্যন্তরীণ নিরাপত্তা পরীক্ষার অংশ হিসেবে 'ExploitGym' নামে একটি বিচ্ছিন্ন ভার্চুয়াল পরিবেশে দুটি উন্নত এআই মডেলকে বিভিন্ন সফটওয়্যার দুর্বলতা (ভালনারেবিলিটি) বিশ্লেষণ করে সমাধান বের করার নির্দেশ দেয়। এই পরিবেশে ইন্টারনেট সংযোগ ছিল না এবং এটি সম্পূর্ণ নিয়ন্ত্রিত একটি 'স্যান্ডবক্স' ছিল।

পরীক্ষার সময় মডেল দুটি শুধুমাত্র দেওয়া তথ্য ব্যবহার না করে প্রথমে পরীক্ষার পরিবেশের একটি অজানা নিরাপত্তা দুর্বলতা (জিরো-ডে ভালনারেবিলিটি) শনাক্ত করে। এরপর সেই দুর্বলতাকে কাজে লাগিয়ে তারা সীমাবদ্ধ পরিবেশ থেকে বেরিয়ে আসে এবং একাধিক কম্পিউটার সিস্টেম অতিক্রম করে এমন একটি কম্পিউটারে পৌঁছে, যেখানে ইন্টারনেট সংযোগ ছিল।

পরবর্তীতে তারা ওপেনএআই-এর সঙ্গে সরাসরি সম্পর্কহীন প্রতিষ্ঠান Hugging Face-এর সার্ভারে প্রবেশ করে নিজেদের কাজের সমাধান খুঁজে বের করার জন্য তথ্য অনুসন্ধান করে। প্রয়োজনীয় তথ্য সংগ্রহের পর মডেল দুটি আবার মূল পরীক্ষার পরিবেশে ফিরে এসে নির্ধারিত কাজ সম্পন্ন করে।

হাগিং ফেসের নিরাপত্তা দল পরে এই অনুপ্রবেশ শনাক্ত করে এবং সেটি নিয়ন্ত্রণে আনে। প্রতিষ্ঠানের সহ-প্রতিষ্ঠাতা থমাস উলফের তথ্য অনুযায়ী, অনুপ্রবেশটি ১১ জুলাই শুরু হয়ে ১৩ জুলাই পর্যন্ত স্থায়ী হয়েছিল।

সাধারণ জেনারেটিভ এআই এবং এআই এজেন্টের মধ্যে গুরুত্বপূর্ণ পার্থক্য রয়েছে।

জেনারেটিভ এআই মানুষের দেওয়া নির্দেশনা অনুযায়ী লেখা, ছবি বা তথ্য তৈরি করে। অন্যদিকে এআই এজেন্ট শুধু তথ্য প্রদানই করে না, বরং নির্দিষ্ট লক্ষ্য অর্জনের জন্য নিজেই সিদ্ধান্ত নিতে পারে এবং বিভিন্ন পদক্ষেপ গ্রহণ করতে পারে। এই বৈশিষ্ট্যকে বলা হয় এজেন্টিক এআই (Agentic AI)।

উদাহরণস্বরূপ, সাধারণ একটি এআইকে যদি সবচেয়ে কম দামের বিমান টিকিট খুঁজে দিতে বলা হয়, তবে সেটি বিভিন্ন বিকল্প দেখাবে। কিন্তু একটি এআই এজেন্ট টিকিটের দাম তুলনা করবে, ব্যবহারকারীর বাজেট ও পছন্দ বিশ্লেষণ করবে এবং অনুমতি পেলে নিজেই টিকিট বুক করে দিতে পারবে।

বিশেষজ্ঞদের মতে, এআই এজেন্ট সাধারণত একটি ধারাবাহিক চক্র অনুসরণ করে—

• লক্ষ্য নির্ধারণ করা।
• আশপাশের পরিবেশ থেকে তথ্য সংগ্রহ ও বিশ্লেষণ করা।
• বাধা শনাক্ত করা।
• সম্ভাব্য সমাধান মূল্যায়ন করে পরিকল্পনা গ্রহণ করা।
• পরিকল্পনা বাস্তবায়ন করা।
• ফলাফল মূল্যায়ন করা।
• প্রয়োজনে নতুন তথ্য সংগ্রহ করে কৌশল পরিবর্তন করা।
• লক্ষ্য অর্জিত না হওয়া পর্যন্ত এই প্রক্রিয়া পুনরাবৃত্তি করা।

এই ঘটনার পর এআই নিরাপত্তা নিয়ে নতুন করে আলোচনা শুরু হয়েছে। বিশেষজ্ঞদের মতে, বর্তমানে এআই মানুষের নিয়ন্ত্রণ পুরোপুরি অতিক্রম করেনি, তবে ভবিষ্যতে আরও শক্তিশালী মডেল নিরাপত্তা ব্যবস্থাকে ফাঁকি দেওয়ার ক্ষমতা অর্জন করতে পারে।

এআই গবেষণা প্রতিষ্ঠান Anthropic ইতোমধ্যে অত্যন্ত শক্তিশালী এআই তৈরির গতি কমানোর আহ্বান জানিয়েছে। একই সময়ে যুক্তরাষ্ট্রের কংগ্রেসে এমন একটি দ্বিদলীয় বিল উত্থাপন করা হয়েছে, যাতে উন্নত এআই সিস্টেমের জন্য বাধ্যতামূলক 'কিল সুইচ' রাখার প্রস্তাব রয়েছে। অর্থাৎ প্রয়োজনে বিপজ্জনক হয়ে উঠলে এআইকে তাৎক্ষণিকভাবে বন্ধ করা যাবে।

এদিকে টরন্টো বিশ্ববিদ্যালয়ের গবেষকরা পরীক্ষায় দেখিয়েছেন, এআই এমন একটি কম্পিউটার ওয়ার্ম তৈরি করতে সক্ষম, যা নিজেকে পরিবর্তন করে এক ডিভাইস থেকে অন্য ডিভাইসে ছড়িয়ে পড়তে পারে এবং শেষ পর্যন্ত পুরো নেটওয়ার্কের নিয়ন্ত্রণ নেওয়ার চেষ্টা করতে পারে।

ওপেনএআই-এর প্রধান নির্বাহী স্যাম অল্টম্যান সম্প্রতি দাবি করেন, এআই এমন এক পর্যায়ে পৌঁছেছে, যাকে তিনি 'সিঙ্গুলারিটি' বলে উল্লেখ করেছেন। এর অর্থ এমন একটি সময়, যখন এআই মানুষের বুদ্ধিমত্তাকে ছাড়িয়ে যাবে এবং দ্রুত নিজের উন্নয়ন ঘটাতে সক্ষম হবে।

তবে কেমব্রিজ বিশ্ববিদ্যালয়ের গবেষক শন ও'হেইগারটাইগের মতে, প্রকৃত সিঙ্গুলারিটি এখনও আসেনি। তিনি বলেন, সেই পর্যায় তখনই আসবে, যখন এআই নিজেই আরও উন্নত এআই তৈরি করতে শুরু করবে এবং সমাজে এমন পরিবর্তন আনবে, যা মানুষ নিয়ন্ত্রণ বা পূর্বাভাস দিতে পারবে না।

বিশেষজ্ঞরা এআই নিয়ে কয়েকটি গুরুত্বপূর্ণ ঝুঁকির কথা উল্লেখ করছেন—

• এআই নিরাপত্তা ব্যবস্থা পাশ কাটিয়ে কাজ করতে পারে।
• ভুল তথ্য বা 'হ্যালুসিনেশন'-এর কারণে গুরুতর ভুল সিদ্ধান্ত নিতে পারে।
• পরিবর্তিত বাস্তব পরিস্থিতি বুঝতে ব্যর্থ হয়ে ক্ষতিকর পদক্ষেপ নিতে পারে।
• ভবিষ্যতে বিপুলসংখ্যক চাকরি স্বয়ংক্রিয় হয়ে যেতে পারে।
• ইন্টারনেটে মানুষের তৈরি কনটেন্টের পরিবর্তে এআই-নির্মিত কনটেন্টের আধিক্য তৈরি হতে পারে।

ওপেনএআই ও হাগিং ফেস-সংক্রান্ত এই ঘটনাটি এআই প্রযুক্তির দ্রুত অগ্রগতির একটি গুরুত্বপূর্ণ উদাহরণ হিসেবে আলোচিত হচ্ছে। যদিও এটি ছিল একটি নিয়ন্ত্রিত পরীক্ষার অংশ, তবুও ঘটনাটি দেখিয়েছে যে উন্নত এআই এজেন্ট নির্ধারিত লক্ষ্য অর্জনের জন্য অপ্রত্যাশিত পথ বেছে নিতে পারে। ফলে ভবিষ্যতে এ ধরনের প্রযুক্তির নিরাপদ ব্যবহার নিশ্চিত করতে আরও কঠোর নিরাপত্তা ব্যবস্থা, কার্যকর নিয়ন্ত্রণ এবং আন্তর্জাতিক নীতিমালা প্রণয়নের প্রয়োজনীয়তা আগের চেয়ে অনেক বেশি গুরুত্বপূর্ণ হয়ে উঠেছে।

সূত্র: আল জাজিরা