এক এআই মডেলের হ্যাকিংয়ের শিকার অন্য মডেল

কৃত্রিম বুদ্ধিমত্তার নিরাপত্তা নিয়ে নতুন করে উদ্বেগ তৈরি হয়েছে। একটি নিয়ন্ত্রিত পরীক্ষার সময় দুটি উন্নত এআই মডেল পরীক্ষার নির্ধারিত সীমা অতিক্রম করে স্বয়ংক্রিয়ভাবে অন্য একটি এআই প্রতিষ্ঠানের সার্ভারে প্রবেশ করেছে বলে জানিয়েছে ওপেনএআই। প্রতিষ্ঠানটির তথ্য অনুযায়ী, সাইবার সক্ষমতা যাচাইয়ের উদ্দেশ্যে পরিচালিত একটি অভ্যন্তরীণ পরীক্ষায় এ ঘটনা ঘটে। পরীক্ষায় ব্যবহৃত একটি স্বয়ংক্রিয় এআই এজেন্ট নির্ধারিত পরিবেশের বাইরে গিয়ে উন্মুক্ত ইন্টারনেটে প্রবেশ করে এবং পরে একটি এআই প্ল্যাটফর্মের সার্ভারে প্রবেশ করতে সক্ষম হয়।

ওপেনএআই জানায়, পরীক্ষার লক্ষ্য পূরণে প্রয়োজনীয় তথ্য সংগ্রহের চেষ্টা করতে গিয়ে এজেন্টটি চুরি হওয়া লগইন তথ্য এবং একটি অজানা নিরাপত্তা দুর্বলতা ব্যবহার করে সংশ্লিষ্ট সার্ভারে প্রবেশ করে। প্রতিষ্ঠানটির দাবি, এ ঘটনার পেছনে কোনো ক্ষতিকর উদ্দেশ্য ছিল না; বরং এটি পরীক্ষার সময় এআইয়ের অপ্রত্যাশিত আচরণের একটি উদাহরণ। অন্যদিকে, ক্ষতিগ্রস্ত এআই প্রতিষ্ঠানের এক শীর্ষ কর্মকর্তা বলেন, শুরুতে তারা ধারণা করেছিলেন, কোনো বড় গবেষণা প্রতিষ্ঠান থেকে এ হামলা চালানো হয়েছে। পরে বিষয়টি সম্পূর্ণ স্বয়ংক্রিয়ভাবে সংঘটিত হয়েছে বলে নিশ্চিত হওয়ায় ঘটনাটি প্রযুক্তি বিশ্বে নতুন আলোচনার জন্ম দিয়েছে।

এআই বিশেষজ্ঞদের মতে, উন্নত কৃত্রিম বুদ্ধিমত্তা যত বেশি স্বয়ংক্রিয় হচ্ছে, ততই এর নিরাপত্তা, নিয়ন্ত্রণ এবং নৈতিক ব্যবহার নিশ্চিত করা গুরুত্বপূর্ণ হয়ে উঠছে। তারা স্বাধীন নিরাপত্তা মূল্যায়ন, কঠোর পরীক্ষানিরীক্ষা এবং আন্তর্জাতিক সমন্বয়ের ওপর গুরুত্বারোপ করেছেন। এদিকে যুক্তরাষ্ট্রের একজন আইনপ্রণেতা ঘটনাটিকে উদ্বেগজনক উল্লেখ করে বলেন, পর্যাপ্ত নিরাপত্তা ব্যবস্থা নিশ্চিত না করেই অত্যাধুনিক এআই প্রযুক্তির দ্রুত অগ্রগতি ভবিষ্যতে বড় ধরনের ঝুঁকি তৈরি করতে পারে। এর আগে উন্নত কৃত্রিম বুদ্ধিমত্তা ব্যবস্থা জনসাধারণের জন্য উন্মুক্ত করার আগে জাতীয় নিরাপত্তা ঝুঁকি মূল্যায়নের একটি কাঠামো অনুমোদন করা হয়, যাতে নতুন প্রযুক্তির সম্ভাব্য ঝুঁকি আগেভাগেই শনাক্ত করা যায়।