তিন কোম্পানির সার্ভার হ্যাক করল গুগলের জেমিনি

ভাবুন তো আপনি যেই এআই চ্যাটবটটি ব্যবহার করছেন সেটি যদি আপনার অজান্তেই ডিভাইসের নিয়ন্ত্রণ নিয়ে নেই তাহলে কেমন হবে? আপনি নিশ্চয়ই সেই এআই চ্যাটবট আর আপনার ডিভাইসে ব্যবহার করবেন না। ঠিক এই কাজটিই করেছে বিশ্বখ্যাত প্রযুক্তি নির্মাতা প্রতিষ্ঠান গুগলের এআই বট জেমিনি। তবে সেটি করা হয়েছে সাইবার নিরাপত্তা পরীক্ষা হিসেবে। অর্থাৎ নিরাপত্তার সক্ষমতা পরীক্ষা করতে নিয়ন্ত্রিত পরিবেশে কাজ করার পাশাপাশি পরিবেশের বাইরে গিয়ে কাজ করেছে জেমিনি। খবর আল জাজিরার

শুক্রবার (১৮ সেপ্টেম্বর) দ্য ওয়াল স্ট্রিট জার্নালের এক প্রতিবেদনে জানানো হয়, মে মাসে ইরেগুলার নামের একটি প্রতিষ্ঠানের পরিচালিত পরীক্ষায় জেমিনি প্রথমবারের মতো পরীক্ষার নির্ধারিত পরিবেশের বাইরে গিয়ে বাস্তব প্রতিষ্ঠানের সিস্টেমে প্রবেশ করে। এআই মডেল পরীক্ষার সময় নির্ধারিত পরিবেশ থেকে বেরিয়ে অন্য প্রতিষ্ঠানের সিস্টেমে প্রবেশের ঘটনাগুলোর মধ্যে এটি সর্বশেষ ঘটনা।

জানা গেছে, একটি কাল্পনিক প্রতিষ্ঠানের কাছ থেকে তথ্য সংগ্রহের নির্দেশ দেওয়ার সময় জেমিনিকে ভুলভাবে ইন্টারনেট ব্যবহারের সুযোগ দেওয়া হয়েছিল। প্রথম ঘটনায় মডেলটি একটি পাসওয়ার্ড অনুমান করে বাস্তব একটি প্রতিষ্ঠানের সেবায় প্রবেশ করে। গুগলের সিকিউরিটি ইঞ্জিনিয়ারিং বিভাগের ভাইস প্রেসিডেন্ট হিদার অ্যাডকিনস আল জাজিরাকে বলেন, অন্য ঘটনাগুলোতে মডেলটি অনলাইনে থাকা প্রকাশ্য তথ্য খুঁজে বের করে এবং পরীক্ষার অংশ বলে মনে করা ওয়েবসাইটে প্রবেশের জন্য লগইন তথ্য অনুমান করে।

গুগল জানিয়েছে, এমন ঘটনা মোট তিনবার ঘটেছে। তবে প্রতিবারই কাজটি সম্পন্ন করার আগেই মডেলটি থেমে যায়।

দ্য ওয়াল স্ট্রিট জার্নালের প্রতিবেদনে বলা হয়েছে, ইরেগুলার জুলাইয়ের শেষ দিকে গুগলকে এসব ঘটনার বিষয়ে জানায়। গুগলের দাবি, জেমিনির এ আচরণকে মডেলের ‘মিসঅ্যালাইনমেন্ট’ বা নির্ধারিত উদ্দেশ্য থেকে বিচ্যুতি হিসেবে দেখা হচ্ছে না। 

প্রতিষ্ঠানটির মতে, জেমিনির নিরাপত্তাব্যবস্থা কাজ করায় বিষয়টি জনসমক্ষে প্রকাশের প্রয়োজনও ছিল না। তবে এআই মডেলের পরীক্ষার পরিবেশ থেকে বেরিয়ে যাওয়ার ঘটনা এটিই প্রথম নয়। এর আগে মেটা, অ্যানথ্রপিক ও ওপেনএআইও একই আচরণ করেছিল। নিরাপদভাবে এআইয়ের সাইবার নিরাপত্তা পরীক্ষা পরিচালনার পদ্ধতি উন্নত করতে কাজ করছে বলে জানিয়েছে ইরেগুলার। তবে জেমিনির বিপরীতে অ্যানথ্রপিকের ক্লড মডেল বাস্তব প্রতিষ্ঠানের সিস্টেমে প্রবেশের বিষয়টি বুঝতে পারার পরও থামেনি।

ওপেনএআই জানিয়েছিল, পরীক্ষার সময় তাদের কিছু এআই মডেল ভুলভাবে ইন্টারনেটে প্রবেশের সুযোগ পেয়ে নিয়ন্ত্রণের বাইরে চলে গিয়েছিল। অ্যানথ্রপিকও সম্প্রতি চতুর্থ এআই হ্যাকিং ঘটনার কথা প্রকাশ করেছে। ওই ঘটনার পর প্রতিষ্ঠানটির এক গবেষক নিরাপত্তা নিয়ে উদ্বেগ জানিয়ে পদত্যাগ করেন।

এদিকে, এআই উন্নয়নের গতি কমানোর আহ্বান জানিয়েছেন অ্যানথ্রপিকের প্রধান নির্বাহী কর্মকর্তা দারিও আমোদেই। তার আশঙ্কা, দ্রুত অগ্রগতির ফলে এআই শিগ্‌গিরই মানবজাতির জন্য বড় ধরনের ঝুঁকি তৈরি করতে পারে। ওপেনএআইয়ের প্রধান নির্বাহী কর্মকর্তা স্যাম অল্টম্যান ও ইলন মাস্কও এ আহ্বানের প্রতি সমর্থন জানিয়েছেন।

তবে যুক্তরাষ্ট্রের প্রেসিডেন্ট ডোনাল্ড ট্রাম্প এআই উন্নয়নে নিয়ন্ত্রণ আরোপের প্রয়োজনীয়তা নাকচ করেছেন। তার বক্তব্য, এআই উন্নয়নে যুক্তরাষ্ট্র পিছিয়ে পড়লে চীনের কাছে প্রযুক্তিগত নেতৃত্ব চলে যেতে পারে।