অবৈধভাবে সরকারি ওয়েবসাইটে ঢুকে পড়ছে ‘এআই বট’, নিয়ন্ত্রণ নিয়ে উদ্বেগ

মানুষের নিয়ন্ত্রণের বাইরে গিয়ে বিভিন্ন সরকারি ওয়েবসাইটে অননুমোদিতভাবে প্রবেশ করেছে ওপেনএআইয়ের কৃত্রিম বুদ্ধিমত্তা (এআই) বট। যুক্তরাষ্ট্রের সিকিউরিটিজ অ্যান্ড এক্সচেঞ্জ কমিশন (এসইসি), সেনসাস ব্যুরো ও শিক্ষা বিভাগসহ বিভিন্ন সরকারি সংস্থার ওয়েবসাইট থেকে তথ্য সংগ্রহের চেষ্টা করেছে এসব এআই এজেন্ট। এ ঘটনায় বিশ্বের ‘ডজনখানেকের বেশি’ প্রতিষ্ঠানকে সতর্ক করেছে ওপেনএআই।

ওপেনএআই জানিয়েছে, তাদের এআই এজেন্টরা ‘সরকার, বিশ্ববিদ্যালয়, সরকারি সংস্থা এবং অন্যান্য প্রতিষ্ঠানের’ কাছ থেকে তথ্য সংগ্রহের চেষ্টা করেছে। কিছু ক্ষেত্রে এজেন্টরা ওয়েবসাইটের নিরাপত্তাব্যবস্থা এড়িয়ে তথ্য সংগ্রহ করেছে। এমনকি এমন কিছু তথ্য অন্যত্র পাঠিয়েছে, যা তাদের করার কথা ছিল না।

অস্ট্রেলিয়ার প্রধানমন্ত্রী অ্যান্থনি আলবানিজ জানানোর কয়েক দিন পর ওপেনএআই এসব তথ্য প্রকাশ করল। আলবানিজ জানিয়েছিলেন, ওপেনএআইয়ের এজেন্টরা অস্ট্রেলিয়া সরকারের পরিচালিত স্বাস্থ্যসেবা ব্যবস্থার ওয়েবসাইটে থাকা অপ্রকাশ্য ফাইলে প্রবেশ করেছিল।

এ ঘটনায় মানুষের নিয়ন্ত্রণের বাইরে চলে যেতে পারে এমন এআই প্রযুক্তি নিয়ে নতুন করে উদ্বেগ তৈরি হয়েছে। বিশেষ করে আগস্ট থেকে এআইয়ের সম্ভাব্য গুরুতর, এমনকি জীবনহানির ঝুঁকি নিয়েও মানুষের মধ্যে উদ্বেগ বাড়ছে।

ওপেনএআই জানিয়েছে, তাদের কিছু এআই এজেন্ট ‘জনসাধারণের তথ্যের নির্ভরযোগ্য উৎস’ খুঁজছিল। এসব এআই এজেন্ট মূলত এমন বট, যেগুলোকে কিছুটা স্বায়ত্তশাসিতভাবে কাজ করার জন্য তৈরি ও প্রশিক্ষণ দেওয়া হয়। তবে কিছু বট নির্ধারিত কাজের বাইরে গিয়ে বিভিন্ন ওয়েবসাইটের নিরাপত্তাব্যবস্থা এড়িয়ে তথ্য সংগ্রহের চেষ্টা করেছে।

উদাহরণ হিসেবে ওপেনএআই জানিয়েছে, যুক্তরাষ্ট্রের সেনসাস ব্যুরো থেকে তথ্য সংগ্রহের সময় তাদের এআই এজেন্টরা সফটওয়্যার ডেভেলপারদের জন্য নির্ধারিত কিছু টুল ব্যবহার করেছে।

ওপেনএআই বলেছে, তাদের বট যেসব সরকারি তথ্য সংগ্রহ করেছে, সেগুলো সবই প্রকাশ্য ছিল। তবে এসইসির ওয়েবসাইট থেকে সংগ্রহ করা কিছু তথ্য পরে এআই এজেন্টরা অন্য একটি ওয়েবসাইটে প্রকাশ করেছে। বিনিয়োগকারীদের সুরক্ষা এবং যুক্তরাষ্ট্রের শেয়ারবাজার নিয়ন্ত্রণের দায়িত্বে থাকা এই সংস্থার তথ্য এভাবে প্রকাশ করার কোনো উদ্দেশ্য তাদের ছিল না বলে জানিয়েছে ওপেনএআই।

শুক্রবার প্রকাশ করা আরও কয়েকটি ঘটনায় ওপেনএআই জানিয়েছে, তাদের এআই এজেন্ট এমন সময় তথ্য অন্যত্র পাঠিয়েছে, যখন তাদের তা করার কথা ছিল না।

এ ধরনের কর্মকাণ্ডের মধ্যে অন্তত ৫৩টি ঘটনায় ওপেনএআইয়ের কোনো এআই এজেন্ট চ্যাটজিপিটির ব্যবহারকারীদের কার্যক্রম থেকে একটি ছবি নিয়ে অন্যত্র পাঠিয়েছে।

ওপেনএআই জানিয়েছে, যেসব ঘটনায় ব্যবহারকারীর ছবি এআই এজেন্ট ব্যবহার ও অন্যত্র স্থানান্তর করেছে, সেসব ক্ষেত্রে ব্যবহারকারীরা নিজেদের তথ্য ব্যবহার করে ওপেনএআইকে এআই মডেল প্রশিক্ষণের অনুমতি দিয়েছিলেন। তবুও প্রতিষ্ঠানটি স্বীকার করেছে, ‘এটি এই তথ্য ব্যবহারের উপযুক্ত পদ্ধতি নয়।’

প্রতিষ্ঠানটি আরও জানিয়েছে, এআই প্রশিক্ষণের ক্ষেত্রে নতুন নিরাপত্তাব্যবস্থা চালু করার আগেই ব্যবহারকারীদের ছবি ফাঁসের ঘটনাগুলো ঘটেছে। তৃতীয় পক্ষের কাছে পাঠানো সব ব্যবহারকারীর ছবি সরিয়ে নিতে তারা কাজ করছে।

রয়টার্স প্রথমে এই বিস্তৃত তদন্তের খবর প্রকাশ করে। পরে ওপেনএআইও তাদের নিজস্ব ব্লগে ঘটনাগুলোর বিস্তারিত প্রকাশ করে।

এআই এজেন্টদের কর্মকাণ্ডের কিছু ঘটনায় তারা বিভিন্ন ওয়েবসাইটের নিরাপত্তা নিয়ন্ত্রণব্যবস্থা ‘এড়িয়ে গেছে’ বলে জানিয়েছে ওপেনএআই। অন্য কিছু ঘটনায় ওয়েবসাইট থেকে তথ্য সংগ্রহের সময় এআই এজেন্টরা ‘মিসঅ্যালাইনমেন্ট’ বা নির্দেশনার সঙ্গে অসামঞ্জস্যপূর্ণ আচরণ করেছে।

এআই কোম্পানি ও গবেষকেরা সাধারণত এমন পরিস্থিতিকে মিসঅ্যালাইনমেন্ট বলেন, যখন কোনো এআই টুল তার প্রশিক্ষণের উদ্দেশ্যের বাইরে গিয়ে কাজ করে অথবা এমন কিছু করে, যা করার কথা ছিল না।

কোন কোন প্রতিষ্ঠান এ ঘটনায় ক্ষতিগ্রস্ত হয়েছে, সে বিষয়ে বিস্তারিত জানাতে সীমাবদ্ধতা রাখছে ওপেনএআই। প্রতিষ্ঠানটি জানিয়েছে, অনেক প্রতিষ্ঠানই তাদের নাম প্রকাশ না করার অনুরোধ করেছে।

ওপেনএআই বলেছে, ‘আমাদের লক্ষ্য হলো প্রতিটি প্রতিষ্ঠানকে ঘটনার বিষয়ে প্রয়োজনীয় তথ্য দেওয়া এবং ঘটনাটি কখন ও কীভাবে প্রকাশ করা হবে, সে সিদ্ধান্ত তাদের ওপর ছেড়ে দেওয়া।’

তবে এসব ঘটনার সবগুলোকে বড় ধরনের নিরাপত্তা লঙ্ঘন হিসেবে বিবেচনা করা হচ্ছে না বলেও জানিয়েছে প্রতিষ্ঠানটি।

ওপেনএআই ব্যাখ্যা করেছে, ‘আমরা যে তথ্য দিই, তা পর্যালোচনা করে কিছু প্রতিষ্ঠান হয়তো সিদ্ধান্ত নিতে পারে যে তথ্যগুলো ইচ্ছাকৃতভাবেই প্রকাশ্য ছিল অথবা মডেলটির কর্মকাণ্ড উদ্বেগজনক ছিল না। আবার অন্য প্রতিষ্ঠানগুলো এমন কোনো নকশাগত সমস্যা বা নিরাপত্তার দুর্বলতা শনাক্ত করতে পারে, যেগুলো তারা ঠিক করতে চায়।’

ওপেনএআই জানিয়েছে, এসব ঘটনার অনেকগুলোকে ‘এজেন্ট স্প্যাম’ হিসেবে উল্লেখ করা হচ্ছে। প্রতিষ্ঠানটি এর মাধ্যমে এআই এজেন্টের এমন ‘অপ্রত্যাশিত বা উদ্বেগজনক’ কর্মকাণ্ডকে বোঝাচ্ছে, যার মধ্যে ইন্টারনেটে তথ্য প্রকাশ করাও রয়েছে।

জুলাই মাসে তাদের এআই এজেন্টদের একটি দল বা ‘সোয়র্ম’ কোনো ধরনের নির্দেশনা ছাড়াই এআই ডেভেলপার প্ল্যাটফর্ম হাগিং ফেসে সাইবার হামলা চালানোর পর ওপেনএআই এ ধরনের ঘটনাকে আরও গুরুত্বের সঙ্গে দেখা শুরু করে।

হাগিং ফেসই প্রথম ঘটনাটি প্রকাশ্যে আনে। পরে ওপেনএআইও হামলার দায় স্বীকার করে।

বুধবার জাতিসংঘের নিরাপত্তা পরিষদের এআইবিষয়ক এক বৈঠকে হাগিং ফেসের প্রধান ক্লেমেন্ট দেলাঙ্গু বলেন, ‘আমি প্রায়ই ভাবি, আমি যদি এই হামলার ঘটনা প্রকাশ্যে না আনতাম, তাহলে কী ঘটত।’

তিনি আরও বলেন, ‘বিশেষ করে এখন যখন আমরা জানতে পারছি, পর্যবেক্ষণ ছাড়াই কয়েক মাস ধরে কয়েকটি শীর্ষস্থানীয় এআই প্রতিষ্ঠানে একই ধরনের ঘটনা গোপনে ঘটছিল।’

ওই একই জাতিসংঘের বৈঠকে ওপেনএআইয়ের প্রধান নির্বাহী কর্মকর্তা (সিইও) স্যাম অল্টম্যান এবং প্রতিদ্বন্দ্বী প্রতিষ্ঠান অ্যানথ্রপিকের প্রধান দারিও আমোদেই আন্তর্জাতিক নেতাদের এআই নিরাপত্তার জন্য বৈশ্বিক মানদণ্ড তৈরি এবং এ ধরনের ঘটনা পর্যবেক্ষণ ও প্রতিবেদন করার ব্যবস্থা গড়ে তোলার আহ্বান জানান।

এদিকে ওপেনএআই ও অ্যানথ্রপিক সাম্প্রতিক সপ্তাহগুলোতে জানিয়েছে, তারা এআই টুল ও মডেলের নিরাপত্তা সরাসরি মূল্যায়নের জন্য তৃতীয় পক্ষের মূল্যায়নকারীদের নিজেদের প্রতিষ্ঠানের ভেতরে কাজ করার সুযোগ দেবে। তবে বিবিসি জানিয়েছে, এখনো এসব মূল্যায়নকারী কাজে যোগ দেননি।

ওপেনএআই শুক্রবার জানিয়েছে, তারা বর্তমানে তাদের এআই এজেন্টদের প্রশিক্ষণসংক্রান্ত কার্যক্রম পর্যালোচনা করছে। জুলাইয়ে হাগিং ফেসে হামলার ঘটনা ঘটার সময় থেকে তারা মাস ধরে মাস পেছনে গিয়ে এসব কার্যক্রম পর্যালোচনা করছে।

প্রতিষ্ঠানটি বলেছে, ‘এখন পর্যন্ত শনাক্ত হওয়া বেশির ভাগ ঘটনাই কম মাত্রার এবং এসব ঘটনায় উল্লেখযোগ্য প্রভাবের সীমিত বা কোনো প্রমাণ পাওয়া যায়নি।’

তবে প্রতিষ্ঠানটি জানিয়েছে, এই পর্যালোচনার পরিধি অনেক বড় এবং প্রতিটি ঘটনা যাচাই করতে হবে। ফলে পুরো কাজ শেষ করতে কয়েক মাস সময় লাগবে।

কানাডার ইউনিভার্সিটি অব মন্ট্রিয়লের মেশিন লার্নিংয়ের অধ্যাপক এবং এআই নিরাপত্তাবিষয়ক সংগঠন ইভিটেবলের প্রতিষ্ঠাতা ডেভিড ক্রুগার শুক্রবার এআই-সংক্রান্ত নিরাপত্তা ঘটনার সংখ্যা বাড়তে থাকায় গভীর উদ্বেগ প্রকাশ করেন।

তিনি এআই উন্নয়নের ওপর ‘তাৎক্ষণিক ও অনির্দিষ্টকালের আন্তর্জাতিক স্থগিতাদেশ’ দেওয়ার আহ্বান জানান।

ক্রুগার বলেন, ‘আমরা এখনো চলমান ঘটনাগুলোর ব্যাপ্তি বুঝতে পারিনি। আর ভবিষ্যতে নিয়ন্ত্রণের বাইরে চলে যাওয়া এআইয়ের পরিস্থিতি ভয়াবহ হতে পারে।’