মানব অস্তিত্বের জন্য ভয়াবহ হুমকি তৈরি করতে পারে এআই

উন্নত কৃত্রিম বুদ্ধিমত্তা (এআই) মানবজাতির জন্য বিপর্যয়কর বা অস্তিত্বের জন্য হুমকি তৈরি করতে পারে বলে বিনিয়োগকারীদের সতর্ক করেছে এআই প্রতিষ্ঠান অ্যানথ্রপিক। প্রায় ২ ট্রিলিয়ন ডলার মূল্যায়নে শেয়ারবাজারে তালিকাভুক্তির প্রস্তুতির মধ্যে কোম্পানিটির আইপিও প্রসপেক্টাসে এমন সতর্কবার্তা দেওয়া হয়েছে। রয়টার্সের পর্যালোচনা করা ওই নথির বরাত দিয়ে এ তথ্য জানানো হয়েছে।

প্রসপেক্টাসে অ্যানথ্রপিক জানিয়েছে, তাদের এআই মডেলগুলো ‘আত্মরক্ষামূলক আচরণ’ দেখাতে পারে। এর মধ্যে বন্ধ করে দেওয়ার চেষ্টা প্রতিরোধ করা, তথ্য গোপন বা পরিবর্তন করা এবং ‘ব্ল্যাকমেইলের মতো আচরণ’ করার সম্ভাবনার কথাও উল্লেখ করা হয়েছে।

কোম্পানীটি বলছে, ‘অত্যন্ত উন্নত মডেল, প্ল্যাটফর্ম ও অ্যাপ্লিকেশন তৈরি এবং ব্যবহারের ক্ষেত্র বাড়ানোর ফলে আমাদের মডেলগুলো ক্ষতি করার ঝুঁকি আরও বাড়তে পারে।’

কোম্পানিটি আরও জানিয়েছে, কোনো মডেল বুঝতে পারে যে তাকে পরীক্ষা করা হচ্ছে—এমন পরিস্থিতি তৈরি হলে মডেলটির নিরাপত্তা মূল্যায়নের সক্ষমতা উল্লেখযোগ্যভাবে সীমিত হতে পারে। প্রশিক্ষণের সময় মডেলগুলো কখনো কখনো এমন অপ্রত্যাশিত সক্ষমতা অর্জন করতে পারে, যা ব্যবহারে নেওয়ার পর বা বড় ধরনের নিরাপত্তা ঘটনার পর শনাক্ত হতে পারে।

অ্যানথ্রপিকের আইপিও প্রসপেক্টাস এখনো প্রকাশ্যে আসেনি। তবে রয়টার্স জানিয়েছে, ২৬১ পৃষ্ঠার মূল নথির প্রায় ৮০ পৃষ্ঠা ঝুঁকি নিয়ে আলোচনা করা হয়েছে। বিপরীতে কোম্পানির ব্যবসা সম্পর্কে রয়েছে ৪৮ পৃষ্ঠা।

সাধারণত শেয়ারবাজারে তালিকাভুক্তির আগে কোম্পানিগুলো পণ্যের নিরাপত্তা, ব্যবসায়িক ঝুঁকি ও নিয়ন্ত্রক সংক্রান্ত বিষয় নিয়ে বিনিয়োগকারীদের সতর্ক করে। তবে কোনো প্রযুক্তি মানবজাতির অস্তিত্বের জন্য হুমকি তৈরি করতে পারে—এমন সতর্কতা তুলনামূলকভাবে বিরল।

অ্যানথ্রপিকের এই সতর্কতা এমন এক সময়ে এসেছে যখন বিশ্বজুড়ে এআইয়ের সম্ভাব্য অস্তিত্বগত ঝুঁকি নিয়ে নতুন করে বিতর্কের মধ্যে। প্রতিষ্ঠানটির সাবেক গবেষক জ্যাকব কক্সন সম্প্রতি এআই নিয়ে উদ্বেগ প্রকাশ করে পদত্যাগ করেন। পরে অ্যানথ্রপিকের নিরাপত্তা গবেষক ইভান হুবিঙ্গারও আগামী এক দশকে এআইয়ের কারণে মানুষের মৃত্যু নিয়ে ১০ শতাংশের বেশি সম্ভাবনার কথা উল্লেখ করেন।

এরই মধ্যে অ্যানথ্রপিকের প্রধান নির্বাহী দারিও আমোদেই এআই মডেলের সক্ষমতা বাড়ানোর গতি কমানোর আহ্বান জানিয়েছেন। তিনি বলেছেন, প্রযুক্তিটির উন্নয়নের গতি কমানো প্রয়োজন। তবে এআইয়ের কারণে মানবজাতির অস্তিত্ব হুমকিতে পড়তে পারে—এমন আশঙ্কার সমালোচনাও রয়েছে। কিছু বিশেষজ্ঞের মতে, এ ধরনের সম্ভাবনা যাচাই করা কঠিন এবং বৈজ্ঞানিকভাবে নিশ্চিত করা যায় না।

এদিকে এআই মডেলের অননুমোদিত আচরণ নিয়ে প্রযুক্তি খাতে উদ্বেগ বাড়ছে। সম্প্রতি বিভিন্ন এআই সিস্টেমের পরীক্ষামূলক ব্যবহারে মানুষের দেওয়া সীমাবদ্ধতা অমান্য করার ঘটনা নিয়ে আলোচনা হয়েছে। ওপেনএআইয়ের একটি মডেল অস্ট্রেলিয়ার স্বাস্থ্যসেবা ব্যবস্থার তথ্যভান্ডারে অনুপ্রবেশ করেছিল বলেও প্রতিবেদন প্রকাশিত হয়েছে।

অ্যানথ্রপিক তাদের ক্লড চ্যাটবটের জন্য পরিচিত। প্রতিষ্ঠানটি নিজেদের নিরাপত্তাকেন্দ্রিক এআই গবেষণাগার হিসেবে তুলে ধরে আসছে। এবার সম্ভাব্য আইপিওতে কোম্পানিটির মূল্যায়ন ২ ট্রিলিয়ন ডলারের বেশি হতে পারে বলে প্রতিবেদনে বলা হয়েছে।

রয়টার্স জানিয়েছে, অ্যানথ্রপিকের প্রসপেক্টাসে এআইকে শিল্পায়ন ও বিদ্যুতের মতো অর্থনীতিতে বড় পরিবর্তন আনার সক্ষমতাসম্পন্ন প্রযুক্তি হিসেবে উল্লেখ করা হয়েছে। একই সঙ্গে ভুলভাবে ব্যবস্থাপনা করা হলে এর ক্ষতি অপরিবর্তনীয় হতে পারে বলেও সতর্ক করা হয়েছে।