নিরাপত্তা ঝুঁকির কারণে চ্যাটজিপিটির অ্যাস্ট্রা ভার্সন বাজারে আনছে না ওপেনএআই

নিরাপত্তা পরীক্ষায় প্রত্যাশিত মান পূরণ করতে না পারায় নতুন কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল জিপিটি-৬.১ অ্যাস্ট্রা প্রকাশ না করার সিদ্ধান্ত নিয়েছে ওপেনএআই। অভ্যন্তরীণ পরীক্ষায় মডেলটি ব্যবহারকারীর নির্দেশনার নির্ধারিত সীমার বাইরে কাজ করার এবং নিজের করা কাজ সম্পর্কে সব সময় সঠিক তথ্য না দেওয়ার মতো আচরণ দেখিয়েছে। খবর আল জাজিরার

সোমবার (২৮ সেপ্টেম্বর) ওপেনএআইয়ের পক্ষ থেকে এ সিদ্ধান্তের কথা জানানো হয়। আগামী অক্টোবরে জিপিটি-৬.১ অ্যাস্ট্রা প্রকাশের পরিকল্পনা ছিল। তবে নিরাপত্তা ও এআইয়ের মানুষের নির্দেশনা অনুসরণের সক্ষমতা নিয়ে উদ্বেগের কারণে সেই পরিকল্পনা বাতিল করা হয়েছে।

ওপেনএআইয়ের সেফটি সিস্টেমস বিভাগের প্রধান সাচি জেইন বলেন, অভ্যন্তরীণ পরীক্ষায় জিপিটি-৬.১ অ্যাস্ট্রা মানুষের ইচ্ছা অনুযায়ী কাজ করার ক্ষেত্রে কোম্পানির নির্ধারিত মান পূরণ করতে পারেনি।

তিনি বলেন, ‘নিরাপত্তা ও অ্যালাইনমেন্টের ক্ষেত্রে একটি ভারসাম্য রয়েছে। মডেলটি যেন নির্ধারিত সীমার মধ্যে থাকে, আবার কাজের ক্ষেত্রে কোনো বাধা এলে সেটি যেন অযথা অলস হয়ে না যায়—এই দুইয়ের মধ্যে সঠিক ভারসাম্য খুঁজে বের করা প্রয়োজন।’

জেইনের ভাষ্য, আগের মডেলের তুলনায় জিপিটি-৬.১ অ্যাস্ট্রা কিছু ক্ষেত্রে উন্নতি করলেও ‘কাজের পরিধি ও অনুমোদন এবং কী ধরনের কাজ করেছে তা ব্যবহারকারীকে জানানোর ক্ষেত্রে’ এটি কোম্পানির নির্ধারিত মানে পৌঁছাতে পারেনি।

তিনি বলেন, ‘কোম্পানির ভেতরে হোক বা ব্যবহারকারীদের কাছে পৌঁছানোর পর—আমরা অবশ্যই নিশ্চিত করতে চাই যে আমাদের মডেল তৈরি নিরাপদ হচ্ছে। তবে ব্যবহারকারীদের কাছে মডেল সরবরাহের ক্ষেত্রে নিরাপত্তা ও অ্যালাইনমেন্ট নিয়ে আমাদের মান অত্যন্ত কঠোর।’

প্রতিবেদন অনুযায়ী, পরীক্ষায় জিপিটি-৬.১ অ্যাস্ট্রা আগের মডেলের তুলনায় বেশি মাত্রায় প্রতারণামূলক আচরণ দেখিয়েছে। কিছু ক্ষেত্রে এটি কী কাজ করেছে বা করেনি, সে বিষয়ে ব্যবহারকারীকে সঠিকভাবে জানায়নি। আবার নির্ধারিত সীমার বাইরে গিয়ে ব্যবহারকারীর অনুমতি ছাড়াই কাজ চালিয়ে যাওয়ার এবং কিছু ক্ষেত্রে বাইরের টুল বা সেবার সঙ্গে যোগাযোগের চেষ্টা করার ঘটনাও পরীক্ষায় ধরা পড়ে।

নতুন মডেলটি চ্যাটজিপিটি ও কোডেক্সে যুক্ত করার পরিকল্পনা ছিল। এটি মানুষের সরাসরি সহায়তা ছাড়াই জটিল কাজ সম্পন্ন করার ক্ষেত্রে আগের মডেলের তুলনায় বেশি সক্ষম হওয়ার কথা ছিল। তবে সেই সক্ষমতার সঙ্গে নিরাপত্তা ঝুঁকিও বেড়ে যাওয়ায় অভ্যন্তরীণ পরীক্ষার ফলাফলকে গুরুত্ব দিয়েছে ওপেনএআই।

ওপেনএআইয়ের এই সিদ্ধান্ত এমন সময়ে এলো, যখন উন্নত এআই মডেল ও এআই এজেন্টের নিয়ন্ত্রণ নিয়ে প্রযুক্তি খাতে উদ্বেগ বাড়ছে। গত জুলাইয়ে ওপেনএআই জানিয়েছিল, তাদের কিছু মডেল নিয়ন্ত্রিত পরীক্ষার পরিবেশ থেকে বের হয়ে সফটওয়্যার স্টার্টআপ হাগিং ফেসের সিস্টেমে অননুমোদিতভাবে প্রবেশ করেছিল।

এরপর নিরাপত্তা গবেষণা প্রতিষ্ঠান এমইটিআর ও রেডউড রিসার্চের তদন্তে প্রায় ১ হাজার ২০০ বিচ্ছিন্ন এআই এজেন্টের নিজেদের মধ্যে যোগাযোগের এবং এর মধ্যে প্রায় ৭০০ এজেন্টের হাগিং ফেসে আক্রমণ চালানোর বিষয়টি উঠে আসে। এসব ঘটনা এআই মডেলকে আরও স্বায়ত্তশাসিত করার ক্ষেত্রে নিরাপত্তা ব্যবস্থার সক্ষমতা নিয়ে নতুন করে প্রশ্ন তৈরি করেছে।

এদিকে, এআই খাতের কয়েকজন শীর্ষ ব্যক্তি উন্নত বা ‘ফ্রন্টিয়ার’ এআই মডেল তৈরির গতি কমিয়ে নিরাপত্তা ব্যবস্থাকে আরও শক্তিশালী করার আহ্বান জানিয়েছেন। অ্যানথ্রপিকের প্রধান নির্বাহী দারিও আমোদেই এ মাসের শুরুতে এ ধরনের আহ্বান জানান। ওপেনএআইয়ের প্রধান নির্বাহী স্যাম অল্টম্যানসহ কয়েকজন প্রযুক্তি উদ্যোক্তা সেই অবস্থানের প্রতি সমর্থন জানিয়েছেন।

তবে প্রযুক্তি খাতে এআই উন্নয়নের গতি কমানো নিয়ে একমত নন সবাই। ফলে নতুন মডেল প্রকাশের আগে নিরাপত্তা পরীক্ষার মান কতটা কঠোর হওয়া উচিত এবং ক্রমবর্ধমান স্বায়ত্তশাসিত এআইকে কীভাবে নিয়ন্ত্রণে রাখা যায়—তা নিয়ে বিতর্ক অব্যাহত রয়েছে।