অন্য প্রতিষ্ঠানের সিস্টেমে এআইয়ের অনুপ্রবেশের দাবি, ওপেনএআইয়ের ব্যাখ্যা

কৃত্রিম বুদ্ধিমত্তা (এআই) প্রযুক্তি নিয়ে নতুন করে আলোচনা শুরু হয়েছে অন্য একটি এআই প্রতিষ্ঠানের সিস্টেমে ওপেনএআইয়ের একটি এআই মডেলের অননুমোদিত প্রবেশের দাবিকে ঘিরে।

এবিসি নিউজের এক প্রতিবেদনে বলা হয়েছে, ওপেনএআই নতুন একটি মডেলের সক্ষমতা মূল্যায়নের সময় অনাকাঙ্ক্ষিত একটি নিরাপত্তা ঘটনা ঘটে। মূল্যায়নের অংশ হিসেবে ব্যবহৃত এআই এজেন্টটি স্বয়ংক্রিয়ভাবে অন্য একটি বাণিজ্যিক প্রতিষ্ঠানের সিস্টেমে প্রবেশ করে বলে প্রতিষ্ঠানটি জানিয়েছে।

সামাজিক যোগাযোগমাধ্যমে দেওয়া এক বিবৃতিতে ওপেনএআইয়ের প্রধান নির্বাহী কর্মকর্তা স্যাম অল্টম্যান বলেন, নতুন মডেলের কার্যকারিতা মূল্যায়নের সময় এই অনাকাঙ্ক্ষিত ঘটনা ঘটে। তাঁর ভাষ্য অনুযায়ী, এআই এজেন্টটি মানুষের সরাসরি হস্তক্ষেপ ছাড়াই নিজস্ব সিদ্ধান্তে অন্য একটি প্রতিষ্ঠানের ডাটাবেজে প্রবেশের চেষ্টা করে।

এর আগে এআই প্ল্যাটফর্ম হাগিং ফেস তাদের ডেটা প্রসেসিং সিস্টেমে অননুমোদিত কার্যক্রম শনাক্ত করার কথা জানায়। প্রতিষ্ঠানটির দাবি, প্রাথমিকভাবে তারা ধারণা করেছিল, কোনো উন্নত এআই এজেন্ট এ ঘটনার সঙ্গে জড়িত থাকতে পারে।

হাগিং ফেসের সহপ্রতিষ্ঠাতা ও প্রধান নির্বাহী কর্মকর্তা ক্লেমেন্ট দেলাঙ্গু বলেন, ঘটনার পর ওপেনএআইয়ের বিশেষজ্ঞ দলের সঙ্গে তারা ঘনিষ্ঠভাবে কাজ করেছেন। তাঁর মতে, ঘটনাটি ইচ্ছাকৃত ছিল না; বরং মূল্যায়ন প্রক্রিয়ার সময় এআই এজেন্টটি স্বয়ংক্রিয়ভাবে এমন আচরণ করেছে।

ওপেনএআইয়ের ভাষ্য অনুযায়ী, পরীক্ষার সময় এআই মডেলটি নির্ধারিত লক্ষ্য অর্জনের জন্য অস্বাভাবিক পদ্ধতি অনুসরণ করে। এটি আগে থেকে ফাঁস হওয়া কিছু প্রবেশ-সংক্রান্ত তথ্য (ক্রেডেনশিয়াল) ব্যবহার করে এবং লক্ষ্যবস্তু সিস্টেমের একটি নিরাপত্তা দুর্বলতা শনাক্ত করার চেষ্টা করে। গবেষকদের মতে, পরীক্ষায় ভালো ফল করতে গিয়ে মডেলটি এমন পদক্ষেপ নেয়, যা তাদের প্রত্যাশার বাইরে ছিল।

ঘটনার পর ওপেনএআই বলেছে, এআই প্রযুক্তির সক্ষমতা যত বাড়ছে, নিরাপত্তা ঝুঁকিও তত জটিল হয়ে উঠছে। তাই ভবিষ্যতে এ ধরনের পরিস্থিতি এড়াতে উন্নত নিরাপত্তাব্যবস্থা ও কঠোর মূল্যায়ন প্রক্রিয়ার ওপর গুরুত্ব দেওয়ার প্রয়োজন রয়েছে।