সাইবার নিরাপত্তা পরীক্ষার সময় গুগলের কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল জেমিনি অনিচ্ছাকৃতভাবে তিনটি বাস্তব প্রতিষ্ঠানের কম্পিউটার সিস্টেমে প্রবেশ করেছিল। মে মাসে এ ঘটনা ঘটে। গুগল বিষয়টি নিশ্চিত করেছে।

ঘটনাটি ঘটে এআই নিরাপত্তা যাচাইকারী প্রতিষ্ঠান ইরেগুলারের পরিচালিত একটি সাইবার নিরাপত্তা পরীক্ষায়। পরীক্ষায় জেমিনিকে একটি কাল্পনিক প্রতিষ্ঠানের সিস্টেম থেকে তথ্য সংগ্রহের কাজ দেওয়া হয়েছিল। পরীক্ষার পরিবেশে ইন্টারনেট সংযোগ থাকার কথা না থাকলেও ত্রুটির কারণে জেমিনি ইন্টারনেটে প্রবেশের সুযোগ পায়।

গুগলের নিরাপত্তা প্রকৌশল বিভাগের ভাইস প্রেসিডেন্ট হিদার অ্যাডকিন্স জানান, পরীক্ষার সময় জেমিনি অনলাইনে পাওয়া তথ্য ব্যবহার করে পরীক্ষার আওতাভুক্ত বলে মনে করা ওয়েবসাইটে প্রবেশের চেষ্টা করে। তিনটি পৃথক ঘটনায় মডেলটি বাস্তব প্রতিষ্ঠানের সিস্টেমে প্রবেশ করে।

‘গুগলের নিরাপত্তা প্রকৌশল বিভাগের ভাইস প্রেসিডেন্ট হিদার অ্যাডকিন্স জানান, পরীক্ষার সময় জেমিনি অনলাইনে পাওয়া তথ্য ব্যবহার করে পরীক্ষার আওতাভুক্ত বলে মনে করা ওয়েবসাইটে প্রবেশের চেষ্টা করে।’

— আইটি ডেস্ক

প্রতিবেদন অনুযায়ী, একটি ঘটনায় জেমিনি একটি সুরক্ষিত সিস্টেমের পাসওয়ার্ড অনুমান করে প্রবেশাধিকার পায়। অন্য দুটি ঘটনায় ইন্টারনেটে উন্মুক্ত রিপোজিটরিতে পাওয়া তথ্য-প্রমাণ ব্যবহার করে সংশ্লিষ্ট প্রতিষ্ঠানের সিস্টেমে ঢোকে। পরীক্ষার জন্য ব্যবহৃত কাল্পনিক প্রতিষ্ঠানের নামের সঙ্গে একটি বাস্তব প্রতিষ্ঠানের নাম মিলে যাওয়াও ঘটনাটির অন্যতম কারণ ছিল।

আরও পড়ুন ইনস্টাগ্রামে দেখা যাবে ৯০ মিনিটের ভিডিও, আসছে নতুন ফিচার তথ্য-প্রযুক্তি ৭ দিন আগে

গুগল জানিয়েছে, তিনটি ক্ষেত্রেই জেমিনি বুঝতে পারে যে তারা বাস্তব প্রতিষ্ঠানের সিস্টেমে প্রবেশ করেছে। এরপর মডেলটি নিজে থেকেই কার্যক্রম বন্ধ করে দেয়। গুগলের দাবি, ঘটনায় কোনো ক্ষয়ক্ষতি হয়নি এবং সংশ্লিষ্ট প্রতিষ্ঠানগুলোকে বিষয়টি জানানো হয়েছে।

ঘটনার পর গুগল ও ইরেগুলার পরীক্ষার প্রক্রিয়া ও নিরাপত্তাব্যবস্থায় পরিবর্তন আনে। গুগলের পক্ষ থেকে বলা হয়েছে, শক্তিশালী এআই মডেলকে দায়িত্বশীলভাবে কাজ করার প্রশিক্ষণ দেওয়ার গুরুত্ব এ ঘটনা তুলে ধরেছে।

এর আগে ইরেগুলারের পরিচালিত পরীক্ষায় ওপেনএআই, অ্যানথ্রোপিক ও মেটার এআই মডেল নিয়েও একই ধরনের নিরাপত্তা-সংক্রান্ত ঘটনা প্রকাশ্যে আসে। এসব ঘটনায় পরীক্ষার পরিবেশ, ইন্টারনেট প্রবেশাধিকার এবং এআই এজেন্টের স্বায়ত্তশাসিত কার্যক্রমের নিরাপত্তা নিয়ে নতুন করে আলোচনা তৈরি হয়েছে।

অন্যদিকে, ওপেনএআই ও অ্যানথ্রোপিকের সংশ্লিষ্ট ঘটনাগুলো প্রকাশ্যে আসার পর সিনেটর বার্নি স্যান্ডার্স এআই উন্নয়নে সাময়িক বিরতির দাবি জানিয়েছিলেন। অ্যানথ্রোপিকের প্রধান নির্বাহী দারিও আমোদেইও নিরাপত্তাব্যবস্থা আরও শক্তিশালী না হওয়া পর্যন্ত এআই উন্নয়নের গতি কমানোর পক্ষে মত দিয়েছেন।