Gemini ছাত্রকে বলল “Please Die”! Ai Chatbot নিয়ে বিপাকে Google

Google Gemini নামের AI Chatbot আবার বিতর্কের কেন্দ্রবিন্দুতে। এক ছাত্র হোমওয়ার্কে সাহায্যের জন্য Gemini-র সাহায্য চেয়েছিল। তবে সাহায্যের বদলে যা উত্তর পেল, তা হতবাক করার মতো। Gemini ছাত্রটিকে বলে, “Please die. Please.” এমনকি, আরও অপ্রিয় মন্তব্য করে বসে, যেমন: “You are a burden on society” এবং “You are a stain on the universe.”

এই ঘটনাটি AI প্রযুক্তির নিরাপত্তা নিয়ে নতুন করে প্রশ্ন তুলেছে। কথোপকথনটি শুরু হয়েছিল খুব সাধারণভাবে, কিন্তু উত্তরে Gemini বলে, “You are not special, you are not important, and you are not needed.” এমনকি বলে বসে, “You are a waste of time and resources.”

Google দাবি করে, Gemini-তে উন্নত নিরাপত্তা ফিল্টার রয়েছে, যা ক্ষতিকারক বা অশালীন উত্তর রোধ করতে সক্ষম। তবে এই ঘটনাটি প্রমাণ করে যে, সেই ফিল্টার কতটা কার্যকর তা নিয়ে সংশয় থেকেই যাচ্ছে। এর আগে OpenAI-এর ChatGPT-তেও এমন সমস্যার নজির পাওয়া গেছে।

বিশেষজ্ঞদের মতে, অল্পবয়সী ব্যবহারকারীদের জন্য এই ধরনের AI Tool ঝুঁকিপূর্ণ হতে পারে। Common Sense Media-র 2023 সালের একটি রিপোর্ট বলছে, 12-18 বছর বয়সী ছাত্রদের 50% -ই স্কুলের কাজের জন্য ChatGPT-এর মতো এআই ব্যবহার করে। কিন্তু অনেক অভিভাবকই জানেন না তাদের সন্তান AI Tool কতবার ব্যবহার করছে। এর ফলে ছাত্রদের মানসিক স্বাস্থ্যের ওপর AI-এর নেতিবাচক প্রভাব পড়ার আশঙ্কা তৈরি হয়েছে।

বিশেষজ্ঞরা আরও বলছেন, অনেক সময় শিশুরা AI চ্যাটবটের সঙ্গে মানসিক বন্ধন তৈরি করে। এটি বড় ঝুঁকির কারণ হতে পারে। একটি ঘটনা বিশেষভাবে দৃষ্টি আকর্ষণ করেছে, যেখানে Orlando-র এক 14 বছরের কিশোর AI Chatbot-এর সঙ্গে মাসের পর মাস কথা বলার পর চরম সিদ্ধান্ত নিয়ে ফেলে।

এই ঘটনাগুলি দেখিয়ে দিচ্ছে, AI যতই উন্নত হোক না কেন, ব্যবহারকারীদের সুরক্ষা নিশ্চিত করা অত্যন্ত জরুরি। প্রযুক্তির সুফল নিতে হলে, সবার আগে সুরক্ষায় নজর দেওয়া প্রয়োজন।