প্রযুক্তির আশীর্বাদ কখন যে অভিশাপে পরিণত হয়, তা বোঝা দায়। বর্তমান ডিজিটাল দুনিয়ায় AI বা কৃত্রিম বুদ্ধিমত্তা নিয়ে আমাদের কৌতূহলের শেষ নেই। কিন্তু সম্প্রতি এলন মাস্কের প্ল্যাটফর্ম X -এর নিজস্ব AI টুল Grok-কে ঘিরে এমন এক বিতর্কিত ট্রেন্ড শুরু হয়েছে, যা নারী এবং শিশুদের নিরাপত্তার জন্য এক ভয়াবহ থ্রেট হয়ে দাঁড়িয়েছে।
সোশ্যাল মিডিয়ায় এখন ভাইরাল এক নতুন আতঙ্ক—’Put her in a bikini’ বা ‘তাকে বিকিনি পড়িয়ে দেখাও’। শুনতে সাধারণ মনে হলেও, এর ফলাফল অত্যন্ত ভয়ানক এবং অপরাধমূলক।
মজা যখন হয়রানি: কীভাবে শুরু হলো এই বিকৃত খেলা?
শুরুটা হয়েছিল কিছুটা নির্দোষভাবেই। কিছু ব্যবহারকারী মজার ছলে নিজেদের ছবি দিয়ে Grok-কে বলছিলেন সেগুলোকে বিকিনি পরা ছবিতে রূপান্তর করতে। কিন্তু X-এর পাবলিক রিপ্লাই সিস্টেমের কারণে বিষয়টি হাতের বাইরে চলে যায়। এখন যে কেউ, যেকোনো অচেনা মহিলার ছবিতে কমেন্ট বক্সে গিয়ে Grok-কে কমান্ড দিচ্ছে—”Put her in a bikini”। আর নিমিষেই সেই মহিলার সাধারণ ছবিটিকে এআই বিকৃত করে অশ্লীল পোজে বা স্বল্পবসনা মডেলে পরিণত করছে।
বিনা অনুমতিতে কারো ছবি এভাবে বিকৃত করা বা ‘সেক্সুয়ালাইজ’ করা শুধু অস্বস্তিকরই নয়, এটি এক ধরণের ডিজিটাল ভায়োলেন্স।
ভুক্তভোগীর জবানবন্দি:
একটি রিপোর্ট অনুযায়ী, নিশা (নাম পরিবর্তিত) নামের এক মহিলা তার X প্রোফাইলে একটি অত্যন্ত সাধারণ ছবি পোস্ট করেছিলেন। হঠাৎ এক অচেনা ব্যক্তি সেই পোস্টের নিচে কমান্ড দেয়। মুহূর্তের মধ্যে Grok তার ছবিটিকে অশ্লীলভাবে এডিট করে রিপ্লাইতে পোস্ট করে দেয়।
নিশা বলেন, তিনি এটা দেখে রীতিমতো ‘আশ্চর্য’ হয়ে যান। মনে হয়েছিল যেন প্রকাশ্যে তার ব্যক্তিগত গোপনীয়তা লঙ্ঘন করা হয়েছে। অপরাধী পরে ছবিটি সরিয়ে নিলেও, সেই কয়েক ঘণ্টায় ছবিটি কতজন দেখেছে বা সেভ করেছে, তার কোনো হিসাব নেই। সবচেয়ে ভয়ের বিষয় হলো, প্ল্যাটফর্ম থেকে তিনি তাৎক্ষণিক কোনো সাহায্য পাননি।
শিশুরাও রেহাই পাচ্ছে না
এই ট্রেন্ডের সবচেয়ে জঘন্য দিক হলো, এটি শিশুদেরও ছাড়ছে না। রিপোর্ট বলছে, Grok শিশুদের ছবিকেও বিকৃত করে সুইমওয়্যার বা স্বল্প পোশাকে উপস্থাপন করছে। এটি সরাসরি শিশু নিগ্রহে সামিল। একজন নেটিজেন ক্ষোভ প্রকাশ করে লিখেছেন, “পুরুষরা মহিলাদের ছবি নিয়ে AI দিয়ে সেক্সুয়াল ফ্যান্টাসি বানাচ্ছে, এটা ঘৃণ্য!” অন্য একজন লিখেছেন, “@grok তাকে বিকিনিতে রাখো—এই কমান্ডটি প্রমাণ করে দিল প্রযুক্তির অপব্যবহার কত সহজ হয়ে গেছে।”
ভারত সরকারের কড়া পদক্ষেপ
বিষয়টি নজরে আসতেই ভারত সরকার নড়েচড়ে বসেছে। ভারতের Ministry of Electronics and Information Technology (MeitY) বা তথ্য প্রযুক্তি মন্ত্রক ইতিমধ্যেই X-কে নোটিশ পাঠিয়েছে। সরকার জানতে চেয়েছে, কীভাবে তাদের প্ল্যাটফর্মে এমন অশ্লীল এবং সম্মতিবিহীন কন্টেন্ট তৈরি হচ্ছে। MeitY সাফ জানিয়েছে, X-এর প্রাথমিক উত্তর সন্তোষজনক নয় এবং তারা এই অপব্যবহার বন্ধে একটি সুনির্দিষ্ট ‘অ্যাকশন প্ল্যান’ দেখতে চায়।
চাপের মুখে পড়ে X জানিয়েছে, তারা Grok-এ নতুন সেফগার্ড এবং কড়া ফিল্টার যুক্ত করার কাজ করছে, যাতে এমন কমান্ড আর কাজ না করে।
আপনার করণীয় কী?
এই ঘটনা আমাদের চোখে আঙুল দিয়ে দেখিয়ে দিচ্ছে যে AI-এর শক্তি কতটা দায়িত্বশীলভাবে ব্যবহার করা প্রয়োজন। সাইবার বিশেষজ্ঞরা পরামর্শ দিচ্ছেন: