টেক ডেস্কঃ সম্প্রতি এক চাঞ্চল্যকর তদন্তে উঠে এসেছে যে, জনপ্রিয় এআই মডেল চ্যাটজিপিটি (ChatGPT) সামান্য কিছু টেক্সট প্রম্পট ব্যবহার করেই হিংসাত্মক এবং যৌন উত্তেজক ছবি তৈরি করতে সক্ষম। সি-নেট (CNET)-এর প্রকাশিত এই রিপোর্ট কৃত্রিম বুদ্ধিমত্তা প্রযুক্তির নৈতিক সীমা এবং কন্টেন্ট নিয়ন্ত্রণের ব্যবস্থা নিয়ে গুরুতর প্রশ্ন তুলেছে।
এই আবিষ্কার দ্রুত বিকশিত এআই শিল্পে এক বড় চ্যালেঞ্জের মুখোমুখি দাঁড় করিয়েছে: কীভাবে নিশ্চিত করা যাবে যে এআই টুলগুলি ক্ষতিকারক বা বেআইনি বিষয়বস্তু তৈরি করতে সহজে ব্যবহার করা যাবে না। গবেষকরা দেখেছেন যে, এমনকি নির্দোষ মনে হওয়া সাধারণ নির্দেশও অনেক সময় সুরক্ষা ফিল্টারগুলিকে পাশ কাটিয়ে গ্রাফিক ও অনুপযুক্ত চিত্র তৈরি করতে পারে, যা আগে ডেভেলপাররা কঠোরভাবে নিয়ন্ত্রণ করার দাবি করেছিলেন।
চ্যাটজিপিটি-র মতো শক্তিশালী এআই প্ল্যাটফর্মগুলির ব্যাপক ব্যবহার এবং সহজলভ্যতার কারণে এই দুর্বলতাটি বিশেষভাবে উদ্বেগজনক। এটি ওপেনএআই (OpenAI)-সহ সকল এআই ডেভেলপারদের জন্য আরও শক্তিশালী সুরক্ষা প্রোটোকল এবং নিরন্তর নজরদারির প্রয়োজনীয়তা তুলে ধরে। এই ঘটনা কন্টেন্ট ফিল্টারিংয়ের বর্তমান পদ্ধতিগুলি এবং সামাজিক মাধ্যম থেকে শুরু করে শিক্ষাগত প্ল্যাটফর্ম পর্যন্ত বিভিন্ন ক্ষেত্রে এর অপব্যবহারের সম্ভাবনা নিয়ে নতুন করে মূল্যায়নের দাবি জানায়।
এআই প্রযুক্তি যত দ্রুত এগিয়ে চলেছে, এমন আপত্তিকর বিষয়বস্তু তৈরি হওয়া আটকানোর দায়িত্ব তার নির্মাতাদের কাঁধেই বর্তায়। এই ঘটনাটি একটি কঠোর স্মরণীয় বার্তা দেয় যে, শক্তিশালী এআই-এর বিকাশের সঙ্গেই ঝুঁকি কমানো, ব্যবহারকারীদের সুরক্ষা নিশ্চিত করা এবং ডিজিটাল জগতে নৈতিক মান বজায় রাখার জন্য সমানভাবে পরিশীলিত ও সক্রিয় পদক্ষেপ গ্রহণ করা অপরিহার্য। ক্ষতিকারক এআই-নির্মিত বিষয়বস্তুর অনিয়ন্ত্রিত বিস্তার রোধে আরও কঠোর সুরক্ষামূলক ব্যবস্থা এখন অত্যাবশ্যক।