এআই দিয়ে মুসলিম নারীদের যৌন ইঙ্গিতপূর্ণ ছবি তৈরির ভয়াবহ প্রবণতা

ভারতের নাগরিকত্ব আইনের বিরুদ্ধে বিক্ষোভে স্লোগান দিচ্ছেন গবেষক ও অধিকারকর্মী আফরিন ফাতিমা। ছবি: আফরিন ফাতিমার ফেসবুক থেকে।

ভিডিওটি প্রথম দেখেই হতবাক হয়ে গিয়েছিলেন সামরিন আইয়ুব। ভারতনিয়ন্ত্রিত কাশ্মীরের এই ফ্রিল্যান্স মডেল গত বছর মোবাইলে স্ক্রল করছিলেন। এ সময় তাঁর এক বন্ধু ইনস্টাগ্রামে ছড়িয়ে পড়া একটি ভিডিও পাঠান। ভিডিওটিতে নয়াদিল্লিতে তাঁর জীবনকাহিনি তুলে ধরা হয়েছে বলে মনে হচ্ছিল। এতে বর্ণনাকারীর কণ্ঠস্বর, চলমান ক্যাপশন এবং টেলিভিশনের সংবাদ প্রতিবেদনের মতো শিরোনাম ছিল। কিন্তু পুরো ভিডিওটি ছিল মনগড়া।

২৪ বছর বয়সী আইয়ুব বলেন, ‘এটা একেবারে অনুসরণ করে তথ্য জোগাড় করার মতো ঘটনা। বিশ্ববিদ্যালয়ে আমার প্রথম সেমিস্টার থেকে শেষ সেমিস্টার পর্যন্ত জীবনের খুঁটিনাটি তারা অনুসরণ করেছে।’ ভিডিওটিতে নয়াদিল্লির জামিয়া মিলিয়া ইসলামিয়া বিশ্ববিদ্যালয়ে পড়াশোনার সময়ের বিভিন্ন ছবি জোড়া লাগানো হয়েছিল। গ্রুপ প্রজেক্ট, বিদায় অনুষ্ঠান ও সহপাঠীদের সঙ্গে তোলা সেলফির মতো ক্যাম্পাসজীবনের সাধারণ মুহূর্তের ছবি এতে ব্যবহার করা হয়েছে।

—

কৃত্রিম বুদ্ধিমত্তা (এআই) দিয়ে তৈরি ভয়েসওভারে মিথ্যা তথ্য তুলে ধরে দাবি করা হয়েছে, তিনি একজন মুসলিম নারী, যিনি হিন্দু পুরুষদের কাছে ‘নিজের শরীর বিক্রি’ করেন। ছবিতে থাকা ব্যক্তিদের পরিচয়ও ভুলভাবে তুলে ধরা হয়েছে। এমনকি তাঁর নিজের ভাইকে তাঁর ‘দালাল’ বলে উল্লেখ করা হয়েছে। আইয়ুব বলেন, ‘ভিডিওটি এতটাই বাস্তব মনে হচ্ছিল যে আমার মা–বাবাও যদি এটি দেখতেন, তাহলে সেটিকে তাঁরা সত্যি বলে মনে করতেন।’

এআই দিয়ে যৌন ইঙ্গিতপূর্ণ ছবি তৈরির প্রবণতা

গবেষকদের ভাষ্য অনুযায়ী, আইয়ুব এমন কয়েকজন মুসলিম নারীর একজন, যাঁরা ক্রমে দৃশ্যমান হয়ে ওঠা একটি প্রবণতার শিকার হয়েছেন। এ প্রবণতায় এআই ব্যবহার করে যৌন ইঙ্গিতপূর্ণ ছবি ও অপপ্রচারমূলক কনটেন্ট তৈরির ঝোঁক দেখা যাচ্ছে। আল–জাজিরা এ ধরনের হামলার শিকার কয়েকজন মুসলিম নারীর সঙ্গে যোগাযোগ করেছে। তবে তাঁরা লজ্জা ও পুরোনো মানসিক অভিঘাত আবারও ফিরে আসার আশঙ্কার কথা উল্লেখ করে প্রকাশ্যে কথা বলতে রাজি হননি।

মুসলিম নারীদের ছবি ও ভিডিওকে যৌন ইঙ্গিতপূর্ণভাবে উপস্থাপনের এই প্রবণতা এমন এক সময়ে সামনে আসছে, যখন কৃত্রিম বুদ্ধিমত্তার নিয়ন্ত্রণ নিয়ে বৈশ্বিক আলোচনায় ভারতের অংশগ্রহণ বাড়ছে। চলতি বছরের শুরুতে নয়াদিল্লিতে অনুষ্ঠিত উচ্চপর্যায়ের ‘এআই ইমপ্যাক্ট সামিটে’ উদ্ভাবন ও নিয়ন্ত্রককাঠামো নিয়ে আলোচনা হয়েছে।

যুক্তরাষ্ট্রের ওয়াশিংটনভিত্তিক গবেষণাপ্রতিষ্ঠান সেন্টার ফর দ্য স্টাডি অব অর্গানাইজড হেট (সিএসওএইচ) ২০২৩ সালের মে থেকে ২০২৫ সালের মে পর্যন্ত সময়ের মধ্যে সামাজিক যোগাযোগমাধ্যম এক্স, ফেসবুক ও ইনস্টাগ্রামের ২৯৭টি উন্মুক্ত অ্যাকাউন্ট থেকে সংগ্রহ করা ১ হাজার ৩২৬টি এআই-নির্মিত ছবি ও ভিডিও বিশ্লেষণ করে দেখেছে। এসব ভিডিওতে গবেষকেরা দেখতে পান, মুসলিম নারীদের যৌন ইঙ্গিতপূর্ণ উপস্থাপন নিয়ে সবচেয়ে বেশি সাড়া লক্ষ করা গেছে। বিভিন্ন প্ল্যাটফর্মে এসব কনটেন্টে ৬৭ লাখের বেশি প্রতিক্রিয়া ও সম্পৃক্ততা (এনগেজমেন্ট) দেখা গেছে।

গবেষণার সহলেখক ও সিএসওএইচের ডিজিটাল গবেষণাবিশ্লেষক জেনিথ খান বলেন, জেনারেটিভ এআই যৌন কল্পনাকে দ্রুত ও বিনা খরচে দৃশ্যমান ছবিতে রূপ দেওয়ার সুযোগ করে দিয়েছে। ইমেজ জেনারেটর ও ডিপফেক প্রযুক্তি খুব কম কারিগরি দক্ষতা দিয়ে বিদ্বেষমূলক বয়ানকে অত্যন্ত বাস্তবসম্মত দৃশ্য উপাদানে রূপান্তর করতে সাহায্য করছে। নতুন এই প্রবণতার দিকে শুধু গবেষকেরা নন, অন্যান্য দায়িত্বশীল ব্যক্তিরাও নজর রাখছেন।

মুম্বাইভিত্তিক রাটি ফাউন্ডেশন পরিচালিত অনলাইন নিরাপত্তা সহায়তাকেন্দ্র মেরি ট্রাস্টলাইনও মনে করে, এ ধরনের ঘটনার সংখ্যা বাড়ছে। সংস্থাটির ২০২৪ সালের প্রতিবেদনে উদ্বেগজনক একটি চিত্র উঠে এসেছে। সংবাদমাধ্যমে সাধারণত তারকা বা রাজনীতিকদের নিয়ে বেশি আলোচনা হলেও জনপরিসরে পরিচিত নন, এমন নারীরাও এআই দিয়ে তৈরি ভুয়া ছবি–ভিডিওর শিকার হচ্ছেন। এসব ছবি কৃত্রিমভাবে তৈরি হলেও তা বাস্তব জীবনে গুরুতর ক্ষতির কারণ হতে পারে।

সহায়তাকেন্দ্রটির সামনের সারির পরামর্শদাতাদের একজন সালমান মুজাওয়ার। তিনি জানান, তাঁরা এ ধরনের ঘটনার সংখ্যা বৃদ্ধির প্রমাণ নথিভুক্ত করেছেন। বেঁচে ফেরা ভুক্তভোগী ব্যক্তিদের সঙ্গে তাঁর কাজের অভিজ্ঞতার ভিত্তিতে সংস্থাটি বেশ কিছু প্রতিবেদন প্রকাশ করেছে। ২০২২ সালে যাত্রা শুরুর পর থেকে মেরি ট্রাস্টলাইন ৪৮২টির বেশি মামলা নিয়ে কাজ করেছে। এর মধ্যে প্রায় ১০ শতাংশ ঘটনায় ডিজিটালি বিকৃত বা পরিবর্তিত উপকরণ সম্পৃক্ত ছিল। এআই–ভিত্তিক সরঞ্জামের ব্যবহার সহজলভ্য হওয়ার সঙ্গে সঙ্গে এ হার বাড়ছে। মুজাওয়ার বলেন, ‘লজ্জা, ভয় ও মানসিক আঘাতের কারণে এসব (অধিকার) লঙ্ঘনের ঘটনা প্রায় সময় চাপা পড়ে যায়। বৃহত্তর জনপরিসরে আলোচনায় আসা তো দূরের কথা, পরিবারের ঘনিষ্ঠ সদস্যদের কাছেও অনেক সময় এসব ঘটনা বলা হয় না।’

‘রাজনীতির পর্নোগ্রাফিকরণ’

আইয়ুবকে নিয়ে তৈরি ভিডিওটি কয়েক ঘণ্টার মধ্যে বিভিন্ন সামাজিক যোগাযোগমাধ্যমে ছড়িয়ে পড়ে। এরপর তাঁকে ঘিরে শুরু হয় আপত্তিকর মন্তব্য, হুমকিমূলক ফোনকল এবং তাঁর চরিত্র নিয়ে নানা অভিযোগ। আইয়ুব বলেন, ‘মনে হচ্ছিল, ডিজিটাল মাধ্যমে আমাকে গণপিটুনি দেওয়া হচ্ছে। একটি নয়, এক ডজনের বেশি অ্যাকাউন্ট সব জায়গায় (প্ল্যাটফর্মে) ভিডিওটি পোস্ট করছিল। আর শত শত মানুষ তা আবার শেয়ার করছিল।’

সিএসওএইচের সংগৃহীত তথ্যভান্ডারে এমন অনেক এআই-নির্মিত মিম রয়েছে, যেখানে ধর্মীয় পোশাক পরা মুসলিম নারীদের যৌন ইঙ্গিতপূর্ণ পরিস্থিতিতে দেখানো হয়েছে। সাংবাদিক ও অধিকারকর্মীদের লক্ষ্য করে ভুয়া পর্নোগ্রাফিক ছবিও তৈরি করা হয়েছে। এসব ছবির অনেকগুলোতে গবেষকেরা একটি ধারা লক্ষ করেছেন। তা হলো—‘মুসলিম পরিচয়ের নারী’ এবং একজন ‘হিন্দু পরিচয়ের পুরুষ’–কে পাশাপাশি উপস্থাপন করা।

জেনিথ খান বলেন, এসব বর্ণনায় মুসলিম পুরুষদের প্রায় সময় সহিংস বা নৈতিকভাবে অধঃপতিত হিসেবে দেখানো হয়। অন্যদিকে মুসলিম নারীদের এমনভাবে উপস্থাপন করা হয়, যেন তাঁরা বশ্যতাস্বীকারকারী অথবা সংখ্যাগরিষ্ঠ সম্প্রদায়ের পুরুষদের মাধ্যমে ‘মুক্তি’ পেয়েছেন। গবেষকদের মতে, এ ধরনের চিত্রায়ণ রাজনৈতিক আলোচনার বাইরের কিছু নয়; বরং এটি রাজনৈতিক সংলাপের একটি অংশ।

জার্মানির মিউনিখের লুডভিগ ম্যাক্সিমিলিয়ান বিশ্ববিদ্যালয়ের সংবাদমাধ্যম নৃবিজ্ঞানী সাহানা উদুপা এই প্রবণতাকে নারী ও সংখ্যালঘু সম্প্রদায়ের বিরুদ্ধে বৃহত্তর ‘রাজনীতির পর্নোগ্রাফিকরণ’–এর অংশ বলে মনে করেন। তাঁর মতে, ডানপন্থী ডিজিটাল সংস্কৃতিতে রসিকতা, মিম ও যৌন ইঙ্গিতপূর্ণ ছবি ব্যবহার করে অপব্যবহারকে স্বাভাবিক করে তোলা হয়। উদুপা বলেন, ‘এই অভ্যাসগুলো একটি বাস্তুতন্ত্র (ইকোসিস্টেম) গড়ে তোলে।...এগুলো যৌথ উদ্‌যাপন ও সম্মিলিত আগ্রাসনের ওপর ভিত্তি করে টিকে থাকে।’

গবেষকদের মতে, এই প্রবণতার শিকড় শুধু নারীবিদ্বেষে সীমাবদ্ধ নয়। এর পেছনে আরও গভীর আদর্শিক ভিত্তি রয়েছে। সাউথ এশিয়া মাল্টিডিসিপ্লিনারি একাডেমিক জার্নালে প্রকাশিত এক গবেষণায় গবেষক সোমা বসু বলেন, এখানে মূলত যৌনতাকেই রাজনৈতিক অস্ত্রে পরিণত করা হচ্ছে। মুসলিম নারীদের শরীর সাম্প্রদায়িক আধিপত্য প্রতিষ্ঠার এক যুদ্ধক্ষেত্রে পরিণত হয়েছে। এর সবচেয়ে আলোচিত উদাহরণ ছিল ‘সুল্লি ডিলস’ ও ‘বুল্লি বাই’ বিতর্ক। এসব ভুয়া অনলাইন নিলাম প্ল্যাটফর্মে ভারতে মুসলিম নারীদের নিশানা করা হয়েছিল। সোমা বসুর মতে, এসব ঘটনায় ক্ষমতাসীন হিন্দত্ববাদী ভারতীয় জনতা পার্টির (বিজেপি) কিছু নেতার আনুষ্ঠানিক সমর্থন এবং দলটির ডিজিটাল স্বেচ্ছাসেবকদের অনানুষ্ঠানিক সমর্থন ছিল।

ভিন্ন দৃষ্টিকোণ থেকে জেনিথ খানের গবেষণাও একই বাস্তবতার দিকে ইঙ্গিত করে। তিনি বলেন, দক্ষিণ এশিয়ার অনেক স্থানের সংস্কৃতিতে নারীদের পরিবারের সম্মানের প্রতীক হিসেবে দেখা হয়। তাই মুসলিম নারীদের দৃশ্যগতভাবে আক্রমণ করা মুসলিমদের হীন বা নিম্নতর হিসেবে উপস্থাপনের একটি কৌশল হয়ে দাঁড়িয়েছে। আইনবিশেষজ্ঞদের মতে, এআই দিয়ে তৈরি কনটেন্টের সঙ্গে তাল মেলাতে ভারতের বিদ্যমান আইনগুলো হিমশিম খাচ্ছে।

একজন মুসলিম নারী ও গবেষক হিসেবে এই প্রবণতা নিজের ওপর গভীর প্রভাব ফেলেছে উল্লেখ করে জেনিথ খান বলেন, ‘মাথায় ওড়না পরা এক নারীকে যখন পর্নোগ্রাফির চরিত্র হিসেবে উপস্থাপন করা হয়েছে, সেই ছবি দেখে আমি সত্যি আতঙ্কিত হয়েছিলাম। একজন নারী হিসেবে আপনাকে প্রতিদিন নারীবিদ্বেষী আচরণের মুখোমুখি হতে হচ্ছে।’

এসব উদ্বেগের বিষয়ে বিজেপির রাজনীতিক আতিফ রশিদ বলেন, এআই ভালো ও খারাপ—উভয় উদ্দেশ্যে ব্যবহার করা যেতে পারে। এর অপব্যবহার ঠেকাতে তিনি আরও কঠোর নিয়ন্ত্রণের আহ্বান জানান। ডিপফেক বা এআই দিয়ে তৈরি ভুয়া ছবি ও ভিডিও এবং যৌন উসকানিমূলক কনটেন্টকে তিনি ‘অত্যন্ত হতাশাজনক’ বলে উল্লেখ করেন। দায়ী ব্যক্তিদের বিরুদ্ধে কঠোর ব্যবস্থা নেওয়ার দাবি জানান। তবে বিষয়টিকে ধর্মীয় দৃষ্টিকোণ থেকে দেখার বিরোধিতা করেন আতিফ। তাঁর ভাষ্যমতে, বিজেপি ‘সব ধর্মের নারীদের সম্মান করে’ এবং ‘সুল্লি ডিলস’ ও ‘বুল্লি বাই’-সংক্রান্ত ঘটনাগুলো আইন অনুযায়ী মোকাবিলা করা হয়েছে।

পরিচিত প্রবণতাকে আরও বাড়িয়ে তুলেছে এআই

‘সুল্লি ডিলস’ ও ‘বুল্লি বাই’-এর ঘটনা ঘটেছিল ২০২১ ও ২০২২ সালে। সেসব ক্ষেত্রে সম্পাদিত ছবি ব্যবহার করা হয়েছিল। এই দুই ঘটনা ব্যাপক ক্ষোভের জন্ম দেয় এবং পুলিশ তদন্ত শুরু করে। ‘সুল্লি ডিলস’ অ্যাকাউন্ট তৈরির অভিযোগে অমকারেশ্বর ঠাকুর এবং ‘বুল্লি বাই’-এর স্রষ্টা হিসেবে শনাক্ত নিরাজ বিষ্ণয়কে ভারতের সংশ্লিষ্ট কর্তৃপক্ষগুলো ২০২২ সালের জানুয়ারিতে গ্রেপ্তার করে। তবে দুই মাস পর নয়াদিল্লির একটি আদালত ‘মানবিক কারণে’ তাঁদের জামিন মঞ্জুর করেন।

গবেষকদের মতে, জেনারেটিভ এআইয়ের বিস্তার মুসলিম নারীদের অনলাইনে হয়রানির পরিসর ও গতি নাটকীয়ভাবে বাড়িয়ে দিয়েছে। নতুন নতুন অ্যাপ বা অ্যাপ্লিকেশনের মাধ্যমে ব্যবহারকারীরা ছবি আপলোড করে স্বয়ংক্রিয়ভাবে যৌন ইঙ্গিতপূর্ণ ছবি তৈরি করতে পারেন। এসব সরঞ্জাম অনলাইনে সহজে, অনেক ক্ষেত্রেই বিনা মূল্যে পাওয়া যায়। এগুলো ব্যবহারের জন্য বিশেষ কোনো কারিগরি দক্ষতারও প্রয়োজন হয় না।

সিএসওএইচের গবেষণা ও জনসম্পৃক্ততা বিভাগের পরিচালক ইভিয়ান লেইডিগ বলেন, নারীদের, বিশেষ করে সংখ্যালঘু নারীদের নিশানা করে প্রযুক্তি ব্যবহার করে হয়রানি চালানোর দীর্ঘ ইতিহাস রয়েছে। কিন্তু নতুন বিষয় হলো—এআই সরঞ্জামের কারণে (অধিকার) লঙ্ঘনের মাত্রা ও ক্ষতির পরিসর বৃদ্ধির সুযোগ তৈরি হয়েছে। যাঁরা দীর্ঘদিন ধরে হয়রানির মধ্যে জীবন যাপন করছেন, তাঁদের জন্য এআই দিয়ে ছবি তৈরির সুযোগ ভয়ের নতুন মাত্রা যোগ করেছে।

২৭ বছর বয়সী গবেষক ও অধিকারকর্মী আফরিন ফাতিমা ২০১৯ সালে ভারতের নাগরিকত্ব (সংশোধন) আইন বা সিএএ নিয়ে প্রকাশ্যে কথা বলার পর থেকে অনলাইনে নিপীড়নের শিকার হয়ে আসছেন। সুল্লি ডিলসে যাঁদের ছবি আপলোড করে তথাকথিত ‘নিলামে’ তোলা হয়েছিল, তিনি তাঁদের একজন।

জাতিসংঘের মতে, ভারতের সিএএ মুসলিমদের বিরুদ্ধে ‘মৌলিকভাবে বৈষম্যমূলক’। আইনটির মাধ্যমে ২০২৫ সালের আগে প্রতিবেশী মুসলিম-সংখ্যাগরিষ্ঠ দেশগুলো থেকে ভারতে আসা অমুসলিম সংখ্যালঘুদের জন্য ভারতীয় নাগরিকত্ব পাওয়ার প্রক্রিয়া দ্রুততর করার ব্যবস্থা রাখা হয়েছে। সুল্লি ডিলস বিতর্কের চার বছর পরও অনলাইনে নিপীড়ন খুব একটা কমেনি। সামাজিক যোগাযোগমাধ্যমে তাঁর উপস্থিতি সীমিত হলেও সাধারণত হিন্দু নাম ব্যবহার করা বেনামি অ্যাকাউন্টগুলো এখনো তাঁকে খুঁজে বের করে আপত্তিকর বার্তা, ধর্ষণের হুমকি ও হয়রানি চালিয়ে যাচ্ছে। এ সবকিছু তাঁর কাজের সঙ্গেও সম্পর্কিত।

আফরিন ফাতিমা বলেন, ‘কয়েক দিন পরপর কোনো না কোনো বেনামি অ্যাকাউন্ট থেকে ধর্ষণ বা হত্যার হুমকি আসে।’ এআই দিয়ে তৈরি যৌন ইঙ্গিতপূর্ণ ছবির আশঙ্কা তাঁর সেই ভয় আরও বাড়িয়ে দিয়েছে। তিনি বলেন, ‘এসব ছবি সম্পর্কে যখন পড়ি, তখন বিষয়টি খুব ব্যক্তিগত মনে হয়। এগুলো মানুষের মধ্যে ভয়ের মানসিকতা তৈরি করছে।’ অনলাইনের বিদ্বেষ তাঁর বাস্তব জীবনের চলাফেরাতেও প্রভাব ফেলেছে উল্লেখ করে ফাতিমা বলেন, ‘একা ভ্রমণ করতে অস্বস্তি লাগে। মুসলিম নারীদের নিয়ে এ ধরনের কল্পনা যখন অনলাইনে ছড়িয়ে পড়তে দেখি, তখন মনে প্রশ্ন জাগে—বাস্তব জীবনেও কেউ কি আমাকে আক্রমণ করতে পারে?’

‘আমি আর নিরাপদ বোধ করি না’

ভিডিওটি ভাইরাল হওয়ার পর আইয়ুবের পেশাগত সুযোগ একে একে কমতে শুরু করে। এই ফ্রিল্যান্স মডেল বলেন, ‘একজন মডেল হিসেবে আপনার কাছে সুনাম খুব গুরুত্বপূর্ণ। আপনার প্রোফাইলে নেতিবাচক মন্তব্য দেখা গেলে বিভিন্ন ব্র্যান্ড আপনার সঙ্গে আর যোগাযোগ করতে চায় না।’ চার থেকে পাঁচ মাস ধরে বিভিন্ন ভুয়া অ্যাকাউন্ট থেকে তাঁর প্রোফাইলে বিপুল পরিমাণে আপত্তিকর মন্তব্য করা হচ্ছে। ফলে সম্ভাব্য গ্রাহকেরা দূরে সরে যেতে থাকেন। এই হয়রানি সামাজিক যোগাযোগমাধ্যমের সঙ্গে তাঁর সম্পর্কও বদলে দেয়।

আইয়ুব বলেন, ‘ইনস্টাগ্রাম একসময় আমার জন্য নিরাপদ জায়গা ছিল। এখন সেখানে নিজেকে নিরাপদ মনে করি না। কী পোস্ট করব, কীভাবে পোস্ট করব—সেটাও কমিয়ে দিয়েছি।’ ঘটনার পর আইয়ুব নয়াদিল্লি পুলিশের সাইবার অপরাধ ইউনিটে লিখিত অভিযোগ করেন। এ প্রসঙ্গে তিনি বলেন, ‘কিছুই হয়নি।’ আইয়ুবের মতে, তাঁর বন্ধুরা একযোগে ওই অ্যাকাউন্টগুলোর বিরুদ্ধে অভিযোগ জানিয়েছিলেন। শুধু এ কারণে বেশির ভাগ আপত্তিকর কনটেন্ট সরানো সম্ভব হয়েছিল।

আইনবিশেষজ্ঞদের মতে, এআই দিয়ে তৈরি কনটেন্টের সঙ্গে তাল মেলাতে ভারতের বিদ্যমান আইনগুলো পেরে উঠছে না। আইনজীবী ও ইন্টারনেট ফ্রিডম ফাউন্ডেশনের প্রতিষ্ঠাতা পরিচালক অপার গুপ্ত বলেন, ‘কোনো ছবি মনগড়া হলেও এর ফলে যে ক্ষতি হয়, তা কিন্তু বাস্তব।’ ভারতের তথ্যপ্রযুক্তি আইনের ‘৬৬ই ধারায়’ কারও সম্মতি ছাড়া তাঁর প্রাইভেট এরিয়া বা স্পর্শকাতর অঙ্গের ছবি ধারণ বা প্রকাশ করলে ফৌজদারি শাস্তির বিধান রয়েছে। কিন্তু সংশ্লিষ্ট ব্যক্তির শরীরের কোনো বাস্তব ছবি ধারণই না করে যদি ছবিটি এআই দিয়ে তৈরি হয়, তাহলে ওই ধারা প্রযোজ্য না–ও হতে পারে। অপার গুপ্ত বলেন, ‘ছবিটি ভুয়া হলেও এটি একজন নারীর জীবনে স্থায়ী কলঙ্কের দাগ তৈরি করে দিতে পারে।’

অন্যদিকে ডিজিটাল প্ল্যাটফর্মগুলোকে সেফ হারবার বা আইনি সুরক্ষা দেওয়া হয়। অর্থাৎ, অবৈধ কনটেন্ট সম্পর্কে অবহিত হওয়ার পর তা সরিয়ে ফেললে তারা আইনি দায় থেকে সুরক্ষা পায়। তবে অপার গুপ্তের মতে, অনেক ভুক্তভোগীর জন্য অভিযোগ জানানো পর্যন্ত পৌঁছানো কঠিন হয়ে পড়ে। এই আইনজীবী বলেন, ‘প্ল্যাটফর্মগুলো এমন ব্যবস্থা রাখেনি, যাতে করে সহজে বলা যায়—এটি আমার ছবি, এটি একটি ডিপফেক, এটি সরিয়ে ফেলতে হবে।’

সামাজিক যোগাযোগমাধ্যমের নকশা, অ্যালগরিদমভিত্তিক অগ্রাধিকার ও আইনি কাঠামোয় মৌলিক পরিবর্তন না এলে আইনি ব্যবস্থা এআই–কেন্দ্রিক অপব্যবহারের সঙ্গে পাল্লা দিয়ে পারবে না। কারণ, এআইয়ের বিকাশ ও এর দ্বারা তৈরি কনটেন্ট দ্রুতগতিতে ছড়িয়ে পড়তে থাকবে। এমন এক পরিস্থিতিতে ভারতে নিশানায় পরিণত হওয়া মুসলিম নারীদের ঘটনায় দায়ী ব্যক্তিদের জবাবদিহি নিশ্চিত করা এখন পর্যন্ত অধরাই থেকে যাচ্ছে। আইয়ুব বলেন, ‘ওই অ্যাকাউন্টগুলোর পেছনের মানুষদের খুঁজে বের করা—এ বিষয়টি আমি খুব করে চেয়েছিলাম। তারা আমাকে চিনতও না। অথচ তারাই আমার সুনাম ধ্বংস করে দিয়েছে।’