অসম্মতিমূলক AI পর্ন আমাদের সবাইকে শিকার বানাবে: আইন কি তাল মিলিয়ে চলতে পারবে?

এই নিবন্ধটি The 19th-এর সাথে যৌথভাবে প্রকাশিত হয়েছে, যা লিঙ্গ, রাজনীতি এবং নীতি সংক্রান্ত একটি অলাভজনক সংবাদকক্ষ। The 19th-এর নিউজলেটারের জন্য সাইন আপ করুন এখানে।

নিউ জার্সির ওয়েস্টফিল্ড হাই স্কুলের দুই ডজনেরও বেশি শিক্ষার্থী গত বছর আতঙ্কিত হয়েছিল যখন তারা জানতে পারে যে তাদের নগ্ন ছবি সহপাঠীদের মধ্যে ছড়িয়ে পড়ছে। স্কুলের মতে, কিছু শিক্ষার্থী মূল ফটো থেকে অন্যদের অশ্লীল ছবি তৈরি করতে কৃত্রিম বুদ্ধিমত্তা (AI) ব্যবহার করেছিল। এবং তারাই একমাত্র কিশোরী নয় যারা নকল নগ্ন ফটোগ্রাফের শিকার হচ্ছে: ওয়াশিংটন স্টেট এবং কানাডার শিক্ষার্থীরাও একই রকম পরিস্থিতির সম্মুখীন হওয়ার কথা জানিয়েছে কারণ ওয়েবসাইট এবং অ্যাপের মাধ্যমে বাস্তবসম্মতভাবে ফটো পরিবর্তন করার ক্ষমতা আরও ব্যাপকভাবে সহজলভ্য হয়ে উঠছে।

ডিপফেক—AI-উত্পাদিত ছবি বা ভিডিও—নিয়ে ক্রমবর্ধমান উদ্বেগ জানুয়ারিতে আরও বেশি প্রসারিত হয়েছিল, যখন সুপারস্টার টেইলর স্যুইফ্ট সম্পর্কিত একটি সোশ্যাল মিডিয়ার মাধ্যমে দ্রুত ছড়িয়ে পড়েছিল।

ক্যারি গোল্ডবার্গ, একজন আইনজীবী যিনি এক দশকেরও বেশি সময় ধরে অসম্মতিমূলক পর্নোগ্রাফি—যা সাধারণত প্রতিশোধমূলক পর্নো হিসাবে পরিচিত—এর শিকারদের প্রতিনিধিত্ব করছেন, বলেছেন যে তিনি সম্প্রতি কম্পিউটার-উত্পাদিত ছবির শিকারদের কাছ থেকে শুনতে শুরু করেছেন।

"আমার ফার্ম সম্ভবত প্রায় পাঁচ বছর ধরে ডিপফেকের শিকারদের দেখছে, এবং এটি বেশিরভাগই সেলিব্রিটি ছিল," গোল্ডবার্গ বলেছিলেন। "এখন, এটি শিশুদের দ্বারা শিশুদের প্রতি নিষ্ঠুর হওয়ার জন্য করা হচ্ছে। এটি সম্ভবত সত্যিই কম রিপোর্ট করা হয়েছে কারণ শিকাররা হয়তো জানে না যে আইনি প্রতিকার আছে, এবং সব ক্ষেত্রে সম্পূর্ণরূপে পরিষ্কার নয় যে এটি আছে কিনা।"

শাসক সংস্থাগুলি ধরার চেষ্টা করছে। গত বছর বা তারও বেশি সময়ে, ১০টি রাজ্য বিশেষভাবে ডিপফেক তৈরি বা বিতরণকে অপরাধী করার জন্য আইন পাস করেছে। এই রাজ্যগুলি—ক্যালিফোর্নিয়া, ফ্লোরিডা, জর্জিয়া, হাওয়াই, ইলিনয়, মিনেসোটা, নিউ ইয়র্ক, সাউথ ডাকোটা, টেক্সাস এবং ভার্জিনিয়া সহ—জরিমানা থেকে কারাদণ্ড পর্যন্ত শাস্তি নির্ধারণ করেছে। ইন্ডিয়ানা সম্ভবত শীঘ্রই অসম্মতিমূলক পর্নোগ্রাফির বর্তমান আইন সম্প্রসারিত করে ক্রমবর্ধমান তালিকায় যোগ দেবে।

ইন্ডিয়ানার প্রতিনিধি শ্যারন নেগেলে, একজন রিপাবলিকান, প্রস্তাবিত সম্প্রসারণের লেখক। বিদ্যমান আইন "প্রতিশোধমূলক পর্নো"কে একটি অন্তরঙ্গ ছবি প্রকাশ করা হিসাবে সংজ্ঞায়িত করে, যেমন যৌন মিলন, অনাবৃত যৌনাঙ্গ, নিতম্ব বা একজন মহিলার স্তন চিত্রিত করে, ছবিতে চিত্রিত ব্যক্তির সম্মতি ছাড়াই। নেগেলের প্রস্তাবিত বিলটি উভয় কক্ষের মধ্য দিয়ে পাস হয়েছে এবং এখন গভর্নরের স্বাক্ষরের অপেক্ষায় রয়েছে।

নেগেলে বলেছিলেন যে তিনি ইন্ডিয়ানার ফৌজদারি কোড আপডেট করতে অনুপ্রাণিত হয়েছিলেন যখন তিনি একজন হাই স্কুল শিক্ষকের গল্প শুনেছিলেন যিনি আবিষ্কার করেছিলেন যে তার কিছু ছাত্র তার ডিপফেক ছবি প্রচার করেছে। এটি শিক্ষকের ব্যক্তিগত জীবনের জন্য "অবিশ্বাস্যভাবে ধ্বংসাত্মক" ছিল, এবং নেগেলে অবাক হয়েছিলেন যে অপরাধীদের বর্তমান আইনের অধীনে বিচার করা যায়নি।

"এটি শুরু হয়েছিল প্রযুক্তি বোঝার জন্য আমার শিক্ষার সাথে যা এখন উপলব্ধ এবং ঘটনার পর ঘটনা পড়া যেখানে মানুষের মুখ এমন একটি তৈরি করা শরীরের সাথে সংযুক্ত করা হচ্ছে যা অবিশ্বাস্যভাবে বাস্তব এবং বাস্তবসম্মত দেখাচ্ছে," নেগেলে বলেছিলেন। "এটি শুধু কষ্টদায়ক। একজন মা এবং দাদী হওয়ার কারণে এবং আমার পরিবার এবং আমার নিজের কী ঘটতে পারে তা ভাবছি—এটি হতবাক। আমাদের এই ধরনের জিনিসের আগে এগিয়ে যেতে হবে।"

গোল্ডবার্গ, যার আইন ফার্ম যৌন অপরাধে বিশেষজ্ঞ, বলেছেন যে তিনি আশা করেন আরও রাজ্যগুলি AI ভাষা অন্তর্ভুক্ত করতে তাদের বিদ্যমান আইন সম্প্রসারণ চালিয়ে যাবে।

"দশ বছর আগে, মাত্র তিনটি রাজ্যে প্রতিশোধমূলক পর্নো বা ছবি-ভিত্তিক যৌন নির্যাতন আইন ছিল," গোল্ডবার্গ বলেছিলেন। "এখন, ৪৮টি রাজ্য প্রতিশোধমূলক পর্নোকে অবৈধ করেছে, এবং এটি সত্যিই প্রতিশোধমূলক পর্নোতে একটি প্রচণ্ড হ্রাস তৈরি করেছে—আশ্চর্যজনকভাবে নয়—ঠিক যেমন আমরা অ্যাডভোকেটরা বলেছিলাম এটি হবে। ডিপফেকের পুরো উত্থান ফাঁকগুলি পূরণ করেছে কাউকে যৌনভাবে অপমান করার একটি নতুন উপায় হিসাবে।"

২০২৩ সালে, অ্যাসোসিয়েটেড প্রেস অনুসারে, ১,৪৩,০০০-এর বেশি নতুন AI-উত্পাদিত ভিডিও অনলাইনে পোস্ট করা হয়েছিল। এটি ২০১৯ থেকে একটি বিশাল লাফ, যখন "নিউডিফাই" ওয়েবসাইট বা অ্যাপ্লিকেশন কম সাধারণ ছিল, এবং তখনও ডিপট্রেস ল্যাবস, একটি ভিজ্যুয়াল থ্রেট ইন্টেলিজেন্স কোম্পানির একটি রিপোর্ট অনুসারে, প্রায় ১৫,০০০ এই জাতীয় জাল ভিডিও অনলাইনে ছিল। এমনকি তখনও, সেই ভিডিওগুলি—যার ৯৬ শতাংশ মহিলাদের অসম্মতিমূলক পর্নোগ্রাফি ছিল—১০ কোটিরও বেশি ভিউ সংগ্রহ করেছিল।

গোল্ডবার্গ বলেছেন যে নীতিনির্ধারক এবং জনসাধারণ উভয়ই AI-উত্পাদিত নগ্ন ছবি নিষিদ্ধ করতে বিশেষভাবে বেশি অনুপ্রাণিত বলে মনে হচ্ছে কারণ কার্যত যে কেউ একজন শিকার হতে পারে। আরও সহানুভূতি আছে।

"প্রতিশোধমূলক পর্নোর সাথে, আলোচনার প্রথম তরঙ্গে, সবাই শিকারকে দোষারোপ করছিল এবং তাদের এমন মনে করছিল যে তারা ছবি তোলার জন্য কোনও ধরণের বিকৃত বা অন্য ব্যক্তির সাথে ভাগ করার জন্য বোকা," গোল্ডবার্গ বলেছিলেন। "ডিপফেকের সাথে, আপনি সত্যিই শিকারকে দোষ দিতে পারবেন না কারণ তারা যা করেছিল তা হল একটি শরীর থাকা।"

আমান্ডা মানয়ামে, দক্ষিণ আফ্রিকা-ভিত্তিক ডিজিটাল অধিকার উপদেষ্টা ইকুয়ালিটি নাউ-এর জন্য, একটি আন্তর্জাতিক মানবাধিকার সংস্থা যা মহিলা এবং মেয়েদের সাহায্য করার উপর দৃষ্টি নিবদ্ধ করে, বলেছেন যে মার্কিন যুক্তরাষ্ট্রে ডিপফেকের শিকারদের জন্য কার্যত কোন সুরক্ষা নেই। মানয়ামে বিশ্বজুড়ে নীতি এবং আইন অধ্যয়ন করেন, কী কাজ করছে তা বিশ্লেষণ করেন এবং ডিজিটাল অধিকার সম্পর্কে আইনি পরামর্শ প্রদান করেন, বিশেষত প্রযুক্তি-সুবিধাযুক্ত যৌন শোষণ এবং নির্যাতনের বিষয়ে।

"সবচেয়ে বড় ফাঁক হল যে মার্কিন যুক্তরাষ্ট্রের ফেডারেল আইন নেই," মানয়ামে বলেছিলেন। "চ্যালেঞ্জ হল যে সমস্যাটি রাজ্য দ্বারা শাসিত হয়, এবং স্বাভাবিকভাবেই, সুরক্ষার ক্ষেত্রে কোন অভিন্নতা বা সমন্বয় নেই।"

তবে, বর্তমানে ক্যাপিটল হিলে একটি চাপ রয়েছে: সিনেটরদের একটি দ্বিদলীয় গ্রুপ জানুয়ারিতে ডিসরাপ্ট এক্সপ্লিসিট ফোর্জড ইমেজেস অ্যান্ড নন-কনসেনসুয়াল এডিটস অ্যাক্ট অফ ২০২৪—যা DEFIANCE অ্যাক্ট হিসাবেও পরিচিত প্রবর্তন করেছে। প্রস্তাবিত আইনটি অসম্মতিমূলক, যৌন-স্পষ্ট বিষয়বস্তুর বিস্তার বন্ধ করার লক্ষ্য রাখে।

"কেউ নয়—সেলিব্রিটি বা সাধারণ আমেরিকান—কখনও AI পর্নোগ্রাফিতে নিজেদের উপস্থিত দেখতে হবে না," রিপাবলিকান সিনেটর জোশ হাওলি, বিলের একজন সহ-স্পন্সর, একটি বিবৃতিতে বলেছেন। "নিরপরাধ মানুষের তাদের সুনাম রক্ষা করার এবং আদালতে অপরাধীদের জবাবদিহি করার অধিকার রয়েছে।" প্রতিনিধি আলেকজান্দ্রিয়া ওকাসিও-কর্টেজ হাউসে একটি অংশীদার বিল উত্থাপন করেছেন।

ডেটা ফর প্রোগ্রেসের নতুন জরিপ অনুসারে, রাজনৈতিক বর্ণালী জুড়ে ৮৫ শতাংশ সম্ভাব্য ভোটার বলেছেন যে তারা প্রস্তাবিত DEFIANCE অ্যাক্টকে সমর্থন করে—৬২ শতাংশ পুরুষের তুলনায় ৭২ শতাংশ মহিলা দৃঢ় সমর্থনে।

তবে তরুণ পুরুষরা DEFIANCE অ্যাক্টের বিরোধিতা করার সম্ভাবনা বেশি, ৪৫ বছরের কম বয়সী প্রায় পাঁচজনের মধ্যে একজন পুরুষ (২২ শতাংশ) বলেছেন যে তারা দৃঢ়ভাবে বা কিছুটা আইনের বিরোধিতা করে যা স্পষ্ট অসম্মতিমূলক ডিপফেকের বিষয়বস্তুকে নির্মাতার বিরুদ্ধে মামলা করার অনুমতি দেয়।

ড্যানিয়েল ডিসারথ, ডেটা ফর প্রোগ্রেসের নির্বাহী পরিচালক, বলেছেন যে এই সমস্যাটি তরুণ পুরুষ এবং মহিলাদের মধ্যে "আরও তীক্ষ্ণ বৈপরীত্য" এর মধ্যে একটি দেখিয়েছে যা তিনি কিছু সময়ে দেখেছেন।

"আমরা আত্মবিশ্বাসের সাথে বলতে পারি যে ৪৫ বছরের কম বয়সী মহিলা এবং পুরুষদের এই নীতির বিষয়ে ভিন্ন মতামত রয়েছে," ডিসারথ বলেছেন। "এটি এমন একটি সমস্যা যা অসমভাবে মহিলাদের প্রভাবিত করে, বিশেষত তরুণ মহিলাদের, যারা প্রতিশোধমূলক পর্নোর শিকার হওয়ার সম্ভাবনা বেশি। এবং আমি মনে করি এটি সত্যিই এখানে মূল কারণ।"

গোল্ডবার্গ বলেছেন যে খারাপ অভিনেতাদের অপরাধী করার জন্য নীতি তৈরি করা একটি ভাল শুরু কিন্তু শেষ পর্যন্ত অপর্যাপ্ত। তিনি বলেছিলেন, একটি ভাল পরবর্তী পদক্ষেপ হবে অনলাইন বিতরণকারীদের লক্ষ্য করে আইনি পদক্ষেপ নেওয়া, যেমন অ্যাপ স্টোর এবং গুগল প্লে, যা প্রাথমিকভাবে অপরাধমূলক কর্মকাণ্ডের জন্য ব্যবহৃত পণ্য সরবরাহ করছে। গোল্ডবার্গ যোগ করেছেন যে সোশ্যাল মিডিয়া প্ল্যাটফর্ম এবং ইনস্ট্যান্ট মেসেজিং অ্যাপ, যেখানে এই স্পষ্ট ছবি বিতরণ করা হয়, তাদেরও জবাবদিহি করা উচিত।

#MyImageMyChoice এর প্রতিষ্ঠাতারা, একটি তৃণমূল সংস্থা যা অন্তরঙ্গ ছবি নির্যাতনের শিকারদের সাহায্য করার জন্য কাজ করে, সম্মত হয়েছেন যে এই ছবিগুলির সৃষ্টি এবং বিতরণে জড়িত বেসরকারি কোম্পানিগুলির দ্বারা আরও কিছু করা উচিত।

প্রতিষ্ঠাতারা—সোফি কম্পটন, রিউবেন হ্যামলিন এবং এলিজাবেথ উডওয়ার্ড—উল্লেখ করেছেন যে গুগলের মতো সার্চ ইঞ্জিনগুলি ডিপফেক পর্নো সাইটগুলিতে মোট ওয়েব ট্র্যাফিকের বেশিরভাগ চালিত করে, যখন ক্রেডিট কার্ড কোম্পানিগুলি তাদের পেমেন্ট প্রক্রিয়া করে। ইন্টারনেট সেবা প্রদানকারীরা মানুষকে সেগুলি অ্যাক্সেস করতে দেয়, যখন Amazon, Cloudflare, এবং Microsoft-এর Github-এর মতো প্রধান সেবাগুলি সেগুলি হোস্ট করে। এবং X-এর মতো সোশ্যাল মিডিয়া সাইটগুলি বিষয়বস্তুকে ব্যাপক আকারে প্রচার করতে দেয়। গুগল ২০১৫ সালে তার নীতি পরিবর্তন করেছে এবং শিকারদের অনুসন্ধান ফলাফল থেকে পৃথক বিষয়বস্তু অপসারণের জন্য একটি অনুরোধ জমা দিতে শুরু করেছে এবং তখন থেকে ডিপফেক নির্যাতনে নীতি প্রসারিত করেছে। তবে, কোম্পানিটি পদ্ধতিগতভাবে ছবি-ভিত্তিক যৌন সহিংসতা এবং ডিপফেক নির্যাতন সাইটগুলি তালিকামুক্ত করে না।

"প্রযুক্তি কোম্পানিগুলির এই সাইটগুলি ব্লক, ডি-ইনডেক্স বা সেবা প্রত্যাখ্যান করার ক্ষমতা রয়েছে—সাইট যাদের সম্পূর্ণ অস্তিত্ব সম্মতি লঙ্ঘন এবং ট্রমা থেকে লাভের উপর নির্মিত," কম্পটন, হ্যামলিন এবং উডওয়ার্ড The 19th-কে একটি বিবৃতিতে বলেছেন। "কিন্তু তারা তা না করার সিদ্ধান্ত নিয়েছে।"

গোল্ডবার্গ টেইলর স্যুইফ্ট ডিপফেকগুলি যে গতিতে ছড়িয়ে পড়েছিল তার দিকে ইঙ্গিত করেছেন। X-এ শেয়ার করা একটি ছবি, পূর্বে টুইটার নামে পরিচিত, যে অ্যাকাউন্টটি এটি পোস্ট করেছিল তা স্থগিত করার আগে ৪ কোটি ৭০ লক্ষ বার দেখা হয়েছিল। সোশ্যাল মিডিয়া কোম্পানিগুলির সেগুলি অপসারণের প্রচেষ্টা সত্ত্বেও ছবিগুলি ছড়িয়ে পড়তে থাকে।

"কানসাস সিটি চিফস ফুটবল গেমে টেইলর স্যুইফ্টের সহিংস, নারী-বিদ্বেষী ছবি, রক্তাক্ত এবং নগ্ন, সমস্যার প্রতীক," গোল্ডবার্গ বলেছিলেন। "সত্যিকারের মূলধারার সাইটগুলি সহ সেই বিতরণের ব্যাপ্তি, সবাইকে একটি বার্তা পাঠায় যে এই বিষয়বস্তু তৈরি করা ঠিক আছে। আমার কাছে, এটি একটি সত্যিই মুখ্য এবং বেশ ভীতিকর মুহূর্ত ছিল।"

শিকারের উচ্চ প্রোফাইল প্রকৃতির কারণে, ঘটনাটি স্যুইফ্টের ভক্তদের কাছ থেকে উচ্চারিত এবং ব্যাপক ক্ষোভের সৃষ্টি করেছে এবং সমস্যায় জনসাধারণের মনোযোগ এনেছে। গোল্ডবার্গ বলেছেন যে তিনি দেখার জন্য পরীক্ষা করেছিলেন যে কোন অনলাইন বিতরণকারী তাদের অনলাইন স্টোর থেকে পণ্য অপসারণ করেছে কিনা যা যৌন স্পষ্ট ডিপফেক তৈরি করা সহজ এবং সস্তা করে—এবং তিনি দেখতে পেয়ে স্বস্তি পেয়েছিলেন যে তারা করেছিল।

দেশের নীতিনির্ধারক এবং আদালতগুলি দ্রুত বিকাশমান এবং ক্রমবর্ধমান অ্যাক্সেসযোগ্য প্রযুক্তিতে প্রতিক্রিয়া জানাতে চেষ্টা চালিয়ে যাওয়ার সাথে সাথে, গোল্ডবার্গ বলেছেন যে এটি গুরুত্বপূর্ণ যে আইনপ্রণেতারা বিশেষজ্ঞ এবং যারা সরাসরি শিকারদের সাথে কাজ করেন, যেমন আইনজীবী, সামাজিক কর্মী এবং অ্যাডভোকেটদের কাছে পিছিয়ে থাকেন। তিনি যোগ করেছেন, আইনপ্রণেতারা যারা বিমূর্ত ধারণা বা দ্রুত অগ্রসরমান প্রযুক্তি নিয়ন্ত্রণ করছেন তারা অন্যথায় "বিপর্যয়ের রেসিপি" হতে পারে।

মানয়ামেও নীতি সিদ্ধান্ত নেওয়ার সময় বেঁচে থাকাদের সাথে সরাসরি কথা বলার গুরুত্বের উপর জোর দিয়েছেন, তবে যোগ করেছেন যে আইনপ্রণেতাদেরও সমস্যা সম্পর্কে আরও সামগ্রিকভাবে চিন্তা করতে হবে এবং নির্দিষ্ট প্রযুক্তি দ্বারা খুব বেশি জড়িত হতে হবে না—সর্বদা পিছিয়ে থাকার ঝুঁকিতে। উদাহরণস্বরূপ, মানয়ামে বলেছেন যে সাধারণ জনগণ এখনই AI এবং ডিপফেক দ্বারা সৃষ্ট ঝুঁকিগুলি বুঝতে শুরু করেছে—যা তিনি ২০২১ সালে একটি রিপোর্ট লিখতে সাহায্য করেছিলেন। এগিয়ে তাকিয়ে, মানয়ামে ইতিমধ্যে মেটাভার্স সম্পর্কে চিন্তা করছেন—একটি ভার্চুয়াল রিয়েলিটি স্পেস—যেখানে ব্যবহারকারীরা ধর্ষণ, যৌন হয়রানি এবং নির্যাতনের ঘটনাগুলি মোকাবেলা শুরু করছেন।

"ছবি-ভিত্তিক যৌন নির্যাতনের আশেপাশের অনেক আইন কিছুটা পুরানো কারণ তারা বিশেষভাবে প্রতিশোধমূলক পর্নো সম্পর্কে কথা বলে," মানয়ামে বলেছেন। "প্রতিশোধমূলক পর্নো ঐতিহাসিকভাবে আরও একটি ঘরোয়া সহিংসতার সমস্যা হয়েছে, যেখানে এটি একটি অন্তরঙ্গ অংশীদার তাদের পূর্ববর্তী বা বিদ্যমান অংশীদারের যৌন শোষণমূলক ছবি ভাগ করে। এটি সবসময় ডিপফেকের ক্ষেত্রে নয়, তাই এই আইনগুলি পর্যাপ্ত সুরক্ষা প্রদান নাও করতে পারে।"

এছাড়াও, মানয়ামে যুক্তি দিয়েছেন যে এই নীতিগুলির অনেকগুলি বিভিন্ন সাংস্কৃতিক বা ধর্মীয় পটভূমি বিবেচনা করার জন্য "অন্তরঙ্গ ছবি" এর সংজ্ঞা প্রসারিত করতে ব্যর্থ হয়। কিছু মুসলিম মহিলার জন্য, উদাহরণস্বরূপ, হিজাব ছাড়া তাদের অনাবৃত মাথার ছবি তৈরি এবং প্রচার করা ঠিক তেমনই লঙ্ঘন এবং অপমানজনক হতে পারে।

যখন সমাধানের কথা আসে, মানয়ামে অ্যাপ নির্মাতা, প্ল্যাটফর্ম নিয়ন্ত্রক এবং আইনপ্রণেতাদের দ্বারা নেওয়া পদক্ষেপের দিকে নির্দেশ করেছেন।

ডিজাইনের পর্যায়ে, ক্ষতি সীমিত করার জন্য আরও নিরাপত্তা ব্যবস্থা এম্বেড করা যেতে পারে। উদাহরণস্বরূপ, মানয়ামে বলেছেন যে এমন কিছু অ্যাপ আছে যা মহিলাদের ফটো নিতে পারে এবং স্বয়ংক্রিয়ভাবে তাদের পোশাক অপসারণ করতে পারে যখন একই ফাংশন পুরুষদের ফটোতে কাজ করে না। এই অ্যাপ্লিকেশনগুলির ব্যাক এন্ডে এমন উপায় রয়েছে যাতে লিঙ্গ নির্বিশেষে যে কারও কাছ থেকে পোশাক অপসারণ করা কঠিন হয়।

একবার দুষ্ট ডিপফেকগুলি ইতিমধ্যে তৈরি এবং পোস্ট করা হলে, তবে, মানয়ামে বলেছেন যে সোশ্যাল মিডিয়া এবং মেসেজিং প্ল্যাটফর্মগুলির শিকাররা রিপোর্ট করার পরে বিষয়বস্তু অপসারণ করার জন্য আরও ভাল প্রক্রিয়া থাকা উচিত। অনেক সময়, পৃথক শিকারদের উপেক্ষা করা হয়। মানয়ামে বলেছেন যে তিনি লক্ষ্য করেছেন যে এই বড় সোশ্যাল মিডিয়া কোম্পানিগুলি অস্ট্রেলিয়ার মতো দেশগুলিতে এই ডিপফেকগুলি অপসারণ করার সম্ভাবনা বেশি, যেখানে শিকারদের পক্ষে সমর্থন করার জন্য তৃতীয় পক্ষের নিয়ন্ত্রক রয়েছে।

"যেকোনো সমাধানে পর্যবেক্ষণ এবং প্রয়োগ প্রক্রিয়া অন্তর্ভুক্ত করা দরকার," মানয়ামে বলেছেন। "আমরা অনেক বেঁচে থাকাদের কাছ থেকে যা শুনি তা হল তারা শুধু তাদের ছবি নামিয়ে ফেলতে চায়। এটি এমনকি একটি আইনি প্রক্রিয়ার মধ্য দিয়ে যাওয়ার বিষয়ে নয়। তারা শুধু চায় সেই বিষয়বস্তু চলে যাক।"

মানয়ামে বলেছেন যে এটি অনেক প্রযুক্তি কোম্পানি এবং সরকারি নিয়ন্ত্রকদের জন্য খুব বড় একটি জিজ্ঞাসা নয় কারণ অনেকেই ইতিমধ্যে শিশুদের সাথে জড়িত অনুপযুক্ত ফটো অপসারণের জন্য দ্রুত প্রতিক্রিয়া জানায়। এটি শুধুমাত্র মহিলাদের সেই ধরনের সুরক্ষা বিস্তার করার বিষয়, তিনি যোগ করেছেন।

"আমার উদ্বেগ হল যে এই ক্ষতির কিছু মূল কারণ কী তা বিবেচনা না করে AI আইন এবং নীতি বাস্তবায়নে একটি দ্রুততা হয়েছে। এটি একটি স্তরযুক্ত সমস্যা, এবং মোকাবেলা করতে হবে এমন অনেক স্তর রয়েছে।"

কৃতিত্ব

• Mariel Padilla for The 19th

চিত্র

• Rena Li

সম্পাদনা

• Flora Peir for The 19th

এখানেও প্রকাশিত

আনস্প্ল্যাশে Steve Johnson-এর ছবি