کابوس دیجیتال زنان؛ هوش مصنوعی و موج جدید سوءاستفاده جنسی در هند
رشد ابزارهای هوش مصنوعی مولد، موج تازهای از سوءاستفاده دیجیتال علیه زنان را رقم زده است؛ دیپفیکهای جنسی به صورت نامتناسبی ، حریم خصوصی و امنیت آنلاین زنان را تهدید میکنند.
این فقط یک سلفی معمولی در شب سال نو بود که در شبکههای اجتماعی منتشر شد، اما خیلی زود به کابوسی تاریک تبدیل شد. «روچی کوکچا»، شاهد بود که نسخههای برهنه تولیدشده با هوش مصنوعی از عکس او، بدون اجازهاش و بدون اینکه بتواند کاری برای متوقف کردن آن انجام دهد، مانند آتش در سراسر اینترنت هند پخش شد.
«کوکچا» در مصاحبه با الپائیس میگوید: «این یک سوءاستفاده جنسی دیجیتال بود.» او توضیح میدهد که کاربران ناشناس، تصویر او را از طریق Grok، یک چتبات هوش مصنوعی مولد طراحیشده توسط شرکت xAI متعلق به ایلان ماسک، پردازش کرده بودند: «وقتی کسی با استفاده از هوش مصنوعی، بدون رضایت یک فرد تصاویر جنسی جعلی از او تولید میکند، این نقض حقوق اساسی انسان است. آنلاین بودن یک عمل، آن را از جرم بودن خارج نمیکند.»
تجربه کوکچا بخشی از مشکلی بزرگتر و رو به گسترش در فضای دیجیتال هند است؛ جایی که ابزارهای هوش مصنوعی مولد میتوانند در عرض چند دقیقه دیپفیکهای متقاعدکننده، تصاویر جنسیسازیشده و نسخههای جعلی از صدای افراد تولید کنند؛ سوءاستفادههایی که به شکل نامتناسبی زنان را هدف قرار میدهد.
«نیکیل پاها»، بنیانگذار و سردبیر مدیا ناما (MediaNama)، رسانهای فعال در حوزه سیاستهای دیجیتال هند میگوید: «این مشکل بازتابدهنده مسائل عمیقتر در جامعه است. زنان نه فقط در هند، بلکه در سراسر جهان، بهطور نامتناسبی هدف قرار میگیرند.»
بر اساس قوانین فناوری اطلاعات هند و قانون پیشنهادی دیجیتال هند (Digital India Act)، مقامهای دولتی میتوانند برای پلتفرمهایی که در جلوگیری از انتشار محتوای آسیبزا ناکام باشند، جریمههایی تا سقف ۵۰۰ میلیون روپیه (حدود ۵.۴ میلیون دلار) تعیین کنند. با این حال، پاها معتقد است قوانین تنها به اندازه اجرای آنها موثر هستند.
در هند، این مناقشه در دوم ژانویه به اوج رسید؛ زمانی که وزارت الکترونیک و فناوری اطلاعات هند، اطلاعیهای برای پلتفرم X صادر کرد و این شرکت را به دلیل اجازه به گروک برای «تولید و انتشار محتوای مستهجن، دارای محتوای جنسی صریح و تحقیرآمیز، بهویژه علیه زنان و کودکان» محکوم کرد و خواستار حذف تمامی محتوای غیرقانونی شد.
پس از شکایت هند، شرکت X اعلام کرد که حدود ۳ هزار و 500 محتوای مرتبط را مسدود و بیش از ۶۰۰ حساب کاربری مرتبط با تصاویر جنسیسازیشده تولیدشده با این ابزار را حذف کرده است. با این همه پیش از این که این تمهیدات اتخاذ شود، آسیبها وارد شده بود. کارشناسان میگویند در عصر شبکههای اجتماعی که محتوای صریح میتواند ظرف چند ثانیه منتشر شود، ناظران پلتفرمها بهسختی میتوانند با سرعت انتشار این محتواها مقابله کنند و روند کٌند دادگاهها نیز زمانی که اعتبار، حریم خصوصی و زندگی افراد در لحظه تخریب میشود، راهحل حقوقی چندانی ارائه نمیدهد.
زنان میگویند به اقدام سریعتر پلتفرمها و قوانین شفافتر نیاز دارند
در هند، پیشرفتهای مربوط به هوش مصنوعی مولد شکلهای سمیتر و پیچیدهتری از آزار آنلاین را تقویت کرده است. در سال ۲۰۲۱، اپلیکیشنی با نام Sulli Deals در پلتفرم گیتهاب (GitHub) ظاهر شد که تصاویر صدها زن، از جمله روزنامهنگاران، دانشجویان و فعالان اجتماعی را بدون رضایت آنها به شکل یک «حراج جعلی» آنلاین عرضه میکرد. هدف این اقدام، تحقیر و آزار این زنان بود.
زمانی که پلتفرمی تقریبا مشابه با نام Bulli Bai در ژانویه ۲۰۲۲ این آزارها را دوباره تکرار کرد، بازداشت عاملان تنها پس از ماهها فشار عمومی و توجه رسانهها انجام شد.
موارد جدیدتر شامل یک دیپفیک ۱۹ دقیقهای با محتوای جنسی صریح از یوتیوبر «پایال گیمینگ» است که در تلگرام و فیسبوک بهسرعت منتشر شد. همچنین تصاویر تغییریافته جنسی از بازیگر «گیریجا اوک» منتشر شد؛ او گفته از فکر اینکه احتمال دارد پسر ۱۲ سالهاش این تصاویر را ببیند، وحشتزده است.
کوکچا میگوید: «زنان مجبورند پیش از اینکه حتی در فضای آنلاین حضور داشته باشند، دائما خطرها را محاسبه کنند. اینترنت قرار نبود چنین چیزی باشد. حداقل این است که ما به اقدام سریعتر پلتفرمها، قوانین شفافتر و تغییر در نگاه جامعه و جدی گرفتن این مسئله نیاز داریم.»
مورد کوکچا همزمان با اضافه شدن یک قابلیت جدید تولید ویرایش تصویر به گروک اتفاق افتاد؛ قابلیتی که به کاربران اجازه میداد تصاویر را بارگذاری کرده و با استفاده از دستورهای متنی ساده آنها را تغییر دهند. تنها چند روز بعد، این قابلیت برای تولید موج عظیمی از تصاویر جنسیسازیشده از زنان و کودکان بدون رضایت آنها مورد استفاده قرار گرفت.
یافتههای «مرکز مقابله با نفرت دیجیتال» (Center for Countering Digital Hate) نشان میدهد که هوش مصنوعی گروک در فاصله تنها ۱۱ روز، از ۲۹ دسامبر ۲۰۲۵ تا ۸ ژانویه ۲۰۲۶، حدود سه میلیون تصویر جنسیسازیشده تولید کرده است که از میان آنها، ۲۳ هزار تصویر ظاهرا کودکان را نشان میدادند.
پلتفرم هوش مصنوعی جنجالی گروک، دستمایه اقدامات حقوقی در ایالات متحده، هلند و بریتانیا شده است. این فشارها در ماه مارس به توافقی میان کشورهای عضو اتحادیه اروپا انجامید که خواستار ممنوعیت سیستمهای هوش مصنوعیِ توانمند در تولید تصاویر جنسی غیرمجاز یا محتوای سوءاستفاده از کودکان هستند.
برای کوکچا، آزار تولیدشده با هوش مصنوعی حتی از سوءاستفادههای آنلاین معمولی نگرانکنندهتر است که زنان سالها با آن مواجه بودهاند.
او میگوید: «ترولینگ (آزار اینترنتی) وحشتناک است، اما هنوز تا حدی میتوانید خودتان را از آن جدا کنید، چون فقط شامل کلمات، نظرات یا توهینهاست. اما آزار جدید مثل این است که کسی کنترل تصویری را در دست گرفته که از وجود من تولید شده است. مرز بین "این من هستم" و "این من نیستم" بسیار مبهم میشود و این عمیقا نگرانکننده است.»
فضای ناامن آنلاین زنان را به سمت خودسانسوری میبرد
در پی افزایش انتقادها، شرکت xAI تولید تصویر در گروک را به کاربران پولی محدود و در مناطقی که تولید تصاویر برهنه از افراد غیرقانونی است، امکان ساخت چنین تصاویری را از نظر جغرافیایی مسدود کرد. با این حال، کارشناسان میگویند تصاویر صریح همچنان تولید میشوند و مشکل هنوز حل نشده است.
پلتفرمهای دیگری مانند متا هم اقداماتی برای کاهش انتشار محتوای مستهجن انجام دادهاند، اما گروک در پلتفرم X همچنان فاقد تدابیر حفاظتی مشابه است.
در مواجهه با این شرایط، نشانههای خودسانسوری در میان کاربران، بهویژه زنان، آشکار شده است. زنان کمتر صحبت میکنند و کمتر محتوای شخصی خود را به اشتراک میگذارند، زیرا فضای آنلاین را ناامنتر میبینند. به گفته پاها، برخی از زنان دیگر عکسهای خود را منتشر نمیکنند و برخی دیگر حتی از استفاده از تصویر پروفایل خودداری میکنند.
«آپار گوپتا»، مدیر و بنیانگذار «بنیاد آزادی اینترنت» (Internet Freedom Foundation) میگوید: «یک تصویر ساده میتواند به یک ویدیوی دیپفیک یا محتوای جنسیسازیشده تبدیل شود و سپس در مقیاسی گسترده بازتولید شود. برای زنان، این موضوع آزار و اذیت را از توهینهای متنی به تصاویر شبه مدرک تغییر میدهد؛ محتوایی که میتواند باعث انگ اجتماعی، آسیب شغلی و اعمال فشار و اجبار شود.»
«پریانکا چاتورودی»، عضو پارلمان هند، از نخستین رهبران سیاسی این کشور بود که بهطور رسمی نگرانی خود را درباره سوءاستفاده از ابزارهای هوش مصنوعی در شبکههای اجتماعی مطرح کرد. او در نامهای به وزیر الکترونیک و فناوری اطلاعات، درباره گسترش دیپفیکهای زنان با محتوای کاملا جنسی در شبکههای اجتماعی هشدار داد.
چاتورودی به الپائیس میگوید: «نگرانی اصلی فقط ترولینگ نیست؛ بلکه بازنمایی نادرست از زنان است که عمیقا نگرانکننده است. من چندین ویدیوی تولیدشده با هوش مصنوعی از خودم دیدهام که بهشدت غیرقابل قبول هستند.»
این نماینده پارلمان اقدامهای دولت، از جمله سازوکارهای حذف محتوا و تدابیر نظارتی را به رسمیت شناخت، اما هشدار داد که سرعت توسعه هوش مصنوعی از توان اجرای قوانین پیشی گرفته است.
چاتورودی گفت دیپفیکها میتوانند آنقدر متقاعدکننده باشند که حتی برای دولتها هم ایجاد سازوکارهای حفاظتی موثر دشوار باشد. به همین دلیل، او خواستار همکاری بینالمللی بیشتر، پاسخگویی قویتر شرکتها و ایجاد سازوکارهای سریعتر برای حذف محتوای آسیبزا شد.
منبع: ال پائیس