افزایش چشمگیر استفاده از هوش مصنوعی در تولید محتوای جنسی از کودکان
نهاد ناظر بر محتوای سوءاستفاده می‌گوید شمار تصاویر تولیدشده با هوش مصنوعی که امسال بررسی شده، همین حالا ۴۰ درصد بیشتر از کل تصاویر بررسی‌شده در سال گذشته است.
محتوای سوءاستفاده جنسی از کودکان که با هوش مصنوعی تولید شده، با سرعت زیادی در اینترنت گسترش یافته است و میزان محتوای غیرقانونی بررسی‌شده در سال جاری، همین حالا از کل موارد ثبت‌شده در سال ۲۰۲۵ فراتر رفته است.
تحلیلگران بنیاد نظارت بر اینترنت (IWF) در نیمه نخست سال ۲۰۲۶، محتوای واقع‌گرایانه‌تری از سوءاستفاده جنسی از کودکان را بررسی کرده‌اند که تعداد آن از کل موارد بررسی‌شده در سال گذشته بیشتر است. این بنیاد مستقر در بریتانیا که محتوای سوءاستفاده جنسی از کودکان را در سراسر جهان رصد می‌کند، اعلام کرد تاکنون ۶ هزار و 310 تصویر تولیدشده با هوش مصنوعی را بررسی کرده که از نظر قانونی در تعریف محتوای سوءاستفاده جنسی از کودکان قرار می‌گیرند؛ رقمی که ۴۰ درصد بیشتر از مجموع بیش از ۴۵۰۰ مورد در سال گذشته است.
موارد محتوای سوءاستفاده جنسی از کودکان تولیدشده با هوش مصنوعی طی چند سال گذشته افزایش یافته و به‌ویژه شمار ویدئوهای تولیدشده با این فناوری با جهش چشمگیری روبه‌رو بوده است. با این حال، جدیدترین آمار IWF فقط مربوط به تصاویر ثابت است. بیشتر تصاویری که تحلیلگران این بنیاد مشاهده کرده‌اند، مربوط به دختران و کودکان هفت تا ۱۳ ساله بوده است.
IWF اعلام کرد این آمار بر ضرورت وضع مقررات قانونی جدید برای هوش مصنوعی تاکید دارد.
دولت اندی برنهام تاکنون نشانه‌ای از ارائه لایحه‌ای با تمرکز بر این فناوری، حداقل در چشم انداز نزدیک نشان نداده است. کانیشکا نارایان، وزیر هوش مصنوعی بریتانیا، گفته است که در زمینه مقررات جدید «هیچ گزینه‌ای از روی میز کنار گذاشته نشده»، اما معیار هر پیشنهاد قانونی این خواهد بود که: «آیا این اقدام مردم بریتانیا را امن‌تر خواهد کرد؟»
«هانا سویرسکی»، رئیس سیاست‌گذاری IWF، گفت از درخواست نمایندگان پارلمان برای «قوانین الزام‌آور درباره هوش مصنوعی» حمایت می‌کند؛ قوانینی که شرکت‌ها را وادار کند مدل‌های امن‌تری بسازند.
او گفت: «مسئولیت شرکت‌های فناوری است که ابزارهایی بسازند که نتوان از آنها به این شکل سوءاستفاده کرد. این مشکل را فناوری ایجاد کرده است و اگر شرکت‌ها ابزارهایی با ایمنی ذاتی طراحی نکنند، باید پاسخگو باشند.»
تولید محتوای سوءاستفاده جنسی از کودکان با هوش مصنوعی در بریتانیا غیرقانونی است. دولت همچنین سازگار کردن یک مدل هوش مصنوعی برای تولید چنین محتوایی یا توزیع مدل‌هایی را که برای دیگران امکان تولید این محتوا را فراهم می‌کنند، غیرقانونی کرده است. توسعه مدلی که با هدف تولید محتوای فوق‌واقع‌گرایانه از سوءاستفاده جنسی از کودکان طراحی شده باشد، می‌تواند مجازات کیفری تا پنج سال حبس به همراه داشته باشد.
سخنگوی دولت گفت: «قانون بریتانیا روشن است: محتوای سوءاستفاده جنسی از کودکان، صرف‌نظر از اینکه با هوش مصنوعی تولید شده باشد یا نه، غیرقانونی است. ما یک گام فراتر هم برداشته‌ایم و مدل‌های هوش مصنوعی مورد استفاده برای تولید این نوع محتوای سوءاستفاده‌آمیز و تصاویر بیمارگونه و فوق‌واقع‌گرایانه‌ای را که اغلب حاوی شباهت به کودکان واقعی هستند، ممنوع کرده‌ایم.»
هوش مصنوعی همچنین به شکارچیان آنلاین امکان داده است تصاویر صریح جنسی از کودکان تولید کنند. سرویس «گزارش و حذف» که مانع انتشار تصاویر خصوصی و صمیمی در اینترنت می‌شود، تاکنون ۴۲۰ گزارش از سوی کودکانی دریافت کرده که درباره تصاویری از خودشان گزارش داده‌اند؛ تصاویری که تصور می‌کردند با جعل یا دستکاری دیجیتال، به شکل صریح جنسی درآمده‌اند. این تعداد همین حالا از مجموع ۳۹۷ مورد ثبت‌شده در سال ۲۰۲۵ بیشتر است.
استفاده از ابزارهای هوش مصنوعی برای تولید محتوای سوءاستفاده‌آمیز باعث شده است آژانس ملی مبارزه با جرایم بریتانیا و IWF از والدین و سرپرستان بخواهند تصاویر کودکان خود را در شبکه‌های اجتماعی منتشر نکنند.
این نهادها توصیه کرده‌اند حساب‌های شبکه‌های اجتماعی خصوصی شوند یا تصاویر کودکان فقط از طریق گروهی مانند «دوستان نزدیک» با افراد محدودی به اشتراک گذاشته شوند.
منبع: گاردین