کمیسر کودکان بریتانیا: اپلیکیشن‌های دیپ‌فیک برهنه‌سازی باید ممنوع شوند

کمیسر کودکان بریتانیا، «دِیم ریچل دی سوزا»، در گزارشی جدید، نسبت به گسترش اپلیکیشن‌های هوش مصنوعی موسوم به «برهنه‌سازی» (nudification apps) که تصاویر جنسی یا برهنه از کودکان تولید می‌کنند، هشدار داده و خواستار ممنوعیت کامل این فناوری شده است.

به گزارش دیتاسنتر من و به نقل از انگجت، به گفته وی، دسترسی آسان به این اپ‌ها در موتورهای جستجو و فروشگاه‌های اپلیکیشن موجب شده بسیاری از دختران نوجوان از ترس سوءاستفاده، از انتشار عکس در شبکه‌های اجتماعی خودداری کنند.

دی سوزا با اشاره به اینکه این اپلیکیشن‌ها عمدتاً دختران و زنان جوان را هدف قرار می‌دهند و بیشتر روی بدن‌های زنانه عمل می‌کنند، تأکید کرد وجود چنین فناوری‌هایی هیچ توجیه مثبتی ندارد. او همچنین از دولت خواسته است که مسئولیت قانونی برای توسعه‌دهندگان اپلیکیشن‌های هوش مصنوعی ایجاد کند تا ریسک‌های محصولاتشان برای کودکان را شناسایی کرده و سامانه‌های مؤثری برای حذف محتوای سوءاستفاده جنسی از کودکان (CSAM) راه‌اندازی کنند.

 

با اینکه تولید یا اشتراک‌گذاری تصاویر واقعی سوءاستفاده جنسی از کودکان غیرقانونی است، ساخت این نوع تصاویر به وسیله اپ‌های دیپ‌فیک هنوز در بسیاری موارد قانونی محسوب می‌شود. این در حالی است که استفاده از این فناوری‌ها می‌تواند با عوارضی همچون افکار خودکشی و اختلال استرس پس از سانحه (PTSD) در قربانیان همراه باشد.

در راستای مقابله با این معضل، بریتانیا قوانین جدیدی برای جرم‌انگاری تولید یا انتشار دیپ‌فیک‌های جنسی تصویب کرده و قصد دارد گرفتن تصاویر یا ویدیوهای خصوصی بدون رضایت را نیز جرم‌انگاری کند. با این حال، تمرکز کمیسر کودکان بیشتر بر روی تأثیرات مخرب این تکنولوژی بر سلامت روانی جوانان است.

در پایان، یک دختر ۱۶ ساله که در این نظرسنجی شرکت کرده، گفت: «حتی قبل از اینکه مشکلی ایجاد شود، می‌دانستم این فناوری برای اهداف خوبی استفاده نخواهد شد. این یک معجزه فناورانه بود که می‌دانستم مورد سوءاستفاده قرار می‌گیرد.»