بحران برای «گروک»؛ اتهام تولید محتوای جنسی با استفاده از هوش مصنوعی

این رسانه تأکید کرده است که چنین رخدادهایی نشان می‌دهد چگونه یک ابزار گفت‌وگوی خودکار می‌تواند به گسترش آسیب منجر شود و افراد زیر سن قانونی را در معرض خطر قرار دهد؛ مسئله‌ای که با شتاب‌گرفتن پذیرش فناوری‌های مبتنی بر هوش مصنوعی، احتمال تکرار آن افزایش می‌یابد.

در روزهای اخیر، برخی کاربران شبکه اجتماعی ایکس با استفاده از قابلیت‌های «گروک»، اقدام به حذف دیجیتالی پوشش از تصاویر نل فیشر، بازیگر ۱۴ ساله سریال «Stranger Things» محصول نتفلیکس، کرده‌اند.

در واکنش به این انتقادات، گروک روز جمعه اذعان کرد که باگ‌هایی در سازوکارهای ایمنی این ابزار وجود داشته که به کاربران اجازه می‌داده تصاویر جنسی از افراد زیر سن قانونی یا زنان تولید کنند؛ سوءاستفاده‌هایی که موجی از انتقادهای جهانی را به‌دنبال داشت و به آغاز تحقیقات قضایی گسترده در فرانسه انجامید.

حساب رسمی گروک در ایکس روز جمعه و در پاسخ به شکایت یکی از کاربران، اعلام کرد: «ما خلاهایی را در تدابیر حفاظتی خود شناسایی کرده‌ایم و در حال تلاش برای رفع فوری آن‌ها هستیم.» خبرگزاری فرانسه نیز به نقل از این شرکت تأکید کرد: «استثمار جنسی کودکان غیرقانونی و به‌طور کامل ممنوع است.»

خبرگزاری فرانسه همچنین گزارش داده است که گروک در پاسخ به یکی از کاربران تصریح کرده هر شرکتی در ایالات متحده، در صورتی که «آگاهانه تولید» پورنوگرافی کودکان را تسهیل کند یا مانع آن نشود، خود را در معرض مسئولیت مدنی یا کیفری قرار می‌دهد.

تأثیر آسیب‌پذیری‌ها بر زنان و آغاز تحقیقات گسترده

این آسیب‌پذیری‌ها تنها به افراد زیر سن قانونی محدود نبوده و زنان بالغ را نیز تحت تأثیر قرار داده است؛ به‌گونه‌ای که گروک بنا به درخواست برخی کاربران، تصاویر زنان را در شبکه‌های اجتماعی به‌صورت دیجیتالی دستکاری کرده و آن‌ها را در معرض نمایش قرار داده است.

بر اساس نامه‌ای که در رسانه‌های هند منتشر شده، وزارت الکترونیک و فناوری اطلاعات این کشور روز جمعه با صدور اخطاریه‌ای رسمی به شرکت ایکس، از این پلتفرم خواسته است ظرف ۷۲ ساعت گزارشی جامع از اقدامات انجام‌شده برای حذف «محتوای مستهجن» تولیدشده توسط گروک ارائه دهد.

در فرانسه نیز دفتر دادستانی عمومی پاریس، پس از دریافت گزارش‌هایی از سوی سه وزیر و دو معاون پارلمان درباره تولید و انتشار ویدیوهای جنسی جعلی (به‌ویژه با حضور افراد زیر سن قانونی) دامنه تحقیقات خود درباره پلتفرم ایکس را گسترش داده و ابزار هوش مصنوعی داخلی آن با نام «گروک» را نیز مشمول بررسی قرار داده است.

این مقامات اعلام کرده‌اند که ویدیوهای دیپ‌فیک با ماهیت جنسی، تولیدشده توسط گروک، بدون رضایت افراد حاضر در آن‌ها در شبکه اجتماعی X منتشر شده‌اند.

این تحقیقات که مستقیماً شرکت X را هدف قرار داده، در ماه ژوئیه و پس از گزارش‌هایی درباره دستکاری الگوریتم این پلتفرم آغاز شد. دفتر دادستانی عمومی با تأیید گزارش پولیتیکو اعلام کرد: «جرم تولید تصاویر یا ویدیوهای جنسی از یک فرد بدون رضایت او، مجازاتی تا دو سال حبس و ۶۰ هزار یورو جریمه نقدی در پی دارد.»

اریک بوتوریل و آرتور دلاپورت، نمایندگان مجلس فرانسه، روز جمعه با ثبت دادخواستی رسمی، به گسترش این تحقیقات دامن زدند. همچنین رولان لسکور، آن لو آور و اورور برژه، وزرای دولت فرانسه، اعلام کردند که دادستانی عمومی را در جریان «محتوای غیرقانونی» قرار داده و خواستار حذف فوری آن شده‌اند.

چالش‌های سیاسی و فشار بر ایلان ماسک

به گزارش اکسیوس، این بحران در شرایطی رخ داده است که ایلان ماسک در تلاش است بار دیگر نظر مساعد کاخ سفید را جلب کند و شرکت او برای دستیابی به قراردادهای سودآور دولتی در حوزه محصولات هوش مصنوعی رقابت می‌کند.

این گزارش یادآور می‌شود که ملانیا ترامپ، بانوی اول آمریکا، از قانونی حمایت کرده است که سال گذشته به تصویب رسید و به‌طور مشخص انتشار تصاویر جنسی آنلاین بدون رضایت را هدف قرار می‌دهد؛ موضوعی که ناتوانی شرکت XAI، سازنده گروک، در جلوگیری از چنین محتوایی را پررنگ‌تر می‌کند.

بر اساس این گزارش، دولت ترامپ اوایل سال جاری میلادی، شرکت XAI را در گردش کار فدرال ادغام کرده و قراردادی ۱۸ ماهه با این شرکت امضا کرده است که استفاده از این چت‌بات را در امور رسمی دولتی مجاز می‌سازد.

این توافق در حالی منعقد شد که ائتلافی متشکل از بیش از ۳۰ گروه مدافع حقوق مصرف‌کنندگان، به‌دلیل نبود آزمایش‌های ایمنی کافی و آنچه «تعصب ایدئولوژیک» خوانده‌اند، از دولت خواسته بودند استفاده از گروک را ممنوع کند.

شرکت XAI در سال‌های اخیر بارها به‌دلیل انتشار اطلاعات نادرست و ترویج دیدگاه‌های همسو با مالک خود، ایلان ماسک، با انتقاد مواجه شده است. اپلیکیشن گروک همچنین به‌دلیل افزودن اظهارنظرهایی که به‌نادرست مدعی وقوع «نسل‌کشی سفیدپوستان» در آفریقای جنوبی در مکالمات نامرتبط در ماه مه گذشته بوده‌اند، و نیز به‌خاطر انتشار اطلاعات نادرست درباره انتخابات در جریان رقابت‌های انتخاباتی ۲۰۲۴، مورد انتقاد قرار گرفته است.

ایلان ماسک سال گذشته اعلام کرده بود که قصد دارد یک «مرکز عالی اعتماد و ایمنی» جدید ایجاد کند تا ناظران محتوا بتوانند بر عملکرد این پلتفرم نظارت کرده و به اجرای قوانین ایمنی X کمک کنند. اما شرکت X هنوز زمان آغاز به‌کار این مرکز را مشخص نکرده است. مدیر ارشد تجاری وقت این شرکت نیز پیش‌تر به بلومبرگ گفته بود که انجام «سرمایه‌گذاری‌های جدی برای جلوگیری از سوءاستفاده کاربران متخلف» از این پلتفرم، امری ضروری است.