تیک‌تاک یک فناوری تشخیص جعل عمیق توسعه می‌دهد

به گزارش دیتاسنتر من، پیشرفت‌های سریع در حوزه هوش مصنوعی مولد نگرانی‌ها را در مورد انتشار اطلاعات نادرست و اطلاعات جعلی آنلاین افزایش می‌دهد.

شرکت‌هایی مانند تیک‌تاک و متا، مالک فیس‌بوک، قبلاً از کاربران می‌خواهند تا تصاویر واقعی، کلیپ‌های تصویری و صوتی  افشا کنند که آیا تصاویر واقعی، کلیپ‌های صوتی یا ویدیویی توسط برنامه‌های هوش مصنوعی تولید می‌شوند یا خیر.

اپلیکیشن ویدیویی معروف «تیک تاک» متعلق به شرکت چینی «بایت دنس» دیروز پنجشنبه در این زمینه گامی رو به جلو برداشت.

این شبکه اجتماعی  اعلام کرد که ویژگی جدید، با کمک  تیک‌تاک AI و  Dall-E محصول کمپانی OpenAI ، به کاربران اطمینان می‌دهد که توان شناسایی ویدئوهای تولیدشده توسط هوش مصنوعی را خواهند داشت. 

آدام پرسر، رئیس عملیات، اعتماد و امنیت تیک‌تاک گفت: « محتوای مخرب تولید شده توسط هوش مصنوعی افزایش یافته است و این چالش بزرگی است. این برای شبکه اجتماعی ما واقعاً مهم است زیرا اصالت یکی از عناصری است که تیک‌تاک را به چنین شبکه اجتماعی پر جنب و جوش و شادی تبدیل کرده است.»

پلتفرم‌های رسانه‌های اجتماعی از جمله تیک‌تاک، متا، ایکس و یوتیوب همگی در حال بررسی راه‌هایی برای ادغام هوش مصنوعی مولد در پلتفرم‌های خود هستند، با چت‌بات‌ها و ابزارهای جدیدی که به تأثیرگذاران و تبلیغ‌کنندگان در ایجاد رسانه کمک می‌کنند.

با این حال، این پلتفرم‌ها به دلیل اینکه به کاربران اجازه می‌دهند با هرزنامه‌های تولید شده توسط هوش مصنوعی با کیفیت پایین بمباران شوند، مورد انتقاد قرار گرفته‌اند.

در سالی که انتخابات بزرگ در سرتاسر جهان برگزار می‌شود، این شرکت‌ها همچنین با فشار برای تحمیل روش‌های محافظت کننده در برابر دیپ‌فیک‌های گمراه‌کننده، محدود کردن عملیات نفوذ مخفی و اطمینان از تعدیل محتوا به درستی و در عین حال بی‌طرف‌ماندن، مواجه هستند.

اوایل این هفته، تیک تاک و شرکت مادرش بایت دنس شکایتی علیه دولت ایالات متحده تنظیم کردند و قانونی را با هدف اجبار یا ممنوع کردن فروش برنامه به چالش کشیدند.

قانونگذاران ابراز نگرانی کرده‌اند که این پلتفرم می‌تواند اطلاعات نادرست و تبلیغاتی را منتشر کند.

تیک تاک روز پنجشنبه گفت که به ائتلافی از گروه‌های فناوری و رسانه به رهبری Adobe می‌پیوندد که به اصطلاح اعتبار محتوا را در محصولات ایجاد شده با هوش مصنوعی ادغام می‌کند.

این فناوری یک اثر انگشت دیجیتال را در محتوای هوش مصنوعی چندرسانه‌ای به همراه سایر اطلاعات شناسایی مانند زمان، مکان و اینکه چه کسی مواد را ایجاد کرده است، تعبیه می‌کند.