مایکروسافت پروژه بحث‌برانگیز شناسایی احساسات با تشخیص چهره را متوقف می‌کند
مایکروسافت به‌تدریج دسترسی عمومی به برخی ابزارهای تجزیه‌وتحلیل چهره مبتنی‌بر هوش مصنوعی را متوقف می‌کند که ازجمله می‌توان به ابزاری اشاره کرد که این شرکت ادعا می‌کند احساسات سوژه را از روی فیلم‌ها و تصاویر شناسایی می‌دهد.
به گزارش ورج، ابزارهای تشخیص احساسات اخیراً مورد انتقاد کارشناسان قرار گرفته‌اند. آن‌ها می‌گویند حالات چهره‌ای که تصور می‌شود در سرتاسر جهان معنای یکسانی دارند، درواقع میان جمعیت‌های مختلف، تفاوت دارند و علاوه‌براین شناسایی احساسات درونی یک انسان براساس حالات ظاهری او، کاملاً غیرعلمی است.
لیزا فلدمن بارت، استاد روانشناسی در دانشگاه نورث‌ایسترن که بررسی موضوع تشخیص احساسات مبتنی‌بر هوش مصنوعی را انجام داده است، سال ۲۰۱۹ در گفت‌وگو با ورج گفت:
شرکت‌ها می‌توانند هرچه می‌خواهند بگویند، اما داده‌ها واضح است. به‌عنوان مثال نمی‌توان اخم کردن را دلیلی برای تشخیص خشم دانست.
این تصمیم، بخشی از بازنگری بزرگ‌تر سیاست‌های اخلاقی هوش مصنوعی مایکروسافت است. استانداردهای به‌روز در حوزه‌ی هوش مصنوعی، بر مسئولیت‌پذیری به‌منظور یافتن اینکه چه کسی از خدمات آن استفاده می‌کند و نظارت انسانی بیشتر بر محل استفاده از این ابزارها، تأکید دارند.
از نظر علمی، این یعنی مایکروسافت دسترسی به برخی ویژگی‌های سرویس‌های تشخیص چهره خود موسوم به Azure Face را محدود می‌کند و سایر ابزارها را نیز به‌طور کامل حذف خواهد کرد. کاربران به‌منظور استفاده از Azure Face برای شناسایی چهره، باید درخواست خود را به این شرکت ارائه دهند؛ به‌عنوان مثال به مایکروسافت اعلام کنند دقیقاً در چه بخشی از سیستم‌های خود از این فناوری استفاده خواهند کرد. برخی از موارد استفاده از این تکنولوژی مثل محو کردن خودکار چهره در تصاویر و ویدیوها، که پتانسیل مضر کمتری دارد، همچنان دردسترس باقی خواهند ماند.
مایکروسافت علاوه‌بر حذف دسترسی عمومی به ابزار شناسایی احساسات خود، قابلیت تشخیص ویژگی‌هایی مثل جنسیت، سن، لبخند، موهای صورت، مو و آرایش را نیز از Azure Face حذف می‌کند.
کارشناسان در داخل و خارج از شرکت مایکروسافت، فقدان اجماع علمی درمورد تعریف واژه‌ی «احساسات»، چالش‌های نحوه‌ی تعمیم نتیجه‌گیری‌ها در موارد استفاده‌ی مختلف، مناطق و جمعیت‌شناسی و نگرانی‌های افزایش‌یافته در خصوص حفظ حریم‌خصوصی درمورد این نوع ابزارها را برجسته‌تر کرده‌اند. ناتاشا کرامپتون، مدیر ارشد هوش مصنوعی مایکروسافت نیز یک پست وبلاگی در مورد این موضوع منتشر کرده است.
مایکروسافت می‌گوید که ارائه‌ی قابلیت‌های تشخیص احساسات مبتنی‌بر هوش مصنوعی را به مشتریان جدید متوقف می‌کند، درحالی‌که دسترسی مشتریان فعلی این سرویس می‌توانند تا ۳۰ ژوئن ۲۰۲۳ همچنان از آن استفاده کنند.
- چرا چهره‌‌‌ها همیشه احساسات واقعی را نشان نمی‌دهند؟
- هوش مصنوعی مایکروسافت تصاویر را به شعر چینی تبدیل می‌کند
بااین‌حال، اگرچه مایکروسافت دسترسی عمومی به ابزارهای تشخیص احساسات خود را متوقف می‌کند، اما حداقل در یکی از محصولات خود همچنان از آن‌ها بهره خواهد برد. به‌عنوان نمونه، اپلیکیشنی به‌نام Seeing AI از بینایی ماشینی به‌منظور توصیف جهان برای افرادی که اختلالات بینایی دارند، استفاده می‌کند.
سارا برد، مدیرمحصول واحد هوش مصنوعی Azure، در پستی وبلاگی گفت که ابزارهایی مثل تشخیص احساسات، وقتی برای مجموعه‌ای از سناریوهای دسترسی کنترل‌شده مورد استفاده قرار گیرند، می‌توانند ارزشمند باشند. البته هنوز مشخص نیست آیا این ابزارها در سایر محصولات مایکروسافت نیز مورد استفاده قرار خواهند گرفت یا خیر.
غول فناوری مستقر در ردموند همچنین محدودیت‌های مشابهی را برای فناوری «صدای عصبی سفارشی» خود اعمال می‌کند؛ قابلیتی که به مشتریان اجازه می‌دهد صداهای هوش مصنوعی را براساس صداهای ضبط‌شده از افراد واقعی، ایجاد کنند. این فناوری گاهی با نام دیپ‌فیک صوتی نیز شناخته می‌شود.
برد می‌نویسد که این ابزار، پتانسیل هیجان‌انگیزی در آموزش، دسترسی و سرگرمی دارد. او همچنین خاطرنشان می‌کند تصور اینکه چگونه می‌توان از این ابزار برای جعل صدای گویندگان و فریب شنوندگان استفاده کرد نیز آسان است. مایکروسافت اعلام کرده در آینده، دسترسی به این ویژگی را به مشتریان و شرکای مدیریت‌شده‌ی خود ارائه خواهد داد و از مشارکت فعال گوینده، هنگام ایجاد صداهای مصنوعی، اطمینان حاصل خواهد کرد.
