گامی تازه در هوش مصنوعی با صدای انسان‌نما: فرصتی بزرگ یا تهدیدی جدی؟

یک مدل جدید هوش مصنوعی با قابلیت تولید صدایی کاملاً شبیه به انسان، واکنش‌های متناقضی را در فضای مجازی برانگیخته است.

به گزارش دیتاسنتر من و به نقل از تک‌اسپات، شرکت Sesame AI، که توسط برندان ایریب، یکی از بنیان‌گذاران Oculus، تأسیس شده، این مدل را معرفی کرده است. این فناوری که از یک مدل گفتاری چندوجهی استفاده می‌کند، توانایی پردازش هم‌زمان متن و صوت را دارد و به شکل چشمگیری به صدای واقعی انسان نزدیک شده است.

در آزمایش‌های اولیه، کاربران از کیفیت طبیعی و ظرافت‌های گفتاری این مدل، مانند صداهای تنفسی، خنده و اصلاحات خودکار، شگفت‌زده شده‌اند. اما در عین حال، برخی احساس ناراحتی کرده‌اند. برای مثال، یکی از کاربران اظهار داشت که صدای مدل زنانه مایا (Maya) شباهت عجیبی به نامزد سابقش داشته که باعث ناراحتی او شده است: «دقیقاً شبیه [اکس من] نبود، اما به اندازه کافی نزدیک به آن بود. از صحبت کردن با این هوش مصنوعی آنقدر ترسیده بودم که مجبور شدم مکالمه را ترک کنم.»
 

نگرانی‌های بیشتری نیز در مورد پیامدهای اجتماعی و امنیتی این فناوری مطرح شده است. برخی محققان هشدار داده‌اند که این فناوری می‌تواند در حملات فیشینگ صوتی مورد سوءاستفاده قرار گیرد. با این که مدل کنونی توانایی تقلید صدای اشخاص را ندارد، اما تکنولوژی‌های مشابه در این حوزه پیشرفت زیادی کرده‌اند و می‌توانند در آینده توسط هکرها برای کلاهبرداری و مهندسی اجتماعی مورد استفاده قرار گیرند.

همچنین، تأثیرات این فناوری بر بازار کار، به‌ویژه در حوزه خدمات مشتری و پشتیبانی فنی، مورد بحث قرار گرفته است. اگرچه سازندگان Sesame AI به محدودیت‌های فعلی مدل خود اذعان دارند، اما امیدوارند که با بهبودهای آینده، فاصله‌ی این فناوری با صدای طبیعی انسان کمتر شود.