به گزارش دیتاسنتر من به نقل از TechSpot، کارلی میشل هلر (Carli Michelle Heller) از شهر بونیتا اسپرینگز در تاریخ ۲۶ سپتامبر در گفت‌وگویی با کلود ظاهراً نوشته بود که قصد دارد به دفتر کلانتری حمله کند. سامانه‌های ایمنی کلود این پیام را به‌عنوان تهدید بالقوه شناسایی کردند و آن را برای بررسی به یک ناظر انسانی ارجاع دادند.
پس از بررسی پیام، ناظر انسانی تهدید را معتبر تشخیص داد و موضوع را به نیروهای انتظامی گزارش کرد. آنتروپیک اعلام کرده است که در شرایط اضطراری محدود، در صورتی که افشای اطلاعات برای جلوگیری از مرگ یا آسیب جسمی جدی ضروری باشد، ممکن است اطلاعات کاربران را در اختیار مراجع قانونی قرار دهد.
این پرونده بار دیگر بحث مهمی درباره حریم خصوصی چت‌بات‌های هوش مصنوعی را مطرح کرده است. اگرچه برخی کاربران با تصور محرمانه بودن، اطلاعات شخصی یا افکار خود را با چت‌بات‌ها در میان می‌گذارند، محتوای این سرویس‌ها الزاماً مانند یک دفتر خاطرات شخصی در نظر گرفته نمی‌شود.
این اتفاق همچنین در شرایطی رخ داده که شرکت‌های هوش مصنوعی درباره نحوه برخورد با تهدیدهای بالقوه با فشار بیشتری روبه‌رو هستند. در نمونه‌ای دیگر، گزارش‌هایی درباره مشاهده محتوای کاربران توسط ناظران انسانی مایکروسافت کوپایلوت منتشر شده است؛ محتوایی که گاهی شامل مطالب جنسی، آزاردهنده یا حتی بالقوه غیرقانونی بوده است.
مجله خبری mydtc
