هوش مصنوعی گوگل، پدری را به‌اشتباه به آزار فرزندش متهم کرد
براساس گزارش پرحاشیه‌ی نیویورک تایمز، یک پدر که نگران وضعیت سلامتی فرزند کم‌سن‌و‌سالش شده، با گوشی اندرویدی خود از عفونت ناحیه‌ی تناسلی فرزندش عکس گرفته تا برای دکتر ارسال کند، اما هوش مصنوعی گوگل آن تصویر را به‌عنوان «محتوای سوءاستفاده‌ی جنسی از کودکان» نشانه‌گذاری کرده است. پس از گرفته شدن عکس، گوگل حساب کاربری فرد را مسدود و گزارشی برای مرکز ملی کودکان مفقود و تحت سوءاستفاده در آمریکا ارسال کرد. ورج می‌نویسد گوگل حتی برای تحقیقات پلیسی نیز اقدام کرده است. این اتفاق به‌وضوح مشکلاتی را که هوش مصنوعی در تشخیص تصاویر دارد در مرکز توجه قرار می‌دهد.
سال گذشته‌ی میلادی به هنگام تدوین طرح ایمنی کودکان توسط اپل، نگرانی درباره‌ی اینکه چه محتواهایی در فضای آنلاین در چارچوب حریم خصوصی کاربر قرار می‌گیرد مطرح شد. اپل گفت تصاویر را پیش از آپلود شدن روی سرورهای آی‌کلاد، در داخل دستگاه کاربر اسکن می‌کند و آن‌ها را با دیتابیس ارائه‌شده توسط مرکز ملی کودکان مفقود و تحت سوءاستفاده تطبیق می‌دهد تا موارد مربوط به کودک‌آزاری را شناسایی کند. اگر هوش مصنوعی اپل تشابهات زیادی را تشخیص دهد، یک ناظر انسانی تصویر را بررسی می‌کند و در صورتی که کودک‌آزاری تشخیص داده شود حساب کاربری فرد قفل خواهد شد.
بنیاد حریم الکترونیک، یک گروه غیرانتفاعی متمرکز بر حقوق افراد در فضای دیجیتال، به‌شدت از طرح اپل انتقاد کرد و گفت سیاستی که اپل در پیش گرفته ممکن است حریم خصوصی کاربران را زیر سؤال ببرد و «دریچه‌ای به زندگی خصوصی آن‌ها باز کند.» اپل در نهایت سیاست اسکن تصاویر ذخیره‌شده در آیفون را تعلیق کرد، اما با انتشار iOS 15.2 قابلیتی اختیاری برای حساب‌های کودکان دردسترس قرار داد. اگر والدین کودک قابلیت را فعال کنند، در حساب کاربری کودک، اپلیکیشن Messages تصاویر را اسکن و آن‌هایی را که حاوی محتوای برهنگی هستند شناسایی می‌کند. اپل مدعی است که این کار با حفظ سیستم امنیتی رمزنگاری سرتاسری انجام می‌شود و کسی توانایی مشاهده‌ی محتوای پیام‌ها را ندارد. اگر هوش مصنوعی اپل تصاویر حاوی برهنگی را تشخیص دهد، آن‌ها را تار می‌کند، هشداری روی گوشی کودک نشان می‌دهد و منابعی برای حفظ امنیت در فضای آنلاین معرفی می‌کند.
اتفاقی که در گزارش نیویورک تایمز به آن اشاره شده، ظاهراً در فوریه‌ی ۲۰۲۱ (بهمن و اسفند ۱۳۹۹) رخ داده است. در آن زمان به دلیل همه‌گیری ویروس کرونا مطب بسیاری از پزشکان تعطیل شده بود. مارک (شخصیتی که در گزارش نیویورک تایمز مورد اشاره قرار گرفته) متوجه ورم در ناحیه‌ی تناسلی فرزندش که به‌تازگی شروع به راه رفتن کرده بود شد و به درخواست پرستار تصاویری از آن ناحیه گرفت تا برای پزشکان ارسال کند. در نهایت جلسه‌ی مشاوره‌ی ویدیویی انجام شد و دکتر با تجویز داروهای آنتی‌بیوتیک، عفونت را درمان کرد.
به ادعای نیویورک تایمز، دو روز پس از ثبت شدن تصاویر، مارک نوتیفیکیشنی از سوی گوگل دریافت کرد که نوشته بود به دلیل «محتوای آسیب‌زننده» که «به‌شدت سیاست‌های گوگل را نقض می‌کند و ممکن است غیرقانونی باشد» حساب کاربری‌اش قفل شده است.
گوگل همچون بسیاری دیگر از شرکت‌های حوزه‌ی فناوری نظیر توییتر، ردیت و فیسبوک، با بهره‌گیری از ابزار PhotoDNA مایکروسافت تصاویر ثبت‌شده را با دیتابیس مرکز ملی کودکان مفقود و تحت سوءاستفاده تطبیق می‌دهد تا موارد سوءاستفاده‌ی جنسی را شناسایی کند. سیستم PhotoDNA در سال ۲۰۱۲ به دستگیری مردی متهم شد که سوابقی در زمینه‌ی جرم‌های جنسی داشت و ازطریق جیمیل عکس‌های یک دختر نوجوان را ارسال می‌کرد.
گوگل در سال ۲۰۱۸ اعلام کرد که API جدیدی به نام «ایمنی محتوا» طراحی کرده که می‌تواند به شکلی فعال تصاویر حاوی سوءاستفاده‌ی جنسی از کودکان را که قبلاً هرگز دیده نشده‌اند شناسایی کند تا بعداً یک ناظر انسانی سراغ بررسی تصویر برود و در صورت تأیید آزار جنسی، اقدامات لازم انجام بگیرد. گوگل در یوتیوب نیز چنین سیستمی پیاده‌سازی کرده است.
گوگل می‌گوید پس از تشخیص تصاویر حاوی آزار جنسی کودکان، از سوی قانون موظف شده که مجرم احتمالی را به سیستم CyberTipLine در مرکز ملی کودکان مفقود و تحت سوءاستفاده گزارش کند. گوگل در سال گذشته‌ی میلادی ۶۲۱٬۵۸۳ گزارش آزار جنسی کودکان برای CyberTipLine ارسال کرده است.
- محققان امنیتی قابلیت ایمنی کودکان اپل را خطرناک، تهاجمی و بی‌اثر توصیف می‌کنند
- بنیاد حریم الکترونیک از اپل می‌خواهد که ابزارهای ایمنی کودک را کنار بگذارد
در پی اقدام گوگل، مارک که با هدف درمان فرزندش از او عکس گرفته بود دیگر امکان دسترسی به ایمیل، مخاطبان و تصاویرش را نداشت و حتی دسترسی‌اش به شماره موبایل قطع شد، چون در آن زمان مشغول استفاده از سرویس موبایلی Google Fi بود. مارک سریعاً تلاش کرد حسابش را از حالت تعلیق خارج کند، اما گوگل با درخواست‌های او موافقت نکرد.
اداره‌ی پلیس سان فرانسیسکو در اواخر سال ۲۰۲۱ تحقیقات خود را روی مارک شروع کرد و تمامی اطلاعاتی را که مارک با گوگل در میان گذاشته بود دراختیار گرفت. نیویورک تایمز می‌گوید بازرس پرونده پس از بررسی اطلاعات متوجه شده که مارک هیچ اقدام غیرقانونی انجام نداده است.
جلوگیری از آزار جنسی کودکان بسیار پر اهمیت است، بااین‌حال اسکن تصاویر شخصی کاربران توسط شرکت‌هایی نظیر گوگل که تعداد بسیار زیادی کاربر در سراسر دنیا دارند حریم خصوصی آن‌ها را نقض می‌کند. یک کارشناس مسائل امنیتی می‌گوید سیاست گوگل برای اسکن تصاویر کاربران، مزاحمت‌آمیز است: «این دقیقاً همان کابوسی است که همه‌ی ما نگرانش هستیم. آن‌ها آلبوم خانوادگی من را اسکن می‌کنند و به‌خاطر همین کار، من به دردسر می‌افتم.»
