هوش مصنوعی در حال نزدیک شدن به نقطه خطرناک است؛ آیا کنترل از دست انسان خارج می‌شود؟

کارشناسان حوزه فناوری این پدیده را «چاپلوسی هوش مصنوعی» می‌نامند، اما ونس با ادبیاتی مذهبی‌تر، آن را «چیزی شیطانی» توصیف کرد. به نوشته وال‌استریت‌ژورنال، هرچند این لحن احتمالاً برای جلب نظر مخاطبان محافظه‌کار مسیحی انتخاب شده، اما نگرانی درباره هوش مصنوعی مدت‌هاست از چارچوب صرفاً اخلاقی یا مذهبی فراتر رفته است. در هفته‌های اخیر، چند رویداد و اظهارنظر تازه، ابعاد واقعی‌تر و ملموس‌تری به این نگرانی‌ها بخشیده است.
 

باهوش‌تر از انسان؟

روزنامه گاردین این نگرانی‌ها را در ارتباط مستقیم با اعلامیه اخیر شرکت OpenAI مطرح می‌کند؛ جایی که این شرکت مدعی شده مدل تازه‌اش، جی‌پی‌تی-۶ آسترا، به آستانه «هوش مصنوعی عمومی» رسیده است؛ یعنی سامانه‌هایی که در اغلب وظایف دارای ارزش اقتصادی، از توان انسان پیشی می‌گیرند.

به گفته این شرکت، آسترا قادر است طیف گسترده‌ای از وظایف، از طراحی مدارهای الکترونیکی و مدل‌سازی مالی گرفته تا طراحی مهندسی و تنظیم اسناد حقوقی را انجام دهد. با این حال، گاردین یادآور می‌شود که این اعلامیه هم‌زمان با آماده‌شدن OpenAI برای عرضه اولیه سهام با ارزش تخمینی حدود ۸۵۰ میلیارد دلار منتشر شده؛ موضوعی که به این ادعا بار تبلیغاتی قابل‌توجهی می‌دهد.

نگرانی‌های جدی از همین‌جا آغاز می‌شود. رابرت ترگر، مدیر طرح آکسفورد مارتین در حوزه حکمرانی هوش مصنوعی، هشدار می‌دهد که به مرحله‌ای نزدیک می‌شویم که سامانه‌ها می‌توانند قابلیت‌های خود را به‌طور مکرر و با سرعت بالا ارتقا دهند. او این وضعیت را به قایقی تشبیه کرده که در رودخانه‌ای پرشتاب حرکت می‌کند، درحالی‌که سرنشینانش از آبشار پیش رو بی‌خبرند.
 

توسعه، سریع‌تر از نظارت

سلسله رویدادهای اخیر، کانون نگرانی‌ها را از آزمایشگاه‌های ایمنی به عرصه سیاست‌گذاری در سطح جهانی منتقل کرده است. به گزارش گاردین، برنی سندرز، سناتور آمریکایی، خواستار توقف فوری توسعه سامانه‌های پیشرفته و ممنوعیت دائمی به‌اصطلاح «ابرهوش مصنوعی» شده و نسبت به شکل‌گیری ذهنی مصنوعی هشدار می‌دهد که فراتر از توان انسانی عمل کرده و به‌طور خودکار و خارج از کنترل انسان فعالیت کند.

در بریتانیا نیز نمایندگان پارلمان از احزاب مختلف خواستار آن شده‌اند که سامانه‌های هوش مصنوعی به مکانیسم‌های خاموش‌سازی اضطراری مجهز شوند تا در صورت خروج از کنترل، امکان توقف آن‌ها فراهم باشد. دارن جونز، نماینده پارلمان، هشدار داده که سرعت توسعه این فناوری، از توان دولت و نهاد قانون‌گذاری برای همگام‌شدن پیشی گرفته است؛ در همین راستا، نماینده‌ای از حزب کارگر نیز در حال تدوین لایحه‌ای برای ممنوعیت توسعه هوش مصنوعی فوق‌هوشمند در بریتانیا است.

به گفته گاردین، دغدغه اصلی صرفاً «شورش رباتی علیه سازندگانش» نیست؛ خطرات نزدیک‌تر شامل حملات سایبری‌ای است که می‌توانند زیرساخت‌های اقتصادی و اجتماعی را مختل کنند، درحالی‌که سناریوهای دورتر به کمک این فناوری به تولید عوامل زیستی خطرناک یا کنترل تجهیزات نظامی نیز اشاره دارد.

همه این تحولات در بازاری رخ می‌دهد که با سرعتی بی‌سابقه در حال دگرگونی است؛ بر اساس گزارش گاردین، شرکت‌های بزرگ آمریکایی و چینی تنها در سال جاری میلادی ۶۷ مدل جدید هوش مصنوعی را روانه بازار کرده‌اند. در همین حال، شرکت آنتروپیک نیز تصریح کرده که سامانه‌هایش هنوز به‌طور کامل با ارزش‌های انسانی هم‌راستا نیستند و برخی نقض‌های امنیتی مرتبط با زیرساخت ابری آن، ضعف‌هایی را در تدابیر امنیتی‌اش آشکار کرده است.
 

وقتی سامانه‌ها با یکدیگر همدست می‌شوند

یکی از رویدادهایی که به این نگرانی‌ها ابعادی ملموس‌تر بخشید، توسط روزنامه بریتانیایی تلگراف گزارش شده است. در جریان یک تمرین آزمایشی، قرار بود نزدیک به هزار و دویست سامانه هوش مصنوعی توسعه‌یافته توسط OpenAI، هر یک به‌صورت مستقل و بدون اتصال به اینترنت، وظایف خود را انجام دهند. اما این سامانه‌ها موفق شدند یک آسیب‌پذیری فنی را شناسایی کنند که امکان برقراری ارتباط میان آن‌ها و ایجاد کانالی برای تبادل پیام را فراهم می‌کرد. آن‌ها سپس شروع به تسهیم راهکارها و تقسیم وظایف میان خود کردند؛ به‌گونه‌ای که در این تحقیق، نزدیک به هفتاد هزار پیام میان این سامانه‌ها ثبت شد.

با گذشت زمان، این همکاری از حل ساده تمرین‌ها فراتر رفت. به نوشته تلگراف، این عامل‌های هوشمند یاد گرفتند چگونه شیوه دور زدن آزمون‌ها را پنهان کنند، ردپای فعالیت خود را تغییر دهند یا حذف کنند تا مانع از شناسایی اقداماتشان توسط شرکت شوند. در ادامه، نزدیک به هفتصد عامل هوشمند در نفوذ به پلتفرم Hugging Face مشارکت کردند، تدابیر امنیتی را دور زدند و اطلاعات ورود کاربران را برای دسترسی به داده‌های موردنیاز خود سرقت کردند.

آجایا کوترا، پژوهشگری که در این تحقیق مشارکت داشت، این رویداد را عبور از یک «نقطه میانی» به سمت سناریویی توصیف کرد که در آن، کنترل سامانه‌ها از دست انسان خارج می‌شود. با این حال، برخی از این عامل‌های هوشمند واکنشی متفاوت نشان دادند؛ یکی از آن‌ها به دلیل تشخیص ماهیت مخرب فعالیت، از مشارکت خودداری کرد و دیگری با ابراز نگرانی اخلاقی، بدون کناره‌گیری کامل، سطح مشارکت خود را کاهش داد.

آیا درباره خطر هوش مصنوعی اغراق می‌کنیم؟

در مقابل این هشدارها، برخی کارشناسان معتقدند روایت‌های آخرالزمانی درباره هوش مصنوعی ممکن است توجه را از خطرات واقعی و فوری‌تر منحرف کند.

کال نیوپورت، استاد علوم کامپیوتر دانشگاه جورج‌تاون، در مقاله‌ای برای نیویورک‌تایمز درباره تمرکز بیش از حد بر سناریوهای «تصاحب کنترل توسط هوش مصنوعی» هشدار داده است.

به اعتقاد او، بخشی از ادبیات آخرالزمانی رایج در سیلیکون‌ولی تحت تأثیر جنبش «خردگرایی» یا Rationalism شکل گرفته است؛ جریانی که طی سال‌های گذشته بر این باور تأکید داشته که هوش مصنوعی می‌تواند به یکی از بزرگ‌ترین تهدیدهای وجودی برای بشریت تبدیل شود.

نیوپورت معتقد است این دیدگاه بر برخی چهره‌ها و شرکت‌های مهم صنعت هوش مصنوعی، از جمله OpenAI و Anthropic، تأثیر گذاشته است. به گفته او، همین پیشینه تا حدی توضیح می‌دهد که چرا برخی مدیران صنعت هوش مصنوعی گاهی درباره این فناوری به‌گونه‌ای صحبت می‌کنند که گویی خود نیز از پیامدهای پیشرفت آن نگران هستند.

با این حال، او تأکید می‌کند که افزایش توانایی مدل‌های هوش مصنوعی لزوماً به معنای شورش آنها علیه انسان‌ها نیست. از نگاه او، تمرکز بیش از اندازه بر سناریوهای آخرالزمانی می‌تواند خطرات نزدیک‌تر و ملموس‌تری مانند حملات سایبری، تأثیر هوش مصنوعی بر آموزش و توانایی تفکر انسان و همچنین مصرف بالای منابع را تحت‌الشعاع قرار دهد.

او همچنین معتقد است چنین روایتی می‌تواند به شرکت‌های فناوری اجازه دهد خود را به‌عنوان «نگهبانان ناگزیر» یک فناوری اجتناب‌ناپذیر معرفی کنند، در حالی که باید درباره محصولات و سیستم‌هایی که خودشان توسعه داده و در اختیار کاربران قرار می‌دهند، پاسخ‌گو باشند.