سم آلتمن: مردم حق دارند از هوش مصنوعی بترسند، اما ما می‌توانیم آن را مهار کنیم

آلتمن روز چهارشنبه در جریان گفت‌وگویی با مارک بنیوف، مدیرعامل Salesforce، در کنفرانس Dreamforce در سانفرانسیسکو، درباره سرعت پیشرفت هوش مصنوعی و نگرانی‌های مطرح‌شده پیرامون ایمنی این فناوری صحبت کرد.

مدیرعامل OpenAI در این نشست تأکید کرد که به توانایی شرکت خود و همچنین کل صنعت هوش مصنوعی برای توسعه ایمن این فناوری اطمینان دارد. او در این‌باره گفت: «من به توانایی شرکتمان – و توانایی صنعتمان – برای انجام ایمن این کار بسیار اطمینان دارم.»
 

بحث درباره سرعت توسعه هوش مصنوعی

اظهارات آلتمن در شرایطی مطرح شده که بحث درباره سرعت توسعه مدل‌های هوش مصنوعی و میزان نیاز به نظارت و مقررات دولتی در حال افزایش است. سیاست‌گذاران و فعالان صنعت فناوری درباره این موضوع اختلاف نظر دارند که آیا دولت‌ها باید برای جلوگیری از خارج شدن توسعه هوش مصنوعی از کنترل انسان، محدودیت‌های بیشتری اعمال کنند یا خیر.

یکی از محورهای اصلی این بحث، سرعت بالای پیشرفت مدل‌های هوش مصنوعی است. هرچه توانایی این مدل‌ها افزایش پیدا می‌کند، نگرانی‌ها درباره پیامدهای احتمالی آنها نیز بیشتر می‌شود و برخی کارشناسان و مدیران صنعت خواستار ایجاد سازوکارهایی برای کنترل سرعت توسعه این فناوری شده‌اند.

در مقابل، آلتمن بر این باور است که شرکت‌های هوش مصنوعی باید بتوانند مدل‌های خود را به‌صورت ایمن و کنترل‌شده ارتقا دهند. از نگاه او، وجود نگرانی‌های ایمنی نباید به معنای توقف یا کند کردن کلی روند پیشرفت این فناوری باشد.
 

اختلاف نظر میان مدیران شرکت‌های هوش مصنوعی

این اظهارات در ادامه بحثی مطرح می‌شود که در روزهای اخیر میان برخی مدیران و پژوهشگران صنعت هوش مصنوعی شکل گرفته است.
داریو آمودی، مدیرعامل Anthropic، یکی از رقبای OpenAI، پس از انتشار مقاله‌ای در روز شنبه به این بحث دامن زد. او در این مقاله درباره خطرات بالقوه ناشی از توسعه سریع هوش مصنوعی هشدار داده و پیشنهاد کرده بود سرعت توسعه این فناوری کاهش پیدا کند.

نگرانی‌های مطرح‌شده از سوی آمودی به این پرسش اساسی مربوط می‌شود که آیا شرکت‌های هوش مصنوعی باید برای بررسی و مدیریت خطرات احتمالی، سرعت پیشرفت مدل‌های خود را کاهش دهند یا اینکه می‌توان هم‌زمان با ادامه توسعه، تدابیر ایمنی لازم را نیز تقویت کرد.

این اختلاف دیدگاه نشان می‌دهد که در میان شرکت‌های پیشرو صنعت نیز درباره بهترین شیوه مدیریت ریسک‌های هوش مصنوعی اجماع کاملی وجود ندارد.

همکاری برای افزایش ایمنی

آلتمن در سخنان خود اشاره کرد که OpenAI برای رسیدگی به مسائل مربوط به ایمنی هوش مصنوعی با شرکت‌هایی از جمله Anthropic و آزمایشگاه هوش مصنوعی DeepMind متعلق به Alphabet همکاری می‌کند.

با این حال، او تأکید کرد که انجام تحقیقات و همکاری در زمینه ایمنی نباید مانع از آن شود که شرکت‌ها مدل‌های خود را به شکل ایمن بهبود دهند.

مدیرعامل OpenAI همچنین نسبت به نحوه مطرح شدن این بحث ابراز ناامیدی کرد و گفت: «من از نحوه‌ی طرح این موضوع ناامید شده‌ام.»

اظهارات آلتمن را می‌توان بخشی از بحث گسترده‌تر درباره چگونگی ایجاد تعادل میان سرعت نوآوری و الزامات ایمنی دانست. از یک سو، شرکت‌های فناوری در تلاش هستند قابلیت‌های مدل‌های هوش مصنوعی را با سرعت بیشتری افزایش دهند و از سوی دیگر، نگرانی‌ها درباره پیامدهای احتمالی این فناوری باعث شده موضوع نظارت و مقررات به یکی از محورهای مهم گفت‌وگو میان صنعت و سیاست‌گذاران تبدیل شود.

در چنین شرایطی، یکی از پرسش‌های اصلی این است که آیا می‌توان با توسعه هم‌زمان فناوری‌های ایمنی، ارزیابی ریسک و سازوکارهای نظارتی، از مزایای پیشرفت سریع هوش مصنوعی بهره برد و در عین حال خطرات احتمالی آن را کنترل کرد.

موضع آلتمن نشان می‌دهد که OpenAI همچنان بر امکان ادامه توسعه مدل‌های هوش مصنوعی با رعایت الزامات ایمنی تأکید دارد. در مقابل، دیدگاه‌هایی مانند موضع اخیر مدیرعامل Anthropic بر این باور است که سرعت پیشرفت فناوری ممکن است نیازمند بازنگری و کاهش باشد.

این بحث احتمالاً با افزایش توانایی مدل‌های هوش مصنوعی و ورود آنها به کاربردهای گسترده‌تر، از کسب‌وکار و برنامه‌نویسی گرفته تا خدمات عمومی و تصمیم‌گیری‌های حساس، ادامه خواهد داشت. مسئله اصلی برای صنعت و سیاست‌گذاران این است که چارچوبی ایجاد شود که هم امکان نوآوری و توسعه فناوری را حفظ کند و هم برای خطرات احتمالی آن سازوکارهای مناسبی در نظر بگیرد.

به گزارش BBC، اختلاف دیدگاه میان مدیران شرکت‌های پیشرو هوش مصنوعی درباره سرعت توسعه این فناوری، بخشی از بحث گسترده‌تری است که بر سر میزان نظارت، مقررات و الزامات ایمنی هوش مصنوعی در جریان است.