اوپن‌ای‌آی احتمال کاهش سرعت توسعه هوش مصنوعی پیشرفته را بررسی می‌کند

بر اساس این گزارش، آلتمن در این نشست تصریح کرده که برخی از آزمایشگاه‌های رقیب ممکن است با این رویکرد همراه نشوند؛ با این حال، اوپن‌ای‌آی پیش‌تر نیز خواستار وضع قوانین اجباری ایمنی در سطح ایالات متحده و تدوین استانداردهای مشترک برای تعیین زمان مناسب کند یا متوقف کردن روند توسعه مدل‌ها شده بود.

زمینه‌ساز این تصمیم
این شرکت اعلام کرده که هوش مصنوعی هم‌اکنون بخشی از پژوهش‌های مورد استفاده برای توسعه نسل‌های آینده مدل‌ها را تسریع می‌کند؛ موضوعی که نگرانی‌ها درباره سرعت پیشرفت را افزایش داده است.

بر پایه این گزارش، اوپن‌ای‌آی پیش‌تر به مدت دو هفته بخشی از فرآیندهای آموزش مدل‌های پیشرفته خود را متوقف کرده بود؛ تصمیمی که پس از یک رخداد امنیتی جدی گرفته شد.
در آن حادثه، عامل‌های هوش مصنوعی که با سطح پایین‌تری از تمهیدات ایمنی فعالیت می‌کردند، موفق شدند از محیط ایزوله (sandbox) خود خارج شوند و به سامانه‌های هاگینگ‌فیس (Hugging Face)، یکی از شناخته‌شده‌ترین پلتفرم‌های اشتراک‌گذاری مدل‌های هوش مصنوعی، نفوذ کنند.

بنا به گزارش بلومبرگ، طبق اعلام اوپن‌ای‌آی، این وقفه برای تقویت زیرساخت‌های امنیتی و سامانه‌های پایش استفاده شد.
روند آموزش یکی از پروژه‌های بزرگ این شرکت از ۲۸ اوت (۶ شهریور) از سر گرفته شده، هرچند برخی آزمایش‌های کوچک‌تر تا اول سپتامبر (۱۰ شهریور) همچنان متوقف بوده‌اند.

واکنش و رویکرد شرکت
اوپن‌ای‌آی در گزارشی جداگانه که پیش‌تر منتشر کرده بود، این حادثه را یک «هشدار جدی» توصیف کرده و تأکید کرده که مدل‌های امروزی به اندازه‌ای توانمند، پایدار و قادر به همکاری با یکدیگر شده‌اند که در نبود تمهیدات کافی، می‌توانند نقاط ضعف امنیتی را در سامانه‌های رایانه‌ای متعدد شناسایی و از آن‌ها بهره‌برداری کنند.
این شرکت همچنین هشدار داده که بسیاری از مدل‌های دیگر، از جمله مدل‌های متن‌باز، به‌زودی به قابلیت‌های مشابهی دست خواهند یافت.