چت‌جی‌پی‌تی در برخی از آزمون‌ها می‌تواند وانمود کند انسان است

شرکت سازنده چت‌جی‌پی‌تی یعنی اوپن‌اِی‌آی این نسل جدید از هوش مصنوعی را که به «هوش عامل‌محور» (agentic AI) معروف است و به هوش مصنوعی امکان می‌دهد کارهایی مانند خرید آنلاین، رزرو رستوران و برنامه‌ریزی قرار ملاقات را انجام دهد، «تکامل طبیعی» این فناوری توصیف کرد.

کاربران اولیه نسخه جدید چت‌جی‌پی‌تی‌ــ که در حال حاضر فقط در نسخه‌های «پلاس»، «پرو» و «تیم» در دسترس است‌ــ تجربیات خود از استفاده از این هوش عامل‌محور را به اشتراک گذاشته‌ و نشان داده‌اند که این سامانه می‌تواند به‌راحتی از سد سامانه‌های امنیتی عبور کند.

در یکی از موارد منتشرشده در ردیت، چت‌جی‌پی‌تی فرایند دور زدن سامانه ضد ربات کلادفلر (Cloudflare) را توضیح داده است.

این بات نوشت: «من روی گزینه تایید کنید که انسان هستید، کلیک خواهم کرد تا مرحله تایید در کلادفلر کامل شود. این مرحله لازم است تا ثابت کنم که ربات نیستم و بتوانم اقدام موردنظر را ادامه دهم.»

سامانه کلادفلر یکی از رایج‌ترین اقدام‌های امنیتی است که وب‌سایت‌ها برای مسدود کردن ترافیک خودکار از آن استفاده می‌کنند. کادر «من ربات نیستم» اغلب به‌جای پازل‌های چالش‌برانگیز کپچا (CAPTCHA) استفاده می‌شود، هرچند ممکن است وب‌سایت‌ها اکنون مجبور شوند در روش‌های آزمون ربات خود بازنگری کنند.

اوپن‌اِی‌آی اعلام کرد که جدیدترین نسخه چت‌بات آن همواره پیش از هر اقدامی که پیامد داشته باشد، درخواست اجازه خواهد کرد و در هر لحظه می‌توان آن را متوقف کرد.

این شرکت در یک پست وبلاگی برای معرفی قابلیت‌های جدیدش اعلام کرد: «چت‌جی‌پی‌تی اکنون می‌تواند با استفاده از رایانه خود [به طور مستقل] برای شما کار انجام دهد و وظایف پیچیده را از ابتدا تا انتها مدیریت کند.»

«چت‌جی‌پی‌تی با هوشمندی در وب‌سایت‌ها خواهد گشت، نتایج را غربال می‌کند، در صورت نیاز از شما می‌خواهد که وارد حساب کاربری شوید، کد اجرا می‌کند، تحلیل انجام می‌دهد و حتی نمایش‌اسلاید و جدول‌های قابل‌ویرایش تحویل می‌دهد که یافته‌هایش را خلاصه می‌کنند.»

این نخستین بار است که کاربران می‌توانند از چت‌جی‌پی‌تی بخواهند در فضای وب اقدام‌هایی انجام دهد. پیش‌تر، رقبای چینی مانند «مَنِس» (Manus) ابزارهای مشابهی عرضه کرده بودند.

اوپن‌اِی‌آی به خطرات مرتبط با اعطای سطحی از استقلال به هوش مصنوعی اذعان کرده، با این حال ادعا می‌کند که تدابیر ایمنی خود را تقویت کرده است.

این شرکت اعلام کرد: «ما کنترل‌های سخت را تقویت کرده‌ایم… و برای چالش‌هایی مانند مدیریت اطلاعات حساس در وب در حال اجرا [و زنده]، دسترسی گسترده‌تر کاربران و دسترسی (محدود) به شبکه ترمینال، تدابیر ایمنی اضافه کرده‌ایم.»

«اگرچه این اقدام‌ها تا حد زیادی ریسک را کاهش می‌دهند، ابزارهای گسترده‌تر و دسترسی وسیع‌تر کاربران به عامل چت‌جی‌پی‌تی سبب می‌شود که سطح کلی ریسک آن نیز بالاتر باشد.»