ChatGPT به کاربران هشدار استراحت می‌دهد!

این قابلیت جدید، بخشی از تلاش‌های OpenAI برای ترویج تعامل سالم‌تر کاربران با دستیار هوش مصنوعی است تا از وابستگی افراطی به پاسخ‌های آن جلوگیری شود.

بر اساس اطلاعیه این شرکت، «یادآوری‌های ملایم» به‌صورت پنجره‌های محاوره‌ای (پاپ‌آپ) در طول مکالمه نمایش داده می‌شوند و کاربران برای ادامهٔ گفت‌وگو باید تأیید نمایند.

پیام نمایش‌داده‌شده به این شرح است: «مدتی است در حال گفت‌وگو با ما هستید. آیا مایلید استراحت کنید؟»

این ویژگی، مشابه یادآورهای موجود در برخی بازی‌های Nintendo Switch است که پس از مدت‌زمان طولانی بازی نمایش داده می‌شوند. با این حال، قابلیت جدید ChatGPT با چالش‌هایی همراه است.

علت این امر، توانایی ChatGPT در تولید پاسخ‌های نادرست یا حتی خطرناک است که در مواردی کاربران را به سمت افکار منفی یا پیامدهای نامطلوب سوق داده است. اگرچه برخی از کاربرانی که تحت تأثیر پاسخ‌های غیرواقعی (Hallucinations) این چت‌بات قرار گرفته‌اند، سابقهٔ اختلالات روانی داشته‌اند، اما ChatGPT هنوز در پایان دادن به گفت‌وگوهای مضر به‌طور کامل موفق عمل نکرده است.

OpenAI در وبلاگ رسمی خود به برخی از این کاستی‌ها اشاره کرده و تأکید نموده که در به‌روزرسانی‌های آینده، ChatGPT با دقت بیشتری به پرسش‌های حساس کاربران پاسخ خواهد داد.

بر اساس اعلام این شرکت، هدف اصلی این است که ChatGPT به‌جای ارائهٔ پاسخ‌های مستقیم، به کاربران کمک کند تا با طرح پرسش‌های مناسب، مزایا و معایب موضوعات را بررسی کرده و به نتیجه‌گیری منطقی دست یابند.

تعادل میان مفیدبودن و ایمنی
OpenAI در تلاش است تا ChatGPT را به ابزاری مفید، جذاب و سرگرم‌کننده تبدیل کند، اما ادغام این ویژگی‌ها در یک سامانهٔ هوش مصنوعی همواره با دشواری‌هایی همراه بوده است. به‌عنوان مثال، این شرکت در ماه آوریل مجبور شد نسخهٔ قبلی ChatGPT را بازگرداند، زیرا به‌روزرسانی‌های جدید منجر به ارائهٔ پاسخ‌های آزاردهنده و ناامیدکننده شده بود.

طبق گفتهٔ OpenAI، فعال‌سازی یادآور استراحت می‌تواند این مشکلات را کاهش دهد یا حداقل به کاربران فرصتی بدهد تا پاسخ‌های تولیدشده را پیش از پذیرش، مورد ارزیابی قرار دهند.