هوش مصنوعی چت های مخرب کاربران را قطع می کند
به گزارش با فناوری، تازه ترین خصوصیت شرکت آنتروپیک برای دو مدل هوش مصنوعی کلاد اینست که در صورت مواجهه با گفتگوهای مخرب یا نادرست، مکالمه را به صورت خودکار پایان دهند.
به گزارش با فناوری به نقل از انگجت، این شرکت در پستی در وبسایت خود اعلام نمود مدلهای کلاد اوپوس ۴ و ۴.۱ حال قادر به پایان دادن محاوره با کاربر هستند. به قول آنتروپیک این خاصیت فقط در مواردی نادر که تعامل با کاربر به صورت مخرب یا سواستفاده جویانه ادامه یابد، رخ می دهد.
این شرکت برای شفاف سازی خاصیت مذکور اظهار داشت: دو مدل کلاد می توانند از محاوره های مخرب مانند درخواست کاربران برای محتوای هرزنگاری در ارتباط با افراد زیر سن قانونی یا تلاش هایی برای جمع آوری اطلاعاتی که امکان انجام خشونت گسترده یا اقدامات تروریستی را فراهم آورد، بیرون بروند.
البته کلاد اوپوس ۴ و ۴.۱ فقط در صورتی مکالمه را پایان می دهند که تلاش ها برای تغییر جهت مکالمه با شکست روبرو شود و امید برای ایجاد تعاملی ثمربخش نیز از بین رفته باشد.
هرچند آنتروپیک مدعی است بیشتر کاربران پروسه قطع شدن محاوره را حتی هنگام صحبت درباره ی موضوعات بسیار جنجالی تجربه نمی کنند برای اینکه این خاصیت برای موارد بسیار حساس اجرا می شود.
در مواردی که کلاد یک چت را پایان می دهد، کاربران دیگر نمی توانند پیام جدیدی در آن محاوره ارسال نمایند اما می توانند به سرعت یک مکالمه جدید را شروع کنند. به قول آنتروپیک اگر محاوره پایان یابد، این امر روی چت های دیگر تاثیر نمی گذارد و کاربران می توانند به عقب برگردند و پیام های قبلی را اصلاح کنند تا مسیر محاوره تغییر کند.
این اقدام شرکت هوش مصنوعی بخشی از یک برنامه تحقیقی است که مفهوم رفاه هوش مصنوعی را بررسی می کند.
در حالی که موضوع انسانی سازی مدلهای هوش مصنوعی همچنان بحثی جاری است، آنتروپیک اعلام نموده که امکان خروج از «تعامل احیانا ناراحت کننده» روشی کم هزینه برای مدیریت ریسک ها در زمینه رفاه هوش مصنوعی بشمار می رود. این شرکت هنوز مشغول آزمایش این خاصیت است و از کاربران می خواهد هنگام مواجهه با چنین شرایطی، بازخورد خودرا عرضه کنند.
بطور خلاصه، البته کلاد اوپوس ۴ و ۴.۱ فقط در صورتی مکالمه را پایان می دهند که تلاش ها برای تغییر جهت مکالمه با شکست روبرو شود و امید برای ایجاد تعاملی ثمربخش نیز از بین رفته باشد. این اقدام شرکت هوش مصنوعی قسمتی از یک برنامه تحقیقی است که مفهوم رفاه هوش مصنوعی را بررسی می کند.
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب