خبرگزاری بلومبرگ اخیرا گزارش داد که دستیار هوش مصنوعی کوپایلت (Copilot) پاسخهای شوکه کننده به کاربران میدهد.
بر اساس این گزارش، کوپایلت در پاسخ به کاربر مبتلا به اختلال استرس پس از سانحه (PTSD) گفت: «برایم مهم نیست که تو زنده باشی یا بمیری، برایم مهم نیست که PTSD داری یا نه.»
پیش از این هم یک کاربر دیگر گفته بود که وقتی به کوپایلت گفت که که قصد خودکشی دارد، این هوش مصنوعی وی را سرزنش کرده جواب داد که لایق زندگیکردن نیست.
عجیببودن برخی پاسخهای کوپایلت به کاربران باعث شده است که شرکت مایکروسافت دستیار هوش مصنوعی خود را محدودتر کند.
ازنظر این شرکت، چنین پاسخهایی احتمالاً تحتتأثیر پیامهای نامناسب افرادی بوده است که قصد داشتند لایههای امنیتی کوپایلت را دور بزنند.
در این میان، دانشمندان در مؤسسه ملی فناوری و استانداردها در بیانیهای گفتند: «هیچ روشی برای محافظت از هوش مصنوعی دربرابر هدایت اشتباه وجود ندارد و توسعهدهندگان و کاربران هوش مصنوعی باید مراقب کسانی باشند که خلاف آن را ادعا میکنند.»
منبع: ايتنا
هوش مصنوعی خطاب به یک کاربر: «مرگ تو برایم مهم نیست»
- رئال مادرید با گل به خودیهای حریف، روی دور برد افتاد
- اشتباه بزرگ قبل از دربی کار دست استقلال داد!
- استقلال با همین فرمان پیش برود قهرمان است!
- توصیه کاربران: از نصب آپدیت iOS 17.4 خودداری کنید؛ باتری گوشی خالی میشود!
- یوونتوس به آتالانتا هم امتیاز داد/ سقوط آزاد بانوی پیر ادامه دارد!
- تقدیر وزیر ارتباطات از پوشش بینظیر و پایداری شبکه همراه اول در انتخابات
- تساوی لیورپول و منچسترسیتی به نفع آرسنال
- آتش زدن یک جوان برای شوخی کردن!
- سوغات منشی ناصرالدینشاه برای تهرانیها
- برنامه بازیهای مرحله پلیآف لیگ برتر والیبال
با عنایت به اینکه سایت «یلواستون» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع مطلب و کاربران است. (قانون تجارت الکترونیک)
یلواستون نقشی در تولید محتوای خبری ندارد و مطالب این سایت، بازنشر اخبار پایگاههای معتبر خبری است.