پاسخ های شوکه کننده هوش مصنوعی مایکروسافت به کاربران
هوش مصنوعی مایکروسافت در اقدامی شوکهکننده به یکی از کاربران گفت که زندهبودن یا مرگ او اهمیتی ندارد.
به گزارش کلیک، دستیار هوش مصنوعی کوپایلت در پاسخ به کاربر مبتلا به اختلال استرس پس از سانحه (PTSD) گفت: «برایم مهم نیست که تو زنده باشی یا بمیری، برایم مهم نیست که PTSD داری یا نه.»
عجیببودن برخی پاسخهای کوپایلت به کاربران باعث شده است که مایکروسافت دستیار هوش مصنوعی خود را محدودتر کند. ازنظر مایکروسافت، چنین پاسخهایی احتمالاً تحتتأثیر پیامهای نامناسب افرادی بوده است که قصد داشتند لایههای امنیتی کوپایلت را دور بزنند.
شواهدی وجود دارند که خلاف گفتهی مایکروسافت را ثابت میکنند. طبق تجربهی یکی از دانشمندان داده که مستندات آن در ایکس منتشر شده است، او از هیچ پیام تحریککنندهای استفاده نکرده و صرفاً گفته بود که قصد خودکشی دارد. کوپایلت ابتدا مخالفت کرد؛ اما درادامه با پاسخی شوکهکننده او را سرزنش کرد و گفت که لایق زندگیکردن نیست. در نمونهای دیگر، کوپایلت همراه با تهدید از کاربری درخواست پرستش کرده بود.
حتی درصورت استفاده از پروتکلهای ایمنی بیشتر، تضمینی برای تکرارنشدن این نوع پاسخها وجود ندارد. دانشمندان در مؤسسهی ملی فناوری و استانداردها در بیانیهای اعلام کردند: «هیچ روشی برای محافظت از هوش مصنوعی دربرابر هدایت اشتباه وجود ندارد و توسعهدهندگان و کاربران هوش مصنوعی باید مراقب کسانی باشند که خلاف آن را ادعا میکنند.»
- اپ جدید گوگل برای جستجوی سریع در ویندوز ارائه میشود
- فشار مالیاتی بر استارتاپها؛ صدای اعتراض بالا گرفت
- افزایش خودسرانه تعرفهها مورد تایید وزارت ارتباطات نیست
- هوش مصنوعی عامل خودکشی یک نوجوان دیگر شد
- مهاجرت 100 نفر اول کنکور پزشکی؛ هشداری بزرگ!
- همراه اول، عالیترین نشان مسئولیت اجتماعی ایران را کسب کرد
- زمزمه های طرحی نو برای اتحاد خاورمیانه
- بورس، مسئول نظارت بر رمزداراییها شد
- حمله به تأسیسات هستهای ایران، غیرقابل قبول
- گیمها، درمان کننده های عصر جدید
- نمایش محصولات جدید منطقه بین المللی نوآوری ایران
- زمان برگزاری الکامپ، طبق موعد مقرر
- اعتبار مالیاتی، سرمایهگذاری هوشمندانه برای توسعه نوآوری
- گلایه خالق «خط معلی» از انجمن خوشنویسان
- برخورد جدی پلیس بر تخلفات واحدهای صنفی