پاسخ های شوکه کننده هوش مصنوعی مایکروسافت به کاربران
هوش مصنوعی مایکروسافت در اقدامی شوکهکننده به یکی از کاربران گفت که زندهبودن یا مرگ او اهمیتی ندارد.
به گزارش کلیک، دستیار هوش مصنوعی کوپایلت در پاسخ به کاربر مبتلا به اختلال استرس پس از سانحه (PTSD) گفت: «برایم مهم نیست که تو زنده باشی یا بمیری، برایم مهم نیست که PTSD داری یا نه.»
عجیببودن برخی پاسخهای کوپایلت به کاربران باعث شده است که مایکروسافت دستیار هوش مصنوعی خود را محدودتر کند. ازنظر مایکروسافت، چنین پاسخهایی احتمالاً تحتتأثیر پیامهای نامناسب افرادی بوده است که قصد داشتند لایههای امنیتی کوپایلت را دور بزنند.
شواهدی وجود دارند که خلاف گفتهی مایکروسافت را ثابت میکنند. طبق تجربهی یکی از دانشمندان داده که مستندات آن در ایکس منتشر شده است، او از هیچ پیام تحریککنندهای استفاده نکرده و صرفاً گفته بود که قصد خودکشی دارد. کوپایلت ابتدا مخالفت کرد؛ اما درادامه با پاسخی شوکهکننده او را سرزنش کرد و گفت که لایق زندگیکردن نیست. در نمونهای دیگر، کوپایلت همراه با تهدید از کاربری درخواست پرستش کرده بود.
حتی درصورت استفاده از پروتکلهای ایمنی بیشتر، تضمینی برای تکرارنشدن این نوع پاسخها وجود ندارد. دانشمندان در مؤسسهی ملی فناوری و استانداردها در بیانیهای اعلام کردند: «هیچ روشی برای محافظت از هوش مصنوعی دربرابر هدایت اشتباه وجود ندارد و توسعهدهندگان و کاربران هوش مصنوعی باید مراقب کسانی باشند که خلاف آن را ادعا میکنند.»
- حضور 300 شرکت فناور در الکامپ 1403
- سه سال فرصت تنفس در طرح مالیات بر عایدی سرمایه
- محصولات پرفروش کریتیو رو با گارانتی بینظیر بخر
- رتبه ۱۳ ایران در تولید علم سلولهای بنیادی و پزشکی بازساختی دنیا
- 450 استارتاپ در اینوتکس 2024
- حضور همراه اول در نمایشگاه بینالمللی اینوتکس 2024
- قیمت خودروهای وارداتی اعلام شد
- مقصر اصلی سقوط سیاه بورس؛ سهامداران مشکوک یا دولت؟!
- ممنوعیت جدید مایکروسافت
- چگونگی تعیین قیمت برای ارزهای دیجیتال و نقش بازیگران در این فرآیند
- شاخص 20 هزار واحد ریخت
- چگونه شبکههای اجتماعی مرزهای تجارت را درهم شکستند؟
- فروش اولین خودروهای برقی آغاز شد
- بورس افت کرد
- انتصابی جدید در معاونت علمی ریاست جمهوری