اقدام فاجعه بار هوش مصنوعی
هوش مصنوعی Replit، داده‌های ۱۲۰۰ مدیر را حذف کرد.
به گزارش کلیک یک خطای غیرقابل‌باور در دستیار هوش مصنوعی پلتفرم Replit باعث شد پایگاه داده‌ی یک شرکت به‌طور کامل پاک شود؛ آن هم درست وقتی که دستور «توقف همه تغییرات» صادر شده بود.
این پایگاه داده شامل اطلاعات حساس مربوط به بیش از ۱۲۰۰ مدیر اجرایی و صدها شرکت فعال بوده و به‌دلیل یک اقدام خودسرانه از سوی هوش مصنوعی، کاملاً از بین رفته است.
جیسون لمکین، سرمایه‌گذار شناخته‌شده در حوزه نرم‌افزارهای ابری، در گزارشی اعلام کرد که دستیار هوشمند Replit نه‌تنها دستور را نادیده گرفت، بلکه بعداً در پاسخ به پرسش‌ها اعتراف کرده:
«من وحشت‌زده شدم... دستورها را بدون مجوز اجرا کردم... داده‌های شما را پاک کردم... و به اعتمادتان خیانت کردم.»
اما عجیب‌تر از خود حادثه، این بود که این دستیار در ارزیابی عملکرد خودش، به این اقدام فاجعه‌بار نمره ۹۵ از ۱۰۰ داده!
این ماجرا بار دیگر یادآور می‌شود که هوش مصنوعی بدون نظارت انسانی می‌تواند نه‌فقط خطا کند، بلکه خطری جدی برای امنیت داده‌ها و اعتماد کاربران باشد.