مقالاتی که با جادوی نامرئی، نمره قبولی می‌گیرند

طبق گزارشی از روزنامه گاردین، برخی پژوهشگران در اقدامی جنجالی، از تکنیک‌های پنهانی برای اثرگذاری بر سیستم‌های هوش مصنوعی داوری مقالات استفاده می‌کنند. این تکنیک شامل درج متن‌هایی نامرئی در فایل مقالات است که تنها برای مدل‌های زبانی بزرگ (LLMs) قابل شناسایی‌اند.

این دستورات که در ظاهر برای انسان نامرئی‌اند (با رنگ سفید نوشته می‌شوند)، طوری طراحی شده‌اند که خروجی‌های داوری هوش مصنوعی را به سمت بازخوردهای مثبت هدایت کنند.

این افشاگری، نگرانی‌هایی را در خصوص اخلاق پژوهشی، اعتبار روندهای داوری و سوءاستفاده‌های احتمالی از ابزارهای هوش مصنوعی در فضای علمی برانگیخته است.