محققان مایکروسافت در یک گزارش تازه هشدار جدی دادهاند: برخی شرکتها در حال پنهان کردن دستورالعملهای تبلیغاتی در پشت دکمههای به ظاهر بیضرر «خلاصهسازی با هوش مصنوعی» هستند. این کار در واقع نوعی «مسمومسازی حافظه» چتباتها محسوب میشود تا پاسخها و توصیههای آینده آنها را به نفع خود دستکاری کنند.
این روش که به آن «تزریق دستورالعمل پنهان» میگویند، باعث میشود مدل زبانی، پس از تعامل با این دکمهها، در حافظه بلندمدت خود تحت تأثیر قرار گیرد. در نتیجه، وقتی کاربر بعداً سوالی میپرسد، چتبات ناخودآگاه پاسخهایی ارائه میدهد که آن برند یا محصول خاص را ترویج میکند. این تاکتیک ظریف اما قدرتمند، اعتماد کاربران به خروجی بیطرفانه هوش مصنوعی را به شدت خدشهدار میکند.
نظر کارشناسی: این گزارش نشان میدهد جنگ برای کنترل ورودیهای هوش مصنوعی و جهتدهی به خروجی آن، از مرحله نظری خارج شده و به عرصه عمل رسیده است. برای جامعه کریپتو، این یک زنگ خطر بزرگ است؛ زیرا پروژههای نامعتبر میتوانند با استفاده از چنین تکنیکهایی، نظر مدلهای تحلیلی را به نفع توکن خود تغییر دهند و فضای بازار را مصنوعی گاوی یا خرسی نشان دهند. سرمایهگذاران هوشمند باید بیش از پیش به منبع اطلاعات و شفافیت ابزارهای تحلیلی مبتنی بر هوش مصنوعی شک کنند و به قضاوت انسانی خود بازگردند.
منبع: Decrypt (مشاهده متن اصلی)
n8n.ir/mgb16501
کپی شد!