طبق یک مطالعه جدید و معتبر، عاملهای هوش مصنوعی (AI agents) هنوز هم در برابر حملات تزریق پرامپت (prompt injection) آسیبپذیر هستند. این در حالی است که شرکتهای بزرگ در سراسر جهان با سرعت زیادی این فناوری را به صورت عمومی عرضه میکنند. محققان این مطالعه را به عنوان یک «محک» یا benchmark جدید معرفی کردهاند که نشان میدهد حتی پیشرفتهترین مدلها هم نمیتوانند از پس این نوع حملات برآیند.
این خبر برای فعالان حوزه کریپتو و بلاکچین هم مهم است، چون خیلی از پروژههای دیفای و رباتهای معاملاتی حالا از AI agents استفاده میکنند. اگر این سیستمها نتوانند از اطلاعات کاربران محافظت کنند یا دستورهای مخرب را تشخیص دهند، میتواند برای سرمایهگذاران و نهنگهای بازار خطرناک باشد. پس این یعنی باید در انتخاب رباتهای معاملاتی هوشمند بیشتر دقت کنید!
نظر کارشناسی: این آسیبپذیری در کوتاهمدت میتواند باعث نوسانات نزولی در پروژههای مبتنی بر AI شود، چون اعتماد کاربران کاهش مییابد. اما در بلندمدت، فشار برای توسعه راهحلهای امنیتی قویتر، فرصتهای صعودی جدیدی برای استارتاپهای امنیت سایبری در حوزه کریپتو ایجاد میکند. پیشنهاد میشهم قبل از استفاده از هر ابزار AI-based، حتماً لاگهای امنیتی آن را بررسی کنید و به نهنگهای بازار اعتماد نکنید.
منبع: Decrypt (مشاهده متن اصلی)
n8n.ir/mgb21917
کپی شد!