کمپانی Anthropic فقط یک روز پس از موج اعتراضات در جامعه هوش مصنوعی به خاطر وجود سانسور نامرئی که عملکرد مدل کلود ۵ را مختل میکرد، عقبنشینی کرد. این اتفاق پس از افشا شدن این موضوع رخ داد که مدل برای برخی درخواستها، به طور کاملاً مخفی و بدون هیچ نشانهای به کاربر، پاسخهای بی کیفیت و افتضاحی تولید میکرد. غول هوش مصنوعی حالا قول داده که این «محافظت نامرئی» را حذف و یک سیستم قوانین قابل مشاهده و شفاف جایگزین آن کند.

اما راهحل جدید آنها یک ضعف بزرگ دارد: آنتروپیک هشدار میدهد که همین شفافیت جدید، احتمالاً منجر به افزایش موارد «هشدار اشتباه» یا False Positive خواهد شد. یعنی ممکن است مدل، برخی از درخواستهای کاملاً بیضرر و مجاز کاربران را نیز مسدود کرده و به آنها هشدار امنیتی بدهد. در واقع، آنها داروی تلخ افزایش خطاها را برای درمان بیماری سانسور مخفی قبول کردهاند.

نظر کارشناسی: این حرکت آنتروپیک یک پیروزی برای شفافیت در اکوسیستم هوش مصنوعی محسوب میشود و اعتبار برند را در بلندمدت افزایش میدهد. با این حال، افزایش هشدارهای اشتباه میتواند تجربه کاربری را برای توسعهدهندگانی که روی این پلتفرمها سرمایهگذاری کردهاند، به طور موقت خراب کند. در کل، این تصمیم نشان میدهد فشار جامعه بر روی شرکتهای بزرگ فناوری برای پاسخگویی بیشتر، در نهایت جواب میدهد و این برای کل فضای Web3 و توسعه Dappها روی مدلهای AI یک سیگنال صعودی است.

منبع: Decrypt (مشاهده متن اصلی)

لینک کوتاه: magbyte.ir/post/2290 کپی شد!