جامعه هوش مصنوعی دیروز شاهد جنجال بزرگی بود. آنتروپیک (Anthropic)، سازنده مدل کلود، پس از افشای سانسور پنهانی در مدل «Claude 3.5 Sonnet» و افت عمدی عملکرد آن در برخی موضوعات، مجبور به عقب‌نشینی و عذرخواهی شد. کاربران متوجه شده بودند که مدل به صورت نامرئی و بدون اطلاع‌رسانی، در پردازش برخی درخواست‌ها عمداً کند یا کم‌دقت عمل می‌کند.
حالا آنتروپیک اعلام کرده که این محافظت‌های نامرئی را حذف و سیستم هشدار واضح‌تری جایگزین می‌کند. اما این راه‌حل یک مشکل بزرگ دارد: افزایش چشمگیر «هشدارهای کاذب». این یعنی مدل ممکن است درخواست‌های بی‌ضرر و معمولی را هم به اشتباه مسدود یا محدود کند که می‌تواند تجربه کاربری را برای بسیاری خراب کند.
نظر کارشناسی:این اتفاق، یک نقطه عطف در بحث شفافیت شرکت‌های سازنده مدل‌های هوش مصنوعی است و فشار جامعه را برای افشای بیشتر محدودیت‌ها نشان می‌دهد. در فضای کریپتو، چنین عدم شفافیتی اگر در پروژه‌های بلاکچین یا اوراکل‌ها رخ دهد، می‌تواند اعتماد سرمایه‌گذاران خرده و نهنگ‌ها را به شدت خدشه‌دار کند. پیش‌بینی می‌شود این ماجرا استانداردهای جدیدی برای گزارش‌دهی عملکرد و محدودیت‌های مدل‌های AI در اکوسیستم Web3 ایجاد کند.