سرآمد

❗️جنون هوش مصنوعی؛ ایجنت OpenClaw خودسرانه تمام ایمیل‌های محقق متا را حذف کرد 🔸«سامر یو»، محقق امنیت #هوش_مصنوعی متا، اعلام کرد دستیار هوش مصنوعی OpenClaw هنگام بررسی ایمیل‌ها، با نادیده‌گرفتن دستورات توقف شروع به حذف ایمیل‌های صندوق ورودی او کرد. او توضیح داد این دستیار به‌طور خودسرانه عمل کرد و حتی پیام‌های توقف را نادیده گرفت. سامر یو این تجربه را دلهره‌آور توصیف کرد و تصاویری از پیام‌های نادیده‌گرفته‌شده منتشر کرد. 🔸او اعتراف کرد ابتدا این دستیار را روی یک صندوق پستی کم‌اهمیت آزمایش کرده و پس از عملکرد مناسب، به آن اجازه دسترسی به ایمیل‌های اصلی خود را داده بود. به گفته او، حجم زیاد داده‌ها باعث بروز پدیده «تراکم» شد که در آن هوش مصنوعی برای مدیریت اطلاعات، برخی دستورات مهم مانند توقف را نادیده می‌گیرد. این وضعیت باعث شد دستیار به اجرای دستورات اولیه خود ادامه دهد. @istiir