بشکن Beshkan

😒 هوش مصنوعی جدید انتروپیک از دسترس کاربران غیرآمریکایی خارج شد شرکت انتروپیک، سازنده چت‌بات کلاود، تنها سه روز پس از رونمایی از دو مدل قدرتمند جدید خود، دسترسی کاربران به «کلاود فیبل ۵» (Claude Fable 5) و «کلاود میتوس ۵» (Claude Mythos 5) را به‌طور ناگهانی متوقف کرد. 🔴این تصمیم پس از دریافت یک دستور رسمی از دولت آمریکا اتخاذ شده است. بر اساس این دستور، هیچ تبعه خارجی، حتی در صورت سکونت در آمریکا، نباید به این دو مدل دسترسی داشته باشد. محدودیت اعلام‌شده کارکنان غیرآمریکایی خود شرکت انتروپیک را نیز شامل می‌شود. با توجه به دشواری اجرای فوری چنین محدودیتی برای گروه‌های مختلف کاربران، انتروپیک اعلام کرد که برای رعایت کامل دستور دولت، دسترسی به هر دو مدل را فعلا برای تمام کاربران در سراسر جهان قطع کرده است. سایر مدل‌های این شرکت، از جمله «کلاود اوپوس ۴.۸» (Claude Opus 4.8)، همچنان فعال هستند. 🔴فیبل ۵ نسخه عمومی و دارای محدودیت‌های امنیتی مدل میتوس ۵ است. این مدل در صورت تشخیص درخواست‌های حساس، به‌ویژه در حوزه امنیت سایبری، پاسخ‌گویی را به مدل اوپوس ۴.۸ واگذار می‌کرد. در مقابل، میتوس ۵ با محدودیت‌های کمتر، تنها در اختیار گروه محدودی از متخصصان امنیت سایبری، شرکت‌های زیرساختی و شرکای مورد تأیید قرار گرفته بود. انتروپیک پیش‌تر گفته بود این مدل توانایی بسیار بالایی در شناسایی و بهره‌برداری از آسیب‌پذیری‌های نرم‌افزاری دارد؛ قابلیتی که می‌تواند هم برای دفاع سایبری و هم برای حملات مخرب استفاده شود. 🔴به گفته انتروپیک، دولت آمریکا جزئیات مشخصی درباره تهدید ادعایی ارائه نکرده و تنها به احتمال وجود روشی برای دور زدن محدودیت‌های امنیتی فیبل ۵ اشاره کرده است؛ روشی که در اصطلاح «جیلبریک» (Jailbreak) نامیده می‌شود. جیلبریک در هوش مصنوعی به روشی گفته می‌شود که با استفاده از دستورهای خاص، مدل را وادار می‌کند محدودیت‌های حفاظتی خود را نادیده بگیرد و به درخواست‌هایی پاسخ دهد که در حالت عادی باید مسدود شوند. انتروپیک می‌گوید نمونه‌ای که بررسی کرده، تنها به شناسایی تعداد محدودی آسیب‌پذیری ساده و از پیش شناخته‌شده منجر شده است؛ آسیب‌پذیری‌هایی که مدل‌های عمومی دیگر نیز قادر به پیدا کردن آن‌ها هستند. این شرکت تأکید کرده که تاکنون هیچ روش عمومی و فراگیری برای عبور گسترده از محدودیت‌های فیبل ۵ شناسایی نشده است. 🔴انتروپیک با وجود اجرای دستور دولت آمریکا، با این تصمیم مخالفت کرده و گفته است قطع دسترسی صدها میلیون کاربر به یک مدل تجاری، صرفاً به دلیل گزارش یک جیلبریک محدود، اقدام متناسبی نیست. این شرکت هشدار داده است که اگر چنین معیاری درباره سایر شرکت‌های هوش مصنوعی نیز اعمال شود، عرضه مدل‌های پیشرفته جدید عملا متوقف خواهد شد. انتروپیک اعلام کرده است که این تصمیم را ناشی از یک سوءتفاهم می‌داند و برای بازگرداندن دسترسی کاربران در حال مذاکره با مقام‌های آمریکایی است. ✍ Beshkan