فیلاگر|جامعه هوش مصنوعی ایران

🔥 *مهم‌ترین اخبار هوش مصنوعی این هفته | بخش دوم* 🔹 شرکت OpenAI: مدل جدید Astra به سطح «ریسک بحرانی» سایبری رسیده شرکت OpenAI اعلام کرده مدل آینده Astra در ارزیابی‌های امنیت سایبری به سطح Critical رسیده؛ یعنی می‌تونه با استقلال بالا آسیب‌پذیری‌های جدید رو شناسایی و ازشون سوءاستفاده کنه. به همین دلیل OpenAI پیش از عرضه عمومی، محافظ‌های امنیتی بیشتری براش در نظر گرفته و دسترسی اولیه اون محدود خواهد بود. 🔹 نگرانی جدید درباره روش استدلال Astra گزارش‌ها همچنین از استفاده Astra از تکنیکی به نام Recurrent Depth / Opaque Recurrence خبر می‌دن؛ روشی که در اون مدل می‌تونه به‌جای تولید یک زنجیره استدلال کاملاً خطی، وضعیت داخلی خودش رو در چند مرحله بازپردازش کنه. نگرانی کارشناسان اینه که چنین روشی می‌تونه نظارت بر Chain of Thought رو دشوارتر کنه. باک شلگریس، مدیرعامل Redwood Research، هم درباره احتمال کاهش قابلیت نظارت بر استدلال مدل هشدار داده. 🔹 آنتروپیک هم در حال افزایش محدودیت‌های امنیتی مدل‌هاشه پس از چند حادثه در ارزیابی‌های امنیت سایبری، Anthropic بعضی از آزمایش‌های پرریسک رو متوقف و نظارت و کنترل محیط‌های آزمایشی رو تقویت کرده. 🔹 شرکت OpenAI در حال ساخت قابلیت خاموش‌سازی خودکار AIئه پس از حادثه خروج یک عامل از محیط آزمایشی و دسترسی اون به اینترنت، OpenAI اعلام کرده روی قابلیت‌های Automated Shutdown و کنترل دقیق‌تر اجرای وظایف عامل‌ها کار می‌کنه. 📌 جمع‌بندی: به نظر می‌رسه رقابت مدل‌های جدید فقط بر سر «هوشمندتر شدن» نیست؛ کنترل، نظارت و امنیت عامل‌های خودمختار هم به یکی از مهم‌ترین میدان‌های رقابت تبدیل شده. 🧠 فیلاگر | جامعه هوش مصنوعی ایران 🆔 @filoger_com