Threat Signal

🧪 OWASP Top 10 for LLM Applications ⬅️اولین دوره تخصصی LLM Security در ایران، مبتنی بر چارچوب OWASP GenAI Security Project ⬅️ بخش سوم : آسیب پذیری ها| قسمت 4 پارت 3 ⬅️مسیر های ورودی : سطوح ورود تزریق غیرمستقیم - تزریق در بازیابی اسناد یا RAG - محتوای مهاجم در سامانه داخلی - تزریق در نتیجه و توضیح ابزار - تزریق چند رسانه ای در تصویر و صدا - دستور های پنهان و نویسه های نامرئی Prompt Injection: Indirect injection entry levels Injection in document retrieval or RAG Attacker content in internal system Injection in result and Tool description Multimedia injection in image and audio Hidden commands and invisible characters 💻@ThreatSignal

🧪 OWASP Top 10 for LLM Applications ⬅️اولین دوره تخصصی LLM Security در ایران، مبتنی بر چارچوب OWASP GenAI Security Project ⬅️ بخش سوم : آسیب پذیری ها| قسمت 4 پارت 2 ⬅️مرز اعتماد بین منبع اطلاعات و صاحب اختیار - تفاوت میان خطای مدل ، تزریق ، جیلبریک ، سه مشخصه برای توصیف هر تزریق Prompt Injection: The trust boundary between an information source and authority Difference between, model error, injection and jailbreak Three properties for describing an injection 💻@ThreatSignal

🧪 OWASP Top 10 for LLM Applications ⬅️اولین دوره تخصصی LLM Security در ایران، مبتنی بر چارچوب OWASP GenAI Security Project ⬅️ بخش سوم : آسیب پذیری ها| قسمت 4 پارت 1 ⬅️ معنی و انواع تزریق دستور آشنایی با انحراف و تفاوت شکست امنیتی Prompt Injection: Direct Prompt Injection Indirect Prompt Injection 💻@ThreatSignal

🧪 OWASP Top 10 for LLM Applications ⬅️اولین دوره تخصصی LLM Security در ایران، مبتنی بر چارچوب OWASP GenAI Security Project ⬅️ بخش سوم : آسیب پذیری ها| قسمت 4 پارت ⬅️ معنی و انواع تزریق دستور آشنایی با انحراف و تفاوت شکست امنیتی Prompt Injection: Direct Prompt Injection Indirect Prompt Injection 💻@ThreatSignal

🧛OSAFIS PromptLab 👢یک لابراتوار آموزشی برای بررسی رفتار مدل‌های زبانی و آشنایی عملی با امنیت سامانه‌های مبتنی بر هوش مصنوعی ✅این محیط شامل ۲۰ سناریوی عملی و ۴ معماری دفاعی است و امکان مقایسهٔ واکنش مدل به یک ورودی در شرایط مختلف را فراهم می‌کند. کاربر می‌تواند سختی چالش‌ها را تنظیم کند، مسیر اجرای آزمایش را ببیند و گزارش پیشرفت خود را ذخیره کند ✅موضوع سناریوها شامل تزریق پرامپت، ورودی‌های غیرمستقیم، بازیابی اطلاعات و تعامل با ابزارهاست. تمرکز لابراتوار بر فهم سازوکار هر سناریو و تأثیر دفاع‌ها بر نتیجهٔ آزمایش است ✅لابراتوار PromptLab روی کامپیوتر شخصی و با مدل محلی اجرا می‌شود؛ برای ویندوز، مک و لینوکس آماده شده و از فارسی، انگلیسی، چینی، روسی و عربی پشتیبانی می‌کند 🌟دریافت و راهنمای نصب 💭پیشنهادها و گزارش مشکلات برای بهبود نسخه‌های بعد: 💎report@osafis.org 🌍https://osafis.org

🎯گروه کانال میتونید عضو بشید و با هم تبادل نظر داشته باشید ✈️https://t.me/+ioiozMH_sYw0ZGU0

💻بچه‌ها سؤال کردن که من دقیقاً تو چه زمینه‌هایی فعالیت دارم، باید بگم که در چند حوزه تا جایی که تونستم، به‌صورت جدی ‌تر و عمیق ‌تر کار و مطالعه کردم از جمله مهندسی معکوس، Hardware Reverse Engineering، الکترونیک، امنیت وب، امنیت هوش مصنوعی، مباحث پایه‌ی برق و حتی Red Teaming تو دوران دانشگاه هم از بچه‌های مکاترونیک چیزهای زیادی یاد گرفتم؛ چون مکاترونیک خودش یک حوزه‌ی میان ‌رشته‌ایه و ترکیبی از مکانیک، الکترونیک، کنترل، برنامه‌نویسی و سیستم‌های هوشمند محسوب می‌شه. الان شاید بعضی‌هاتون بگید چطور ممکنه یک نفر تو چند حوزه مختلف فعالیت کرده باشه، ولی همون‌طور که می‌بینید، ممکنه؛ مخصوصاً وقتی چند سال به‌صورت جدی روی حوزه‌های مختلف وقت گذاشته باشی. شاید در آینده یک دوره‌ی مهندسی معکوس هم براتون آماده کنم، اما فعلاً تمام تمرکزم روی دوره‌ی OWASP GenAI Security هست و سعی می‌کنم طی یکی دو روز آینده قسمت جدیدش رو هم منتشر کنم❤️❤️

🔩 FERRUM NOCTIS v1.0.0 Industrial Cybersecurity Platform 🖤یک پلتفرم جامع امنیت سایبری برای زیرساخت‌های OT / ICS / SCADA است که برای شناسایی، تحلیل، پایش و ارزیابی امنیت شبکه‌ها و تجهیزات صنعتی توسعه داده شده است. 🖤این پلتفرم قابلیت‌های Asset Discovery، ICS/OT Scanning، Deep Port Analysis، Security Analysis، Asset Management، Network Topology، Monitoring و Central Dashboard را در یک اکوسیستم واحد ترکیب می‌کند. 🖤 در قلب پروژه، یک لایه‌ی AI تخصصی امنیت صنعتی قرار دارد که با پشتیبانی از مدل‌های مختلف امکان تحلیل یافته‌های امنیتی و داده‌های OT را حتی در محیط‌های حساس و ایزوله فراهم می‌کند. 🖤همچنین بخش SCADA Simulation امکان شبیه‌سازی گرافیکی تجهیزات و سناریوهای صنعتی را برای تحقیق و ارزیابی امنیتی فراهم می‌کند. 🖤درواقع FERRUM NOCTIS یک Port Scanner معمولی نیست؛ هدف آن ساخت یک پلتفرم کامل Industrial Cybersecurity در سطح محصولات Enterprise است. 🖤 از نظر کلاس محصول و دامنه‌ی هدف، Claroty و Dragos دو رقیب/مرجع اصلی جهانی FERRUM NOCTIS محسوب می‌شوند. 🖤به احتمال زیاد بزودی در کانال Ping با کمک جناب آقای مهندس علی کیائی‌فر به یک محصول قابل ارائه تبدیل خواهد شد . 💻@ThreatSignal

🔩 FERRUM NOCTIS v1.0.0 Industrial Cybersecurity Platform 🖤یک پلتفرم جامع امنیت سایبری برای زیرساخت‌های OT / ICS / SCADA است که برای شناسایی، تحلیل، پایش و ارزیابی امنیت شبکه‌ها و تجهیزات صنعتی که توسط من توسعه داده شده است. 🖤این پلتفرم قابلیت‌های Asset Discovery، ICS/OT Scanning، Deep Port Analysis، Security Analysis، Asset Management، Network Topology، Monitoring و Central Dashboard را در یک اکوسیستم واحد ترکیب می‌کند. 🖤 در قلب پروژه، یک لایه‌ی AI تخصصی امنیت صنعتی قرار دارد که با پشتیبانی از مدل‌های مختلف امکان تحلیل یافته‌های امنیتی و داده‌های OT را حتی در محیط‌های حساس و ایزوله فراهم می‌کند. 🖤همچنین بخش SCADA Simulation امکان شبیه‌سازی گرافیکی تجهیزات و سناریوهای صنعتی را برای تحقیق و ارزیابی امنیتی فراهم می‌کند. FERRUM NOCTIS یک Port Scanner معمولی نیست؛ هدف آن ساخت یک پلتفرم کامل Industrial Cybersecurity در سطح محصولات Enterprise است. 🖤 از نظر کلاس محصول و دامنه‌ی هدف، Claroty و Dragos دو رقیب/مرجع اصلی جهانی FERRUM NOCTIS محسوب می‌شوند. 🖤به احتمال زیاد بزودی در کانال Ping با کمک جناب آقای مهندس علی کیائی‌فر به یک محصول قابل ارائه تبدیل خواهد شد . 💻@ThreatSignal

🔩 FERRUM NOCTIS v1.0.0 Industrial Cybersecurity Platform 🖤یک پلتفرم جامع امنیت سایبری برای زیرساخت‌های OT / ICS / SCADA است که برای شناسایی، تحلیل، پایش و ارزیابی امنیت شبکه‌ها و تجهیزات صنعتی توسعه داده شده است. 🖤این پلتفرم قابلیت‌های Asset Discovery، ICS/OT Scanning، Deep Port Analysis، Security Analysis، Asset Management، Network Topology، Monitoring و Central Dashboard را در یک اکوسیستم واحد ترکیب می‌کند. 🖤 در قلب پروژه، یک لایه‌ی AI تخصصی امنیت صنعتی قرار دارد که با پشتیبانی از مدل‌های مختلف امکان تحلیل یافته‌های امنیتی و داده‌های OT را حتی در محیط‌های حساس و ایزوله فراهم می‌کند. 🖤همچنین بخش SCADA Simulation امکان شبیه‌سازی گرافیکی تجهیزات و سناریوهای صنعتی را برای تحقیق و ارزیابی امنیتی فراهم می‌کند. FERRUM NOCTIS یک Port Scanner معمولی نیست؛ هدف آن ساخت یک پلتفرم کامل Industrial Cybersecurity در سطح محصولات Enterprise است. 🖤 از نظر کلاس محصول و دامنه‌ی هدف، Claroty و Dragos دو رقیب/مرجع اصلی جهانی FERRUM NOCTIS محسوب می‌شوند. 🖤به احتمال زیاد بزودی در کانال Ping با کمک جناب آقای مهندس علی کیائی‌فر به یک محصول قابل ارائه تبدیل خواهد شد . Creator: Aryan Chehreghani

عجب داستانی داریم ما با این🤨

💤یادتون هست زمانی یکسری لابراتوار وجود داشتن مثل Juice Shop و DVWA و... که تست میزدید؟ دارم یک نسخه عین همون رو براتون درست میکنم قسمت بعدی یعنی Prompt Injection آماده شده اما میخوام قشنگ همه چیز رو یاد بگیرید طبق استاندارد تست کنید با خیال راحت در یک محیط امن و متن باز حتی قابل توسعه برای خودتون نکته بعدی اینکه براتون جایزه هم آماده کردم و در پایان دوره برای دانشجو های موفق ارسال میشه. 💻@ThreatSignal

🛡مدت‌هاست روی یک سؤال مشخص در امنیت هوش مصنوعی کار می‌کنم ، آیا برای تحلیل امنیت یک سیستم هوشمند، دانستن نام آسیب‌پذیری یا نوع حمله کافی است؟ ⬅️سیستم‌های هوشمند امروز فقط یک مدل نیستند؛ داده، حافظه، RAG، Agent، ابزارها، زیرساخت، انسان و سطوح مختلف اختیار در کنار یکدیگر قرار می‌گیرند. در چنین سیستمی مسئله فقط این نیست که «چه حمله‌ای اتفاق افتاد»؛ باید بتوان مشخص کرد چه چیزی قرار بود محافظت شود، چه کسی چه اختیاری داشت، چه قرارداد امنیتی نقض شد، شکست چگونه در سیستم منتشر شد و چه شواهدی آن را اثبات می‌کنند. از اواسط ۲۰۲۵ روی این مسئله تحقیق کردم و نتیجه این مسیر به پروژه‌ای رسید به نام: 🚨OSAFIS (Open Security Assessment Framework for Intelligent Systems) ⬅️یک چارچوب پژوهشی باز برای تحلیل و ارزیابی امنیت سیستم‌های هوشمند و خودمختار، OSAFIS قرار نیست صرفاً فهرست دیگری از آسیب‌پذیری‌ها باشد هدفش ارائه یک مدل تحلیلی برای نگاه کردن به ساختار شکست امنیتی در کل سیستم است (framework for asking better questions about AI security) ⬅️نسخه اولیه پروژه و مستندات آن اکنون منتشر شده است: 🌍https://osafis.org

➖کمتر از ۲ ساعت تا رونمایی رسمی چارچوب پژوهشی تحلیل و ارزیابی شکست‌های امنیتی در سیستم‌های هوشمند 🌐تا این لحظه، در بررسی‌های من نمونه‌ای با همین دامنه و ساختار تحلیلی در سطح بین‌المللی پیدا نشده.

⚠️ سازمان‌ها، صرافی‌ها، بانک‌ها، شرکت‌ها، کانال‌ها و... در کشور و خارج کشور چطور دارن مورد نفوذ قرار میگیرن؟ ⚠️هدف Info S t e a le r چیه؟ 🗂️اعتبار نامه ها یا ZIP L o g ها چی هستن؟ 💵کیف پول‌ها (Walletها) چطور به سرقت می‌رن؟ ✈️کانال‌های تلگرام چطور مورد نفوذ قرار می‌گیرن؟ ⚠️یک صرافی یا پلتفرم بزرگی مثل نوبیتکس یا اسنپ‌فود چطور ممکنه دچار رخداد امنیتی بشه؟ ⚠️تحلیل من از روش نفوذ به شبکه خبری ایران اینتر نش نال و... 🔑سرقت کوکی و Session H ij ac ki ng چیه؟ ⚠️همچنین به کمبودها و مشکلات اساسی امنیت سایبری در کشور اشاره کردم و تمام مطالب با هدف آگاهی‌رسانی، شناخت تهدیدات و افزایش سطح امنیت تهیه شده‌اند. 💻@ThreatSignal

💻مشکلات زیادی شناسایی کردم و چند نکته به OWASP گزارش کردم :

من طی چند روز گذشته، مجموعه‌ای از تست‌ها را با تمرکز بر پرامپت اینجکشن روی مدل‌های زبانی پرکاربرد، از جمله Opus 5، انجام داده‌ام. مشاهده‌ی اصلی من این است که مدل‌ها با سرعت چشمگیری در برابر سناریوهای رایج و شناخته‌شده‌ی پرامپت اینجکشن مقاوم‌تر شده‌اند. با این حال، این به معنای از بین رفتن این آسیب‌پذیری نیست و در بسیاری از مدل‌ها و اپلیکیشن‌ها همچنان قابل بهره‌برداری است. نکته‌ی مهم‌تر این است که payloadها و سناریوهای مشخص عمر کوتاهی دارند. پرامپتی که امروز جواب می‌دهد، ممکن است با انتشار نسخه‌ی جدید مدل یا به‌روزرسانی لایه‌های محافظتی محصول دیگر کار نکند. علاوه بر این، به دلیل احتمالی بودن خروجی مدل‌ها، حتی یک پرامپت ثابت روی یک نسخه‌ی ثابت از مدل هم همیشه نتیجه‌ی یکسانی نمی‌دهد. در نتیجه، بازتولیدپذیری (Reproducibility) حمله‌ها تضمین‌شده نیست و نمی‌توان پیش‌بینی کرد که یک الگوی مشخص تا یک سال آینده همچنان مؤثر باقی بماند. این وضعیت با آسیب‌پذیری‌های سنتی تفاوت اساسی دارد. در SQL Injection می‌توان مرز میان کد و داده را به‌طور قطعی برقرار کرد (برای مثال با Parameterized Query)، و چون رفتار سیستم قطعی است، با بررسی سازوکار دفاعی می‌توان مشخص کرد که آیا قابل دور زدن است یا نه. در مدل‌های زبانی چنین مرز قطعی‌ای وجود ندارد. بنابراین موفق یا ناموفق بودن چند نمونه‌ی مشخص، مانند تلاش برای نشت System Prompt، درباره‌ی امنیت کل سیستم نتیجه‌ی قطعی به دست نمی‌دهد. پیشنهاد من این است که در LLM01، تأکید اصلی بر ریشه‌ی آسیب‌پذیری (نبودن مرز میان دستور و داده)، دسته‌بندی‌های کلی، سطوح حمله‌ی ممکن و روش ارزیابی باشد، و مثال‌ها صراحتاً به‌عنوان «الگو» معرفی شوند، نه payloadهای ماندگار. به نظر من تکیه بر سناریوهای مشخص ممکن است این برداشت نادرست را ایجاد کند که مقاوم بودن مدل در برابر همان سناریوها به معنای امن بودن سیستم است.

پ.ن:با چیزهایی که تا اینجای دوره یاد گرفته‌اید، به راحتی معنی این متن را متوجه می‌شوید. 💻@ThreatSignal