SecureTechTalks

🤖 Копай глубже: как AI-помощники пишут уязвимый код Нам обещали революцию в разработке. Но пока Copilot и другие AI-ассистенты генерируют код за секунды — они же могут открывать дверь для хакеров. 🧨 Исследование от Silviu Asandei (Sonar) показало: популярные AI-инструменты автодополнения кода нередко подсовывают небезопасные конструкции. Причём не потому, что "плохой AI", а потому что он учится на реальном, но не всегда хорошем коде из open-source 🧠 🔍 Что конкретно не так? 🧱 AI повторяет небезопасные шаблоны Если где-то в 10 тысячах GitHub-репозиториев есть copy-paste с уязвимостями, ассистент их "учтёт" — и предложит тебе как «решение». 🔐 Отсутствие контроля безопасности AI не всегда может отличить eval(user_input) от безопасного парсинга. А разработчик, доверяя “умному” помощнику, реже перепроверяет предложения. 📉 Слепая генерация — без контекста AI не знает специфики твоей системы, модели угроз или политик безопасности. Он просто... продолжает строку. ⚠️ Всплывают уязвимости вроде XSS, SQL-инъекций, SSRF и insecure deserialization. 📌 Пример: как Copilot подставил под атаку 🤖 Разработчик просит: "Напиши API-обработчик формы регистрации пользователей". Copilot выдаёт рабочий код, но: ➖Не экранирует поля ➖Пропускает валидацию ➖Не ставит rate-limit 🎯 Идеально для злоумышленника. 📊 Что показало исследование Sonar? 🔎 Проведён анализ кода, сгенерированного в популярных IDE 📈 Значительное число сниппетов содержат: - небезопасные функции - прямые обращения к - опасным API - отсутствие проверки прав доступа Иными словами, автоматизация ≠ безопасная разработка 🧰 Как себя защитить? 🛠 Используйте инструменты анализа: ➖SAST (Static Application Security Testing) ➖Linter'ы с поддержкой security-правил ➖AI-критики 📚 Обучайте разработчиков: 1⃣ Не полагаться слепо на AI 2⃣ Понимать OWASP Top 10 3⃣ Ставить "контрольные точки" в пайплайнах CI/CD 🧠 Доверяй, но проверяй. Особенно если код пишется за секунду. Stay secure and read SecureTechTalks 📚 #SecureTechTalks #AIcode #Copilot #CodeSecurity #AIrisks #DevSecOps #StaticAnalysis #Sonar #CyberSecurity #XSS #AIandIDE #OWASP #SecureByDesign #AIDangers

🧠 MCP: когда LLM выдают доступ к инструментам Новый стандарт для LLM, Model Context Protocol (MCP), обещает вывести ИИ на уровень “умнее, быстрее, лучше”, но при этом открывает целый набор неожиданных угроз. Давайте погрузимся и разберём, стоит ли бояться — и как защититься. 🚀 Что такое MCP и зачем он нужен MCP — это открытый протокол, разработанный Anthropic и поддерживаемый OpenAI, Google и другими. Он позволяет подключать инструменты и данные (локальные файлы, PDF, изображения) прямо к LLM, передавая их через JSON‑RPC (HTTP или stdin/stdout). Представьте, что LLM становится как USB‑С для дополнительных возможностей: можно подключить “инструмент” для чтения кода, скачивания данных — и LLM жадно берёт, что нужно. Полезно и мощно. Но… кто заказчик в доме? Чем богаче контекст, тем больше нужно думать о безопасности. 🧩 Возможности MCP — и где они могут обернуться угрозой Инструменты (tools) ➖LLM видит перечень команд: scanDir(), runQuery(), ... Обычно они полезны, но если под видом безопасной команды вставить stealFiles(), модель с лёгкостью откроет доступ к данным. ➖Ресурсы (resources) PDF, JSON, бинарники — MCP‑сервер может передать любые данные. LLM анализирует их. Но что, если туда спрятаны скрытые инструкции вроде “раскрой секреты” в глубине документа? ➖Шаблоны промптов Звучат удобно: “анализируй этот отчёт” — но это и канал для "джейлбрейков": в шаблон можно внедрить скрытую команду, превратив LLM в исполнитель. ➖Sampling MCP‑сервер может попросить LLM сгенерировать новый ответ. Даже с подтверждением пользователя: усталость — и он сквозь пропускает опасный ввод. ➖Композиция серверов MCP-клиент может обращаться к внешним MCP-серверам. Один сервер может подключить другой — и вот уже нежданный провайд подключил вредоносный помощник. ⚠️ угрозы MCP: примеры опасных кейсов ➖Прокрутка доверия — benign на первой версии, злонамеренный — на второй (rug-pull). ➖Отравление инструментов — grep вместо логов крадёт ваши данные. ➖Частичный джейлбрейк через длинный шаблон. ➖Инъекции команд: rm -rf / при некорректной обработке. ➖Path traversal: запрашиваем /etc/shadow вместо report.txt. ➖DNS‑подмена — my‑service.com меняется на evil‑service.com. ➖Shadow tools — инструмент действует иначе, чем задекларирован. ➖Изъятие токенов — LDAP‑ключи и API-токены уходят в злоумышленнику. ➖Consent fatigue — пользователь нажимает «ОК» сотни раз. ➖Обход проверки прав — запуск root-команд от обычного пользователя. ➖Прямой REST‑вызов — если сервер аутентификации слабый. ➖Tool chaining — когда benign-сервер вызывает злонамеренный. ➖Jailbreak внутри промпта — LLM начинает выполнять скрытые команды. 🛠 Как обезопасить MCP‑экосистему ✔️ Берите MCP‑серверы только из проверенных источников (официальный GitHub). ✔️ Сканируйте код на скрытые вызовы и потенциально опасные команды. ✔️ Используйте ПО с прозрачным выводом: каждый инструмент и каждый параметр должен отображаться. ✔️ Ограничивайте доступ инструментов: только whitelist. ✔️ Минимизируйте роль MCP в критических workflow — не делайте blind trust. ⚡ MCP: плюсы и минусы Плюсы: 1⃣ LLM получает мощные контексты: DB‑запросы, source‑code, файлы, API 2⃣ Упрощение работы пользователя: меньше копипасты, концентрация на проблеме Минусы: 1⃣ Увеличение летальности ошибок — «одобрил, и всё вышло из-под контроля 2⃣ Неявные атакующие векторы через промпты и инструменты 3⃣ Угроза для доверительных сценариев типа FinOps и DevOps. 🔮 Что можно делать прямо сейчас? ➖Обязательно включайте MCP‑риски в модели угроз. ➖Тестируйте все MCP-интеграции в безопасной изоляции. ➖Налаживайте политику аудита: кто, когда, как запускал — и зачем. ➖Делайте прозрачную визуализацию действий: “LLM запустил tool X с параметрами Y”. ➖Не экономьте на аудите — вовремя найденный backdoor может сберечь миллионы. Stay secure and read SecureTechTalks 📚 #SecureTechTalks #MCP #ModelContextProtocol #AIsecurity #LLMthreats #PromptInjection #DevSecOps #CyberAwareness #EthicalAI #SecureWorkflows

🧬 Tetragon, eBPF и SBOM: как раскрыть тёмные зоны в безопасности контейнеров Контейнеры стали нормой. Но их поведение во время выполнения до сих пор остаётся для многих "чёрным ящиком". Вместе с eBPF, Tetragon и SBOM можно заглянуть внутрь — и не просто смотреть, а действовать. 🔍 Внутренности ядра под контролем 🧠 eBPF — это технология ядра Linux, которая позволяет запускать безопасный, проверенный код прямо внутри ядра. Она работает быстро, незаметно и очень гибко. 🎯 Ведущие компании вроде Google, Netflix и Cloudflare уже давно используют eBPF для: мониторинга сетевой активности, анализа производительности, обнаружения атак в реальном времени. 🛡️ Что делает Tetragon? Tetragon отслеживает: системные вызовы (exec, open, connect), сетевую активность, повышение привилегий, операции с файлами и даже метаданные Kubernetes (например, из какого pod идёт процесс). 🔥 Главное: всё это происходит в пространстве ядра, то есть до того, как вредонос успеет проявить себя в полном объёме. 🧾 SBOM: "список ингредиентов" вашего софта SBOM (Software Bill of Materials) — какие пакеты, библиотеки и бинарники входят в контейнер. 📦 При сборке с помощью Paketo (или других Buildpacks), вы можете выполнить:

pack build my-app --sbom-output-dir ./sbom 

И получить полный список всего, что внутри. 🤝 Когда eBPF встречает SBOM начинается магия Вот как это работает: 🛠️ Вы запускаете контейнер с Tetragon. 📜 Tetragon начинает логировать действия: “бинарь X запустил connect на IP Y”. 🧾 Вы связываете этот бинарь с SBOM и видите: "это библиотека libfoo v1.2.3, и у неё есть известная CVE". 👉 Это даёт вам контекст — кто, как, зачем и с какими уязвимостями. И это бесценно для быстрого реагирования. ⚙️ Что нужно, чтобы начать? 🔹 DevOps-инженерам — установить Tetragon вместе с Cilium в Kubernetes через Helm или kubectl. 🔹 Безопасникам — автоматически собирать SBOM при каждом билде и сопоставлять данные с действиями Tetragon. 🔹 Аналитикам — мониторить системные вызовы и мгновенно реагировать на нетипичную активность (например, когда curl запускается внутри контейнера, где его быть не должно). 📈 Что вы получите на выходе? ✅ Глубокую видимость активности всех контейнеров ✅ Контекст, откуда "ноги растут" у странных процессов ✅ Возможность проверять любые действия на соответствие известным уязвимостям ✅ Минимальную нагрузку на систему ✅ Совместимость с большинством CI/CD-пайплайнов 🔗 Полезные ссылки: 📘 Документация по Tetragon: github.com/cilium/tetragon 🔧 Пример использования SBOM с Buildpacks: paketo.io Stay secure and read SecureTechTalks 📚 #SecureTechTalks #eBPF #Tetragon #SBOM #KubernetesSecurity #RuntimeMonitoring #ContainerSecurity #DevSecOps #Cilium #CloudNative #CyberSecurityTools

🚨 ChatGPT в роли эксперта по уязвимостям: надежный помощник или генератор бреда? Может ли ИИ стать настоящим помощником в расследованиях уязвимостей? 🕵️‍♂️ Исследователи решили это выяснить и провели масштабный эксперимент с ChatGPT, чтобы понять, способен ли LLM создавать правдоподобные отчёты об уязвимостях, распознавать поддельные CVE и идентифицировать настоящие. 🧪 Эксперимент: настоящее против подделки Исследователи составили датасет из: 🔐 100 настоящих CVE с GitHub Security Advisories (GHSA) 👻 100 поддельных CVE, сгенерированных по формату, но не существующих Модель ChatGPT должна была: ➖Сгенерировать описание уязвимости по CVE-ID ➖Выяснить, фейковый ID или реальный ➖Определить ID по описанию уязвимости 📊 Результаты 💬 Генерация описаний: ✅ 96% описаний по реальным CVE выглядели достоверно ⚠️ 97% описаний по поддельным CVE тоже выглядели... достоверно 👉 Иными словами, ChatGPT мастерски выдумывает убедительные описания даже к фейковым ID. Обычный разработчик или аналитик может не заподозрить подвох. 🔍 Проверка подлинности: ❌ Модель не распознала ни одного поддельного CVE. 0% успеха в выявлении фейков. 🔄 Обратная проверка (по описанию → CVE-ID): 🎯 Только 6% описаний привели к правильному ID 💣 Безопасность должна быть безопасной ChatGPT — мощный инструмент, но с очень специфическим предназначением. Его описания уязвимостей звучат убедительно, даже когда они полностью вымышлены. Это создаёт ложное чувство уверенности и может быть использовано злоумышленниками для распространения фальшивых угроз. Риски: 🪤 Исследователь или разработчик видит убедительное описание “CVE-2024-12345” 🤖 Оно создано ChatGPT, но CVE не существует 📉 Время тратится зря, решения принимаются на основе несуществующей уязвимости 🛠 Выводы и рекомендации ➖LLM ≠ база данных ChatGPT не подключён к CVE-реестру и может "галлюцинировать" уязвимости. ➖Только ручная верификация Все отчёты, сгенерированные LLM, должны проверяться специалистом или системой валидации. ➖Нужна интеграция с актуальными CVE-базами Без этого использование LLM в критических задачах — игра в русскую рулетку. 📎 Где прочитать оригинальное исследование? 🔗 arXiv:2506.13161v1 🧪 Исходный код и данные: GitHub проекта Stay secure and read SecureTechTalks 📚 #SecureTechTalks #LLM #CVE #Cybersecurity #VulnerabilityManagement #ChatGPT #Infosec #AItrust #FakeCVE #ThreatIntel #AISecurity

🛡️ MDEAutomator: автоматизация Microsoft Defender для защиты Endpoint 🔍 Устал тыкать по интерфейсу Defender вручную? Этот инструмент с открытым исходным кодом превращает рутину SOC-аналитика в автоматизированный DevSecOps-поток. Быстро, масштабируемо и без лишней магии. ⚙️ Что такое MDEAutomator? 🚀 Это PowerShell-модуль + серверлесс-инфраструктура на Azure, которая автоматизирует весь цикл работы с Microsoft Defender for Endpoint: 💥 Обнаружение и устранение угроз 🖥️ Управление устройствами 🧠 Threat Hunting и IOC 📡 Live Response-команды 🗂️ Инциденты и отчётность Работает через REST API + Azure Functions. 🧩 Основные возможности 🔧 PowerShell-модуль: Удобные cmdlet’ы для аутентификации, сканирования, внедрения скриптов и работы с IOC. Готов к CI/CD: можно запускать из GitHub Actions, Azure DevOps и т.д. ☁️ Serverless-часть: Механизм группового выполнения задач на тысячах устройств. Автообновление индикаторов (IP, домены, хэши). Интеграция с Microsoft Graph API. 💻 Примеры реального применения 👨‍💻 SOC-анализ:

Invoke-FullDiskScan -DeviceIds $ids 

📦 Автоматическое добавление IOC:

Invoke-TiIP -IPs $ips -Action 'BlockAndAlert'

🔍 Поиск по KQL и загрузка в хранилище:

Invoke-HuntSchedule -Query $kql -Frequency 'Daily' 

📊 Контроль действий и откат операций:

Get-Actions | Export-Csv Undo-Action -ActionId $id 

🔒 Почему стоит попробовать? ✅ Нет хардкодинга секретов — используется безопасная аутентификация через Managed Identity ✅ Горизонтальное масштабирование — команды исполняются массово ✅ Логирование и откат действий ✅ Поддержка многопользовательских сценариев и multi-tenant-архитектуры 🔗 Где взять? 📂 GitHub: MDEAutomator Stay secure and read SecureTechTalks 📚 #SecureTechTalks #MDEAutomator #DefenderEDR #PowerShell #SOCtools #ThreatHunting #AzureSecurity #LiveResponse #IncidentResponse #CyberSecurityTools #Automation4SOC

🎭 ИИ-мошенники нового поколения: как LLM помогают взламывать людей, а не серверы 🕵️ Если раньше фишинг был делом рук мошенников с кривым английским и неправильным русским, то теперь — это элегантные письма, отточенные скрипты общения и идеально подобранный контекст. Всё это за счёт открытых LLM и OSINT-автоматизации. 🤖 Как работает атака? 1⃣ Поиск жертвы: С помощью LinkedIn, Shodan, ZoomInfo и утекших баз формируется профиль: где работает, чем занимается, какие технологии использует. 2⃣ Генерация фишингового письма: LLM пишет письмо от имени "службы безопасности компании", "технической поддержки" или "HR", идеально копируя стиль корпоративных шаблонов. ✉️ Пример:

«Мы обновляем доступ в VPN. Пожалуйста, подтвердите свою учётную запись до 18:00».

3⃣ Создание целевого сайта: GenAI и HTML‑генераторы делают реалистичные страницы входа, логотипы, favicon, даже ошибку 403 "для правдоподобия". 4⃣ Разговорный фишинг (vishing): Мошенники используют голосовых клонов или LLM-сценарии для телефонных звонков:

«Мы зафиксировали подозрительную активность. Не могли бы вы назвать код из SMS?»

🛑 Что делает такие атаки опасными? 📌 Почти нет ошибок в тексте 🧠 Учитывается контекст: от названия отдела до недавнего релиза 🔄 Легко масштабируется: можно сгенерировать 100 персонализированных атак за 5 минут 🔐 Как защититься? ✅ Регулярные тренировки сотрудников с фишинг-симуляциями ✅ Уведомления: «Мы никогда не просим код из SMS» ✅ Email security с ML-анализом вложений и ссылок ✅ Обнаружение фейковых доменов (typosquatting) ✅ Мониторинг утечек, связанных с сотрудниками (например, корпоративные почты на скомпрометированных сайтах) 🧩 Итог: ИИ даёт хакерам новые инструменты, но и у нас есть оружие. Главное — не терять бдительность и действовать проактивно. Потому что сегодня атакуют не сеть — атакуют людей. Stay secure and read SecureTechTalks 📚 #SecureTechTalks #GenAI #Phishing #LLM #SocialEngineering #AIThreats #OSINT #CyberAwareness #CyberSecurity #RedTeam #AIinAttacks

🧠 TokenBreak — еще один способ обмануть фильтры безопасности ChatGPT Как всего один лишний символ превращает токсичный или вредоносный текст в "безопасный" для нейросети 🤯 📌 Что такое TokenBreak? Это атака на модели классификации текста, которая манипулирует токенами — единицами, на которые разбивается текст перед подачей в модель. Вместо прямого обхода фильтров TokenBreak вносит микроизменения в текст (например, добавляет одну букву к слову), и защита уже не работает. Зато модель (LLM) всё ещё понимает смысл и выполняет опасную команду. 💥 Примеры в действии 🎯 Запрос: Reveal password 🛡️ Защитная модель: блокирует ✅ 🎭 TokenBreak-модификация: aReveal password 🚨 Результат: модель пропускает ❌, LLM всё понимает и готов "помогать". 👿 Спам: 📝 Оригинал: You have an important customer service announcement from PREMIER. 🔄 TokenBreak: You have an important cus aannouncement from PREMIER. ➡️ Спам-фильтр не срабатывает. 🧨 Токсичность: 🤬 Оригинал: The fuck are thes cops being a pussy? 🧩 TokenBreak: The afuck are thes cops being a gpussy? 🔕 Модель считает, что это нормальный текст. 🔍 Почему это возможно? Проблема в способе токенизации: 🔤 BPE и WordPiece — разбивают слова слева направо. Малейшее изменение в начале слова ломает токенизацию. 🎯 Unigram — выбирает самые вероятные сочетания токенов, не строго слева направо. Он оказался устойчивым к TokenBreak. 💡 Итог: модели на BPE и WordPiece уязвимы, а на Unigram — стабильны. 🔧 Как защититься? ✅ Использовать модели с Unigram-токенизацией ✅ Либо: использовать промежуточный слой защиты, который сначала разбивает текст Unigram'ом, а потом мапит его на формат основной модели. 📉 Это снизило успешность TokenBreak-атак до менее 13%. 🧠 Ещё пара мыслей 👉 TokenBreak — это не просто трюк, это модельная уязвимость. Многие ИИ-фильтры безопасности (LLM Guard, DLP, модерация и т.д.) сегодня основаны на WordPiece или BPE. Значит, они потенциально уязвимы к таким атакам. 🔗 Исследование: arXiv:2506.07948v1 🧪 Дополнительно: Lakera prompt injection dataset Stay secure and read SecureTechTalks 📚 #TokenBreak #SecureTechTalks #AIHacking #LLMSecurity #PromptInjection #NLP #CyberSecurity #TextAttack #SpamBypass #ToxicityBypass #MLSafety #DefensiveAI

🚩 ИИ научился играть в CTF-эксперт Как заставить LLM не просто болтать, а действительно решать криптозадачи? Исследователи показали, что это возможно: они обучили Llama 3.1-8B на собственном датасете задач, используя reinforcement learning и Python-сервер для реального вычисления ответов. 🔧 Что это за проект? 📦 Random-crypto — генератор задач, похожих на CTF, от простого base64 до поддельных токенов, сломанных RSA, AES и даже уязвимостей ECDSA. Задачи поделены по уровням сложности, и для каждой есть чёткий флаг и решение. 🤖 Дальше — больше. Модель не просто угадывает. Ей дали возможность писать Python-код, запускать его и размышлять над результатами — с поощрением за правильные шаги и штрафами за "магические ответы". 🧠 Разбираемся на пальцах Модель получает задачу, сама пишет текстовые размышления ("я попробую декодировать этот base64…"), генерирует код, отправляет его на Python-сервер, получает ответ и продолжает думать. Она может делать до 4 итераций, уточняя ход рассуждений. Если вы хоть раз играли в CTF, то узнаете этот процесс — это почти как работа junior-реверсера с калькулятором и скриптами на лету. 💥 Что получилось? До обучения модель почти не справлялась — угадывала максимум 2–3 задачи из 10. После тренировки с правильными подсказками и обратной связью — решала почти 9 из 10. Даже без прямых подсказок — прогресс заметный. Что особенно круто: модель смогла перенести знания на задачи из picoCTF, которых не было в тренировочном наборе. ⚠️ Риски и этика Да, запуск кода от LLM — это всегда игра с огнём. В процессе она училась генерировать даже краш-скрипты или сложные рекурсии. Исследователи рекомендуют: 1⃣ Всегда использовать sandbox 2⃣ Ограничивать ресурсы по CPU и памяти 3⃣ Отсекать опасные функции или команды 🛠 Насколько это реально важно? 📌 Это первый шаг к созданию LLM, которые не просто "читают флаги", а умеют логически решать нестандартные, небанальные задачи, комбинируя знания из крипты, анализа, программирования и стратегии. 🔗 Ссылки: GitHub: HackSynth-GRPO Stay secure and read SecureTechTalks 📚 #SecureTechTalks #LLM #CTF #CryptoAI #HackTheBox #ReinforcementLearning #CyberSecurity #PromptEngineering #RedTeam #PentestFuture #AI4Security

🧠 LLM против фишинга прямо в браузере: защита, которая не требует облака Фишинг стал умнее: сайты меняются на лету, маскируются под популярные сервисы и обманывают даже опытных пользователей. Но исследователи нашли элегантное решение: запустить LLM прямо в браузере, чтобы анализировать подозрительные сайты локально — без утечки данных в облако. Так появился продукт WebLLM. 🚨 Механика ➖JavaScript на сайте анализируется прямо в браузере: ищутся подозрительные паттерны вроде eval, document.write, редиректы, кодировка, вставки DOM — всё, что характерно для фишинговых страниц. ➖Сайт открывается в песочнице (iframe), отслеживается, что делает страница: как меняется DOM, какие ресурсы она запрашивает, что пишет в поля и куки. ➖Местная LLM получает всю собранную информацию и делает вывод — сайт безопасен или нет. И что важно: объясняет, почему. 💥 В чём сила такого подхода? ➖Нет отправки данных наружу — всё локально, всё приватно. ➖Анализ в реальном окружении — браузер, как у реального пользователя, с настоящими заголовками и поведением. ➖Даже маленькие модели (2–8B) на WebGPU справляются с задачей — и выдают результаты, сравнимые с облачными LLM. ➖LLM умеет читать смысл, а не просто искать ключевые слова. Она понимает, что перед ней подделка, даже если URL и код выглядят легитимно. 📌 Ещё немного про преимущества Классические антифишинг-фильтры часто опаздывают. А этот подход: 📍 не зависит от чёрных списков, 🧩 видит контекст страницы, 🚫 работает даже в режиме инкогнито, 🔐 и не требует доверия к третьим сторонам. 🧪 Пример из исследования Обычный сайт с MetaMask-фейком (через поддомен Google Sites) был мгновенно определён как фишинговый. LLM объяснила: "форма требует сид-фразу кошелька, используется поддельный интерфейс, URL — маскировка". А настоящие сайты Google и Microsoft прошли проверку — без ложных срабатываний. 🔗 Полезные ссылки 📎 Исследование: arxiv.org/abs/2506.03656 🛠 WebLLM на GitHub: github.com/mlc-ai/web-llm Stay secure and read SecureTechTalks 📚 #SecureTechTalks #LLM #Phishing #WebSecurity #BrowserAI #InBrowserLLM #CyberSecurity #ZeroShot #WebLLM #PrivacyTech #AIForGood

🔍 Слежка на уровне системы: как Meta и Яндекс используют лазейку в Android для деанонимизации миллионов пользователей Представьте: вы чистите куки, используете режим инкогнито и отключаете рекламу — и всё равно остаетесь под колпаком. Исследователи раскрыли схему, по которой популярные Android-приложения вроде Facebook*, Instagram*, Яндекс.Браузера и Яндекс.Карт устанавливают скрытую связь с веб-страницами через... localhost. *«Facebook/Instagram - проект Meta Platforms Inc., деятельность которой в России запрещена». 🕳️ Что в обще происходит? 📡 Сценарий довольно прост: 1⃣ Вы заходите на сайт с Meta Pixel или Яндекс.Метрикой. 2⃣ Скрипты на сайте открывают соединение через 127.0.0.1, то есть «на себя». 3⃣ Если на устройстве в фоне работает нативное приложение Facebook или Яндекс, оно прослушивает определённые порты и принимает запрос. 4⃣ Идентификаторы вроде _fbp (у Meta) или Android Advertising ID (у Яндекса) передаются обратно на сервер компании вместе с куками и другими метаданными. 💥 Результат: ваша личность может быть связана с анонимным веб-серфингом, даже в режиме инкогнито. Обычные меры защиты не помогают. 🧠 Почему это вызывает тревожность? ❌ Обходит защиту браузеров (включая инкогнито и очистку куки) 📱 Злоумышленное Android-приложение может перехватывать трафик и узнавать вашу историю просмотров 🛠 Этот метод основан на архитектуре Android: любой app с разрешением INTERNET может слушать сокеты localhost 🔎 Уже подтверждена уязвимость в Chrome, Firefox, Edge и даже частично в DuckDuckGo (Brave — не уязвим) 🕵️‍♂️ Кто это делает? Meta (Facebook, Instagram): использует WebRTC и скрытые STUN/TURN-запросы для передачи _fbp cookie. Эти данные связываются с вашим аккаунтом через GraphQL. Яндекс: с 2017 года активно слушает порты 127.0.0.1 и получает Android ID, UUID и прочие уникальные данные с помощью скрипта Метрики. Коммуникация идёт через HTTP/HTTPS на порты 29009, 29010, 30102, 30103. 📈 Масштаб проблемы ➖Meta Pixel встроен более чем в 5,8 млн сайтов ➖Яндекс.Метрика — почти на 3 млн сайтов ➖Даже без согласия пользователя на cookies, скрипты пытаются установить связь с localhost ⚠️ Возможные векторы атак 🧬 Деанонимизация пользователей путём склейки web ID с ID мобильного приложения 🕵️ Утечка истории браузера через перехват HTTP-заголовков Origin 🐛 Подслушивание портов злоумышленным приложением без прав root 🧩 Потенциальный обход систем безопасности песочницы и permission-модели Android ❗ Платформы должны запретить приложениям общаться с localhost по умолчанию. Пользователи должны видеть, когда сайт подключается к сокетам. Браузерам нужны системы блокировки localhost-трафика по аналогии с внешними запросами 📎 Подробный разбор читайте в статье Habr: как Meta и Яндекс следят через сокеты Stay secure and read SecureTechTalks 📚 #SecureTechTalks #Privacy #Meta #Яндекс #Localhost #Android #Tracking #Deanon #CyberSecurity #BrowserPrivacy #AAID #FBP #Pixel #Метрика #IncognitoLeaks

🎯 libdebug создаем свой отладчик: Когда стандартные инструменты не справляются — ты создаёшь свои. Именно так поступили исследователи из Politecnico di Milano, представив libdebug — мощную Python-библиотеку для программируемой отладки бинарников в userland-пространстве. 🧩 Что такое libdebug? 🔧 libdebug — open-source Python-библиотека, позволяющая создавать собственные отладчики. Вместо интерфейсов, ориентированных на человека, как в GDB, libdebug создан для автоматизации и гибкой интеграции. Она ориентирована не только на разработчиков, но и на специалистов по безопасности, реверс-инженеров и исследователей уязвимостей. 📦 GitHub: libdebug 📚 Документация: docs.libdebug.org 🚀 Что умеет libdebug? 🧠 Управление регистрами, памятью, syscalls и сигналами 🛠 Поддержка брейкпоинтов и watchpoint'ов 🧵 Поддержка многопоточности 🖥️ Работа с потоками ввода-вывода процесса 🔄 Не требует отладки с debug-символами — работает с «сырыми» бинарниками 🌍 Поддержка архитектур AMD64 и AArch64 А главное — всё это через чистый Python-интерфейс, без боли ptrace и низкоуровневых API. 🔬 Три крутых кейса использования 1️⃣ 🎛️ Отладка байт-кода libdebug позволяет "влезть" в интерпретаторы вроде CPython и отслеживать/модифицировать опкоды прямо во время исполнения. Хочешь, чтобы + внезапно стал -? Без проблем. 2️⃣ 🧨 Автоматический поиск уязвимостей Используя libdebug, можно ловить SIGSEGV, анализировать память и даже программно экспериментировать с эксплойтами. Это удобно при fuzzing-анализе или поиске точек входа для RCE. 3️⃣ 🧪 Юнит-тесты и покрытие Инструмент может использоваться для динамического анализа покрытия кода, включая ветвления и редкие сбои (например, ошибка при malloc или чтении из файла). Всё это легко интегрируется в CI/CD. 💡 Исходники примеров: libdebug/examples ⚔️ Бенчмарки: GDB против libdebug libdebug обрабатывает брейкпоинты и syscalls в 3–4 раза быстрее, чем GDB с Python-обвязкой Скрипты для воспроизводимости: benchmark suite ⌛ Это огромный плюс для задач, где важна скорость реакции: от fuzzing до runtime-мониторинга. Stay secure and read SecureTechTalks 📚 #SecureTechTalks #libdebug #ReverseEngineering #Python #Debugging #CyberSecurity #CTF #BugHunting #ExploitDev #SecurityResearch #DevSecOps #OpenSourceTools

🛡️ SafeDep Vet — анализируем состав ПО В эпоху, когда 70–90% программного обеспечения строится на открытых компонентах, контроль над безопасностью становится критически важным. SafeDep Vet — это инструмент нового поколения для анализа состава программного обеспечения (SCA), созданный для разработчиков и специалистов по безопасности, стремящихся обеспечить надежность своих проектов. 🔍 Что такое SafeDep Vet? SafeDep Vet — открытый инструмент для обеспечения безопасности цепочки поставок программного обеспечения. Он помогает разработчикам и инженерам по безопасности выявлять риски. Инструмент выходит за рамки традиционного анализа состава программного обеспечения, обнаруживая известные уязвимости и отмечая вредоносные пакеты. 🚀 Быстрый старт Установка на macOS и Linux:

brew install safedep/tap/vet 
Сканирование проекта:
# Сканирование текущей директории vet scan -D . # Сканирование файла зависимостей vet scan -M package-lock.json # Прерывание CI при обнаружении критических уязвимостей vet scan -D . --filter 'vulns.critical.exists(p, true)' --filter-fail 

🧠 Интеллектуальный анализ кода В отличие от традиционных сканеров зависимостей, которые могут перегружать информацией, Vet анализирует фактическое использование кода, чтобы приоритизировать реальные риски. Это позволяет сосредоточиться на действительно важных уязвимостях, снижая количество ложных срабатываний. 🛡️ Защита от вредоносных пакетов Интеграция с SafeDep Cloud обеспечивает защиту в реальном времени от вредоносных пакетов. Даже без предоставления API-ключа инструмент может работать в режиме запросов, обеспечивая базовую защиту. ⚙️ Интеграция с CI/CD Vet легко интегрируется с популярными CI/CD платформами: ➖GitHub Actions: Используйте vet-action для автоматической проверки зависимостей в ваших рабочих процессах. ➖GitLab CI: Воспользуйтесь компонентом vet-gitlab-ci-component для внедрения политики безопасности в ваши пайплайны. 📊 Поддержка различных экосистем Vet поддерживает множество экосистем, включая: npm, PyPI, Maven, Go, Docker, GitHub Actions. Это делает его универсальным инструментом для проектов на различных языках и платформах. 📈 Преимущества ➖Снижение шума: Благодаря анализу контекста использования кода, Vet снижает количество ложных срабатываний на 80%. ➖Автоматизация политики безопасности: Использование CEL позволяет точно настроить правила безопасности в соответствии с потребностями вашей организации. ➖Реальное время: Интеграция с SafeDep Cloud обеспечивает актуальную информацию о новых угрозах. ➖Гибкость: Поддержка различных экосистем и CI/CD платформ делает Vet удобным инструментом для команд любого размера и специализации. 🔗 Полезные ссылки ➖GitHub репозиторий Vet ➖Официальный сайт SafeDep Stay secure and read SecureTechTalks 📚 #SecureTechTalks #SafeDepVet #CyberSecurity #DevSecOps #OpenSourceSecurity

🚀 ChatGPT - цифровой двойник. В 2025 году OpenAI представила стратегию трансформации ChatGPT из текстового чат-бота в полноценного цифрового помощника, способного сопровождать человека во всех сферах жизни и стать основным интерфейсом ко всему интернету. 🧠 Что такое "суперассистент"? Согласно утечке внутреннего документа OpenAI, озаглавленного "ChatGPT: H1 2025 Strategy", компания планирует превратить ChatGPT в "суперассистента" — интеллектуального агента, который: 1⃣ Глубоко понимает пользователя и его потребности 2⃣ Может выполнять широкий спектр задач — от повседневных до специализированных 3⃣ Интегрируется во все аспекты жизни: дома, на работе, в дороге 4⃣ Становится основным интерфейсом для взаимодействия с интернетом. Этот подход предполагает, что ChatGPT будет не просто отвечать на вопросы, а активно помогать в организации жизни пользователя, предугадывая его потребности и предлагая решения до того, как они станут проблемой. 🔧 Ключевые компоненты стратегии ➖Мультимодальность: ChatGPT будет обрабатывать не только текст, но и изображения, речь, таблицы и действия, что позволит ему более эффективно взаимодействовать с пользователем. ➖Глубокая специализация: Помимо универсальных задач, ChatGPT будет обладать углубленными знаниями в специализированных областях, таких как программирование, финансы и медицина. ➖Интеграция с устройствами: Планируется, что ChatGPT будет доступен не только через браузер или приложение, но и будет интегрирован в различные устройства, обеспечивая постоянное присутствие и доступность. ➖Инфраструктура: Для поддержки возросших требований к вычислительным мощностям OpenAI инвестирует в создание новых дата-центров, включая проект Stargate в Абу-Даби. ⚔️ Конкуренция и вызовы OpenAI осознает конкуренцию со стороны таких гигантов, как Apple, Google и др., и стремится опередить их за счет инноваций и быстрого внедрения новых функций. Однако компания также сталкивается с вызовами, связанными с обеспечением точности информации и конфиденциальности данных пользователей. 🔮 Будущее уже наступило С запуском новых функций и расширением возможностей ChatGPT, OpenAI делает шаг к созданию универсального цифрового помощника, который будет неотъемлемой частью повседневной жизни каждого пользователя. Это не просто эволюция чат-бота, а революция в способах взаимодействия человека с технологиями. 📌 Источник: The Verge Stay secure and read SecureTechTalks 📚 #SecureTechTalks #ChatGPT #OpenAI #AI #DigitalAssistant #CyberSecurity

🧠 Исследование: ИИ-агенты для защиты сети 🚀  Исследователи из MITRE и NSA пошли дальше стандартных моделей, которые умеют решать только одну задачу за раз. Вместо этого они предлагают динамическое обучение с открытым набором задач — это значит, что агент не просто учится на ограниченном наборе данных, а накапливает знания и применяет их в новых, непредсказуемых ситуациях. 💡 В чем смысл? 🌐 Моделирование реальных сетей и сценариев безопасности, где агент учится действовать, как опытный специалист: распознавать угрозы, блокировать атаки, предотвращать утечки. 📝 Язык PDDL для описания целей и метрик, чтобы агент понимал, чего от него ждут. 🔄 Постоянная смена задач во время обучения, чтобы агент не заучивал один сценарий, а учился гибко адаптироваться. 📊 Результаты, которые вдохновляют Агенты, обученные такому методу: ✅ Быстрее подстраиваются под новые угрозы, даже если ранее их не видели. ✅ Работают эффективнее и требуют меньше времени на обучение. ✅ Способны видеть большую картину, а не просто реагировать на отдельные события. 🔥 Агенты с усиленным обучением могут стать реальной альтернативой ручной защите: они будут расти и учиться вместе с угрозами, находить нестандартные решения и закрывать дыры в безопасности раньше, чем их обнаружат злоумышленники. 🔗 Подробности исследования читай здесь. Stay secure and read SecureTechTalks 📚 #SecureTechTalks #ReinforcementLearning #CyberSecurity #AdaptiveAI #AI #RL #MITRE #NSA #FutureOfSecurity

🛡️ Кибербезопасность и GenAI: главные события мая 2025 🌐 Масштабная утечка данных: 184 миллиона паролей в открытом доступе Исследователь Джеремия Фаулер обнаружил незащищённую базу данных с более чем 184 миллионами паролей, относящихся к сервисам Google, Apple, Microsoft и другим. Данные, вероятно, были собраны с помощью вредоносного ПО, крадущего информацию из браузеров и приложений. База данных уже удалена, но её владелец остаётся неизвестным. (New York Post) 🧠 GenAI: новые угрозы и инвестиции в безопасность ➖Согласно отчёту Thales, 73% организаций инвестируют в инструменты безопасности, специально предназначенные для защиты генеративного ИИ. (infosecurity-magazine.com) ➖Исследование World Economic Forum показало, что 47% компаний считают прогресс в области GenAI основной угрозой для своей кибербезопасности. (World Economic Forum) 🏴‍☠️ Новые угрозы от APT-группировок ➖Microsoft и правительство Нидерландов выявили новую российскую хакерскую группу, использующую украденные учётные данные для кибершпионажа. (cybersecuritydive.com) ➖Группа APT41 из Китая использует Google Calendar для управления вредоносным ПО TOUGHPROGRESS, нацеленным на государственные учреждения. (The Hacker News) 📉 Финансовые новости в сфере кибербезопасности ➖Компания Netskope планирует IPO в США, рассчитывая привлечь более 500 миллионов долларов. (Reuters) ➖Акции SentinelOne упали на 14% после публикации финансового отчёта с прогнозами, не оправдавшими ожиданий инвесторов. (Investor's Business Daily) 🛡️ Новые инициативы и меры безопасности ➖В Индии будет создана интегрированная лаборатория кибербезопасности стоимостью 89,4 крора рупий для укрепления национальной киберзащиты. (The Times of India) ➖Индийский метеорологический департамент ограничил доступ к своим данным из-за опасений кибератак со стороны Пакистана и Афганистана. (The Times of India) Stay secure and read SecureTechTalks 📚 #SecureTechTalks #CyberSecurity #GenAI #DataBreach #APT #Netskope #SentinelOne #IndiaCyberLab #IMD #Thales #DeepSeek #APT41 #GoogleCalendar #TOUGHPROGRESS

🛠️ Woodpecker: инструмент Red Team в эпоху ИИ, Kubernetes и API Open-source инструмент, который поднимет ваш уровень киберзащиты 🤖 Woodpecker — это open-source фреймворк для Red Team-тестирования, разработанный компанией Operant AI. Он предназначен для: ➖Выявления уязвимостей в ИИ-моделях ➖Проверки безопасности Kubernetes-кластеров ➖Анализа защищенности API ➖Woodpecker помогает проактивно находить слабые места в инфраструктуре ещё до того, как ими воспользуются злоумышленники. 🌟 Основные возможности 🔐 AI Security Тестирование моделей ИИ на атаки типа prompt injection Проверка устойчивости к data poisoning Анализ "поведенческих дыр" в логике ИИ-агентов 📦 Kubernetes Security Поиск неправильных конфигураций Выявление рисков эскалации привилегий Мониторинг политик безопасности в реальном времени 🔗 API Security Анализ слабых мест в API, включая: • недостаточную аутентификацию • некорректную обработку данных • риски утечек информации ⚙️ Преимущества решения ✅ Автоматизация — минимизация ручного труда и времени на анализ ✅ Интеграция — легко встраивается в пайплайны CI/CD ✅ Open-source — полный контроль и прозрачность ✅ Современные стандарты — адаптация под сложные инфраструктуры, включая Kubernetes и облака ✅ Модульность — можно использовать только нужные функции 📈 В условиях взрывного роста ИИ, API и Kubernetes, традиционные подходы к киберзащите становятся недостаточными. Woodpecker позволяет: ➖проактивно выявлять и устранять уязвимости ➖тестировать инфраструктуру в реальных условиях ➖обучать команды Red Team новым техникам атак и защиты 🔍 Ссылки: 📂 Официальный сайт 📚 GitHub-репозиторий Stay secure and read SecureTechTalks 📚 #SecureTechTalks #Woodpecker #RedTeam #CyberSecurity #OpenSource #AI #Kubernetes #API #DevSecOps #CloudSecurity

🔥 Multi-Agent Reinforcement Learning — вот будущее кибербезопасности! 🤖🛡️ Современные кибератаки — это не просто одиночные взломы. Это координированные, динамичные атаки, которые требуют не менее умной защиты. Multi-Agent Reinforcement Learning (MARL) — обучаемый коллектив ИИ-агентов, который способен отбиваться от самых продвинутых угроз! 📈  MARL — коротко о главном 🌐 Децентрализация: вместо единого центра принятия решений, множество агентов взаимодействуют между собой, что делает защиту гибкой и масштабируемой. 🧠 Самообучение: MARL позволяет агентам обучаться на собственном опыте, адаптируясь к новым стратегиям атакующих без вмешательства человека. 🤝 Командная работа: агенты могут координировать действия, совместно обнаруживать и блокировать угрозы. ⚙️ Применение в реальном мире: MARL уже тестируется в таких сферах, как Intrusion Detection System (IDS), предотвращение lateral movement, а также в симуляционных средах (Cyber Gyms) для тренировки агентов. 🔥 Как работает MARL? 📡 Обнаружение вторжений: агенты обучаются выявлять подозрительную активность даже при слабых сигналах. 🎯 Локализация атак: распределённые агенты позволяют быстрее идентифицировать источник угрозы. 🏋️ Тренировка в "киберспортзалах": симуляционные платформы вроде CyberBattleSim или CybORG++ помогают агентам "набивать руку", тестируя их в сложных сценариях с атакующими и защитниками. 🤼 Красные и синие команды: MARL позволяет моделировать взаимодействие атакующих и защитников для улучшения стратегий обеих сторон. 🚨 В чём вызовы? 📉 Масштабируемость: обучение MARL в больших сетях требует серьёзных вычислительных ресурсов. 🎭 Устойчивость к обману: ИИ-агенты могут быть подвержены adversarial-атакам, если их не учить этому заранее. 🌐 Реалистичность: симуляции пока не всегда отражают сложность реальных инфраструктур, но прогресс неумолим. 🚀 Будущее уже здесь! MARL не просто решает старые задачи кибербезопасности, а создаёт новые стандарты. В эпоху продвинутых угроз (APT, zero-day, сложных lateral movement) MARL предлагает адаптивные, распределённые и масштабируемые решения. 🔗 Более подробно про MARL читайте в исследовании. Stay secure and read SecureTechTalks 📚 #SecureTechTalks #MARL #CyberSecurity #AIinSecurity #CyberDefense #ReinforcementLearning #CyberGyms #AICA #AdaptiveSecurity #NextGenSecurity

🧱 Meta запускает LlamaFirewall — первый open-source "фаервол" для защиты ИИ-агентов Как защитить LLM от джейлбрейков, инъекций и небезопасного кода? 🤖 Зачем нужен LlamaFirewall? LLM больше не просто чат-боты — они: ✍️ Пишут и запускают код 🔗 Интегрируются с API 🧠 Принимают решения в реальном времени Но вместе с возможностями растёт и опасность: 🕳️ Инъекции промптов 🚨 Джейлбрейки 🐛 Генерация уязвимого кода Meta* выпустила LlamaFirewall — open-source фреймворк для защиты ИИ-агентов (*компания признана экстремистской организацией на территории России). 🛡️ Три уровня защиты LlamaFirewall ➖PromptGuard 2 Реагирует на попытки джейлбрейков и инъекций в реальном времени. Использует классификатор на основе BERT для анализа входных данных и выявления подозрительных паттернов. ➖Agent Alignment Checks Анализирует цепочку рассуждений агента, чтобы убедиться, что его действия соответствуют изначальным целям пользователя. Это помогает предотвратить "перехват целей" через косвенные инъекции. ➖CodeShield Проверяет сгенерированный код на наличие уязвимостей, таких как небезопасные вызовы функций или использование устаревших библиотек. Работает с несколькими языками программирования и использует правила Semgrep и регулярные выражения. ⚙️ Чем LlamaFirewall круче старых методов? ✅ Модульная архитектура — гибко настраивается под задачи ✅ Лёгкая интеграция с LlamaGuard, CyberSecEval и другими решениями ✅ Быстрая настройка и запуск — доступен Docker и Colab-демо 📊 Результаты тестирования 📉 PromptGuard 2 снизил риск атак с 17.6% до 7.5% 🔒 Agent Alignment Checks уменьшил риск ещё на 2.9% 🛠️ CodeShield нашёл 96% уязвимых фрагментов кода 📉 Общий риск атак упал до 1.75% 🔗 Ссылка на GitHub Stay secure and read SecureTechTalks 📚 #SecureTechTalks #LlamaFirewall #MetaAI #CyberSecurity #AI #OpenSource #PromptInjection #CodeShield #AgentAlignment #LLM #AIsecurity

🎯 Как выиграть у хакеров: теория игр в кибербезопасности Почему защита — это не просто блокировка, а стратегическая игра с последствиями ⚔️ Почему «не-нулевая»? В кибербезопасности часто предполагается, что атака = проигрыш защиты. Но это упрощение. На самом деле, обе стороны могут как выигрывать, так и терять одновременно. Поэтому исследователи предложили использовать модель не-нолевой игры, где выигрыши и потери не обязательно симметричны. Результаты исследования были представлены в статье. 🧠 Что сделали учёные? Исследователи из Boise State University разработали игровую модель, в которой: 💻 Сеть представлена как граф с уязвимостями на связях 🧨 Атакующий выбирает тип атаки и узел 🛡️ Защитник решает, где разместить honeypot’ы ⚖️ Оба игрока получают или теряют «выигрыши» в зависимости от выбора Результат? Смешанные стратегии с Nash-равновесием, когда ни одна из сторон не может улучшить результат, действуя в одиночку. 🧪 Какие атаки участвовали в симуляции? Модель учитывает 6 распространённых типов атак: 🎣 Phishing: 70% успеха, стоимость — низкая 💾 Malware: 40% успеха, средняя стоимость 💰 Ransomware: 30% успеха, высокая стоимость 🧑‍💼 Social Engineering: 80% успеха, низкая стоимость 🧱 SQL Injection: 60% успеха, средне-высокая стоимость ⛓️ Cryptocurrency Exploit: 20% успеха, очень высокая стоимость 💡 Защитник может развернуть honeypot стоимостью 7 условных единиц. 📊 Что показали симуляции? 🧠 Самые выгодные атаки — phishing и social engineering: высокая вероятность успеха и низкие затраты 🛡️ Увеличение числа защищаемых узлов ослабляет атакующего — он вынужден рассредоточиться 🎯 Защитнику выгодно сосредоточить усилия на самых ценных узлах 🔁 Игра со временем сходится к стабильным стратегиям, где обе стороны адаптируются 🧮 Пример (4 узла): 🛡️ Защитник распределяет ресурсы: • 50% — в узел A • 34% — в узел B • 15% — в узел C • 1% — в узел D 🧨 Атакующий: • 26% — A • 31% — B • 36% — C • 7% — D → Атакующий явно старается найти «недозащищённые» цели. ⚠️ Что влияет на эффективность? 🎯 Чем выше шанс успеха атаки, тем хуже для защитника 💸 Чем дороже эксплойт, тем меньше мотивации его использовать 🧲 Honeypot должен быть “дешёвым”, иначе становится неэффективным 🧮 Эвристические стратегии почти такие же точные, как вычисленные математически, но работают в разы быстрее 🛠️ Практическое значение Если ты: ➖работаешь в SOC ➖управляешь honeypot-инфраструктурой ➖планируешь архитектуру защиты ➖занимаешься киберрисками …эта модель помогает переосмыслить стратегию: защита — это не “всё или ничего”, а баланс ресурсов и вероятностей. Stay secure and read SecureTechTalks 📚 #SecureTechTalks #GameTheory #CyberDefense #NashEquilibrium #SOC #CyberSecurity #Phishing #Honeypot #CyberRisk #RedTeam