Swordfish Security

🎙 Вебинар по безопасности ИИ: как выявлять угрозы и выстраивать защиту С распространением систем ИИ появляются новые классы угроз и уязвимостей, затрагивающие LLM, агентные системы и ML-решения. Такие риски требуют отдельного подхода к анализу и проверке защищенности. 23 июня в 14:00 на вебинаре разберём ключевые риски, требования регуляторов и подходы к защите ИИ-решений, а также поделимся практическим опытом проведения аудитов их безопасности. Вы узнаете: 🎱какие угрозы актуальны для ML-моделей, LLM и ИИ-агентов на каждом этапе разработки и внедрения; 🎱какие практики и инструменты помогают защищать ИИ-системы; 🎱как проводить аудит безопасности ИИ-решений с помощью фреймворка Swordfish SAIMM; 🎱какие требования и стандарты в области регулирования ИИ действуют в России и почему их важно учитывать уже сейчас. 🎁 Бонус для участников – чек-лист для оценки безопасности ИИ-агентов и полезные материалы для дальнейшего изучения темы. Вебинар проведут Александр Гадай, руководитель службы консалтинга, и Денис Данилов, инженер по безопасности приложений. ➡️ Регистрируйтесь, подключайтесь к эфиру и задавайте вопросы экспертам. 🐟 Рассылка | Max | Habr #ВебинарыSFS #AISecurity

📱Что важно знать про безопасность мобильных приложений Собрали ключевые тезисы с прошедшего вебинара для тех, кто занимается мобильной безопасностью. ⬇️ 1️⃣ Мобильные приложения требуют комплексной защиты Поскольку заранее неизвестно, на каком устройстве будет установлено приложение, любая среда его выполнения считается недоверенной. Поэтому важно защищать всё, что оно обрабатывает: секреты для интеграции со сторонними сервисами, персональные данные пользователей и коммерчески значимую информацию. 2️⃣ Стандарты помогают понять, что защищать и как это проверять В сообществе по безопасности мобильных приложений известны два стандарта OWASP. OWASP MASVS определяет требования к безопасности мобильного ПО, а OWASP MASTG описывает подходы к проверке их защищённости. Для отдельных категорий приложений действуют и отраслевые требования, например стандарты НСПК для решений бесконтактной оплаты и токенизации. 3️⃣ Кроссплатформенные приложения становятся новым вызовом для ИБ Сегодня около 67% новых мобильных приложений создаются на кроссплатформенных технологиях. Они позволяют ускорить разработку, но для ИБ-команд часто становятся слепым пятном: методологии тестирования ещё не успевают за скоростью развития этих технологий

Ещё одна угроза — большое количество сторонних плагинов с уязвимостями, о которых разработчики либо не знают, либо не считают необходимым их устранять. Дополнительную сложность создаёт отсутствие зрелых методик тестирования, из-за чего оценивать безопасность таких приложений значительно труднее.

— рассказал Владислав Ржевский, инженер по безопасности мобильных приложений Swordfish Security. 4️⃣ Для полноценной защиты нужен пентест Покупка RASP-решения, использование готовых библиотек и помощь ИИ-инструментов не гарантируют безопасность приложения. Защита может быть внедрена с ошибками, известные реализации могут обходиться стандартными техниками, а код, сгенерированный ИИ, зачастую наследует недостатки публичных репозиториев, на которых обучались модели. 💡 Практическая проверка позволяет убедиться, что внедрённые меры безопасности действительно работают. 🐟 Рассылка | МАКС | Habr #MAST

📊 45% компаний внедряют ИИ без отдельного бюджета на его защиту По данным исследований, почти половина российских компаний внедряет искусственный интеллект без инвестиций в его безопасность. 🛍 Примерно 80% организаций уже применяют ИИ в бизнес-процессах, ещё 35% рассматривают его как стратегический приоритет на ближайшие годы. При этом только 25% компаний имеют формализованные политики информационной безопасности для ИИ-сервисов. Технологии ИИ уже активно используются в разработке, аналитике, клиентском обслуживании и работе с корпоративными данными. При этом правила безопасного применения и управление рисками часто остаются фрагментарными или формируются уже после внедрения решений.

Мы наблюдаем типичную ситуацию технологического опережения: ИИ внедряется быстрее, чем формируются процессы его безопасного использования. Компании фактически масштабируют новую поверхность атаки, не всегда осознавая это. Вместе с преимуществами появляются и новые риски, связанные с данными, доступом к корпоративной информации и управлением цифровыми активами. Безопасность ИИ должна рассматриваться не как отдельная техническая задача, а как часть общей стратегии управления рисками бизнеса. Важно заранее определять правила использования ИИ, контролировать данные, которые передаются в модели, обеспечивать прозрачность работы сервисов и регулярно оценивать потенциальные угрозы. Такой подход позволяет компаниям масштабировать использование ИИ без ущерба для безопасности и устойчивости бизнеса.

— отмечает Александр Пинаев, генеральный директор ГК Swordfish Security Что важно учитывать при работе с ИИ: 🎱Безопасность ИИ должна быть встроена в общую систему кибербезопасности компании. 🎱Необходимо заранее определять категории данных, допустимых для использования в ИИ-инструментах. 🎱Требуются единые внутренние правила использования ИИ для сотрудников и подрядчиков. 🎱ИИ-сервисы стоит регулярно проверять на риски утечек и некорректной обработки данных. 🐟 Рассылка | МАКС | Habr #ЦифраДня #AISecurity

⌨️ Как мы используем ИИ в работе и повседневной жизни? Мы решили узнать у коллег, какие задачи они уже доверяют нейросетям, чем ИИ помогает им в работе и за ее пределами. ⤴️ Владимир Телепов, инженер по безопасности приложений, рассказал, как использует ИИ для написания скриптов, поиска информации, задач багбаунти и не только. А как ИИ помогает вам? Делитесь в комментариях. 🐟 Рассылка | МАКС | Habr #ЭкспертизаSFS

🛡 Лучшие практики построения процесса SCA Сегодня до 90% современного ПО состоит из сторонних компонентов с открытым исходным кодом, а значит вместе с ними в продукт могут попасть уязвимости, лицензионные риски и проблемы цепочки поставок. Композиционный анализ (SCA) позволяет контролировать состав программного обеспечения, выявлять уязвимые зависимости, отслеживать лицензионные ограничения и своевременно принимать меры по снижению рисков. В новой статье рассказываем про основные принципы работы и лучшие практики применения SCA: 🎱Как организовать процесс SCA: от генерации SBOM до анализа результатов сканирования. 🎱Какие данные используются для идентификации компонентов и поиска уязвимостей. 🎱Зачем анализировать транзитивные зависимости и настраивать политики безопасности. 🎱Как работают анализ достижимости и непрерывный мониторинг компонентов. Читайте на портале рбпо.рф. 🖥 🐟 Рассылка | МАКС | Habr #ЭкспертизаSFS #SCA

Вебинар по безопасности мобильных приложений — скоро начинаем 🎙 Подключайтесь к трансляции в МТС Линк в 14:00 МСК. Наши эксперты расскажут в прямом эфире: Какие существуют стандарты безопасности Что находят Bug Bounty Как работает пентест на практике Угрозы и риски кроссплатформенных решений Безопасность и вайбкодинг ▶️ Смотрите эфир, задавайте вопросы спикерам.

🎤 Как выстроить безопасность Kubernetes через GitOps расскажем на БеКоне 2 июня Андрей Орехов, руководитель группы безопасности контейнерных сред Swordfish Security, выступит на конференции БеКон с докладом «GitOps — мозг для политик безопасности». 📍 Москва, Лофт ГОЭЛРО, трек: «Ингредиенты» 🕙 16:40 О чем доклад: ▶️ Архитектура решения: связка ArgoCD + Gatekeeper + Vault для управления безопасностью. ▶️ Масштабирование: иерархия зон через лейблы — как управлять сотнями кластеров из одной точки. ▶️ Принцип наименьших привилегий: минимальные права на внешних кластерах. ▶️ Гибкость правил: гранулярные исключения в Rego без потери контроля. ▶️ Наблюдаемость: полный мониторинг состояния политик в Grafana. Приходите послушать доклад и задать интересующие вопросы. 🐟 Рассылка | МАКС | Habr #мероприятияSFS

🛡 Оценка инструментов безопасности с использованием ИИ ИИ-системы становятся сложнее и автономнее, поэтому командам безопасности важно понимать, какие агенты используются в компании, с какими инструментами и моделями они работают и как взаимодействуют между собой. Эффективная защита требует целостной платформы безопасности ИИ, которая объединяет прозрачность, обеспечение соблюдения политик и защиту от угроз во всей агентной экосистеме. В новом руководстве разбираем пятиэтапную модель безопасности ИИ: ▶️Обнаружение – как получать полную видимость моделей, агентов и данных ▶️ Оценка – как анализировать риски и выявлять уязвимости ▶️ Защита – как контролировать действия ИИ-систем и предотвращать атаки ▶️ Управление – как выстраивать политики, контроль и соответствие требованиям ▶️Измерение – как проверять эффективность защитных механизмов и отслеживать изменения поведения ИИ. Материал будет полезен директорам по информационной безопасности и командам, которые занимаются внедрением и контролем ИИ-инструментов в компании. Скачивайте на нашем сайте 🖥 Если хотите снизить риски при внедрении ИИ и выстроить устойчивую систему безопасности, Swordfish Security поможет оценить защищенность и выстроить процессы в соответствии с требованиями регуляторов. 🐟 Рассылка | МАКС | Habr #AISecurity

🫢 «Игнорируй предыдущие инструкции…» Именно с такой фразы сегодня могут начинаться атаки на ИИ-системы. Prompt Injection — это атака, при которой злоумышленник внедряет инструкции в пользовательский ввод, email, документ или другой контент так, что LLM начинает игнорировать исходные правила (system prompt/политики безопасности) и выполнять действия, задуманные атакующим: раскрывать конфиденциальные данные, обходить ограничения или генерировать команды для внешних систем. В OWASP эта проблема входит в список ключевых рисков для GenAI как LLM01:2025 Prompt Injection. Особенно опасны такие атаки для ИИ-агентов, Copilot-систем и RAG-приложений, у которых есть доступ к корпоративным данным и внешним API.

Представьте ИИ-ассистента, который работает с корпоративной почтой и документами. Атакующий может отправить email или разместить файл со скрытыми инструкциями, и когда агент начнет его обрабатывать, модель станет выполнять команды злоумышленника. Обнаружить такие атаки крайне сложно. Даже если вредоносных документов в базе меньше 1%, этого уже может быть достаточно, чтобы нарушить поведение агента. Для злоумышленников подобные неординарные данные становятся “серебряной пулей”, потому что показывают сверхвысокую эффективность.

— поделился Михаил Черешнев, ведущий инженер по ИИ и безопасности ГК Swordfish Security. 🔼 Читайте в карточках, какие бывают виды Prompt Injection, как работает эта атака и как от неё защищаться. 🐟 Рассылка | МАКС | Habr #ЭкспертизаSFS #Понятно_о_AISecurity

🫢 «Игнорируй предыдущие инструкции…» Именно с такой фразы сегодня могут начинаться атаки на AI-системы. Prompt Injection — это атака, при которой злоумышленник внедряет инструкции в пользовательский ввод, email, документ или другой контент так, что LLM начинает игнорировать исходные правила (system prompt/политики безопасности) и выполнять действия, задуманные атакующим: раскрывать конфиденциальные данные, обходить ограничения или генерировать команды для внешних систем. В OWASP эта проблема входит в список ключевых рисков для GenAI как LLM01:2025 Prompt Injection. Особенно опасны такие атаки для AI-агентов, Copilot-систем и RAG-приложений, у которых есть доступ к корпоративным данным и внешним API.

Представьте AI-ассистента, который работает с корпоративной почтой и документами. Атакующий может отправить email или разместить файл со скрытыми инструкциями, и когда агент начнет его обрабатывать, модель станет выполнять команды злоумышленника. Обнаружить такие атаки крайне сложно. Даже если вредоносных документов в базе меньше 1%, этого уже может быть достаточно, чтобы нарушить поведение агента. Для злоумышленников подобные неординарные данные становятся “серебряной пулей”, потому что показывают сверхвысокую эффективность.

— поделился Михаил Черешнев, ведущий инженер по ИИ и безопасности ГК Swordfish Security. 🔼 Читайте в карточках, какие бывают виды Prompt Injection, как работает эта атака и как от неё защищаться. 🐟 Рассылка | МАКС | Habr #ЭкспертизаSFS #Понятно_о_AISecurity

🎙 Вебинар по безопасности мобильных приложений: как обеспечить защиту и соответствие требованиям регуляторов Скорость мобильной разработки растёт, AI-инструменты генерируют код быстрее, чем команды успевают его проверять. Цифровые сервисы, государственные платформы, мобильные личные кабинеты и платёжные решения оказываются под угрозой, которую традиционные подходы к защите уже не покрывают. 28 мая в 14:00 расскажем на вебинаре о том, как адаптировать процессы мобильной безопасности к новой реальности. Вы узнаете: 🎱как защищать мобильные приложения в условиях ускоренной разработки; 🎱что требуют регуляторы и действующие методики и почему большинство из этих требований невозможно выполнить без практической проверки защищённости; 🎱зачем мобильному приложению пентест и почему это уже обязательный элемент защиты. Вебинар проведут Александр Гадай, руководитель службы консалтинга, Арсентий Карпов, старший инженер по безопасности мобильных приложений и Владислав Ржевский, инженер по безопасности мобильных приложений. ➡️ Регистрируйтесь, приходите и задавайте вопросы. 🐟 Рассылка | МАКС | Habr #ВебинарыSFS

🧑‍💻 Проверьте безопасность навыков вашего AI-агента Навыки AI-агента — это переносимые модули процедурной памяти, включающие инструкции, критерии и ресурсы, которые агент подгружает по мере необходимости для выполнения задач. Примеры: доступ к браузеру, чтение файлов, использование векторных баз данных, отправка сообщений, работа с API и внешними сервисами. 📄 Мы подготовили практический чек-лист для оценки безопасности навыков AI-агентов в соответствии с OWASP Agentic Skills Top 10 и фреймворком Swordfish: SAIMM. Он позволяет оценить: ▶️общие правила работы агента, ▶️критические уязвимости, ▶️уязвимости высокого и среднего уровня. Это быстрый способ понять, где агент может быть уязвим и какие риски стоит закрыть в первую очередь. ➡️ Пройти интерактивный опрос 🐟 Рассылка | МАКС | Habr #AISecurity #MLSecOps

👌 Агентный ИИ: как внедрять автономные цифровые системы безопасно В ближайшие годы агентные системы будут формировать основу корпоративной автоматизации. И компании, которые сегодня правильно выстраивают фундамент безопасности, смогут внедрять автономные технологии быстрее и гораздо увереннее. В новом руководстве разбираем: 🎱как меняются цифровые системы с приходом агентного ИИ, 🎱какие уязвимости возникают в цепочках действий и логике принятия решений, 🎱как выстроить безопасную архитектуру для агентных систем, 🎱как компании сейчас проходят путь внедрения агентного ИИ. Скачивайте руководство на нашем сайте. 🖥 Хотите снизить риски и обеспечить устойчивость ИИ-систем? Swordfish Security проводит аудит безопасности и помогает выстроить процессы в соответствии с требованиями регуляторов. 🐟 Рассылка | МАКС | Habr #AISecurity

🗳 Что такое технический долг в информационной безопасности Технический долг – это накопленные упрощения, устаревшие решения и несвоевременно устраненные проблемы в ИТ-системах. Это могут быть старые библиотеки, забытые сервисы и другие элементы, которые когда то были временными, но остались в продакшене. В контексте SAST/DAST/SCA техдолг – это разница между тем, что инструмент нашел, и тем, что AppSec-инженер разобрал, а разработчик исправил. Из-за большого количества срабатываний аппсеки могут потерять реальные уязвимости. Со временем такой долг делает инфраструктуру и уязвимости в коде сложнее для контроля, замедляет реагирование на инциденты и нахождение в коде уязвимостей, которые можно исправить заранее, а также повышает вероятность того, что проблема возникнет там, где её никто не ожидал. 🧮 Как рассчитывается Технический долг рассчитывается как сумма затрат (времени разработчиков, денег) на исправление дефектов. Он включает оценку сложности рефакторинга, устранения багов, обновления библиотек и архитектурных улучшений. Почему нужно разбирать технический долг вовремя? 💭 Спросили у инженера по информационной безопасности Swordfish Security Дениса Данилова, который помогает заказчикам разбирать технический долг в реальных проектах:

Очень часто после внедрения инструмента и первого сканирования проекта находится очень много срабатываний, на которые команда не может выделить время. Даже если аппсек разобрал все уязвимости и принёс только актуальные, разработчики сопротивляются и не хотят тратить на это время. В итоге уязвимости накапливаются и одна из них обязательно выливается в инцидент, который разработчики вынуждены чинить уже не планово, а с горящими сроками. Если же каждый спринт разбирать и исправлять хотя бы по одну уязвимость, внедрив это в процесс, разработчики не только сократят существующий техдолг, но и со временем придут к тому, что его появление значительно уменьшится. А появление нового техдолга будет ограничено механизмом Quality Gate.

💡 Советы эксперта: 🎱Регулярно обновляйте зависимости и убирайте устаревшие компоненты. 🎱Контролируйте и закрывайте временные доступы после использования. 🎱Проводите инвентаризацию сервисов и API. 🎱Рассматривайте технический долг как часть модели угроз. 🐟 Рассылка | МАКС | Habr #Понятно_о_DevSecOps

🛡 Приглашаем на вебинар «Безопасный CI/CD без утечек секретов: от кода до production» CI/CD сегодня уже не ограничивается задачами ускорения разработки и релизов. Команды всё чаще задаются вопросами безопасного хранения секретов, предотвращения утечек и выстраивания DevSecOps процессов без усложнения работы команд. ⏱ 26 мая в 12:00 вместе с AppSec Solutions и Orion soft проведем практический вебинар о безопасной разработке и доставке приложений. В эфире обсудим: ▶️ Как выявлять уязвимости и утечки секретов на этапе разработки; ▶️ Как централизованно управлять секретами и доступами; ▶️ Как безопасно доставлять приложения в Kubernetes; ▶️ Как работают ephemeral runners и secure CI/CD pipeline. 🎙 Спикеры: - Евгений Куликов, руководитель группы обеспечения безопасности приложений, Swordfish Security; - Руслан Гайфутдинов, ведущий пресейл-инженер, Orion soft; -Данил Балавнев, руководитель продукта AppSec.Code, AppSec Solutions. ➡️ Регистрируйтесь по ссылке. 🐟 Рассылка | МАКС | Habr #ВебинарыSFS

⚙️ Как работает инструмент RESTler Современные веб-сервисы становятся всё сложнее, и обычные тесты часто не способны выявить скрытые ошибки в логике работы API. В новой статье мы подробно рассказали, как использовать инструмент RESTler для продвинутого фаззинга REST API, чтобы исследовать поведение сервиса в сложных сценариях. Читайте: 🎱 Что такое фаззинг API и зачем он нужен. 🎱 Чем особенность тестирования REST API. 🎱 Как RESTler строит цепочки запросов и анализирует поведение системы. 🎱 Как пошагово запускать фаззинга и разбирать найденных уязвимости. ➡️ Статья уже доступна в блоге нашей компании на рбпо.рф – это экспертная площадка Центра компетенций ФСТЭК России и ИСП РАН, где публикуются актуальные материалы, рекомендации и новости отрасли.

Мы рады, что команда экспертов Swordfish Security присоединилась к проекту рбпо.рф и делится практическими материалами по кибербезопасности. Такие публикации помогают развивать безопасную разработку и внедрять современные подходы к анализу защищенности ПО.

— Вартан Падарян, руководитель лаборатории ИСП РАН. 🐟 Рассылка | МАКС | Habr #ЭкспертизаSFS

💫 День из жизни ГК Swordfish Security Искусственный интеллект радикально меняет рынок и подходы к разработке и безопасности. Именно в таких условиях работают наши команды: мы исследуем AI-специфические риски и решаем задачи, для которых еще не существует готовых процессов и стандартов. 😉 Приглашаем вас заглянуть на внутреннюю кухню ГК Swordfish Security. Рассказали про наш подход к формированию команды, работу с новыми задачами и технологиями, культуру обсуждений и процессы, которые помогают двигаться вперед.

Swordfish Security — это люди, в первую очередь, и способность работать над проектами из завтрашнего дня. То, что мы делаем сегодня — это то, что рынок будет делать послезавтра.

— Дарья Фигуркина, директор по талантам ГК Swordfish Security. Если вам близок наш подход — присоединяйтесь, у нас как раз открыты вакансии. 💙 Смотрите репортаж из московского офиса на 📺 RuTube. 🐟 Рассылка | МАКС | Habr #SFS_life

📄 Новые требования ФСТЭК в области безопасности ИИ ФСТЭК России выпустила методический документ к приказу №117, который определяет меры по защите информации в ИТ-системах. Особое внимание сейчас привлекает пункт 3.18 «Обеспечение защиты информации при использовании искусственного интеллекта (ИИ)». Что именно теперь требуется от компаний, применяющих ИИ? Какие меры обязательны уже сейчас? Где остаются спорные и пока неурегулированные вопросы? На эти вопросы в статье на Хабре отвечает Альбина Аскерова, руководитель направления по взаимодействию с регуляторами Swordfish Security. Материал получился практическим: с примерами, рисками и планом, с чего начать внедрение процессов безопасности ИИ уже сейчас. 📖 Читайте и участвуйте в опросе в конце статьи. 🐟 Рассылка | МАКС | Habr #ЭкспертизаSFS #РегуляторикаИИ

🛡 Безопасность ИИ в производстве ИИ стремительно вошел в промышленность: к 2026 году он стал ключевым инструментом для оптимизации процессов, снижения себестоимости и повышения качества продукции. Сегодня его чаще всего используют в клиентских чат-ботах, автоматизации процессов через AI-агентов и в системах машинного зрения. 📌 Чем шире внедрение, тем выше цена ошибок. Уже сейчас компании сталкиваются с утечками данных через LLM, манипуляциями поведением моделей, сбоями AI-агентов и публичными инцидентами, которые быстро расходятся в сети и бьют по бизнесу. 🔼 Читайте в карточках про применение ИИ в производственной сфере, ключевые угрозы, жизненный цикл ИИ с точки зрения атак и базовые подходы к построению архитектуры безопасного промышленного ИИ. 🐟 Рассылка | МАКС | Habr #ЭкспертизаSFS #Понятно_о_AISecurity

Мы вошли в топ крупнейших ИБ-компаний России по версии SecPost, заняв 30 место в рейтинге 2026 года. Для нас это не просто цифра, а подтверждение того, что выбранный фокус на практическую безопасность программного обеспечения и систем с искусственным интеллектом действительно востребован рынком. За последний год мы: ▶️ усилили экспертизу в безопасности ИИ ▶️ расширили портфель проектов в enterprise-сегменте ▶️ активно участвуем в формировании и развитии стандартов безопасной разработки 👍 Этот результат — заслуга нашей команды и доверия клиентов, которые выбирают системный подход к безопасности. Продолжаем расти, усиливать экспертизу и развивать новые направления вместе с вами. 🔗 Подробнее о рейтинге на SecPost.