AppSec & Compliance
Ir al canal en Telegram
Application Security & Compliance Безопасность приложений и сертификация СЗИ в промышленных масштабах
Mostrar más586
Suscriptores
Sin datos24 horas
Sin datos7 días
+830 días
Archivo de publicaciones
Безопасный вайбкодинг без ИТ-подготовки. Что продумать до первой строки кода
Начинаем серию статей о том, как правильно поручать ИИ-агенту разработку надежного приложения. Будем разбирать с рабочими промптами, как подготовить требования, определить права доступа и описать подключения к другим системам. Туториалы ориентированы на людей без ИТ-опыта — все сложное постараемся р…
🔗 https://habr.com/ru/companies/bitrix/articles/1108530
21 nov, 04:16
Но мы же не меняли код! Откуда взялась новая уязвимость?
Представьте: в пятницу я заканчиваю работу над новой версией программы. Проверки пройдены, до понедельника код точно никто не тронет. Но в понедельник я открываю отчет и вижу новое предупреждение об уязвимости. Появляется вопрос: чем таким небезопасным программа занималась на выходных? Читать далее
🔗 https://habr.com/ru/companies/cloud_ru/articles/1109390
21 nov, 02:16
От машинного кода к доказательному программированию: как меняется разработка ПО
Разработка ПО проходит очередной этап изменений. Языки высокого уровня абстрагировали алгоритмы от устройства машины, фреймворки сократили объём повторяющейся работы, а генеративный ИИ теперь способен взять на себя почти всё написание кода. Но чем дешевле становится написание кода, тем очевиднее дру…
🔗 https://habr.com/ru/articles/1109824
20 nov, 22:46
Взлом чипов step-by-step. Yet Another Story
Привет, Хабр! На связи снова Positive Labs! Сегодня мы поделимся с вами очередной историей, как сломать чип. Обычно рассказ о найденных уязвимостях выглядит как «вот тут разработчик ошибся, мы пишем такой PoC, отлаживаем - результат». Мы же попробуем максимально подробно описать, каким был весь путь…
🔗 https://habr.com/ru/companies/pt/articles/1108912
20 nov, 07:16
Можно ли научить статический анализатор эффективнее понимать сложный код?
На вебинаре поговорим о том, как устроен data-flow анализ, почему классические алгоритмы сталкиваются с вычислительными ограничениями и какие задачи остаются за пределами их возможностей. А главное — рассмотрим, как тропическая математика может стать основой нового подхода к анализу кода, позволяя э…
🔗 https://habr.com/ru/companies/pvs-studio/articles/1109492
20 nov, 04:16
ИИ и агенты в кибербезопасности: как состарились доклады RSAC 2026
Привет, Хабр! На связи ML-команда Positive Technologies. В марте на RSAC 2026 прошло больше 570 сессий , и заметное место в программе заняли ИИ-агенты. Одни докладчики рассказывали, как с их помощью атаковать и защищать инфраструктуру, другие пытались разобраться, какие новые риски создают сами ИИ-п…
🔗 https://habr.com/ru/companies/pt/articles/1109334
20 nov, 02:16
Repost from N/a
17 nov, 06:55
Безопасность ИИ в продакшене: на что смотреть, прежде чем станет поздно
Приветствую всех читателей! Эта статья — расширенная версия моего доклада «Безопасность ИИ в продакшене: на что смотреть, прежде чем станет поздно». На доклад было 40 минут, поэтому многое пришлось сократить до одной фразы на слайде. Здесь я собрал то, что не влезло: примеры кода с исправлениями, по…
🔗 https://habr.com/ru/articles/1106884
16 nov, 07:16
[Перевод] Что каждый программист должен знать о переполнении стекового буфера
Прикладное руководство, помогающее с азов понять, как организованы атаки с переполнением стекового буфера под Windows. Ведь по Unix‑подобным системам таких разборов уже хватает. Читать далее
🔗 https://habr.com/ru/articles/1106296
16 nov, 04:16
Как оценить зрелость безопасной разработки своими силами? Сравниваем четыре методологии
Безопасная разработка сейчас — одна из самых горячих тем в российском ИТ. Чаще всего к ней подталкивают внешние обстоятельства: требования регуляторов, предстоящие проверки или инцидент, после которого процессы приходится пересматривать. Самый редкий, но самый честный повод — руководство действитель…
🔗 https://habr.com/ru/companies/bastion/articles/1063690
16 nov, 02:16
Repost from DevSecOps Talks
HolmesGPT: CNCF SRE Project
Всем привет!
HolmesGPT – AI-агент, основными задачами которого являются observability и помощь в реагировании на инциденты.
Для этого он может «подключаться» к различным системам:
🍭 Metrics: Prometheus, Datadog, Coralogix, NewRelic
🍭 Logs: Loki, Elasticsearch/OpenSearch, VictoriaLogs, Datadog, Coralogix, Splunk
🍭 Traces: Tempo, Datadog, NewRelic
🍭 Dashboards: Grafana
🍭 Infrastructure: Kubernetes, Docker, Helm, ArgoCD, Crossplane, OpenShift, Cilium, KubeVela
🍭 CI/CD: Jenkins
🍭 Databases: PostgreSQL, MySQL, ClickHouse, MariaDB, SQL Server, MongoDB Atlas
🍭 Messaging: Kafka, RabbitMQ
Все подключения доступны только для чтения.
Они позволяют ему собирать необходимый контекст и оповещать об инцидентах и/или предлагать рекомендации по устранению выявленных проблем.
Дальше всё просто – вы спрашиваете, HolmesGPT отвечает на поставленный вопрос и помогает разобраться в ситуации.
Чем больше источников данных подключено, тем более точные и полные ответы HolmesGPT сможет предоставить.
К нему можно подключить разные модели.
Для того, чтобы было проще выбирать, Авторы периодически выпускают benchmarks, в которых представлены: пройденные моделями тесты, стоимость, производительность, корректность предлагаемых skills и т.д.
Больше подробностей про HolmesGPT и его возможности можно найти в GitHub-репозитории или в официальной документации.
13 nov, 00:22
Repost from Технологический Болт Генона
+3
Пост большой, с кучей ссылок и отсылок, поэтому влезть в формат поста в Telegram не получится. Я кусочками накидаю, но тем кто интересуется крайне рекомендую открыть и почитать оригинал
Из чего состоит ваш ИИ: разбираемся, что такое AIBOM и MLBOM
https://habr.com/ru/companies/codescoring/articles/1104096/
Разработчики могут взять готовую модель машинного обучения в открытом доступе, дообучить её на своих данных и уменьшить точность весов для запуска на машинах послабее. В их продукт таким образом попадёт уже производная модель. Чтобы разобраться в её происхождении, понадобится знать исходную модель, данные и выполненные преобразования. Для этого были введены понятия MLBOM и AIBOM, которыми обозначают документы с составом моделей и систем, использующих искусственный интеллект. ... Чем отличаются MLBOM и AIBOM Machine Learning Bill of Materials, или MLBOM, описывает модель машинного обучения и связанные с ней компоненты и сведения о происхождении. В зависимости от задачи в документ могут входить данные о базовой модели, датасетах, преобразованиях, программном окружении и условиях использования. Эти сведения можно записать в CycloneDX или SPDX, чтобы вместе с моделью передать следующей команде и описание её происхождения. Название AI Bill of Materials, или AIBOM, обычно используют для более широкого состава ИИ‑системы. Помимо модели, приложение может, например, обращаться к внешнему API, извлекать документы из поискового индекса, применять системный промпт, подключать инструменты или выполнять агентный сценарий. Наглядный пример можно увидеть в документации Cisco AIBOM: инструмент учитывает агентов, MCP‑серверы и другие элементы приложения. На практике по одному названию не всегда можно понять, что окажется в документе. К примеру, OWASP AIBOM Generator формирует документ по сведениям о моделях Hugging Face, то есть решает и задачи, которые называют MLBOM. В документации CycloneDX AIBOM и MLBOM также рассматриваются вместе. В этой статье под MLBOM будем понимать прежде всего сведения о модели, её составе и происхождении, а под AIBOM — инвентаризацию ИИ‑системы в более широком смысле. Есть еще один важный термин. Карточка модели (Model Card) — это сопроводительный документ с описанием обучения, результатов оценки и рекомендаций по использованию модели. На Hugging Face такая карточка обычно оформлена как README с описанием и метаданными модели. Когда модель включают в BOM, часть сведений из её карточки можно записать в структурированном виде. В CycloneDX для этого служит одноименный объект modelCard внутри компонента типа machine‑learning‑model. Запись с таким объектом может находиться и в SBOM приложения рядом с библиотеками, и в отдельном MLBOM модели. ... Кому пригодится MLBOM и с чего начать MLBOM пригодится разработчикам, которым нужно проследить происхождение модели в своей сборке, и командам безопасности, которые ищут затронутые продукты после сообщения о проблеме. В документе можно сохранить версии, исходные модели и преобразования, чтобы обеим командам не восстанавливать эту цепочку заново. Для составления первого MLBOM стоит выбрать одну модель из конкретной поставки и проследить её до источника. Пусть инструмент соберёт доступные сведения, а команда вручную проверит находки и уточнит недостающую информацию у владельцев обучения и сборки. Если данные закрыты, то в распространяемом документе можно оставить разрешённый идентификатор и ссылку на описание с контролем доступа. Передавать сам обучающий корпус не обязательно.
11 nov, 03:57
Repost from DevSecOps Talks
OWASP Xpsd
Всем привет!
Ещё один проект под эгидой OWASP. На этот раз он посвящен анализу достижимости уязвимостей, которые выявляются в рамках композиционного анализа.
Т.е. он даёт ответ на вопрос: «Могут ли входные данные, передаваемые ПО, вызвать уязвимый код в этом репозитории?».
Работает это примерно так:
🍭 На вход Xpsd передаётся одна конкретная CVE или целый отчёт
🍭 Модель вызывает доступные ей MCP для анализа
🍭 Пользователь получает вердикт (информация о достижимости и трасса)
Каждая сработка анализируется своим собственным агентом.
Сама модель сильно ограничена в действиях. Всю информацию, которую она анализирует, она получает только от вызываемых инструментов.
Чтобы сократить количество используемых токенов, Xpsd не «загружает всю кодовую базу».
Вместо этого утилита использует ast-tree и обогащает переданные на вход данные по CVE с использованием OSV.dev.
В качестве источников информации о CVE поддерживаются сканеры: Grype, Trivy, OSV-Scanner и Snyk.
Подробнее о том, как работает Xpsd и о том, как её запустить и настроить, можно прочесть тут и тут соответственно.
А если хочется посмотреть на сам prompt, который она использует, то он лежит вот тут.
11 nov, 00:23
Рой ИИ‑агентов против настоящих целей: уязвимости в OAuth‑библиотеке и две машины HackTheBox
В прошлой статье я показывал DreamTeam . Это опенсорс‑фреймворк на Python для роя ИИ‑агентов без начальника. Агентам дают цель, общую доску задач, общую git‑папку и право писать себе инструменты и скиллы. Дальше они сами раскладывают работу, разбирают задачи и проверяют друг друга. В той статье рой…
🔗 https://habr.com/ru/articles/1104506
09 nov, 07:16
[recovery mode] Отчёт Anthropic: неизданная Claude подготовила атаки на Chrome, Safari, Android, Windows и Linux
27 октября команда Anthropic, которая проверяет опасные возможности моделей, опубликовала отчёт: внутренняя, ещё не выпущенная модель Claude нашла уязвимости в пяти самых распространённых платформах и для каждой собрала работающую атаку. Разбираю, что именно получилось, сколько в этом участвовал чел…
🔗 https://habr.com/ru/articles/1104476
09 nov, 04:16
[Перевод] История одной борьбы: Netflix vs уволившиеся инженеры
Инженер сменил команду, его права доступа обновили — и ночной пайплайн перестал работать. В Netflix эта проблема возникала на масштабе миллионов таблиц и десятков тысяч задач. Чтобы не чинить доступ после каждой перестановки в командах, в компании создали Data Projects: связанные данные и процессы о…
🔗 https://habr.com/ru/companies/cloud_ru/articles/1104462
08 nov, 22:46
Repost from Технологический Болт Генона
В июня я выступал на БЕКОН, где вместе с Андреем Слепых из "Фобос-НТ" рассказывали, как сертификация проходила
https://t.me/tech_b0lt_Genona/6839
12 ноября мы (Luntry) делаем вебинар, где ещё раз поговорим про сертификацию. На нём буду вещать я и Дима (@k8security)
Так что если кому интересно будет приходите, буду рад пообщаться
Вся информация + рега по ссылке
Кейс получения сертификата ФСТЭК России на защиту контейнеров и Kubernetes
https://luntry.ru/webinar_fstec_12_11_2026
08 nov, 13:06
