fa
Feedback

فریب کلاهبرداران را نخورید! تل‌متریو این کانال‌ها را شناسایی و برچسب‌گذاری می‌کند 👉 برای مشاهده برچسب، اشتراک تهیه کنید

AppSec & Compliance

AppSec & Compliance

رفتن به کانال در Telegram

Application Security & Compliance Безопасность приложений и сертификация СЗИ в промышленных масштабах

نمایش بیشتر
586
مشترکین
اطلاعاتی وجود ندارد24 ساعت
اطلاعاتی وجود ندارد7 روز
+830 روز
آرشیو پست ها
Безопасный вайбкодинг без ИТ-подготовки. Что продумать до первой строки кода Начинаем серию статей о том, как правильно поручать ИИ-агенту разработку надежного приложения. Будем разбирать с рабочими промптами, как подготовить требования, определить права доступа и описать подключения к другим системам. Туториалы ориентированы на людей без ИТ-опыта — все сложное постараемся р… 🔗 https://habr.com/ru/companies/bitrix/articles/1108530
21 نوامبر, 04:16

Но мы же не меняли код! Откуда взялась новая уязвимость? Представьте: в пятницу я заканчиваю работу над новой версией программы. Проверки пройдены, до понедельника код точно никто не тронет. Но в понедельник я открываю отчет и вижу новое предупреждение об уязвимости. Появляется вопрос: чем таким небезопасным программа занималась на выходных? Читать далее 🔗 https://habr.com/ru/companies/cloud_ru/articles/1109390
21 نوامبر, 02:16

От машинного кода к доказательному программированию: как меняется разработка ПО Разработка ПО проходит очередной этап изменений. Языки высокого уровня абстрагировали алгоритмы от устройства машины, фреймворки сократили объём повторяющейся работы, а генеративный ИИ теперь способен взять на себя почти всё написание кода. Но чем дешевле становится написание кода, тем очевиднее дру… 🔗 https://habr.com/ru/articles/1109824
20 نوامبر, 22:46

Взлом чипов step-by-step. Yet Another Story Привет, Хабр! На связи снова Positive Labs! Сегодня мы поделимся с вами очередной историей, как сломать чип. Обычно рассказ о найденных уязвимостях выглядит как «вот тут разработчик ошибся, мы пишем такой PoC, отлаживаем - результат». Мы же попробуем максимально подробно описать, каким был весь путь… 🔗 https://habr.com/ru/companies/pt/articles/1108912
20 نوامبر, 07:16

Можно ли научить статический анализатор эффективнее понимать сложный код? На вебинаре поговорим о том, как устроен data-flow анализ, почему классические алгоритмы сталкиваются с вычислительными ограничениями и какие задачи остаются за пределами их возможностей. А главное — рассмотрим, как тропическая математика может стать основой нового подхода к анализу кода, позволяя э… 🔗 https://habr.com/ru/companies/pvs-studio/articles/1109492
20 نوامبر, 04:16

ИИ и агенты в кибербезопасности: как состарились доклады RSAC 2026 Привет, Хабр! На связи ML-команда Positive Technologies. В марте на RSAC 2026 прошло больше 570 сессий , и заметное место в программе заняли ИИ-агенты. Одни докладчики рассказывали, как с их помощью атаковать и защищать инфраструктуру, другие пытались разобраться, какие новые риски создают сами ИИ-п… 🔗 https://habr.com/ru/companies/pt/articles/1109334
20 نوامبر, 02:16

Repost from N/a
17 نوامبر, 06:55

Безопасность ИИ в продакшене: на что смотреть, прежде чем станет поздно Приветствую всех читателей! Эта статья — расширенная версия моего доклада «Безопасность ИИ в продакшене: на что смотреть, прежде чем станет поздно». На доклад было 40 минут, поэтому многое пришлось сократить до одной фразы на слайде. Здесь я собрал то, что не влезло: примеры кода с исправлениями, по… 🔗 https://habr.com/ru/articles/1106884
16 نوامبر, 07:16

[Перевод] Что каждый программист должен знать о переполнении стекового буфера Прикладное руководство, помогающее с азов понять, как организованы атаки с переполнением стекового буфера под Windows. Ведь по Unix‑подобным системам таких разборов уже хватает. Читать далее 🔗 https://habr.com/ru/articles/1106296
16 نوامبر, 04:16

Как оценить зрелость безопасной разработки своими силами? Сравниваем четыре методологии Безопасная разработка сейчас — одна из самых горячих тем в российском ИТ. Чаще всего к ней подталкивают внешние обстоятельства: требования регуляторов, предстоящие проверки или инцидент, после которого процессы приходится пересматривать. Самый редкий, но самый честный повод — руководство действитель… 🔗 https://habr.com/ru/companies/bastion/articles/1063690
16 نوامبر, 02:16

Repost from DevSecOps Talks
HolmesGPT: CNCF SRE Project Всем привет! HolmesGPT – AI-агент, основными задачами которого являются observability и помощь в реагировании на инциденты. Для этого он может «подключаться» к различным системам: 🍭 Metrics: Prometheus, Datadog, Coralogix, NewRelic 🍭 Logs: Loki, Elasticsearch/OpenSearch, VictoriaLogs, Datadog, Coralogix, Splunk 🍭 Traces: Tempo, Datadog, NewRelic 🍭 Dashboards: Grafana 🍭 Infrastructure: Kubernetes, Docker, Helm, ArgoCD, Crossplane, OpenShift, Cilium, KubeVela 🍭 CI/CD: Jenkins 🍭 Databases: PostgreSQL, MySQL, ClickHouse, MariaDB, SQL Server, MongoDB Atlas 🍭 Messaging: Kafka, RabbitMQ Все подключения доступны только для чтения. Они позволяют ему собирать необходимый контекст и оповещать об инцидентах и/или предлагать рекомендации по устранению выявленных проблем. Дальше всё просто – вы спрашиваете, HolmesGPT отвечает на поставленный вопрос и помогает разобраться в ситуации. Чем больше источников данных подключено, тем более точные и полные ответы HolmesGPT сможет предоставить. К нему можно подключить разные модели. Для того, чтобы было проще выбирать, Авторы периодически выпускают benchmarks, в которых представлены: пройденные моделями тесты, стоимость, производительность, корректность предлагаемых skills и т.д. Больше подробностей про HolmesGPT и его возможности можно найти в GitHub-репозитории или в официальной документации.
13 نوامبر, 00:22

12 نوامبر, 08:15

Пост большой, с кучей ссылок и отсылок, поэтому влезть в формат поста в Telegram не получится. Я кусочками накидаю, но тем кт
+3
Пост большой, с кучей ссылок и отсылок, поэтому влезть в формат поста в Telegram не получится. Я кусочками накидаю, но тем кто интересуется крайне рекомендую открыть и почитать оригинал Из чего состоит ваш ИИ: разбираемся, что такое AIBOM и MLBOM https://habr.com/ru/companies/codescoring/articles/1104096/
Разработчики могут взять готовую модель машинного обучения в открытом доступе, дообучить её на своих данных и уменьшить точность весов для запуска на машинах послабее. В их продукт таким образом попадёт уже производная модель. Чтобы разобраться в её происхождении, понадобится знать исходную модель, данные и выполненные преобразования. Для этого были введены понятия MLBOM и AIBOM, которыми обозначают документы с составом моделей и систем, использующих искусственный интеллект. ... Чем отличаются MLBOM и AIBOM Machine Learning Bill of Materials, или MLBOM, описывает модель машинного обучения и связанные с ней компоненты и сведения о происхождении. В зависимости от задачи в документ могут входить данные о базовой модели, датасетах, преобразованиях, программном окружении и условиях использования. Эти сведения можно записать в CycloneDX или SPDX, чтобы вместе с моделью передать следующей команде и описание её происхождения. Название AI Bill of Materials, или AIBOM, обычно используют для более широкого состава ИИ‑системы. Помимо модели, приложение может, например, обращаться к внешнему API, извлекать документы из поискового индекса, применять системный промпт, подключать инструменты или выполнять агентный сценарий. Наглядный пример можно увидеть в документации Cisco AIBOM: инструмент учитывает агентов, MCP‑серверы и другие элементы приложения. На практике по одному названию не всегда можно понять, что окажется в документе. К примеру, OWASP AIBOM Generator формирует документ по сведениям о моделях Hugging Face, то есть решает и задачи, которые называют MLBOM. В документации CycloneDX AIBOM и MLBOM также рассматриваются вместе. В этой статье под MLBOM будем понимать прежде всего сведения о модели, её составе и происхождении, а под AIBOM — инвентаризацию ИИ‑системы в более широком смысле.  Есть еще один важный термин. Карточка модели (Model Card) — это сопроводительный документ с описанием обучения, результатов оценки и рекомендаций по использованию модели. На Hugging Face такая карточка обычно оформлена как README с описанием и метаданными модели. Когда модель включают в BOM, часть сведений из её карточки можно записать в структурированном виде. В CycloneDX для этого служит одноименный объект modelCard внутри компонента типа machine‑learning‑model. Запись с таким объектом может находиться и в SBOM приложения рядом с библиотеками, и в отдельном MLBOM модели.  ... Кому пригодится MLBOM и с чего начать MLBOM пригодится разработчикам, которым нужно проследить происхождение модели в своей сборке, и командам безопасности, которые ищут затронутые продукты после сообщения о проблеме. В документе можно сохранить версии, исходные модели и преобразования, чтобы обеим командам не восстанавливать эту цепочку заново. Для составления первого MLBOM стоит выбрать одну модель из конкретной поставки и проследить её до источника. Пусть инструмент соберёт доступные сведения, а команда вручную проверит находки и уточнит недостающую информацию у владельцев обучения и сборки. Если данные закрыты, то в распространяемом документе можно оставить разрешённый идентификатор и ссылку на описание с контролем доступа. Передавать сам обучающий корпус не обязательно.
11 نوامبر, 03:57

Repost from DevSecOps Talks
OWASP Xpsd Всем привет! Ещё один проект под эгидой OWASP. На этот раз он посвящен анализу достижимости уязвимостей, которые выявляются в рамках композиционного анализа. Т.е. он даёт ответ на вопрос: «Могут ли входные данные, передаваемые ПО, вызвать уязвимый код в этом репозитории?». Работает это примерно так: 🍭 На вход Xpsd передаётся одна конкретная CVE или целый отчёт 🍭 Модель вызывает доступные ей MCP для анализа 🍭 Пользователь получает вердикт (информация о достижимости и трасса) Каждая сработка анализируется своим собственным агентом. Сама модель сильно ограничена в действиях. Всю информацию, которую она анализирует, она получает только от вызываемых инструментов. Чтобы сократить количество используемых токенов, Xpsd не «загружает всю кодовую базу». Вместо этого утилита использует ast-tree и обогащает переданные на вход данные по CVE с использованием OSV.dev. В качестве источников информации о CVE поддерживаются сканеры: Grype, Trivy, OSV-Scanner и Snyk. Подробнее о том, как работает Xpsd и о том, как её запустить и настроить, можно прочесть тут и тут соответственно. А если хочется посмотреть на сам prompt, который она использует, то он лежит вот тут.
11 نوامبر, 00:23

Repost from N/a
09 نوامبر, 12:24

Рой ИИ‑агентов против настоящих целей: уязвимости в OAuth‑библиотеке и две машины HackTheBox В прошлой статье я показывал DreamTeam . Это опенсорс‑фреймворк на Python для роя ИИ‑агентов без начальника. Агентам дают цель, общую доску задач, общую git‑папку и право писать себе инструменты и скиллы. Дальше они сами раскладывают работу, разбирают задачи и проверяют друг друга. В той статье рой… 🔗 https://habr.com/ru/articles/1104506
09 نوامبر, 07:16

[recovery mode] Отчёт Anthropic: неизданная Claude подготовила атаки на Chrome, Safari, Android, Windows и Linux 27 октября команда Anthropic, которая проверяет опасные возможности моделей, опубликовала отчёт: внутренняя, ещё не выпущенная модель Claude нашла уязвимости в пяти самых распространённых платформах и для каждой собрала работающую атаку. Разбираю, что именно получилось, сколько в этом участвовал чел… 🔗 https://habr.com/ru/articles/1104476
09 نوامبر, 04:16

[Перевод] История одной борьбы: Netflix vs уволившиеся инженеры Инженер сменил команду, его права доступа обновили — и ночной пайплайн перестал работать. В Netflix эта проблема возникала на масштабе миллионов таблиц и десятков тысяч задач. Чтобы не чинить доступ после каждой перестановки в командах, в компании создали Data Projects: связанные данные и процессы о… 🔗 https://habr.com/ru/companies/cloud_ru/articles/1104462
08 نوامبر, 22:46

В июня я выступал на БЕКОН, где вместе с Андреем Слепых из "Фобос-НТ" рассказывали, как сертификация проходила https://t.me/t
В июня я выступал на БЕКОН, где вместе с Андреем Слепых из "Фобос-НТ" рассказывали, как сертификация проходила https://t.me/tech_b0lt_Genona/6839 12 ноября мы (Luntry) делаем вебинар, где ещё раз поговорим про сертификацию. На нём буду вещать я и Дима (@k8security) Так что если кому интересно будет приходите, буду рад пообщаться Вся информация + рега по ссылке Кейс получения сертификата ФСТЭК России на защиту контейнеров и Kubernetes https://luntry.ru/webinar_fstec_12_11_2026
08 نوامبر, 13:06

AppSec & Compliance - آمار و تحلیل کانال تلگرام @appsec_c8e