ML&|Sec Feed

smolagents - новые агенты от HF Будет заменой для transformers.agents (да, есть такие) Давят на простоту в первую очередь и это правильно Есть кодовый агент который пишет действия и вызовы тулов кодом (на картинке пример с кодовым агентом), а не просто jsonы с параметрами как обычно принято делать можно импортить тулы из langchain + можно делать мультиагентные систему Сейчас сделали 3 примера: text-2-SQL, RAG агента, мультиагент Реп https://github.com/huggingface/smolagents Пост https://huggingface.co/blog/smolagents дока + туторы https://huggingface.co/docs/smolagents/index Думаю, что как и многие smol проекты от хф - это в первую очередь чтобы взять, поковырять и поизучать. Пока что проекту месяц) Но мб со временем мощь получится

В МТС Web Services создали облачную инфраструктуру для безопасного обучения ML-моделей, которым требуются персональные данные

В Майкрософте отредтимили 100 аи-содержащих продуктов и вот что поняли: * Нужно понимать тестируемую систему и контекст её использования * Необязательно использовать сложные методы для тестирования (промт инжиниринга иногда достаточно) * AI red teaming ≠ Safety Benchmarking (редтиминг должен выявлять новые категории угроз, которые невозможно учесть стандартными метриками безопасности) * Стоит автоматизировать редтиминг, чтобы охватить больше рисков * Роль человека остается ключевой * LLM усиливают существующие риски и создают новые * Безопасность ИИ-систем никогда не будет до конца обеспечена + рассматривают в качестве примеров отдельные кейсы Не то чтобы статья-откровение, но если прям очень далеки, то стоит посмотреть Lessons From Red Teaming 100 Generative AI Products https://arxiv.org/abs/2501.07238

Чтобы насладиться такой красотой (или протестировать производительность своего компьютера), вам понадобятся всего лишь 13 миллионов индикаторов компрометации, 1,6 миллиона алертов из SIEM, 1 миллион обработанных инцидентов и Power BI.😅 Да, получилось красиво. За это спасибо Microsoft, которые собрали крупнейший публичный набор данных по реальным киберинцидентам от более чем 6000 организаций, а еще оттриажили и разбили по 441 технике MITRE ATT&CK. Сам GUIDE Dataset можно посмотреть и скачать на платформе Kaggle, а позалипать на красивые графы на ресурсе Securemetrics. #guidedataset #microsoft #ioc #siem #infographics #ml #kaggle

Pdf-extract-API — преобразуйте любое изображение или PDF-файл в структурированный документ Markdown текст или JSON с очень высокой точностью, включая табличные данные, числа или математические формулы. ✳️ GitHub

Кейс создания MLOps с указанием стэка https://www.cnews.ru/news/line/2025-01-13_bank_sankt-peterburg_sovmestno