ML&|Sec Feed

PydanticAI — это фреймворк Python для создания агентов, который упрощает разработку приложений промышленного уровня с использованием генеративного ИИ. ✳️ GitHub

Marimo — это реактивный блокнот Python: запустите ячейку или взаимодействуйте с элементом пользовательского интерфейса, и marimo автоматически запустит зависимые ячейки (или пометит их как устаревшие), сохраняя согласованность кода и результатов. Блокноты marimo хранятся как чистый Python, выполняются как скрипты и развертываются как приложения. ✳️ GitHub

BAML — это специализированный язык для написания и тестирования функций LLM. Функция LLM — это шаблон запроса с определёнными входными переменными и конкретным типом вывода, например классом, перечислением, объединением, необязательной строкой и т.д. ✳️ GitHub

Как будет развиваться генеративный ИИ в пространстве БРИКС+ Эксперты «Яков и Партнёры» подготовили новое масштабное исследование о трендах и перспективах применения технологии генеративного искусственного интеллекта в странах БРИКС+. Совместное развитие Основная часть исследования посвящена анализу актуальной ситуации в Бразилии, России, Индии, Китае, ЮАР, ОАЭ и Саудовской Аравии. Эксперты выяснили, что разработка и внедрение генИИ-технологий подталкивает страны к более активному сотрудничеству, например в области развития технологии и обмена экспертизой, обеспечения инфраструктурой и данными, обучения специалистов, правового регулирования. Высокий потенциал Авторы исследования оценили, что реализованный экономический эффект от внедрения технологий генИИ в странах БРИКС+ в 2030 г. может достичь $350–600 млрд. При этом почти 70% эффекта придется на 6 ключевых отраслей: банковский сектор, розничную торговлю, машиностроение, энергетику, электронику и ИТ. Подробнее – в прикрепленном материале.

Интересная книжечка вышла вчера на архиве на 200 страниц по LLMам. От BERTов до ревард моделей, DPO, алайнментов и тюнингу моделек думать step-by-step. На английском. Читаем 🥳 Foundations of Large Language Models https://arxiv.org/abs/2501.09223

🔥 Agentarium — это мощный фреймворк на Python для создания и управления симуляциями с ИИ-агентами! 🌟 Он предоставляет интуитивную платформу для разработки сложных и интерактивных сред, где агенты могут действовать, обучаться и развиваться. 🌟 Фреймворк поддерживает управление агентами, взаимодействие между ними, создание синтетических данных через их действия и сохранение состояния с помощью контрольных точек. Agentarium оптимизирован для производительности и масштабируемости, а также предлагает гибкую конфигурацию окружения через YAML. 🔐 Лицензия: Apache-2.0 🖥 Github @machinelearning_ru

На мой взгляд самый мощный проект по созданию среды киберсек агентов https://github.com/Limmen/csle

smolagents - новые агенты от HF Будет заменой для transformers.agents (да, есть такие) Давят на простоту в первую очередь и это правильно Есть кодовый агент который пишет действия и вызовы тулов кодом (на картинке пример с кодовым агентом), а не просто jsonы с параметрами как обычно принято делать можно импортить тулы из langchain + можно делать мультиагентные систему Сейчас сделали 3 примера: text-2-SQL, RAG агента, мультиагент Реп https://github.com/huggingface/smolagents Пост https://huggingface.co/blog/smolagents дока + туторы https://huggingface.co/docs/smolagents/index Думаю, что как и многие smol проекты от хф - это в первую очередь чтобы взять, поковырять и поизучать. Пока что проекту месяц) Но мб со временем мощь получится

В МТС Web Services создали облачную инфраструктуру для безопасного обучения ML-моделей, которым требуются персональные данные

В Майкрософте отредтимили 100 аи-содержащих продуктов и вот что поняли: * Нужно понимать тестируемую систему и контекст её использования * Необязательно использовать сложные методы для тестирования (промт инжиниринга иногда достаточно) * AI red teaming ≠ Safety Benchmarking (редтиминг должен выявлять новые категории угроз, которые невозможно учесть стандартными метриками безопасности) * Стоит автоматизировать редтиминг, чтобы охватить больше рисков * Роль человека остается ключевой * LLM усиливают существующие риски и создают новые * Безопасность ИИ-систем никогда не будет до конца обеспечена + рассматривают в качестве примеров отдельные кейсы Не то чтобы статья-откровение, но если прям очень далеки, то стоит посмотреть Lessons From Red Teaming 100 Generative AI Products https://arxiv.org/abs/2501.07238

Чтобы насладиться такой красотой (или протестировать производительность своего компьютера), вам понадобятся всего лишь 13 миллионов индикаторов компрометации, 1,6 миллиона алертов из SIEM, 1 миллион обработанных инцидентов и Power BI.😅 Да, получилось красиво. За это спасибо Microsoft, которые собрали крупнейший публичный набор данных по реальным киберинцидентам от более чем 6000 организаций, а еще оттриажили и разбили по 441 технике MITRE ATT&CK. Сам GUIDE Dataset можно посмотреть и скачать на платформе Kaggle, а позалипать на красивые графы на ресурсе Securemetrics. #guidedataset #microsoft #ioc #siem #infographics #ml #kaggle

Pdf-extract-API — преобразуйте любое изображение или PDF-файл в структурированный документ Markdown текст или JSON с очень высокой точностью, включая табличные данные, числа или математические формулы. ✳️ GitHub

Кейс создания MLOps с указанием стэка https://www.cnews.ru/news/line/2025-01-13_bank_sankt-peterburg_sovmestno