ML&|Sec Feed

*🔹 MCP (Model Context Protocol) – Anthropic Client-server setup. Lightweight. Stateless. ✅ Great for structured tool invocation workflows ❌ Less flexible beyond those use cases 🔹 A2A (Agent-to-Agent Protocol) – Google Peer-to-peer, with HTTP-based discovery. ✅ Ideal for agent negotiation and interactions ✅ Supports both stateless and session-aware flows ❌ Requires a predefined agent directory 🔹 ANP (Agent Network Protocol) – Cisco Fully decentralized. Think search-engine-style discovery. ✅ Built for open, autonomous AI networks ✅ Stateless with optional identity verification ❌ Protocol negotiation can be complex 🔹 ACP (Agent Communication Protocol) – IBM Broker-mediated, session-rich, and enterprise-grade. ✅ Full runtime state tracking + modular agent tools ✅ Best for environments with governance and orchestration needs ❌ Relies on a central registry service 📌 Bottom line: 🔸MCP if you need speed and simplicity. 🔸A2A if your agents need to negotiate. 🔸ANP for open and decentralized agent ecosystems. 🔸ACP when modularity and governance are a must.

PraisonAI — это готовая к производству среда Multi AI Agents, разработанная для создания агентов AI для автоматизации и решения проблем от простых задач до сложных задач. 5️⃣ GitHub

Большой гайд по разработке агентов Сбер внезапно сделали всем большой подарок: на конференции ЦИПР старший вице-президент компании Андрей Белевцев представил огромный практический гайд по созданию AI-агентов. Внутри: – Все про то, кто такие агенты и как они работают – Готовые скрипты и шаблоны для разработки и деплоя мультиагентных систем – Прикладные рекомендации, основанные на опыте инженеров Сбера Полезно будет всем: и ИТ-специалистам, и разработчикам, и руководителям.

Мы раскрываем наш практический опыт внедрения таких систем в сложном ИТ-ландшафте Сбера. Уверен, что документ станет ценным и полезным ресурсом на пути освоения и внедрения компаниями современных AI-технологий.

Полную pdf-ку забираем абсолютно бесплатно здесь

Hugging Face сделали собственную легковесную модель для управления роботами Для универсальных роботов используются модели VLA (Vision-Language-Action), но обычно они достаточно тяжелые и дорогие. Hugging Face же сейчас идет в сторону доступной и дешевой робототехники, и сегодня они выложили SmolVLA – специальную облегченную VLA, которую можно использовать для домашних роботов. Сама архитектура очень компактная: всего один Action Expert и несколько чередующихся слоев self-attention и cross-attention. На вход модели поступают кадры и задача на естественном языке, на выходе получаем последовательность действий для робота. Интересно, что обучена модель исключительно на открытых датасетах сообщества LeRobot (их люди за год выложили порядка 500). Завести SmolVLA можно на домашних GPU или даже на CPU. В проект зашит, помимо прочего, еще и асинхронный инференс. И вот еще: несмотря на свои размеры (есть варианты на 0.24B, 0.45В и 2.25В), моделька работает очень неплохо, иногда даже на уровне с VLA в десять+ раз больше. Веса | Репо | Статья

ЦРТ интегрировала голосовой помощник Voice2X с GigaChat и разработала платформу для создания ИИ-агентов AgentNavigator Обновленный голосовой помощник для промышленности 🏷Voice2X сочетает генеративные возможности ИИ с точным извлечением информации из корпоративных источников. Ответы формируются с опорой на актуальные документы и базы знаний. Для работы с голосовым помощником используется гарнитура. В платформе 🏷AgentNavigator для создания ИИ-агентов также применяется 🏷GigaChat. Решение включает визуальный редактор для создания агента без написания кода, инструменты для интеграции с корпоративными информационными системами, внешними сервисами и базами данных, а также аналитический модуль. Утверждается, что голосовой помощник ускорил типовые операции в два раза. AgentNavigator, по оценке ЦРТ, снизил стоимость запуска ИИ-агентов на 60–70%. 🔗 Источник 1: https://www.speechpro.ru/media/news/gruppa-crt-predstavila-golosovogo-pomoshnika-dlya-promyshlennosti-s-iskusstvennym-intellektom-gigach 🔗 Источник 2: https://www.speechpro.ru/media/news/gruppa-crt-razrabotala-platformu-agentnavigator-kotoraya-bolee-chem-na-60-uskoryaet-i-uproshaet-sozd

27-30 мая в эстонском Таллине прошла очередная конференция CyCon 2025, на которой обсуждалось много всего разного из области киберконфликтов. Мне понравилось выступление Thomas Dullien (Halvar Flake) “Путешествие по кривой обучения", в котором автор высказал ряд очень интересных и откликающихся у меня мыслей на тему экономических законов и их применения в безопасности, в том числе и информационной. Вот несколько идей из его выступления с CyCon 2025, которые заставляют задуматься: 1️⃣ Экономика сильнее привычек. Суверенитет невозможен без производственных мощностей. Без своих чипов, дронов и серверов страна становится зависимой — как бы хорошо ни был настроен ее SOC. 2️⃣ Знание ≠ умение. Можно украсть документацию у TSMC, как делают китайцы, но повторить их опыт и производственный процесс — нет. Производственная компетенция не передается через шпионаж. Кибершпионаж не даст умения делать сложные продукты. 3️⃣ Масштаб — двигатель прогресса. Чтобы развивать передовые технологии (чипы, дроны, электромобили, LLM), нужен постоянный поток инвестиций + массовое производство для амортизации затрат. Intel, выигравшая у RISC за счет массового производства, потеряла технологическое лидерство, когда отказалась от массового мобильного рынка, - хороший урок для любых индустрий. Масштаб — ключевой фактор инноваций. 4️⃣ Война требует дешевого и массового. В мирной экономике выгодно уходить в “высокую добавленную стоимость” — люкс, финтех, брендированные товары и т.п., но экономика “премиальности” плохо масштабируется в конфликт. Современные войны выигрывают не "брендом", а количеством дешевых, эффективных решений. Пример - дешевые дроны в Украине ($500 за штуку), которые изменили тактику войны. Они — это “дорогие пули”, а не “дешевые самолеты”. 5️⃣ Баланс “безопасность ≠ эффективность” — вызов будущего. Защита на уровне runtime замедляет работу дрона на 10% → БПЛА с такой защитой проиграет более легкому и быстрому. Баланс между безопасностью и боевыми характеристиками станет важнейшей темой будущего. 6️⃣ Будущее — за автономными системами. На поле боя будут сражаться программные агенты. Защита станет не внешней “надстройкой”, а частью самой архитектуры ПО (привет, безопасная разработка). При этом появляются новые угрозы в кибербезопасности (jamming, атаки на “умные” решения, истощение энергии и т.п.). 7️⃣ Кибербезопасность перестает быть самостоятельной дисциплиной. Когда ПО везде, а чипы в каждом устройстве, “кибербезопасность” просто станет частью общей безопасности. “Кибер” — это часть общей инженерной и оборонной культуры. 8️⃣ Суверенитет требует производственных мощностей. Малые страны без массового производства теряют суверенитет и только крупные экономические блоки (ЕС, НАТО и т.п.), обеспечивающие внутренние объемы, смогут сохранить безопасность. Не уверен, что ШОС, ОДКБ и даже СНГ попадают в понятие такого блока. 9️⃣ Ошибки Запада. После 1990-х Запад вел себя так, будто войны невозможны. Военная промышленность стала “артельной” - мало, дорого, эксклюзивно. Такая модель создает риск потери способности к инновациям, что может привести к повтору судьбы Intel, но на уровне отдельных государств. Как метко сказал Dullien: “против экономики не попрешь”. В новой реальности безопасность — это не только про NGFW и SOC, но и про индустриальную политику и учет экономических законов. Отказ от массового производства ради экономической эффективности может привести к потере безопасности в кризисной ситуации. #экономика #суверенитет

Австралийский регулятор (ACSC) разработал и выложил в открытый доступ документы по внедрению SIEM и SOAR, а также по работе с логами и событиями по ИБ, требуемыми для эффективного мониторинга ИБ. Очень неплохие документы 🤔 #SOC #средствазащиты #siem #soar

Anthropic опенсорснули свой микроскоп для LLM Помните, в марте мы рассказывали о большом исследовании Anthropic про способ отслеживания "мыслей" моделей? Метод назывался Circuit Tracing (то есть цепная трассировка) и позволял выделять какие-то интерпретируемые концепты и рисовать настоящие карты внутренних "размышлений" LLM. Тогда эта работа стала большым шагом в исследованиях по интерпретируемости, и вот теперь Anthropic выпустили целую опенсорсную библиотеку, основанную на их методе + готовую интерактивную песочницу на Neuronpedia. Вот как это работает: ➖ вы выбираете модель, ➖ задаете промпт, ➖ настраиваете гиперпараметры (если хотите) ➖ ... и получаете большой аналитический граф того, как модель обдумывает ответ на ваш запрос. С этим графом можно взаимодействовать, рассматривать на разных уровнях и тд. Как это все работает технически – читайте в нашем разборе вот тут. Ну и пробуйте сами, конечно, работа у ребят получилась большая и интересная

🧠🔍 Anthropic выложили в открытый доступ «рентген» для LLM Сегодня ребята из Anthropic выложили в open-source свежайший circuit-tracer — библиотеку + веб-интерфейс, которые позволяют буквально «посветить фонариком» внутрь любых открытых LLM и посмотреть, как токены влияют друг на друга. Что дают? • Attribution graphs — автоматически строят граф «кто-на-кого влияет» (токены → фичи → логиты). • Neuronpedia UI — кликаешь 👉 смотришь цепочки рассуждений, группируешь узлы, подписываешь и делишься ссылкой. • Интервенции — в ноутбуке можно подкрутить найденные фичи и сразу увидеть, как меняется ответ модели. Зачем это нам? 🔑 Интерпретируемость давно отставала от «качаем ещё 10B параметров». Теперь любой энтузиаст может проверить, какие цепочки выводят модель к финальному слову, найти баги рассуждений и даже чинить их on-the-fly. Пробуйте, делитесь самыми странными цепочки — интересно, какие «мысленные кроличьи норы» вы откопаете! 🐇👆 Ссылка

Нашел крутое: code2prompt — open-source тулза, которая превращает кодовую базу в промт для LLM. Сканирует проект, строит дерево, описывает файлы, фильтрует ненужное и автоматически копирует результат в буфер. Хватаем годноту

Россия и Китай: новые правила ИИ 👨‍💻🔼 Директор Института системного программирования РАН Арутюн Аветисян принял участие в 6-й Всемирной выставке искусственного интеллекта (Global AI Expo 2025) в Шэньчжэне, где выступил с приглашённым докладом по теме доверенного ИИ (Trustworthy AI). 📌Это направление является одним из ключевых приоритетов для России, так как охватывает вопросы безопасности, прозрачности алгоритмов и этического регулирования — области, где российские разработки (например, в кибербезопасности и формальной верификации) имеют значительный научный задел. 💬В рамках выставки Арутюн Аветисян также выступил на форсайт-сессии Международного Альянса ИИ (AI Alliance Network), организованной Шэньчжэньской ассоциацией ИИ. Участие в дискуссии президента ассоциации г-на Сяо, китайских учёных и представителей Сбербанка (одного из лидеров в применении ИИ в России) подчёркивает растущую интеграцию российских технологических компаний и научных центров в мировые ИИ-альянсы. 💬Арутюн Аветисян, директор Института системного программирования, академик РАН, для НОП:

«Наше сотрудничество по искусственному интеллекту с научными и промышленными организациями Китая растёт год от года. В ходе форсайт-сессии обсуждались ключевые направления развития, интересные обеим сторонам. Особый акцент наряду с генеративным ИИ представители китайской стороны сделали на вопросах безопасности в контексте доверия – в первую очередь на тех, которые требуют прорывных научных результатов, необходимых для ускоренного внедрения ИИ. Данный факт ещё раз подтверждает, что проблемы доверия и безопасности, которыми уже несколько лет занимается Исследовательский центр доверенного ИИ ИСП РАН, приобрели глобальную значимость».

🤝Почему Китай — стратегический партнёр для России в сфере ИИ? 1️⃣Технологический суверенитет. Обе страны делают ставку на развитие собственных ИИ-экосистем, минимизируя зависимость от западных платформ. 2️⃣Дополняемость компетенций. Китай силён в масштабировании решений (компьютерное зрение, большие данные), Россия — в фундаментальных исследованиях (математические модели, безопасность). 3️⃣Совместные стандарты. Участие в альянсах позволяет влиять на нормы регулирования ИИ. 🌎Приоритеты России в международном сотрудничестве по ИИ — Доверенные технологии: вектор на безопасность и объяснимость алгоритмов (особенно для критической инфраструктуры). — Подготовка кадров: совместные лаборатории с Китаем и странами БРИКС для обмена опытом в образовательных программах. — Открытый код vs. протекционизм: баланс между участием в глобальных open-source проектах (например, PyTorch) и защитой национальных разработок (например, российские фреймворки для обработки естественного языка). #НОП

🛠️ Woodpecker: инструмент Red Team в эпоху ИИ, Kubernetes и API Open-source инструмент, который поднимет ваш уровень киберзащиты 🤖 Woodpecker — это open-source фреймворк для Red Team-тестирования, разработанный компанией Operant AI. Он предназначен для: ➖Выявления уязвимостей в ИИ-моделях ➖Проверки безопасности Kubernetes-кластеров ➖Анализа защищенности API ➖Woodpecker помогает проактивно находить слабые места в инфраструктуре ещё до того, как ими воспользуются злоумышленники. 🌟 Основные возможности 🔐 AI Security Тестирование моделей ИИ на атаки типа prompt injection Проверка устойчивости к data poisoning Анализ "поведенческих дыр" в логике ИИ-агентов 📦 Kubernetes Security Поиск неправильных конфигураций Выявление рисков эскалации привилегий Мониторинг политик безопасности в реальном времени 🔗 API Security Анализ слабых мест в API, включая: • недостаточную аутентификацию • некорректную обработку данных • риски утечек информации ⚙️ Преимущества решения ✅ Автоматизация — минимизация ручного труда и времени на анализ ✅ Интеграция — легко встраивается в пайплайны CI/CD ✅ Open-source — полный контроль и прозрачность ✅ Современные стандарты — адаптация под сложные инфраструктуры, включая Kubernetes и облака ✅ Модульность — можно использовать только нужные функции 📈 В условиях взрывного роста ИИ, API и Kubernetes, традиционные подходы к киберзащите становятся недостаточными. Woodpecker позволяет: ➖проактивно выявлять и устранять уязвимости ➖тестировать инфраструктуру в реальных условиях ➖обучать команды Red Team новым техникам атак и защиты 🔍 Ссылки: 📂 Официальный сайт 📚 GitHub-репозиторий Stay secure and read SecureTechTalks 📚 #SecureTechTalks #Woodpecker #RedTeam #CyberSecurity #OpenSource #AI #Kubernetes #API #DevSecOps #CloudSecurity

«Криптонит» предложил метод снижения ошибок нейросетей при смене обучающих данных Новая методика базируется на изучении того, как «мягко» нейросети реагируют на изменения данных или параметров. Во время проведенного исследования были обнаружены схожие тенденции в поведении различных нейросетей, что позволило предложить критерии оценки обобщающей способности. Эти критерии позволяют выполнить корректную оценку нейросетей, а также могут использоваться при создании моделей для минимизации потенциальных ошибок. Как отмечают разработчики, «проявления ошибок ИИ могут быть самым разными, но причины их часто одинаковы и кроются в слабой предсказуемости поведения нейросетей при смене данных». Кроме того, обученные модели могут демонстрировать «впечатляющие метрики в лабораторных условиях, но резко снижать качество вывода при переходе к реальным данным», уточняют они. Для реализации предложенной методики в компании написали библиотеку 🏷Loss Landscape Analysis для более гибкого подхода к построению и последующему анализу обобщающей способности нейросетей. 📃 Статья на arXiv 🔗Источник: https://kryptonite.ru/news/neural-network-make-mistakes/

Вау, Google раскатали приложение для локального запуска моделек на телефоне Оно абсолютно бесплатное, опенсорсное и поддерживает даже мультимодальные модели. Инструкция, как запустить: 1. Заходим в репозиторий Google AI Edge Gallery, заходим в Releases и скачиваем файл .apk. Это для Android, на айфоны будет позже. 2. Заходим в приложение, скачиваем одну из моделей оттуда или загружаем свою. 3. Все, теперь вы можете пользоваться этой моделью локально, то есть оффлайн и только на ресурсах вашего телефона. Особенно хорошо это работает с новыми Gemma 3n, адаптированными специально под локальный запуск.

Pydoll — совершает революцию в области автоматизации браузеров! В отличие от других решений, он устраняет необходимость в веб-драйверах, обеспечивая плавную и надёжную автоматизацию с собственной асинхронной производительностью. 5️⃣ GitHub

Key Security Risks for MCPs https://www.prompt.security/blog/top-10-mcp-security-risks