ML&|Sec Feed

Про работу памяти ChatGPT и Claude https://manthanguptaa.in/posts/chatgpt_memory/ https://manthanguptaa.in/posts/claude_memory/

🧠Рынок кибербезопасности для ИИ готовится к взрывному росту, прогнозируя объём в миллиарды рублей уже к 2026 году. Его подстёгивают первые громкие инциденты с утечками данных через AI-модели, которые создают спрос на защиту. ⏩При этом интеграция ИИ в бизнес опережает внедрение систем контроля, открывая новое поле для кибератак и формируя стремительно растущий сегмент рынка, подробнее в материале SecPost😍

Все про кодовые модели Хороший обзор Code LLMs, от фундаментальных моделей до агентов. 🟢 Какие задачи есть в кодогенерации. Неплохая таксономия (code completion, FIM, оптимизация кода, ревью, генерация тестов и т.д.) 🟢 Как обучают, про претрейн для кода, SFT и RL. Какие есть метрики и бенчи под них. Добавляем в закладки, когда-нибудь почитаем. https://arxiv.org/pdf/2511.18538

Gartner предупредила о киберрисках при использовании ИИ-браузеров Gartner выпустила рекомендацию для организаций по блокировке агентских ИИ-браузеров. Речь о продуктах вроде Comet от Perplexity и ChatGPT Atlas от OpenAI. Причина - высокие киберриски для корпоративных данных. Документ называется "Кибербезопасность должна пока блокировать браузеры с ИИ". Его подготовили вице-президент по исследованиям Деннис Сюй, старший директор-аналитик Евгений Миролюбов и вице-президент-аналитик Джон Уоттс. Главная претензия - настройки по умолчанию ставят удобство выше безопасности. https://mltimes.ai/gartner-predupredila-o-kiberriskah-pri-ispolzovanii-ii-brauzerov/

У Anthropic вышло очень интересное видео на тему универсальных агентов (general-purpose agents), которое у меня максимально отзывается. Основной посыл - не нужно делать специализированных агентов, нужно делать одного качественного универсального, а его уже кастомизировать под свои задачи Само видео (16 минут) и короткая статья по нему от businessinsider Инженеры из Anthropic предлагают вместо набора агентов использовать скилы для агента, который изначально создан для написания кода (Claude Code). Дальше они говорят, что skills будут использовать не только инженеры, но и нетехнические специалисты - врачи, менеджеры, трейдеры и тд, которые будут кастомизировать этого агента под себя По их логике, один general-purpose агент + библиотека skills становится “универсальной основой” для множества задач — без зоопарка спецагентов Иными словами, такой агент - универсальный интерфейс к миру А вот с тем, что CLI-агент подходит нетехническим специалистам, я не согласен… Все-таки инструмент достаточно специфичный. Мне кажется, что будущее действительно за универсальными агентами, но не совсем такими. Для работы будут использоваться агенты, которые выглядят как чатовый интерфейс (как ChatGPT) Примерно год назад наша команда загорелась идеей универсального агента GigaAgent, которого недавно представили на AIJ. Уже довольно много коллег разработчиков мне отписалось о тестировании, на AIJ и Conversations заинтересовались компании. Здесь могу только порадоваться, напомнить ставить звездочки нашему опенсорс-агенту и присылать PR :) Круто, что большие игроки тоже увидели будущее в этом подходе! P.S. У нас большое обновление в dev ветке - MCP, RAG, долговременная память

Большой релиз OWASP Top 10 for Agentic AI Applications 🔥. Последние месяцы мы в команде Agentic Security Initiative собирали первый отраслевой фреймворк по безопасности агентных ИИ-систем. Над документом работали более 100 человек: ресерчеры, вендоры, представители регуляторов и институтов вроде NIST и Linux Foundation. Мы приоритизировали риски и собрали практические меры защиты для автономных агентов, которые уже заходят в корпоративную инфраструктуру. Если вы строите AI Security-стратегию на 2026 год, из OWASP в первую очередь стоит взять именно этот документ за основу. Ссылка на релиз. Сегодня в 17:00 по Москве официальный запуск гайда. Ссылка на трансляцию.

Baby Dragon Hatchling (BDH) — это архитектура большой языковой модели, вдохновлённая биологией, которая объединяет принципы глубокого обучения с основами нейробиологии. Разработанная исследователями из Pathway, BDH представляет собой теоретическую и практическую основу для понимания того, как в искусственных системах возникают рассуждения и обобщения. 🐱 GitHub

Российские ученые взяли трофей на NeurIPS 2025 — команда In2AI заняла первое место в международном турнире по стратегическому мышлению для ИИ-агентов. В состав сборной вошли представители научного партнера Сбера — Институт AIRI. Одна из их моделей с 8B параметров обошла участников на GPT-5, Gemini 2.5 Pro и Grok 4. В итоге она выиграла сразу в двух треках: Efficient и Open. Секрет успеха — в системном инженерном подходе к обучению с подкреплением. Всего в соревновании участвовали 76 команд и 944 модели. Наши слоны 💪

OWASP + Microsoft - https://atlas.mitre.org/matrices/ATLAS Матрица от Zenity - https://ttps.ai nvidia - https://developer.nvidia.com/blog/modeling-attacks-on-ai-powered-apps-with-the-ai-kill-chain-framework hiddenlayer - https://hiddenlayer.com/innovation-hub/introducing-a-taxonomy-of-adversarial-prompt-engineering

Решения в области ИИ-безопасности на 2025 год Рынок систем безопасности на основе ИИ вступает в новую фазу После нескольких лет ажиотажа и исследований мы наблюдаем явную консолидацию рынка решений для обеспечения безопасности с помощью ИИ. Сектор безопасности с помощью ИИ вступает в фазу зрелости, о чём свидетельствует эволюция нашего «Радара решений для обеспечения безопасности с помощью ИИ». https://www.riskinsight-wavestone.com/en/2025/09/2025-ai-security-solutions-radar/

Ребята из AI Factory сделали большую карту российских ИИ-компаний. Я потыкался, карта хорошая. Люблю такие карты. И табличка удобная есть. Можно увидеть что рынок на удивление очень живой и богатый. Одних агрегаторов нейросетей 14 штук, я из них знал три штуки. Всем молодым компаниям в ИИ удачи в это нелёгкое время. Из таблички 80% компаний умрут 🥲 Но на молодых компаниях всё держится – на ошибках всех этих идей и подходах построится понимание что же на самом деле надо было делать. p.s. пост не купленный, я ребят вообще не знаю, и рекламу не даю https://incrussia.ru/specials/karta-rossijskogo-ii-2-0/

🤖 Роботы GITAI самостоятельно и собрали 5-метровую конструкцию - фундамент будущих внеземных модулей. Это пример того, как связка ИИ + робототехника начинает давать тот самый технологический скачок, на который долго рассчитывали: автономные системы, способные строить инфраструктуру без участия человека, открывают путь к базам на Луне, Марсе и орбите. @ai_machinelearning_big_data #robotics #AI #automation #spacetech #GITAI