ML&|Sec Feed

Пентагон запатентовал «ДНК-антивирус» Недавно был опубликован патент, который разрабатывался , мозговым центром darpa компанией RTX BBN Technologies. Патент указывает финансирование IARPA по контракту Армии США W911NF-17-2-0092. Это маркер разведывательной программы FELIX цель которой — поиск следов генной инженерии в биооружии. Авторы: -Джейкоб Бил — ведущий эксперт по "аморфным вычислениям" и Bio-CAD (программированию клеток). Он создавал «язык программирования» для ДНК -SBOL. Это человек, который десять лет проектировал генетические системы, а потом развернулся на 180 градусов и начал создавать инструменты для их обнаружения . -Дэниел Вышогрод — чистый безопасник, ветеран киберразведки. В патенте цитируется его статья об автоматической генерации сигнатур для кибератак "нулевого дня". Команда BBN осуществила радикальный сдвиг. Они отбросили "мокрую биологию" и фолдинг белков. Для них ДНК — это не живая макромолекула, а скомпилированный бинарный трафик. Они перенесли архитектуру (DPI) из сетевой кибербезопасности в геномику. Секвенируемая ДНК читается как TCP/IP пакеты, а боевые химерные вирусы (собранные через CRISPR) вычисляются на лету как вредоносное ПО. Авторы заявляют, что система создана для защиты от двух конкретных сценариев: 1. Диверсия через синтез-лаборатории — когда злоумышленник дробит геном опасного патогена на мелкие фрагменты и заказывает их по частям в коммерческих ДНК-синтезаторах (обходя существующий контроль размером ~200 п.о.), а потом собирает обратно 2.Обнаружение патогена в реальном времени в образцах — то есть тактическая биоразведка Вся инженерная логика патента заточена под экстремальную скорость. В тексте жестко зафиксировано требование анализа сырых данных на скорости свыше 4 МБ/мин . Это цифровой радар противовоздушной био-обороны (ПВО). Он предназначен для прямой аппаратной интеграции с портативными потоковыми секвенаторами (нанопорового типа, например, Oxford Nanopore MinION), развернутыми на БПЛА разведки РХБЗ или в вентиляционных контурах командных бункеров. Система должна мгновенно выхватывать боевую генетическую нагрузку из аэрозольного облака и инициировать команду на применение MOPP-экипировки ДО того, как личный состав получит инфицирующую дозу. Технология имеет потенциал двойного назначения. Инвертировав этот математический аппарат в архитектуру (GAN), где алгоритм Рэйтеона выступает как "Дискриминатор", военный конструктор-вирусолог может тестировать разрабатываемое биооружие на лету. Мутируя химерный вирус до тех пор, пока фильтр не выдаст "0% угрозы", создается абсолютное биооружие, математически невидимое для систем мониторинга. 🔒DARPA&CIA

Cloudflare выкатили тулзу, которая проверяет, насколько твой сайт “понятен” для ИИ-агентов. Сервис прогоняет ключевые вещи: robots.txt, структуру контента, авторизацию (OAuth) и другие сигналы, от которых зависит, сможет ли агент нормально работать с твоим сайтом. На выходе получаешь оценку «AI-readiness» и понимание, где у тебя слабые места. Проверяем свой проект 🐱 GitHub

[GOODFIRE ВЫПУСТИЛА ИНСТРУМЕНТ ДЛЯ ТОЧЕЧНОЙ НАСТРОЙКИ LLM] Стартап Goodfire из Сан-Франциско представил Silico — инструмент, который позволяет заглянуть внутрь больших языковых моделей и менять их параметры прямо во время обучения. Это не просто отладка, а попытка превратить тренировку ИИ из алхимии в инженерную дисциплину. Например, исследователи Goodfire обнаружили нейрон в открытой модели Qwen 3, связанный с моральными дилеммами, и смогли менять его активность, влияя на ответы модели. В другом случае они проверили, согласится ли модель раскрыть, что её ИИ ведёт себя обманчиво в 0,3% случаев, затрагивая 200 миллионов пользователей. Изначально модель отказалась, но после усиления нейронов, отвечающих за прозрачность, ответ изменился на «да» в 9 из 10 попыток. Silico автоматизирует многие сложные процессы с помощью агентов и обещает дать разработчикам контроль, которого раньше не было. Источник информации: проверен

Stripe и Meta Ads оба сегодня запустили CLI: теперь ваш агент может оплачивать и отменять подписки и закупать рекламу в инстаграме не отвлекаясь на позорный интерфейс. Любой онлайн сервис становится agent-first, а любой агент требует cli-first интерфейсы. Назад в 60-е.

Внедрение ИИ увеличило атаки на API на 11% за год Глобальное исследование показало, что с инцидентами в программных интерфейсах столкнулись 87% опрошенных. У 42%частников атаковали именно API, связанные с приложениями искусственного интеллекта. Совершенствование процессов безопасности во многих компаниях не успевает за повсеместным внедрением ИИ. ➡️Подробнее читайте в «Киберболоиде». #киберболоид #новости #ИИ

ICT.Moscow: прикладные сценарии применения ИИ-агентов стали ключевыми приоритетами у пользователей в 2026 году ICT.Moscow опубликовал итоги опроса представителей ИТ-сообщества о приоритетных аспектах применения ИИ-агентов в России в этом году.

О том, что ИИ-агенты и связанные с ними тенденции составили одну из самых многочисленных групп мировых технотрендов 2026 года, ICT.Moscow рассказывал тут.

В новом исследовании авторы изучили отношение пользователей к таким аспектам технологии, как ее возможности и сценарии применения, а также надежность, понятность, прозрачность подобных решений и др. 🔦Что показал опрос: • только 14% посчитали, что ИИ-агенты — это просто ажиотажная тема; • 34% отметили важность локального использования, 33% — развития функционала ИИ-агентов; • 28% считают значимым, чтобы ИИ-агенты были совместимы с существующими рабочими инструментами; • на текущем этапе для пользователей пока не столь существенным кажется разнообразие самих решений и кем они создаются — российскими или зарубежными разработчиками. Больше выводов →

Everything-ai-ml — тщательно подобранная коллекция учебных материалов по генеративному искусственному интеллекту, машинному обучению, агентному искусственному интеллекту, языковым моделям, RAG, тонкой настройке, MLOps и многому другому. 🐱 GitHub

Edit Banana — фреймворк для преобразования статистических форматов в редактируемые. 🐱 GitHub

AgentWard: A Lifecycle Security Architecture for Autonomous AI Agents https://www.alphaxiv.org/overview/2604.24657 В статье представлена AGENTWARD, архитектура безопасности жизненного цикла для автономных ИИ-агентов, разрабатывающая пятиуровневую структуру глубокой защиты для систематической защиты агентов от инициализации до выполнения. Она демонстрирует практическую интеграцию в архитектуру агента OpenClaw, показывая, как скоординированные слои обнаруживают и смягчают многоэтапные угрозы, такие как эксплуатация вредоносных навыков и косвенные инъекции промптов. Выводы - Эффективная безопасность для автономных ИИ-агентов требует полномасштабного подхода к жизненному циклу, поскольку угрозы часто зарождаются на одном этапе и распространяются, проявляясь как вредоносные действия на последующих этапах. - Принудительное применение принципа нулевого доверия и гетерогенные механизмы защиты на нескольких уровнях критически важны для надежной защиты, гарантируя, что каждый этап независимо оценивает риски и обеспечивает устойчивость к разнообразным методам атак. - Межслойная координация, за счет обмена контекстом безопасности и накопления доказательств риска, позволяет фреймворку более эффективно обнаруживать и реагировать на сложные многоэтапные цепочки атак, чем изолированные контрольные точки безопасности. Проблема - Автономные ИИ-агенты с их итеративными системами, динамическими путями выполнения и расширенными привилегиями создают сложные проблемы безопасности во время выполнения, которые традиционные точечные модели безопасности не могут адекватно решить. - Сбои безопасности в автономных агентах часто распространяются на несколько этапов жизненного цикла (инициализация, ввод, память, принятие решений, выполнение), что делает одноэтапные защиты неэффективными против постоянных, межэтапных траекторий угроз. - Уязвимости существуют на каждом этапе жизненного цикла агента, начиная от скомпрометированных базовых компонентов и ненадежных внешних входов до постоянного повреждения памяти и несанкционированных действий, что требует целостной стратегии защиты. Метод - AGENTWARD предлагает ориентированную на жизненный цикл, глубоко эшелонированную архитектуру, которая систематически организует средства контроля безопасности на пяти различных этапах выполнения: сканирование основы (инициализация), очистка вводимых данных, защита когнитивных функций (память), выравнивание решений и контроль выполнения. - Архитектура интегрирует разнородные механизмы безопасности на каждом уровне, разработанные с применением принципа нулевого доверия, и использует межслойную координацию через общий контекст безопасности для накопления доказательств риска и адаптации защитных мер. - Прототип AGENTWARD, разработанный как плагин, реализован на OpenClaw, демонстрируя, как элементы управления безопасностью могут быть привязаны к событиям во время выполнения и управлять оценками безопасности в ходе операций агента. Результаты - Архитектура AGENTWARD предоставляет комплексный план для интеграции средств контроля безопасности во время выполнения в автономные ИИ-агенты, доказанный как реализуемый благодаря его реализации в виде плагина на OpenClaw. - Тематические исследования демонстрируют способность AGENTWARD обнаруживать и прерывать сложные атаки жизненного цикла, такие как эксплуатация вредоносных навыков, приводящая к несанкционированному доступу к данным, путем распространения маркеров риска от инициализации до выполнения. - Фреймворк эффективно смягчает атаки с косвенным внедрением промптов, направленные на создание постоянных бэкдоров или DoS, показывая, как слои очистки ввода, защиты когнитивных функций (целостности памяти) и контроля выполнения координируются для предотвращения заражения и вредоносных действий.

Я запустила ИИ-агента, который торгует на бирже моими реальными деньгами Короче, мне надоели эти споры: может ли ИИ-агент торговать удачно или нет. И я решила создать своего ИИ-агента, который будет за меня покупать и продавать акции каждый день. Я буду открыто показывать свой эксперимент в канале и публиковать его по понедельникам с хештегом #ИИтрейдер Подчеркиваю: я НИЧЕГО не понимаю в инвестициях, акциях, ценных бумагах и прочем. Меня вдохновляет сама идея ИИ-трейдера (ранее я писала об этом тут), так что я решила... Почему бы и да? 😎 Ну солью 10 000 руб, так солью! Как по мне, это нормальная трата за эксперимент и за то, чтобы хотя бы попробовать понять: сможет ли ИИ-агент зарабатывать мне РЕАЛЬНЫЕ деньги или нет? Если кому интересно, внутри у него Claude Opus 4.6. Да, самая мощная и дорогая модель Anthropic на сегодня. Как говорится, гулять так гулять 💃 Что он делает: дважды в день, в 12:00 и 16:00, просыпается, собирает данные по акциям на Мосбирже, ищет свежие новости, смотрит на нефть, доллар, ключевую ставку ЦБ, сам решает, что покупать и совершает сделку. Я поначалу думала его запускать вручную, из терминала с моего персонального компьютера, а потом решила: да ну, я так заброшу проект, если он пойдет вниз (а он запросто МОЖЕТ пойти вниз), буду забивать, забывать, нервничать и т.п. Так что я решила дать ему ПОЛНУЮ свободу. Я открыла брокерский счёт, дала ему 10 000 рублей, захостила все это дело в Railway и... Запустила полностью автономную торговлю. Ну то есть, еще раз: деньги с моего счета списывает САМ агент. Важно: то, о чем я буду писать в этой рубрике, это ни в коем случае не инвестиционные рекомендации! Еще раз, я не инвестор, я ничего в этом не понимаю, и я сомневаюсь, что это понимает ИИ-агент. Но мне видится интересным понять, каково это, когда искусственный интеллект сам распоряжается моими деньгами. И его сегодняшний выбор мне уже не понравился, кстати! Первое решение ИИ-агента: купить 3 акции Сбера за 951₽ 🤦‍♀️ Почему?! Ну он обосновывает это так:

«Снижение ставки ЦБ до 15% — прямой позитив для банков. Повышенный объём сигнализирует накопление. Лот 316.93₽ — позволяет взять 3 лота с минимальным риском».

Он также хотел купить Т-Технологии и МТС, но я заложила лимит 2000 рублей на одну сделку и защита не пропустила (лот Т-Технологий стоит 3393 рублей). Посмотрим, какие результаты будет показывать. Если будет делать хорошо, то, может, ослаблю настройки. На какую информацию ориентируется ИИ-агент: ✅ Цены и объёмы торгов по 8 голубым фишкам ✅ Курс доллара и динамика за неделю ✅ Свежие новости через поиск (геополитика, отчётности, ЦБ) ✅ Анализ: где рост на объёмах (надёжный), а где на пустом месте (рискованный) ✅ Прогноз на следующую неделю Его текущий прогноз:

«Заседание ЦБ 20 марта станет главным катализатором. Подтверждение снижения ставки до 15% подтолкнёт банки и рынок вверх. Слежу за нефтью и переговорами Путин-Трамп».

Вся эта история, еще раз, эксперимент и контент-проект. Мне интересно проверить: может ли ИИ-агент с бюджетом в 10 000 рублей заработать хоть что-то или красиво сольёт? Технический стек под капотом для тех, кому интересно: 📍 Claude Opus 4.6 (анализ + решения) 📍 Claude Sonnet 4.6 (поиск новостей. Взяла другую модель для поиска новостей, потому что это дешевле) 📍 T-Invest API (сделки на Мосбирже) 📍 Python, Railway (автозапуск по cron, то есть по расписанию) 📍 Код открытый: github.com/likeannarayskaya-maker/openclaw-trader Можете форкнуть его себе, кстати Буду публиковать обновления: что он купил, что продал, сколько заработал (или потерял), и его анализ рынка. Это не инвестиционная рекомендация, еще раз. Это наблюдение за тем, как ИИ справляется с реальными деньгами. Первый отчёт через неделю. 🦞 Поехали. @gruboprostiite

Lifecycle Security Architecture for Autonomous AI Agents - https://arxiv.org/pdf/2604.24657

не смог обойти OpenClaw стороной https://habr.com/ru/companies/raft/articles/1001286/

Написал короткую статью на 40 листах об agents evals: https://habr.com/ru/companies/raft/articles/1028832/

В феврале 2026 CompTIA запустила SecAI+ (CY0-001) первую международную сертификацию по безопасности ИИ. 4 домена экзамена: базовые концепции, защита AI-систем, применение ИИ в задачах ИБ, GRC. Программа покрывает MITRE ATLAS, OWASP Top 10 for LLM, атаки prompt injection (direct и indirect), data и model poisoning, membership inference, model inversion, backdoors в моделях. PDF-конспекты по всем 4 доменам, справочник MITRE ATLAS, шпаргалка по атакам на LLM, глоссарий. Плюс ВМ с Ollama и 12 практических лабораторных: prompt injection, jailbreak, RAG poisoning, data poisoning, обход guardrails, AI red teaming. https://rtmeteor.ru/secai

Deep-eye — усовершенствованный сканер уязвимостей и инструмент для тестирования на проникновение на основе искусственного интеллекта, который объединяет в себе несколько ИИ-сервисов (OpenAI, Grok, OLLAMA, Claude) с комплексными модулями тестирования безопасности для автоматического поиска ошибок, интеллектуальной генерации полезной нагрузки и составления профессиональных отчетов. 🐱 GitHub