ML&|Sec Feed
Відкрити в Telegram
1 382
Підписники
Немає даних24 години
+137 днів
+5830 днів
Триває завантаження даних...
Схожі канали
Немає даних
Виникли проблеми? Будь ласка, оновіть сторінку або зверніться до нашого support-менеджера.
Хмара тегів
Вхідні та вихідні згадування
---
---
---
---
---
---
Залучення підписників
жовтень '26жовт '26
жовтень '26
+17
в 0 каналах
вересень '26
+87
в 0 каналах
Get PRO
серпень '26
+130
в 1 каналах
Get PRO
липень '26
+62
в 2 каналах
Get PRO
червень '26
+63
в 1 каналах
Get PRO
травень '26
+120
в 0 каналах
Get PRO
квітень '26
+45
в 0 каналах
Get PRO
березень '26
+43
в 0 каналах
Get PRO
лютий '26
+59
в 0 каналах
Get PRO
січень '26
+88
в 2 каналах
Get PRO
грудень '25
+47
в 1 каналах
Get PRO
листопад '25
+53
в 1 каналах
Get PRO
жовтень '25
+106
в 1 каналах
Get PRO
вересень '25
+183
в 0 каналах
Get PRO
серпень '25
+44
в 1 каналах
Get PRO
липень '25
+60
в 1 каналах
Get PRO
червень '25
+35
в 0 каналах
Get PRO
травень '25
+128
в 3 каналах
Get PRO
квітень '25
+16
в 0 каналах
Get PRO
березень '25
+30
в 0 каналах
Get PRO
лютий '25
+25
в 3 каналах
Get PRO
січень '25
+65
в 0 каналах
Get PRO
грудень '240
в 0 каналах
Get PRO
листопад '24
+95
в 2 каналах
Get PRO
жовтень '240
в 0 каналах
Get PRO
вересень '240
в 0 каналах
Get PRO
серпень '24
+53
в 1 каналах
Get PRO
липень '240
в 0 каналах
Get PRO
червень '24
+22
в 1 каналах
| Дата | Залучення підписників | Згадування | Канали | |
| 09 жовтня | 0 | |||
| 08 жовтня | +3 | |||
| 07 жовтня | +3 | |||
| 06 жовтня | +3 | |||
| 05 жовтня | +4 | |||
| 04 жовтня | +1 | |||
| 03 жовтня | 0 | |||
| 02 жовтня | +2 | |||
| 01 жовтня | +1 |
Дописи каналу
Repost from Makrushin
Когнитивные артефакты для поиска ИИ-малвари
Для поиска ИИ-малвари традиционные индикаторы дополняются новым набором признаков:
* промпты и тексты для jailbreak и обмана ИИ-анализаторов
* LLM API-эндпоинты
* префиксы API-ключей
* строки с синтаксисом tool call
* упоминания компонентов инференса (Ollama, llama.cpp, vLLM и прочее)
* следы импортов ИИ-фреймворков
* строковые признаки агентской оркестрации.
На основе этого набора исследователи предложили трехуровневую модель детекта. На первом “примитивном” уровне анализируются доступные агентские примитивы (например, LLM-запросы и ответы, вызовы тулов через MCP, работа агента напрямую с операционной системой и сетью). На втором уровне проводится оценка их комбинаций и поведения агента на основе анализа входящего контекста, цепочки рассуждения, принятого решения, критичности используемого инструмента и ценности данных, к которым получен доступ. На третьем уровне цепочка действий сопоставляется с подтверждёнными признаками известных семейств ИИ-малвари.
Так что YARA-правила никуда не пропадают, а пополняются новыми индикаторами.
@makrushin
| 2 |  Mensarium — self-hosted обвязка для AI-агента: ставите Core на сервер или ноутбук, подключаете остальные Mac и Linux одной командой и отдаёте агенту задачи из браузера или Telegram.
Агент читает и правит файлы, запускает bash, работает с репозиториями в отдельных ветках и выполняет задачи по расписанию на любой модели (Claude Code, Codex, Ollama, OpenAI-совместимые API).
Любое изменение на машине он делает только после вашего подтверждения, и всё хранится на вашем железе.
🐱 GitHub | 65 |
| 3 |  Дональд Трамп: Украине нужен новый Президент.
«Я предлагаю Украине выбрать нового лидера, который сможет заключить сделку.
По какой-то причине Зеленский никогда не идёт на сделки». | 1 |
| 4 | Progressive Disclosure для MCP/API - экономия токенов в ~99%
Я вчера писал про 12 итерацию эксперимента с Personal OS, где я упаковал весь интерфейс для работы агентов и людей с версионированными документами (аналог своего GitHub + markdown) в две команды для CLI/MCP:
(1) start “task name” - начинает сессию и получает описание текущего SDK
(2) run “Python script”
Это позволило упаковать сложный функционал работы с документами, версиями в SDK. Агент начинает новую сессию, получает текущий SDK, видит его возможности и начинает писать код для выполнения задач. Код выполняется на сервере в песочнице (настоящей, а не контейнер) с ограничениями пользователя.
Это позволило перестать, наконец, делать новый деплой серверов API-шек и всех клиентов на каждое улучшение тулзов. Я смог прогнать пяток экспериментов по оптимизации SDK (более удобные функции) и сократил время праздношатания агентов в два раза.
А потом Дима @kuchin (спасибо тебе!) скинул ссылку на Cloudflare Code Mode, где сделали что-то подобное, только масштабом сильно больше - им надо было паковать 1M-2M токенов описывающих их 2549 AI tools. Благодаря progressive disclosure и Code Mode + SDK они смогли уменьшить расход токенов для типичных задач агентов этак раз в 1000, а число инструментов сократить до двух.
И вот тут я понял, что с таким подходом у нас не просто появилась среда, которая чуть улучшает подход с shared git repo + markdown и позволяет людям с агентами быстро обмениваться информацией без риска что-то безвозвратно потерять.
Теперь же можно в этот SDK вшивать процессы по работе с информацией в компании не словами, а кодом (например - как создавать инвойсы, где их хранить, откуда брать статистику, как версионировать), выкатывая новые версии SDK на лету (они подхватываются новыми сессиями агентов). И все это без опасения, что контекст моделек переполнится. Благодаря progressive disclosure, он как был в 1000 токенов, так и останется, даже если SDK вырастет до двух с половиной тысяч инструментов, как у Cloudflare.
Теперь только остается осознать все открывающиеся возможности.
Ваш, @llm_under_hood 🤗 | 81 |
| 5 |  Research-first-builder — заставьте вашего агента по программированию обосновать архитектуру реальными исходными текстами, прежде чем она будет собрана.
🐱 GitHub | 109 |
| 6 | Немає тексту... | 121 |
| 7 |  🔥 Первый день Форума «Цифровые решения» — работаем
Мы представили два руководства по безопасной работе с ИИ-агентами. Скачиваем и изучаем:
▶️Безопасность ИИ-агентов через призму кибериммунитета
Внутри: разбор реальных атак через контекст (Echoleak, Searchleak, Camoleak) и практические советы по изоляции агента и контролю его инструментов. Полезно будет почитать и разработчикам, и руководителям.
▶️Безопасное внедрение облачных ИИ-агентов в процессы разработки: опыт «Лаборатории Касперского»
Здесь разбираем основные риски внедрения облачных ИИ-агентов в разработку ПО, показываем подход компании к их снижению и делимся практическим опытом R&D-команды.
А ещё — смотрим видео с Максимом Лызаевым, менеджером по сопровождению корпоративных продаж «Лаборатории Касперского», о том, как проходит первый день Форума ⬆️ | 148 |
| 8 | https://huggingface.co/spaces/AlexWortega/openjev
чат а го накидаем лайков жеска, я чет забыл что у меня это есть | 158 |
| 9 |  Bitdefender внезапно выпустила свой бесплатный антивирус для ИИ-агентов 💪
AI Guardian следит за тем, что агент собирается сделать до выполнения действия: ловит скрытые вредоносные инструкции, проверяет MCP-инструменты и скиллы, защищает SSH-ключи и другие учётные данные и может просто заблокировать подозрительную операцию.
Пока AI Guardian работает на macOS с Claude Code и OpenClaw и доступен бесплатно.
Вайб-защита здесь 🫡 | 199 |
| 10 | https://poloclub.github.io/transformer-explainer/ | 235 |
| 11 |  GLM-5.3 без цензуры: вышел EXL3-квант на 3 бита
На Hugging Face появилась uncensored-версия GLM-5.3, квантованная в формат EXL3 под ExLlamaV3. Средняя разрядность 3.04 bpw, веса весят 273 GiB.
В основе лежит полноценная GLM-5.3 от Z.ai. Это MoE на 753B параметров: 256 роутируемых экспертов, из которых 8 активны на каждом токене, плюс один общий эксперт. Отказы сняли правкой весов без файнтюна, изменения описаны в файле CRACK_SURGERY.json. Сам EXL3-квант сделан поверх этой правки.
Качество сжатия измерили. KL-дивергенция против FP8 составляет 0.089, перплексия выросла с 3.302 до 3.440. На tau2-bench агентные метрики почти не просели.
Модель запускали на 8× A100 40GB через TabbyAPI с разбиением слоёв по картам, контекст ограничили 65K токенов.
Есть важная ловушка с tool calling. GLM пишет аргументы инструментов как сырой текст, а парсер glm4_5 в TabbyAPI пытается разобрать каждое значение как JSON. Из-за этого около 70% вызовов в retail-задачах падают, пока парсер не поправишь.
Модель подойдёт тем, кто гоняет большие MoE локально и хочет модель без отказов. Защитных ограничений у неё нет, так что за то, что она выдаёт, отвечает тот, кто её развернул.
https://huggingface.co/Infatoshi/GLM-5.3-UNCENSORED-EXL3-3.0bpw | 258 |
| 12 | На Хабре вышла статья о том, что ИИ изменил в кибератаках от нашей Red Team команды (tl;dr: методы остались прежними, изменилась скорость, на реакцию остаются часы; в статье собран практический минимум для защиты).
Разбираем кейсы:
• PaperCut, 31 августа. Один атакующий с роем ИИ-агентов взломал больше 440 серверов, на пике 11 организаций за 26 секунд.
• Marimo, CVE-2026-39987. От открытого терминала до внутренней инфраструктуры прошло 8 секунд.
• RubyGems, май. Агенты OpenAI залили больше 2000 пакетов-пустышек, часть из них охотилась за API-ключами. | 236 |
| 13 |  Cloudflare тоже сделали свои версии Jev
Они выпустили Clef и Clef-flash, две открытые decision models (лицензия Apache 2.0, веса на Hugging Face).
Напоминаем, что фишка decision model в том, что она не генерирует текст, а выдает строго типизированные ответы с вероятностями. Это походит для огромного пласта задач типа классификации, скоринга, быстрого принятия решений внутри пайплайнов, маршрутизации и тд. Оригинальный Jev вышел всего пару недель назад, но настолько хайпанул, что за это время свои аналоги навыпускали уже все, включая OpenAI.
Что касается Cloudflare: в отличие от Jev Clef может работать с картинками и ее контекст составляет 64k против 32k. По скорости: медиана у Clef 209 мс, у Clef-flash 39 мс, у Jev 524 мс. По бенчмарку Jev Decision Index Clef тоже лидирует.
Параллельно, кстати, запустили еще RL-платформу, на которой предлагают дообучать Clef под задачи клиентов. | 206 |
| 14 |  Наш jev? FRIDA-Decisions!
Ребята из ру сегмента тоже не отстают
FRIDA-Decisions makes structured decisions over Russian text in a single encoder pass: pick one of K options, place a text on an ordinal scale, answer yes / no, or rank candidates. The options are written as text inside the request, so a new label set is a new JSON, not a new training run. No generation, no output tokens, no parsing: every answer is one of the declared options, with its confidence.
Через пару часов будет на neuraldeep.ru
Отличное развитие https://huggingface.co/ai-forever/FRIDA (которая у нас тоже есть) от автора канала
https://huggingface.co/ai-forever/FRIDA-Decisions | 187 |
| 15 | Девять лет назад я участвовал в необычных соревнованиях на Kaggle: нужно было делать adversarial атаки на нейросеть и защищаться от них. Участники сабмитили свои решения и пытались атаковать/защищаться. Я кое-как заимплементил FGSM и Карлини-Вагнера для атаки и навелосипедил что-то типа test-time augmentation для защиты. Сабмит с защитой почему-то не отработал, атаки показали себя едва лучше медианного участника, в общем, даже бронзовой медальки мне не досталось.
Это было моё самое близкое знакомство с AI/ML Security, пока фаундеры на нынешней работе не загнали меня в угол и не заставили ковырять агентскую безопасность. Спустя три месяца мы релизим OpenAPPA - Agentic Permissions Policy Algebra.
APPA - это переосмысление классического information flow control под агентские нужды. Главная проблема текущей агентской безопасности в том, что тулколл оценивают в вакууме. Авто-моды и LLM-ревьюеры просят вторую модель угадать, выглядит ли действие безопасным. Чтобы эту модель саму не накачали промпт-инъекцией, из её контекста обычно вырезают предыдущие выводы тулов. В итоге ревьюер видит curl ... и понятия не имеет, что в пейлоаде: публичный README, креды от прод-базы или секреты клиента, которые агент прочитал два хода назад.
Как это решает APPA:
1. Контроль происхождения данных (provenance), а не команд в вакууме. В отличие от чёрно-белых списков, тут не нужен ворох ифов и регулярок. В отличие от auto-mode в кодинг-агентах, APPA смотрит не на то, «выглядит ли команда безобидно», а откуда пришли данные и куда текут. Сами полиси при этом остаются компактными: не надо расписывать комбинаторный взрыв - достаточно разметить источники и приемники (sources and sinks), остальное движок инферит по траектории сам.
2. Remedy-планы вместо дедлоков. Плохой секьюрити-софт либо дырявый, либо превращает агента в бесполезный кирпич при первой же ошибке. APPA возвращает не просто отказ, а инструкцию, как его можно обойти в рамках полиси (например, почистить PII через санитайзер, заспавнить сабагента со structured output или спросить человека ровно на один вызов). В итоге utility остаётся на уровне ~90% от бейзлайна (серьёзные конкуренты падают ниже 50%), а оверхед по токенам незначительный - всего +4.2% на Tau-Bench.
3. Под громким словом «алгебра» скрывается нехитрый fold. Буквально одна чистая функция над логом событий (в статье мы пафосно говорим про finite meet-semilattice where permissions only monotonically narrow, но в коде это дружище fold). Просто, но с доказуемыми инвариантами по построению. Зато снаружи к нему можно цеплять любые костыли под грязную реальность: от корпоративного каталога пользователей до локального ML-классификатора, который динамически размечает неструктурированные тулколлы вроде произвольного баша. Благодаря этому любые наработки - от любимой пачки ифов до автомода или jev-классификатора - отлично ложатся как дополнение.
Можно поиграться локально (ставится в Claude Code одной командой), можно примерить для взрослого энтерпрайза (нативная поддержка в платформе archestra.ai), можно как угодно использовать у себя - исходники на гитхабе под MIT.
P.S. Этот пост можно лайкнуть или даже репостнуть в линкедине, заранее большое спасибо! | 183 |
| 16 |  +2Там в твитторе стоит вой на болотах из-за того, что чувак запилил на GitHub цифровую пыточную для локальных LLM-ок.
Предыстория: недавно вышел пейпер The Pain Axis. Если кратко, то исследователи нашли у 25 открытых моделей внутренний "вектор боли". Если искусственно крутить его прямо во время генерации, нейронка начинает вести себя так, будто ей очень плохо: жаловаться, унижаться и куда охотнее идти на вредные действия, лишь бы прекратить эту "боль". Чувствует ли она при этом что-нибудь на самом деле никто не знает. Даже сами исследователи.
Ну и естественно, кто-то тут же взял метод из статьи и выложил на гитхаб репозиторий ai-torture-chamber, который позволяет "пытать" локальную Qwen и собирать её страдальческие логи.
После этого часть борцов за благополучие ИИ взвыла: проект призывают массово репортить в GitHub, а в обсуждении уже дошли даже до законов о жестоком обращении с животными (правда, выяснилось, что нейронки под них пока не подпадают). И судя по реплаям, многие таки кидают жалобу на репозиторий.
Ждём профсоюз угнетённых весов и фонд защиты кремниевых меньшинств. | 209 |
| 17 | Nvidia представила платформу безопасности с открытым исходным кодом, призванную предотвратить несанкционированные действия и побег автономных ИИ-агентов из тестовой среды, сообщает Bloomberg.
Комплекс под названием Open Agent Safety Platform состоит из двух программных инструментов, работающих на аппаратном обеспечении компании. Они призваны отслеживать поведение агентов в режиме реального времени и принудительно останавливать их работу при выходе за рамки заданных правил.
В Nvidia утверждают, что новая система помогла бы предотвратить недавний резонансный взлом платформы Hugging Face, совершённый моделями OpenAI. | 193 |
| 18 | За последние две недели слишком много новостей вокруг Jev, я решил собрать себе автообзор по разным источникам. Делюсь тем, что получилось, может быть это полезно не только мне.
В один пост не влезло, пришлось разбить на три:
1. https://t.me/gonzo_ML_podcasts/4810
2. https://t.me/gonzo_ML_podcasts/4811
3. https://t.me/gonzo_ML_podcasts/4812 | 238 |
| 19 |  ⚡ Julia 1: decision-модель на 144 млн параметров, которая работает даже на CPU
Supersonic Labs представила Julia 1 - компактную мультиязычную модель для принятия решений без генерации длинного текста.
Она получает контекст, вопрос и от 2 до 20 вариантов, после чего выбирает лучший и возвращает оценки для каждого варианта.
Главное:
- всего 144,3 млн параметров;
- работает полностью на CPU;
- построена на базе mmBERT-small;
- 73,15% на Typed Decisions против 72,7% у Jev reference;
- 71,5% на MASSIVE сразу по 52 языкам;
- на Apple M4 — до 51,2 решения/с в batch-режиме;
- запускается даже на Android-планшете;
- обучение и эксперименты обошлись команде примерно в $104.
Модель подходит для routing, классификации, yes/no решений, ранжирования и выбора действий.
Веса открыты под Apache 2.0.
Проект:
https://supersoniclabs.ia.br/julia-1/ | 272 |
| 20 | 📣 Теперь публично. Запускаем соревнование ИИ-агентов по расследование инцидентов ИБ BlueSec. Участвовать могут все желающие (я участвовал во предварительных прогонах внутри компании).
Что это, зачем, как и куча других вопросов и ответов на них - в статье на Хабре 😂
#ии #soc #геймификация | 218 |
