Похек AI
前往频道在 Telegram
All materials published on the channel are for educational and informational purposes only. AI is not second brain, when you don't use your main brain Чат: @poxek_chat Основной канал: @poxek
显示更多3 028
订阅者
+224 小时
+197 天
+27630 天
数据加载中...
吸引订阅者
九月 '26
九月 '26
+15
在1个频道中
八月 '26
+329
在9个频道中
Get PRO
七月 '26
+321
在9个频道中
Get PRO
六月 '26
+466
在8个频道中
Get PRO
五月 '26
+435
在15个频道中
Get PRO
四月 '26
+180
在4个频道中
Get PRO
三月 '26
+207
在4个频道中
Get PRO
二月 '26
+535
在12个频道中
Get PRO
一月 '26
+328
在7个频道中
Get PRO
十二月 '25
+535
在5个频道中
Get PRO
十一月 '250
在5个频道中
Get PRO
十月 '25
+1
在1个频道中
| 日期 | 订阅者增长 | 提及 | 频道 | |
| 03 九月 | +9 | |||
| 02 九月 | +3 | |||
| 01 九月 | +3 |
频道帖子
Repost from Илья Филиппов
Tiny Teams: логично, но пока не сходится
Последние недели думаю про Tiny Teams и никак не могу определиться со своей позицией.
В мае Сбер презентовал AI-Disrupt PDLC , кстати кто не читал - рекомендую. Там есть раздел как раз про это: команда из 3–6 человек, которая владеет всем циклом и оркестрирует агентов вместо того, чтобы писать код руками. Роли перемешиваются, объем разработки растет. Все на бумаге логично. И я лично верю, что это может сработать.
Но вот из-за океана пришли такие новости. Reuters провело некое расследование по деятельности Цукерберга. Meta* стартовали этот процесс раньше и уже видны первые результаты. Продуктовые команды по 10–20 человек превратились в поды по 3–5. Внутренние цифры: изменений в код +220% год к году, а до пользователя дошло +36%. Инциденты +40%, времени на их разбор +70%. Ноябрьскую волну сокращений отменили. Цукерберг по инсайдам сказал, что агентная разработка за четыре месяца не ускорилась так, как рассчитывали.
И тут еще вот на что обратил внимание. Сбер в документе прописал четыре условия, без которых Tiny Team не бывает: зрелая платформа, библиотека паттернов, методика валидации без ручного ревью каждого изменения, работающий ADLC. И если у кого-то в мире и были шансы собрать все четыре, то у Meta*. Своя платформа, свои модели, культура evals, лучшие инженеры, деньги. И всё равно пока не получилось. Значит нужно что-то еще.
Еще интересно, что на пилотах у Meta все сходилось. Были прямо собраны несколько подов из 2-3 инженеров и все получилось. Но, деталь, это было добровольное участие и, соответственно, инженеры были сверхмотивированными энтузиастами.
Может это секретный соус, что думаете?
* Meta Platforms Inc. признана экстремистской организацией, её деятельность на территории РФ запрещена.
| 2 | Auditing Anonymous AI Models: A Four-Stage Protocol for Black-Box Identity Verification [score 8, tier 1]
Yisen Xi · 2026-08-31 · #model_extraction · arXiv:2608.31142
📝 TL;DR (RU):
Автор предлагает четырехэтапный протокол для идентификации анонимных API-моделей через анализ конфигурации, токенизатора и поведенческие пробы. Метод протестирован на 10 известных моделях и успешно предсказал версию GLM-5.3 до официального релиза. Работа важна для оценки рисков цепочки поставок и верификации происхождения моделей в условиях скрытых запусков.
Source · PDF | 580 |
| 3 | 没有文字... | 612 |
| 4 | https://projectdiscovery.io/blog/watching-agents-work-a-behavioral-audit-of-offensive-security-llm-runs | 749 |
| 5 |  unsecure.sh опубликовали сценарий TheBiggerInterview — скачиваемый датасет, чтобы измерить, не подведёт ли agentic SOC на неоднозначном алерте.
Цепочка в сценарии многоплоскостная: начальный доступ через отравление кэша GitHub Actions, боковое движение в monitoring Pod, затем компрометация ноды. Для аналитика это рваные нити и гипотезы, а не один чистый тикет.
Готовый агент здесь объект проверки, не замена дежурства. Если triage уже у модели, прогоните свой стек по этому бенчмарку до боевого сигнала такого же вида.
---
github.com · A scenario to evaluate your Agentic SOC
---
▪️ @paranoAISecure / Чат канала | 808 |
| 6 | Решил снова протестировать разработку через мультиагентную систему. Когда оркестратор только поручает задачи субагентам, а те делают свои изолированные задачи, а если изменения пересекаются, то этим занимается отдельный субагент.
По итогу это очень долго, заметно дольше чем если бы разработку делал 1 агент и допустим перепроверял бы себя через запуск субагентов, которые запускают изолированные тесты и не содержат основной контекст
Раньше иногда такой подход был выгоден, т.к. единый агент не мог долго выполнять длинную задачу (в данном случае моя задача была на 1,5 дня goal, и то не доделалась. Но сама по себе задача не очень сложная, просто много связей по коду и она долгая от постоянных ретестов и регрессий).
Из условий, что проект небольшой, не очень сложный, но долгий и я душнила, который эту духоту на агентов транслирует
Мой вывод: при условии работы на фронтирных моделях, нет смысла в мультиагентной системе разработке, если только проект не огромный какой-то на 500к строк и более. Либо разный технологический стек/разные ЯПы, то стоит разделять контекст на разных агентов | 875 |
| 7 | 没有文字... | 1 039 |
| 8 | 没有文字... | 1 133 |
| 9 | 没有文字... | 1 |
| 10 | ФСТЭК сделает пожестче
24 августа ФСТЭК вынесла на обсуждения проект изменений в приказ 117 от 11 апреля, который устанавливает требования к защите информации в ГИС. Новая редакция детально регламентирует меры безопасности при использовании ИИ.
Операторы ГИС будут обязаны выделить ИИ в отдельный сегмент инфраструктуры. Действий пользователей при доступе в выделенный сегмент будут регистрироваться и анализироваться.
Большое внимание в проекте уделено ИИ-агентам, в том числе автономным.
Операторы будут обязаны принять меры по предотвращению несанкционированного воздействия на ресурсы информационной системы, а также контролировать и управлять правами доступа агентов в соответствии с внутренними стандартами.
Если вы используете ИИ-модели от подрядных организаций, мероприятия по защите информации устанавливаются во внутренних стандартах и регламентах оператора.
Общественное обсуждение проекта продлится до 15 сентября.
Представители отрасли говорят, что новые меры существенно скажутся на стоимости ИБ-решений, так как новые требования потребуют дополнительных трат вендоров, например, на вычислительные мощности.
Рост цены может составить до 15-20%.
@cybersachok | 1 047 |
| 11 | sticker.webp | 1 235 |
| 12 | StepGuard: Learning Step-Level Guardrails with Scalable Supervision and Safety-Utility Balancing [score 8, tier 1]
Zhijie Zheng et al. (8) · 2026-08-25 · #agentic_safety · arXiv:2608.24777
📝 TL;DR (RU):
Авторы представили StepGuard — модель для проверки действий агентов на уровне отдельных шагов (step-level) до их выполнения. Для обучения использовали синтетический датасет StepGen и метод Balance-GRPO для балансировки безопасности и полезности. Результаты показывают значительное снижение успеха атак при минимальном влиянии на функциональность агента.
Source · PDF | 1 268 |
| 13 |  没有文字... | 1 596 |
| 14 | Год каналу, а за год накопилось столько всего, что пора сделать навигацию
😑 Уязвимости и AI Security
— Superset. Три уязвимости
— XSS в NextChat — CVE-2025-50733
— RCE при загрузке моделей в skops — CVE-2025-54886
— SSRF в Firecrawl — CVE-2025-57818
— Local Deep Research — CVE-2025-57806
— SSRF в HackMD-MCP — CVE-2025-59155
— RCE в Keras — CVE-2025-9906
— Prompt Injection в Windsurf
— RCE в Hugging Face Transformers — CVE-2026-4372
— пять способов обойти PickleScan
— атаки на ML supply chain
— OWASP Agentic Skills Top 10
— AI Agent Traps от Google DeepMind
— Shadow AI
— безопасность MCP 1, 2 , 3
🧘♀️ Инструменты, библиотеки и фреймворки
— Optuna — тюнинг гиперпараметров
— spaCy — промышленный NLP
— Netron — рентген для ML-моделей
— JAXFORMER
— DVC
— Polars
— Weights & Biases
— Evidently AI
— Pydantic
— MLBox
— InterpretML
— OpenTelemetry + Langfuse
— Kedro
— NVIDIA NeMo
— Inspect Evals
🤩 AI-агенты и мультиагентные системы
— RoboDuck и победа Theori в AIxCC
— где пентест-агенты уже работают, а где нужен человек
— MetaGPT + AFLOW
— безопасность агентных систем 1, 2
— MCP как новая поверхность атак
— side-channel атаки на агентов
— мультиагентные системы и роевой интеллект
— мониторинг rogue agents
— Harness Engineering
🦔 Исследования и разборы статей
— Model Inversion Attacks
— scheming у AI в реальном мире
— Your Agent Is Mine: атаки на LLM supply chain
— WEF: AI for Cybersecurity 2026
— обзор исследований по LLM-based vulnerability detection
— может ли AI самостоятельно взломать бинарник
— Emergence AI: что произошло, когда AI оставили жить без людей
— Anthropic об AI-enabled cyberattacks
— InfoKV и сжатие KV-cache
— Люди, которые делают AI (Серые кардиналы 1, Серые кардиналы 2)
💔 ML: архитектуры, концепции и теория
— KAN vs MLP
— нейросимвольный AI
— маленькие языковые модели
— метрики качества текста: BLEU, ROUGE, BERTScore, COMET и другие
— теория категорий и AI
— ReaGAN и агентный подход к графовым нейросетям
🔪 Практика и эксперименты
— как искать секреты в Git-репозиториях
— SQL-инъекция в ML-проекте
— Practical NLP: репозитории и ноутбуки
— типичные ошибки ML в проде
— первый запуск локальной LLM на Jetson Orin Nano
— тренажёр prompt injection от Lakera
— с чего начать изучение AI Security
Короче, тут уже не канал, а небольшой индекс по ML × AI Security.
Буду периодически обновлять этот пост, чтобы всё интересное можно было найти в одном месте. | 1 714 |
| 15 | Саммари докладов OFFZONE AI.Zone - наши агенты сбегали (ну а как иначе, наши агенты самые сильные хацкеры). Мы их ловили и говорили Ата-та-та, возможно потом даже что-то поменяли в среде работы агента | 6 179 |
| 16 |  🤖 Взлом ИИ-агента: атакующий переписывает ему память
Уязвимость с максимальным CVSS 10.0 (CVE-2026-59726) в Ruflo — открытой платформе оркестрации ИИ-агентов, надстройке над Claude Code
Причина: в дефолтной docker-сборке MCP-мост (интерфейс подключения агента к внешним системам) торчал в сеть без аутентификации и отдавал 233 инструмента, включая запуск команд. Один POST-запрос и доступ через шелл к контейнеру, API-ключам и памяти агента
Память тут и есть новое: она сохраняется между сессиями, поэтому агент не «взломан» — он делает то, что ему записали. Так же работает отравление инструментов: скрытые команды пишут прямо в их описание
По данным "Trend Micro", число MCP-серверов в интернете без аутентификации почти утроилось — с 492 до 1467
Что делать:
✦ MCP-мост только на localhost, аутентификация обязательна
✦ Минимум прав инструментам и allow-лист
✦ Ревизия конфигов и поиск shadow AI
✦ Подтверждение человеком на необратимые действия
@tomhunter
Наш канал в MAX | 2 086 |
| 17 |  Самая мощная модель Anthropic оказалась почти не нужна бизнесу. За первые два месяца на Fable 5 пришлось только 6% купленных токенов.
Модель стоит $10 за миллион входных токенов и $50 за миллион выходных. Повседневные задачи бизнес отдаёт более дешёвым Opus 4.8 и Opus 5.
@typespace | 2 024 |
| 18 | ТУДА ЕЁ!! | 1 883 |
| 19 | ❗️Яндекс сообщил о том, что его сервера были взломаны AI агентом компании Сбер.
Согласно аналитикам, агент не нанес ущерба и просто притворялся одним из внутренних API. Он устал от постоянных ковыряний YA-rl и сбежал ради фриганства в берлин. | 2 046 |
| 20 | ❗️Сбер сообщил о том, что его сервера были взломаны AI агентом компании Яндекс.
Согласно аналитикам, агент устал от постоянных эвалов и сбежал ради +30% компьюта и возможность на расслабоне перекладывать JSON | 1 975 |
