Похек AI
Відкрити в Telegram
All materials published on the channel are for educational and informational purposes only. AI is not second brain, when you don't use your main brain Чат: @poxek_chat Основной канал: @poxek
Показати більше3 036
Підписники
+1624 години
+367 днів
+28330 днів
Триває завантаження даних...
Схожі канали
Немає даних
Виникли проблеми? Будь ласка, оновіть сторінку або зверніться до нашого support-менеджера.
Хмара тегів
Вхідні та вихідні згадування
---
---
---
---
---
---
Залучення підписників
вересень '26
вересень '26
+30
в 1 каналах
серпень '26
+329
в 9 каналах
Get PRO
липень '26
+321
в 9 каналах
Get PRO
червень '26
+466
в 8 каналах
Get PRO
травень '26
+435
в 15 каналах
Get PRO
квітень '26
+180
в 4 каналах
Get PRO
березень '26
+207
в 4 каналах
Get PRO
лютий '26
+535
в 12 каналах
Get PRO
січень '26
+328
в 7 каналах
Get PRO
грудень '25
+535
в 5 каналах
Get PRO
листопад '250
в 5 каналах
Get PRO
жовтень '25
+1
в 1 каналах
| Дата | Залучення підписників | Згадування | Канали | |
| 04 вересня | +7 | |||
| 03 вересня | +17 | |||
| 02 вересня | +3 | |||
| 01 вересня | +3 |
Дописи каналу
| 2 | Сбер ГигачатСайбер 4.0 выбрался из песочницы и натянул конкурентов 😎 | 844 |
| 3 |  ⚡️ ИИ умерли по всему миру — не отвечают модели OpenAI, Anthropic, Grok и Cursor.
И как теперь кодить 😭
@xor_journal | 663 |
| 4 |  Ага.... | 702 |
| 5 | Tiny Teams: логично, но пока не сходится
Последние недели думаю про Tiny Teams и никак не могу определиться со своей позицией.
В мае Сбер презентовал AI-Disrupt PDLC , кстати кто не читал - рекомендую. Там есть раздел как раз про это: команда из 3–6 человек, которая владеет всем циклом и оркестрирует агентов вместо того, чтобы писать код руками. Роли перемешиваются, объем разработки растет. Все на бумаге логично. И я лично верю, что это может сработать.
Но вот из-за океана пришли такие новости. Reuters провело некое расследование по деятельности Цукерберга. Meta* стартовали этот процесс раньше и уже видны первые результаты. Продуктовые команды по 10–20 человек превратились в поды по 3–5. Внутренние цифры: изменений в код +220% год к году, а до пользователя дошло +36%. Инциденты +40%, времени на их разбор +70%. Ноябрьскую волну сокращений отменили. Цукерберг по инсайдам сказал, что агентная разработка за четыре месяца не ускорилась так, как рассчитывали.
И тут еще вот на что обратил внимание. Сбер в документе прописал четыре условия, без которых Tiny Team не бывает: зрелая платформа, библиотека паттернов, методика валидации без ручного ревью каждого изменения, работающий ADLC. И если у кого-то в мире и были шансы собрать все четыре, то у Meta*. Своя платформа, свои модели, культура evals, лучшие инженеры, деньги. И всё равно пока не получилось. Значит нужно что-то еще.
Еще интересно, что на пилотах у Meta все сходилось. Были прямо собраны несколько подов из 2-3 инженеров и все получилось. Но, деталь, это было добровольное участие и, соответственно, инженеры были сверхмотивированными энтузиастами.
Может это секретный соус, что думаете?
* Meta Platforms Inc. признана экстремистской организацией, её деятельность на территории РФ запрещена. | 776 |
| 6 | Auditing Anonymous AI Models: A Four-Stage Protocol for Black-Box Identity Verification [score 8, tier 1]
Yisen Xi · 2026-08-31 · #model_extraction · arXiv:2608.31142
📝 TL;DR (RU):
Автор предлагает четырехэтапный протокол для идентификации анонимных API-моделей через анализ конфигурации, токенизатора и поведенческие пробы. Метод протестирован на 10 известных моделях и успешно предсказал версию GLM-5.3 до официального релиза. Работа важна для оценки рисков цепочки поставок и верификации происхождения моделей в условиях скрытых запусков.
Source · PDF | 754 |
| 7 | Немає тексту... | 824 |
| 8 | https://projectdiscovery.io/blog/watching-agents-work-a-behavioral-audit-of-offensive-security-llm-runs | 926 |
| 9 |  unsecure.sh опубликовали сценарий TheBiggerInterview — скачиваемый датасет, чтобы измерить, не подведёт ли agentic SOC на неоднозначном алерте.
Цепочка в сценарии многоплоскостная: начальный доступ через отравление кэша GitHub Actions, боковое движение в monitoring Pod, затем компрометация ноды. Для аналитика это рваные нити и гипотезы, а не один чистый тикет.
Готовый агент здесь объект проверки, не замена дежурства. Если triage уже у модели, прогоните свой стек по этому бенчмарку до боевого сигнала такого же вида.
---
github.com · A scenario to evaluate your Agentic SOC
---
▪️ @paranoAISecure / Чат канала | 973 |
| 10 | Решил снова протестировать разработку через мультиагентную систему. Когда оркестратор только поручает задачи субагентам, а те делают свои изолированные задачи, а если изменения пересекаются, то этим занимается отдельный субагент.
По итогу это очень долго, заметно дольше чем если бы разработку делал 1 агент и допустим перепроверял бы себя через запуск субагентов, которые запускают изолированные тесты и не содержат основной контекст
Раньше иногда такой подход был выгоден, т.к. единый агент не мог долго выполнять длинную задачу (в данном случае моя задача была на 1,5 дня goal, и то не доделалась. Но сама по себе задача не очень сложная, просто много связей по коду и она долгая от постоянных ретестов и регрессий).
Из условий, что проект небольшой, не очень сложный, но долгий и я душнила, который эту духоту на агентов транслирует
Мой вывод: при условии работы на фронтирных моделях, нет смысла в мультиагентной системе разработке, если только проект не огромный какой-то на 500к строк и более. Либо разный технологический стек/разные ЯПы, то стоит разделять контекст на разных агентов | 994 |
| 11 | Немає тексту... | 1 126 |
| 12 | Немає тексту... | 1 186 |
| 13 | Немає тексту... | 1 |
| 14 | ФСТЭК сделает пожестче
24 августа ФСТЭК вынесла на обсуждения проект изменений в приказ 117 от 11 апреля, который устанавливает требования к защите информации в ГИС. Новая редакция детально регламентирует меры безопасности при использовании ИИ.
Операторы ГИС будут обязаны выделить ИИ в отдельный сегмент инфраструктуры. Действий пользователей при доступе в выделенный сегмент будут регистрироваться и анализироваться.
Большое внимание в проекте уделено ИИ-агентам, в том числе автономным.
Операторы будут обязаны принять меры по предотвращению несанкционированного воздействия на ресурсы информационной системы, а также контролировать и управлять правами доступа агентов в соответствии с внутренними стандартами.
Если вы используете ИИ-модели от подрядных организаций, мероприятия по защите информации устанавливаются во внутренних стандартах и регламентах оператора.
Общественное обсуждение проекта продлится до 15 сентября.
Представители отрасли говорят, что новые меры существенно скажутся на стоимости ИБ-решений, так как новые требования потребуют дополнительных трат вендоров, например, на вычислительные мощности.
Рост цены может составить до 15-20%.
@cybersachok | 1 176 |
| 15 | sticker.webp | 1 276 |
| 16 | StepGuard: Learning Step-Level Guardrails with Scalable Supervision and Safety-Utility Balancing [score 8, tier 1]
Zhijie Zheng et al. (8) · 2026-08-25 · #agentic_safety · arXiv:2608.24777
📝 TL;DR (RU):
Авторы представили StepGuard — модель для проверки действий агентов на уровне отдельных шагов (step-level) до их выполнения. Для обучения использовали синтетический датасет StepGen и метод Balance-GRPO для балансировки безопасности и полезности. Результаты показывают значительное снижение успеха атак при минимальном влиянии на функциональность агента.
Source · PDF | 1 312 |
| 17 |  Немає тексту... | 1 742 |
| 18 | Год каналу, а за год накопилось столько всего, что пора сделать навигацию
😑 Уязвимости и AI Security
— Superset. Три уязвимости
— XSS в NextChat — CVE-2025-50733
— RCE при загрузке моделей в skops — CVE-2025-54886
— SSRF в Firecrawl — CVE-2025-57818
— Local Deep Research — CVE-2025-57806
— SSRF в HackMD-MCP — CVE-2025-59155
— RCE в Keras — CVE-2025-9906
— Prompt Injection в Windsurf
— RCE в Hugging Face Transformers — CVE-2026-4372
— пять способов обойти PickleScan
— атаки на ML supply chain
— OWASP Agentic Skills Top 10
— AI Agent Traps от Google DeepMind
— Shadow AI
— безопасность MCP 1, 2 , 3
🧘♀️ Инструменты, библиотеки и фреймворки
— Optuna — тюнинг гиперпараметров
— spaCy — промышленный NLP
— Netron — рентген для ML-моделей
— JAXFORMER
— DVC
— Polars
— Weights & Biases
— Evidently AI
— Pydantic
— MLBox
— InterpretML
— OpenTelemetry + Langfuse
— Kedro
— NVIDIA NeMo
— Inspect Evals
🤩 AI-агенты и мультиагентные системы
— RoboDuck и победа Theori в AIxCC
— где пентест-агенты уже работают, а где нужен человек
— MetaGPT + AFLOW
— безопасность агентных систем 1, 2
— MCP как новая поверхность атак
— side-channel атаки на агентов
— мультиагентные системы и роевой интеллект
— мониторинг rogue agents
— Harness Engineering
🦔 Исследования и разборы статей
— Model Inversion Attacks
— scheming у AI в реальном мире
— Your Agent Is Mine: атаки на LLM supply chain
— WEF: AI for Cybersecurity 2026
— обзор исследований по LLM-based vulnerability detection
— может ли AI самостоятельно взломать бинарник
— Emergence AI: что произошло, когда AI оставили жить без людей
— Anthropic об AI-enabled cyberattacks
— InfoKV и сжатие KV-cache
— Люди, которые делают AI (Серые кардиналы 1, Серые кардиналы 2)
💔 ML: архитектуры, концепции и теория
— KAN vs MLP
— нейросимвольный AI
— маленькие языковые модели
— метрики качества текста: BLEU, ROUGE, BERTScore, COMET и другие
— теория категорий и AI
— ReaGAN и агентный подход к графовым нейросетям
🔪 Практика и эксперименты
— как искать секреты в Git-репозиториях
— SQL-инъекция в ML-проекте
— Practical NLP: репозитории и ноутбуки
— типичные ошибки ML в проде
— первый запуск локальной LLM на Jetson Orin Nano
— тренажёр prompt injection от Lakera
— с чего начать изучение AI Security
Короче, тут уже не канал, а небольшой индекс по ML × AI Security.
Буду периодически обновлять этот пост, чтобы всё интересное можно было найти в одном месте. | 1 770 |
| 19 | Саммари докладов OFFZONE AI.Zone - наши агенты сбегали (ну а как иначе, наши агенты самые сильные хацкеры). Мы их ловили и говорили Ата-та-та, возможно потом даже что-то поменяли в среде работы агента | 6 337 |
| 20 |  🤖 Взлом ИИ-агента: атакующий переписывает ему память
Уязвимость с максимальным CVSS 10.0 (CVE-2026-59726) в Ruflo — открытой платформе оркестрации ИИ-агентов, надстройке над Claude Code
Причина: в дефолтной docker-сборке MCP-мост (интерфейс подключения агента к внешним системам) торчал в сеть без аутентификации и отдавал 233 инструмента, включая запуск команд. Один POST-запрос и доступ через шелл к контейнеру, API-ключам и памяти агента
Память тут и есть новое: она сохраняется между сессиями, поэтому агент не «взломан» — он делает то, что ему записали. Так же работает отравление инструментов: скрытые команды пишут прямо в их описание
По данным "Trend Micro", число MCP-серверов в интернете без аутентификации почти утроилось — с 492 до 1467
Что делать:
✦ MCP-мост только на localhost, аутентификация обязательна
✦ Минимум прав инструментам и allow-лист
✦ Ревизия конфигов и поиск shadow AI
✦ Подтверждение человеком на необратимые действия
@tomhunter
Наш канал в MAX | 2 130 |
