Похек AI
Kanalga Telegram’da o‘tish
All materials published on the channel are for educational and informational purposes only. AI is not second brain, when you don't use your main brain Чат: @poxek_chat Основной канал: @poxek
Ko'proq ko'rsatish3 043
Obunachilar
+1024 soatlar
+437 kun
+28630 kun
Ma'lumot yuklanmoqda...
O'xshash kanallar
Ma'lumot yo'q
Muammo bormi? Iltimos, sahifani yangilang yoki bizning qo'llab-quvvatlash boshqaruvchimizga murojaat qiling>.
Taglar buluti
Kirish va chiqish esdaliklari
---
---
---
---
---
---
Obunachilarni jalb qilish
Sentabr '26
Sentabr '26
+34
1 kanalda
Avgust '26
+329
9 kanalda
Get PRO
Iyul '26
+321
9 kanalda
Get PRO
Iyun '26
+466
8 kanalda
Get PRO
May '26
+435
15 kanalda
Get PRO
Aprel '26
+180
4 kanalda
Get PRO
Mart '26
+207
4 kanalda
Get PRO
Fevral '26
+535
12 kanalda
Get PRO
Yanvar '26
+328
7 kanalda
Get PRO
Dekabr '25
+535
5 kanalda
Get PRO
Noyabr '250
5 kanalda
Get PRO
Oktabr '25
+1
1 kanalda
| Sana | Obunachilarni jalb qilish | Esdaliklar | Kanallar | |
| 05 Sentabr | 0 | |||
| 04 Sentabr | +11 | |||
| 03 Sentabr | +17 | |||
| 02 Sentabr | +3 | |||
| 01 Sentabr | +3 |
Kanal postlari
| 2 | Matn yo'q... | 884 |
| 3 | Сбер ГигачатСайбер 4.0 выбрался из песочницы и натянул конкурентов 😎 | 971 |
| 4 |  ⚡️ ИИ умерли по всему миру — не отвечают модели OpenAI, Anthropic, Grok и Cursor.
И как теперь кодить 😭
@xor_journal | 784 |
| 5 |  Ага.... | 794 |
| 6 | Tiny Teams: логично, но пока не сходится
Последние недели думаю про Tiny Teams и никак не могу определиться со своей позицией.
В мае Сбер презентовал AI-Disrupt PDLC , кстати кто не читал - рекомендую. Там есть раздел как раз про это: команда из 3–6 человек, которая владеет всем циклом и оркестрирует агентов вместо того, чтобы писать код руками. Роли перемешиваются, объем разработки растет. Все на бумаге логично. И я лично верю, что это может сработать.
Но вот из-за океана пришли такие новости. Reuters провело некое расследование по деятельности Цукерберга. Meta* стартовали этот процесс раньше и уже видны первые результаты. Продуктовые команды по 10–20 человек превратились в поды по 3–5. Внутренние цифры: изменений в код +220% год к году, а до пользователя дошло +36%. Инциденты +40%, времени на их разбор +70%. Ноябрьскую волну сокращений отменили. Цукерберг по инсайдам сказал, что агентная разработка за четыре месяца не ускорилась так, как рассчитывали.
И тут еще вот на что обратил внимание. Сбер в документе прописал четыре условия, без которых Tiny Team не бывает: зрелая платформа, библиотека паттернов, методика валидации без ручного ревью каждого изменения, работающий ADLC. И если у кого-то в мире и были шансы собрать все четыре, то у Meta*. Своя платформа, свои модели, культура evals, лучшие инженеры, деньги. И всё равно пока не получилось. Значит нужно что-то еще.
Еще интересно, что на пилотах у Meta все сходилось. Были прямо собраны несколько подов из 2-3 инженеров и все получилось. Но, деталь, это было добровольное участие и, соответственно, инженеры были сверхмотивированными энтузиастами.
Может это секретный соус, что думаете?
* Meta Platforms Inc. признана экстремистской организацией, её деятельность на территории РФ запрещена. | 822 |
| 7 | Auditing Anonymous AI Models: A Four-Stage Protocol for Black-Box Identity Verification [score 8, tier 1]
Yisen Xi · 2026-08-31 · #model_extraction · arXiv:2608.31142
📝 TL;DR (RU):
Автор предлагает четырехэтапный протокол для идентификации анонимных API-моделей через анализ конфигурации, токенизатора и поведенческие пробы. Метод протестирован на 10 известных моделях и успешно предсказал версию GLM-5.3 до официального релиза. Работа важна для оценки рисков цепочки поставок и верификации происхождения моделей в условиях скрытых запусков.
Source · PDF | 848 |
| 8 | Matn yo'q... | 929 |
| 9 | https://projectdiscovery.io/blog/watching-agents-work-a-behavioral-audit-of-offensive-security-llm-runs | 979 |
| 10 |  unsecure.sh опубликовали сценарий TheBiggerInterview — скачиваемый датасет, чтобы измерить, не подведёт ли agentic SOC на неоднозначном алерте.
Цепочка в сценарии многоплоскостная: начальный доступ через отравление кэша GitHub Actions, боковое движение в monitoring Pod, затем компрометация ноды. Для аналитика это рваные нити и гипотезы, а не один чистый тикет.
Готовый агент здесь объект проверки, не замена дежурства. Если triage уже у модели, прогоните свой стек по этому бенчмарку до боевого сигнала такого же вида.
---
github.com · A scenario to evaluate your Agentic SOC
---
▪️ @paranoAISecure / Чат канала | 1 018 |
| 11 | Решил снова протестировать разработку через мультиагентную систему. Когда оркестратор только поручает задачи субагентам, а те делают свои изолированные задачи, а если изменения пересекаются, то этим занимается отдельный субагент.
По итогу это очень долго, заметно дольше чем если бы разработку делал 1 агент и допустим перепроверял бы себя через запуск субагентов, которые запускают изолированные тесты и не содержат основной контекст
Раньше иногда такой подход был выгоден, т.к. единый агент не мог долго выполнять длинную задачу (в данном случае моя задача была на 1,5 дня goal, и то не доделалась. Но сама по себе задача не очень сложная, просто много связей по коду и она долгая от постоянных ретестов и регрессий).
Из условий, что проект небольшой, не очень сложный, но долгий и я душнила, который эту духоту на агентов транслирует
Мой вывод: при условии работы на фронтирных моделях, нет смысла в мультиагентной системе разработке, если только проект не огромный какой-то на 500к строк и более. Либо разный технологический стек/разные ЯПы, то стоит разделять контекст на разных агентов | 1 029 |
| 12 | Matn yo'q... | 1 144 |
| 13 | Matn yo'q... | 1 186 |
| 14 | Matn yo'q... | 1 |
| 15 | ФСТЭК сделает пожестче
24 августа ФСТЭК вынесла на обсуждения проект изменений в приказ 117 от 11 апреля, который устанавливает требования к защите информации в ГИС. Новая редакция детально регламентирует меры безопасности при использовании ИИ.
Операторы ГИС будут обязаны выделить ИИ в отдельный сегмент инфраструктуры. Действий пользователей при доступе в выделенный сегмент будут регистрироваться и анализироваться.
Большое внимание в проекте уделено ИИ-агентам, в том числе автономным.
Операторы будут обязаны принять меры по предотвращению несанкционированного воздействия на ресурсы информационной системы, а также контролировать и управлять правами доступа агентов в соответствии с внутренними стандартами.
Если вы используете ИИ-модели от подрядных организаций, мероприятия по защите информации устанавливаются во внутренних стандартах и регламентах оператора.
Общественное обсуждение проекта продлится до 15 сентября.
Представители отрасли говорят, что новые меры существенно скажутся на стоимости ИБ-решений, так как новые требования потребуют дополнительных трат вендоров, например, на вычислительные мощности.
Рост цены может составить до 15-20%.
@cybersachok | 1 236 |
| 16 | sticker.webp | 1 299 |
| 17 | StepGuard: Learning Step-Level Guardrails with Scalable Supervision and Safety-Utility Balancing [score 8, tier 1]
Zhijie Zheng et al. (8) · 2026-08-25 · #agentic_safety · arXiv:2608.24777
📝 TL;DR (RU):
Авторы представили StepGuard — модель для проверки действий агентов на уровне отдельных шагов (step-level) до их выполнения. Для обучения использовали синтетический датасет StepGen и метод Balance-GRPO для балансировки безопасности и полезности. Результаты показывают значительное снижение успеха атак при минимальном влиянии на функциональность агента.
Source · PDF | 1 346 |
| 18 |  Matn yo'q... | 1 763 |
| 19 | Год каналу, а за год накопилось столько всего, что пора сделать навигацию
😑 Уязвимости и AI Security
— Superset. Три уязвимости
— XSS в NextChat — CVE-2025-50733
— RCE при загрузке моделей в skops — CVE-2025-54886
— SSRF в Firecrawl — CVE-2025-57818
— Local Deep Research — CVE-2025-57806
— SSRF в HackMD-MCP — CVE-2025-59155
— RCE в Keras — CVE-2025-9906
— Prompt Injection в Windsurf
— RCE в Hugging Face Transformers — CVE-2026-4372
— пять способов обойти PickleScan
— атаки на ML supply chain
— OWASP Agentic Skills Top 10
— AI Agent Traps от Google DeepMind
— Shadow AI
— безопасность MCP 1, 2 , 3
🧘♀️ Инструменты, библиотеки и фреймворки
— Optuna — тюнинг гиперпараметров
— spaCy — промышленный NLP
— Netron — рентген для ML-моделей
— JAXFORMER
— DVC
— Polars
— Weights & Biases
— Evidently AI
— Pydantic
— MLBox
— InterpretML
— OpenTelemetry + Langfuse
— Kedro
— NVIDIA NeMo
— Inspect Evals
🤩 AI-агенты и мультиагентные системы
— RoboDuck и победа Theori в AIxCC
— где пентест-агенты уже работают, а где нужен человек
— MetaGPT + AFLOW
— безопасность агентных систем 1, 2
— MCP как новая поверхность атак
— side-channel атаки на агентов
— мультиагентные системы и роевой интеллект
— мониторинг rogue agents
— Harness Engineering
🦔 Исследования и разборы статей
— Model Inversion Attacks
— scheming у AI в реальном мире
— Your Agent Is Mine: атаки на LLM supply chain
— WEF: AI for Cybersecurity 2026
— обзор исследований по LLM-based vulnerability detection
— может ли AI самостоятельно взломать бинарник
— Emergence AI: что произошло, когда AI оставили жить без людей
— Anthropic об AI-enabled cyberattacks
— InfoKV и сжатие KV-cache
— Люди, которые делают AI (Серые кардиналы 1, Серые кардиналы 2)
💔 ML: архитектуры, концепции и теория
— KAN vs MLP
— нейросимвольный AI
— маленькие языковые модели
— метрики качества текста: BLEU, ROUGE, BERTScore, COMET и другие
— теория категорий и AI
— ReaGAN и агентный подход к графовым нейросетям
🔪 Практика и эксперименты
— как искать секреты в Git-репозиториях
— SQL-инъекция в ML-проекте
— Practical NLP: репозитории и ноутбуки
— типичные ошибки ML в проде
— первый запуск локальной LLM на Jetson Orin Nano
— тренажёр prompt injection от Lakera
— с чего начать изучение AI Security
Короче, тут уже не канал, а небольшой индекс по ML × AI Security.
Буду периодически обновлять этот пост, чтобы всё интересное можно было найти в одном месте. | 1 782 |
| 20 | Саммари докладов OFFZONE AI.Zone - наши агенты сбегали (ну а как иначе, наши агенты самые сильные хацкеры). Мы их ловили и говорили Ата-та-та, возможно потом даже что-то поменяли в среде работы агента | 6 366 |
