AISecure
رفتن به کانال در Telegram
🧠 AI, Security & DevOps — практики, инструменты и исследования. Hands-on гайды, secure pipelines, AI-powered tools и эксперименты от ParanoAI Labs.
نمایش بیشتر886
مشترکین
+424 ساعت
+107 روز
+3330 روز
در حال بارگیری داده...
جذب مشترکین
ژوئیه '26
ژوئیه '26
+46
در 2 کانالها
ژوئن '26
+49
در 0 کانالها
Get PRO
مه '26
+105
در 0 کانالها
Get PRO
آوریل '26
+44
در 2 کانالها
Get PRO
مارس '26
+41
در 0 کانالها
Get PRO
فوریه '26
+64
در 3 کانالها
Get PRO
ژانویه '26
+49
در 0 کانالها
Get PRO
دسامبر '25
+62
در 2 کانالها
Get PRO
نوامبر '25
+43
در 0 کانالها
Get PRO
اکتبر '25
+502
در 1 کانالها
| تاریخ | رشد مشترکین | اشارات | کانالها | |
| 29 ژوئیه | +2 | |||
| 28 ژوئیه | +4 | |||
| 27 ژوئیه | +1 | |||
| 26 ژوئیه | 0 | |||
| 25 ژوئیه | 0 | |||
| 24 ژوئیه | +5 | |||
| 23 ژوئیه | 0 | |||
| 22 ژوئیه | +3 | |||
| 21 ژوئیه | +2 | |||
| 20 ژوئیه | +1 | |||
| 19 ژوئیه | 0 | |||
| 18 ژوئیه | 0 | |||
| 17 ژوئیه | +1 | |||
| 16 ژوئیه | 0 | |||
| 15 ژوئیه | +1 | |||
| 14 ژوئیه | +3 | |||
| 13 ژوئیه | +3 | |||
| 12 ژوئیه | +4 | |||
| 11 ژوئیه | +2 | |||
| 10 ژوئیه | 0 | |||
| 09 ژوئیه | +2 | |||
| 08 ژوئیه | 0 | |||
| 07 ژوئیه | 0 | |||
| 06 ژوئیه | +1 | |||
| 05 ژوئیه | +2 | |||
| 04 ژوئیه | +6 | |||
| 03 ژوئیه | +3 | |||
| 02 ژوئیه | 0 | |||
| 01 ژوئیه | 0 |
پستهای کانال
AI Security Researcher (LLM / AI Red Teaming)
Если у вас уже есть коммерческий опыт в AI Security, возможно, эта вакансия будет интересна.
Это не классический пентест. Основная задача — исследование безопасности LLM и AI-агентов: создание новых сценариев атак, связанных с reasoning, prompt injection, tool abuse, agent security, GitHub, Slack, CI/CD и другими реалистичными окружениями.
Полное описание вакансии: [ссылка]
Обратите внимание: рассматриваются только кандидаты, которые соответствуют всем требованиям:
• Локация вне РФ и РБ.
• Свободный разговорный английский.
• Коммерческий опыт AI Red Teaming / LLM Security (prompt injection, jailbreak, tool abuse, agent security и другие атаки на LLM и AI-агентов).
К сожалению, без любого из этих трех требований кандидатуры не рассматриваются.
Если вакансия вам подходит, отправляйте резюме напрямую HR — @lana_schein.
P.S. Кто найдет все пасхалки — тот, вероятно, уже подходит на вакансию.
| 2 |  Разработчики Moonshot продолжают хайповать и уже пошли намёки на Kimi K3.1.
Остановите этот поезд, а то на одних сбросах лимитов конкуренты не вывезут, придется им бесплатно свои модели раздавать. Китай наступает! У них теперь национальная идея, цель и задача стать номер #1 на AI рынке. | 195 |
| 3 | Посмотрим 👀 | 184 |
| 4 | OpenAI рассказала о GPT-Red — внутренней системе для автоматизированного AI Red Teaming.
Идея заключается в использовании adversarial self-play: одна модель пытается найти успешные атаки на другие модели (например, prompt injection), а найденные успешные сценарии используются для их дальнейшего обучения.
Цикл выглядит так:
GPT-Red → успешная атака → обучение защитной модели → поиск новых атак
По сути это напоминает coverage-guided fuzzing, только вместо поиска crash'ей система автоматически исследует пространство возможных атак на LLM и использует найденные успешные сценарии для дальнейшего обучения защитной модели.
В статье речь идет о prompt injection, но аналогичный подход может применяться и для тестирования более сложных AI-систем: AI-агентов, RAG, использования инструментов, MCP и других сценариев, где поведение модели определяется взаимодействием с внешним контекстом.
🔗 https://openai.com/index/unlocking-self-improvement-gpt-red/ | 412 |
| 5 |  Кто что думает 😎 имхо, потому что до ИИ которое реально заменит высококвалифицированных инженеров настанет не скоро. Поэтому не теряйте голову, учите матчасть, новое и и можно претендовать на подобные вакансии. Даже иностранный язык при всех транслейтерах/gpt никто не хочет пока что нанимать в зарубежку без знания языка, даже если ты скажешь что ИИ все дела и тп | 369 |
| 6 |  Elastic опубликовали интересный материал о том, как они построили Agentic SOC и сократили время триажа алертов с 30 минут до менее чем 3 минут.
Самое интересное в статье — не использование LLM, а сама архитектура системы.
Основные принципы:
• Workflow выступает в роли оркестратора. Он управляет пайплайном, ветвлениями, ретраями и вызовом инструментов. Вся эта логика детерминирована и не требует LLM.
• LLM используется только там, где действительно нужен анализ. Если задачу можно решить с помощью ES|QL, правил или других детерминированных механизмов, модель не вызывается. Это снижает стоимость, уменьшает задержки и минимизирует риск галлюцинаций.
• Вместо одного универсального агента используются специализированные агенты для разных доменов: Windows, macOS, Cloud, SaaS и других. Каждый работает только в своей области экспертизы.
• Финальный агент не собирает данные, а принимает решение на основе уже подготовленных артефактов: определяет True/False Positive, оценивает уровень уверенности, сопоставляет техники MITRE ATT&CK и формирует рекомендации.
Вся архитектура выглядит следующим образом:
Alert → Workflow → ES|QL проверки → Specialized Agents → Review Agent → Verdict
Мне кажется, именно такой подход будет становиться стандартом для AI-систем. Не один «суперагент», который делает всё, а оркестрация детерминированных процессов и набора специализированных агентов.
Эту архитектуру легко представить не только в SOC, но и в DevSecOps, Kubernetes Security, Vulnerability Management и CI/CD Security.
Статья: https://www.elastic.co/security-labs/alert-triage-agentic-soc-elastic-workflows | 548 |
| 7 | Матчасть как ни крути все равно важна)) RTFM
А чтобы ее постигнуть, лично мне нравиться визуализация, как форм-фактор потребления контента (главное чтобы было понятно). Потому что есть люди с разными способами восприятия, кто-то может услышать и все вообразить, кому-то надо написать или начертить самому схему или архитектуру решения, кому-то для начала надо увидеть как это работает.
Поэтому шерю интересный канал, про математику с мощной визуализацией, того о чем рассказывает автор канала. Анимированная математика, и другие сферы.
Neural network и LLM
https://www.youtube.com/playlist?list=PLZHQObOWTQDNU6R1_67000Dx_ZCJB-3pi | 332 |
| 8 | PentAGI 2.1 уже доступен.
На мой взгляд, самые интересные изменения:
• Управление файлами и ресурсами агентов
• Работа с knowledge base и vector memory через UI
• Наблюдаемость ToolCall в реальном времени
• Управление активными flow прямо из чата
• Обновлённая поддержка моделей, включая локальные, и улучшенная оркестрация
Особенно интересно развитие более управляемых агентных систем: память, наблюдаемость, контроль выполнения и работа с контекстом становятся не менее важными, чем сами модели. Локальные модели при этом входят в общий блок улучшений поддержки моделей.
Подробности в релизе:
https://github.com/vxcontrol/pentagi/releases/tag/v2.1.0 | 385 |
| 9 | Запилил LeaderBoard AI Pentest Tolls (не судите строго, все на открытых данных, звездочки, функциональность, количество форков, количество недавних просмотров)
На истину в последней инстанции не претендую
PS идея была с меня, реализация под ключ почти без ручной работы с AI Agents 🤖 | 335 |
| 10 |  #meme | 407 |
| 11 | PS также планирую скоро накидать список полезных ресурсов и позже рассказать что из заявок прошло, а что нет, по части грантов на токены, и схожие программы, которые позволяют получить кредиты по токена/инфре/ресурсам - в рамках ресерч и стартап программ
что-то вроде этого, но в разрезе в первую очередь ресерч грантов, так как получить на стартап, бывает сложно по куче разных причин (как минимум аффилированность с VC партнера дело такое, что из воздуха не нарисуешь) | 334 |
| 12 |  OpenAI запустили Bio Bounty Program — до $25,000 за security research по GPT-5.5.
Ищут людей с опытом в AI red-teaming, LLM security и смежных областях. Задача — протестировать модель на биобезопасность через структурированный челлендж из 5 вопросов.
Дедлайн подачи заявки — 23 июня 2026.
Подача: openai.smapply.org
Планирую участвовать, если всё сложится. Кто хочет вместе поджейлбрейкать — пишите в личку. | 419 |
| 13 | 🚨 Bleeding Llama — критическая уязвимость в Ollama (CVE-2026-7482)
Исследователи Cyera показали, что через 3 unauthenticated HTTP-запроса можно вытащить heap-память процесса Ollama.
Суть эксплуатации:
— загружается malicious GGUF
— через /api/create триггерится quantization
— Ollama читает память за пределами буфера (OOB read)
— через /api/push утекшая память эксфильтрируется атакующему
Проблема в том, что Ollama доверяет metadata tensor’ов внутри GGUF.
Из-за использования Go unsafe memory safety protections обходятся.
Что может утечь:
• prompts / system prompts
• API keys
• env vars
• inference context
• данные предыдущих запросов
Самое неприятное — для эксплуатации:
— не нужен RCE
— не нужны credentials
— не нужен user interaction
А учитывая сколько Ollama-инстансов торчит наружу без auth — это очень практичная история.
TL;DR:
если Ollama exposed в интернет без auth — считай, что память процесса потенциально читается удалённо.
https://www.cyera.com/research/bleeding-llama-critical-unauthenticated-memory-leak-in-ollama | 352 |
| 14 | Кажется у ребят из Semgrep наступили очень тяжелые времена🥲
https://x.com/claudeai/status/2049898739783897537?s=46&t=CF0Vh-Z-vc7fuRxW3gUbMw | 283 |
| 15 | Будем посмотреть что там выйдет у них | 277 |
