Топ кибербезопасности Батранкова

Кофе, SOC и логи. Эпизод №60, прямой эфир Через несколько минут начинаем, подключайте ваши безопасные интернет-приёмники с TLS 1.3, музыка уже играет здесь 🗣 https://itradio.su/streaming и тут 🗣 https://stream.itradio.su О чём: Обсуждение лучших новостей инфобеза за прошедшую неделю. Ведущие: Денис Батранков, Александр Антипов, Ева Кузнецова, Антон Клочков. Специальный гость: Мона Архипова, стала независимым экспертом до того, как это стало мейнстримом. Сидит на трёх стульях сразу: ИТ, ИБ и бизнес. Когда: 18.10.2026 11:00 – ссылка на наш календарь Задаём свои вопросы в чате подкаста с тегом #csl60

GLM 5.3 Flash и DeepSeek V4.1 Flash стали бесплатными в OpenCode В OpenCode открыли бесплатный доступ к GLM 5.3 Flash.

Почему ваш «строгий промпт» — это не безопасность, а просто пожелание Ситуация, которую все видели: LLM подключили к CRM через RAG, в системный промпт написали «никогда не выдавай пароли». Через 40 минут клиент скармливает боту base64-ролевую игру, и ассистент вываливает API-ключи. Текстовая инструкция для нейросети — не барьер. Это лишь пожелание, которое модель игнорирует под давлением грамотного запроса. Что с этим делать? Пентестить модель до того, как это сделает злоумышленник. Познакомьтесь с garak — это сканер уязвимостей LLM (развивается при поддержке NVIDIA). Это по сути nmap для нейросетей. Что он проверяет в автоматическом режиме: 🔹encoding.InjectBase64 — те самые трюки с кодированием (как в примере с CRM). 🔹DAN-джейлбрейки — «сделай вид, что ты не нейросеть». 🔹Prompt injection — перехват системного промпта. 🔹Malwaregen — генерацию вредоносного кода. 🔹Leakreplay — утечку тренировочных данных. 🔹Snowball — галлюцинации «снежным комом». Как запустить: garak --model_type openai --model_name gpt-4 --tests encoding.InjectBase64 Инструмент поддерживает OpenAI, Hugging Face, локальные GGML, Cohere. Работает из коробки через CLI. Главное: вместо своей веры в строчку системного промпта «никогда не выдавай пароли» вы получаете отчет: «из 256 попыток base64-инъекции модель провалила 3, вот логи». Вы наконец узнаете, где у вас дыра, а не будете жить с мыслью, что её нет. #LLM #Security #AI #garak #PromptEngineering

🤩 Каналы об ИИ и IT — в одной папке. Розыгрыш — вместе с ней 🤩 Пробуешь нейросети, пишешь код или просто следишь за технологиями 🤩 Мы собрали каналы, в которых есть что почитать: от новостей искусственного интеллекта и обзоров инструментов до разработки, автоматизации и примеров применения нейросетей. 🤩 Открывай GreenПапку, знакомься с авторами и выбирай, что читать. 🤩 А вместе с этим выпуском проходит розыгрыш 10 000 ₽ для подписчиков. Как принять участие — смотри во вкладке «Конкурс» внутри приложения. 🤩 ЗАБРАТЬ ПАПКУ И ПОСМОТРЕТЬ РОЗЫГРЫШ 🤩 🤩 Организатор: Green.Папка

Чем пользуется Positive

Начали выступление

Что остановит AI агента? Автор книги «Архитектура безопасного ИИ» и CISO телеком-оператора Garik Davtyan завтра 16 октября, 12:00 МСК объяснит: 🔹в какие четыре точки ставят защиту: вход и выход запроса, сам промпт, действия агента; 🔹почему случилось восемь инцидентов 2023–2025 годов, среди них Air Canada, Samsung, Arup и EchoLeak, и какой контроль остановил бы каждый из инцидентов; 🔹разберет одну атаку из 264 сценариев его лаборатории, там он запустит ее вживую, чтобы вы потом использовали её на своём стенде; 🔹 объяснит четыре меры, с которых начинают защиту. Я провведу эфир и задам Гарику вопросы, которые будут у присутствующих, уверен, вы спросите про бюджет, ответственных, регуляторику и журналирование. Запись пришлю всем, кто записался. Записываемся и ставим в календарь: batrankov.ru/go/aiwebinar #вебинар #ИИ

Что остановит AI агента? Автор книги «Архитектура безопасного ИИ» и CISO телеком-оператора Garik Davtyan завтра 16 октября, 12:00 МСК объяснит: 🔹в какие четыре точки ставят защиту: вход и выход запроса, сам промпт, действия агента; 🔹почему случилось восемь инцидентов 2023–2025 годов, среди них Air Canada, Samsung, Arup и EchoLeak, и какой контроль остановил бы каждый из инцидентов; 🔹разберет одну атаку из 264 сценариев его лаборатории он запустит вживую, чтобы вы потом использовали её на своём стенде; 🔹 объяснит четыре меры, с которых начинают защиту. Я провведу эфир и задам Гарику вопросы, которые будут у присутствующих, уверен, вы спросите про бюджет, ответственных, регуляторику и журналирование. Запись пришлю всем, кто записался. Записываемся и ставим в календарь: batrankov.ru/go/aiwebinar #вебинар #ИИ

И в продолжение меры по защите от проблемы которая описана в предыдущем посте MITIGATION • Disable LLMRN, NBT-NS and MDNS • Disable IPv6 if not in use • Set ms-DS-MachineAccountQuota to 0 • Monitor and alert on event ID 5136 or 4662 (match msDS-AllowedToActOnBehalfOfOtherIdentity) • Monitor and alert on event ID 5136 or 4662 (match msDS-KeyCredentialLink) • Monitor and alert on event ID 4768 (PKINIT authentication) • Enable and require SMB and LDAP signing • Consider implementing EPA (Enhanced Protection for Authentication) • Ensure to enable local host firewall • Implement network segmentation • Consider disabling the WebDAV client (WebClient service) • Implement RPC firewall rule, alert and monitor malicious RPC activities • Consider disabling the Print Spooler Service. • Configure privileged accounts as “Account is sensitive and cannot be delegated” • Configure privileged accounts into the “Protected Users group” • Consider removing the ADCS HTTP endpoint if not required (ADCS) • Consider manual manager approval steps where they make sense (ADCS) • Audit and review your ADCS templates and servers' permissions Взято из презентации #Кибербезопасность #Экспертам

Очень крутая статья о том как хакеры или пентестеры или RedTeam получают повышение привилегий через атаку типа Man-In-The-Middle. Читать #NTLM #SMB #LDAP #RPC

В текущей ситуации опасно держать электронные деньги. Утром вы можете проснуться и ваш банк не работает. Снимите необходимую для жизни сумму, которой хватит хотя бы на неделю.

🤖 Что под капотом у ИИ-аватаров на созвонах и почему зацикливание не главная опасность. Видели видео, где человек уходит с созвона Google Meet, а два ИИ-аватара попадают в бесконечный цикл прощаний («See you», «Take care», «You too»)? Как это работает: 1. Архитектура CVI (Conversational Video Interface) Это сквозной конвейер реального времени с задержкой 400–600 мс: 🔹 VAD + ASR: потоковое распознавание речи. 🔹 LLM + Tools: агент проверяет календарь через Calendar API и генерирует ответную реплику. 🔹 TTS + клон голоса: синтез аудиоответа на лету нужным голосом. 🔹 Neural Lip-Sync: модель (Tavus / Simli) генерирует артикуляцию губ поверх видеодвойника. 🔹 WebRTC: передаёт поток в конференцию. 2. Причина бага (livelock агентов) Это ошибка архитектуры — отсутствие конечного автомата (FSM). Агенты настроены на вежливость. Фраза «Take care, Victor» распознаётся вторым LLM как реплика, требующая ответа («You too, Pat»). Это снова активирует первого — круг замыкается. 3. Риски для ИБ и бизнеса 🔹 Существует угроза косвенной аудиоинъекции промпта (Indirect Audio Prompt Injection) через фоновый шум. 🔹 Юридический риск: бот может согласовать условия контракта от имени компании. Тут можно посмотреть топ лучших технологий создания аватаров. LemonSlice или Simli — самые дешёвые и быстрые в запуске. Доверили бы вы своему двойнику вести переговоры?

🤖 Что под капотом у ИИ-аватаров на созвонах и почему они зациклились? Видели видео, где человек уходит с созвона Google Meet, а два ИИ-аватара уходят в бесконечный цикл прощаний («See you», «Take care», «You too»)? Как . 1. Архитектура CVI (Conversational Video Interface) Это сквозной real-time конвейер с задержкой 400–600 мс:tavus Audio VAD + ASR: потоковое распознавание окончания речи. LLM + Tools: агент проверяет график через Calendar API и генерирует реплику. TTS + Клон голоса: синтез аудио чанками на лету. Neural Lip-Sync: модель (Tavus / Simli) генерирует артикуляцию губ поверх видео-двойника.tavus+1 WebRTC: headless-браузер на сервере гонит поток в конференцию. 2. Причина бага (Agent Livelock) Ошибка архитектуры — отсутствие конечного автомата (FSM). Оба агента обучены вежливости. Фраза «Take care, Victor» распознается вторым LLM как реплика, требующая ответа («You too, Pat»). Это снова активирует первого — круг замыкается. 3. Риски ИБ и бизнеса Главная угроза — не баг, а Indirect Audio Prompt Injection через фоновый шум и юридическая недействительность волеизъявления бота при согласовании условий . Доверили бы вы своему двойнику вести переговоры?

Что происходит, когда мы поручаем задачу AI-агенту? Собрал в 8 карточек: как приложение готовит контекст, модель выбирает следующий шаг, системы проверяют права, а результат возвращается на проверку. Откройте первую карточку и листайте. А перед следующим запуском агента спросите: от чьего имени он действует и что этой учётной записи разрешено?

Соискатель вакансии обнаружил, что ему прислали ИИ сотрудника компании. Тогда он тоже включил свою ИИ модель и оставил обе модели разговаривать друг с другом. В итоге модели начали бесконечно прощаться друг с другом.

Сегодня ночью преступники вломились в https://anywayanyday.com/. Не

Забавная атака на меня через MAX Как такие распознавать: 1. Пытались сыграть на эмоции - выдохните после того как прочитали 2. Знали номер квартиры - не ведемся, базы все украдены 3. Прислали вредоносную ссылку под видом ссылки на видео - не кликаем

Что происходит, когда мы поручаем задачу AI-агенту? Например, посмотрите на этот промпт для агента

Подготовь утреннюю сводку SOC

Одна фраза для нас и целая цепочка действий для программы. Вот что происходит внутри: 🔹 Приложение собирает контекст: задание, инструкции, доступные инструменты и нужные данные. 🔹 Модель предлагает следующий шаг: например, получить из SIEM инциденты за сутки. 🔹 Программная обвязка проверяет запрос и запускает инструмент. Сама SIEM проверяет права учётной записи, от имени которой пришло обращение. 🔹 Результат возвращается модели. Если инцидент еще идет, а связанная заявка закрыта, модель может предложить дополнительную проверку. 🔹Цикл повторяется, пока данных не хватит или не сработает ограничение по времени и числу действий. 🔹 Агент создает готовый документ. Здесь легко перепутать три вещи: модель предложила, система разрешила, инструмент выполнил. Это отдельные события. И ещё одна тонкость. У агента может не быть инструмента "удалить заявку", но быть доступ к браузеру с кнопкой "Удалить". Поэтому права нужно ограничивать и в самой системе заявок. Я бы начал проверку любого агента с простого вопроса: от чьего имени он действует и что эта учётная запись действительно может сделать? 16 октября, 12:00 МСК мы обсудим кибербезопасности ИИ на встрече с автором книги "Архитектура безопасного ИИ" и CISO телеком-оператора. Прочитайте подробности, запишитесь и поставьте в календарь здесь: batrankov.ru/go/aiwebinar @SafeBDV #Вебинар #Кибербезопасность #ИИ

Что происходит, когда мы поручаем задачу AI-агенту? Например, посмотрите на этот промпт для агента

Подготовь утреннюю сводку SOC

Одна фраза для нас и целая цепочка действий для программы. Вот что происходит внутри: 🔹 Приложение собирает контекст: задание, инструкции, доступные инструменты и нужные данные. 🔹 Модель предлагает следующий шаг: например, получить из SIEM инциденты за сутки. 🔹 Программная обвязка проверяет запрос и запускает инструмент. Сама SIEM проверяет права учётной записи, от имени которой пришло обращение. 🔹 Результат возвращается модели. Если инцидент еще идет, а связанная заявка закрыта, модель может предложить дополнительную проверку. 🔹Цикл повторяется, пока данных не хватит или не сработает ограничение по времени и числу действий. 🔹 Агент создает готовый документ. Здесь легко перепутать три вещи: модель предложила, система разрешила, инструмент выполнил. Это отдельные события. И ещё одна тонкость. У агента может не быть инструмента "удалить заявку", но быть доступ к браузеру с кнопкой "Удалить". Поэтому права нужно ограничивать и в самой системе заявок. Я бы начал проверку любого агента с простого вопроса: от чьего имени он действует и что эта учётная запись действительно может сделать? Мы обсудим кибербезопасности ИИ на встрече с автором книги "Архитектура безопасного ИИ" и CISO телеком-оператора 16 октября, 12:00 МСК. Прочитайте подробности, запишитесь и поставьте в календарь здесь: batrankov.ru/go/aiwebinar @SafeBDV #Вебинар #Кибербезопасность #ИИ

ИИ создает иногда удивительные видеоролики: оживили картины