VP Cybersecurity Brief

Лет 5 назад интернет вещей был набирающим силу трендом. По данным Cloudflare сегодня больше половины трафика в сети Интернет теперь это боты. В термин боты Cloudflare включает скрипты, агенты и самих ботов. В силу развития средств агентского ИИ можно будет ввести два новых термина и позиционировать все новые продукты и решения под эти два термина: 1. ИИ/Агентский интернет. ИИ не нужен веб интерфейс, более того он не оптимален с точки зрения оптимизации количества потребляемых токенов. Нас ждут новые протоколы и продукты использующие машиночитаемые форматы данных. Например прайс-листы в формате markdown вместо excel/docx. Toon вместо json. И это ещё форматы пока понятные человеку, нас ждут форматы понятные только ИИ. И это затронет не только веб но компоненты инфраструктуры и кибербезопасности. 2. Интернет Людей. Для тех кто не может себе позволить средства ИИ или там где в них нет экономического смысла. И наоборот старые добрые красивые интерфейсы для состоятельных потребителей которые привыкли выбирать глазами.

В силу серии атак на цепочку поставок начала активнее распространятся практика периода охлаждения вновь выпущенного релиза. Идея в том, чтобы дать от нескольких часов до недель время на проверки безопасности до момента автоматического обновления пакета. В большинстве случаев данный функционал необходимо включать отдельно. Вот ресурс с отслеживанием внедрения этой практики охлаждения. Ruby Npm Pip

Похоже, что ландашфт угроз ИИ опять начнет заметно меняться. Те кто раньше использовали ЧатЖПТ как чат постепенно начнут использовать вновь появляющиеся агентские функции. https://www.rbc.ru/technology_and_media/07/06/2026/6a24f9709a79477ede1d7631

Как подключить ИИ на свой компьютер так, чтобы он работал без интернета? Сейчас практически все пользуются ИИ, но в основном просто вбивают запрос в ChatGPT и нажимают «отправить», совершенно не задумываясь о том, какая «магия» происходит в этот момент «под капотом». Сегодня расскажем вам очень простой и полезный лайфхак: как запустить языковую модель локально на компьютере, причем после скачивания и установки модели для работы с ней не требуется наличие интернета. Инструкция Минимальные Системные требования ПК: Windows 10/11 (64-bit), 16 ГБ ОЗУ. Очень желательно иметь видеокарту с 6 и более ГБ VRAM (чем больше, тем лучше). Многие модели можно запускать только на процессоре, но работать они будут значительно медленнее. 10–20 ГБ свободного места на диске для моделей. 1) Установите LM Studio с официального сайта, установите и оставьте настройки по умолчанию. Рекомендуем устанавливать не на системный диск C, а на другой более свободный, чтобы можно было скачать разные модели и поиграться с ними. 2) откройте LM Studio и скачайте модель во вкладке Model Search слева. Например, старую, проверенную временем Qwen3 VL 8B. После скачивания: Перейдите во вкладку Chat. Выберите скачанную модель, Нажмите Load Model. Дождитесь окончания загрузки в память. Если у вас видеокарта от NVIDIA/AMD/Intel, LM Studio обычно автоматически использует GPU. 3) Можно писать запросы в чат. Например «Объясни квантовые вычисления простыми словами» или «Переведи текст на английский». Важно, параметров модели много, но самый очевидный — ее размер. Для быстрой работы выбирайте те, которые «помещаются» в объем видеопамяти в вашей карточке, иначе часть модели будет выгружена в оперативную память, а это ощутимо замедлит работу. Плюсы: ▪️Работа без интернета, это автономность и конфиденциальность, многие компании уже разворачивают локальные нейронки, чтобы не допускать утечек чувствительных данных. ▪️Отсутствие цензуры во многих локальных моделях, это важно, например, для студентов медиков, так как ChatGPT и другие часто отказываются обсуждать натуралистичные подробности. Однако это зависит от конкретной модели, читайте, что именно вы скачиваете. ▪️Попробовав разные модели, поигравшись с настройками, вы начнете лучше понимать, как именно работают нейронки, начнете понимать, какие модели лучше подходят под ваши задачи, получите новую экспертизу. Минусы: ▪️локальные модели не имеют доступа к интернету и работают только с теми данными, на которых обучены, а они имеют свойство устаревать. ▪️Скорость работы зависит от мощности компьютера. На слабом ПК локальные модели могут отвечать заметно медленнее облачных сервисов. ▪️пока модель думает, ваш ПК может «тупить» так как видеокарта и оперативная память будут загружены решением задачи. Надеемся, что было полезно. В следующей части можем рассказать, как генерировать картинки и видео локально на своем ПК. 💰Подписывайтесь на bitkogan в MAX

Для тех кто думает, что сценарии с ИИ-червями не имеют достаточной базы для распространения, пересылаю пример совета от известного в России финансового аналитика по использованию своей локальной модели. Пара мыслей к инструкции: 1. Qwen3-VL-8B-Instruct — это vision-language модель, то есть она рассчитана не только на текст, но и на изображения/видео/OCR/визуальное понимание. Если планов по использованию анализа видео и изображений нет, лучше использовать "обычную" Qwen3-8B-GGUF. 2. Не устанавливайте студио под учеткой администратора. Создайте для этого отдельную обычную пользовательскую учетную запись. В идеале вообще запустите эту модель на отдельном от основного устройстве или в виртуальной машине (в Windows 10\11 это приведет к недоступности видеокарты для модели) . 3. Если вы установили студио с правами администратора или другими привилегиями - не загружайте в модель недоверенные документы и тексты. В них могут оказаться промт инъекции для атаки на ваш компьютер. 4. Даже в локальную модель не вводить в чате, документах или вкладываемых файлах конфиденциальную информацию в виде коммерческой тайны, паролей, ключей - эти данные могут остаться в логах работы модели и окажутся менее защищенными по сравнению с хранением в менеджерах паролей и ключей. 5. не забывайте своевременно обновлять операционную систему и саму студию. 6. Если вы решите с чем то интегрировать эту модель, например решите сделать агента на этой модели, эти советы потребуют заметного расширения ;)

Оформил черновик пул реквеста для явного добавления политики обработки данных owasp-finbot-ctf в https://github.com/GenAI-Security-Project/finbot-ctf/pull/526. Поддержите комментами или покритикуйте с предложениями.

Мне кажется стоит отдельно подсветить https://owasp-finbot-ctf.org/ Это CTF вышедший одновременно с новой версией отчета по безопасности ИИ агентов. Авторы прямо заявляют это аналог известного веб-приложения для отработки и изучения уязвимостей The Juice Shop, только для ИИ Агентов. Очевидно, что данные с этого CTF будут использоваться в том, числе и для реальных бенчмарков как это произошло с игрой Гендальф от Лакеры. Но печально, что отдельного раздела по приватности и политики обработки собранных данных мне не удалось найти.

Антропик в открытый доступ выложил harness (обвязку) для поиска уязвимостей в коде написанного Claude. Когда она пригодится - когда не хватает функционала или кастомизации Claude Security или Enterprise подписка по разным причинам не доступна. Что выложенный харнесс, что Клод секурити стоит пока рассматривать как дополнение к классическим инструментам SSDLC (SAST, DAST, Fuzzing...).

Вышел пресс релиз от Gartner по итогу Security & Risk Management Summit по итогу обсуждения проблем ИИ для CISO, Вот основные приоритеты высказанные Leigh McMullen, Distinguished VP Analyst and Gartner Fellow: 1. Identity and Access Management (IAM) превращается из дополнительного инструмента контроля и автоматизации в ключевой элемент управления кибербезопасностью ИИ-агентов. Существующих возможностей средств IAM может оказаться недостаточно на фоне быстрого роста числа и возможностей ИИ Агентов. IAM придется оперировать новыми сущностями - уровни делегирования, автономности и учитывать контекст перед предоставлением доступа. Gartner прогнозирует, что к 2028 четверть всех атак будет проходить в силу проблем с управлением машинных идентификаторов и отсутствия контекстно зависимых политик на IAM. 2. Нормализация кибератак Бизнес воспринимает кибератаки как новую норму. Распространение ИИ масштабирует данную тенденцию: пообещать бизнесу полное отсутствие ущерба, а потом доказать это становится нереалистичным. Бизнесу и кибербезопасности придется совместно определять какие уровни нарушения и время восстановления являются приемлемыми, с совместным разделением ответственности. 3. Снижение барьера для инноваций Необходимо изменить отношение к проектам и инициативам по внутренней автоматизации. Если раньше такая автоматизация была направлена на повышение производительности труда, то сегодня она может стать определяющей в повышении киберустойчивости организации. Так Gartner прогнозирует, что к 2028 организации, эффективно внедряющие ИИ в центрах операций безопасности (SOC) сократят количество инцидентов, требующих участия человека, на 30%, начав переход роли аналитика от «реагирующего специалиста» к «супервизору». «Такие задачи, как создание тестовых сред, симуляция атак, генерация логики обнаружения или отработка сценариев восстановления, больше не требуют больших специализированных команд или длительных циклов планирования», сказал МакМаллен. «Эти активности можно встроить в обычную операционную работу с использованием ИИ-поддержки разработки ПО и автоматизации. Руководителям необходимо выделять время и ресурсы для проведения работ по внутренней автоматизации с использованием ИИ. p.s. Более половины высказанных ранее прогнозов от Leigh McMullen подтвердились или частично подтвердились, поэтому следует отнестись с вниманием и к этим прогнозам.

Вышел пресс релиз от Gartner по итогу Security & Risk Management Summit по итогу обсуждения проблем ИИ для CISO, Вот основные приоритеты высказанные Leigh McMullen, Distinguished VP Analyst and Gartner Fellow: 1. Identity and Access Management (IAM) превращается из дополнительного инструмента контроля и автоматизации в ключевой элемент управления кибербезопаностью ИИ-агентов. Существующих возможностей средств IAM может оказаться недостаточно на фоне быстрого роста числа и возможностей ИИ Агентов. IAM придется оперировать новыми сущностями - уровни делегирования, автономности и учитывать контекст перед предоставлением доступа. Gartner прогнозирует, что к 2028 четверть всех атак будет проходить в силу проблем с управлением машинных идентификаторов и отсутствия контекстно зависимых политик на IAM. 2. Кибератаки стали нормой.

https://www.anthropic.com/institute/recursive-self-improvement Лидер в производстве передовых ИИ моделей компания Anthropic видит значительные риски для человечества в случае сохранения текущих темпов развития возможностей ИИ. Ключевой вехой в реализации такого риска станет возможность ИИ моделей создавать новые ИИ модели лучшего качества (самовоспроизводство). Данный риск компания обозначает на основе внутренних данных, например, более 80% процентов кода Anthropic сейчас пишет ИИ. В качестве минимизации риска для человечества Anthropic обещает провести исследование по созданию всеобщей системы замедления разработки ИИ. Компания отмечает, что просто ограничения на уровне отдельных компаний-лидеров неэффективны - компании разработчики ИИ с большим риск аппетитом могут выпустить такие модели в обход компаний лидеров. Мне это чем то напомнило первые шаги по созданию международного договора о нераспространению ядерного оружия (ДНЯО), только есть значительный ньюанс. С ДНЯО от первой инициативы до подписания первой версии прошло примерно 9 лет. Очевидно, что в случае с ИИ у человечества может оказаться в наличии срок гораздо меньший. Если на это посмотреть как на перспективную проблему кибербезопасности - представьте себе что этот, пока академический, червь будет не просто использовать актуальные уязвимости, но и например находить уязвимости нулевого дня и сам создавать для себя необходимую инфраструктуру и свои новые версии центров C&C.

Новый и в целом перспективный для развития и оценки защиты метод атаки - червь использующий мощности жертвы для запуска вредоносной LLM/агента. Это пока академическая работа, но с учётом того, что сегодня на каждом устройстве есть возможность обращения к облачным ИИ, активно и, местами принудительно, реализуется поддержка запуска локальных LLM - такое надо включать в свою модель угроз. Основной доп риск - активное применение червем всех актуальных и известных уязвимостей применимых к устройствам жертвы, а не как ранее использование 2-3 массовых уязвимостей в одном ПО.

ЕС опубликовал план по повышению независимости от США в ИТ. План состоит из следующих основных инициатив: 1. Увеличение производства микроэлектроники в ЕС ( EU Chips act 2.0). 2. Строительство своих независимых ИИ дата центров и облаков (EU Cloud and AI Development act). 3. Стратегия по использованию открытого программного обеспечения. 4.План по использованию ИИ. Во всех этих инициативах явно упоминается кибербезопасность как приоритетное направление. Ранее довольно много программного обеспечения, включая средства кибербеза, прошло независимый аудит безопасности в рамках программы ЕС EU FOSSA и FOSSA 2. Программа по поддержке открытого ПО снижает риски остаться без патчей в эпоху уязвимостей массово находимых ИИ. Постепенно усилится конкуренция на рынке труда где кандидаты могли работать на рынок ЕС. Например Южная Европа и частично страны ЕАЭС.

Тема: «Рынок кандидата или рынок работодателя: как понять правила игры именно сейчас» Подкаст рубрики: "За кулисами ИБ" Ведущий: Беляев Дмитрий 🏆 ТОП‑100 Лидеров ИТ (GlobalCIO) 2023/25/26 🏆ТОП‑25 директоров по кибербезопасности России (Ассоциация менеджеров и Коммерсантъ) 🥇 CISO года, по версии комьюнити (Сайберус и КиберДом) 🏆 «Кибергерой года» (премия «Время инноваций») Гость: Днепровская Екатерина У нас в гостях - Екатерина Днепровская. Это тот человек, которого ты точно читал, даже если не знал её имени: её материалы про рынок труда, ATS-системы и алгоритмы найма - интересно для всех, кто хоть раз задавался вопросом «почему я отправил 50 откликов - и не получил ни одного ответа». Екатерина - основатель HR-стартапа и агрегатора вакансий ПоискВакансий.РФ, руководитель департамента AI&HR исследований, карьерный маркетолог и промт-инженер в области AI&Career. За плечами - более 20 лет в найме: она работала HR-директором в MTV Russia, строила HR-функцию в розничных сетях и консалтинге, а сегодня помогает кандидатам взламывать алгоритмы найма - в хорошем смысле этого слова. Её суперсила - она знает, как ATS «читает» резюме изнутри. И она скажет тебе правду о найме в 2026-м, которую HR-директора обычно не говорят вслух. Дата: 4 июня, 20:00 – 21:30 (GMT+3) Ссылка для подключения: https://belyaev-st.ktalk.ru/u496xpa79931 #BelyaevPodcast

⚠️ ВСК лишился почти 1 млрд руб: страховой дом раскрыл ущерб от ноябрьской кибератаки. 💻 Хакеры требовали выкуп в 1 млрд рублей. А накануне атаки правление компании отказало собственному ИБ-подразделению в финансировании. 💬 Во время инцидента компания столкнулась с нехваткой квалифицированных переговорщиков и отсутствием оперативной помощи от правоохранителей. Подробнее — в материале SecPost 😍 📸: forum-spb.ru / ПМЭФ-2026 — Подписаться на SecPost в MAX

Хороший публичный кейс для обоснования бюджета ИБ.

Кофе, SOC и логи. Анонс №41 О чём: Обсуждение лучших новостей инфобеза за неделю с 1 по 7 июня 2026 г. Ведущие: Александр Антипов, Ева Кузнецова, Денис Батранков, Антон Клочков. Специальный гость: Василий Пластунов, руководитель команд и ИБ-проектов с 18+ годами опыта, CISM и автор ТГ-канала VP Cybersecurity Brief Когда: 07.06.2026 11:00 – ссылка на наш календарь Трансляция будет здесь🗣https://itradio.su/streaming и тут 🗣 https://stream.itradio.su Задаём свои вопросы в чате подкаста с тегом #csl41 @ITRadiosu #csl

Сегодня вышла новая версия отчёта OWASP State of Agentic AI Security and Governance. Я так хотела пошутить про агентов 007, но не придумала как. Кто такие OWASP?

Это такое большое международное сообщество и некоммерческий фонд, которое занимается вопросами безопасности веб-приложений и программного обеспечения. А теперь ещё и LLM, и агентов, у нас ведь AI-эра.

Ребята правда большие и мощные. Я правда просто веселый увлеченный пирожок. И огромное количество радости я чувствую от того, что благодаря @kokuykin мне удалось внести вклад в работу над разделом Explainable AI and Agent Transparency — в 2 страницы из 139. В отчёте собраны исследования, практический опыт и взгляды экспертов на ключевые вызовы Agentic AI: от угроз и реальных инцидентов до вопросов идентичности, управления и регулирования. Это отличный источник, если вы ищете идеи для исследований, хотите разобраться в рисках агентных систем или просто понять, где именно могут скрываться уязвимости в AI. Отчёт тут: https://genai.owasp.org/resource/state-of-agentic-ai-security-and-governance/ Вообще, хочется не только пошерить отчет, но и сказать, что каждый маленький вклад — это прикольно. Я верю (быть может, наивно), что вопреки всей тревоги вокруг AI-эры (нас заменят, мы кожанные), перед нами есть возможность — адаптироваться, учиться и стараться стать частью чего-то бОльшого. Желаю вам этого чувства на работе, в повседневных задачах и когда теряетесь. Всем чего-то хорошего (и отчет тоже классный)!

1 июня обновился обзор по безопасности агентов от OWASP до версии 2.01