ИИиКБ
رفتن به کانال در Telegram
ИИиКБ (Искусственный Интеллект и Корпоративная Безопасность)
نمایش بیشتر596
مشترکین
اطلاعاتی وجود ندارد24 ساعت
-27 روز
-630 روز
آرشیو پست ها
596
Промпт-инжиниринг и искусственный интеллект в ИБ: от теории к практике 🤖
Привет, друзья! Сегодня расскажем о промпт-инжиниринге и искусственном интеллекте в области ИБ.
📘 Основные мысли:
* Основы промпт-инжиниринга: понимание принципов работы и их применение на практике.
* Роль искусственного интеллекта в ИБ: как ИИ помогает решать задачи и оптимизировать процессы.
* Переход от теории к практике: примеры использования технологий в реальных условиях.
Подробнее читайте в статье https://bisa.ru/stati/prompt-inzhiniring-i-iskusstvenniy-intellekt-v-ib-ot-teorii-k-praktike
Полный курс промпт-инжиниринга для ИБ https://ridero.ru/books/prompt-inzhiniring_v_informacionnoi_bezopasnosti/
596
Repost from ИИ & Право
🇫🇷 Франция запускает пилотный ИИ-инструмент аудита для соблюдения GDPR
Французский регулятор объявил о наборе участников для пилотного тестирования ИИ-инструмента аудита, предназначенного для содействия соблюдению Регламента ЕС по защите данных (GDPR). Инициатива под названием PANAME была объявлена в июне 2025 года с целью обеспечить эффективные и экономичные технические тесты по извлечению информации из обучающих данных ИИ, которые могут потребоваться организациям для оценки статуса модели ИИ в контексте требований GDPR.
Доступ к пилоту открыт как для государственных, так и для частных организаций, срок регистрации — 28 марта.
#ИИ #GDPR #АудитИИ #ЗащитаДанных
596
Repost from Privacy Advocates
⚖️ Суд: использование ИИ не может быть поводом снижать гарантии для граждан или каким-либо образом ухудшать их положение
📂 ООО «Дегустаторстрой» оспорило в суде требование Межрайонной инспекции Федеральной налоговой службы №2 по Волгоградской области об уплате пени на сумму ₽ 926 тыс. Постановление Двенадцатого арбитражного апелляционного суда от 09.12.2025 по делу №А12-8377/2025 вывела процесс на новый философско-правовой уровень.
🔸Налогоплательщик указал на отсутствие в материалах дела расчёта спорных пеней. Налоговый орган, вместо того чтобы просто раскрыть формулу, занял бескомпромиссную позицию. Представитель инспекции заявил, что Налоговый кодекс РФ вообще не предусматривает обязанность предоставлять расчёт сумм пени.
👨⚖️ Апелляционный суд напомнил, что любые начисления подлежат проверке, и сделать их понятными — прямая обязанность налогового органа. Суд сформулировал ряд прецедентных тезисов об использовании автоматизированных систем, в т.ч. ИИ:
1️⃣ Использование для расчётов начислений ИИ не является основанием презюмировать правильность произведённых расчётов и не снимает ответственность за полученный результат с налогового органа.
2️⃣ Суд признаёт, что внедрение ИИ — свершившийся и необратимый факт, но считает, что его использование не может быть поводом снижать гарантии для граждан или каким-либо образом ухудшать их положение.
3️⃣ Все начисления, которые будут недоступны пониманию, проверке и оценке со стороны суда, априори являются незаконными.
4️⃣ Нет ни правовых, ни фактических оснований для презумпции правильности расчётов, произведённых при помощи программного обеспечения.
5️⃣ ИИ не является субъектом, это инструмент, который не может вытеснить человека и должен использоваться под контролем ответственного лица.
6️⃣ Внедрение в деятельность налоговых органов ИИ и исключение из актов сумм пеней не снимают с налогового органа процессуальных обязанностей по доказыванию правильности начислений.
🔖 В итоге, ФНС по требованию суда всё-таки смогла выгрузить и предоставить понятный расчёт. И он оказался математически верным. Однако точка в этом концептуальном споре еще не поставлена. Компания не смирилась с решением, и на 17.03.2026 назначено заседание суда кассационной инстанции.
👁 PA | 📱 MAX | 📱 VK | 📱 Дзен
596
Repost from Privacy Advocates
🤖 Россияне стали лучше распознавать ИИ-контент, но не считают, что маркировка защитит от мошенников
🔸Исследователи OMI второй год подряд опрашивают россиян об их отношении к сгенерированному контенту, и в некоторых моментах мнение пользователей изменилось. Например, за год доля людей, которые доверяют маркировке, сократилась с 35% до 26%. Сейчас больше половины россиян считают, что маркеры не защитят их от мошенников – их слишком легко обойти. При этом знают о существовании маркировки 43% опрошенных.
🔸Характерно, что на другой важный вопрос – о том, кто должен отвечать за сгенерированный контент – ответ аудитории глобально не изменился. Треть пользователей считает, что ответственность за создание и распространение ИИ-контента должны в первую очередь нести его авторы, а не ИИ-разработчики или онлайн-площадки. В целом — логично. Условный фотошоп десятилетиями позволяет дизайнерам создавать разный контент, от развлекательного до профессионального.
🔸Но ключевая ответственность за него все равно лежит на авторе, поскольку не программа решает, каким должен быть финальный результат. Только сам человек определяет, что получится в итоге – креативный проект, раскрывающий творческий потенциал, что-то незаконное или материал, который будет вводить в заблуждение (что тоже незаконно). Кажется, в случае с ИИ логика должна быть такой же.
👁 PA | 📱 MAX | 📱 VK | 📱 Дзен
596
Repost from ИИ & Право
🌐 Регуляторы по защите данных из разных стран подписали совместное заявление против несанкционированных ИИ-дипфейков
Более шестидесяти органов по защите данных из разных стран подписали совместное заявление, в котором выразили обеспокоенность стремительным распространением созданных при помощи ИИ сексуализированных дипфейков без согласия изображенных на них лиц.
Регуляторы обязались усилить сотрудничество и правоприменение и призвали платформы к проактивному взаимодействию с надзорными органами и внедрению надежных защитных механизмов на ранних этапах. Позиция регуляторов предполагает, что технологический прогресс не должен происходить за счет приватности, достоинства, безопасности и других фундаментальных прав человека.
#ИИ #Дипфейки #ЗащитаДанных
596
Repost from Privacy Advocates
🏛️ Указом Президента ПФ от 26.02.2026 № 116 образована комиссия при Президенте РФ по развитию технологий ИИ
🔸Основная задача комиссии — координировать действия федеральных, региональных органов власти, Банка России и других заинтересованных госорганов для создания, развития и внедрения технологий ИИ. Кроме того:
1️⃣ разработка стратегии для внедрения ИИ;
2️⃣ разработка подходов для адаптации отраслей экономики, социальной сферы и сферы госуправления к активному использованию ИИ;
3️⃣ координация действий по внедрению ИИ в учебный процесс «в целях формирования гармонично развитой личности»;
4️⃣ подготовка педагогов и специалистов в области ИИ;
5️⃣ подготовка предложений по развитию международного сотрудничества в области ИИ и другие.
🔸В состав комиссии также вошли глава Минобороны России Андрей Белоусов, губернатор Московской области Андрей Воробьев, глава Сбербанка Герман Греф, спецпредставитель президента по вопросам цифрового и технологического развития Дмитрий Песков, глава Минцифры Максут Шадаев.
👁 PA | 📱 MAX | 📱 ВК | 📱 Дзен
596
Repost from ИИ & Право
🇳🇱 Нидерландский регулятор предупредил об угрозах ИИ-агентов
Autoriteit Persoonsgegevens, управление по защите данных Нидерландов, предупредило организации о рисках использования популярных open-source ИИ-агентов, таких как OpenClaw. По данным регулятора, многие плагины, созданные для этих агентов, содержат вредоносное ПО, способное привести к утечкам данных и захвату учетных записей.
Специалисты по кибербезопасности рассматривают такие агенты как "троянского коня", так как после предоставления доступа к устройству они могут похищать учетные данные для входа и получать доступ к криптовалютным аккаунтам.
#ИИ #ЗащитаДанных #Кибербезопасность
596
🔍 Качественные клиентские коммуникации: внедрение ИИ без ИБ-рисков 💼
В современном мире искусственный интеллект (ИИ) активно внедряется в различные бизнес-процессы, включая взаимодействие с клиентами. Однако вместе с преимуществами ИИ приходят и новые вызовы, такие как информационная безопасность (ИБ) и риски, связанные с конфиденциальностью данных. В этой статье мы подробно рассмотрим важность качественных клиентских коммуникаций в контексте использования ИИ и поделимся практическими рекомендациями по минимизации ИБ-рисков.
Основные тезисы:
1. Почему клиентские коммуникации важны:
* Улучшение качества обслуживания.
* Повышение лояльности клиентов.
* Увеличение конверсии и продаж.
2. Роль ИИ в клиентских коммуникациях:
* Автоматизация и персонализация.
* Анализ больших данных и прогнозирование потребностей.
* Чат-боты и виртуальные ассистенты.
3. Что такое ИБ-риски и почему их нужно избегать:
* Утечка конфиденциальной информации.
* Нарушение законодательства о защите данных.
* Потеря доверия клиентов.
4. Как минимизировать ИБ-риски при внедрении ИИ:
* Использование шифрования данных.
* Регулярное обновление программного обеспечения.
* Обучение сотрудников правилам информационной безопасности.
* Мониторинг и аудит систем.
5. Примеры успешного внедрения ИИ с учетом ИБ-рисков:
* Компании, успешно внедрившие ИИ в клиентские коммуникации.
* Кейсы и уроки, извлеченные из практики.
6. Будущее клиентских коммуникаций с ИИ:
* Тенденции и прогнозы.
* Роль ИИ в развитии бизнеса.
* Новые вызовы и возможности.
7. Заключение:
* Важность баланса между инновациями и безопасностью.
Читайте полный материал по ссылке https://cisoclub.ru/kachestvennye-klientskie-kommunikacii-ii-bez-ib-riskov/
#ИИ #клиентскиекоммуникации #бизнес #риски #информационнаябезопасность #конфиденциальность
596
Repost from Технозаметки Малышева
Kali Linux интегрируется с Claude через MCP
Случилось то, чего все пентестеры ждали с момента выхода Model Context Protocol: Kali Linux официально выкатила нативную интеграцию с Claude.
Теперь это не просто LLM-чат, а полноценный автономный ИБ исследователь в терминале.
Как это работает:
1. На Kali-боксе (локальном или в облаке) поднимается
mcp-kali-server.
2. Claude Desktop (через MCP) получает доступ к инструментам: Nmap, Metasploit, Gobuster, SQLMap, WPScan.
3. Ты пишешь текстом: «Просканируй порты на scanme.nmap.org и проверь наличие security.txt».
4. Claude сам планирует цепочку (nmap -> анализ вывода -> curl), исполняет команды и выдает структурированный отчет.
🛡 Безопасность:
Крайне не безопасно, так как команды и данные летают в облако Anthropic. Тема «приватности аудита» тут встает во весь рост.
Плюс риски промпт-инъекций, когда модель может выполнить вредоносный код, «увидев» его на атакуемом ресурсе.
🧠 Мнение: Мы перешли от «ИИ-помощника» к «ИИ-оператору».
Это и есть тот самый vibe-penetration-testing.
Корпоративным ИБ командам проще будет интегрироваться с локальными моделями, но и для хактивистов теперь порог входа стал еще ниже.
Пора вырубать интернет.
Скоро тут будет максимально небезопасно.
#Kali #Claude #MCP #Cybersecurity
------
@tsingular596
Repost from Privacy Advocates
🏛️ Законопроект об ИИ: Разработчиков нейросетей могут обязать раскрывать исходные данные
🔸Правительство РФ прорабатывает законопроект по регулированию ИИ. В нем будут определены критерии «российской» нейросети, авторское право, маркировка ИИ-контента, права, обязанности и ответственность. Правительство предлагает придерживаться гибкого подхода. Например, предотвратить использование ИИ для совершения преступлений и признать использование технологии отягчающим обстоятельством при совершении правонарушений.
🔸Разработчиков отечественных моделей искусственного интеллекта (ИИ) могут обязать раскрывать сведения о наборах данных, на которых обучалась или тестировалась их нейросеть. Такая инициатива обсуждается отраслевыми ассоциациями, компаниями в области ИИ и профильным регулятором в рамках проработки законопроекта по ИИ.
🔸Предполагается, что разработчики должны будут предоставлять достаточно подробный список сведений. В одной из рабочих версий законопроекта об ИИ (разрабатывается Минцифры) говорится, что разработчик модели должен будет указать наименование набора данных, дату его создания, назначение использования, формат, объем и происхождение. Где будет агрегироваться вся эта информация, пока не определено. Среди обсуждаемых мер – создание отдельного реестра отечественного ИИ или создание реестра отечественных наборов данных, добавил собеседник.
🔸Представитель Альянса в сфере ИИ (входят «Сбер», «Яндекс», VK, Т-банк, МТС и другие компании) уточнил, что полное и точное описание подобного массива данных в реестровом формате либо потребует ресурсов, несоразмерных результату, либо сведется к формальному перечислению без аналитической ценности.
👁 Дайджест | 📱 TG | 📱 MAX
596
Repost from ИИ & Право
📖 Опубликован отчет о мерах управления рисками агентного ИИ
Center for Long-Term Cybersecurity при University of California, Berkeley опубликовал отчет Agentic AI Risk-Management Standards Profile, в котором уделяется особое внимание необходимости оценки рисков агентного ИИ с учетом уровня его автономности и операционной сложности. В документе отмечается, что платформы варьируются от узкоспециализированных одноагентных систем до высокоавтономных многоагентных архитектур, действующих в сложных средах, что требует соразмерных мер контроля рисков.
Авторы описывают практики выявления, анализа и снижения специфических рисков агентного ИИ, включая непреднамеренное преследование не заказанных целей, несанкционированное повышение привилегий или получение ресурсов, самовоспроизведение, сопротивление отключению и потенциальный системный ущерб.
#ИИ #AgenticAI #Кибербезопасность
596
Repost from Privacy Advocates
🥷Киберпреступники стали охотиться за профилями ИИ-помощников
🔸Специалисты по кибербезопасности зафиксировали новый этап в развитии вредоносных программ для кражи данных — теперь киберпреступники нацелились на конфигурации персональных ИИ-помощников.
🔸Сегодня они стали своего рода пользовательскими агрегаторами для работы со многими популярными сервисами и выполнения различных задач, а получение доступа к их конфигурации или окружению может дать хакерам возможность заполучить обширный набор конфиденциальных данных.
👁 Дайджест | 📱 TG | 📱 MAX
596
Repost from Privacy Advocates
📍Фотография больше не гарантирует анонимность места съёмки - ИИ его выявит
🔸На рынке появилась система GeoSpy на базе искусственного интеллекта, которая умеет за секунды определять, где был сделан снимок, анализируя мельчайшие детали кадра – от архитектуры зданий до структуры почвы и типа растительности. Технологию уже начали применять в расследованиях, а закрытый доступ к ней постепенно получают разные структуры.
🔸GeoSpy – это инструмент автоматического определения геолокации изображений. Алгоритм обучили на миллионах фотографий со всего мира. Он ищет на снимке характерные признаки местности и сопоставляет их с обучающей базой. Система учитывает стиль застройки, дорожное покрытие, растительность, ландшафт и пространственные связи объектов. В результате она выдаёт предполагаемые координаты точки съёмки почти мгновенно.
🔸Разработчик заявляет, что специализированные версии модели, обученные под отдельные города или регионы, могут определять место с точностью до нескольких метров. В публичных материалах компании диапазон точности указан шире – от одного до пяти метров для поддерживаемых городов. Независимых открытых тестов с большой выборкой снимков пока нет, поэтому реальная стабильность результатов остаётся вопросом.
🔸Раньше у GeoSpy была открытая версия, доступная всем желающим, но после роста интереса её закрыли. При этом компания уже указывает среди будущих направлений применения не только расследования, но и страховую отрасль. Это означает, что инструменты автоматической геопривязки фотографий могут довольно скоро выйти за пределы узкоспециализированного использования и попасть в более широкий рынок.
👁 Дайджест | 📱 TG | 📱 MAX
596
Repost from Privacy Advocates
🇺🇸 Anthropic выпустила Claude Code Security
🔸Это ИИ-инструмент, который автоматически сканирует кодовые базы на уязвимости и помогает быстро исправлять ошибки. Его популярность взлетела так резко, что всего за два дня после анонса акции CrowdStrike потеряли около $20 млрд капитализации, а IBM упала более чем на 10%, потому что инвесторы поняли, что Claude может заменить часть работы в отрасли кибербезопасности и оптимизации старого кода, включая COBOL (старый язык программирования, который до сих пор используют в банках и госструктурах).
🔸Одновременно компания обвиняет китайские фирмы (DeepSeek, Moonshot AI, MiniMax) в массовом использовании фейковых аккаунтов для «слива» данных и тренировки своих моделей — более 24 000 аккаунтов сделали свыше 16 млн запросов к Claude.
👁 Дайджест | 📱 TG | 📱 MAX
596
Repost from BISA - Ассоциация по вопросам защиты информации
🔥 Промпт-инжиниринг и искусственный интеллект в ИБ
Все чаще в деловых процессах организации используются генеративные модели ИИ, результативность работы с которыми напрямую зависит не от самой модели, а от того, кто и как ею управляет.
«Вы потеряете работу не из-за искусственного интеллекта, а из-за того, кто умеет им пользоваться», — генеральный директор NVIDIA Дженсен Хуанг.Для специалистов по информационной безопасности эта цитата имеет прямое прикладное значение. ИИ не заменяет эксперта по ИБ, но радикально меняет требования к его компетенциям. Способность формулировать задачи для ИИ, контролировать результаты и безопасно встраивать такие инструменты в корпоративный контур становится новым профессиональным стандартом. ➡️ Подробнее читайте в статье эксперта BISA Константина Саматова, члена Международной ассоциации корпоративной безопасности ICSA. #эксперт_BISA
596
Repost from AI Inside
🛡 Новые угрозы от ИИ-помощников: как защитить систему от «супер-агентов»
Современные ИИ-агенты действительно могут принимать решения и выполнять сложные многошаговые задачи. Но что, если на одном из шагов агент выполнит непроверенный или вредоносный код — и даже не будет осознавать его опасность в момент исполнения?
Предлагаем разобраться с этим вопросом, опираясь на одно из последних технических руководств, где на примере ИИ-агентов рассматривают сценарии и методики их размещения в разных периметрах безопасности.
⚠️ ИИ-агент как источник риска
Проблема зависимостей в ПО существует давно. С приходом ИИ-агентов она обрела новое измерение: любой агент сам становится платформой для исполнения кода. И часто по умолчанию он имеет чрезмерные права доступа к файловой системе, сетям и другим приложениям.
🚫 Код красный — «супер-агенты» вроде Claude Code и OpenClaw
«Супер-агентов» (Claude Code Cowork, MoltCode, OpenClaw) устанавливают в несколько кликов, и они получают широкий доступ «для всех задач». Например, такой агент может создать таймер, собирать новости и отправлять их в мессенджер.
❗️А как же Copilot от Microsoft — он работает по тому же принципу?
Microsoft Copilot изначально работает в ограниченной «песочнице» для разработчиков. Пользовательские же супер-агенты, установленные без контроля, ничем не ограничены и могут превратить рабочую станцию в магнит для уязвимостей.
🛠 Решение — три обязательных правила безопасности
Эксперты и практика уже сформировали базовые меры защиты:
1️⃣Принцип минимальных привилегий
Сознательно ограничивайте права агента в системе. Если ему не нужен доступ в интернет или к определенным папкам — отзовите эти права.
2️⃣Изоляция в контейнерах
Стандартом становится «упаковка» супер-агента в изолированную среду, например, Docker-контейнер. Это предотвратит нежелательное воздействие на основную систему.
3️⃣Внимательное чтение документации
Изучайте разделы по безопасности (например, Security - OpenClaw). Часто там есть критически важные настройки, отключенные по умолчанию.
💎 Вывод
2026 год принесет нам еще больше мощных ИИ-инструментов. Но их мощь будет прямо пропорциональна уровню риска. Безопасность перестает быть опцией — она становится фундаментом для работы с любым автономным агентом.
AI Inside #безопасный_AI
