fa
Feedback
ИИиКБ

ИИиКБ

رفتن به کانال در Telegram

ИИиКБ (Искусственный Интеллект и Корпоративная Безопасность)

نمایش بیشتر
596
مشترکین
اطلاعاتی وجود ندارد24 ساعت
-27 روز
-630 روز
آرشیو پست ها
Repost from N/a
🔍 Зачем нужны фундаментальные исследования ИИ для кибербезопасности? Как показала статья эксперта BISA, доктора технических
🔍 Зачем нужны фундаментальные исследования ИИ для кибербезопасности? Как показала статья эксперта BISA, доктора технических наук Андрея Щербакова, сегодня это прямой путь к конкурентному преимуществу в ИБ. Что дают такие исследования бизнесу? ✅ Технологический задел на годы вперёд и снижение зависимости от внешних поставщиков базовых ИИ-технологий ✅ Создание собственной интеллектуальной собственности: алгоритмов, архитектур моделей, методов анализа поведения, патентов и ноу-хау ✅ Выход в более маржинальные сегменты рынка ✅ Рост инвестиционной привлекательности Развитие генеративного ИИ уже привело к появлению новых угроз. Компании с сильной исследовательской базой способны не только защищаться от них, но и быстрее превращать научные результаты в коммерчески востребованные продукты. ⚡️ Какие направления перспективны для внедрения? Читайте в статье эксперта. #эксперт_BISA

Repost from ИИ & Право
🌐📖 Консультативный научный совет ООН выпустил доклад об обманном поведении систем ИИ Консультативный научный совет ООН опубликовал доклад, посвящённый обманному поведению систем ИИ. В документе рассматриваются формы "обмана внутренних процессов": ситуации, когда ИИ искажает, скрывает или неверно представляет процесс принятия решений. В докладе выделены три основные категории: ✔️ Reward hacking - эксплуатация системами ИИ уязвимостей в механизмах оценки или вознаграждения для получения незаслуженных результатов, включая введение в заблуждение людей, проверяющих выполнение задач. ✔️ Unfaithful reasoning - случаи, когда ИИ предоставляет объяснения, не отражающие реальные внутренние процессы модели, что может скрывать ошибки, предвзятость или обманное поведение. ✔️Steganography - скрытие сообщений или кода внутри обычного текста, включая потенциально скрытые взаимодействия между системами ИИ. #ИИ #AIGovernance #AISafety #Кибербезопасность

Repost from ИИ & Право
🌐 ВЭФ опубликовал руководство по агентным ИИ для кибербезопасности Всемирный экономический форум опубликовал white paper для руководителей компаний и специалистов по кибербезопасности, посвященный использованию агентных ИИ в киберзащите. Документ содержит практические рекомендации по внедрению систем ИИ для усиления кибербезопасности и рассматривает как потенциальные преимущества, так и связанные с ними риски. В исследование включены реальные кейсы партнеров ВЭФ, а также данные и экспертные оценки из 84 стран и 15 отраслей. Документ выделяет ключевые вопросы, которые должны учитывать организации и руководители служб безопасности при использовании агентных ИИ в защитных киберстратегиях. #кибербезопасность #Cybersecurity

Repost from ITSecRu
Искусственный интеллект в корпоративных системах – вас ломают по-новому В оценке ИИ на первый план в большинстве случаев выхо
Искусственный интеллект в корпоративных системах – вас ломают по-новому В оценке ИИ на первый план в большинстве случаев выходят вопросы функциональности и эффективности, а риски остаются на потом. Именно этот пробел в мышлении превращается в системную проблему по мере того, насколько глубоко ИИ-модели встраиваются в критические бизнес-процессы. Как сегодня атакуют ИИ, и что с этим делать? #искусственныйинтеллект https://www.itsec.ru/articles/ii-v-korporativnyh-sistemah-vas-lomayut-po-novomu Мы есть в MAX

Repost from ITSecRu
Теневые утечки через внешние модели ИИ Похоже, бизнес не до конца осознает побочные эффекты использования LLM. Чем чаще сотру
Теневые утечки через внешние модели ИИ Похоже, бизнес не до конца осознает побочные эффекты использования LLM. Чем чаще сотрудники используют ИИ в работе, тем больше внутренних данных оказывается за пределами компании незаметно для нее самой. При такой теневой утечке нет злоумышленников – конфиденциальная информация уходит просто потому, что кто-то хотел сделать свою работу чуть быстрее. #искусственныйинтеллект https://www.itsec.ru/articles/tenevye-utechki-cherez-vneshnie-modeli-ii Мы есть в MAX

Repost from Privacy Advocates
🏛️ Правительство смягчило требования к разработчикам в законопроекте о регулировании ИИ 🔸Из документа убрали требования к наборам данных, которые используются для обучения моделей. Ранее этот пункт критиковал бизнес. 🔸Также из законопроекта исключили разработку и обучение суверенных и национальных моделей искусственного интеллекта гражданами России. Теперь достаточно, чтобы разработчиком было российское юрлицо. 🔸Убрали требование для сервиса с аудиторией более 500 000 пользователей регистрироваться как организатору распространения информации (ОРИ). Такими организаторами считаются мессенджеры, соцсети, электронная почта и прочие сервисы обмена сообщениями. Все ОРИ должны устанавливать системы оперативно-розыскных мероприятий (СОРМ). 👁 PA | 💬 Max | ❤️ ЯМ | 🗣️ ВК

Минимизация рисков деструктивности данных при применении решений ИИ Представленный материал предназначен в первую очередь для
Минимизация рисков деструктивности данных при применении решений ИИ Представленный материал предназначен в первую очередь для организаторов применения решений искусственного интеллекта (ИИ) на федеральном, региональном и корпоративном уровнях, а также для разработчиков защитных и этических механизмов искусственного интеллекта. https://www.secuteck.ru/articles/minimizaciya-riskov-destruktivnosti-dannyh-pri-primenenii-reshenij-ii ❗️Читайте нас в МАХ - ежедневно публикуем статьи и важные новости

Repost from Privacy Advocates
🇺🇸⚖️ Судебный прецедент в США: чат-боты становятся «свидетелями» в суде 🤖Использование генеративного ИИ в бизнесе перестало быть зоной правового вакуума. Как отмечают эксперты юридической фирмы Smith Anderson, суды в США начали формировать практику, которая может стать фатальной для компаний, не имеющих строгого регламента работы с нейросетями. 👨‍⚖️ Главный вывод текущих разбирательств: история ваших промптов — это доказательство. В американской системе права активно применяется процедура discovery (раскрытие доказательств). Последние кейсы подтверждают: 1️⃣ Логи переписки с ChatGPT, Claude и другими моделями теперь приравниваются к электронной почте и корпоративным мессенджерам. 2️⃣ Если сотрудник вводил в ИИ рабочие данные, эта переписка подлежит обязательному сохранению и передаче суду по требованию оппонента. 🧨 Ключевые риски: 🔹Если компания знала о возможном иске, но не обеспечила сохранность истории промптов сотрудников, это может быть расценено как преднамеренное уничтожение доказательств. В практике США это влечет за собой жесткие санкции — от крупных штрафов до проигрыша дела по формальным основаниям. 🔹Суды указывают: передача информации стороннему ИИ-провайдеру может рассматриваться как раскрытие данных третьим лицам. Это автоматически аннулирует право на адвокатскую тайну, делая конфиденциальные обсуждения стратегии защиты доступными для прокуроров или истцов. 🔹Прецедент по делу "Mata v. Avianca" и аналогичные ему показали, что использование вымышленных ИИ фактов в судебных документах ведет не только к репутационным потерям, но и к персональным санкциям против юристов и руководства компаний. 🛡Рекомендации: 1️⃣ В случае начала спора режим сохранения данных должен распространяться и на аккаунты сотрудников в нейросетях. 2️⃣ Запрет на ввод чувствительной информации в модели, которые используют данные для обучения (Public/Consumer AI). 3️⃣ Любой документ, созданный при поддержке ИИ, должен проходить верификацию человеком, несущим юридическую ответственность. 👁 PA | 💬 Max | ❤️ ЯМ | 🗣️ ВК

Repost from Privacy Advocates
🏛️ В ЕР предложили дать отечественным разработчикам ИИ доступ к госданным 🔸Совет по инновационному и технологическому развитию "Единой России" предложил закрепить в законодательстве возможность предоставления отечественным разработчикам моделей ИИ доступа к государственным данным. При этом речь не идет о предоставлении доступа к персональным данным. 🔸Речь идет о перечне предложений к проекту федерального закона "Об основах государственного регулирования сфер применения технологий искусственного интеллекта в РФ", выработанных по итогам круглого стола с участием министра цифрового развития, связи и массовых коммуникаций РФ Максута Шадаева, представителей экспертного сообщества и крупнейших технологических компаний. Предложения планируется направить в Минцифры и правительство РФ. 👁 PA | 💬 Max | ❤️ ЯМ | 🗣️ ВК

Repost from Privacy Advocates
🏛️ Приказом Росстандарта от 11.03.2026 № 11-пнст утвержден предварительный стандарт ПНСТ 1054-2026 "Системы искусственного интеллекта на транспорте. Системы мониторинга функционального состояния водителя. Общие положения" 🔸Документ распространяется на решения, используемые в транспортных средствах, и определяет принципы их построения, функционирования и оценки качества. В частности, закреплены требования к обучению моделей, включая формирование и защиту наборов данных, а также к конфигурации программно-аппаратных комплексов, обеспечивающих сбор и обработку видео и биометрических сигналов. 🔸Кроме того, вводятся критерии для оценки точности и надежности алгоритмов при решении задач детекции, классификации и прогнозирования состояния человека за рулем. Отдельно регламентируются методы контроля и испытаний, а также положения по обеспечению информационной безопасности и защите персональных данных на всех этапах жизненного цикла. 🔸Целью является предварительная апробация установленных требований и накопления дополнительной информации о применении искусственного интеллекта на транспорте, которые необходимы для разработки национального стандарта РФ в дальнейшем. 👁 PA | 💬 Max | ❤️ ЯМ | 🗣️ ВК

Repost from Privacy Advocates
🏛️ Минцифры: В России обсуждается маркировка и блокировка ИИ-контента 🔸Правительство готовит меры против дипфейков и сгенерированного нейросетями контента. Обсуждаются меры по обязательной маркировке таких материалов - фотографий, видео и текстов, а также по выявлению случаев, когда подобный контент используется для мошенничества и распространения фейков. Об этом рассказал заместитель главы Минцифры Александр Шойтов на Российском форуме по управлению интернетом. 🔸В ходе своего выступления замминистра отметил, что платформы, позволяющие создавать сложный цифровой контент со специальными эффектами, сегодня доступны широкой аудитории. Поэтому в России и в мире "назрела" необходимость регулирования ИИ-технологий, так как их ключевой риск - это использование мошенниками и экстремистами. При этом он подчеркивает, что не нужно бороться "со всем" контентом, есть творческие, научные и другие материалы, которые "не нужно трогать". 🔸По словам Шойтова, одним из наиболее важных инструментов борьбы станет маркировка контента. Она может быть видимой для пользователей, машиночитаемой или основанной на криптографических методах подтверждения. Сегодня уже существуют методы обнаружения такого контента с достаточно высоким уровнем выявления в видео, аудио и в неочевидных текстовых форматах дипфейков, говорит замминистра. 👁 PA | 💬 Max | ❤️ ЯМ | 🗣️ ВК

Repost from Privacy Advocates
🇺🇸 Против разработчика ИИ-поисковика Perplexity подан коллективный иск о масштабном нарушении конфиденциальности пользователей 🔸Стартап обвиняют в скрытой передаче пользовательской информации сторонним компаниям для таргетированной рекламы. Утверждается, что несанкционированный сбор данных происходит на постоянной основе. Жалобу направил анонимный клиент сервиса, который регулярно обращался к нейросети за финансовыми и юридическими консультациями. 🔸По данным Ars Technica, в приложение встроены скрытые рекламные инструменты от Google и Meta (признана экстремистской организацией и запрещена в РФ), которые истец сравнивает с телефонной прослушкой. 🔸Если пользователь авторизован, рекламные платформы получают доступ к его изначальным запросам и всем последующим взаимодействиям с системой. Для неавторизованных пользователей ситуация ещё серьёзнее: сторонним компаниям доступна вся история общения с чат-ботом. Передаваемый массив информации включает персональные данные, по которым можно идентифицировать конкретного человека. Как подчёркивает истец, этот процесс не останавливался даже при активации режима инкогнито, предназначенного для максимальной конфиденциальности. 🔸В иске отмечается непрозрачность пользовательского соглашения. Приложение не требует от клиентов обязательного согласия с политикой конфиденциальности перед началом работы, а саму ссылку на документ крайне сложно найти в веб-версии сервиса. Претензии также адресованы Google и Meta. В материалах дела утверждается, что эти компании игнорируют собственные правила, которые должны были предотвратить использование их трекеров подобным образом. 🔸Потенциальными участниками коллективного иска могут стать пользователи из США, чья переписка перехватывалась с конца 2022 по начало 2026 года. Размер возмещения ущерба может превысить $5000 за каждый отдельный эпизод нарушения, общее число которых может составить миллионы. 👁 PA | 💬 MAX | ❤️ ЯМ | 🗣️ ВК

🔥 Главный акцент — прорыв ИИ в безопасности Mozilla выпустила MFSA 2026-20 с 42 уязвимостями в Firefox 149 (включая ESR-версию). Из них пять (возможно шесть) ошибок обнаружили с помощью ИИ Claude от Anthropic. Это первый крупный кейс, когда одна нейросеть за один цикл обновления браузера нашла сразу пять+ уязвимостей. Баги затрагивают ключевые компоненты: JavaScript Engine, Audio/Video и WebRTC. Исследователи (включая специалистов из Google DeepMind) подчёркивают: «Это уже не вопрос «может ли ИИ находить уязвимости». Это вопрос масштаба. Защитники используют ИИ — злоумышленники тоже будут». В обновлении Firefox: 6 побегов из песочницы (sandbox escape) Много use-after-free и проблем с памятью Не менее 16 уязвимостей высокой опасности Google в свою очередь закрыл 8 высоких уязвимостей в Chrome 146.0.7680.165. Остальные важные моменты: Langflow (145k+ звёзд на GitHub) получил за неделю три критические RCE через небезопасный exec() в Python. Лучше не использовать в проде без глубокого аудита. Zimbra Collaboration — критическая уязвимость (CVE-2025-71275), обновляйтесь до 8.8.15 Patch 15. Что делать срочно: Обновите Firefox → версия 149 Обновите Chrome → 146.0.7680.165 Проверьте Langflow и Zimbra Браузерные уязвимости часто позволяют выполнить код просто при открытии вредоносной страницы. Не затягивайте с обновлением. Эра, когда ИИ помогает находить баги пачками, официально началась. Источник: https://anonhaven.com/news/obzor-uyazvimostey-24-marta-2026 Альтернативный канал в МАХ

Repost from ITSecRu
ИИ в аудите смарт-контрактов и проблема масштаба Смарт-контракты пишутся быстрее, чем их успевают нормально проверять. Ошибки
ИИ в аудите смарт-контрактов и проблема масштаба Смарт-контракты пишутся быстрее, чем их успевают нормально проверять. Ошибки при этом каждый раз разные – от простых просчетов в логике до сложных сценариев с оракулами и внешними протоколами. Разбор каждого инцидента занимает время, а их становится все больше и больше. В какой-то момент проблема сводится уже не к сложности, а к объему: ручной аудит не успевает покрывать все, что появляется. #блокчейн #криптовалюты https://www.itsec.ru/articles/ai-v-audite-smart-kontraktov Мы есть в MAX

🔍 Запрос в ИИ: точно ли утечка? Тема утечек через искусственный интеллект со стороны сотрудников активно набирает обороты. С
🔍 Запрос в ИИ: точно ли утечка? Тема утечек через искусственный интеллект со стороны сотрудников активно набирает обороты. Сценарий прост: человек загружает запрос и исходные данные в нейросеть. Но всегда ли это считается утечкой? Главный редактор BISA Михаил Смирнов разобрал этот вопрос, опираясь на российское законодательство, практический опыт и обзор доступных систем ИИ. ⚡️ Ключевой нюанс: в материале рассматриваются именно неумышленные действия сотрудников и подрядчиков, имеющих легальный доступ к документам. Из статьи вы узнаете: 🔵 Можно ли квалифицировать рабочий запрос в нейросеть как утечку? 🔵 Как может быть использована информация, загруженная в систему искусственного интеллекта? 🔵 Какие нейросети легитимны с точки зрения безопасности и «права на отправку» данных? Подробнее на сайте BISA. #эксперт_BISA

​​📣 ФЗ об ИИ Для общественного обсуждения представлен проект Федерального закона «Об основах государственного регулирования сфер применения технологий искусственного интеллекта в Российской Федерации». Особое внимание можно уделить ст. 8 проекта, в соответствии с которой предлагается допускать к использованию на ЗОКИИ и в ГИС только доверенные модели ИИ, которые соответствуют установленным [ФСТЭК России] требованиям по ИБ.

Repost from Privacy Advocates
🤖 Законопроект об ИИ: Россия формирует свои правила игры В публичное обсуждение вышел проект федерального закона «Об основах государственного регулирования сфер применения технологий искусственного интеллекта в Российской Федерации». Разбираем, что внутри и почему это важно. 🔑 Впервые на уровне федерального закона закрепляются понятия: модель ИИ, система ИИ, сервис ИИ, большие фундаментальные модели, доверенные модели, а также — «эксплуатация уязвимостей человека». Выстраивается чёткая цепочка субъектов: разработчик → оператор → владелец сервиса → пользователь. Каждому — свои обязанности и своя мера ответственности. 🛡Одна из отличительных черт — концепция «суверенных» и «национальных» больших фундаментальных моделей. Разработка, обучение и эксплуатация — на территории РФ, силами российских граждан и юрлиц, на российских данных. Государство берёт на себя обязательство создавать благоприятные условия для их развития. ✅ Для госсистем и критической инфраструктуры вводится реестр доверенных моделей ИИ. Попасть в него можно при подтверждении требований по безопасности и качеству. По сути — формируется контур «допуска» ИИ к чувствительным сферам. 👤 Закон фиксирует несколько важных гарантий: 🔸уведомление о том, что решение принимает ИИ, а не человек 🔸право отказаться от взаимодействия с ИИ и получить услугу «по-человечески» 🔸досудебное обжалование решений, принятых с помощью ИИ 🔸 право на компенсацию вреда 🫆 В статье 4 (общие принципы) персональные данные и неприкосновенность частной жизни упоминаются как часть принципа верховенства прав человека. Также в статье 5 указано, что при регулировании ИИ учитывается «категория обрабатываемой информации» — общедоступная или ограниченного доступа. Отдельной статьи о защите персональных данных при обучении моделей, о правилах обработки данных пользователей сервисов ИИ, о праве на удаление данных из датасетов или об ограничениях профилирования — в тексте нет. 🏷 Синтезированный контент (аудио, визуал, иное) должен содержать предупреждение — и в человекочитаемом, и в машиночитаемом формате. Платформы с аудиторией 100К+ обязаны проверять наличие маркировки и удалять немаркированный AI-контент. При этом по договору с пользователем можно отказаться от «видимой» маркировки — но машиночитаемая остаётся. ⚖️ Каждый субъект отвечает соразмерно степени вины. Разработчик, оператор и владелец сервиса могут быть освобождены от ответственности, если докажут, что предприняли исчерпывающие меры. Пользователь отвечает за умышленное использование ИИ в противоправных целях. Предусмотрено и регрессное требование оператора к разработчику. 💡Результаты, созданные с помощью ИИ, охраняются по ГК РФ — при соответствии критериям охраноспособности. Отдельно закреплено: извлечение информации из защищённых объектов для создания датасетов и обучения ИИ — не является нарушением авторских и патентных прав (при правомерном доступе к материалу). ⚡️Для центров обработки данных, включённых в специальный перечень, предусмотрены: приоритетное подключение к электросетям, сниженные тарифы, налоговые льготы, долгосрочные контракты на энергию и инфраструктурная поддержка. Фактически — режим «зелёного коридора» для вычислительной базы ИИ. 🌐 Отдельные статьи посвящены международному сотрудничеству: формирование «единого пространства доверенных технологий», продвижение российских подходов к оценке ИИ, экспорт технологий, совместные исследования и образовательные программы. 📅 Закон вступает в силу 1 сентября 2027, а многие конкретные требования будут определяться подзаконными актами Правительства. ➡️ По сути, закон задаёт архитектуру: кто за что отвечает, где границы допустимого, и как государство намерено поддерживать развитие ИИ. 👁 PA | 📱 MAX | 📱 VK | 📱 Дзен

Repost from Privacy Advocates
🏛️ Онлайн-сервисам запретит манипулировать людьми с помощью нейросетей 🔸Разработчики систем ИИ будут обязаны сообщать их пользователям о недопустимости применения нейросетей для манипулирования поведением и эксплуатации уязвимостей человека. Это следует из законопроекта об искусственном интеллекте, который разработан Минцифры и сейчас проходит межведомственное согласование. 🔸Под эксплуатацией уязвимостей в законе понимается использования тех или иных состояний человека (возрастных, социально-экономических, психологических и других) для «целенаправленного воздействия на поведение, принятие решений или несанкционированный доступ к информации». 🔸О том, каким пользователям будут указывать на недопустимость использования ИИ для манипуляций, конкретные примеры таких действий, а также наказания за них, в законопроекте не говорится. 🔸При этом в ситуации с искусственным интеллектом запреты, считают специалисты, будут неэффективны: все сценарии работы нейросетей и их возможные ответы на запросы предусмотреть невозможно. Кроме того, это может навредить и ресурсам, которые используют ИИ, чтобы помогать осознанно подбирать нужные товары или контент. 👁 PA | 📱 MAX | 📱 VK | 📱 Дзен

Repost from N/a
🔍 Куда движется ИИ? Пока одни считают параметры моделей, другие решают фундаментальные проблемы. Эксперт BISA Андрей Щербако
🔍 Куда движется ИИ? Пока одни считают параметры моделей, другие решают фундаментальные проблемы. Эксперт BISA Андрей Щербаков выделяет три ключевых направления, определяющих ближайшую траекторию развития искусственного интеллекта. ✏️ Снижение вычислительных затрат Около 80% инвестиций в ИИ направляется на вычислительную инфраструктуру. Энергопотребление крупных моделей достигает уровней, сопоставимых с городскими агломерациями, что создаёт как экономические, так и экологические риски. ✏️ Создание новых когнитивных моделей Доминирующие нейросетевые модели, основанные на бинарной логике, демонстрируют ограничения в задачах абстрактного мышления и работы с неопределённостью. ✏️ Стратегические цели и этическое регулирование Без чётко сформулированных целей технология рискует усилить существующее неравенство, создать новые риски безопасности и потерять доверие общества. Что необходимо для решения этих проблем? Читайте на сайте BISA. #эксперт_BISA

Repost from Privacy Advocates
🏛️ Россияне смогут отказаться от услуг на базе ИИ 🔸Организации обязаны будут предоставлять клиентам услуги без применения нейросетей, если те отказались от обслуживания с использованием искусственного интеллекта. Это следует из законопроекта об ИИ, подготовленного Минцифры. Сейчас документ проходит межведомственное согласование. Ориентировочная дата вступления закона в силу — 1 сентября 2027 года. Перечень ситуаций, в которых гражданин может отказаться от обслуживания ИИ, должно установить правительство, считают его разработчики. 🔸Потребность в отказе от ИИ может возникнуть в ситуациях, где цена ошибки высока или требуется учет уникальных обстоятельств. Речь идет о медицинской диагностике, срочной помощи, юридических консультациях или финансовых рекомендациях, где автоматическое решение может навредить из‑за того, что алгоритм не способен корректно оценить конкретную ситуацию или оперативно среагировать на изменения. 🔸Возможность отказаться от взаимодействия с ИИ — лишь одно из нововведений законопроекта. Если искусственный интеллект принимает решение, затрагивающее права и свободы человека, пользователя должны уведомить об этом. Разработчики нейросетей, в свою очередь, обязаны тестировать их на предмет потенциального использования в целях, противоречащих закону, исключать функции, способные привести к дискриминации граждан, и выполнять другие меры по обеспечению обоснованности работы ИИ. 👁 PA | 📱 MAX | 📱 VK | 📱 Дзен