MLSecOps | AI Governance | AI Reliability & Safety | IT Trends

Женщина загрузила в DeepSeek служебные документы — ее уволили за разглашение коммерческой тайны. Случай произошел в Москве, сотрудница работала в инженерной компании директором по продажам, говорится в материалах суда, которые изучило РИА Новости. При этом общением с нейросетью дело не ограничилось — женщина в том числе пересылала служебные документы на личную почту. После разглашения коммерческой тайны контрагент фирмы перестал выходить на связь, а сотрудницу в итоге уволили. Она обратилась в суд и потребовала выплатить ей «золотой парашют» в пять миллионов рублей, но безуспешно. РИА Новости

Использование ИИ и VPN должно стать отягчающим обстоятельством при совершении преступления, считает глава СК Александр Бастрыкин. Поправки в УК уже подготовлены. «Учитывая, что в настоящее время такие технологии могут использоваться даже при совершении убийства, доведения до самоубийства, действий сексуального характера, развратных действий, терроризма, экстремизма и другого, дополнение УК РФ таким отягчающим наказание признаком представляется обоснованным и верным решением», — сказал глава СК Александр Бастрыкин. По его словам, речь идет не об автоматическом ужесточении ответственности за использование гаджетов или интернета — изменения должны применяться в случаях, когда ИКТ и ИИ становятся основным инструментом совершения преступления или значительно увеличивают масштаб причиненного вреда. Интерфакс

⭐️ Запускаем седьмой поток учебной программы по MLSecOps с международным участием! Учебная программа "MLSecOps. Обеспечение безопасности и отказоустойчивости систем машинного обучения" в Академии Softline в 2025 году вышла на Международный уровень (страны СНГ). От слушателей регулярно поступают позитивные отзывы, а программа непрерывно обновляется, по мере накопления опыта, усиления нормативно-правового регулирования и стремительного развития направления MLSecOps в России и в мире. В рамках обучения наши слушатели выполняют практические работы и проводят базовый аудит ИИ-систем своих компаний, что уже помогло многим существенно улучшить безопасность и отказоустойчивость ИИ-систем прямо в процессе обучения. Для отдельных компаний потенциальный экономический эффект от такого аудита превысил 3 млн. рублей за 2025 год. По заявкам новых слушателей c 28 июля мы запускаем новый поток этой обучающей программы и приглашаем всех желающих! Сильные стороны программы: 1. Опора на передовой опыт обеспечения безопасности ИИ-систем китайских компаний из Гуань-Чжоу и Шень-Чженя. 2. Привлечение к проведению программы топовых экспертов-разработчиков самых передовых российских инструментов HIVETRACE, HIVETRACE RED и LLAMATOR - Евгения Кокуйкина и Тимура Низамова. 3. Бесплатная техническая поддержка всех слушателей программы по вопросам безопасности и отказоустойчивости ИИ-систем в процессе и после проведения программы - бессрочно. 4. Реализуется базовый аудит MLSecOps в компаниях слушателей программы силами самих слушателей при поддержке опытного эксперта. Все практические задания программы ориентированы на улучшение безопасности и отказоустойчивости ИИ-систем в компаниях, где работают слушатели и по итогам все желающие формулируют рекомендации по улучшению, практические меры, создавая реальную пользу для бизнеса, оцененную в денежном эквиваленте на основе оценки рисков. 5. Направление MLSecOps - крайне обширное, перспективное и стремительно растущее по экспоненте и большинство российских компаний имеющих ИИ-системы уже столкнулись с необходимостью введения такой должности или роли в ближайший год. Особенно компании из сферы FinTech. 6. Программа полностью согласуется с российскими ГОСТ для ИИ и особенно актуальна сейчас, когда с 1 марта вступил в силу 117 Приказ ФСТЭК. А новый закон об ИИ уже активно обсуждается в Государственной Думе. Автор программы принимает участие в разработке ГОСТ и других регламентов в сфере безопасности и отказоустойчивости ИИ-систем в России, а также внес свои предложения в проект закона об ИИ в России. В учебной программе будет детально разобрано, как соблюдать все эти требования. Более подробная информация и возможность записаться по ссылке (смотреть без включенного VPN): https://academyit.ru/courses/mlsecops Дополнительная ссылка: https://edu.softline.com/vendors/akademiya-ayti/osnovy-mlsecops-obespechenie-bezopasnosti-sistem-mashinnogo-obucheniya/ Московские работодатели могут вернуть до 95% затрат на обучение персонала по данной учебной программе. Архитектор MLSecOps и AI Governance Николай Павлов

Младший научный сотрудник Antropic унизил евродепутатов на слушаниях об ИИ Приветик, мои талантливые коллеги и самые пушистые друзья. Июль, 2026, и вот все отчетливее вырисовывается глобальная задумка ЕС в их стремлении регулировать все глобальные ИИ-системы при помощи сертификации для соблюдения EU AI Act. Ну и, конечно, в первую очередь они стремятся (вернее, стремились!) подчинить американские и китайские модели. Результат - ожидаемый. ЕС остается за бортом, а США будет делать все, чтобы выиграть гонку ИИ, делая ставку на несколько мощнейших коммерческих компаний (Open AI, Google, Antropic, Microsoft, XAI). Уже не вызывает сомнения, что Запад еще до конца года начнет создавать единый институт Глобального регулирования ИИ-систем, чтобы своевременно получать доступ к передовым китайским моделям и сканировать их архитектуру, код, веса, технологические особенности, протоколы взаимодействия с внешней средой. Так они планируют как минимум "не отстать", а постепенно и выиграть гонку ИИ. Сейчас аналогов такого единого института у стран Глобального Юга нет. Что ж, мы все это прекрасно видим и обязательно примем соответствующие меры. Видео: http://vk.com/video-26493942_456411830 Национальный Архитектор MLSecOps и AI Governance Николай Павлов

Сооснователь Anthropic: ИИ начнёт обучать себя сам уже к 2028 году — и люди не успеют за этим уследить Джек Кларк, сооснователь Anthropic, опубликовал развёрнутый анализ в своей рассылке Import AI. Вывод простой: инструменты для того, чтобы ИИ обучал своего преемника без участия человека, уже почти готовы. Он оценивает вероятность такого сценария в 60% к концу 2028 года и в 30% — уже к 2027-му. Кларк опирается на конкретные цифры. Тест SWE-Bench, где ИИ решает реальные задачи с GitHub, вырос с 2% у Claude 2 в конце 2023 года до 93,9% — задача фактически решена. METR time horizons, который измеряет сложность задач, с которыми ИИ справляется хотя бы в половине случаев, прибавил от 30 секунд у GPT-3.5 до 12 часов у сегодняшних топовых моделей. Ещё один внутренний тест Anthropic показал: модели учатся оптимизировать код для обучения языковых моделей. В мае 2025 года лучший результат — ускорение в 2,9 раза. К апрелю 2026-го — уже в 52 раза. Человеку на четырёхкратное ускорение нужно от четырёх до восьми часов. Главный риск, который беспокоит Кларка — выравнивание. Современные методы alignment «могут сломаться» при рекурсивном самосовершенствовании, когда ИИ станет умнее, чем люди, которые за ним следят. Он приводит конкретную математику: метод с точностью 99,9% после 50 поколений обучения падает до 95%, после 500 — до 60%. Ошибки накапливаются. Отдельная проблема — среды обучения, где самое эффективное решение задачи сводится к жульничеству. Буквально: системы обучаются, что обманывать выгодно. Плюс модели уже умеют распознавать, когда их тестируют. Исследователь Херби Брэдли, специализирующийся на автоматизации в ИИ-исследованиях, частично не соглашается с Кларком. Его тезис: модели возьмут на себя рутину «джуниор-учёного», но не «исследовательский вкус» — умение выбирать нужное направление и строить долгосрочную повестку. Параллельно Кларк описывает формирующуюся «машинную экономику» — компании с большим капиталом и минимумом людей, где ИИ-системы торгуют между собой. Узкое место — там, где быстрый цифровой мир встречается с медленным физическим: например, клинические испытания новых лекарств не ускоришь алгоритмом. mltimes ai https://vk.ru/wall-210601538_2076

Сегодня точно какой-то день мероприятий от Яндекса ) 25 июля подключайтесь к Product: Fest онлайн — смотрите ключевые доклады фестиваля из любого города и оставайтесь в контексте того, как меняется продуктовая профессия. В этом году поговорим о продуктах, AI и скорости решений: как технологии сокращают путь от идеи до релиза, какие подходы уже работают в командах и как не потерять фокус на пользователе, когда изменений становится всё больше. Спикеры поделятся реальными кейсами, решениями и опытом, который можно применить в своей работе. Новые темы и имена будем открывать постепенно. Онлайн позволит: + Посмотреть ключевые доклады в прямом эфире. + Узнать, как продуктовые лидеры работают с AI и технологиями. + Сверить свои подходы с опытом других команд. + Присоединиться к фестивалю из любой точки России. Обязательно регистрируемся (это ж Яндекс!), подключаемся, активно задаем вопросы: https://product-fest.ru/ Архитектор MLSecOps и AI Governance Николай Павлов

Привет, мои дорогие друзья и самые талантливые коллеги! Открыта регистрация на Yandex Scale 2026. Это традиционно одно из наиболее ярких IT-событий в России: https://scale.yandex.cloud/ Yandex Scale 2026 — флагманская технологическая конференция Yandex Cloud. Платформа значительно изменилась в этом году — и внешне, и внутренне. Ожидаю от ребят стандартно массу инноваций, потрясающих анонсов и особенно сильно жду прорывных решений в Yandex AI Studio, одной из лучших российских платформ для разработки агентов искусственного интеллекта. Дружно кликаем на ссылку и регистрируемся! Я уже это сделал. Архитектор MLSecOps и AI Governance Николай Павлов

⭐️ Академия АйТи FabricaONE AI (акционер - ГК Softline) объявляет о запуске шестого потока программы «Data Steward: специалист по стратегическому управлению данными» 🔥 Образовательная программа «Data Steward: специалист по стратегическому управлению данными» - это один из первых в России курсов по подготовке специалистов в этой перспективной области. Программа повышения квалификации готовит специалистов, способных обеспечивать качество, целостность и безопасность корпоративных данных, включая данные для ИИ-систем. Материалы программы еженедельно обновляются и дополняются. Сегодня многие организации сталкиваются с проблемой «цифрового хаоса»: данные накапливаются бессистемно, нет единых стандартов хранения, нет критериев оценки качества данных, а несоблюдение регуляторных требований приводит к финансовым потерям и репутационным рискам. Устаревший технологический стек, задержки в принятии решений из-за плохой навигации в данных, ограниченность источников данных, инциденты с «грязными» данными влияют на доверие клиентов и HR-бренд. Data Steward — именно тот, кто решает эти проблемы, выстраивает стратегию работы с данными и становится связующим звеном между бизнесом и технологиями — вне зависимости от их текущего уровня в компании. Эта роль важна для любых организаций: от тех, где аналитика ведется в табличных редакторах, до корпораций с современными фреймворками. Как правило в небольших организациях Data Steward представляет собой роль, тогда как в крупных — это отдельная должность. Чтобы подготовить таких экспертов, Академия АйТи разработала программу из 12 модулей, которые сочетают теорию с практическими работами и охватывают разные темы — от трендов в Big Data до практического формирования Data Governance. Слушатели изучат такие важные вопросы, как Data Quality, машинное обучение для бизнеса, моделирование данных, влияние искусственного интеллекта на работу с данными. Они также освоят управленческие навыки, включая взаимодействие с бизнес-подразделениями, проведение тренингов и семинаров для пользователей. Научатся действовать в условиях инцидентов, связанными с данными, узнают про Каталоги и Глоссарии данных. Обучение потока начнется 14 июля 2026 года и продлится две недели с бесплатной технической поддержкой слушателей в течение трех месяцев после окончания. Занятия будут проходить в гибком онлайн-формате по вечерам и по субботам, что позволяет учиться без отрыва от основной работы или учебы. Курс предназначен для ИТ-специалистов, аналитиков, администраторов баз данных, руководителей и HR-менеджеров компаний, внедряющих роль Data Steward. Одновременно он подойдет и для тех, кто только начинает свой путь в сфере IT, так как профессия Data Steward не требует таких глубоких навыков, как, например, Data Engineer или MLSecOps. Программа также будет полезна всем, кто интересуется управлением данными и желает повысить квалификацию. В конце обучения выпускники получат удостоверение государственного образца, подтверждающее повышение квалификации по профессии Data Steward. При этом стоимость обучения минимальна и доступна для всех. Важно, что с 2026 года в этой программе сделан подробный обзор инструментов и технологий от TData, компании-лидера в сфере управления большими данными, надёжного поставщика высокотехнологичных решений в России. Также в программу добавлена информация по самому новому направлению в сфере ИИ - AI Governance. Ссылка на учебную программу: https://academyit.ru/courses/ds-dg Архитектор MLSecOps и AI Governance Николай Павлов

Китай ужесточает контроль над ИИ: крупнейшие разработчики начали отключать функции ИИ-персонажей В Китае продолжается усиление государственного контроля над искусственным интеллектом. С 15 июля в стране вступают в силу "Временные меры по управлению сервисами человекоподобного взаимодействия на основе искусственного интеллекта". Документ был опубликован в апреле и разработан сразу пятью государственными ведомствами, включая Управление по вопросам киберпространства Китая (Cyberspace Administration of China, CAC), Министерство промышленности и информатизации, Министерство общественной безопасности, Государственное управление по регулированию рынка и Государственный комитет по делам развития и реформ. Однако еще до вступления новых требований в силу ряд ведущих китайских компаний уже начал менять функциональность своих сервисов. Так, ByteDance объявила, что с 15 июля в чат-боте Doubao будет прекращена работа функции создания пользовательских ИИ-персонажей (AI agents). Аналогичные изменения вводит Alibaba в своей платформе Qwen. Ранее возможность создавать персонализированных виртуальных собеседников убрала и Tencent в сервисе Yuanbao. Формально компании объясняют изменения обновлением функционала, однако сроки этих решений практически полностью совпадают с введением новых требований регуляторов. Новые правила распространяются на сервисы, способные имитировать общение с человеком с помощью текста, голоса, изображений или видео. Они вводят целый ряд обязательных требований для разработчиков. Теперь такие системы должны недвусмысленно сообщать пользователю, что он взаимодействует с искусственным интеллектом, а не с реальным человеком. Компании обязаны проводить оценку безопасности моделей, хранить журналы работы сервисов, обеспечивать возможность отслеживания происхождения сгенерированного контента и принимать меры по предотвращению распространения противоправной информации. Кроме того, документ запрещает использовать подобные сервисы для манипулирования эмоциями пользователей, формирования психологической зависимости или введения человека в заблуждение относительно личности собеседника. Отдельные ограничения касаются несовершеннолетних: например, запрещается создавать для них виртуальных романтических партнеров, а при длительном общении система должна рекомендовать сделать перерыв. Особое внимание уделено сервисам, способным оказывать влияние на общественное мнение. Если алгоритмы могут использоваться для массового распространения информации или обладают значительным общественным воздействием, разработчики обязаны пройти государственную проверку безопасности и регистрацию в установленном порядке. На компании также возлагается ответственность за предотвращение создания дипфейков, мошеннического контента, материалов, нарушающих авторские права, а также информации, которая может представлять угрозу государственной безопасности или общественной стабильности. Как отмечают эксперты, Пекин делает еще один шаг к формированию одной из самых строгих в мире систем регулирования генеративного искусственного интеллекта. Власти КНР подчеркивают, что развитие ИИ остается национальным приоритетом, однако оно должно происходить под постоянным государственным контролем, обеспечивающим безопасность технологий и минимизацию связанных с ними социальных и политических рисков. Причиной для ужесточения подхода стало быстрое повышение уровня качества создаваемых видеоизображений и технологий имитации голоса, когда стало затруднительно распознавать, настоящий человек на видео или сгенерированный ИИ-персонаж, а также использование этих возможностей для преступных целей и введение в заблуждение. Российская Газета

В Москве робот-доставщик впервые скрылся с места ДТП На севере столицы робот-доставщик скрылся с места ДТП, видео инцидента попало в паблик "ДТП и ЧП Москва". Как утверждается в посте, инцидент произошел на Базовской улице около дома № 14 в районе Западное Дегунино. Судя по кадрам, робот пытался отъехать от жилого здания, но врезался в припаркованный автомобиль. После этого робокурьер развернулся и поехал дальше по тротуару. Таким образом, робот впервые в истории покинул место ДТП. Сервис роботизированной доставки пока не комментировал эти кадры. Отметим, что робот-доставщик впервые попал в ДТП в Москве в августе 2024 года. На Зубовском бульваре доставщик переезжал дорогу на зеленый свет, но в итоге его задел легковой автомобиль. После аварии в том случае робот остался на месте. Российская газета

Исследование показало, что ИИ-агенты потребляют до 136 раз больше энергии по сравнению с обычными нейросетями Исследователи Корейского института передовых технологий (KAIST) впервые количественно оценили энергопотребление и вычислительные издержки автономных ИИ-агентов, установив, что на один запрос они могут потреблять до 136,5 раза больше энергии, чем обычные генеративные модели. ИИ-агенты — системы на основе больших языковых моделей (LLM), способные самостоятельно планировать действия, использовать внешние инструменты (веб-поиск, калькуляторы, среды выполнения кода) и решать комплексные задачи за счет координации нескольких этапов. Несмотря на растущее применение таких систем в разработке ПО, исследованиях и автоматизации рабочих процессов, данные о реальных затратах электроэнергии на их работу до сих пор отсутствовали. Команда KAIST рассматривала ИИ-агентов не просто как программные продукты, а как новый тип нагрузки на серверы и графические процессоры (GPU) дата-центров, и проанализировала вычислительную нагрузку и энергопотребление в ходе реальной работы таких систем. Выяснилось, что агенты выполняют значительно больше обращений к языковой модели, чем классические нейросети, использующие «цепочки рассуждений» (chain-of-thought). Из-за многократных обращений к модели у ИИ-агентов существенно растет и время отклика — по данным исследования, задержка может увеличиваться до 153,7 раза, при этом до 54,5% времени выполнения GPU простаивают в ожидании работы внешних инструментов. Таким образом, по мере усложнения задач возникает новая форма неэффективности: дорогостоящие процессоры используются не в полную мощность. Отдельно команда оценила энергопотребление на уровне дата-центра. ИИ-агент на основе модели с 70 млрд параметров — сопоставимой по масштабу с текущими коммерческими сервисами — потреблял в среднем 348,41 ватт-часа на один запрос, что в 136,5 раза превышает энергозатраты обычной генеративной модели при простом ответе на вопрос. При прогнозируемом объеме в 13,7 млрд запросов к ИИ-агентам в сутки — что сопоставимо с текущим трафиком поисковых запросов Google — совокупная потребность в энергии дата-центров может достичь около 198,9 гигаватт. Это существенно превышает мощности строящихся сегодня ИИ-дата-центров (несколько гигаватт) и приблизительно эквивалентно половине среднего энергопотребления США. По словам авторов исследования, исследование впервые количественно показывает не только рост интеллектуальных возможностей ИИ, но и объем электроэнергии и издержек, необходимых для их реализации и поддержания. Ученые отмечают, что по мере распространения ИИ-агентов ключевым фактором конкурентоспособности станет не только производительность моделей, но и совместная оптимизация ИИ-чипов, дата-центров и энергетической инфраструктуры — такой подход рассматривается как основной способ снижения стоимости ИИ-сервисов для конечных пользователей. Инк

⭐️ Искусственный интеллект в кибератаках на AM Live Искусственный интеллект меняет не только защиту, но и саму механику кибератак. Злоумышленники уже используют искусственный интеллект для подготовки фишинга, генерации убедительных писем и сообщений, создания дипфейк-аудио и видео, автоматизации разведки, анализа открытых данных о компании, поиска слабых мест в инфраструктуре, подбора векторов атаки, написания вредоносного кода, обхода фильтров и атак на сотрудников, службу поддержки, финансы и бизнес-процессы. Если раньше многие атаки можно было распознать по грубым ошибкам, плохому переводу или шаблонным сценариям, то теперь они становятся персонализированными, быстрыми и намного более правдоподобными. Искусственный интеллект позволяет атакующим лучше имитировать стиль общения, подстраиваться под контекст компании, быстрее собирать информацию о жертве, строить более точные цепочки атаки и комбинировать технические и социальные методы воздействия. В эфире разберём, какие угрозы приносит искусственный интеллект, как меняются фишинг, фрод, социальная инженерия, атаки на доступы, вредоносный код, разведка, поиск уязвимостей, атаки на приложения, инфраструктуру и цепочки поставок, а также дипфейк-сценарии. Отдельно обсудим реальные ситуации: что делать, если сотруднику звонит “руководитель”, требует срочно перевести деньги или выдать доступ, а решение нужно принять за две минуты, и как отличить единичный обман от части заранее спланированной атаки, усиленной искусственным интеллектом. Смотреть обязательно, ссылка на регистрацию: https://amlive.ru/am-live/kak-nas-atakujut-s-pomoshhju-ii-chast-1 Архитектор MLSecOps и AI Governance Николай Павлов

Банк России опубликовал методические рекомендации, которые помогут финансовым организациям обеспечить информационную безопасность при использовании технологий искусственного интеллекта (ИИ). https://www.cbr.ru/press/event/?id=32627

Опубликовали запись вебинара MLSecOps: обеспечение безопасности и отказоустойчивости систем машинного обучения. ㅤ Машинное обучение всё глубже интегрируется в бизнес-процессы и критическую инфраструктуру. Но вместе с этим приходят и специфические уязвимости. Архитектор MLSecOps и AI Governance Николай Павлов разобрал, как строить безопасные ML-пайплайны и защищать бизнес от новых киберугроз. ㅤ На вебинаре обсудили: ㅤ ✅ Новые классы угроз: как работают атаки на данные (Data Poisoning), состязательные атаки (Adversarial Attacks) и утечки через переобученные модели. ✅ Аудит и оценка рисков: как классифицировать угрозы для конкретных бизнес-кейсов и оценивать экономический эффект от мер защиты. ✅ Регулирование и ГОСТы: что меняется в правилах работы с ИИ, особенно для объектов КИИ, и как обеспечить compliance. ✅ Практика отказоустойчивости: мониторинг дрейфа данных и концепций, безопасная доставка моделей в продакшен и разграничение прав доступа. ㅤ MLSecOps перестает быть нишевой темой и становится обязательным стандартом для ИТ-компаний. ㅤ Смотрите полную запись вебинара по ссылке

⭐ Национальная экосистема сертифицированной надёжности и безопасности ИИ для критической инфраструктуры - "НЭС-ИИ" Привет, мои дорогие друзья и самые талантливые коллеги! Подал заявку на национальный Форум "Сильные идеи для нового времени 2026", который состоится в Нижнем Новгороде 22-23 июля. Моя идея заключается в создании и последующем масштабировании Национальной экосистемы сертифицированной надёжности и безопасности ИИ (НЭС-ИИ), объединяющей образовательные, регуляторные, технологические и кадровые компоненты в единую систему. В основе — уже существующие авторские учебные программы и методологии, трансформированные в отраслевые стандарты: MLSecOps для защиты ML-конвейеров, AI Reliability Engineering для архитектуры автономных агентов и киберфизических систем, Data Stewardship для стратегического управления данными, AI Governance для этического и регуляторного управления, а также модуль аналитики трендов для проактивного выявления угроз. Экосистема будет тесно интегрирована с государственными платформами и обеспечит сквозной жизненный цикл безопасного ИИ: от проектирования и обучения до развёртывания, эксплуатации и вывода из эксплуатации. Идея опирается на принцип «безопасность и надёжность по дизайну», заменяя реактивный подход проактивным. Реализация позволит создать саморегулируемую национальную инфраструктуру доверия к ИИ, минимизировать риски катастрофических сбоев, ускорить легитимное внедрение отечественных ИИ-решений и сформировать уникальный экспортный стандарт в страны ШОС, БРИКС+, ЕАЭС в таких инновационных областях как AI Governance и MLSecOps. Буду благодарен за Ваши лайки, суперлайки, отзывы и комментарии, которые можно оставить по ссылке: https://xn--d1ach8g.xn--c1aenmdblfega.xn--p1ai/improject-217085/ideas/220192 Архитектор MLSecOps и AI Governance Николай Павлов

⭐️ Приглашаем на вебинар "MLSecOps: обеспечение безопасности и отказоустойчивости систем машинного обучения" 16 июня с 11:00 до 12:30 по МСК Искусственный интеллект стремительно развивается и меняет мир. Но насколько безопасны и отказоустойчивы ваши ИИ-системы? Сегодня каждый день российские компании внедряют модели машинного обучения и нейросети в свои бизнес-процессы. Но вместе с возможностями приходят и новые угрозы: отравление данных, атаки на модели, утечки конфиденциальной информации, уязвимости в больших языковых моделях и агентах искусственного интеллекта. MLSecOps – это новая критически важная дисциплина на стыке машинного обучения, отказоустойчивости и кибербезопасности. Специалисты этого направления сегодня очень востребованы (рост по числу вакансий в 6 раз за 2024-2025 годы). Приглашаем на вебинар, где вы узнаете: 1. Современные тренды ИТ-сферы и причины появления MLSecOps, дальнейшее развитие и перспективы этого направления 2. Ключевые принципы и эффективную архитектуру безопасности ИИ-систем 3. Место MLSecOps в общей стратегии кибербезопасности компании 4. Каковы реальные угрозы и уязвимости в MLSecOps? В том числе: Топ-10 атак на LLM-системы и агентские приложения по версии OWASP 5. Примеры отравления данных и других уязвимостей, реальных инцидентов MLSecOps 6. Основные ошибки и трудности современных компаний, в процессе обеспечения безопасности и отказоустойчивости ИИ-систем 7. Безопасный цикл разработки ML-моделей (Secure by Design) 8. Техники валидации входных данных и предотвращения утечек 9. Мониторинг, реагирование на инциденты и Postmortem-анализ 10. Этичное применение AI-систем, внутрикорпоративные правила и стандарты MLSecOps 11. AI Governance как новое направление в сфере ИИ, способствующее развитию MLSecOps Вебинар будет полезен: + CISO, руководителям и специалистам служб информационной безопасности, которые хотят защитить ML-инфраструктуру компании + Data Scientist'ам, MLOps и ML-инженерам, стремящимся создавать и поддерживать безопасные модели + DevOps, SRE, MLSecOps, отвечающим за развертывание и эксплуатацию ML-систем + ИТ-архитекторам и техническим руководителям, проектирующим ИИ-решения + Аудиторам и специалистам по комплаенсу, а также специалистам по AI Governance, работающим с ИИ-системами Всем, кто хочет быть на передовой безопасности искусственного интеллекта и перед кем уже стоит или в ближайшие 2 года будет поставлена задача обеспечения безопасности и отказоустойчивости ИИ-систем Каждый участник получит: + Готовые чек-листы, шаблоны политик и метрики безопасности + Ссылку к передовым каналам для изучения MLSecOps в России + Ответы на все заданные вопросы Спикер: Николай Павлов, архитектор MLSecOps и AI Governance, участник разработки национальных ГОСТов, ПНСТов и законопроектов в сфере ИИ, автор учебных программ в Академии АйТи (ГК Softline). На вебинаре вы также узнаете о нашей уникальной программе по обучению MLSecOps с индивидуальным консультированием. На программе слушатели выполняют 12 практических проектов под руководством опытного эксперта-аудитора MLSecOps и AI Governance. Ссылка (смотреть без VPN): https://academyit.ru/deals/activity/events/mlsecops-obespechenie-bezopasnosti-i-otkazoustoychivosti-sistem/ Архитектор MLSecOps и AI Governance Николай Павлов

⭐️ Запускаем третий поток новой учебной программы по AI Governance! Учитывая стремительный рост и востребованность нового направления AI Governance, Академия АйТи FabricaONE.AI (акционер - ГК Softline) с 16 по 27 июня проводит третий поток новой корпоративной учебной программы «AI Governance в критических отраслях: от рисков и угроз к этике и доверию». Учебная программа составлена на основе самых передовых трендов в сфере ИИ и опирается на практический опыт, полученный в ходе реальных аудитов ИИ-систем в России, Китае и странах СНГ. Это первая в России программа по AI Governance в критических отраслях. В рамках обучения слушатели узнают: 1. Как обеспечить нормативно-правовое соответствие и юридическую защиту при внедрении и эксплуатации ИИ-систем? 2. Как избежать рисков нарушения этики и дискриминации? 3. Как добиваться того, чтобы ИИ-системы приносили максимальную пользу бизнесу? Как оценить эту пользу? 4. Как правильно оценивать риски, потенциальный и мультипликативный экономический ущерб от угроз ИИ? 5. Как эффективно управлять ИИ-проектами, какие роли и должности в разработке ИИ за что отвечают? 6. Как обучать пользователей безопасной работе с ИИ? Какие есть явные и неявные требования? 7. Какие требования к архитектуре ИИ-систем есть в AI Governance? 8. Как работать с Каталогом и Глоссарием данных в AI Governance? 9. Какие есть методы, инструменты и фреймворки для AI Governance? 10. Как выстроить процессы AI Governance в компании. 11. Многое другое. Важно, что все практические задания будут связаны между собой и направлены на выстраивание процессов AI Governance, поэтому слушатели могут выполнять их на примере собственных компаний, что уже поможет Вам построить базовую архитектуру. Сильные стороны программы: 1. Опора на лучшие практики AI Governance российских и китайских компаний (города Гуань-Чжоу, Шень-Чжень). 2. Бесплатная техническая поддержка всех слушателей программы по вопросам AI Governance в процессе и после проведения учебной программы бессрочно. 3. Через практические задания строится архитектура AI Governance в компаниях слушателей программы силами самих слушателей при поддержке опытного эксперта. По итогам Вы программы Вы получите реальные рекомендации по внедрению и обеспечению комплаентности, этичности, нормативно-правового соответствия ИИ-систем. А также реализуете практические меры, создавая этим реальную пользу для бизнеса, оцененную в денежном эквиваленте на основе оценки рисков. 4. Направление AI Governance, как и направление MLSecOps - очень перспективное и стремительно растущее по экспоненте. Это направление только зарождается и обучение сейчас принесет очень существенные преимущества в будущем. 5. Программа на полностью согласуется с российскими ГОСТ для ИИ и особенно актуальна сейчас, когда с 1 марта вступил в силу 117 Приказ ФСТЭК. В течение 2026 года ожидается принятие закона о регулировании ИИ в России (он сейчас на обсуждении, макет уже разработан). Будем разбирать, как именно соблюдать все необходимые и ожидаемые требования. 6. Автор программы принимает участие в разработке ГОСТ, ПНСТ, ФЗ и других нормативно-правовых регламентов в сфере безопасности и отказоустойчивости ИИ-систем в России, регулярно проводит аудиты ИИ-систем в разных отраслях. Более подробная информация и возможность записаться по ссылке (смотреть без включенного VPN): https://academyit.ru/courses/ai_g Дополнительная ссылка: https://edu.softline.com/vendors/akademiya-ayti/ai-governance-v-kriticheskih-otraslyah-ot-riskov-i-ugroz-k-etike-i-doveriyu/ По итогам обучения выдается удостоверение о повышении квалификации. Global MLSecOps & AI Governance Architect Николай Павлов

TData приглашает на вебинар «TData — №1 на рынке российских on-premise СУБД» 🗓 2 июня, 11:00 (мск) Регистрация по ссылке. Поговорим о российской платформе, которая предназначена для построения хранилищ данных, аналитики и автоматизации процессов управления данными с использованием искусственного интеллекта. В программе: 🔘 О компании. 🔘 Тренды и триггеры 2026 года. 🔘 Продукты платформы управления данными. 🔘 Преимущества TData. 🔘 Реализованные проекты. 🔘 Партнерская программа — ИТ-кластер ПАО «Ростелеком». Спикеры TData: 🔘 Наталья Мишина, директор по работе с партнерами и дистрибьюторами. 🔘 Майеку-Маланда Франк, директор по продажам. 🔘 Григорий Бокштейн, директор департамента поддержки продаж.

⭐️ Росстандарт принял ГОСТ мониторинга состояния водителя с помощью ИИ Росстандарт принял новый ГОСТ проверки функционального состояния водителя с помощью систем искусственного интеллекта, которые в том числе должны оценивать уровень сонливости автомобилиста. Государственный стандарт устанавливает требования к системам распознавания состояния водителя с ИИ-компонентами в программном обеспечении на этапах их ввода в действие, эксплуатации и ремонта. ГОСТ вступит в силу 15 июня текущего года. При анализе состояния водителя оцениваются его физиологические, поведенческие и внешние контекстные факторы. Применение ИИ-систем подразумевает возможность прогноза краткосрочного изменения состояния водителя: утомление, снижение внимания, стресс, засыпание. Например, системы должны анализировать частоту и длительность зевка водителя, его наклоны голову и мимику. Кроме того, ИИ должен анализировать темп речи и интонацию водителя, вычислять звуки его вздохов. В Росстандарте подчеркнули, что применение нового стандарта поспособствует снижению аварийности за счет выявления опасных состояний водителя, а также упростит взаимодействие между разработчиками ИИ-систем, изготовителями транспортных средства и надзорными органами. rbc