MWS AI

Планируете внедрение генеративного ИИ? Сначала надо пересобрать подход к безопасности 🛡 Традиционный кибербез основан на детерминизме: код с предсказуемым поведением, понятные входы и выходы, сигнатуры и правила, четко очерченный периметр, который надо защищать. Но такой подход не работает, когда дело доходит до промышленного внедрения больших языковых моделей.

⚡️ Контролировать и защищать нужно не только код и доступ к LLM, но и обучающие данные, веса, контекст, промпты, логи, векторные базы и даже историю взаимодействий с пользователями.

⚡️ Приходится иметь дело с новыми классами атак, когда злоумышленник не лезет в систему напрямую, а воздействует на контент, который однажды попадает в модель, и та выполнит вредоносный приказ.

⚡️ Если у LLM есть доступ к инструментам (вызов API, выполнение кода, доступ к базам данных и корпоративным системам), она становится ИИ-агентом — классический «обман доверенного исполнителя» может реализоваться в масштабах всей корпоративной автоматизации.

Чтобы кибербез не стал препятствием на пути корпоративного ИИ, Центр ИИ-трансформации MWS AI и Центр непрерывного образования ФКН НИУ ВШЭ запускают программу повышения квалификации «Стратегия безопасности искусственного интеллекта». Расскажем, как перестроить ИБ так, чтобы ИИ-проекты доходили до промышленного внедрения и приносили бизнес-эффекты, а не риски и убытки. Приглашаем:

🔴 директоров по информационной безопасности 🔴 ИБ-аналитиков 🔴 риск-менеджеров 🔴 ML-инженеров 🔴 архитекторов данных 🔴 юристов по ИИ- и дата-комплаенсу

Старт: 8 сентября Читайте о программе в карточках и регистрируйтесь по ссылке 🗒