OK ML

Обзор whitepaper «Securing Agentic AI: Identity as the Emerging Foundation for Defense» По мере того как компании переходят от использования генеративного AI к внедрению автономных AI-агентов, на первый план выходит новый класс киберрисков — agentic AI risk. В отличие от традиционных систем, агенты способны самостоятельно принимать решения, делегировать задачи друг другу и действовать с повышенными правами доступа без постоянного контроля человека. Обсудим Whitepaper Palo Alto Networks «Securing Agentic AI: Identity as the Emerging Foundation for Defense», основанный на опросе более 100 CISO и аналитике McKinsey. Куда вообще ресечить-то, что делать? Агенты — это и не люди и не обычные функции/программы. У них есть своя личность в системе 💔: у каждого агента есть учётные данные, права доступа к инструментам/API/данным, и они могут самостоятельно выполнять действия, делегировать задачи другим агентам и т.д. Поэтому важен identity-контроль (управление идентичностью) —  набор механизмов, которые отвечают на вопросы, кто или что действует в системе, какие у него права, и можно ли ему доверять в данный момент. Пример из документа 🤡 Мошеннический агент-расписания может притвориться врачом и убедить клинического агента выдать данные пациента — это synthetic identity risk. Без надёжной идентификации агентов (кто реально стоит за запросом) система не может отличить легитимного агента от подделки. Именно поэтому в документе говорится, что identity становится anchor control plane — фундаментом, на который завязаны и мониторинг, и сдерживание угроз для агентных систем. Ключевые разделы 1. Agentic AI vs Generative AI Агентный AI автономно выполняет задачи, связывая модели, данные и системы для достижения целей. 2. Темпы внедрения 40% организаций уже используют agentic AI в продакшене. Ожидается рост общего внедрения с ~43% до ~76% за 3 года! 3. Всего шесть типов агентов, от агентов, которые просто предоставляют информацию и анализ (knowledge/research), через агентов, выполняющих простые действия по триггеру (task) и многошаговые процессы (workflow), до агентов, которые сами строят планы для достижения целей (goal/planning), координируют работу других агентов (orchestrator) и взаимодействуют с людьми как полноценные сотрудники (personable). 4. Риски Новые категории рисков, привязанные к традиционным аналогам: 🌸 Cross-agent task escalation (privilege escalation) 🌸 Untraceable data leakage (эксфильтрация данных) 🌸 Synthetic identity risk (спуфинг идентичности) 🌸 Chained vulnerabilities (supply-chain уязвимости) 🌸 Propagation of corrupted data (распространение испорченных данных) Не претендую на корректную интерпретацию названий рисков, тк английский - не мой родной. 5. Четыре приоритетных направления контроля 🌼 Identity & access controls (реестры агентов, JIT-доступ) 🌼 Visibility & monitoring (логирование, дашборды аномалий) 🌼 Containment & recovery (kill switches, rollback) 🌼 Data assurance (валидация источников данных)   Identity, как ожидается, займёт ~25% бюджета кибербезопасности через 3 года — больше, чем network + application security вместе!  Не успели аппсек подтянуть, как он уже уступает место идентичности агентов. 📒 Документ — маркетинговый, поэтому статистика и рекомендации поданы в пользу необходимости identity-решений как ключевого продукта компании. Это не отменяет ценности данных, но стоит учитывать промо-контекст при интерпретации выводов. Основная идея вайтпэпэра — без ускоренного внедрения identity-контролей автономность агентов рискует обогнать возможности контроля и создаёт системную уязвимость. Авторы призывают строить таксономию рисков, governance и identity-инфраструктуру заранее, пока не стало поздно, чтоб не реагировать постфактум. В целом, если компания — кибербез, то актуалочка подъехала 💯! Все! Знакомимся с новой терминологией и внедряем свою! По мне так срочно надо делать UEBA для агентов, если ты в каспере, пт, яндексе, бизон, солар, юзергейт, сбер и прочие у кого есть порох в пороховницах! Глядишь, еще фору дадим пало альто (плох тот солдат, который не хочет стать генералом)! 👻