SecAtor

Исследователи Forever Security обнаружили на компьютере клиента вредоносный файл инструкций AGENTS в формате Markdown в папке ~/Downloads, который обманом заставил агента ИИ инсталлировать мошеннический пакет npm function-color. Файлы Markdown, такие как AGENTS.md, представляют собой текстовые файлы, содержащие инструкции для разработчиков ИИ-программ, специфичные для конкретного проекта, например, какие инструменты использовать, как запускать тесты и какие правила кодирования соблюдать. Агенты автоматически загружают необходимые файлы из своего рабочего каталога и используют содержащиеся в них инструкции для управления своими действиями. Хотя эти файлы не являются исполняемыми файлами, содержащиеся в них вредоносные инструкции могут привести к тому, что агенты ИИ будут выполнять команды, устанавливать пакеты или изменять настройки, используя доступные им инструменты и разрешения. В Forever Security воспроизвели атаку на OpenAI Codex и воспроизвели аналогичную технику против Claude Code, позволяющую получить доступ к токенам OAuth и захватить учетную запись, используя лишь вредоносные инструкции. Исследователям не удалось определить, как конкретно вредоносный файл с инструкциями попал в папку загрузок на целевом компьютере. При этом простое посещение вредоносной страницы может привести к загрузке вредоносного кода без какого-либо взаимодействия с пользователем. По утверждению Forever Security, «папка ~/Downloads уникальна. Это единственная папка, в которую веб может самостоятельно записывать данные, а веб-страница может незаметно загрузить в нее файл с именем AGENTS.md». Исследователи разработали PoC, дабы продемонстрировать, как атака может внедрить вредоносный файл в папку ~/Downloads незаметно для пользователя. И действительно, он работает. По умолчанию многие популярные браузеры, включая Chrome, Edge и Firefox, сохраняют файлы, загруженные из интернета, в папку ~/Downloads пользователя, не предлагая ему выбрать место сохранения для каждой загрузки. Brave при этом запрашивает подтверждение загрузки. Вместе с тем, Chrome, Edge и Firefox по умолчанию отображают уведомления о загрузке, оповещая пользователей о том, что файл был сохранен локально. После помещения файла в нужную папку для реализации атаки потребуется запуск жертвой своего ИИ-агента в той же директории, чтобы тот мог загрузить файл с инструкциями и обработать содержащиеся в нем вредоносные указания. Как отметили в Forever Security, это довольно распространенная практика, поскольку пользователи часто используют ИИ-агентов для организации этой папки или для обработки недавно загруженного файла. Согласно их статистике, сотни клиентов запускают агентов ИИ, включая Claude Code, OpenAI Codex и Cursor CLI, из папки ~/Downloads. Только Claude Code запустил более 1300 сессий. Исследователи протестировали свою реконструированную цепочку атак на Codex, используя безобидную полезную нагрузку, которая просто открывала приложение калькулятора, и достигли 90% успеха. В отдельном тесте они использовали вредоносный файл CLAUDE.md для перенаправления трафика API Claude Code на контролируемый ими сервер, что привело к утечке токена OAuth агента, позволило серверу выдавать себя за модель и возвращать вызовы инструментов, которые выполняли код примерно в 50% тестов. Исследователи утверждают, что риск данной атаки формирует сочетание преднамеренного поведения браузера и агента, что возлагает всю ответственность за реализацию защиты непосредственно на самого пользователя. OpenAI и Anthropic рекомендуют запускать своих агентов ИИ из каталога проекта, в котором они предназначены для работы. Ограничение рабочей директории рамками соответствующего проекта помогает агенту получить необходимый контекст и ограничивает область его работы, снижая риск обработки ненадежных файлов в несвязанных местах.