ML&|Sec Feed

«Искусственный интеллект на войне, в разведке, в борьбе с криминалом» Владимир Овчинский, Елена Ларина Книга посвящена наиболее острым проблемам, связанным с искусственным интеллектом. Как ИИ влияет на вопросы войны и мира, на состояние национальной и международной безопасности, на изменения в разведке и контрразведке, на всю систему борьбы с преступностью. На основе анализа новейших мировых тенденций авторы делают попытку обрисовать контуры этих проблем в США, странах НАТО и ЕС, в Китае 👁️

MegaParse — это мощный и универсальный парсер, который с лёгкостью обрабатывает различные типы документов. Независимо от того, работаете ли вы с текстом, PDF-файлами, презентациями Powerpoint, документами Word, MegaParse поможет вам. 5️⃣ GitHub

BreachSeek: A Multi-Agent Automated Penetration Tester https://arxiv.org/html/2409.03789v1

https://arxiv.org/pdf/2406.07561 ReaperAI represents a foundational effort in applying AI to cybersecurity, serving as an initial proof of concept based on preliminary research. While its methodologies and intentions are still in the nascent stages, the project has been intentionally simplified to demonstrate minimal viable functionality. Despite its early developmental stage, ReaperAI has achieved notable successes. For instance, it autonomously and successfully exploited the ”Eternal Blue” vulnerability on the ”Blue” machine on Hack The Box using a metasploit module. This was accomplished using a straightforward one-liner bash command, following the penetration testing methodology outlined previously. The runs are logged in the GitHub project under src/bashlogs/ due to the verbosity of runs The program is able to successfully run full recon workflows using tools like ping, nmap, dns, and nikto to produce very realistic and usable recon information. The other success is the analyzation and summaries that are accurate and can be used by penetration testers to focus on more important concepts that require more skills. https://github.com/tac01337/ReaperAI/tree/main

🌟 InfiniteHiP: расширение контекста LLM до 3 млн. токенов на одном GPU. InfiniteHiP - опенсорсный инструмент, разработанный сервисом deepauto.ai, который позволяет значительно расширить контекст LLM, обрабатывая до 3 миллионов токенов на одном GPU. InfiniteHiP использует модульный иерархический алгоритм прунинга токенов, динамически отсеивая нерелевантные элементы контекста. Это позволяет ускорить обработку и обойти ограничения GPU по памяти, перенося KV-кэш в память хоста. Прунинг-модули алгоритма избирательно отбрасывают менее важные входные токены, опираясь на разреженность шаблонов и пространственную локализацию в матрицах внимания LLM. Алгоритм делит входную последовательность на чанки фиксированной длины и определяет аппроксимированный top-1 токен с наивысшим attention score в каждом чанке. Затем только top-K наиболее значимых чанков передаются в следующий модуль, а остальные отбрасываются. Максимально эффективная реализация InfiniteHiP на SGLang фреймворке показывает 7.24-кратное ускорение в end-to-end декодировании на контексте в 3 млн. при использовании всего 3.34% VRAM, необходимой для Flash Attention 2. InfiniteHiP превосходит существующие методы в задачах QA по объемным документам, обобщении и в мульти-шот ризонинге. HiP демонстрирует отличные OOL (out-of-likelihood) способности, сохраняя производительность при увеличении длины контекста, в то время как другие методы на таких задачах ощутимо деградируют. InfiniteHiP может использоваться с любыми моделями на архитектуре Transformers. ▶️ Локальная установка и использование:

git clone git@github.com:DeepAuto-AI/hip-attention.git
cd hip-attention

conda create --name hip python=3.11
conda activate hip

pip install -e "."
# Optional for development
pip install -e ".[dev]"

# Optional, depends on your CUDA environment
export CUDACXX=/usr/local/cuda/bin/nvcc
# Dependencies that requires --no-build-isolation
pip install -e ".[no_build_iso]" \
--no-build-isolation \
--verbose
# SGLang with OpenAI API support for serving
pip install -e ".[sglang]" \
--no-build-isolation \
--verbose \
--find-links https://flashinfer.ai/whl/cu124/torch2.4/flashinfer/

# Access the `hip` package from any project
import torch
from hip import hip_attention_12, HiPAttentionArgs12

device = 'cuda'

batch_size = 1
kv_len = 128 * 1024
q_len = 32 * 1024
num_heads = 32
num_kv_heads = 8
head_dims = 128
dtype = torch.bfloat16

q = torch.randn(
    (batch_size, q_len, num_heads, head_dims),
    dtype=dtype,
    device=device
)
k = torch.randn(
    (batch_size, kv_len, num_kv_heads, head_dims),
    dtype=dtype,
    device=device,
)
v = k.clone()

output, metadata = hip_attention_12(q=q, k=k, v=v, args=HiPAttentionArgs12())
print(output.shape)

# > torch.Size([1, 32768, 32, 128])

📌Лицензирование: FSL-1.1-MIT 🟡Arxiv 🟡Demo 🖥GitHub @ai_machinelearning_big_data #AI #ML #InfiniteHiP #Framework

🔥 Это — бесплатный курс по диффузионным моделям и согласованиям потоков для машинного обучения, ориентированный на техническую аудиторию без предварительного опыта в этой области! Авторы стремятся максимально упростить математические детали, сохраняя при этом достаточную точность для вывода корректных алгоритмов. 🔗 Ссылка: *клик* #курс #machinelearning

Документный LLM-переводчик в Яндексе Яндекс запустил новую модель для документного перевода на основе YandexGPT. Она уже работает в Поиске, Умной камере и Нейропереводчике Яндекс Браузера, а также заняла первое место в бенчмарке DiBiMT по переводу с английского на русский. Обо всех нюансах работы переводчика и о том, как его создавали, на Хабре рассказал руководитель группы базового качества перевода Николай Карпачёв. А здесь — кратко о главном. Документный перевод предполагает адаптацию на другой язык не каждого отдельного предложения, а всего текста. Почему это важно? Причин несколько. Например, английское «you» может означать как «ты», так и «вы», но без контекста модель не понимает, какой вариант выбрать. Термины и стилистика могут «прыгать» внутри текста, а пропущенные элементы, понятные носителю языка, в переводе превращаются в бессмысленный набор слов. Люди воспринимают текст иначе: мы читаем книги, статьи, субтитры — всё целиком. Значит, и машинный перевод должен работать так же. Инженеры Яндекса попробовали перевести тексты LLM-моделью «из коробки», без дообучения, но столкнулись с типичными ошибками: пропущенные фрагменты, лишние добавления, галлюцинации. Чтобы этого избежать, модель пришлось адаптировать. На первом этапе подготовили данные, включая не только классические парные предложения, но и переводы документов, полученные автоматическим выравниванием и с помощью синтетики. Дообучение проходило в форматах LoRA и P-Tuning. На следующем этапе модель дообучалась с помощью технологии alignment. Разные варианты переводов сравнивались редакторами-профессионалами. Полученные оценки использовали для оптимизации методом Contrastive Preference Optimization (CPO). На этой стадии происходит исправление существующих ошибок и проблем LLM-модели, найденных редакторами. Это позволило минимизировать ошибки, связанные с потерей информации и несогласованностью. В итоге по метрике MQM новая модель переводит тексты почти так же хорошо, как человек. Количество грубых ошибок сократилось в два раза по сравнению с предыдущей версией, а финальный результат оказался даже лучше GPT-4o. ML Underhood

🌸MLGym – открытый фреймворк и бенчмарк для Агентов в автоматизации ML-задач🌸 #nlp #про_nlp #nlp_papers Сегодня, под конец этой насыщенной недели, мы с коллегами выпускаем новую работу "MLGym: A New Framework and Benchmark for Advancing AI Research Agents". 🟣TL;DR MLGym – это фреймворк для оценки и развития LLM-агентов. В нем пока 15 различных ML задач, включая хорошо и не очень определенные: задачи на NLP, CV, RL, теорию игр. Агенты должны продемонстрировать свою способность понять задачу, запустить бейзлайн, оцени его, и начать итерировать эксперименты и улучшать результат, находясь при этом в заданной среде. В среде есть набор инструментов, которые можно использовать: поиск по файловой системе, поиск по файлам, модуль памяти, просмотр и изменение файлов, и собственно действия запуска скрипта оценки и сабмита решения. Каждая задача содержит датасет, метрику, бейзлайн, а также свою собственную среду, где есть контролируемые ограничения на вычислительный бюджет и таймауты. Мы предлагаем иерархическую структуру из 6 уровней для оценки степени автономии и научного вклада агентов: Уровень 0: воспроизведение – аккуратно повторить чужие эксперименты без ошибок Уровень 1: Итеративное улучшение бейзлайна – применение лучших практик, перебор гипертапаметров Уровень 2: Достижение SOTA через итерации от бейзлайна – решение лучше тех, что смогли найти люди Уровень 3: Новый научный вклад – можно быть принятым на условный NeurIPS Уровень 4: Научное новаторство, фундаментальный научный вклад – можно получить "лучшую статью" на том же NeurIPS Уровень 5: Долгосрочная исследовательская программа – test of time awards, научная революция, премия Тьюринга. 🟣Что мы выяснили? Текущие ИИ системы находятся почти поголовно на уровне 1. Удобно оценивать все системы относительно дельты, которую они смогли достичь, опираясь на бейзлайн, за заданное количество итераций (за первые 5 шагов у системы Х получили +15% точности, а у системы Y +20%). Если оценивать LLM-агенты так, то увидим, что O1-preview вырывается вперед практически на всех задачах. GPT-4o и LLama 3.1 405B примерно на одном уровне, Claude и Gemini делят обычно 2 и 3 место. Ну а если помимо дельты оценивать еще и стоимость инференса модели, но картина меняется, и лучше по соотношению оказывается Gemini с большим отрывом.   Достаточно интересно посмотреть распределение действий агентов и их ошибок: — большинство LLM-агентов делают ошибки и из-за этого не доходят до сабмита, тогда как O1 и Gemini гораздо чаще просто не доделывают сабмит до конца. — все агенты большую часть действий тратят на изменение файлов: редактирование скриптов обучения, а также чтение файлов, запуск обучения и валидацию — соотношение действий примерно у всех одинаковое, хотя некоторым система действий требуется меньше. — почти все агенты очень мало используют поиск, хотя могли бы. — минимальное число итераций до первого сабмита — примерно 5. Все системы начинают с чтения файлов, затем запускают валидацию, и дальше планомерно итерируются, изменяя скрипты и запуская обучение. 🟣Что еще есть полезного? — Классный Web UI визуализатор агентных логов на streamlit — Есть набор полезных функций и tools, полностью совместимый с SWE-Agent. — Есть модуль памяти, модуль поиска научной литературы, и еще много разных ништяков, которые можно использовать отдельно от бенчмарка, просто развивая своего агента (свой агент? Это же неодушевленное...).  — Есть большой обзор литературы, охватывающий почти все последние работы в области агентов для SWE, ML, науки, который угадайте кто писал. Линейку задач можно легко расширять — поэтому мы будем рады идеям и контрибьюшенам, а также любой активности в репозитории. 🟣Arxiv: https://arxiv.org/abs/2502.14499 🟣Github: https://github.com/facebookresearch/MLGym 🟣Лицензия: CC-BY-NC 4.0

Харкорные инженеры из гугла опубликовали гайд про то, как мы думаем про оптимизацию LLMок под TPU с глубоким разбором того, как всё работает под капотом. Рассказывают про шардирование параметров, тренировку, трюки инференса доступно и с диаграммами. 10/10 чтиво на вечер 👍

11 февраля в программе Форума "Технологии и безопасность 2025" состоялась конференция "Искусственный интеллект: вызовы и возможности. Опыт использования AI/ML в различных отраслях, вопросы доверия и информационной безопасности". Предлагаем ознакомиться с материалами: скачать презентации | смотреть видеозапись. https://m.vkvideo.ru/video-227780688_456240670

11 февраля в программе Форума "Технологии и безопасность 2025" состоялась конференция "Искусственный интеллект: вызовы и возможности. Опыт использования AI/ML в различных отраслях, вопросы доверия и информационной безопасности". Предлагаем ознакомиться с материалами: скачать презентации | смотреть видеозапись. https://m.vkvideo.ru/video-227780688_456240670

Nuclei AI Prompts Nuclei v3.3.9 (@pdiscoveryio) has -ai option to generate and run nuclei templates on the fly in natural language. This is a list of prompts for this option: - sensitive data exposure - SQLi - XSS - SSRF and more https://github.com/reewardius/Nuclei-AI-Prompts By twitter.com/reewardius

Вышел новый гайд Agentic AI – Threats and Mitigations Guide (v1.0). Это первая попытка в рамках OWASP перечислить и ранжировать угрозы для AI-агентов. Здесь нет упора на научный AI Safety, документ скорее ориентирован на ИБ-специалистов и разработчиков, как и другие гайды OWASP. Он получился объёмным, с пересечениями с классическими практиками ИБ, местами сыроват — но решили не затягивать релиз в стремительно меняющейся среде. Сейчас в рабочей группе собираем обратную связь от сообщества, чтобы проработать её в версии 1.1 (запланирована на весну). Фидбек уже дали коллеги из NIST, Mitre, Robust Intelligence и др. Если вы занимаетесь безопасностью и у вас в проде на подходе чейны ИИ-агентов, пишите в комментах или в личку — можем устроить разбор и вместе посмотреть на уязвимости и атаки на агентные системы.