ML&|Sec Feed

#info #Cyber_Education #Purple_Team_Exercises Linux attack, detection, and live forensics https://github.com/cr0nx/awesome-linux-attack-forensics-purplelabs

Правительство планирует проверять системы, которые реализуют технологию искусственного интеллекта (ИИ), «на наличие угроз безопасности государства и обороны страны», говорится в утвержденном в кабмине паспорте федпроекта «Цифровое госуправление» (есть у “Ъ”), который войдет в нацпроект «Экономика данных». Для этого в 2025–2026 годах планируется провести научно-исследовательскую разработку принципов анализа моделей ИИ, обученных на госданных, а в 2027–2028 годах — создать и внедрить первую версию программы, которая будет анализировать такие модели. В документе говорится, что на это до 2030 года планируется выделить 8,1 млрд руб. из федерального бюджета, а за реализацию мероприятия отвечает ФСБ. Ожидается, что к 2030 году пять систем ИИ получат подтверждение «допустимости безопасного использования». Из паспорта проекта следует, что это необходимо для использования таких систем в экономике данных. https://www.kommersant.ru/doc/7328354?from=top_main_2 by @SitNoff

OWASP Nettacker — автоматизированная среда тестирования на проникновение Сканер уязвимостей с открытым исходным кодом - Управление уязвимостями. 4️⃣ GitHub

🖥 OASIS — проект для моделирования социальных взаимодействий между агентами с использованием крупномасштабных симуляций! 🌟 Он основан на многокомпонентных агентных системах и предназначен для изучения взаимодействий искусственного интеллекта в контексте общества и совместной работы. Проект сосредоточен на использовании больших языковых моделей (LLM) для управления агентами, которые симулируют различные аспекты человеческого поведения, взаимодействия и общения. 🌟 Основные направления применения OASIS включают исследование кооперативного искусственного интеллекта, поведение в симулированных обществах и масштабирование симуляций до миллиона агентов. Репозиторий ориентирован на исследователей и разработчиков, заинтересованных в построении и изучении сложных агентных экосистем на базе LLM! 🔐 Лицензия: Apache-2.0 🖥 Github @data_analysis_ml

Опубликованы национальные стандарты (ГОСТ Р) в области применения ИИ в средствах измерений: 🔸ГОСТ Р 71561-2024 Средства измерений на основе искусственного интеллекта. Состав, структура и области применения. Основные положения 🔸ГОСТ Р 71562-2024 Средства измерений на основе искусственного интеллекта. Метрологическое обеспечение. Общие требования 🔸ГОСТ Р 71688-2024 Искусственный интеллект. Наборы данных для разработки и верификации моделей машинного обучения для косвенного измерения физико-механических свойств объектов аддитивного производства. Общие требования Дата введения в действие этих трёх ГОСТов: 01.01.2025. 🔸Предварительный национальный стандарт ПНСТ 965-2024 Системная и программная инженерия. Тестирование программного обеспечения. Часть 11. Тестирование систем искусственного интеллекта Срок действия: с 01.01.2025 до 01.01.2026. 🔸ПНСТ 961-2024 Системы искусственного интеллекта в здравоохранении. Этические аспекты Срок действия: с 01.01.2025 до 01.01.2028. 🔸ГОСТ Р 71737-2024 Системы искусственного интеллекта в здравоохранении. Применение менеджмента риска к медицинским изделиям. Общие положения Дата введения в действие: 01.01.2025. 🔸ПНСТ 944-2024 Функциональная архитектура систем машинного обучения для обеспечения качества обслуживания в сети IMT-2020 Срок действия: с 01.01.2025 до 01.01.2028. Национальные стандарты в области качества данных для аналитики и машинного обучения: 🔸ГОСТ Р 71484.1-2024 Искусственный интеллект. Качество данных для аналитики и машинного обучения. Часть 1. Обзор, терминология и примеры 🔸ГОСТ Р 71484.3-2024 Искусственный интеллект. Качество данных для аналитики и машинного обучения. Часть 3. Требования и рекомендации по управлению качеством данных Дата введения в действие: 01.01.2025. 👁️

MTS AI идёт в Open Source — компания выпустила открытую нейронку Cotype Nano, которая может обрабатывать до 32 тысяч токенов за раз. Сервис запускается локально на персональных устройствах и суперски подходит для анализа данных, создания контента, перевода и поиска в большом массиве информации — в общем, полноценный бизнес-инструмент на русском. По бенчмаркам Ru Arena Hard модель — лидер в своём классе (30.2). При этом модель совершенно бесплатная. Все технические характеристики — на Хабре.

🔍 Instructor — библиотека для работы с структурированными выходными данными из больших языковых моделей (LLM)! 🌟 Она написана на Python и предоставляет упрощённый интерфейс для управления потоками данных LLM. Она включает функции для валидации данных, обработки ошибок и управления ответами моделей. 🔐 Лицензия: MIT 🖥 Github @data_analysis_ml

BALROG: Benchmarking Agentic LLM and VLM Reasoning On Games https://arxiv.org/abs/2411.13543

Letta — это фреймворк с открытым исходным кодом для создания приложений LLM с сохранением состояния. Вы можете использовать Letta для создания агентов с сохранением состояния с расширенными возможностями рассуждения и прозрачной долговременной памятью. 4️⃣ GitHub

GPTQModel [Репозиторий] GPTQ в настоящий момент является одним из самых популярных методов квантизации весов LLM в ~4 бита как дающий некий хороший баланс между качеством и временем работы. Он выдает стабильно лучшее качество по сравнению с наивным Round-to-Nearest и иными data-free квантизациями, при этом масштабируется сравнительно легко на огромные LLM. Оригинальный репозиторий тестирует сугубо работоспособность метода и не годится для приложений. Значительную популярность (4.5к ⭐ на гитхабе) набрала библиотека AutoGPTQ c а-ля лицехватским 🤗 интерфейсом и поддержкой различных моделей, а так же кернелов а-ля Marlin для эффективного инференса. К сожалению, maintainerы забросили либу, потому самые новые модели через нее квантовать не получится. Ребята из ModelCloud продолжили их дело, создав GPTQModel, куда добавлены Llama-3.2, Qwen-2.5, и другие сравнительно новые модели. Кроме того, авторы обещают более быструю калибровку (до 50%), быстрые замеры перплексии, и немного лучшие по качеству квантизованные модели.