fsecurity

⚡️ Локальный-ИИ для ПК: MiniCPM5‑2B пишет код и работает с инструментами OpenBMB выпустила небольшую модель для локального запуска. Скачиваешь её, открываешь в LM Studio или Ollama и общаешься через чат. Запросы обрабатывает твой компьютер, платить за каждый ответ через API не нужно. 😀 Для чего она нужна Можно попросить объяснить код, написать скрипт, разобрать текст или ответить на вопросы по документу. Есть режим рассуждений для задач, над которыми модели нужно подумать подольше. MiniCPM5‑2B также поддерживает вызов инструментов. Например, в составе coding-агента она может запросить чтение файла, предложить правку и запуск тестов. 💎 Чем интересна эта модель В ней около 2,5 млрд параметров. Её разрабатывали для устройств с ограниченными ресурсами. При этом она поддерживает контекст до 128 тысяч токенов: в запрос можно передать большой объём текста или кода. Правда, длинный контекст увеличивает расход памяти. По тестам OpenBMB, модель решила 46,4% задач SWE-bench Verified, где нужно исправлять ошибки в настоящих репозиториях. Qwen3.5‑4B в том же сравнении получила 33,6%. Это результаты разработчиков, и преимущество есть не во всех тестах. На более сложном SWE-bench Pro MiniCPM получила 14,4%, а Qwen — 28,2%. 🪄 Как попробовать Для Ollama и LM Studio есть файлы GGUF. Для Mac с чипами Apple — версия MLX, в том числе сжатая до 4 бит. Скорость и расход памяти зависят от выбранной версии и длины запроса. ⚡ Hugging Face: Модель и инструкция ИИнтеллигенция