Код в мешке

Автофикс проблем прода с ИИ без инженера #habr https://habr.com/ru/companies/slurm/articles/1073952/ Tags: CI-CD, автофикс, DevOps, RAG, PostgreSQL, pgvector, Kubernetes, деплой, Слёрм, time-to-market Author: AlisaLevii (Слёрм)

Для повышения производительности Windows 11 больше не требуется чистая установка ОС #habr https://habr.com/ru/news/1074360/ Tags: smart app control, sac, windows 11, windows, microsoft, безопасность

Как оценивать качество LLM, RAG и AI‑агентов: метрики, тестирование и LLM‑as‑a‑Judge #habr https://habr.com/ru/articles/1074356/ Tags: оценка качества llm, тестирование llm, llm evaluation, ai-агенты, qa, qa automation engineer, llm-as-a-judge, тестирование RAG, метрики LLM, регрессионное тестирование Author: ilyazored

💵 GigaEmbeddings: новая линейка моделей от 480M до MoE-флагмана 10B-A1.8B

Мы обновили всю линейку GigaEmbeddings и выкладываем в open source сразу три модели — 480M, 3B и 10B-A1.8B. Они стали сильнее на английском языке и особенно в задачах с кодом, получили поддержку vLLM и SGLang и подходят для разных требований к качеству и производительности.

Что внутри: 🔘GigaEmbeddings 10B-A1.8B — новый MoE-флагман с 10B общих и всего 1.8B активных параметров; 🔘GigaEmbeddings 3B — универсальная модель с большим приростом на английском языке и в задачах с кодом; 🔘 GigaEmbeddings 480M — компактная модель для высоконагруженного поиска и сценариев, где особенно важны скорость и стоимость инференса; 🔘 Поддержка vLLM и SGLang для быстрого запуска моделей в production. Результаты: 🔘 GigaEmbeddings 10B-A1.8B набирает 74,99 в ruMTEB и занимает первое место в рейтинге; 🔘 Особенно заметно выросло качество на задачах с кодом: новая 3B набирает 76,93 против 62,37 у предыдущего релиза, а на engMTEB занимает 2 место среди моделей своего размера или меньше; 🔘 На vLLM наш MoE-флагман в 1,5 раза быстрее Qwen3 Embedding 4B. Результаты тестирования доступны в открытом рейтинге. Что изменили в обучении: 🔘В несколько раз увеличили объём данных на этапах contrastive pretrain и fine-tuning. 🔘Чтобы сохранить баланс между языками и классами задач, мы использовали мержинг моделей с помощью SLERP на всех этапах обучения. 🔘480M дополнительно обучили через дистилляцию от более сильных моделей: передавали распределения cosine similarity внутри батча с помощью KL divergence.

💡 В результате получилась линейка для разных сценариев: от компактной модели для высоконагруженных систем до MoE-флагмана, который одновременно повышает качество и ускоряет инференс.

В ближайшее время также выложим на GitHub подробный гайд по дообучению наших моделей — расскажем о подходах и инструментах, которые использовали в процессе обучения. ➡️ Hugging Face: 480M | 3B | 10B-A1.8B ➡️ GitVerse: 480M | 3B | 10B-A1.8B

GigaChat Audio и GigaAM Multilingual: новые Open Source модели с поддержкой длинного контекста и языков СНГ 🔥 Полноценные audio-native LLM — пока редкость в опенсорсе, а почти весь прогресс в Speech AI сфокусирован на английском языке и коротких аудио. Качество существующих открытых моделей резко деградирует на low-resource языках и длинных контекстах Мы решили исправить обе проблемы и выкладываем в открытый доступ сразу две большие работы: расширенную версию GigaAM и новую GigaChat Audio с поддержкой длинных контекстов. Ценность обеих моделей и предложенных методов уже подтвердило научное сообщество — наши статьи приняли на главную мировую конференцию по речевым технологиям Interspeech 2026 GigaAM Multilingual Расширение нашей SOTA-модели распознавания речи на казахский, киргизский, узбекский и английский 🔘 Self-supervised Audio Encoder (240M / 600M) — предобучен на 2M часов речи на 70+ языках с фокусом на СНГ. Адаптируется к новым языкам быстрее и дешевле, чем Whisper и Omnilingual: на грузинском и башкирском дообучились с одного Common Voice до Word Error Rate ~4% — против 11%+ у Whisper Encoder 🔘 Multilingual CTC ASR (240M / 600M) — дообучены на 50k часов мультидоменной речи (ru/en/uz/ky/kk). Превосходят Whisper, Seamless и Omnilingual; даже компактная 240M обгоняет Whisper Large v3 и Omnilingual 1B при кратно меньшем размере (средний WER 12.2% против 14%+) 📖 arXiv 🤗 ai-sage/GigaAM-Multilingual 👩‍💻 salute-developers/GigaAM GigaChat Audio Audio-native LLM на базе GigaAM Multilingual и GigaChat3.1-10B-A1.8B. Поддерживает multi-turn диалог, классификацию аудио, перевод и распознавание речи, и temporal grounding — локализацию событий во времени, описание интервала аудио и суммаризацию с временными метками 🔘 Сильнее всего — в понимании времени: на записях 20–60 минут Intersection-over-Union локализации событий 48.3 против ~0 у Voxtral, Phi-4 и Qwen3-Omni. Держит контекст до 2 часов аудио 🔘 Отлично понимает русский: RuBQ-Audio 60.0 (против 43.7 у Qwen3-Omni), распознавание эмоций Dusha 90%+ 🔘 Представляем датасет TimeGround-1M — для обучения LLM привязке событий ко времени 📖 arXiv 🤗 ai-sage/GigaChat3.1-Audio-10B-A1.8B 🤗 ai-sage/TimeGround-1M Попробовать в проде Еще более мощные модели того же семейства доступны в наших сервисах: 🔘Обновленный GigaChat-Max-Audio — пользуйтесь на giga.chat и @gigachat_bot 🔘Распознавание на 5 языках — добавляйте в свои группы @smartspeech_sber_bot для распознавания голосовых Что дальше Проекту GigaAM уже третий год, и мы не перестаем его развивать: за последний квартал добавили таймстемпы для слов, конвертацию и запуск в Triton Inference Server, код дообучения под ваш домен и язык. Теперь выпустили в open-source и модель GigaChat-Audio, и уже обучаем следующий релиз. Следите за нашими обновлениями!

💵 GigaChat 3.5 Ultra: меньше, быстрее, сильнее

Сегодня мы выкладываем в open source GigaChat 3.5 Ultra — новую 432B-модель под MIT-лицензией. Это первый в open source гибрид GatedDeltaNet и MLA, доведённый до сотен миллиардов параметров, — с собственным рецептом обучения, который мы собирали больше чем в 1500 экспериментах. Модель выросла в коде, математике, агентных сценариях и на аренах — и при этом стала на 40% меньше, чем GigaChat 3.1 Ultra.

Что внутри: 🔘Собственная гибридная архитектура MLA + GatedDeltaNet с придуманной нами уникальной стабилизирующей обвязкой, без которой такой гибрид на этом масштабе просто не обучается; 🔘Gated Attention — модель может локально приглушать слишком сильный сигнал из attention-слоя; 🔘GatedNorm — нормализация с явным гейтом для управления масштабом сигнала между признаками. Модернизация этого слоя позволила нам стабильно обучать модели с большим количеством параметров. 🔘Линейный слой требует в 4 раза меньше KV-кеша на токен, в ту же память позволяет поместить в 2,14 раза больше контекста, throughput под нагрузкой растет на +20%; 🔘Две MTP-головы и ускорение генерации до 2,2 раза; 🔘FP8 на всех этапах обучения без потери качества относительно bf16 — свои Triton- и CUDA-ядра; 🔘Новый этап online RL после SFT и DPO. Результаты: 🔘GigaChat-3.5-Ultra-Base обходит DeepSeek V3.2 Exp Base и DeepSeek V4 Flash Base в среднем по нашему набору general-, math- и code-бенчмарков (полные таблицы — в статье); 🔘GigaChat-3.5-Ultra-Instant сравним с DeepSeek V3.2 по среднему скору, будучи в полтора раза меньше; 🔘По LLM-судье MiniMax-M2.7 средний win-rate против GigaChat 3.1 Ultra — 75,9%, а против GPT-5 — 68.7%.

Весь стек — данные (своя LLM-фильтрация Common Crawl, 600+ языков программирования в коде), архитектура, рецепт обучения, инфраструктура — сделан нами end-to-end.

🤖 Подробности, включая детали реализации гейтов и рецепт стабилизации, — в статье на Habr. ➡️HuggingFace | GitVerse

💵Deep Research как управляемый runtime вокруг instruct-модели

«Просто дать LLM доступ к интернету и ждать глубокого исследования — плохая идея».

Это ключевой вывод команды, которая разработала комплексный research-конвейер на основе instruct-модели. Почему обычный подход модель + поиск работает недостаточно эффективно? Потому что модель легко теряет исходные ограничения, смешивает факты с собственными выводами и делает преждевременные заключения. Какие инженерные решения применили? Мы зафиксировали последовательность шагов и роли в исследовательском конвейере, но при этом у LLM осталось достаточно свободы для принятия локальных решений: 🔘Brief: фиксирует исходный запрос и предотвращает его искажения. 🔘Scout: предварительная разведка темы перед детальным планированием. 🔘Needs + DoD: декомпозиция задачи на четкие блоки с проверяемыми критериями завершения. 🔘Локальный ReAct-loop: модель выполняет небольшие интеллектуальные задачи внутри ограниченных рамок. 🔘Промежуточные отчёты и иерархический контекст: поддерживают порядок и актуальность данных. 🔘Цитирование как часть внутреннего состояния: факты постоянно связаны с источниками. 🔘Отдельный пайплайн финального ответа: обеспечивает четкость и качество подачи результатов. Результат: Новый конвейер существенно повысил точность и глубину исследований на модели GigaChat Ultra 3.1 в сравнении с другими моделями, улучшив качество ответов и снижая ошибки.

💡

Успех глубокого исследования — это не только сила модели, но и продуманная оркестрация, контроль и управление контекстом.

➡️Подробности ищите на Habr

💵 Tool calling для GigaChat 3.1 в open-source инструментах Вместе с релизом GigaChat 3.1 Ultra и Lightning мы добавили поддержку tool calling в основные опенсорсные инференс-движки: — vLLM (>=0.18.2rc0) — SGLang (>=0.5.9) — llama.cpp (>=b8457) Для vLLM и SGLang достаточно поднять сервер с --tool-call-parser gigachat3 — после этого работает стандартный /v1/chat/completions с описанием tools. В llama.cpp tool calling поддерживается нативно, без дополнительных аргументов. vLLM

vllm serve ai-sage/GigaChat3.1-10B-A1.8B \
  --port 8000 --dtype auto \
  --enable-auto-tool-choice \
  --tool-call-parser gigachat3

SGLang

python -m sglang.launch_server \
  --model-path ai-sage/GigaChat3.1-10B-A1.8B \
  --host 0.0.0.0 --port 8000 --dtype auto \
  --tool-call-parser gigachat3

llama.cpp Поднимаете сервер с моделью — и всё работает. Пример сборки и запуска — в карточке модели на HuggingFace. После запуска сценарий одинаковый для всех движков: передаёте tools в стандартный /v1/chat/completions. 💡 LM Studio — нативный tool calling не поддерживается. LM Studio ожидает два отдельных спецтокена — начала и конца вызова функции. У GigaChat 3.1 архитектура чат-шаблона устроена иначе: для разметки tool call используется один и тот же токен, поэтому нативно его подключить в LM Studio нельзя. Вместо этого используется вариант использования через system prompt, что влияет на качество. ➡️ Модель: HuggingFace | GGUF

🏃‍♂️ GigaChat 3.1 Ultra & Lightning: большое обновление открытых моделей В ноябре мы открыли preview-версии GigaChat 3 Ultra и Lightning. С тех пор серьёзно доработали и модели, и весь пайплайн — высокие результаты на аренах, улучшенный function calling, решённая проблема циклов, DPO в нативном FP8, найденный и зарепорченный баг в SGLang при dp > 1. Сегодня выпускаем обновлённые GigaChat 3.1 Ultra и GigaChat 3.1 Lightning в опенсорс под MIT лицензией! GigaChat 3.1 Ultra 🔘 702B параметров (36B активных на токен) 🔘 По нашим замерам обходит non-reasoning Qwen3-235B-A22B и DeepSeek-V3-0324 в математике и general reasoning 🔘 Существенный прирост качества по сравнению с ноябрьским preview — как в метриках, так и в реальных диалогах 🔘 Контекст 131K токенов ➡️ GitVerse | HuggingFace GigaChat 3.1 Lightning 🔘 10B параметров (1.8B активных) 🔘 На аренах отвечает на уровне GPT-4o 🔘 Остаётся одной из лучших моделей в своём размере, особенно сильна в function calling 🔘 Серьёзный выигрыш по скорости за счёт MoE + MTP + FP8 🔘 Контекст 256K токенов ➡️ GitVerse | HuggingFace Обе модели • Обучены с нуля — без инициализации зарубежными весами • MoE + MTP + MLA • Совместимы с HuggingFace, llama.cpp / vLLM / SGLang Для нас это не просто апдейт весов — это история про то, как переход на новую архитектуру вскрывает неожиданные проблемы на всех уровнях стека, от данных до инфраструктуры. 🤖 Подробнее — в статье на Habr

⚡️ GigaChat 3 Lightning в GGUF: максимум скорости для локального запуска Мы подготовили три официальные сборки модели. Теперь вы можете выбрать оптимальный баланс между скоростью и качеством под ваше железо: 🔘bf16 - Максимальное качество и стабильность. 🔘q8_0 - Золотая середина: отличное качество при меньшем потреблении памяти. 🔘q6_k - Оптимально для ноутбуков и домашних ПК: высокая скорость и экономия памяти без заметного снижения качества генерации. 💻 Function Calling Мы расширяем поддержку функционала в популярных инструментах: 🔘vLLM: Официально появится в следующем релизе >0.12.0. Уже сейчас работает в dev-сборке (от коммита 21bb323) с флагом --tool-call-parser gigachat3. 🔘SGLang: Подготовили временное решение, доступное в отдельной ветке. 🔘llama.cpp: Отправили PR с полноценной реализацией. В текущей версии вызов функций работает с ограничениями — инструкция доступна в описании модели на HuggingFace. Мы продолжаем работу над интеграцией GigaChat 3 Lightning в экосистему open-source инструментов. Следите за обновлениями — впереди ещё больше возможностей для локального запуска и кастомизации. 🧭 Делитесь опытом использования и задавайте вопросы — ваш фидбэк помогает делать модель лучше! ➡️ HuggingFace ⬅️

GigaAM-v3: новый уровень качества, пунктуация, нормализация ➡️ GitHub | HuggingFace | GitVerse В прошлом году мы открыли семейство моделей GigaAM, после чего значительно улучшили качество благодаря подходу HuBERT-CTC во второй версии. Основными запросами сообщества оставались поддержка пунктуации в наших моделях, а также улучшение на сложных срезах данных. Сегодня мы рады представить следующий большой релиз — GigaAM-v3. Что публикуем 🔘GigaAM-v3 — foundation audio encoder (база для дообучения). 🔘GigaAM-v3-CTC — улучшенная CTC модель распознавания, быстрый инференс 🔘GigaAM-v3-RNNT — улучшенная RNNT модель распознавания, лучшее качество 🔘GigaAM-v3-e2e-CTC — распознавание с пунктуацией и нормализацией, быстрый инференс 🔘GigaAM-v3-e2e-RNNT — распознавание с пунктуацией и нормализацией, максимальное качество Пример e2e-вывода: В твоём каталоге есть первая серия сезона 14 «Где логика»? Что нового в v3 🔘Масштаб предобучения: 50k → 700k часов аудио на русском языке. 🔘Новые домены в обучении ASR: колл-центр, музыкальные запросы, речь с особенностями, разговорная речь (суммарно 2k часов). 🔘Для всего корпуса обучающих данных восстановлены пунктуация и нормализация при помощи GigaChat Max Audio. 🔘Линейка CTC/RNNT + e2e — выбирайте скорость или максимум качества под свой сценарий. Метрики 🔘 Открытые датасеты (Golos, OpenSTT, Common Voice, LibriSpeech): паритет с GigaAM-v2. 🔘 Новые домены (WER, v2-RNNT → v3-RNNT): • речь с особенностями 27% → 19% • колл-центр 13% → 10% • спонтанная речь 10.3% → 7% 🔘 Пунктуация: v3-e2e-RNNT vs reference + Whisper Forced Decoding — F1-score по запятой 84% vs 62%, остальные знаки ~паритет. 🔘 Side-by-Side (Gemini 2.5 Pro as a judge): v3-e2e-RNNT vs Whisper-large-v3 — 70:30 (колл-центр), 64:36 (Common Voice). Более качественные модели распознавания того же класса эксклюзивно доступны в наших умных устройствах, а также могут быть бесплатно использованы на повседневной основе с помощью бота @smartspeech_sber_bot. Совсем скоро выйдет пост на Хабр, где мы поделимся подробностями обучения и оценки качества. Не пропустите!

🍸 122 735 персонажей создано на серверах России Онлайн Прописку в виртуальной Москве получили десятки тысяч игроков — и это только начало нашего пути. Спасибо за вашу поддержку и обратную связь — впереди у нас еще много важных моментов и ярких событий ❤️ ❤️ Россия Онлайн

😏 Новое место встречи — чат вашего сервера Присоединяйтесь к Telegram-чату и общайтесь с игроками своего сервера — мы собрали их для вас в одном месте. Знакомьтесь, находите компанию и обсуждайте все, что происходит на просторах виртуальной столицы ❤️ ❤️ Россия Онлайн

❤️ Первые шаги на России Онлайн — гайд для новичков Собрали советы, которые помогут освоиться, разобраться в основных механиках и понять, с чего начать свой путь.

1. Квест «Путь новичка» Путеводитель подскажет, чем заняться в начале игры: выполняйте его задания и получайте за это награды. 2. Аренда транспорта На первое время арендуйте самокат — он поможет быстрее добраться до нужного места. 3. Работы Для заработка доступно множество профессий. Найти их можно в меню «F2 - Персонаж - Работы». До 25 августа работы 1–3 уровня доступны без предварительной прокачки персонажа. 4. Автошкола Получите лицензии в автошколе — они нужны для работ, аренды автомобилей и поездок по столице. 5. Телефон и планшет Здесь собраны полезные приложения для разных задач: от вызова такси до управления бизнесом и организацией. 6. Маркетплейс На Маркетплейсе можно покупать и продавать транспорт, недвижимость и другие предметы. Он доступен в планшете, а также в отдельном здании, отмеченном на карте.

🥰 Серверы уже открыты — заходите в игру, зовите друзей и начинайте вместе исследовать мир России Онлайн. ❤️ Россия Онлайн

❤️ Старт ОБТ России Онлайн уже сегодня До запуска серверов осталось 5 часов — волнение ощущается сильнее, а Москва замерла в ожидании игроков. Что можно сделать уже сейчас:

• зарегистрировать Majestic ID, если у вас его еще нет; • загрузить файлы игры в Majestic Лаунчере; • внимательно изучить правила проекта.

🦋 Совсем скоро увидимся на оживленных улицах виртуальной столицы — чем займетесь в первую очередь? ❤️ Россия Онлайн

👀 Виртуальная Москва — глазами искусственного интеллекта Мы предложили ИИ воссоздать Москву в игровом мире и вот результат: Вместо знакомого города получили холодные силуэты и атмосферу — совсем не в духе большого мегаполиса. 💅 Ни на что не намекаем, просто показываем, как эти локации выглядят на России Онлайн. ❤️ Россия Онлайн

❤️ Россия Онлайн — новый Role Play проект про жизнь в Москве от Majestic RP Более двух лет активной разработки, сотни зданий и улиц, созданных вручную с нуля. И вот мы готовы анонсировать новый масштабный проект в GTA V — @russiaonline. Погрузитесь в захватывающий игровой мир на детально воссозданной карте Москвы — с уникальными механиками и уже полюбившимися системами.

👉Открытие запланировано в этом году — наши новости: • Сайт • Telegram • Группа VK • Discord • YouTube

Смотрите анонс и прогуляйтесь с нами по улицам Москвы на России Онлайн: https://youtu.be/lz9-KQPbwz0 ❤️ Россия Онлайн