Mashkka про Data Science

💬 Статьи на топовые конференции пишут только большие учёные из крутых университетов

💬 Кто сказал? Развеиваем миф

В больших компаниях мы постоянно создаём сильные прикладные решения на основе агентов и RAG-системы, обучаем ИИ-модели, собираем датасеты и придумываем новые бенчмарки. Результаты действительно крутые — международного уровня! Но часто дальше поста на Хабре они не идут. А ведь это вполне можно превратить в научную статью, достойную лучших конференций по AI. Главное — знать как!

В новой серии постов расскажем пошаговый рецепт: от обзора конференций до гайдов написания статей по этапам. Сегодня отвечаем на самый важный вопрос: о чём вообще писать?

Основой для статьи могут стать самые разные наработки:

🤩 новая комбинация известных методов

🤩 новый датасет или бенчмарк

🤩 исследование устойчивости и поведения моделей и агентов в нишевых условиях — например, при общении на чувствительные темы

🤩 SoTA-результат на известном бенчмарке с понятным и воспроизводимым методом или нестандартной комбинацией уже имеющихся методов

🤩 хорошо задокументированная система с демонстрацией работы

Тему выбрали! Про следующий шаг расскажем уже через неделю. Будете ждать?

❤️ — конечно буду 🔥 — хочу сразу всё...

✔️ Подписывайтесь на Sber AI в МАКС

💵 GigaChat 3.5 Ultra: меньше, быстрее, сильнее

Сегодня мы выкладываем в open source GigaChat 3.5 Ultra — новую 432B-модель под MIT-лицензией. Это первый в open source гибрид GatedDeltaNet и MLA, доведённый до сотен миллиардов параметров, — с собственным рецептом обучения, который мы собирали больше чем в 1500 экспериментах. Модель выросла в коде, математике, агентных сценариях и на аренах — и при этом стала на 40% меньше, чем GigaChat 3.1 Ultra.

Что внутри: 🔘Собственная гибридная архитектура MLA + GatedDeltaNet с придуманной нами уникальной стабилизирующей обвязкой, без которой такой гибрид на этом масштабе просто не обучается; 🔘Gated Attention — модель может локально приглушать слишком сильный сигнал из attention-слоя; 🔘GatedNorm — нормализация с явным гейтом для управления масштабом сигнала между признаками. Модернизация этого слоя позволила нам стабильно обучать модели с большим количеством параметров. 🔘Линейный слой требует в 4 раза меньше KV-кеша на токен, в ту же память позволяет поместить в 2,14 раза больше контекста, throughput под нагрузкой растет на +20%; 🔘Две MTP-головы и ускорение генерации до 2,2 раза; 🔘FP8 на всех этапах обучения без потери качества относительно bf16 — свои Triton- и CUDA-ядра; 🔘Новый этап online RL после SFT и DPO. Результаты: 🔘GigaChat-3.5-Ultra-Base обходит DeepSeek V3.2 Exp Base и DeepSeek V4 Flash Base в среднем по нашему набору general-, math- и code-бенчмарков (полные таблицы — в статье); 🔘GigaChat-3.5-Ultra-Instant сравним с DeepSeek V3.2 по среднему скору, будучи в полтора раза меньше; 🔘По LLM-судье MiniMax-M2.7 средний win-rate против GigaChat 3.1 Ultra — 75,9%, а против GPT-5 — 68.7%.

Весь стек — данные (своя LLM-фильтрация Common Crawl, 600+ языков программирования в коде), архитектура, рецепт обучения, инфраструктура — сделан нами end-to-end.

🤖 Подробности, включая детали реализации гейтов и рецепт стабилизации, — в статье на Habr. ➡️HuggingFace | GitVerse

#justaboutme в честь возможности брать аспирантов МарьИванна ушла в отрыв В честь радостной новости про возможность брать аспирантов, отправились отмечать с друзьями на вечеринку Community Moscow в Метрополь. Хотя конечно звездой вечера стал фотограф: его фирменный шпагат может посоперничать с моим. ❕#justaboutme — воскресная рубрика, в которой я делюсь яркими событиями из своей жизни, не связанными с DS и ИТ, подобно тому, как я это делаю в соцсетях (например, в инсте или VK). @mashkka_ds #justaboutme #выпускной

🐾По следам вебинара Градиентный Бустинг На открытом уроке в Отус рассказала про Градиентный Бустинг - один из самых популярных алгоритмов классического ML. Пощупали со слушателями современные библиотеки градиентного бустинга и обучили свои первые модели. 👀Запись ✍Слайды 💬Практика 🔗Мой урок по методам ансамблирования #ml #datascience

#пятничныемемасы

Новый уровень разблокирован: могу брать аспирантов в руководство🎓 Не все знают, но не любой кандидат наук может руководить аспирантами — для этого тебя должен утвердить совет. Пару лет назад меня отклонили за неопытностью, а вчера учёный совет ФКН ВШЭ наконец утвердил моё право на научное руководство аспирантами — Next Level Achieved. Очень вовремя: как раз начался набор в аспирантуру, и ко мне уже потенциально есть желающие поступить. Радуюсь этому событию — как ещё одному важному этапу для меня 🎉 ⠀ #фкн #вшэ #hse #phd

🧩 Сбер выложил в открытый доступ GFusion — диффузионную языковую модель на базе GigaChat. Отличие от привычных LLM в том, что диффузионные модели генерируют ответ не токен за токеном, а строят ответ целиком, затем постепенно его уточняя. Такой подход даёт несколько практических преимуществ: ✔️ Параллельную генерацию и более высокую скорость работы. ✔️ Более качественное структурирование и редактирование ответа. ✔️ Более эффективное обучение на данных. ✔️ Возможность стабильно запускаться на потребительском железе — ноутбуках и даже смартфонах. Коллеги из GigaChat открыли не только саму модель, но и инструменты, которые использовали при её создании. Что уже доступно: ◀️ GigaChat 10B — облегчённая версия модели для локального запуска. ◀️ CUDA-kernels — низкоуровневые ядра, ускоряющие обучение диффузионных LLM и снижающие требования к GPU. ◀️ PR в vLLM — поддержка алгоритмов инференса для диффузионных моделей в одном из самых популярных Open Source-фреймворков для запуска LLM. Подробности коллеги опубликовали в статье на Habr, а модель, код и методы обучения уже доступны в Open Source ◀️ HF: GFusion-10B-A1.8B-base, GFusion-10B-A1.8B ◀️ GitVerse Будет интересно посмотреть, какие проекты и эксперименты появятся на их основе. #release #gigachat #ai #ainews

Fable/Mythos вернули в Claude Code и сбросили лимиты. По подписке будет работать только до 7 июля, потом за отдельную плату. Попробуйте, чтобы почувствовать разницу между ней и остальными.

Стоило оплатить подписку MAX😂

Новое интервью у меня на YouTube и VK, с Сергеем Марковым, руководителем разработки ИИ-проектов в Сбере. Обсудили главное: победят ли нас машины? Пришли к выводу, что... Хотя, смотрите сами (with English and Russian subtitles).

Тем временем Антропик уже дропнул Sonnet 5 и обещает вот-вот вновь зарелизить Fable.

А вот и мои герои получают свои дипломы! Аня, Николай, горжусь вами! Вы прошли такой путь и я искренне и с огромной радостью сегодня поздравляю вас!

Пришла поддержать своих выпускников ФКН ВШЭ Пришла на выпускной ФКН к своим дипломникам и студентам, у которых вела классический ML. Для меня это всегда невероятно радостный момент, когда ты видишь, что ребята успешно дошли до финиша и наконец можно порадоваться за их успех. Друзья, я вас поздравляю! Сегодня вы становитесь настоящими специалистами по Data Science и держите в руках дипломы одного их лучших факультетов страны по ИИ. Вы прошли очень непростой путь и это на 200% ваша заслуга! Поздравляю и желаю вам успехов с мире Data Science и AI. #graduate #вшэ #фкн #выпускник

🖊Памятка "Как писать rebuttal?" На ARR вот-вот начнется период rebuttal. Подготовила чек-лист по тому, как его правильно писать.

💡Rebuttal — это официальный короткий ответ авторов на отзывы ревьюеров после рецензирования статьи — шанс повысить оценку.

7 правил написания rebuttal: ✔️Сначала успокоиться: Rebuttal — это не спор, а шанс помочь ревьюеру лучше понять вашу работу. ✔️Быть максимально вежливыми: Даже если ревьюер ошибся, пишем спокойно: Thank you for pointing this out… We apologize if this was unclear… We will clarify this in the final version… ✔️Не думать, что ревьюер хочет вас завалить: Скорее всего, он не против вас: он мог читать быстро, не понять формулировку или пропустить деталь. Наша задача — не обвинить, а снять недопонимание. ✔️Если ответ уже есть в статье — это отлично: Можно вежливо указать на нужное место: This point is addressed in Section 4.2, lines 213–218, where we show that… И дальше коротко повторить ответ. ✔️Можно не соглашаться с ревьюером: Но делать это нужно очень аккуратно: не “reviewer is wrong”, а: We respectfully disagree and would like to clarify that… Our results suggest a different interpretation… ✔️Отвечать по структуре Замечание → короткий ответ → доказательство/ссылка на статью → что поправим в camera-ready. ✔️Не спорить с оценкой напрямую Не пишем: “the score is unfair”. Лучше показываем фактами, что замечание закрывается. ✔️BOUNS (optional): в конце можно напомнить ревьюерам, что хорошо бы повысить скор: If our responses have addressed your concerns, we would be grateful if you considered updating your score @mashkka_ds 🔽Ниже удобная интерактивная версия в html🔽 #чеклист #памятка

🤖Как оценивать LLM на практике, если времени на «идеальный бенчмарк» нет Продолжаем эстафету публикаций по следам DataFest. В новом посте Алена Феногенова рассказывает как оценивать модели, если у вас не сферический конь в идеальном вакууме, а реальная жизнь: со сроками, дедлайнами и другими ограничениями. В посте Алена рассказывает, как можно избежать типовых ошибок и улучшить оценку минимальными инженерными действиями, без превращения процесса в академический проект на полгода, а то и год. 👉Пост #habr #llm #evaluation

🧐#paperwatch Бенчмарки по длинному контексту-2026: что не учтено? В новом выпуске #paperwatch Денис Шевелев разбирает особенности бенчмарков длинного контекста: ✔️отход от буквального соответствия needle-тестов; ✔️то, как реагируют создатели тестов на расширение контекстного окна; ✔️способы борьбы с насыщением и т.д. 👀YouTube #paperwatch

Вышка заняла первое место в рейтинге вузов Альянса в сфере ИИ 🏆

Второй год подряд! Ассоциация «Альянс в сфере искусственного интеллекта» опубликовала рейтинг вузов по качеству подготовки специалистов в области ИИ.

НИУ ВШЭ вновь на первом месте и по-прежнему остается единственным университетом в категории A++.

🔹оценивались программы бакалавриата и специалитета в области ИИ 🔹в опросе приняли участие 140 высокотехнологичных компаний 🔹всего в рейтинге 193 вуза из 58 регионов Альянс объединяет ключевых игроков российского рынка и занимается масштабированием практик внедрения ИИ. Подробности — в статье.