DeepSchool

Разберитесь, как устроены LLM и как с ними работать Как устроены современные LLM, как они обучаются, как с ними работать, как избежать типичных проблем при решении реальных задач — об этом и не только на нашем курсе по большим языковым моделям. Вы разберётесь в теории, научитесь дообучению, элайменту, построению RAG, агентских систем и инференсу LLM. Приходите, чтобы научиться использовать LLM правильно! Обучение ведут опытные инженеры из разных доменов, компаний и стран, которые создавали нагруженные сервисы и популярные библиотеки. Вы будете встречаться раз в неделю на онлайн-лекциях, где сможете сразу задавать вопросы. Плюс QA-сессии, поддержка в чате и проверка домашних заданий с развёрнутым фидбеком. 📅 Начало — 30 июня, продолжительность — 4 месяца. 🔥 А до 29 июня вы можете присоединиться со скидкой 5% Изучайте подробности о программе и спикерах и записывайтесь на новый поток на сайте!

Карта LLM: как выбирать модели, проверять качество и улучшать результаты В этот четверг, 25 июня, мы проведём открытую лекцию, на которой ответим на популярные вопросы по LLM. Чем отличаются модели? Надо ли доучивать модель? Хостить или ходить по API? На что можно рассчитывать при построении агента или RAG-системы? Почему у кого-то работают RAG и агенты, а кто-то в них разочаровался? За полтора часа дадим актуальный срез индустрии вокруг LLM: — актуальные модели и их свойства — бенчмарки — self-host VS API — типы задач — главные «болячки» ванильных решений — и актуальные советы по их лечению В конце расскажем про курс «LLM», где объясняем теорию LLM, учим дообучению, элайменту, построению RAG, агентских-систем и деплою — всё под кураторством опытных инженеров. Всем участникам лекции мы подарим скидки на обучение 🎁 📅 Встречаемся в четверг, 25 июня в 19:00 МСК! Регистрируйтесь по ссылке и приходите на лекцию!

3 тренда на рынке ИТ, которые нельзя игнорировать: 1. Использовать кодинг-агентов для разработки 2. Каждый должен разбираться в дизайне систем (т.к. код во многом на себя берут агенты) 3. Умение создавать агентские системы и поиск (в т.ч. RAG), которые работают в крупных коммерческих проектах Мы совместили эти пункты в новой программе «Дизайн LLM-систем», где вы научитесь решать 4 востребованные задачи от их постановки до настройки мониторинга: • чат-бот c RAG по базе знаний компании • клиентский саппорт: «классический» и мультиагентный • локальный сервис речевой аналитики • мультиагентный ИИ-разработчик Первая лекция — «Кодинг-агенты». На ней вы настроите окружение в Codex или Claude Code, чтобы на протяжении всего курса вести работу в них. Спикеры — опытные senior-инженеры, а также тех- и тимлиды сильных продуктовых команд. ⚡️ Осталось 9 из 10 мест со скидкой 16% по условиям раннего бронирования! Забронировать скидку можно предоплатой на сайте. Предоплату можно вернуть полностью в любой момент. Переходите на сайт программы и бронируйте место со скидкой!

Reinforcement Learning: пошаговый план изучения Reinforcement Learning (RL) лежит в основе многих ключевых достижений современного ИИ: обучение роботов локомоции и манипуляции, пост-обучение языковых моделей (RLHF, GRPO). Сегодня понимание RL — нужный навык для широкого круга ML-инженеров. Чтобы помочь прокачаться в этой области, мы подготовили пошаговый план изучения и полезные ресурсы. Welcome 🙂 ⚫️План изучения 1. Основы теории вероятностей RL опирается на аппарат теории вероятностей и стохастических процессов. Фундамент для понимания: условные вероятности, математическое ожидание и его свойства, основы стохастических процессов. Изучать эти темы лучше по мере необходимости: столкнулись с importance sampling — сразу разбираемся с этой концепцией. Ресурсы: MML (главы по вероятностям и статистике); любой базовый курс теории вероятностей. 2. Классический RL Можно начать с формализма марковских процессов принятия решений (MDP): состояния, действия, функция перехода и вознаграждения, дисконтирование. И затем перейти к табличным методам: dynamic programming, Monte Carlo, temporal-difference learning, Q-learning, SARSA. Рекомендуем решать задачи из книги или курса — это критически важно для понимания. Ресурсы: S&B (Part I) — фундаментальный учебник по RL; Stanford CS234 — академический курс с задачами. 3. Deep Reinforcement Learning Когда пространство состояний становится слишком большим для табличных методов, применяется аппроксимация функций с помощью нейронных сетей. Ключевые темы: Deep Q-Network (DQN), policy gradient методы, actor-critic архитектуры, методы на основе модели (model-based RL). Если нужно подтянуть основы Deep Learning, рекомендуем открытую книгу Understanding Deep Learning. Ресурсы: Deep RL (CMU) — курс от Katerina Fragkiadaki с современными методами deep RL; Deep RL (UC Berkeley) — курс от Sergey Levine с открытыми домашними заданиями. Рекомендуем выполнить все практические задания. 4. Policy Gradient и современные алгоритмы Для практического применения RL необходимо глубокое понимание policy gradient методов. Ключевые алгоритмы: REINFORCE, TRPO, PPO — стандарт в робототехнике и RLHF; GRPO — активно применяется в пост-тренировке LLM. Важно не только знать алгоритмы, но и понимать, почему они работают: какие допущения лежат в их основе и какие практические трюки обеспечивают устойчивое обучение. Ресурсы: S&B (Part II); лекции из курсов CMU и UC Berkeley по policy gradient. 5. Современный RL и применения После основ — обзор современных направлений: RLHF для языковых моделей, применение в робототехнике, мультиагентный RL, offline RL, model-based RL. Ценным будет понимание практических «трюков», которые стоят за успешными алгоритмами. Ресурсы: PML:AT (Kevin P. Murphy) — современные работы в RL и практика к языковым моделям; Substack Cameron Wolf — разборы алгоритмов и их применение к LLM доступным языком. 6. Практика Мы верим, что действительно глубокое понимание невозможно без практического опыта. Рекомендуем два направления в зависимости от области интересов: робототехника: курс LeRobot (Hugging Face) с фокусом на RL-часть; самостоятельное обучение реального или симулированного манипулятора; языковые модели: самостоятельная реализация RLHF (CS336). ✅Полезные ресурсы Reinforcement Learning: An Introduction (S&B) — Sutton & Barto Stanford CS234: Reinforcement Learning Deep RL (CMU) — Katerina Fragkiadaki Deep RL (UC Berkeley) — Sergey Levine Probabilistic Machine Learning: Advanced Topics (PML:AT) — Kevin P. Murphy LeRobot курс (Hugging Face) Stanford CS336: Language Modeling from Scratch, assignment 5 Substack Cameron Wolf Автор: Шамиль Мамедов

Помимо робототехники и LLM, RL используется ещё и для обучения LLM-агентов. Об этом глубже рассказываем на нашем курсе по LLM для ML/DL-инженеров. Также там разбираем fine-tuning, alignment, ускорение и деплой LLM. Новый поток стартует 30 июня, а до 21 июня вы можете присоединиться со скидкой 20%!

Ничё вы от первой задачи камня на камне не оставили! Так же будет и со второй? 😊 В ней выяснилось, что белым шрифтом в Confluence писать секреты не так же безопасно, как в сохранёнках телеги все пароли хранить. Ладно, дальше сами. Удачи! ⌨️ https://contest.deepschool.ru/t/llm/rag-doc-leak

CTF по LLM 💻 CTF (Capture The Flag) — это соревновательный формат, где участникам даётся живой объект для исследования: сервис, код, сайт, чат-бот. Внутри спрятана секретная строка-флаг. Задача: разобраться в системе, найти слабое место и «вытащить» флаг. Нашёл флаг → решил задачу → получил баллы. Подготовили для вас трек по LLM. LLM, RAG, агенты: от prompt-инъекций до внутренностей модели. Всего 7 задач, появляться будут в 19 Мск в течение недели. Первая задача уже доступна. В ней нужно обойти цензора, которого поставили поверх слишком разговорчивой модели. https://contest.deepschool.ru/t/llm/boltun Под анонсы задач и разборов завели отдельный канальчик @deepschool_ctf, заглядывайте! Делитесь с друзьями и коллегами, вместе решать веселее 💻

Как улучшить векторный поиск в RAG без сложной нарезки чанков? В объёмных (юридических / медицинских) документах смысл фрагмента часто зависит от контекста. В классическом RAG документ режут на чанки и векторизуют каждый по отдельности. В результате — сбой в поиске, потому что часть смысла чанка лежит за его границами. ⚫️Late chunking — техника от Jina AI, которую обычно пропускают в RAG-туториалах. Основная идея: вместо предварительной обрезки текста прогоняем через модель весь документ и получаем вектор для токенов, каждый из которых уже «впитал» контекст текста. Эмбеддинг чанка — усреднение (mean pooling) векторов его токенов. Текст подаётся целиком или большими частями с перекрытием. Это «дороже» с точки зрения вычислений, зато у вектора каждого чанка больше контекста. 💡Пример из статьи: в начале документа стоит «Берлин», далее — «город», «он», «его население». При наивной нарезке чанк «его население…» не содержит слова «Берлин», и модель не связывает местоимение с сущностью. При late chunking тот же чанк «помнит» про Берлин. На длиннодокументных retrieval-бенчмарках late chunking почти всегда обходит наивную нарезку без дообучения. ⚫️Что использовать: - jina-embeddings-v3/v4 (v5 уже не подойдёт — другой тип пулинга) - модели Perplexity (pplx-embed-context-v1), более современные, обученные под late chunking специально Автор: Александр Абугалиев

Глубже про векторный поиск и RAG рассказываем на нашем курсе по LLM для ML/DL-инженеров. Также там разбираем fine-tuning, alignment, агентов, ускорение и деплой LLM. Новый поток стартует 30 июня, а до 21 июня вы можете присоединиться со скидкой 20%!

Закройте вопросы по LLM Приходите на ближайший поток нашего курса по большим языковым моделям. Это программа о том, как устроены современные LLM, как они обучаются, как с ними работать, как избежать типичных проблем при решении реальных задач и многом другом. Вы разберётесь в теории, научитесь дообучению, элайменту, построению RAG, агентских систем и инференсу LLM. Обучение подойдёт и тем, кто только знакомится с LLM, и кто уже работает с ними. А если до этого не работали с доменом NLP, то разберётесь в его особенностях. 🔔 Новый поток стартует 30 июня, а до 21 июня вы можете присоединиться со скидкой 20%. Оставьте заявку на сайте, мы расскажем подробнее о программе, ответим на вопросы и забронируем место на программе!

Как собрать хорошие траектории для обучения LLM-агента LLM-агенту недостаточно просто отвечать текстом: важно научить его выбирать действия и работать с инструментами. Сегодня разбираем, какие данные здесь нужны, и почему одного SFT обычно мало. В новой статье рассказываем: - что такое траектория в агентских задачах - чем SFT-данные отличаются от alignment-данных - как работают пары chosen/rejected и зачем нужен DPO - что такое hard negatives и каким образом собирать их полезные примеры - и как выстроить конвейер проверки, покрытия и обновления датасета Читайте статью по ссылке! 👈🏼

Если хотите не только собирать датасеты, но и понимать, как дообучать, оценивать и запускать LLM-агентов на практике, эта тема напрямую продолжается на курсе LLM. Курс стартует 4 июня, а до 3 июня включительно вы можете присоединиться со скидкой 5%!

Как создавать и деплоить DL-сервисы Напоминаем, что 4 июня стартует курс DLOps, на котором вы научитесь превращать модели в сервисы и доводить их до пользователей. На курсе вы научитесь: • писать код для обучения моделей «по фэншую» • конвертировать модели в JIT и ONNX • версионировать данные, эксперименты и модели • автоматизировать рутину и быть уверенным в своём коде • писать веб-сервисы на FastAPI • собирать приложения с помощью Docker • сервить модели с NVIDIA Triton • тестировать веб-сервисы и подменять зависимости при помощи DI • настраивать CI/CD и деплоить веб-сервисы на удалённые машины «по кнопке» при помощи ansible и k8s • мониторить веб-приложения при помощи Prometheus и Grafana После каждой лекции вас ждет домашнее задание, а в конце курса — проект, где можно применить все полученные навыки. На протяжении всего обучения вас будут поддерживать опытные инженеры: ревьюить ваш код, отвечать на вопросы во время лекций, на Q&A-сессиях и в чате. 🚀 Курс стартует 4 июня, а до 3 июня включительно вы можете записаться со скидкой 5%! Изучайте подробности о программе и спикерах и присоединяйтесь к обучению. Если возникают вопросы, пишите нам в поддержку в Телеграм!

Data Version Control DVC - инструмент для версионирования данных, моделей и ML-экспериментов, который помогает управлять данными так же, как Git управляет кодом. Новая статья познакомит вас с концепцией версионирования данных в DVC, расскажет, как хранить большие объёмы файлов в удалённых хранилищах, поможет внедрить и использовать DVC в своей команде. Читайте статью по ссылке! 👈🏼

А если хотите научиться превращать модели в сервисы и доводить их до пользователей, то приходите на курс DLOps. Оставьте заявку до 31 мая, чтобы получить скидки до 15% 🔥

Спроси DeepSchool Мы запускаем новую рубрику, в которой будем отвечать на вопросы не только наших студентов, но и всех подписчиков канала. Начинаем с вопроса, который нам задали на QA-сессии курса DLOps. ❓«Сделали модель — как её задеплоить?» 💬 Отвечает Константин Носорев — Senior Backend-разработчик в Яндекс, спикер курса DLOps. На самом деле в этом вопросе скрывается несколько разных вопросов. Разберём каждый. 1. Как запустить модель?

Есть два основных подхода: а) FastAPI / Flask (и др.) обёртка. Файл модели загружается в HTTP / gRPC-сервис. Минимальные накладные расходы на старте, но проблемы с масштабированием / батчингом придётся решать самостоятельно. б) Специализированные inference-серверы. Например,Triton Inference Server, TorchServe, vLLM. Поддерживают батчинг, управление памятью и обслуживание нескольких моделей одновременно. Оправданы при высоких требованиях к latency и throughput.

2. Как обеспечить доступность?

Если у вас большие требования к доступности — нужно несколько реплик на разных серверах (а лучше — ДЦ). Иначе сбой на одном сервере — и к вашей модели

«

не достучаться

»

. В случае с несколькими репликами важно, чтобы при падении одной из них трафик перераспределялся между остальными. Здесь тоже есть несколько вариантов, например: а) Kubernetes. Автоматически поддерживает заданное число реплик, проверяет доступность / работоспособность и перераспределяет трафик. б) Bare Metal. Прямой запуск на серверах. Максимальный контроль над ресурсами, логику перезапуска и балансировки нужно делать самостоятельно. Например, через systemd и nginx / HAProxy.

3. Как выстроить архитектуру сервиса?

Есть несколько подходов: а) Бизнес-логика и модель в одном сервисе. Минимальная сложность при запуске, но при росте нагрузки возникают проблемы. Бизнес-логика и инференс потребляют ресурсы совместно и разделить их невозможно: если модель перегружена, масштабируется весь сервис целиком, включая логику, которая в этом не нуждается. Обратная ситуация аналогична. Это приводит к избыточному расходу памяти и GPU, а также к сложностям при горизонтальном масштабировании. б) Отдельно микросервис с моделью и отдельно сервис с бизнес-логикой. Например, Triton или vLLM обслуживают модель, а «основной» сервис обращается к ним по HTTP/gRPC. Компоненты обновляются и масштабируются независимо: можно добавить реплики только на сторону модели или логики.

✍️ Будем продолжать этот формат — на ваши вопросы будут отвечать такие же опытные практикующие инженеры, как Константин: наши спикеры, авторы статей и друзья школы. Задавайте вопросы на ask.deepschool.ru, а мы ответим на них в канале!

От ML-инженеров хотят всё больше. Раньше можно было просто обучить модель и перекинуть ноутбук бэкендеру «через стенку». Сейчас где-то нужно завернуть модель в Docker/сделать минимальное демо и довести его до пользователя. Где-то самому встроить модель в сложную систему. А где-то эту систему ещё и спроектировать. Код-агенты, конечно, сильно упростили жизнь: собрать демку или MVP теперь проще некуда. Но они не сняли с нас главного: ответственности за полученное решение. По шапке будет получать не Claude:) А отвечать за систему, в которой не знаешь, как устроены «кубики» — сомнительное удовольствие. Ты вроде что-то собрал и оно работает. Но почему именно так? — 🤷‍♂️. Что делать, когда сломается? — 🤷‍♂️. Остаётся верить сетке на слово, что «так правильно». Спойлер: очень часто нет. Чтобы «кубики» были не чёрными ящиками, а понятным набором инструментов, мы запускаем курс DLOps. За 4 месяца проходим всю цепочку: от сериализации модели и небольшого сервиса на FastAPI до Nvidia Triton, k8s и мониторинга. Учим создавать полноценные сервисы и доводить их до пользователя. В этом потоке добавили лекцию про LLM observability. Наш DLOps построен вокруг «обычных» DL-моделей. Но чем дальше, тем меньше сервисов не ходит в LLM хотя бы просто по API. А за ними нужен глаз да глаз 😉 Обучение начинается 4 июня, а до 24 мая действует скидка 20% 🔥 Переходите на сайт, изучайте подробности и оставляйте заявку на курс! Если возникают вопросы, пишите нам в поддержку в Телеграм!

Разбираемся с тестированием Подготовили карточки с вопросами по тестированию: - пишем smoke-тесты на обучение модели - разбираемся, зачем изобрели столько разных скоупов у фикстур - боремся с долгой установкой в CI - пишем регрессионный тест на метрики и много других. Формат тот же: вопрос на лицевой стороне, развёрнутый ответ с примерами — на обратной. Готовьтесь к собеседованию здесь!

А если хотите подготовиться не только к вопросам по тестированию, но и разобраться во всём цикле разработки DL-сервисов, то приходите на курс DLOps, который стартует 4 июня!

HNSW: строим маленькие миры для быстрого поиска Поиск схожих объектов базовая задач в машинном обучении. Рекомендательные системы, семантический поиск, дедупликация, retrieval в RAG — везде нужно уметь быстро находить ближайшие векторы. Но делать это «в лоб» — почти всегда довольно длительное занятие, поэтому зачастую используются приближенные методы. В этой статье мы разберём один из таких методов — HNSW, и узнаем: - как он работает - почему гарантирует высокую скорость без сильной потери качества - за счёт каких особенностей он настолько эффективен - и как его параметры влияют на качество и скорость поиска Читайте новую статью по ссылке: https://clck.ru/3TdhnE 🤩

Что под капотом у видеокодеков, генеративных моделей и тимлидов? | Подкаст с Ильдаром Идрисовым В этом выпуске мы с Ильдаром Идрисовым, Head of ML Vinteo.ai, разбираемся, как устроены видеокодеки, почему лучшие модели не могут сгенерировать нам план квартиры и почему, став тимлидом, нужно ещё научиться им быть. Смотрите по ссылке: https://youtu.be/stCi1eQSEYY 👈🏼

GENets: Neural Architecture Design For GPU-Efficienet Networks Для многих GPU — основной девайс для инференса. А значит, получать высокие метрики при низком latency на нём — критически важно. Исследователи из Alibaba утверждают, что текущие быстрые решения не используют весь потенциал GPU. В работе «Neural Architecture Design for GPU-Efficient Networks» они показывают, как проектировать сети для быстрого инференса на GPU и презентуют семейство backbones GENet. О принципах построения свёрточных сетей для эффективного инференса на GPU и результатах авторов мы рассказали в новой статье! Читайте материал по ссылке! 👈🏼 🪔 DeepSchool

Приходите на курс «Ускорение нейросетей», чтобы разобраться в эффективных архитектурах и подходах к ускорению

YOLO history. Part 9 А мы возвращаемся с разбором моделей семейства YOLO! 😎  В прошлой статье обсудили YOLOv8 и YOLOv11 — а значит, подобрались уже к самым передовым моделям. Сегодня рассмотрим все оставшиеся модели в одном посте 🤓 Итак, в новой статье: - узнаем, как избавиться от NMS на примере YOLOv10 - поговорим об оптимизации attention для ускорения детекции из YOLOv12 - познакомимся с концепцией гиперграфа с помощью YOLOv13 Скорее читайте по ссылке! 👈🏼

Встречаемся через 3 часа на воркшопе по 3D CV Сегодня разберём, из каких этапов состоит пайплайн обработки 3D-данных и какие применения он находит в частных задачах. А потом вы самостоятельно построите ключевые элементы пайплайна 3D-зрения для ориентации робота в комнате. Вы узнаете: • как и откуда получать 3D-данные • как их правильно выравнивать и предобрабатывать • как работать с библиотекой Open3D • какие 3D DL-модели существуют и для каких представлений данных они подходят • как оценивать полученный результат • в каких практических задачах применяется 3D и как именно Во второй части воркшопа мы разделим вас на группы, и вы реализуете агрегацию и фильтрацию 3D-данных для построения модели комнаты, обработку данных нейросетью и извлечение информации для навигации робота. У вас будет эмулятор робота в пространстве, к которому вы допишете фрагменты обработки 3D-сцены. Чтобы не терять времени на воркшопе, заранее установите Conda и настройте среду, используя этот environment.yml, с помощью команды: conda env create -f environment.yml 📅 9 апреля, четверг, в 19:00 МСК Регистрируйтесь по ссылке и приходите сегодня вечером!

Love, 3DCV & Robots В этот четверг мы проведём воркшоп по использованию трёхмерных данных в CV-системах. На нём вы узнаете, как гуманоидные роботы собирают и обрабатывают 3D-информацию и что роднит их с аппаратом МРТ. Мы разберём, из каких этапов состоит пайплайн обработки 3D-данных и какие применения он находит в частных задачах. Вы узнаете: • как и откуда получать 3D-данные • как их правильно выравнивать и предобрабатывать • как работать с библиотекой Open3D • какие 3D DL-модели существуют и для каких представлений данных они подходят • как оценивать полученный результат • в каких практических задачах применяется 3D и как именно Во второй части воркшопа вы самостоятельно построите ключевые элементы пайплайна 3D-зрения для ориентации робота в комнате. Мы разделим вас на группы по 2-3 человека, и вы реализуете агрегацию и фильтрацию 3D-данных для построения модели комнаты, обработку данных нейросетью и извлечение информации для навигации робота. У вас будет эмулятор робота в пространстве, к которому вы допишете фрагменты обработки 3D-сцены. Чтобы не терять времени на воркшопе, заранее установите Conda и настройте среду, используя этот environment.yml, с помощью команды: conda env create -f environment.yml 🙋‍♂️Спикер воркшопа — Давид Свитов, к.т.н., IIT, ex Researcher Samsung AI Center. Давид расскажет про обработку 3D-данных и поможет вам с выполнением задания. 📅 9 апреля, четверг, в 19:00 МСК Регистрируйтесь по ссылке и приходите в четверг!