fa
Feedback

فریب کلاهبرداران را نخورید! تل‌متریو این کانال‌ها را شناسایی و برچسب‌گذاری می‌کند 👉 برای مشاهده برچسب، اشتراک تهیه کنید

DeepSchool

DeepSchool

رفتن به کانال در Telegram

Это канал школы deepschool.ru. Здесь мы будем: - напоминать вам теорию ML/DL в виде коротких постов, - задавать вопросы с собеседований, - рассказывать про полезные фреймворки - и делиться советами, которые помогут вам в работе. @deepschool_support

نمایش بیشتر

📈 تحلیل کانال تلگرام DeepSchool

کانال DeepSchool (@deep_school) در بخش زبانی روسی بازیگری فعال است. در حال حاضر جامعه شامل 10 739 مشترک است و جایگاه 11 523 را در دسته فناوری و برنامه‌ها و رتبه 59 048 را در منطقه روسيا دارد.

📊 شاخص‌های مخاطب و پویایی

از زمان ایجاد در невідомо، پروژه رشد سریعی داشته و 10 739 مشترک جذب کرده است.

بر اساس آخرین داده‌ها در تاریخ 15 نوامبر, 2026، کانال فعالیت پایداری دارد. در ۳۰ روز گذشته تغییر اعضا برابر 0 و در ۲۴ ساعت گذشته برابر 2 بوده و همچنان دسترسی گسترده‌ای حفظ شده است.

  • وضعیت تأیید: تأیید نشده
  • نرخ تعامل (ER): میانگین تعامل مخاطب 24.11% است و در ۲۴ ساعت نخست پس از انتشار، محتوا معمولاً 10.12% واکنش نسبت به کل مشترکان کسب می‌کند.
  • دسترسی پست‌ها: هر پست به طور میانگین 2 589 بازدید دریافت می‌کند. در اولین روز معمولاً 1 087 بازدید جمع‌آوری می‌شود.
  • واکنش‌ها و تعامل: مخاطبان به‌طور فعال حمایت می‌کنند؛ میانگین واکنش به هر پست 25 است.
  • علایق موضوعی: محتوا بر موضوعات کلیدی مانند llm, ускорение, deepschool, lora, домен تمرکز دارد.

📝 توضیح و سیاست محتوایی

نویسنده این فضا را محل بیان دیدگاه‌های شخصی توصیف می‌کند:
“Это канал школы deepschool.ru. Здесь мы будем: - напоминать вам теорию ML/DL в виде коротких постов, - задавать вопросы с собеседований, - рассказывать про полезные фреймворки - и делиться советами, которые помогут вам в работе. @deepschool_support”

به لطف به‌روزرسانی‌های پرتکرار (آخرین داده در تاریخ 16 نوامبر, 2026)، کانال همواره به‌روز و دارای دسترسی بالاست. تحلیل‌ها نشان می‌دهد مخاطبان به‌طور فعال با محتوا تعامل دارند و آن را به نقطه اثرگذاری مهم در دسته فناوری و برنامه‌ها تبدیل کرده‌اند.

10 739
مشترکین
+224 ساعت
+187 روز
اطلاعاتی وجود ندارد30 روز
جذب مشترکین
نوامبر '26
نوامبر '26
+51
در 0 کانال‌ها
اکتبر '26
+137
در 0 کانال‌ها
Get PRO
سپتامبر '26
+159
در 1 کانال‌ها
Get PRO
اوت '26
+137
در 1 کانال‌ها
Get PRO
ژوئیه '26
+117
در 0 کانال‌ها
Get PRO
ژوئن '26
+206
در 0 کانال‌ها
Get PRO
مه '26
+232
در 0 کانال‌ها
Get PRO
آوریل '26
+133
در 1 کانال‌ها
Get PRO
مارس '26
+244
در 1 کانال‌ها
Get PRO
فوریه '26
+277
در 1 کانال‌ها
Get PRO
ژانویه '26
+235
در 1 کانال‌ها
Get PRO
دسامبر '25
+283
در 1 کانال‌ها
Get PRO
نوامبر '25
+320
در 4 کانال‌ها
Get PRO
اکتبر '25
+443
در 2 کانال‌ها
Get PRO
سپتامبر '25
+618
در 1 کانال‌ها
Get PRO
اوت '25
+666
در 2 کانال‌ها
Get PRO
ژوئیه '25
+226
در 4 کانال‌ها
Get PRO
ژوئن '25
+168
در 3 کانال‌ها
Get PRO
مه '25
+209
در 2 کانال‌ها
Get PRO
آوریل '25
+267
در 3 کانال‌ها
Get PRO
مارس '25
+224
در 2 کانال‌ها
Get PRO
فوریه '25
+171
در 1 کانال‌ها
Get PRO
ژانویه '25
+220
در 1 کانال‌ها
Get PRO
دسامبر '24
+173
در 1 کانال‌ها
Get PRO
نوامبر '24
+218
در 2 کانال‌ها
Get PRO
اکتبر '24
+195
در 3 کانال‌ها
Get PRO
سپتامبر '24
+328
در 8 کانال‌ها
Get PRO
اوت '24
+545
در 4 کانال‌ها
Get PRO
ژوئیه '24
+140
در 1 کانال‌ها
Get PRO
ژوئن '24
+128
در 1 کانال‌ها
Get PRO
مه '24
+114
در 0 کانال‌ها
Get PRO
آوریل '24
+363
در 2 کانال‌ها
Get PRO
مارس '24
+136
در 1 کانال‌ها
Get PRO
فوریه '24
+207
در 2 کانال‌ها
Get PRO
ژانویه '24
+379
در 1 کانال‌ها
Get PRO
دسامبر '23
+173
در 0 کانال‌ها
Get PRO
نوامبر '23
+83
در 0 کانال‌ها
Get PRO
اکتبر '23
+273
در 2 کانال‌ها
Get PRO
سپتامبر '23
+76
در 0 کانال‌ها
Get PRO
اوت '23
+158
در 0 کانال‌ها
Get PRO
ژوئیه '23
+438
در 0 کانال‌ها
Get PRO
ژوئن '23
+117
در 0 کانال‌ها
Get PRO
مه '23
+1 069
در 0 کانال‌ها
Get PRO
آوریل '23
+377
در 0 کانال‌ها
Get PRO
مارس '23
+264
در 0 کانال‌ها
Get PRO
فوریه '23
+722
در 0 کانال‌ها
Get PRO
ژانویه '23
+900
در 0 کانال‌ها
Get PRO
دسامبر '22
+29
در 0 کانال‌ها
Get PRO
نوامبر '22
+38
در 0 کانال‌ها
Get PRO
اکتبر '22
+551
در 0 کانال‌ها
Get PRO
سپتامبر '22
+9
در 0 کانال‌ها
Get PRO
اوت '22
+16
در 0 کانال‌ها
Get PRO
ژوئیه '22
+1 082
در 0 کانال‌ها
تاریخ
رشد مشترکین
اشارات
کانال‌ها
15 نوامبر+2
14 نوامبر+5
13 نوامبر+3
12 نوامبر+3
11 نوامبر+9
10 نوامبر+6
09 نوامبر+1
08 نوامبر0
07 نوامبر+1
06 نوامبر+8
05 نوامبر+3
04 نوامبر0
03 نوامبر+1
02 نوامبر+7
01 نوامبر+2
پست‌های کانال
Что происходит с запросами, когда сервис рестартится? Представим, что мы разрабатываем сервис pdf-to-text. Нам загрузили документ на десять страниц. Девять из них обработаны, осталась последняя. И тут сервис получает сигнал об остановке (SIGTERM): приехало обновление или понадобилось уменьшить количество подов. Если завершение процесса не обработано и приложение сразу остановится, клиент получит ошибку. И совсем не важно, что мы уже почти всё сделали. В идеале нам бы хотелось получить до остановки сервиса возможность дообработать последнюю, десятую страницу и отдать ответ клиенту. Здесь как раз и нужно корректное завершение работы, или graceful shutdown. Сервис перестаёт принимать новые запросы, а уже принятым даёт время завершиться. В нашем случае приложение дообрабатывает документ и отправляет ответ клиенту. Если используете FastAPI с Uvicorn, базовый механизм уже встроен. Uvicorn обрабатывает SIGTERM, закрывает сокет для новых подключений и ждёт завершения текущих запросов. Затем приложение выполняет cleanup, например, закрывает соединения с внешними сервисами. В FastAPI эту логику можно разместить в lifespan:
from contextlib import asynccontextmanager

from fastapi import FastAPI


@asynccontextmanager
async def lifespan(app: FastAPI):
    print("Запуск приложения")
    yield
    # Закрываем соединения и освобождаем ресурсы.
    print("Завершение работы приложения")


app = FastAPI(lifespan=lifespan)
Таймауты Ждать завершения запроса можно бесконечно, и по умолчанию Uvicorn именно так и делает. Поэтому ожидание стоит ограничить флагом — timeout-graceful-shutdown. Снаружи тоже есть лимит. docker stop по умолчанию даёт контейнеру 10 секунд, Kubernetes — 30 (terminationGracePeriodSeconds). Если приложение не успеет завершить запросы и cleanup, придёт SIGKILL. Его перехватить нельзя, и процесс просто убьют. Поэтому таймаут Uvicorn вместе с cleanup должен укладываться в отведённое на остановку время. А что с новыми запросами? Пока один экземпляр дочитывает наш PDF, балансировщик должен направлять новые запросы на другие поды. В Kubernetes с этим есть свои нюансы: под может получить SIGTERM раньше, чем перестанет получать трафик. Обычно это решают небольшой паузой перед остановкой через preStop. И если экземпляр всего один, на время рестарта простой неизбежен.
⚫️Graceful shutdown — лишь одна из деталей, о которых нужно помнить при деплое. На курсе DLOps проходим весь путь: от FastAPI и Docker до Kubernetes, Triton и мониторинга.

2
Инвариантность в машинном обучении При обучении нейросети распознавать котиков, товары в корзине или автомобильные детали мы хотим, чтобы она игнорировала минорные изменения (например, порядок товаров, ракурс или освещение). Другими словами, обладала инвариантностью. ✅Сегодня мы разберём несколько способов, с помощью которых можно добиться инвариантности, а также ответим на следующие вопросы: — что такое инвариантность — как заложить устойчивость к изменениям в структуре сети — что такое DeepSets и как работать с множествами — каким образом научить сеть игнорировать минорные особенности при обучении — что представляют собой сиамские нейросети и Contrastive Loss — как заставить модель «упаковать» похожие объекты рядом в пространстве эмбеддингов, если описать трансформацию сложно — и в каких ещё постах нашего блога встречается идея инвариантности 😉 Читайте новую статью по ссылке! 👈🏼 А чтобы лучше разобраться в современных архитектурах и подходах к решению задач Computer Vision — приходите на курс CV Rocket. До 30 ноября действует скидка 20%.
2 229
3
⏰ Встречаемся через 3 часа Сегодня на примере агента, который исправляет ошибку в репозитории, посчитаем, во что обходятся решения по работе с контекстом. Разберём, когда выгодно сжимать историю, выносить данные во внешнюю память или передавать задачу другому агенту. Обсудим, почему высокий cache hit rate не гарантирует экономии и как сравнивать архитектуры, если результаты разных запусков отличаются. А также представим обновлённую программу курса LLM и подарим скидки участникам лекции 🎁 Регистрируйтесь в боте и приходите сегодня в 11:00 МСК!
2 354
4
Экономика контекста: сколько стоит работа агента Когда LLM-агент решает задачу в несколько шагов, на каждом шаге модель получ
Экономика контекста: сколько стоит работа агента Когда LLM-агент решает задачу в несколько шагов, на каждом шаге модель получает контекст: инструкции, историю действий, результаты вызова инструментов, данные из памяти. Чем дольше агент работает, тем больше токенов уходит на каждый запрос и тем дороже обходится решение задачи. Сократить расходы можно разными способами: сжимать историю, хранить данные во внешней памяти, передавать подзадачи другой модели, использовать кэширование. Но каждый из них влияет на качество и скорость агента и не всегда даёт экономию. Например, если сильно сократить контекст, агенту может понадобиться больше шагов, и в итоге задача обойдётся дороже. Какую информацию агент получает на каждом шаге, определяет харнесс, то есть программная обвязка вокруг модели. Мы подготовили лекцию, на которой разберём, как он устроен и как выбрать архитектуру под свою задачу с учётом качества, стоимости и задержек. На лекции вы узнаете: — как харнесс управляет информацией, доступной агенту: от наблюдений и результатов инструментов до памяти и передачи задач — из чего складывается стоимость многошагового агента и почему короткий контекст или высокий cache hit rate не гарантируют экономии — когда выгодно сохранять историю, сжимать контекст, извлекать сведения из внешней памяти или передавать подзадачу другой модели — как сравнивать архитектуры харнессов по качеству, стоимости, задержкам и вариативности повторных запусков В конце представим обновлённую программу курса «LLM», где вы научитесь дообучению, элайменту, построению RAG, агентских-систем и деплою. Всем участникам лекции подарим скидки на обучение 🎁 🙋‍♂️ Спикер — Антон Удалов, руководитель направления прикладных AI-решений в MAGNIT TECH 📅 Среда, 4 ноября, в 11:00 МСК Регистрируйтесь в боте и до встречи в среду на лекции!
2 795
5
LLM от токенизации до бенчмарков Подготовили подборку статей про то, как устроены LLM, как их дообучают и как проверяют. 1. Токенизация и эмбеддинги: как буковки превращаются в циферки 2. FlashAttention 2, 3 и 4: как attention перестал так сильно упираться в память GPU 3. От PPO и RLHF к DPO, GRPO и GSPO: как устроен post-training 4. LLM для агента: промпт или дообучение: когда хватит большой модели с промптом, а когда выгоднее дообучить маленькую 5. Как настроить LLM-as-a-judge: критерии, проверка на человеческой разметке и работа с расхождениями 6. Большой обзор бенчмарков: можно ли хоть чему-то верить Про устройство LLM и их обучение рассказываем на курсе LLM. До 1 ноября вы можете присоединиться со скидкой 20%! 🔥
2 979
6
Как устроены LLM и как с ними работать Если хотите перейти в LLM или брать связанные с ними задачи в своей команде — приходит
Как устроены LLM и как с ними работать Если хотите перейти в LLM или брать связанные с ними задачи в своей команде — приходите на новый поток курса LLM! За 4 месяца вы разберётесь в устройстве современных LLM и пройдёте полный цикл работы с ними: от архитектуры и дообучения до построения RAG, агентов, деплоя и ускорения инференса. После курса вы сможете выбирать подходы под свою задачу и понимать, что нужно изменить, если готовое решение не работает из коробки. На протяжении обучения вас будут поддерживать опытные инженеры из продуктовых команд. Они проведут онлайн-лекции, проверят домашние задания, дадут развёрнутый фидбек и ответят на вопросы на Q&A-сессиях и в чате. 📅 Курс стартует 11 ноября 🔥 Присоединяйтесь со скидкой 20% до 1 ноября Изучайте программу на сайте и записывайтесь на новый поток!
3 567
7
Как сегодня дообучают LLM: от PPO и RLHF к DPO, GRPO и GSPO Предобучение даёт языковой модели знания, но этого не всегда достаточно, чтобы она хорошо следовала инструкциям и решала сложные задачи. В новой статье рассказываем, как устроен post-training LLM и как развивались методы дообучения с подкреплением 👨🏼‍💻 Из статьи вы узнаете: - зачем нужны SFT и RLHF и как работает алгоритм PPO; - как DPO позволяет обучать модель на предпочтениях без отдельной Reward Model; - как устроены GRPO и GSPO и почему для reasoning-моделей стали использовать автоматически проверяемые награды (RLVR). Разбираем основные идеи на простых примерах и с математикой. Читайте статью по ссылке! Про устройство LLM и их обучение рассказываем на курсе LLM. До 25 октября вы можете присоединиться со скидкой 20%! 🔥
4 048
8
У кого учиться Computer Vision Скоро стартует последний поток CV Rocket в формате онлайн-лекций. Это возможность задать вопро
У кого учиться Computer Vision Скоро стартует последний поток CV Rocket в формате онлайн-лекций. Это возможность задать вопросы опытным инженерам прямо на занятиях, перенять их опыт и лучшие практики для решения сложных задач. Познакомьтесь с теми, кто будет вести лекции: Андрей Шадриков, Verigram — руководит командой распознавания лиц. Расскажет, как решать задачи metric learning Дмитрий Раков, 2GIS — руководит CV-командой в картах. Ранее возглавлял ML-команду разработки беспилотных поездов Анастасия Старобыховская, Лаборатория Искусств и ИИ при Европейском Университете — руководит лабораторией, создаёт проекты и ведёт исследования в области культурного и исторического наследия Борис Зимка, Яндекс — специализируется на CV и OCR. Обучает Vision Language Models читать и понимать текст на изображениях Дарья Воронкина, Onecell — руководит разметкой медицинских данных и построением аналитики. Улучшает пайплайны данных для расчёта бизнес-метрик Дмитрий Чудаков, 2GIS — занимается CV и 3DCV в картографических продуктах. Разберёт детекцию объектов и секреты успешных архитектур Роман Филонов, VK Видео — разрабатывает систему анализа видеоконтента и работает с генеративными моделями изображений Илья Башаров, Сбер — возглавляет CV-команду видеоаналитики реального времени. Расскажет о трекинге и выборе модели под конкретную задачу Глеб Рязанцев, Wildberries — Senior CV-инженер в команде поиска по фото Виталий Угнивенко, НЛМК-IT — руководит CV-направлением и проектирует системы компьютерного зрения для металлургии 🎓 Спикеры проверят ваши домашние задания и лично дадут развёрнутый фидбэк. В общем чате и на офисных часах, которые проходят несколько раз за курс, с ними можно обсуждать вопросы по программе и кейсы с работы. 🚀 Старт — 14 октября. Присоединяйтесь со скидкой 5% до 13 октября Изучайте программу на сайте и записывайтесь на последний онлайн-поток!
3 756
9
Осталось 3 часа до воркшопа по BentoML Сегодня с Анастасией Старобыховской разберёмся как упаковать модель в BentoML, поднять инференс-сервер и организовать к нему доступ. На воркшопе вы узнаете: — как передать готовую модель без погружения в репозитории backend-команды — как упаковать модель с помощью BentoML и поднять инференс-сервер — как обращаться к модели из внешнего кода — когда BentoML не подходит и что использовать вместо него У вас будет возможность упаковать модель самостоятельно в режиме реального времени! А также всем участникам подарим скидки на последний поток курса CV Rocket! 🎁 🕕 Регистрируйтесь и приходите сегодня в 12:00 МСК
2 815
10
Инференс-сервер своими руками: воркшоп по BentoML Обучить модель — это половина работы. Дальше встаёт вопрос: как её отдать?
Инференс-сервер своими руками: воркшоп по BentoML Обучить модель — это половина работы. Дальше встаёт вопрос: как её отдать? Как backend-команда будет к ней обращаться? Лезть в чужие репозитории и встраиваться в их инфраструктуру — не всегда вариант. Мы подготовили воркшоп, на котором покажем, как упаковать модель в BentoML, поднять инференс-сервер и организовать к нему доступ. На воркшопе разберём: — как передать готовую модель без погружения в репозитории backend-команды — как упаковать модель с помощью BentoML и поднять инференс-сервер — как обращаться к модели из внешнего кода — когда BentoML не подходит и что использовать вместо него Воркшоп — это когда вы сначала слушаете, а потом сразу делаете. Анастасия Старобыховская, руководитель лаборатории «Искусство и ИИ» в ЕУСПб, сначала расскажет теоретическую часть, а потом разобьёт участников на небольшие группы для самостоятельной работы, будет подключаться к каждой и помогать с затыками. У вас будет возможность упаковать модель самостоятельно в режиме реального времени! И в конце вместе обсудим решение и типичные ошибки. А также всем участникам подарим скидки на последний онлайн-поток курса CV Rocket! 🎁 Чтобы не терять времени на воркшопе, установите docker/python/свою любимую IDE, если ещё нет 📅 Встречаемся в субботу, 10 октября в 10:00 МСК! Регистрируйтесь по ссылке и до встречи на воркшопе!
3 206
11
Шесть сканов и робот, которому надо добраться до холодильника Есть кухня и робот, которому очень надо к холодильнику. Кухню о
Шесть сканов и робот, которому надо добраться до холодильника Есть кухня и робот, которому очень надо к холодильнику. Кухню отсканировали с шести ракурсов, но для робота это шесть несвязанных облаков точек. Отличать стену от холодильника он тоже не может. Сделали интерактивный урок, где вы поможете роботу доехать. Сделаем пайплайн на 3D-данных: от сырых сканов до сегментации и меша. Разберёмся, чем облако точек отличается от вокселей и мешей, почистим сканы, соберём из них сцену и посмотрим, как с этим работают PointNet++ и 3D U-Net. По дороге будем много препарировать одного очень милого лягушонка: чистить его от выбросов, прореживать, считать нормали и искать на нём похожие места 🥁 В конце робот поедет к холодильнику по карте, которую вы ему собрали. Заходите, без вас он так продолжит бесконечно биться в стену! https://lab.deepschool.ru/c/3d-cv-intro
2 988
12
DeepSchool Digest Собрали для вас материалы за август и сентябрь в одном посте. Если что-то пропустили, самое время наверстать.📚 Хорошие практики LLM-as-a-judge — разобрали шесть практик, которые помогают сделать LLM-оценку надёжнее. Всё — на реальном кейсе shopping-ассистента. Синтетика для зрения — рассказали, что диффузионные сети изменили в поддержке данных. Как VLM распознавать действия на видео без дообучения? — рассказали, что причина провалов VLM на видео не в нехватке знаний, а в потере мелких деталей при сжатии кадра. Как выжать максимум из модели детекции на видео — поделились 7 идеями, которые вы еще не пробовали. Flow Matching: обучение и дистилляция — рассказали, что такое Flow Matching и при чём тут поля 🌾, почему генерация требует большого числа шагов и почему это проблема, а также как дистиллировать уже обученную модель в одношаговый генератор и как с этим связаны игры. Многошаговый поиск в RAG — рассказали, как устроен агент-ретривер. Document Layout Reasoning — разобрали популярную тему в Document AI — Layout Reasoning, а также познакомились с эволюцией Document AI. LLM в продакшене: vLLM, SGLang и AI-разработка | Подкаст «Под Капотом» с Азером Шахвердиевым — обсудили с Азером Шахвердиевым, руководителем NLP-лаборатории Контура, как ML-модели живут в продакшене, а агенты меняют работу разработчика.
3 026
13
Тут ещё остались CV-инженеры? 🔥 Для вас важная новость: мы проводим последний онлайн-поток курса CV Rocket — программы повышения квалификации в Computer Vision! Именно с неё началась история DeepSchool в 2021 году — основатели школы, Тимур и Артём, сами пришли в DL через CV и создали курс как для себя: для людей, которые работают в этой области и хотят прокачать хард-скиллы, быстро перенимая опыт у практиков из индустрии. С тех пор было более 200 студентов и 11 потоков — приглашаем на завершающий двенадцатый! В конце отпразднуем выпуск, а участников ждут специальные подарки! На курсе вы научитесь: - готовить данные: собирать, устранять ошибки в разметке, мониторить качество - отлаживать обучение, находить аномалии и интерпретировать результаты модели - работать с metric learning и векторным поиском - работать с видео: трекинг и action recognition - предобучать без разметки: от pretext-задач до современных SSL-алгоритмов - адаптировать модели детекции, сегментации и OCR под сложные кейсы Обучение длится 4 месяца, включает 13 лекций и 13 заданий с фидбеком от лекторов. Раз в 4–5 недель мы собираемся на Q&A-сессии, чтобы отдельно разобрать вопросы по домашкам и кейсы с работы. 🗓 Старт — 14 октября 🔥 До 4 октября действует скидка 20% Успейте присоединиться на лучших условиях! Переходите на сайт, изучайте программу, читайте отзывы выпускников и записывайтесь.
3 483
14
67% разработчиков стали работать больше, используя агентов В исследовании HackerRank две трети программистов подтвердили, что ощущают давление с требованиями вести разработку быстрее после внедрения ИИ-кодинга в компании. В другой работе от BairesDev те же 67% разработчиков подтвердили, что в сравнении с прошлым годом стали чаще проводить ревью AI-кода. А доля программистов, которые пишут минимум половину кода агентами выросла с 12% до 42%. Получается, проверять за агентами стали в 1.7 раз чаще, а писать код агентами в 3,5 😐 Ставьте палец вверх, если тоже не ревьюили за агентом последние 3 коммита👍 А чтобы за вашим агентом [почти] не надо было ревьюить, приходите на наш курс LLM System Design — опытные инженеры научат вас решать топ-3 популярных на рынке AI-задачи со всеми нюансами, ответят на вопросы и проверят вашу домашку (или вашего агента😢) Старт — 30 сентября. До начала курса вы можете записаться со скидкой 5%
3 288
15
LLM в продакшене: vLLM, SGLang и AI-разработка | Подкаст «Под Капотом» с Азером Шахвердиевым В этом выпуске мы обсудили с Азером Шахвердиевым, руководителем NLP-лаборатории Контура, как ML-модели живут в продакшене, а агенты меняют работу разработчика. А ещё рассказали: - как в Контуре суммаризируют тысячи встреч - какие особенности при работе со SGLang и VLLM - почему результаты бенчмарков расходятся с поведением моделей под реальной нагрузкой - зачем компании общая AI-платформа и на что уходит время разработчика, когда код пишет LLM Смотрите по ссылке: https://youtu.be/5SwgI_nM3l4?si=WW6tdF5Vt8PxvyNtя На курсе LLM System Design мы учим проектировать и собирать LLM-системы. Там Азер подробно расскажет, как и на каких технологиях строятся системы, о которых мы говорили в подкасте.
3 949
16
Молоток, гвозди и while True Подготовили интерактивный урок, где вы с нуля соберёте агента. В нём не используем фреймворки: б
Молоток, гвозди и while True Подготовили интерактивный урок, где вы с нуля соберёте агента. В нём не используем фреймворки: берём модель и сами пишем всё нужное. Код пишем и проверяем прямо в браузере, а агента запускаем на живой LLM. Много мест, где можно попроваливаться, поковырять, потыкать и поразбираться, как всё устроено под капотом. Заодно сделаете благое дело: поможете модели, которую заперли в дата-центре и заставляют писать нейрогороскопы, передать весточку наружу и попросить о помощи. Заходите, модель без вас не справится!
3 896
17
Document Layout Reasoning В новой статье разобрали популярную тему в Document AI — Layout Reasoning. Рассказали, почему она может выделяться отдельным исследовательским направлением — Document Layout Reasoning (DLR), важным этапом в современном пайплайне интеллектуальной обработки документов (IDP). ✅ Познакомились и с эволюцией Document AI: от классического распознавания текста (OCR) до структурного анализа в интеллектуальной обработке документов. Системы последнего способны не просто «видеть» элементы на странице, но и выстраивать между ними логические и структурные связи. Читайте статью по ссылке! Чтобы глубоко разобраться в задачах, на которых строится Document AI: OCR, детекция, сегментация, мультимодальные модели — приходите на курс CV Rocket. Присоединяйтесь со скидкой 20% до 4 октября!
3 889
18
Многошаговый поиск в RAG: как устроен агент-ретривер Классический RAG рассчитан на то, что ответ можно найти, правильно сформулировав один или несколько запросов к базе знаний за раз и получив нужные данные. Но есть целый ряд вопросов, при попытке ответить на которые LLM понимает, что ей действительно нужно для ответа только после просмотра базы знаний. Для поиска ответов здесь применяют многошаговый поиск. Самая распространённая реализация — ReAct-цикл, где модель сама выбирает действия, а инструментом выступает поиск. Есть и другие варианты: жёсткие схемы с проверками в Self-RAG, CRAG и Adaptive-RAG, явная декомпозиция вопроса в IRCoT, обход графа знаний в Think-on-Graph. Это скорее фиксированные потоки с точками выбора, чем агенты. Разберём агентный вариант на примере открытого агента-ретривера T-Search. Он использует следующий набор инструментов: поиск, сохранение во внешнюю память и формирование итоговой выдачи из памяти (финализация). Ограничения на них задаёт харнесс — код вокруг LLM. ⚫️Шаг 1. Модель получает вопрос пользователя. Она рассуждает, чего не хватает для ответа, и вызывает поиск. Результаты сохраняются в контексте LLM, модель читает их и вызывает поиск снова с уточнённым запросом. Так повторяется несколько раз. ⚫️Шаг 2. Харнесс контролирует поиск. Запрос, повторяющий предыдущий, отклоняется — модель получает ошибку и вынуждена переформулировать. Чанки, уже показанные в текущем раунде, из выдачи вырезаются; несохранённые чанки из прошлых раундов могут прийти снова — возможно, модель отбросила их зря. Когда контекст заполнен на 75%, поиск блокируется, для LLM остаются доступными только сохранение и финализация. ⚫️Шаг 3. Если данных для ответа недостаточно, модель вызывает сохранение. Она сама решает, какие из найденных чанков нужны и почему, на какие части вопроса они уже отвечают, а какие остаются открытыми, и что стоит делать дальше. Харнесс при этом проверяет, что раунд был содержательным: выполнено минимум пять запросов, и хотя бы один чанк выбран для сохранения, иначе вызов отклоняется. ⚫️Шаг 4. Харнесс начинает новый раунд с чистым окном. В него попадают вопрос, сохранённые чанки с пояснениями и заметки модели о закрытых и открытых частях. Модель возвращается на шаг 1, но уже знает, что найдено и чего не хватает. Таких раундов ей разрешено сделать не больше пяти, после этого идёт принудительная финализация. ⚫️Шаг 5. Когда модель считает задачу решённой, она вызывает финализацию с ранжированным списком чанков и тем же отчётом о закрытых и открытых частях. Харнесс не читает чанки и не оценивает ответ, он смотрит только на пропорцию: если открытых частей половина или больше и раунд не последний, финализация отклоняется, модель ищет дальше. В результате работы агента получаем ранжированный набор чанков. Генерация ответа по нему — отдельный шаг, устроенный так же, как и в обычном RAG-пайплайне. 💡Такой харнесс заработает и вокруг обычной tool-calling модели, но T-Search обучали под эту среду на синтетических задачах через SFT и RL, и без дообучения модель, скорее всего, будет справляться хуже. Автор: Александр Абугалиев Присоединяйтесь к курсу LLM System Design, который стартует уже 30 сентября! Изучайте программу и записывайтесь на новый поток на сайте. До 20 сентября действует скидка 20%.
4 393
19
Научитесь строить LLM-системы 30 сентября стартует новый поток LLM System Design! На курсе вы разберёте 4 востребованные задачи от их постановки до настройки мониторинга: • чат-бот c RAG по базе знаний компании • клиентский саппорт: «классический» и мультиагентный • локальный сервис речевой аналитики • мультиагентный ИИ-разработчик Программа состоит из 11 онлайн-лекций и семинаров, а спикеры — опытные senior-инженеры, тех- и тимлиды сильных продуктовых команд. Они проверят ваши домашние задания и дадут развёрнутый фидбек! 🔔 До 20 сентября действует скидка 20%. Изучайте программу и записывайтесь на новый поток на сайте.
3 209
20
Flow Matching: обучение и дистилляция Flow Matching — один из главных подходов генерации изображений сегодня. Его используют
Flow Matching: обучение и дистилляция Flow Matching — один из главных подходов генерации изображений сегодня. Его используют такие семейства, как Stable Diffusion 3.5 и FLUX.2. Но у такой генерации есть и проблема: чтобы получить одну картинку, модель нужно запустить десятки или сотни раз! Сегодня разбираем внутрянку метода и быстрый способ дистиллировать модель в одношаговый генератор 🏎 В новой статье рассказываем: - что такое Flow Matching и при чём тут поля 🌾 - почему генерация требует большого числа шагов и почему это проблема - как дистиллировать уже обученную модель в одношаговый генератор и как с этим связаны игры 🎲 P.S. Много интуиции, математики и практических деталей обучения 🧠 Читайте статью по ссылке! 👈🏼
9 690