Время Валеры
Kanalga Telegram’da o‘tish
Мне платят за то, что я говорю другим людям что им делать. Автор книги https://www.manning.com/books/machine-learning-system-design https://venheads.io https://www.linkedin.com/in/venheads Реклама: @arturtimofeevv
Ko'proq ko'rsatish📈 Telegram kanali Время Валеры analitikasi
Время Валеры (@cryptovalerii) Rus til segmentidagi kanali faol ishtirokchi. Hozirda hamjamiyat 31 938 obunachidan iborat bo'lib, Texnologiyalar & Aralashmalar toifasida 4 162-o'rinni va Rossiya mintaqasida 20 050-o'rinni egallagan.
📊 Auditoriya ko‘rsatkichlari va dinamika
невідомо sanasidan buyon loyiha tez o‘sib, 31 938 obunachiga ega bo‘ldi.
12 Oktabr, 2026 dagi oxirgi ma’lumotlarga ko‘ra kanal barqaror faollikka ega. Oxirgi 30 kunda obunachilar soni 1 155 ga, so‘nggi 24 soatda esa -7 ga o‘zgardi va umumiy qamrov yuqori darajada qolmoqda.
- Tasdiqlash holati: Tasdiqlanmagan
- Jalb etish (ER): Auditoriya o‘rtacha 54.63% darajada jalb etiladi. Nashrdan keyingi dastlabki 24 soatda kontent odatda umumiy obunachilar sonining 25.44% ini tashkil etuvchi reaksiyalarni to‘playdi.
- Post qamrovi: Har bir post o‘rtacha 17 468 marta ko‘riladi; birinchi sutkada odatda 8 135 ta ko‘rish yig‘iladi.
- Reaksiyalar va o‘zaro ta’sir: Auditoriya faol: har bir postga o‘rtacha 376 ta reaksiya keladi.
- Tematik yo‘nalishlar: Kontent engineer, claude, стартап, архитектура, many kabi asosiy mavzularga jamlangan.
📝 Tavsif va kontent siyosati
Muallif resursni shaxsiy fikrni ifoda etish maydoni sifatida ta’riflaydi:
“Мне платят за то, что я говорю другим людям что им делать.
Автор книги https://www.manning.com/books/machine-learning-system-design
https://venheads.io
https://www.linkedin.com/in/venheads
Реклама: @arturtimofeevv”
Yuqori yangilanish chastotasi (oxirgi ma’lumot 13 Oktabr, 2026 da olingan) sababli kanal doimo dolzarb va katta qamrovli bo‘lib qoladi. Analitika auditoriya kontent bilan faol hamkorlik qilishini, uni Texnologiyalar & Aralashmalar toifasidagi muhim ta’sir nuqtasiga aylantirishini ko‘rsatadi.
31 938
Obunachilar
-724 soatlar
+2707 kun
+1 15530 kun
Ma'lumot yuklanmoqda...
O'xshash kanallar
Taglar buluti
Kirish va chiqish esdaliklari
---
---
---
---
---
---
Obunachilarni jalb qilish
Oktabr '26Okt '26
Oktabr '26
+955
11 kanalda
Sentabr '26
+587
6 kanalda
Get PRO
Avgust '26
+490
11 kanalda
Get PRO
Iyul '26
+492
6 kanalda
Get PRO
Iyun '26
+401
9 kanalda
Get PRO
May '26
+378
10 kanalda
Get PRO
Aprel '26
+561
9 kanalda
Get PRO
Mart '26
+623
5 kanalda
Get PRO
Fevral '26
+488
6 kanalda
Get PRO
Yanvar '26
+687
14 kanalda
Get PRO
Dekabr '25
+324
8 kanalda
Get PRO
Noyabr '25
+503
8 kanalda
Get PRO
Oktabr '25
+361
7 kanalda
Get PRO
Sentabr '25
+601
7 kanalda
Get PRO
Avgust '25
+628
7 kanalda
Get PRO
Iyul '25
+1 285
8 kanalda
Get PRO
Iyun '25
+1 078
6 kanalda
Get PRO
May '25
+660
17 kanalda
Get PRO
Aprel '25
+331
4 kanalda
Get PRO
Mart '25
+635
8 kanalda
Get PRO
Fevral '25
+479
3 kanalda
Get PRO
Yanvar '25
+863
10 kanalda
Get PRO
Dekabr '24
+529
9 kanalda
Get PRO
Noyabr '24
+896
8 kanalda
Get PRO
Oktabr '24
+587
5 kanalda
Get PRO
Sentabr '24
+508
2 kanalda
Get PRO
Avgust '24
+699
7 kanalda
Get PRO
Iyul '24
+461
5 kanalda
Get PRO
Iyun '24
+1 319
6 kanalda
Get PRO
May '24
+628
6 kanalda
Get PRO
Aprel '24
+757
5 kanalda
Get PRO
Mart '24
+743
3 kanalda
Get PRO
Fevral '24
+460
8 kanalda
Get PRO
Yanvar '24
+1 060
15 kanalda
Get PRO
Dekabr '23
+460
8 kanalda
Get PRO
Noyabr '23
+477
6 kanalda
Get PRO
Oktabr '23
+298
2 kanalda
Get PRO
Sentabr '23
+317
0 kanalda
Get PRO
Avgust '23
+382
0 kanalda
Get PRO
Iyul '23
+639
0 kanalda
Get PRO
Iyun '23
+294
0 kanalda
Get PRO
May '23
+1 399
0 kanalda
Get PRO
Aprel '23
+1 328
0 kanalda
Get PRO
Mart '23
+601
0 kanalda
Get PRO
Fevral '23
+360
0 kanalda
Get PRO
Yanvar '23
+731
0 kanalda
Get PRO
Dekabr '22
+475
0 kanalda
Get PRO
Noyabr '22
+676
0 kanalda
Get PRO
Oktabr '22
+310
0 kanalda
Get PRO
Sentabr '22
+332
0 kanalda
Get PRO
Avgust '22
+1 567
0 kanalda
Get PRO
Iyul '22
+537
0 kanalda
Get PRO
Iyun '22
+410
0 kanalda
Get PRO
May '22
+558
0 kanalda
Get PRO
Aprel '22
+581
0 kanalda
Get PRO
Mart '22
+1 638
0 kanalda
Get PRO
Fevral '22
+872
0 kanalda
Get PRO
Yanvar '22
+3 172
0 kanalda
Get PRO
Dekabr '21
+2 175
0 kanalda
| Sana | Obunachilarni jalb qilish | Esdaliklar | Kanallar | |
| 13 Oktabr | +2 | |||
| 12 Oktabr | +2 | |||
| 11 Oktabr | +8 | |||
| 10 Oktabr | +8 | |||
| 09 Oktabr | +4 | |||
| 08 Oktabr | +60 | |||
| 07 Oktabr | +144 | |||
| 06 Oktabr | +139 | |||
| 05 Oktabr | +135 | |||
| 04 Oktabr | +25 | |||
| 03 Oktabr | +39 | |||
| 02 Oktabr | +100 | |||
| 01 Oktabr | +289 |
Kanal postlari
Repost from karpov.courses
+1🎙🎙🎙🎙🎙
Главный признак, что пора в сеньоры ML: сложные кейсы перестали казаться сложными, а новые проекты — по-настоящему новыми.
Если вы все чаще ловите себя на мысли, что пора расти дальше, приходите на прямой эфир с Валерием Бабушкиным — человеком, который сам прошел путь до сеньора в машинном обучении и может дать вам экспертный совет ✅
↖️ Прямой эфир с Валерием Бабушкиным
Как расти в ML: грейды, собеседования и проектирование систем
Встреча пройдет в формате Q&A. Каждый участник сможет задать вопрос Валерию о карьере и получить экспертный ответ. Заодно обсудим, как перейти от роли исполнителя к участию в проектировании ML-систем.
Будет полезно продактам и проджект-менеджерам, тимлидам ML-команд, ML-инженерам, DS, MLOps (middle+) и свитчерам из разработки или аналитики.
❓Свой вопрос можете отправить при регистрации на событие или в чат во время эфира.
Спикер: Валерий Бабушкин — старший директор данных, аналитики и искусственного интеллекта в British Petroleum.📅 Когда: 15 октября в 19:00 мск 📌 Записаться
| 2 | Комментарии и вопросы по стриму можно оставлять здесь. | 9 055 |
| 3 | Вчера общался со старшим директором по Data Science в одной компании в Штатах. Оказалось, что именно она была автором той самой модели в Target, которая в своё время отправила купоны со скидками на детские товары в семью, где отец ещё не знал, что его дочь беременна.
Той самой, после которой он в ярости прибежал в ближайший магазин Target разбираться: С какого перепуга вы присылаете моей дочери такое (My daughter got this in the mail!” he said.“She’s still in high school, and you’re sending her coupons for baby clothes and cribs? Are you trying to encourage her to get pregnant?)? А спустя некоторое время вернулся и сказал: Да, она беременна.
У меня к ней был один главный вопрос. В сообществе ведь ходили две версии этой байки. По одной, девушка сама ещё не знала о беременности, а модель уже всё поняла. По другой — девушка знала и уже покупала какие-то товары, по которым модель определила беременность и начала предлагать скидки на соответствующие покупки. Не знал только отец.
Ну и тайна раскрылась: по её словам, сама девушка уже знала, что беременна.
Конечно, забавно в какой-то момент карьеры встречать людей, о которых ты никогда не слышал, но прекрасно знаешь о том, что они создали.
А еще она пишет детские книжки | 17 848 |
| 4 |  +1Прежде чем делиться документом, его полезно сжать, сохранив информацию (скилл здесь, https://t.me/cryptovalerii/999 - если сжимает мало, попросите сделать экстремальное сжатие). Читателю меньше работы, автору приходится разобраться, что он вообще хотел сказать, для модели — компаундный эффект (экономия на каждом прогоне).
С контекстом для LLM похожая история (часто документ и является контекстом), только хуже.
Допустим, вы делаете агента, которому нужны данные из интернета. Проблемы начинаются раньше, чем кажется: нужен программный доступ к поисковой выдаче, а его негде взять. И даже когда доступ есть, найти страницы недостаточно — их нужно скачать, почистить HTML, нарезать на фрагменты, выбрать подходящие и передать модели.
Я уже рассказывал про Yandex Scale — теперь у них появились Smart Snippets в Yandex Search API. Отправляете запрос, получаете релевантные фрагменты найденных страниц с цитатами и ссылками на источники. Поиск и подготовка веб-контекста — одним вызовом API.
Каждый фрагмент — примерно 500 токенов. В контекст идут выбранные части страниц. Итоговый ответ на их основе формирует ваша модель: Smart Snippets подготавливают для неё материал.
По данным Yandex Cloud, это сокращает количество токенов веб-контекста до 3 раз при том же качестве ответа.
Тут полезно правильно посчитать экономику. Если веб-контекст сократился втрое, весь счёт за LLM втрое не уменьшится из за остальной обертки: остаются инструкции, история диалога, генерация ответа. Плюс стоимость самого поиска. Но если агент регулярно ходит в интернет и приносит много текста, оптимизировать эту часть вполне имеет смысл.
Ну и приятная возможность — снять с себя часть работы по обработке веб-контента. Это, к сожалению, не значит, что поддерживать становится нечего: свой код вокруг ответа API остаётся, и отвечать за то, как это работает в проде, всё равно кому-то придётся.
Есть смысл потестировать на своих запросах качество ответов, полную стоимость запроса и задержку. Если качество сохраняется, а стоимость и объём поддержки снижаются — есть вполне понятная причина использовать.
Протестировать можно здесь | 14 911 |
| 5 |  Нет совета директоров? Одолжим на вечер: в четверг шесть экспертов разберут ваш AI-проект
Обычно на вопрос «как запустить AI-продукт» отвечает кто-то один. И отвечает со своей колокольни: технолог про архитектуру, предприниматель про продажи, инвестор про метрики.
В четверг мы соберём за одним столом шесть человек с очень разным опытом. По сути, это совет директоров, которого у ранних проектов обычно нет:
Валерий Бабушкин — взгляд технолога, который строил ML в Alibaba и руководил AI-командами до 600 человек
Игорь Зуев — взгляд практика, в портфеле которого 30+ приложений на рынок ЕС и США, выручка $1.5 млн+ в год
Артём Субботин — взгляд продуктовика, который 20 лет создаёт тренды в hardware
Николай Хлебинский — взгляд серийного предпринимателя, который построил Retail Rocket
Александр Горный — взгляд стратега, который в Mail.Ru Group (VK) помогал выбирать компании для покупок и инвестиций на полмиллиарда долларов
Андрей Резинкин — взгляд инвестора, в чьём портфеле 20+ стартапов на разных стадиях: от идеи до $100 млн выручки
Где искать нишу, на чём собирать, откуда брать первых клиентов и когда пора масштабироваться — у каждого из шестерых будет свой ответ. И самое полезное начнётся там, где они не согласятся друг с другом.
В конце Q&A: приходите с вопросом по своему проекту, совет директоров его рассмотрит.
Эфир для всех, кто делает AI-продукт, думает о запуске или хочет понять, где в AI сейчас деньги.
📅 Четверг, 8 октября, 19:00–21:00 мск, Zoom
💰 Бесплатно. Условие одно: подписка на каналы спикеров, бот всё проверит
Ссылку на эфир и запись получат только зарегистрированные:
👉 Занять место на эфире | 12 732 |
| 6 | В воскресенье, 11 октября в 19 по Лондону (21 по мск), проведём стрим с моим другом и будущим соавтором книги про дизайн агентских систем — Алексеем.
Он долгое время работал в информационной безопасности: разрабатывал антивирусные технологии, системы обнаружения сложных целенаправленных атак и инфраструктуру для обработки больших объёмов данных. Технологии, созданные под его руководством, лицензировали и использовали Яндекс, ВКонтакте, Одноклассники и другие крупные компании.
Последние несколько лет Алексей строит production-агентов для бизнеса — системы, которым можно доверить реальные бизнес-процессы.
В центре его интересов — архитектура агентских систем и agent harness, tool calling, управление контекстом, evals, а также надёжность и контроль поведения агентов в production. | 16 483 |
| 7 |  AI-проекты с нуля: как выбрать нишу, собрать продукт и выйти на первую выручку
Собрать AI-продукт сейчас можно за выходные. Сложнее добиться, чтобы им пользовались и за него платили: большинство таких проектов так и остаются демками.
8 октября на онлайн-панели разберём весь путь от идеи до первых денег.
Обсудим:
— как выбрать нишу, которую не съест следующий релиз OpenAI
— на чём собирать продукт: готовые API, агенты или своя модель, и как не утонуть в стоимости токенов
— где найти первых платящих клиентов без бюджета на маркетинг
— по каким сигналам понять, что проект пора масштабировать или закрывать
Спикеры:
Андрей Резинкин — ангел-инвестор в 20+ стартапах
Валерий Бабушкин — ex-VP of ML в Alibaba, руководил AI-командами до 600 человек в BP, Kaggle Grandmaster
Игорь Зуев — в портфеле 30+ приложений на рынок ЕС и США, выручка $1.5 млн+ в год
Артём Субботин — 20 лет опыта в hardware и создании глобальных трендов
Николай Хлебинский — серийный IT-предприниматель, основатель Retail Rocket
Александр Горный — ex-директор по стратегии Mail.Ru Group (VK), основатель клуба для предпринимателей ShareAI
📅 Когда: 8 октября, четверг, 19:00 мск
📍 Где: онлайн, Zoom
💰 Стоимость: бесплатно, нужна подписка на каналы всех спикеров
❓Q&A: да, приносите вопросы по своим проектам
Доступ к трансляции и запись получат только зарегистрированные — забирайте место:
👉 Зарегистрироваться на конференцию | 18 479 |
| 8 | Не перестаю радоваться и удивляться тому, что студенты всегда остаются студентами. Вот и в эту субботу они в очередной раз это доказали.
Команда из пяти человек. Все очень серьёзные люди, умудрённые опытом, сединами и отягощенные грузом PhD: архитекторы, совладельцы бизнеса - вообщем серьезные дядьки.
Должны были продемонстрировать и защитить первую половину дизайн-документа по агентной системе, которая призвана ревьюить дизайн-документы. Они начали переделывать под себя систему с предыдущего потока, потому что задача у них как у архитекторов достаточно интересная: какие вопросы нужно задать и какие ответы получить, чтобы снизить дисперсию оценки проекта. Это, очевидно, очень важно для любой компании, которая оценивает проекты, а затем их выполняет.
Изначально они должны были защищаться за неделю до этого, но попросили отсрочку: все разъехались по командировкам. Люди, опять же, занятые.
Договорились встретиться на защите в субботу.
Суббота наступила, я заварил чай, думаю: «Ну, наконец-то я буду не читать, а слушать».
Начинаем занятие, вызываю команду:
И тут лидер команды говорит:
— А мы сегодня не готовы и документ не покажем
Чем в очередной раз подтверждает: студенты всегда остаются студентами.
Дисперсию они, очевидно, не снизили. | 15 542 |
| 9 | В последнее время все дружно делают корпоративных AI-агентов и постепенно приходят к замечательной мысли: чтобы модель делала работу, ей надо дать доступ к работе. А не только поле, куда работяга будет заботливо копировать содержимое остальных корпоративных систем.
OpenAI называют это переходом от assistance к execution. Microsoft развивает skills, коннекторы к корпоративным данным и взаимодействие агентов между собой. В общем, хочется, чтобы AI уже что-нибудь сделал, а не только рассказал, как это можно было бы сделать. Вполне понятное желание.
Яндекс туда же: на Yandex Scale 2026 (обсуждали здесь) анонсировали Алису AI Про. Заявленный сценарий — сотрудник описывает задачу обычным языком, а дальше Алиса сама определяет шаги (делает стейт машину?), подбирает инструменты и работает с подключёнными корпоративными системами (mcp/a2a registry?). Для сложной задачи может собрать команду специализированных агентов, которые параллельно занимаются документами, поиском информации и прочими частями работы (конкурент моей книге по дизайну AI систем?)
В целом задача непростая
Модель, даже очень умная, сама по себе не знает, как устроена ваша компания. Где лежит актуальный договор, кто согласовывает закупку, откуда брать цифры для отчёта и почему файл «финал_финал_2» использовать нельзя (лекция про rag), а надо спросить у человека, который сейчас в отпуске. В обучающую выборку эти замечательные знания, скорее всего, не попали.
Ей нужны документы, внутренние инструкции, CRM, почта, трекер, базы знаний и правила выполнения конкретных операций. Причём всё это надо не просто подключить, но и разобраться, что кому можно читать и менять. Просьба в системном промпте «пожалуйста, не показывай чужие данные» проверку прав доступа не заменяет.
Дальше надо решить, какие действия агент выполняет сам, а где должен остановиться и спросить человека.
У Алисы AI Про такие разрешения предусмотрены отдельно. Потому что между «подготовь письмо клиенту» и «отправь письмо клиенту» разница небольшая только в количестве букв.
В общем, снова данные, интеграции, permissions и оркестрация. Обычный system design, который после появления LLM почему-то никуда не делся. Хорошая модель нужна, но работу по встраиванию в конкретную организацию за вас не отменяет.
Для российского enterprise есть ещё вопрос, где всё это разворачивается и куда уходят данные. Если компания не готова отправлять их во внешнее облако, рассказ о том, какой у вас замечательный интеллект, обсуждение далеко не продвинет. Поэтому мои бывшие коллеги, Яндексоиды, предусмотрели варианты on-premises и гибридного развёртывания, выбор модели и собственные специализированные навыки.
Конкретные условия и доступность возможностей имеет смысл обсуждать наравне с качеством самой модели как ещё одну часть ТТХ
Поэтому я бы смотрел на довольно простую вещь: сколько работы после внедрения перестал делать сотрудник. С учётом времени на подготовку контекста, проверку и исправление результата, конечно.
Если он по-прежнему должен всё найти, скачать, скопировать, принести в чат, а потом разнести ответ обратно по системам, то агент у вас, возможно, и появился.
Но коннектором в этой архитектуре всё ещё работает человек. | 18 898 |
| 10 | Про важное поговорили, теперь можно про ML.
Сейчас читаю ML System Design (который уже неприлично разросся: 5 месяцев и 10+ часов контента только по агентским системам, а всего 60+) в школе ML Inside (запись на текущий поток закрыта).
Мой давний друг и коллега Витя Кантор попросил рассказать про другой его курс.
Онлайн-специализация «Искусственный интеллект и анализ данных»
Это реинкарнация старой специализации по ML на Coursera от МФТИ и Яндекса, теперь, небось, без второго Питона. В программе 7 модулей: Математика и Python, Classic ML, DL, AI-агенты, A/B, Production ML (MLOps) и введение в ML System Design. https://mlinside.ru/specializaciya
Подойдёт тем, кто хочет перейти в ML из аналитики или разработки, подтянуть теорию перед собеседованиями или просто освежить базу и разобраться в новом, например, в агентах. Учиться можно в своём темпе, все модули открыты сразу (только последний ещё в разработке).
Для студентов университетов особое предложение: покупать подписку не надо, доступ можно получить бесплатно.
Бюджет или платная форма обучения, очно или дистанционно, бакалавриат, магистратура или даже аспирантура — заполняете анкету, подтверждаете, что вы студент, и получаете доступ: https://forms.yandex.ru/u/69e893846d2d7372b90870d5 | 18 941 |
| 11 | С середины лета мегапростыня начала барахлить.
Ну как барахлить — она просто говорила, что меня нет. Я спал, а она говорит: нет, сегодня ты на мне не спал. Сначала пару раз в неделю, потом 3–4, потом уже почти каждый день. Но продолжала но ночам холодить, а по утрам греть и жужжать
Поначалу я подумал, что, возможно, уже достиг такого уровня познания, что по ночам ухожу в астрал. Но затем решил что реальность прозаичнее.
Мельдонщик из зала тоже недавно заявил ряду людей: «Что-то я давно не видел Валерия». Сказал он это людям, которым я регулярно говорил, что хожу в зал. Неловко вышло.
Потом оказалось, что он просто начал работать в другую смену, как, видимо, и мегапростыня.
В итоге я написал в команду поддержки, что вот я был, а вот меня не стало. Они почесали репу и выслали мне новую мегапростыню бесплатно.
Спасибо.
А мельдонщик, кстати, снова вышел в утреннюю смену и попросил еще мельдония. | 17 027 |
| 12 | На днях начал делать ревью А/Б-платформы от Три сигма, позавчера отправил им 9 уточняющих вопросов, и пока они отвечают, попросили прорекламировать их митап в Ташкенте.
На что я говорю: так вы ответьте на вопросы, я в одном посте разбор проведу и заодно про митап расскажу.
Говорят, не успевают, митап уже скоро.
1 октября у них митап в Ташкенте
Data-Driven – от данных к действиям | 22 043 |
| 13 | Мы давно про это знали: Design Docs Are All You Need: An AI-native Machine-Learning Performance Tool | 27 107 |
| 14 | Прочитал отличную заметку Shopify про gisting — сжатие системного промпта в обучаемые токены.
По сути, это компиляция промпта.
У GraphQL-агента Sidekick системный промпт занимал около 6 000 токенов, которые постоянно приходилось обрабатывать снова и снова.
Prefix caching решает проблему лишь частично. Модели не нужно повторно вычислять KV cache для промпта, но при генерации каждый новый токен всё равно работает со всем контекстом. Чем длиннее промпт, тем больше памяти и времени требуется на каждый шаг декодирования. Придумали логичную штуку применить: gisting
Как работает gisting.
Сначала Shopify выбрали коэффициент сжатия 4:1(это гиперпараметр) и создали 1 500 новых специальных токенов вместо 6 000 исходных.
Эти токены не были выбраны из системного промпта и не являлись его текстовым summary. Это просто новые ID вроде <GIST_1>, <GIST_2> и так далее.
Дальше:
* Все веса модели замораживаются. Обучаются только эмбединги новых gist-токенов.
* Teacher-версия модели получает полный системный промпт, запрос пользователя и начало правильного ответа. На каждой позиции она выдаёт распределение вероятностей следующего токена.
* Student-версия той же самой модели получает тот же запрос и ответ, но вместо 6 000 токенов системного промпта видит 1 500 gist-токенов;
* Распределения teacher и student сравниваются через KL divergence.
* Градиент меняет только эмбединги gist-токенов, пока student не начинает выдавать практически те же распределения ответов, что и teacher.
* Изначально новые эмбединги можно было бы задать случайно. Но Shopify нашли более эффективную инициализацию: исходный промпт разделили на группы по четыре токена, а каждый gist-embedding инициализировали средним значением эмбедингов соответствующей четвёрки. Это снизило начальный loss в семь раз.
При этом <GIST_1> не становится сокращённым обозначением первых четырёх токенов. Все 1 500 embeddings обучаются совместно и в итоге кодируют не текст промпта, а его влияние на поведение модели.
Получаем сжатие поведения: модель учат реагировать на короткую последовательность обучаемых векторов так же, как на длинную текстовую инструкцию.
В результате примерно 6 000 обычных токенов превратились в 1 500 обученных токенов. Модель ведёт себя так, будто прочитала полный промпт, хотя фактически получает его сжатое представление.
После обучения никакой отдельной архитектуры не требуется. Эмбединги записываются в embedding matrix, токены регистрируются в tokenizer, а длинный промпт при запросе просто заменяется их последовательностью. Нет дополнительного encoder, специального attention mask или отдельного serving path.
Результаты при нагрузке 350 запросов в минуту:
— time to first token: с 438 до 354 мс, −19%;
— полная задержка: с 6,8 до 4,2 секунды, −38%;
— throughput: с 20,2 до 23,4 запроса в секунду, +16%;
— требуемое количество GPU: −14%.
Качество при этом не ухудшилось.
Как они подбирали рецепт: Autoresearch-цикл сам менял гиперпараметры, запускал обучение и оценивал результат.
Так нашли оптимальное сжатие 4:1. При дальнейшем уменьшении количества gist-токенов качество начинало падать. Для другой модели, промпта и предметной области граница будет другой.
Предварительный расчёт teacher logits и токенизация сократили один обучающий прогон с 30 до 6 часов.
Оказалось также, что усреднение функции потерь по токенам ответа приводило к галлюцинациям, а усреднение по batch сохраняло больше сигнала от длинных ответов. Хорошее напоминание, что даже в относительно простой оптимизации детали функции потерь могут полностью изменить поведение системы.
Prompt engineering постепенно превращается в обычный ML engineering.
Системный промпт можно рассматривать как исходный код, а gist-токены — как его скомпилированную версию. Здесь всё знакомо: датасет, distillation, loss, evaluation, нагрузочное тестирование, мониторинг качества и стоимости.
#ArticleReview | 26 429 |
| 15 | На основе пятничного поста про промт:
Сожми документ максимально, не потеряв никакой информации.
Превратили этот подход в отдельный open-source skill — lossless-doc-compress.
Скилл читает документ целиком и относит каждый фрагмент к одной из трёх категорий:
KEEP — содержит информацию и остаётся без изменений;
REMOVE — доказуемо избыточен и удаляется;
FLAG — требует решения автора, поэтому остаётся в документе с пометкой.
Он удаляет filler, пустой hedging, LLM-slop, дословные повторы и избыточные формулировки. Сохраняет факты, цифры, решения, оговорки, ограничения, названия систем, код и таблицы.
Если есть сомнение — не удалять, дает отметку для автора
Результат: три артефакта:
Сжатый документ.
Лог всех удалений и спорных мест.
Scorecard: число слов до/после, процент сокращения и подтверждение сохранности содержания.
npx skills add ML-SystemDesign/MLSystemDesign
Код и инструкция:
https://github.com/ML-SystemDesign/MLSystemDesign/tree/main/skills/lossless-doc-compress
Это пост был прогнан через скилл | 18 005 |
| 16 |  ☁☁☁☁☁☁☁
24 сентября Yandex Cloud проведёт флагманскую технологическую конференцию — Yandex Scale 2026.
🎨🎨🎨🎨🎨🎨🎨🎨🎨🎨
🎨🎨🎨🎨🎨🎨🎨🎨🎨🎨
🎨🎨🎨🎨🎨🎨🎨🎨🎨
В программе четыре продуктовых трека — AI, Data, Security и Hybrid Infrastructure & DevOps, — и отдельный углублённый технологический трек DeepTech, который пройдёт только онлайн.
🎨🎨🎨🎨🎨🎨🎨🎨🎨🎨
🎨🎨🎨🎨🎨🎨🎨🎨🎨🎨
🎨🎨🎨🎨🎨🎨🎨🎨🎨
В треке DeepTech откроем программу докладом о том, как мы ускорили Lua в Valkey — добавили LuaJIT и Lua 5.5 без патчей интерпретатора и получили прирост скорости до 2–5 раз. Расскажем, как строим экономически эффективный инференс LLM для агентских сценариев в Yandex AI Studio — на примере DeepSeek-V3.2 и DeepSeek-V4-Flash. Разберём, что разваливается в поиске, когда он должен быть одновременно распределённым, транзакционным и линейно масштабируемым — на примере векторного, полнотекстового и гибридного поиска в YDB. Покажем, какая инфраструктура превращает недетерминированную модель в управляемый и наблюдаемый сервис, когда агент выходит из демо в продакшн. Расскажем, как мы первыми в РФ научились мониторить ИИ-агентов внутри «чёрного ящика» LLM. И заглянем под капот сети облака — Interconnect, Private Link, Inbound DNS и DNS Firewall, которые складываются в герметичный контур между Yandex Cloud, on-premises и другими облаками.
🎨🎨🎨🎨🎨🎨🎨🎨🎨🎨
🎨🎨🎨🎨🎨🎨🎨🎨🎨🎨
Плюс демозоны, питчинг решений, IT-квест и мерч для тех, кто в Москве. А кто смотрит онлайн, помимо трека DeepTech, есть ещё отдельная онлайн-студия: розыгрыш призов и секретный гость.
Полную программу можно посмотреть на сайте, там же — зарегистрироваться. Участие бесплатное | 15 137 |
| 17 | После ревью документов сегодня (один из дизайнов был на 51 страници!) даю совет всем, кто готовит документацию, пишет дизайн-доки и т. п.
1. То, что это написал агент/LLM, — не проблема, если вы это прочитали, поправили, дали контекст и т. д. Считайте, что отдали работу по редактуре. Если делегировали думать, получается чаще ерунда.
2. Прогоните свой документ через простую команду: «compress this as much as possible without losing any information» — обычно сокращает где-то в 2 раза(и заодно чистит часть слопа). Всем хорошо: вам, ревьюерам, команде, моделям. | 17 897 |
| 18 | f | 1 |
| 19 | Две первые главы книги «Agentic AI System Design» уже написаны и сейчас находятся на ревью у соавторов.
Один соавтор тот же: https://t.me/partially_unsupervised
Два — с курса по ML System Design.
По отзывам вышло неплохо:
Прочитал с кайфом и даже взял на вооружение
Надеюсь, к концу года допишем. | 19 889 |
| 20 | 3 года назад я рассказывал про сказочника в своем посте
Но тот случай был хотя бы безвредным, да и, прочитав это, сказочник быстро убрал свои фантазии.
На днях в местах, где я живу, произошла история более печальная и более масштабная со всех сторон.
Профессор Jason Arday, который стал самым молодым черным профессором в истории Кембриджа, оказался не тем, за кого себя выдавал. Оказалось, что докторская его с большой вероятностью полна плагиата.
Но здесь ничего необычного нет - плагиат встречается регулярно. Необычно то, что человека, судя по всему не очень связанного с реальностью (дальше станет понятно почему), подняли на флаг и использовали как классический токен.
Arday с каждым годом завирался все больше
* То он пробежал 600 миль (почти 1000 км) за 6 дней.
* То он научился читать и писать только в 18 лет, но при этом в 16 сдал два GCSE (аналог ОГЭ) и учился на BTEC в колледже.
* То он пролежал в коме и заново учился ходить.
* То он собрал 5 млн фунтов на благотворительность.
* Где-то сообщалось, что он говорил, что участвовал в записи телепередачи ребенком, оказалось, что она про детей, которые родились за 15+ лет до него
* И много-много чего еще, очевидно невероятного.
Его лекции, по словам студентов, представляли собой (если он приходил на них) какую-то околесицу, где в основном смотрели YouTube и затем обсуждали в группах. Это, конечно, говорит еще и про качество самой дисциплины, где он преподавал (sociology of education).
Кембридж вначале сказал, что все это клевета и навет.
Потом, под весом доказательств, когда университеты, указанные Джейсоном в резюме как те, где он почетный лектор, сообщили, что это не так и он никогда у них не был, согласился на расследование. До этого 4 месяца полиция слегка прессовала журналиста, который посмел найти плагиат у почетного академика - теперь публично извинилась.
В конце концов - Джейсон ушел в отставку, а сегодня BBC сообщило, что он найден мертвым.
В итоге история, начавшаяся как враки и фантазии, принесла множество бед. Самому Джейсону и его семье. Студентам, многие из которых заплатили деньги, чтобы слушать такую чепуху, Кембриджу, а заодно дала повод для критики практик DEI. Такой вот Мюнхгаузен наших дней.
Самое удивительное в этой истории — как настолько очевидную ложь и регулярные жалобы со стороны студентов заметали под ковер в жертву великой идее. А казалось бы, университет мирового уровня.
Поэтому каждый раз, сталкиваясь на работе с фантазерами и решая промолчать (а ситуаций, аналогичной этой, много, пусть и не в таком масштабе), подумайте о конечном эффекте и о том, к чему это может привести. | 61 641 |
