gonzo-обзоры ML статей
Авторы: Гриша Сапунов, ранее руководитель разработки Яндекс-Новостей, ныне CTO Intento. Области интересов: AI/ML/DL, биоинформатика. Лёша Тихонов, ранее аналитик в Яндексе, автор Автопоэта, Нейронной Обороны... Области интересов: discrete domain, NLP, RL.
Mostrar más📈 Análisis del canal de Telegram gonzo-обзоры ML статей
El canal gonzo-обзоры ML статей (@gonzo_ml) en el segmento lingüístico de Ruso es un actor destacado. Actualmente la comunidad reúne a 24 732 suscriptores, ocupando la posición 5 372 en la categoría Tecnologías y Aplicaciones y el puesto 26 301 en la región Rusia.
📊 Métricas de audiencia y dinámica
Desde su creación el невідомо, el proyecto ha mostrado un crecimiento acelerado, reuniendo a 24 732 suscriptores.
Según los últimos datos del 18 noviembre, 2026, el canal mantiene una actividad estable. En los últimos 30 días la variación de miembros fue de 113, y en las últimas 24 horas de 4, conservando un alto alcance.
- Estado de verificación: No verificado
- Tasa de interacción (ER): El promedio de interacción de la audiencia es 11.56%. Durante las primeras 24 horas tras publicar, el contenido suele obtener 7.28% de reacciones respecto al total de suscriptores.
- Alcance de las publicaciones: Cada publicación recibe en promedio 2 859 visualizaciones. En el primer día suele acumular 1 801 visualizaciones.
- Reacciones e interacción: La audiencia responde de forma activa: el promedio de reacciones por publicación es 12.
- Intereses temáticos: El contenido se centra en temas clave como learning, tl;dr, токенов, архитектура, контекст.
📝 Descripción y política de contenido
El autor describe el recurso como un espacio para expresar opiniones subjetivas:
“Авторы:
Гриша Сапунов, ранее руководитель разработки Яндекс-Новостей, ныне CTO Intento. Области интересов: AI/ML/DL, биоинформатика.
Лёша Тихонов, ранее аналитик в Яндексе, автор Автопоэта, Нейронной Обороны... Области интересов: discrete domain, NLP...”
Gracias a la alta frecuencia de actualizaciones (últimos datos recibidos el 19 noviembre, 2026), el canal mantiene la vigencia y un amplio alcance. La analítica demuestra que la audiencia interactúa activamente con el contenido, lo que lo convierte en un punto de referencia dentro de la categoría Tecnologías y Aplicaciones.
Cargando datos
| Fecha | Crecimiento de Suscriptores | Menciones | Canales | |
| 19 noviembre | +8 | |||
| 18 noviembre | +7 | |||
| 17 noviembre | +9 | |||
| 16 noviembre | +7 | |||
| 15 noviembre | +14 | |||
| 14 noviembre | +10 | |||
| 13 noviembre | +8 | |||
| 12 noviembre | +5 | |||
| 11 noviembre | +3 | |||
| 10 noviembre | +12 | |||
| 09 noviembre | +8 | |||
| 08 noviembre | +3 | |||
| 07 noviembre | +8 | |||
| 06 noviembre | +7 | |||
| 05 noviembre | +11 | |||
| 04 noviembre | +5 | |||
| 03 noviembre | +14 | |||
| 02 noviembre | +10 | |||
| 01 noviembre | +5 |
| 2 | Пять книг для эпохи агентов и не только
Что-то давно я обзоров книг не писал.
После недавнего интервью Постнауке меня попросили порекомендовать пять книг. Я подумал и порекомендовал. Почти пять. Ни одной про LLM среди них не оказалось, а три из пяти вышли в 1997 году. И всё по-прежнему актуально, возможно, даже больше, чем раньше.
**1. Cal Newport, Deep Work (2016) и Slow Productivity (2024)**
В эпоху мультитаскинга, когда параллельно работает несколько агентов, а ты между ними скачешь, эти книги актуальны как никогда. Первая посвящена глубокой концентрации: результат высокого качества требует длинных блоков работы без прерываний, иначе получаются поверхностные решения. Вторая о том, как добиваться больших результатов на длинной дистанции и не выгорать: делать меньше дел одновременно, работать в естественном темпе и быть одержимым качеством. Про длинную дистанцию хорошо напоминает известная арифметика: 1.01^365 ≈ 37.8, а 0.99^365 ≈ 0.03. Обе книги поднимают вопрос о том, как измерять эффективность интеллектуального труда. Привычную подмену, когда видимую занятость принимают за результат, Ньюпорт называет pseudo-productivity. Задача по-прежнему не решена, а с приходом агентов её придётся переосмыслить ещё раз.
**2. B. Jack Copeland (ed.), The Essential Turing (2004)**
Сборник ключевых работ Тьюринга с комментариями составителя и важным историческим контекстом.
Тьюринга знают почти все как автора знаменитого теста на способность машин мыслить. Многие слышали и про взлом «Энигмы», в который он внёс серьёзный вклад (см. также пост про польских учёных и прекрасный музей в Познани). Практически любой айтишник знает, что Тьюринг ещё 90 лет назад предложил модель вычислений, известную теперь как машина Тьюринга. Заметно меньше людей помнят, что в той же работе он доказал существование невычислимых задач, а в статье с тестом есть раздел Learning Machines, где он предлагает сделать «машину-ребёнка» и учить её поощрениями и наказаниями, то есть по сути описывает RL. Ещё меньше знают о его уходе в биологию и работах по морфогенезу, где реакционно-диффузионная модель объясняет, как в однородной среде возникают паттерны (например, пятна на шкурах животных). Ещё меньше в курсе его участия в создании первых компьютеров в Манчестере, где по его настоянию в Ferranti Mark 1 встроили аппаратный генератор случайных чисел (кажется, это был первый такой встроенный в компьютер). И совсем немногие слышали про «неорганизованные машины» из отчёта 1948 года. Это сети из случайно соединённых NAND-элементов, которые предлагается обучать, то есть нейросети, описанные в отдельной от Мак-Каллока и Питтса ветви. Опубликовали этот отчёт только через двадцать лет.
Книга даёт хорошее представление о каждой из этих работ.
**3. David Deutsch, The Fabric of Reality (1997)**
Дойч разбирает четыре «нити», наши лучшие теории, объясняющие мир: квантовую физику, теорию эволюции, эпистемологию и теорию вычислений, и показывает, что вместе они складываются в единую картину реальности. Особенно интересно, что теория вычислений у него оказывается способом говорить о том, что вообще возможно в физическом мире, а не просто дисциплиной о компьютерах. Отсюда и принцип Тьюринга в формулировке Дойча: универсальный компьютер способен симулировать любую физически возможную систему. Дойч знает, о чём говорит: в 1985 году он описал универсальный квантовый компьютер и первый квантовый алгоритм. Маст рид. Заодно лучше поймёте про мультивёрс и почему Дойч считает копенгагенскую интерпретацию хренью.
Вторая книга Дойча, The Beginning of Infinity («Начало бесконечности»), про природу объяснений, знания и прогресса, тоже стоит прочтения. | 911 |
| 3 | Sin texto... | 1 898 |
| 4 | Sin texto... | 1 858 |
| 5 | Как ллмки управляют физическими роботами? Ну так себе, пропасть между клод-кодом и роботом довольно велика. Явно одна из следующих big things — это харнессы для физических роботов.
Embodied First Exam
Kangrui Wang, Qineng Wang, Changhe Chen, Pingyue Zhang, Chi Gui, Feishi Wang, Canyu Chen, Wenli Xiao, Xiaoyu Huang, Tonghe Zhang, Linjie Li, Zihan Wang, Minyeong Kim, Yiyou Sun, Mingkai Deng, Jinyu Hou, Qi Zhu, Han Liu, Eric P. Xing, Huaxiu Yao, Zhiwen Fan, Yuejiang Liu, Dawn Song, Pieter Abbeel, Li Fei-Fei, Jiajun Wu, Yuke Zhu, Guanya Shi, Ruohan Zhang, Manling Li
Paper: https://arxiv.org/abs/2611.12177
Review: https://arxiviq.substack.com/p/embodied-first-exam
Code: https://github.com/mll-lab-nu/embodied-first-exam
Главное: Даже топовые кодинг-агенты решают большинство задач в симуляции при полном состоянии среды и бесконечных перезапусках, но плохо справляются с точным контактом, когда остаются только бортовые сенсоры и необратимые физические действия.
ЧТО сделали: Авторы представили Embodied First Exam (EFE) — контейнеризированный бенчмарк из 1156 задач на 47 симулируемых роботах. В нём обычные кодинг-агенты без доработок напрямую выдают действия, пишут контроллеры или обучают политики.
ЧТО получили: На сопоставленных сложных задачах лучший из проверенных агентов (GPT-6 Astra в CLI Codex от OpenAI) падает с 77% успеха при доступе к состоянию симулятора и бесконечных сбросах до 30% только с сенсорами и ограниченными сбросами. Во многом это связано с тем, что точные этапы требуют повторных попыток.
ПОЧЕМУ это важно: Для переноса кодинг-агентов на реальное железо помимо сильных моделей нужны продуманные обвязки исполнения и безопасное восстановление состояния. Впрочем, все оценки в бенчмарке получены по одиночным попыткам в симуляции.
Выходить из симуляции здесь: https://t.me/gonzo_ML_podcasts/4853 | 1 904 |
| 6 | Sin texto... | 2 132 |
| 7 | Sin texto... | 2 105 |
| 8 | Sin texto... | 2 009 |
| 9 | Кеннет Стэнли продолжает (предыдущее тут) исследовать единые и разрозненные представления. Неудивительным образом единые факторизованные представления рулят на непрерывном обучении. Но работают пока только на очень игрушечных кейсах.
Unified Factored Representations Resist Catastrophic Forgetting
Joel Lehman, Kenneth O. Stanley
Paper: https://arxiv.org/abs/2611.11020
Review: https://arxiviq.substack.com/p/unified-factored-representations
Главное: Нейросети могут избегать катастрофического забывания при градиентном спуске, если внутренние признаки кодируют каждую закономерность один раз и разделяют независимые факторы. Но для этого нужно маскировать лишние нулевые веса и делать малые шаги вдоль структуры задачи.
ЧТО сделали: Авторы объясняют забывание спутанными представлениями, где закономерности дублируются, а признаки смешиваются. В многократном циклическом файнтюнинге туда-обратно на частях входа они проверили единые факторизованные представления, объединяющие закономерности и разделяющие факторы.
ЧТО получили: За 30 циклов файнтюнинга попиксельная ошибка факторизованных моделей на отложенной области оказалась в 2.9–12 раз ниже, чем у градиентных бейзлайнов — без повтора примеров и штрафов за уход от старой задачи. Целевые вариации при этом генерировали самими факторизованными сетями.
ПОЧЕМУ это важно: Вспомогательные лоссы, упорядочивающие скрытые признаки при начальном обучении, снижают последующую интерференцию. Однако градиентный спуск всё ещё не выучивает такие представления с нуля и не может надёжно добавить даже один новый признак, не сломав их.
Исследовать репрезентации здесь: https://t.me/gonzo_ML_podcasts/4852 | 2 061 |
| 10 | Sin texto... | 2 235 |
| 11 | Sin texto... | 2 241 |
| 12 | Sin texto... | 2 193 |
| 13 | Любопытная свежая работа про файнтюнинг занулением небольшого количества весов.
The Surprising Effectiveness of Deleting Weights in LLM Post-Training
Jack Lu, Zhenbang Yang, Mike Lasby, Tejas Pote, Yani Ioannou, Mengye Ren
Paper: https://arxiv.org/abs/2611.10866
Review: https://arxiviq.substack.com/p/the-surprising-effectiveness-of-deleting
Project: https://agenticlearning.ai/deleting-weights/
Code: https://github.com/agentic-learning-ai-lab/deleting-weights
Model: https://huggingface.co/Jacklu0831/deletion-tuning-masks
Главное: Предобученные языковые модели могут осваивать новые навыки рассуждения и работы с инструментами без записи новых весов. На больших масштабах достаточно занулить менее 0.05% параметров, и прежние способности не пострадают.
ЧТО сделали: Авторы предложили метод пост-тренинга Deletion Tuning, который адаптирует замороженную модель через обучение бинарной маски для гейтовых проекций MLP. Выбранные веса остаются нетронутыми, а остальные обращаются в ноль.
ЧТО получили: На самых крупных протестированных моделях Deletion Tuning сравнялся с полным файнтюнингом. При обучении с подкреплением точность на старых задачах падает не более чем на 1 пункт от базовой модели, хотя малые модели набирают порой лишь 90% от точности плотного обновления.
ПОЧЕМУ это важно: Системы инференса могут переключать задачи мегабайтными битовыми масками поверх одной общей модели без потери старых навыков. Однако последовательное дообучение в работе не проверяли, несжатые bf16-адаптеры ранга 1 часто меньше по объёму, а само обучение требует куда больше памяти.
Занулять здесь: https://t.me/gonzo_ML_podcasts/4851 | 2 366 |
| 14 | Sin texto... | 2 481 |
| 15 | Sin texto... | 2 431 |
| 16 | Sin texto... | 2 429 |
| 17 | Я продолжаю посматривать на работы, где из реальных данных авторы пытаются вывести символьные физические законы, стоящие за наблюдениями. Уверен, это крайне интересная и нужная область.
Одна из свежих работ предложила двухступенчатый пайплайн: сначала выделяем низкоразмерный базис (интересные переменные) и только потом уже на нём ищем символьную формулу. Какой-то прогресс в этом есть, но результат пока неоднозначный.
Distilling neural networks into equations to predict planetary instability
Simon Alford, Edward Gu, Omar Costilla-Reyes, Dan Tamayo, Miles Cranmer, Kevin Ellis
Paper: https://arxiv.org/abs/2610.35617
Review: https://arxiviq.substack.com/p/distilling-neural-networks-into-equations
Code: https://github.com/simonalford42/planet_eqs
Data and code archive: https://doi.org/10.5281/zenodo.15731358
Главное: Символьная регрессия справляется с хаотической динамикой, если градиентный спуск сначала сжимает траектории в разреженный линейный базис. Полученные компактные формулы экстраполируют лучше прямого символьного поиска.
ЧТО сделали: Предложили двухэтапную дистилляцию нейросетей для предсказания неустойчивости многопланетных систем. На коротких симуляциях орбит обучается разреженный линейный экстрактор (по две переменные на признак), после чего библиотека эволюционной символьной регрессии PySR дистиллирует нейросеть в алгебраические уравнения.
ЧТО получили: На бенчмарках дистиллированная формула предсказывает время до неустойчивости с точностью от 1.34 до 1.52 порядков величины. Она точнее аналитической теории для круговых орбит и экстраполирует на более крупные системы, но уступает прямой символьной регрессии по ряду метрик внутри распределения.
ПОЧЕМУ это важно: Астрономы получают читаемую формулу, связывающую колебания орбит с резонансами. Однако расчёт всё ещё требует короткой численной симуляции, не учитывает физические размерности и даёт много ложных тревог при стандартных порогах.
Гнать дистиллят тут: https://t.me/gonzo_ML_podcasts/4850 | 2 785 |
| 18 | Вдруг вы по мне соскучились.
https://youtu.be/r4iThqisYcg?si=rObK2ySJcZf9dTOt | 2 988 |
| 19 | Sin texto... | 3 212 |
| 20 | Sin texto... | 3 028 |
