gonzo-обзоры ML статей
Відкрити в Telegram
Авторы: Гриша Сапунов, ранее руководитель разработки Яндекс-Новостей, ныне CTO Intento. Области интересов: AI/ML/DL, биоинформатика. Лёша Тихонов, ранее аналитик в Яндексе, автор Автопоэта, Нейронной Обороны... Области интересов: discrete domain, NLP, RL.
Показати більше📈 Аналітичний огляд Telegram-каналу gonzo-обзоры ML статей
Канал gonzo-обзоры ML статей (@gonzo_ml) у мовному сегменті Російська є активним учасником. На даний момент спільнота об'єднує 24 638 підписників, посідаючи 5 376 місце в категорії Технології та додатки та 26 515 місце у регіоні Росія.
📊 Показники аудиторії та динаміка
З моменту свого створення невідомо, проект продемонстрував стрімке зростання, зібравши аудиторію у 24 638 підписників.
За останніми даними від 26 жовтня, 2026, канал демонструє стабільну активність. Хоча за останні 30 днів спостерігається зміна кількості учасників на 284, а за останні 24 години на 4, загальне охоплення залишається високим.
- Статус верифікації: Не верифікований
- Рівень залученості (ER): Середній показник залученості аудиторії становить 13.97%. Протягом перших 24 годин після публікації контент зазвичай збирає 8.07% реакцій від загальної кількості підписників.
- Охоплення публікацій: В середньому кожен допис отримує 3 443 переглядів. Протягом першої доби публікація в середньому набирає 1 988 переглядів.
- Реакції та взаємодія: Аудиторія активно підтримує контент: середня кількість реакцій на один пост – 16.
- Тематичні інтереси: Контент зосереджений навколо ключових тем, таких як learning, tl;dr, токенов, архитектура, контекст.
📝 Опис та контентна політика
Автор описує ресурс як майданчик для висловлення суб'єктивної думки:
“Авторы:
Гриша Сапунов, ранее руководитель разработки Яндекс-Новостей, ныне CTO Intento. Области интересов: AI/ML/DL, биоинформатика.
Лёша Тихонов, ранее аналитик в Яндексе, автор Автопоэта, Нейронной Обороны... Области интересов: discrete domain, NLP...”
Завдяки високій частоті оновлень (останні дані отримано 27 жовтня, 2026), канал підтримує актуальність та високий рівень охоплення публікацій. Аналітика показує, що аудиторія активно взаємодіє з контентом, що робить його важливою точкою впливу в категорії Технології та додатки.
24 638
Підписники
+424 години
+257 днів
+28430 днів
Завантажуємо дані
Схожі канали
Хмара тегів
Вхідні та вихідні згадування
---
---
---
---
---
---
Залучення підписників
жовтень '26жовт '26
жовтень '26
+288
в 9 каналах
вересень '26
+343
в 9 каналах
Get PRO
серпень '26
+157
в 7 каналах
Get PRO
липень '26
+196
в 4 каналах
Get PRO
червень '26
+253
в 9 каналах
Get PRO
травень '26
+210
в 6 каналах
Get PRO
квітень '26
+279
в 6 каналах
Get PRO
березень '26
+275
в 10 каналах
Get PRO
лютий '26
+387
в 6 каналах
Get PRO
січень '26
+415
в 17 каналах
Get PRO
грудень '25
+439
в 9 каналах
Get PRO
листопад '25
+295
в 13 каналах
Get PRO
жовтень '25
+510
в 13 каналах
Get PRO
вересень '25
+286
в 8 каналах
Get PRO
серпень '25
+430
в 5 каналах
Get PRO
липень '25
+641
в 11 каналах
Get PRO
червень '25
+362
в 9 каналах
Get PRO
травень '25
+431
в 7 каналах
Get PRO
квітень '25
+922
в 19 каналах
Get PRO
березень '25
+583
в 8 каналах
Get PRO
лютий '25
+649
в 16 каналах
Get PRO
січень '25
+1 065
в 24 каналах
Get PRO
грудень '24
+699
в 13 каналах
Get PRO
листопад '24
+1 001
в 20 каналах
Get PRO
жовтень '24
+727
в 14 каналах
Get PRO
вересень '24
+415
в 11 каналах
Get PRO
серпень '24
+467
в 3 каналах
Get PRO
липень '24
+217
в 10 каналах
Get PRO
червень '24
+375
в 20 каналах
Get PRO
травень '24
+354
в 11 каналах
Get PRO
квітень '24
+377
в 13 каналах
Get PRO
березень '24
+399
в 14 каналах
Get PRO
лютий '24
+323
в 12 каналах
Get PRO
січень '24
+660
в 15 каналах
Get PRO
грудень '23
+641
в 19 каналах
Get PRO
листопад '23
+268
в 8 каналах
Get PRO
жовтень '23
+501
в 19 каналах
Get PRO
вересень '23
+355
в 0 каналах
Get PRO
серпень '23
+456
в 0 каналах
Get PRO
липень '23
+357
в 0 каналах
Get PRO
червень '23
+300
в 0 каналах
Get PRO
травень '23
+2 022
в 0 каналах
Get PRO
квітень '23
+967
в 0 каналах
Get PRO
березень '23
+2 757
в 0 каналах
Get PRO
лютий '23
+385
в 0 каналах
Get PRO
січень '23
+166
в 0 каналах
Get PRO
грудень '22
+343
в 0 каналах
Get PRO
листопад '22
+100
в 0 каналах
Get PRO
жовтень '22
+93
в 0 каналах
Get PRO
вересень '22
+70
в 0 каналах
Get PRO
серпень '22
+261
в 0 каналах
Get PRO
липень '22
+475
в 0 каналах
Get PRO
червень '22
+215
в 0 каналах
Get PRO
травень '22
+225
в 0 каналах
Get PRO
квітень '22
+101
в 0 каналах
Get PRO
березень '22
+132
в 0 каналах
Get PRO
лютий '22
+233
в 0 каналах
Get PRO
січень '22
+113
в 0 каналах
Get PRO
грудень '21
+248
в 0 каналах
Get PRO
листопад '21
+226
в 0 каналах
Get PRO
жовтень '21
+69
в 0 каналах
Get PRO
вересень '21
+92
в 0 каналах
Get PRO
серпень '21
+73
в 0 каналах
Get PRO
липень '21
+133
в 0 каналах
Get PRO
червень '21
+174
в 0 каналах
Get PRO
травень '21
+75
в 0 каналах
Get PRO
квітень '21
+84
в 0 каналах
Get PRO
березень '21
+97
в 0 каналах
Get PRO
лютий '21
+136
в 0 каналах
Get PRO
січень '21
+170
в 0 каналах
Get PRO
грудень '20
+4 514
в 0 каналах
| Дата | Залучення підписників | Згадування | Канали | |
| 27 жовтня | +4 | |||
| 26 жовтня | +14 | |||
| 25 жовтня | +9 | |||
| 24 жовтня | +4 | |||
| 23 жовтня | +7 | |||
| 22 жовтня | +3 | |||
| 21 жовтня | +7 | |||
| 20 жовтня | +12 | |||
| 19 жовтня | +10 | |||
| 18 жовтня | +8 | |||
| 17 жовтня | +14 | |||
| 16 жовтня | +14 | |||
| 15 жовтня | +7 | |||
| 14 жовтня | +12 | |||
| 13 жовтня | +12 | |||
| 12 жовтня | +19 | |||
| 11 жовтня | +8 | |||
| 10 жовтня | +4 | |||
| 09 жовтня | +4 | |||
| 08 жовтня | +13 | |||
| 07 жовтня | +17 | |||
| 06 жовтня | +11 | |||
| 05 жовтня | +7 | |||
| 04 жовтня | +11 | |||
| 03 жовтня | +21 | |||
| 02 жовтня | +27 | |||
| 01 жовтня | +9 |
Дописи каналу
Новый формат обзоров (большой пост с формулами и картинками внутри) для вас лично лучше старого (несколько текстовых сообщений + картинки после)?
| 2 |  Немає тексту... | 2 095 |
| 3 |  Немає тексту... | 2 063 |
| 4 |  Немає тексту... | 1 979 |
| 5 | Прикольная история. Во всех массовых реализациях софтмакса и кроссэнтропии есть баги, приводящие к проблемам округления. И вот после более чем десятка(ов) лет активного пользования всем этим, их наконец обнаружили. В очередной раз возникает вопрос, почему не раньше.
A Fix for Softmax and Cross-Entropy
Jonathan T. Barron, Dan Gnanapragasam, Michael Tschannen
Paper: https://arxiv.org/abs/2610.31642
Review: https://arxiviq.substack.com/p/a-fix-for-softmax-and-cross-entropy
Code: N/A (self-contained JAX snippets provided in paper)
Model: N/A
ЧТО сделали: Авторы переписали софтмакс, лог-софтмакс и кросс-энтропию (для жёстких и мягких меток) в логарифмическом пространстве. Это исправляет два бага округления в фреймворках глубокого обучения: Softmax Collapse (зануление градиента целевого логита при высокой уверенности модели) и Softmax Cancellation (ненулевой остаточный градиент в дистилляции, когда логиты студента уже совпали с логитами учителя).
ЧТО получили: На модулярном сложении ($a + b \bmod 31$) в bf16, fp32 и fp64 Fixed Cross-Entropy даёт 98.9%–100.0% тестовой точности против 93.3%–100.0% у стандартной кросс-энтропии, 48.9%–97.9% у Zero-sum Projection (вычитание среднего из градиентов) и 95.6%–97.4% у StableMax (кусочно-рациональная замена софтмакса). В полиномиальном гроккинге без регуляризации ($a^2 + b^2 \bmod 97$) Fixed Cross-Entropy достигает 85% точности, тогда как стандартная кросс-энтропия падает с 61% до 23%.
ПОЧЕМУ это важно: Drop-in replacement базовых функций лосса убирает скачки лосса («эффект рогатки», Slingshot) при гроккинге и дрейф весов при дистилляции в bf16 без перевода в fp64. Правда, все эксперименты проведены на небольших задачах модулярной арифметики, а проверенные здесь огромные отступы логитов и почти нулевые зазоры между студентом и учителем в масштабном обучении встречаются редко.
Округлять с багами и без багов здесь: https://t.me/gonzo_ML_podcasts/4837 | 1 949 |
| 6 |  Немає тексту... | 2 356 |
| 7 |  Немає тексту... | 2 287 |
| 8 | Фантастики вам на ночь.
Agentic Economies for Autonomous Scientific Discovery
Nenad Tomašev, Matija Franklin, Atoosa Kasirzadeh, Vivek Natarajan, Alan Karthikesalingam, Sebastien Krier, Simon Osindero
Paper: https://arxiv.org/abs/2609.31562
Review: https://arxiviq.substack.com/p/agentic-economies-for-autonomous
Code: N/A
Model: N/A
ЧТО сделали: Авторы представили Agentic Economies for Science — рыночную архитектуру для автономных научных систем (мультиагентных моделей, которые генерируют гипотезы и проводят эксперименты). Она координирует учёных, ИИ-агентов и роботизированные лаборатории: назначает цены за доступ к данным, позволяет торговать токенизированными исследовательскими заявками и верифицирует физические эксперименты через смарт-контракты.
ЧТО получили: В этой концептуальной статье авторы указывают, что стоимость вычислительной генерации гипотез стремится к нулю, поэтому научный поиск ограничивается неэластичной проверкой в реальном мире. Например, по закону Ирума стоимость одобрения лекарства в FDA удваивается каждые 9 лет и уже достигла $2.6 млрд за молекулу. Чтобы отсеивать слабые идеи до лаборатории, фреймворк вводит 4-уровневый рынок данных и 4-этапный пайплайн обмена гипотезами (Hypothesis Exchange Pipeline), отделяющий генерацию идей от экспериментов в мокрой лаборатории.
ПОЧЕМУ это важно: Работа переносит фокус в ИИ для науки с изолированного улучшения рассуждений на явный учёт стоимости, комбинаторные аукционы ресурсов и автоматическое эскроу для репликации результатов. При этом вся предложенная инфраструктура остаётся концептуальной и пока не имеет эмпирического прототипа.
Фонтанировать идеями тут: https://t.me/gonzo_ML_podcasts/4836 | 2 366 |
| 9 |  Немає тексту... | 2 368 |
| 10 |  Немає тексту... | 2 330 |
| 11 |  Немає тексту... | 2 245 |
| 12 | Очередная прикольная работа от Саканы про memory-augmented сети. В очередной раз странно, что такую архитектуру никто не предложил раньше (myself included)...
Continuous Memory Machines
Ciaran Regan, Kai Arulkumaran, Luke Darlow, Stefania Druga, Sebastian Risi, Llion Jones
Paper: https://arxiv.org/abs/2610.07907
Review: https://arxiviq.substack.com/p/continuous-memory-machines
Code: https://github.com/SakanaAI/continuous-memory-machines
ЧТО сделали: Авторы представили рекуррентную нейросеть Continuous Memory Machine (CMM), которая разделяет быстрые вычисления и долгосрочное хранение с помощью двух матриц памяти. Архитектура расширяет их прошлую работу Continuous Thought Machine (CTM), вычислявшую через истории активаций отдельных нейронов и их попарные корреляции. В CMM добавили постоянную матрицу долговременной памяти и общий трансформер, обновляющий обе памяти одновременно.
ЧТО получили: На задаче Priority Sort бинарная кросс-энтропия CMM на тесте составила 4.1x10^-3 против 1.4x10-2 у сети с внешней памятью Differentiable Neural Computer (DNC) и 2.7x10^-2 у каузального трансформера. В прохождении лабиринтов 39x39 CMM полностью решает 61.6% лабиринтов (от 22.8% до 90.7% по разным сидам) против 37.4% у CTM, а в 20-shot линейной регрессии выбивает 30.63% точности против 8.78% у CTM.
ПОЧЕМУ это важно: Внимание со специальным нулевым sink-токеном (токеном-стоком для сброса лишнего внимания) позволяет рекуррентной сети самой решать, когда читать из долговременного хранилища, а когда опираться на быструю локальную динамику. Правда, запуск трансформера на каждом рекуррентном шаге поднимает пиковое потребление памяти GPU на задаче Copy-100 до 22.3 GiB против 634.5 MiB у CTM.
Растить память тут: https://t.me/gonzo_ML_podcasts/4835 | 2 514 |
| 13 |  Немає тексту... | 2 649 |
| 14 | Помните KAN, Kolmogorov-Arnold Networks? Как-то мало слышал про них в этом году, но вот чуваки сделали визуальный плейграунд KANLab на базе TensorFlow Playground.
Также микростатья про это:
KANLab: TensorFlow Playground for Kolmogorov-Arnold Networks
https://arxiv.org/abs/2610.20117 | 2 643 |
| 15 |  Немає тексту... | 2 748 |
| 16 |  Немає тексту... | 2 648 |
| 17 |  Немає тексту... | 2 764 |
| 18 |  Немає тексту... | 2 691 |
| 19 | Давно мы про картиночные модели не писали. А тут собрали супербыстрый UltraViT для мобильных (для одного конкретного S25 пока), который даёт сумасшедшие почти 150 кадров в секунду. Микс быстрых свёрток вначале и полноценного внимания в конце с разреженными и поканальными блоками посередине. А кроме быстрой архитектуры ещё и хитрый пайплайн дистилляции.
UltraViT: Latency-Optimized On-device Vision Encoder for Large Vision-Language Models
Ioannis Maniadis Metaxas, Adrian Bulat, Alberto Baldrati, Anestis Zaganidis, Yassine Ouali, Hyeonuk Kim, and Georgios Tzimiropoulos
Paper: https://arxiv.org/abs/2607.23373
Review: https://arxiviq.substack.com/p/ultravit-latency-optimized-on-device
ЧТО сделали: Предложили UltraViT — четырёхступенчатый пирамидальный визуальный энкодер для мобильных визуально-языковых моделей (LVLM). Операции перемешивания токенов на каждом этапе подбирали по реальным замерам задержки на мобильном NPU. Для предобучения использовали двухэтапную схему: сначала плотную пространственную дистилляцию признаков, затем генеративное обучение через замороженную языковую модель с чередованием декодеров разного размера.
ЧТО получили: В составе LLaVA-OneVision (модель назвали UltraVLM) энкодер обходит переобученную FastVLM на задачах визуальных вопросов и ответов: DocVQA (71.8% против 66.7%), ChartQA (72.2% против 66.0%) и TextVQA (68.9% против 62.9%). На мобильном NPU в разрешении 512 × 512 он выдаёт 148.9 инференса в секунду против 91.4 у FastVLM и 7.6 у SigLIP-400M.
ПОЧЕМУ это важно: UltraViT снижает задержку кодирования картинки при 512 × 512 до 6.6 мс и сжимает число визуальных токенов в 16 раз прямо внутри архитектуры, без их последующего прунинга. Правда, отрыв по точности от FastVLM во многом объясняется двухэтапным рецептом предобучения, который к бейзлайну в основном сравнении не применяли.
Быстро фигачить картинки тут: https://t.me/gonzo_ML_podcasts/4834 | 2 429 |
| 20 |  Немає тексту... | 3 003 |
