gonzo-обзоры ML статей
Авторы: Гриша Сапунов, ранее руководитель разработки Яндекс-Новостей, ныне CTO Intento. Области интересов: AI/ML/DL, биоинформатика. Лёша Тихонов, ранее аналитик в Яндексе, автор Автопоэта, Нейронной Обороны... Области интересов: discrete domain, NLP, RL.
Больше📈 Аналитический обзор Telegram-канала gonzo-обзоры ML статей
Канал gonzo-обзоры ML статей (@gonzo_ml) языкового сегмента Русский является активным участником. Сейчас сообщество объединяет 24 544 подписчиков, занимая 5 293 место в категории Технологии и приложения и 26 479 место в регионе Россия.
📊 Показатели аудитории и динамика
С момента создания невідомо проект демонстрирует стремительный рост, собрав аудиторию из 24 544 подписчиков.
Согласно последним данным от 05 октября, 2026, канал показывает стабильную активность. За последние 30 дней изменение числа участников составило 218, а за последние 24 часа — 3, при этом общий охват остаётся высоким.
- Статус верификации: Не верифицирован
- Уровень вовлечённости (ER): Средний показатель вовлечённости аудитории составляет 12.66%. В первые 24 часа после публикации контент обычно набирает 8.48% реакций от общего числа подписчиков.
- Охват публикаций: В среднем каждый пост получает 3 109 просмотров. В течение первых суток публикация набирает 2 081 просмотров.
- Реакции и взаимодействия: Аудитория активно поддерживает контент: среднее количество реакций на один пост — 13.
- Тематические интересы: Контент сосредоточен на ключевых темах, таких как learning, tl;dr, токенов, архитектура, контекст.
📝 Описание и контентная политика
Автор описывает ресурс как площадку для выражения субъективного мнения:
“Авторы:
Гриша Сапунов, ранее руководитель разработки Яндекс-Новостей, ныне CTO Intento. Области интересов: AI/ML/DL, биоинформатика.
Лёша Тихонов, ранее аналитик в Яндексе, автор Автопоэта, Нейронной Обороны... Области интересов: discrete domain, NLP...”
Благодаря высокой частоте обновлений (последние данные получены 06 октября, 2026) канал поддерживает актуальность и высокий уровень охвата публикаций. Аналитика показывает, что аудитория активно взаимодействует с контентом, что делает его важной точкой влияния в категории Технологии и приложения.
Загрузка данных...
| Дата | Привлечение подписчиков | Упоминания | Каналы | |
| 06 октября | +4 | |||
| 05 октября | +7 | |||
| 04 октября | +11 | |||
| 03 октября | +21 | |||
| 02 октября | +27 | |||
| 01 октября | +9 |
| 2 | Нет текста... | 1 794 |
| 3 | Сингулярность отменяется, слава Коши!
The Dynamics of Intelligence Explosions
Toby Ord
Paper: https://arxiv.org/abs/2608.14426
Review: https://arxiviq.substack.com/p/the-dynamics-of-intelligence-explosions
ЧТО сделали:
Предложили модель рекурсивного самосовершенствования через разностные уравнения со временем. В ней дискретный шаг прироста возможностей привязан к явной длительности цикла обратной связи — времени генерации.
ЧТО получили:
Прирост возможностей не уходит в бесконечность за конечное время без сжатия длительности циклов к нулю. В непрерывных моделях с A' = k A^r показатель отдачи r > 1 создаёт вертикальную асимптоту, но функции вроде A' = A log A дают двойную экспоненту (A_0^{e^t}) без сингулярности. В дискретных циклах с шагом T_n бесконечный рост за конечное время требует сокращения цикла хотя бы как T_n ~ n^{-(1+ε)}. Если длительность шага постоянна (T_n = k), сингулярности не возникнет даже при тетрации (A_{n+1} = 2^{A_n}).
ПОЧЕМУ это важно:
Прогресс в R&D не приведёт к математической сингулярности, пока физическое время итерации не начнёт сжиматься к нулю. При этом даже обычная экспонента на машинной скорости способна сжать десять лет работы людей в один календарный год.
Искать сингулярность тут: https://t.me/gonzo_ML_podcasts/4820 | 1 782 |
| 4 | Нет текста... | 2 282 |
| 5 | По свежим запросам читателей.
Это какая-то интересная статья — получается, что достаточно двух случайно инициализированных голов внимания, в правильном порядке и применённых нужное количество раз, чтобы интерполировать любой батч последовательностей токенов и перевести его в любой другой целевой батч. Проблема только, что это теорема существования (доказали, что можно), но она не предлагает конкретной конструктивной процедуры (чтобы знать, сколько слоёв нужно).
Математика тяжёлая для меня, надо вникать, сходу проверить не могу. Специалисты вэлкам (deepseek не предлагать)!
Universal Interpolation for Deep Residual Self-Attention Networks
Sibylle Marcotte, Joan Bruna
Paper: https://arxiv.org/abs/2610.01981
Code: https://github.com/sibyllema/attention_universality
Review: https://arxiviq.substack.com/p/universal-interpolation-for-deep
ЧТО сделали: Доказали теорему об универсальной интерполяции для глубоких остаточных сетей самовнимания: фиксированный словарь из нескольких замороженных блоков внимания со случайными гауссовыми весами переводит любой батч из N последовательностей токенов в любой целевой батч лишь за счёт выбора порядка слоёв, их знаков и скалярных коэффициентов.
ЧТО получили: Для некаузального внимания с одной головой ширины r >= d ровно двух замороженных случайных блоков хватает для универсальной интерполяции при любых размерах батча N >= 1 и длинах последовательностей n >= 2 на открытом связном множестве полной меры. В численных тестах ранга на 576 конфигурациях (r < d) словари из m = ceil (d/r) блоков достигли полного ранга алгебры Ли в 94/96 запусков (дисперсия 1) и 96/96 (дисперсия 1/d) при допуске 10E-8 (89/96 и 90/96 по всем трём допускам), тогда как при m = ceil (d/r) - 1 получилось 0/96.
ПОЧЕМУ это важно: Результат показывает, что глубина и композиция способны полностью заменить настройку параметров каждого отдельного слоя в рекуррентных моделях. Главное ограничение: конструкция не даёт верхних оценок на требуемую глубину сети.
Искать универсальность здесь: https://t.me/gonzo_ML_podcasts/4819 | 2 214 |
| 6 | Нет текста... | 2 032 |
| 7 | Нет текста... | 1 984 |
| 8 | Недавно писал про прикольный подход Recirculation, а тут уже и его развитие подоспело (от конкурирующей команды)
Write Back the Δ: Revisiting the Same Tokens with Fresh Representations
Wencheng Ye, Anning Hu, Xiangdong Zhang, Tianyi Wang, Yikang Li, Hengyu Jin, Bing Li, Junchi Yan
Paper: https://arxiv.org/abs/2609.32457
Review: https://arxiviq.substack.com/p/recirculation
Code: https://github.com/gooogleshanghai/reflux
ЧТО сделали: Авторы представили ReFlux — метод, который возвращает вычисленные инкременты глубины из глубоких слоёв трансформера в более ранние слои через разреженный обучаемый граф обратной связи, зависящий от входа, поверх замороженной языковой модели.
ЧТО получили: На восьми бенчмарках на рассуждение ReFlux улучшает среднюю точность на 2.1–2.3 процентных пункта относительно базовых чекпоинтов (прирост на 4.7 п.п. на 2WikiMultiHopQA с 38.5% до 43.2% на Gemma3-4B против 38.6% у Recirculation и 38.9% у TF-Loop). Перплексия на C4 для Gemma3-4B снизилась с 23.8 до 20.9. В потоковом режиме эти улучшения сохраняются при 1× теоретических FLOPs бэкбона и задержке декодирования 1.02×–1.08×.
ПОЧЕМУ это важно: Языковые модели могут уточнять промежуточные репрезентации без повторного прогона всех слоёв и без траты лишних токенов на длинные цепочки рассуждений. Однако для продакшена потребуются кастомные ядра, чтобы убрать накладные расходы при декодировании.
Подробнее тут: https://t.me/gonzo_ML_podcasts/4818 | 2 094 |
| 9 | Нет текста... | 2 266 |
| 10 | Нет текста... | 2 257 |
| 11 | Нет текста... | 2 161 |
| 12 | В работе с таблицами, кажется, случается свой Jev-moment — вышла новая маленькая и быстрая фундаментальная табличная модель, которая бьёт всех на zero-shot, одновременно работая с классификацией и регрессией. Почему обычные LLM плохи на таблицах мы обсуждали здесь.
TabPFN-3.5: Technical Report
Prior Labs Team (Benjamin Jäger, Nick Erickson, Léo Grinsztajn, Felix Birkel, Klemens Flöge, Lennart Purucker, Arthur Cahu, Vahid Balazadeh, Jonas Kübler, Alan Arazi, Philipp Jund, Siyuan Guo, Anurag Garg, Jan Hendrik Metzen, Mihir Manium, Jake Robertson, David Salinas, Andrej Tschalzev, Simon Bing, Adrian Hayler, Tobias Schröder, Oscar Key, Brendan Roof, Georg Grab, Simone Alessi, Dominik Safaric, Eliott Kalfon, Philipp Singer, Clara Cornu, Diana Kriuchkova, Lilly Wehrhahn, Tuana Çelik, Vitor Monteiro, Rylee Grace, Adèle Frankel, Kürşat Kaya, Kristina Collins, Lydia Sidhoum, Marie Salmon, Tomás Pereda, Jerry Chen, Madelon Hulsebos, Yann LeCun, Bernhard Schölkopf, Frank Hutter, Sauraj Gambhir, Noah Hollmann)
Paper: https://arxiv.org/abs/2609.17895
Review: https://arxiviq.substack.com/p/tabpfn-35-technical-report
Code: https://github.com/PriorLabs/TabPFN
Model: https://huggingface.co/Prior-Labs/tabpfn_3_5
ЧТО сделали:
Представили TabPFN-3.5 — базовую модель для табличных данных, работающую без подбора весов под конкретный датасет. Авторы расширили скрытую размерность трансформера до 1024, объединили классификацию и регрессию в одной сети и заменили внешний препроцессинг обучаемыми признаками Фурье и ранжированием по эмпирическому распределению.
ЧТО получили:
TabPFN-3.5 заняла первое место на семи табличных бенчмарках со средним винрейтом 78% против конкурирующих табличных базовых моделей и 89% против классических алгоритмов. На TabArena модель набрала 1866 Elo (а TabPFN-3.5-Thinking — 1910 Elo) против 1780 у TabFM и 1631 у TabPFN-3. На TALENT средний ранг составил 2.95 на 274 датасетах против 5.35 у TabICLv2 и 4.48 у TabPFN-3.
ПОЧЕМУ это важно:
Инженеры получают zero-shot инференс быстрее секунды на сложных таблицах со строками и групповыми сплитами без подбора гиперпараметров. При этом нативная мультимодальность и максимальная скорость инференса остаются закрытыми enterprise-решениями.
Зирошотить таблицы здесь: https://t.me/gonzo_ML_podcasts/4817 | 2 273 |
| 13 | Нет текста... | 2 424 |
| 14 | Нет текста... | 2 386 |
| 15 | Команда из DeepMind продолжает поиски сознания.
From cacophony to hierarchy: a principled framework for assessing AI consciousness
Shamil Chandaria, Arvo Muñoz Morán, Fernando Rosas, Anil Seth, Henry Shevlin, Marcus Hutter, Thore Graepel, Adam Bales, Iulia Comşa, Murray Shanahan, Ruben Laukkonen, Morten Kringelbach, Chris Frith, Shane Legg
Paper: https://arxiv.org/abs/2609.35618
Code: https://github.com/arvomm/cacophony-public-code
Review: https://arxiviq.substack.com/p/from-cacophony-to-hierarchy-a-principled
Site: https://ai-cognition.org/cacophony-tool/
Model: N/A
ЧТО сделали: Авторы формализовали оценку сознания машин, объединив конкурирующие теории в пятиуровневую иерархию функциональных описаний с помощью многоуровневой байесовской сети.
ЧТО получили: На открытых данных о LLM оптимистичный взгляд даёт итоговую апостериорную вероятность 0.397, а скептический — 0.005 при равных весах уровней. Если назначить по 40% веса верхним уровням, оптимистичная вероятность вырастает до 0.793. Если же отдать по 40% детальным организменным уровням, она падает до 0.099. Для человека при любых весах получается 1.000, а для термостата — 0.000.
ПОЧЕМУ это важно: Метод позволяет количественно учитывать неопределённость и избегать субъективных вердиктов по мере роста автономности моделей. Главная оговорка: все индикаторы откалиброваны по маркёрам человеческого мышления, поэтому остаётся риск ложноположительных срабатываний из-за подражания.
Искать сознание тут: https://t.me/gonzo_ML_podcasts/4816 | 2 759 |
| 16 | Вопрос для практикующих программистов, кто активно занимается разработкой. Вы ещё пишете какую-либо заметную часть кода руками day-to-day, week-to-week? | 2 791 |
| 17 | Вопрос для практикующих программистов, кто активно занимается разработкой. Вы ещё пишете какую-либо заметную часть кода руками day-to-day, week-to-week? | 1 |
| 18 | Экспонента в статьях, экспонента в коде, что ещё?
Какой прекрасный толк :)
https://youtu.be/vDjW_dRyKXY?is=opUGqNWz7C7CngDp | 2 845 |
| 19 | Нормальный скачок за три месяца. Слава AI! | 3 123 |
| 20 | Arxiv ввёл rate limits на публикацию, не больше двух статей в месяц :)
https://blog.arxiv.org/2026/10/01/updated-rate-limit-policy/ | 3 606 |
