gonzo-обзоры ML статей
Open in Telegram
Авторы: Гриша Сапунов, ранее руководитель разработки Яндекс-Новостей, ныне CTO Intento. Области интересов: AI/ML/DL, биоинформатика. Лёша Тихонов, ранее аналитик в Яндексе, автор Автопоэта, Нейронной Обороны... Области интересов: discrete domain, NLP, RL.
Show more📈 Analytical overview of Telegram channel gonzo-обзоры ML статей
Channel gonzo-обзоры ML статей (@gonzo_ml) in the Russian language segment is an active participant. Currently, the community unites 24 544 subscribers, ranking 5 293 in the Technologies & Applications category and 26 479 in the Russia region.
📊 Audience metrics and dynamics
Since its creation on невідомо, the project has demonstrated rapid growth, gathering an audience of 24 544 subscribers.
According to the latest data from 05 October, 2026, the channel demonstrates stable activity. Although there has been a change in the number of participants by 218 over the last 30 days and by 3 over the last 24 hours, overall reach remains high.
- Verification status: Not verified
- Engagement rate (ER): The average audience engagement rate is 12.66%. Within the first 24 hours after publication, content typically collects 8.48% reactions from the total number of subscribers.
- Post reach: On average, each post receives 3 109 views. Within the first day, a publication typically gains 2 081 views.
- Reactions and interaction: The audience actively supports content: the average number of reactions per post is 13.
- Thematic interests: Content is focused on key topics such as learning, tl;dr, токенов, архитектура, контекст.
📝 Description and content policy
The author describes the resource as a platform for expressing subjective opinions:
“Авторы:
Гриша Сапунов, ранее руководитель разработки Яндекс-Новостей, ныне CTO Intento. Области интересов: AI/ML/DL, биоинформатика.
Лёша Тихонов, ранее аналитик в Яндексе, автор Автопоэта, Нейронной Обороны... Области интересов: discrete domain, NLP...”
Thanks to the high frequency of updates (latest data received on 06 October, 2026), the channel maintains relevance and a high level of publication reach. Analytics show that the audience actively interacts with content, making it an important point of influence in the Technologies & Applications category.
24 544
Subscribers
+324 hours
+867 days
+21830 days
Posts Archive
24 545
Сингулярность отменяется, слава Коши!
The Dynamics of Intelligence Explosions
Toby Ord
Paper: https://arxiv.org/abs/2608.14426
Review: https://arxiviq.substack.com/p/the-dynamics-of-intelligence-explosions
ЧТО сделали:
Предложили модель рекурсивного самосовершенствования через разностные уравнения со временем. В ней дискретный шаг прироста возможностей привязан к явной длительности цикла обратной связи — времени генерации.
ЧТО получили:
Прирост возможностей не уходит в бесконечность за конечное время без сжатия длительности циклов к нулю. В непрерывных моделях с A' = k A^r показатель отдачи r > 1 создаёт вертикальную асимптоту, но функции вроде A' = A log A дают двойную экспоненту (A_0^{e^t}) без сингулярности. В дискретных циклах с шагом T_n бесконечный рост за конечное время требует сокращения цикла хотя бы как T_n ~ n^{-(1+ε)}. Если длительность шага постоянна (T_n = k), сингулярности не возникнет даже при тетрации (A_{n+1} = 2^{A_n}).
ПОЧЕМУ это важно:
Прогресс в R&D не приведёт к математической сингулярности, пока физическое время итерации не начнёт сжиматься к нулю. При этом даже обычная экспонента на машинной скорости способна сжать десять лет работы людей в один календарный год.
Искать сингулярность тут: https://t.me/gonzo_ML_podcasts/4820
24 545
По свежим запросам читателей.
Это какая-то интересная статья — получается, что достаточно двух случайно инициализированных голов внимания, в правильном порядке и применённых нужное количество раз, чтобы интерполировать любой батч последовательностей токенов и перевести его в любой другой целевой батч. Проблема только, что это теорема существования (доказали, что можно), но она не предлагает конкретной конструктивной процедуры (чтобы знать, сколько слоёв нужно).
Математика тяжёлая для меня, надо вникать, сходу проверить не могу. Специалисты вэлкам (deepseek не предлагать)!
Universal Interpolation for Deep Residual Self-Attention Networks
Sibylle Marcotte, Joan Bruna
Paper: https://arxiv.org/abs/2610.01981
Code: https://github.com/sibyllema/attention_universality
Review: https://arxiviq.substack.com/p/universal-interpolation-for-deep
ЧТО сделали: Доказали теорему об универсальной интерполяции для глубоких остаточных сетей самовнимания: фиксированный словарь из нескольких замороженных блоков внимания со случайными гауссовыми весами переводит любой батч из N последовательностей токенов в любой целевой батч лишь за счёт выбора порядка слоёв, их знаков и скалярных коэффициентов.
ЧТО получили: Для некаузального внимания с одной головой ширины r >= d ровно двух замороженных случайных блоков хватает для универсальной интерполяции при любых размерах батча N >= 1 и длинах последовательностей n >= 2 на открытом связном множестве полной меры. В численных тестах ранга на 576 конфигурациях (r < d) словари из m = ceil (d/r) блоков достигли полного ранга алгебры Ли в 94/96 запусков (дисперсия 1) и 96/96 (дисперсия 1/d) при допуске 10E-8 (89/96 и 90/96 по всем трём допускам), тогда как при m = ceil (d/r) - 1 получилось 0/96.
ПОЧЕМУ это важно: Результат показывает, что глубина и композиция способны полностью заменить настройку параметров каждого отдельного слоя в рекуррентных моделях. Главное ограничение: конструкция не даёт верхних оценок на требуемую глубину сети.
Искать универсальность здесь: https://t.me/gonzo_ML_podcasts/4819
24 545
Недавно писал про прикольный подход Recirculation, а тут уже и его развитие подоспело (от конкурирующей команды)
Write Back the Δ: Revisiting the Same Tokens with Fresh Representations
Wencheng Ye, Anning Hu, Xiangdong Zhang, Tianyi Wang, Yikang Li, Hengyu Jin, Bing Li, Junchi Yan
Paper: https://arxiv.org/abs/2609.32457
Review: https://arxiviq.substack.com/p/recirculation
Code: https://github.com/gooogleshanghai/reflux
ЧТО сделали: Авторы представили ReFlux — метод, который возвращает вычисленные инкременты глубины из глубоких слоёв трансформера в более ранние слои через разреженный обучаемый граф обратной связи, зависящий от входа, поверх замороженной языковой модели.
ЧТО получили: На восьми бенчмарках на рассуждение ReFlux улучшает среднюю точность на 2.1–2.3 процентных пункта относительно базовых чекпоинтов (прирост на 4.7 п.п. на 2WikiMultiHopQA с 38.5% до 43.2% на Gemma3-4B против 38.6% у Recirculation и 38.9% у TF-Loop). Перплексия на C4 для Gemma3-4B снизилась с 23.8 до 20.9. В потоковом режиме эти улучшения сохраняются при 1× теоретических FLOPs бэкбона и задержке декодирования 1.02×–1.08×.
ПОЧЕМУ это важно: Языковые модели могут уточнять промежуточные репрезентации без повторного прогона всех слоёв и без траты лишних токенов на длинные цепочки рассуждений. Однако для продакшена потребуются кастомные ядра, чтобы убрать накладные расходы при декодировании.
Подробнее тут: https://t.me/gonzo_ML_podcasts/4818
24 545
В работе с таблицами, кажется, случается свой Jev-moment — вышла новая маленькая и быстрая фундаментальная табличная модель, которая бьёт всех на zero-shot, одновременно работая с классификацией и регрессией. Почему обычные LLM плохи на таблицах мы обсуждали здесь.
TabPFN-3.5: Technical Report
Prior Labs Team (Benjamin Jäger, Nick Erickson, Léo Grinsztajn, Felix Birkel, Klemens Flöge, Lennart Purucker, Arthur Cahu, Vahid Balazadeh, Jonas Kübler, Alan Arazi, Philipp Jund, Siyuan Guo, Anurag Garg, Jan Hendrik Metzen, Mihir Manium, Jake Robertson, David Salinas, Andrej Tschalzev, Simon Bing, Adrian Hayler, Tobias Schröder, Oscar Key, Brendan Roof, Georg Grab, Simone Alessi, Dominik Safaric, Eliott Kalfon, Philipp Singer, Clara Cornu, Diana Kriuchkova, Lilly Wehrhahn, Tuana Çelik, Vitor Monteiro, Rylee Grace, Adèle Frankel, Kürşat Kaya, Kristina Collins, Lydia Sidhoum, Marie Salmon, Tomás Pereda, Jerry Chen, Madelon Hulsebos, Yann LeCun, Bernhard Schölkopf, Frank Hutter, Sauraj Gambhir, Noah Hollmann)
Paper: https://arxiv.org/abs/2609.17895
Review: https://arxiviq.substack.com/p/tabpfn-35-technical-report
Code: https://github.com/PriorLabs/TabPFN
Model: https://huggingface.co/Prior-Labs/tabpfn_3_5
ЧТО сделали:
Представили TabPFN-3.5 — базовую модель для табличных данных, работающую без подбора весов под конкретный датасет. Авторы расширили скрытую размерность трансформера до 1024, объединили классификацию и регрессию в одной сети и заменили внешний препроцессинг обучаемыми признаками Фурье и ранжированием по эмпирическому распределению.
ЧТО получили:
TabPFN-3.5 заняла первое место на семи табличных бенчмарках со средним винрейтом 78% против конкурирующих табличных базовых моделей и 89% против классических алгоритмов. На TabArena модель набрала 1866 Elo (а TabPFN-3.5-Thinking — 1910 Elo) против 1780 у TabFM и 1631 у TabPFN-3. На TALENT средний ранг составил 2.95 на 274 датасетах против 5.35 у TabICLv2 и 4.48 у TabPFN-3.
ПОЧЕМУ это важно:
Инженеры получают zero-shot инференс быстрее секунды на сложных таблицах со строками и групповыми сплитами без подбора гиперпараметров. При этом нативная мультимодальность и максимальная скорость инференса остаются закрытыми enterprise-решениями.
Зирошотить таблицы здесь: https://t.me/gonzo_ML_podcasts/4817
24 545
Команда из DeepMind продолжает поиски сознания.
From cacophony to hierarchy: a principled framework for assessing AI consciousness
Shamil Chandaria, Arvo Muñoz Morán, Fernando Rosas, Anil Seth, Henry Shevlin, Marcus Hutter, Thore Graepel, Adam Bales, Iulia Comşa, Murray Shanahan, Ruben Laukkonen, Morten Kringelbach, Chris Frith, Shane Legg
Paper: https://arxiv.org/abs/2609.35618
Code: https://github.com/arvomm/cacophony-public-code
Review: https://arxiviq.substack.com/p/from-cacophony-to-hierarchy-a-principled
Site: https://ai-cognition.org/cacophony-tool/
Model: N/A
ЧТО сделали: Авторы формализовали оценку сознания машин, объединив конкурирующие теории в пятиуровневую иерархию функциональных описаний с помощью многоуровневой байесовской сети.
ЧТО получили: На открытых данных о LLM оптимистичный взгляд даёт итоговую апостериорную вероятность 0.397, а скептический — 0.005 при равных весах уровней. Если назначить по 40% веса верхним уровням, оптимистичная вероятность вырастает до 0.793. Если же отдать по 40% детальным организменным уровням, она падает до 0.099. Для человека при любых весах получается 1.000, а для термостата — 0.000.
ПОЧЕМУ это важно: Метод позволяет количественно учитывать неопределённость и избегать субъективных вердиктов по мере роста автономности моделей. Главная оговорка: все индикаторы откалиброваны по маркёрам человеческого мышления, поэтому остаётся риск ложноположительных срабатываний из-за подражания.
Искать сознание тут: https://t.me/gonzo_ML_podcasts/4816
24 545
Вопрос для практикующих программистов, кто активно занимается разработкой. Вы ещё пишете какую-либо заметную часть кода руками day-to-day, week-to-week?
24 545
Вопрос для практикующих программистов, кто активно занимается разработкой. Вы ещё пишете какую-либо заметную часть кода руками day-to-day, week-to-week?
24 545
Экспонента в статьях, экспонента в коде, что ещё?
Какой прекрасный толк :)
https://youtu.be/vDjW_dRyKXY?is=opUGqNWz7C7CngDp
24 545
Arxiv ввёл rate limits на публикацию, не больше двух статей в месяц :)
https://blog.arxiv.org/2026/10/01/updated-rate-limit-policy/
