gonzo-обзоры ML статей
Ir al canal en Telegram
Авторы: Гриша Сапунов, ранее руководитель разработки Яндекс-Новостей, ныне CTO Intento. Области интересов: AI/ML/DL, биоинформатика. Лёша Тихонов, ранее аналитик в Яндексе, автор Автопоэта, Нейронной Обороны... Области интересов: discrete domain, NLP, RL.
Mostrar más📈 Análisis del canal de Telegram gonzo-обзоры ML статей
El canal gonzo-обзоры ML статей (@gonzo_ml) en el segmento lingüístico de Ruso es un actor destacado. Actualmente la comunidad reúne a 24 544 suscriptores, ocupando la posición 5 293 en la categoría Tecnologías y Aplicaciones y el puesto 26 479 en la región Rusia.
📊 Métricas de audiencia y dinámica
Desde su creación el невідомо, el proyecto ha mostrado un crecimiento acelerado, reuniendo a 24 544 suscriptores.
Según los últimos datos del 05 octubre, 2026, el canal mantiene una actividad estable. En los últimos 30 días la variación de miembros fue de 218, y en las últimas 24 horas de 3, conservando un alto alcance.
- Estado de verificación: No verificado
- Tasa de interacción (ER): El promedio de interacción de la audiencia es 12.66%. Durante las primeras 24 horas tras publicar, el contenido suele obtener 8.48% de reacciones respecto al total de suscriptores.
- Alcance de las publicaciones: Cada publicación recibe en promedio 3 109 visualizaciones. En el primer día suele acumular 2 081 visualizaciones.
- Reacciones e interacción: La audiencia responde de forma activa: el promedio de reacciones por publicación es 13.
- Intereses temáticos: El contenido se centra en temas clave como learning, tl;dr, токенов, архитектура, контекст.
📝 Descripción y política de contenido
El autor describe el recurso como un espacio para expresar opiniones subjetivas:
“Авторы:
Гриша Сапунов, ранее руководитель разработки Яндекс-Новостей, ныне CTO Intento. Области интересов: AI/ML/DL, биоинформатика.
Лёша Тихонов, ранее аналитик в Яндексе, автор Автопоэта, Нейронной Обороны... Области интересов: discrete domain, NLP...”
Gracias a la alta frecuencia de actualizaciones (últimos datos recibidos el 06 octubre, 2026), el canal mantiene la vigencia y un amplio alcance. La analítica demuestra que la audiencia interactúa activamente con el contenido, lo que lo convierte en un punto de referencia dentro de la categoría Tecnologías y Aplicaciones.
24 544
Suscriptores
+324 horas
+867 días
+21830 días
Archivo de publicaciones
24 545
Сингулярность отменяется, слава Коши!
The Dynamics of Intelligence Explosions
Toby Ord
Paper: https://arxiv.org/abs/2608.14426
Review: https://arxiviq.substack.com/p/the-dynamics-of-intelligence-explosions
ЧТО сделали:
Предложили модель рекурсивного самосовершенствования через разностные уравнения со временем. В ней дискретный шаг прироста возможностей привязан к явной длительности цикла обратной связи — времени генерации.
ЧТО получили:
Прирост возможностей не уходит в бесконечность за конечное время без сжатия длительности циклов к нулю. В непрерывных моделях с A' = k A^r показатель отдачи r > 1 создаёт вертикальную асимптоту, но функции вроде A' = A log A дают двойную экспоненту (A_0^{e^t}) без сингулярности. В дискретных циклах с шагом T_n бесконечный рост за конечное время требует сокращения цикла хотя бы как T_n ~ n^{-(1+ε)}. Если длительность шага постоянна (T_n = k), сингулярности не возникнет даже при тетрации (A_{n+1} = 2^{A_n}).
ПОЧЕМУ это важно:
Прогресс в R&D не приведёт к математической сингулярности, пока физическое время итерации не начнёт сжиматься к нулю. При этом даже обычная экспонента на машинной скорости способна сжать десять лет работы людей в один календарный год.
Искать сингулярность тут: https://t.me/gonzo_ML_podcasts/4820
24 545
По свежим запросам читателей.
Это какая-то интересная статья — получается, что достаточно двух случайно инициализированных голов внимания, в правильном порядке и применённых нужное количество раз, чтобы интерполировать любой батч последовательностей токенов и перевести его в любой другой целевой батч. Проблема только, что это теорема существования (доказали, что можно), но она не предлагает конкретной конструктивной процедуры (чтобы знать, сколько слоёв нужно).
Математика тяжёлая для меня, надо вникать, сходу проверить не могу. Специалисты вэлкам (deepseek не предлагать)!
Universal Interpolation for Deep Residual Self-Attention Networks
Sibylle Marcotte, Joan Bruna
Paper: https://arxiv.org/abs/2610.01981
Code: https://github.com/sibyllema/attention_universality
Review: https://arxiviq.substack.com/p/universal-interpolation-for-deep
ЧТО сделали: Доказали теорему об универсальной интерполяции для глубоких остаточных сетей самовнимания: фиксированный словарь из нескольких замороженных блоков внимания со случайными гауссовыми весами переводит любой батч из N последовательностей токенов в любой целевой батч лишь за счёт выбора порядка слоёв, их знаков и скалярных коэффициентов.
ЧТО получили: Для некаузального внимания с одной головой ширины r >= d ровно двух замороженных случайных блоков хватает для универсальной интерполяции при любых размерах батча N >= 1 и длинах последовательностей n >= 2 на открытом связном множестве полной меры. В численных тестах ранга на 576 конфигурациях (r < d) словари из m = ceil (d/r) блоков достигли полного ранга алгебры Ли в 94/96 запусков (дисперсия 1) и 96/96 (дисперсия 1/d) при допуске 10E-8 (89/96 и 90/96 по всем трём допускам), тогда как при m = ceil (d/r) - 1 получилось 0/96.
ПОЧЕМУ это важно: Результат показывает, что глубина и композиция способны полностью заменить настройку параметров каждого отдельного слоя в рекуррентных моделях. Главное ограничение: конструкция не даёт верхних оценок на требуемую глубину сети.
Искать универсальность здесь: https://t.me/gonzo_ML_podcasts/4819
24 545
Недавно писал про прикольный подход Recirculation, а тут уже и его развитие подоспело (от конкурирующей команды)
Write Back the Δ: Revisiting the Same Tokens with Fresh Representations
Wencheng Ye, Anning Hu, Xiangdong Zhang, Tianyi Wang, Yikang Li, Hengyu Jin, Bing Li, Junchi Yan
Paper: https://arxiv.org/abs/2609.32457
Review: https://arxiviq.substack.com/p/recirculation
Code: https://github.com/gooogleshanghai/reflux
ЧТО сделали: Авторы представили ReFlux — метод, который возвращает вычисленные инкременты глубины из глубоких слоёв трансформера в более ранние слои через разреженный обучаемый граф обратной связи, зависящий от входа, поверх замороженной языковой модели.
ЧТО получили: На восьми бенчмарках на рассуждение ReFlux улучшает среднюю точность на 2.1–2.3 процентных пункта относительно базовых чекпоинтов (прирост на 4.7 п.п. на 2WikiMultiHopQA с 38.5% до 43.2% на Gemma3-4B против 38.6% у Recirculation и 38.9% у TF-Loop). Перплексия на C4 для Gemma3-4B снизилась с 23.8 до 20.9. В потоковом режиме эти улучшения сохраняются при 1× теоретических FLOPs бэкбона и задержке декодирования 1.02×–1.08×.
ПОЧЕМУ это важно: Языковые модели могут уточнять промежуточные репрезентации без повторного прогона всех слоёв и без траты лишних токенов на длинные цепочки рассуждений. Однако для продакшена потребуются кастомные ядра, чтобы убрать накладные расходы при декодировании.
Подробнее тут: https://t.me/gonzo_ML_podcasts/4818
24 545
В работе с таблицами, кажется, случается свой Jev-moment — вышла новая маленькая и быстрая фундаментальная табличная модель, которая бьёт всех на zero-shot, одновременно работая с классификацией и регрессией. Почему обычные LLM плохи на таблицах мы обсуждали здесь.
TabPFN-3.5: Technical Report
Prior Labs Team (Benjamin Jäger, Nick Erickson, Léo Grinsztajn, Felix Birkel, Klemens Flöge, Lennart Purucker, Arthur Cahu, Vahid Balazadeh, Jonas Kübler, Alan Arazi, Philipp Jund, Siyuan Guo, Anurag Garg, Jan Hendrik Metzen, Mihir Manium, Jake Robertson, David Salinas, Andrej Tschalzev, Simon Bing, Adrian Hayler, Tobias Schröder, Oscar Key, Brendan Roof, Georg Grab, Simone Alessi, Dominik Safaric, Eliott Kalfon, Philipp Singer, Clara Cornu, Diana Kriuchkova, Lilly Wehrhahn, Tuana Çelik, Vitor Monteiro, Rylee Grace, Adèle Frankel, Kürşat Kaya, Kristina Collins, Lydia Sidhoum, Marie Salmon, Tomás Pereda, Jerry Chen, Madelon Hulsebos, Yann LeCun, Bernhard Schölkopf, Frank Hutter, Sauraj Gambhir, Noah Hollmann)
Paper: https://arxiv.org/abs/2609.17895
Review: https://arxiviq.substack.com/p/tabpfn-35-technical-report
Code: https://github.com/PriorLabs/TabPFN
Model: https://huggingface.co/Prior-Labs/tabpfn_3_5
ЧТО сделали:
Представили TabPFN-3.5 — базовую модель для табличных данных, работающую без подбора весов под конкретный датасет. Авторы расширили скрытую размерность трансформера до 1024, объединили классификацию и регрессию в одной сети и заменили внешний препроцессинг обучаемыми признаками Фурье и ранжированием по эмпирическому распределению.
ЧТО получили:
TabPFN-3.5 заняла первое место на семи табличных бенчмарках со средним винрейтом 78% против конкурирующих табличных базовых моделей и 89% против классических алгоритмов. На TabArena модель набрала 1866 Elo (а TabPFN-3.5-Thinking — 1910 Elo) против 1780 у TabFM и 1631 у TabPFN-3. На TALENT средний ранг составил 2.95 на 274 датасетах против 5.35 у TabICLv2 и 4.48 у TabPFN-3.
ПОЧЕМУ это важно:
Инженеры получают zero-shot инференс быстрее секунды на сложных таблицах со строками и групповыми сплитами без подбора гиперпараметров. При этом нативная мультимодальность и максимальная скорость инференса остаются закрытыми enterprise-решениями.
Зирошотить таблицы здесь: https://t.me/gonzo_ML_podcasts/4817
24 545
Команда из DeepMind продолжает поиски сознания.
From cacophony to hierarchy: a principled framework for assessing AI consciousness
Shamil Chandaria, Arvo Muñoz Morán, Fernando Rosas, Anil Seth, Henry Shevlin, Marcus Hutter, Thore Graepel, Adam Bales, Iulia Comşa, Murray Shanahan, Ruben Laukkonen, Morten Kringelbach, Chris Frith, Shane Legg
Paper: https://arxiv.org/abs/2609.35618
Code: https://github.com/arvomm/cacophony-public-code
Review: https://arxiviq.substack.com/p/from-cacophony-to-hierarchy-a-principled
Site: https://ai-cognition.org/cacophony-tool/
Model: N/A
ЧТО сделали: Авторы формализовали оценку сознания машин, объединив конкурирующие теории в пятиуровневую иерархию функциональных описаний с помощью многоуровневой байесовской сети.
ЧТО получили: На открытых данных о LLM оптимистичный взгляд даёт итоговую апостериорную вероятность 0.397, а скептический — 0.005 при равных весах уровней. Если назначить по 40% веса верхним уровням, оптимистичная вероятность вырастает до 0.793. Если же отдать по 40% детальным организменным уровням, она падает до 0.099. Для человека при любых весах получается 1.000, а для термостата — 0.000.
ПОЧЕМУ это важно: Метод позволяет количественно учитывать неопределённость и избегать субъективных вердиктов по мере роста автономности моделей. Главная оговорка: все индикаторы откалиброваны по маркёрам человеческого мышления, поэтому остаётся риск ложноположительных срабатываний из-за подражания.
Искать сознание тут: https://t.me/gonzo_ML_podcasts/4816
24 545
Вопрос для практикующих программистов, кто активно занимается разработкой. Вы ещё пишете какую-либо заметную часть кода руками day-to-day, week-to-week?
24 545
Вопрос для практикующих программистов, кто активно занимается разработкой. Вы ещё пишете какую-либо заметную часть кода руками day-to-day, week-to-week?
24 545
Экспонента в статьях, экспонента в коде, что ещё?
Какой прекрасный толк :)
https://youtu.be/vDjW_dRyKXY?is=opUGqNWz7C7CngDp
24 545
Arxiv ввёл rate limits на публикацию, не больше двух статей в месяц :)
https://blog.arxiv.org/2026/10/01/updated-rate-limit-policy/
