epsilon correct
Відкрити в Telegram
Машинное обучение, графы, языковые модели. Чуток про карьеру исследователя в FAANG, путь PhD и щепотка полезной математики. Связаться с автором: @deltaincorrect. Рекламы в канале нет.
Показати більше8 045
Підписники
+1724 години
+167 днів
+4430 день
Триває завантаження даних...
Схожі канали
Хмара тегів
Вхідні та вихідні згадування
---
---
---
---
---
---
Залучення підписників
червень '26
червень '26
+71
в 0 каналах
травень '26
+148
в 0 каналах
Get PRO
квітень '26
+218
в 5 каналах
Get PRO
березень '26
+111
в 0 каналах
Get PRO
лютий '26
+256
в 2 каналах
Get PRO
січень '26
+171
в 3 каналах
Get PRO
грудень '25
+109
в 5 каналах
Get PRO
листопад '25
+152
в 2 каналах
Get PRO
жовтень '25
+106
в 3 каналах
Get PRO
вересень '25
+148
в 3 каналах
Get PRO
серпень '25
+156
в 6 каналах
Get PRO
липень '25
+147
в 2 каналах
Get PRO
червень '25
+214
в 5 каналах
Get PRO
травень '25
+159
в 5 каналах
Get PRO
квітень '25
+213
в 3 каналах
Get PRO
березень '25
+521
в 10 каналах
Get PRO
лютий '25
+541
в 10 каналах
Get PRO
січень '25
+150
в 6 каналах
Get PRO
грудень '24
+381
в 9 каналах
Get PRO
листопад '24
+152
в 3 каналах
Get PRO
жовтень '24
+388
в 10 каналах
Get PRO
вересень '24
+2 489
в 19 каналах
Get PRO
серпень '24
+198
в 10 каналах
Get PRO
липень '24
+232
в 4 каналах
Get PRO
червень '24
+76
в 0 каналах
Get PRO
травень '24
+85
в 4 каналах
Get PRO
квітень '24
+138
в 1 каналах
Get PRO
березень '24
+185
в 8 каналах
Get PRO
лютий '24
+105
в 3 каналах
Get PRO
січень '24
+119
в 1 каналах
Get PRO
грудень '23
+408
в 3 каналах
Get PRO
листопад '23
+52
в 0 каналах
Get PRO
жовтень '23
+165
в 3 каналах
Get PRO
вересень '23
+106
в 0 каналах
Get PRO
серпень '23
+140
в 0 каналах
Get PRO
липень '23
+1 495
в 0 каналах
| Дата | Залучення підписників | Згадування | Канали | |
| 13 червня | 0 | |||
| 12 червня | +18 | |||
| 11 червня | +3 | |||
| 10 червня | +6 | |||
| 09 червня | +3 | |||
| 08 червня | +6 | |||
| 07 червня | +1 | |||
| 06 червня | +4 | |||
| 05 червня | +8 | |||
| 04 червня | +8 | |||
| 03 червня | +1 | |||
| 02 червня | +4 | |||
| 01 червня | +9 |
Дописи каналу
MTP спекулятивный декодинг в Gemma 4: ускоряемся в два раза без потери качества 🥳
В нашу дорогую гемму наконец завезли спекулятивный декодинг, когда более маленькая модель предсказывает токены, которые могут верифицироваться большой моделью параллельно, существенно ускоряя инференс для локальных юзкейзов.
Попробовать можно через HuggingFace transformers, остальные движки тоже скоро будут поддерживать.
блогпост, технический блог
| 2 | Продолжаем геммапропаганду. В прошлом году у NVIDIA вышла неплохая статья о том, как ловить людей, которые доливают тест в трейн. CoDeC – нормализованный показатель перплексии, где для тестсета бенчмарка считают изменения в перплексии с дополнительными примерами из того же бенчмарка. Для неконтаминированных моделек мы ожидаем, что дополнительные примеры не будут сбивать модель с толку, а в лучшем случае помогут. С другой стороны, если модель запомнила текст из теста, дополнительные примеры собьют её с толку и уверенность модели в ответе упадёт. Шкала нормализована от 0 до 100, где ~80% значит, что примеры из теста модель видела буквально, ~40% – в перефразированном виде. Товарищ с твиттера посчитал CoDeC для Gemma 4 и сравнил с Qwen 3.5 – почему-то у наших китайских коллег модель почти запоминает примеры из теста. | 0 |
| 3 | WeirdML – один из самых необычных бенчмарков для ЛЛМок. В него входят необычные open-ended задачки по МЛю, например, распознавание цифр со всего 28 размеченными примерами и ~50к неразмеченными, распознавание формы фигур, или восстановление перемешанных фрагментов изображений.
Gemma 4 31B оказалась самой сильной открытой моделью на этом бенчмарке, опередив GLM 5 (MoE на 700B) и GPT-OSS с хорошим отрывом, показав результат на уровне с О3 или Gemini 2.5 Pro. | 0 |
| 4 | Мои любимые artificial analysis выложили своё независимое тестирование Gemma 4 (твит, страница с результатами), по результатам вышло хуже квенов из-за просадки на 𝜏²-bench, ну и ладно с ним.
В этой версии мне довелось поработать над околонаучными бенчмарками и работой с длинным контекстом, а там мы наступаем на пятки китайским моделям на порядок больше вроде GLM 5 или DS 3.2. | 0 |
| 5 | Gemma 4
blogpost | huggingface
4 размера: E2B, E4b (бывшие Gemma 3n/Gemini Nano); 26A4B, 31B Dense | 0 |
Вже доступно! Дослідження Telegram за 2025 — головні інсайти року 
