¡Ya disponible! Investigación de Telegram 2025 — los principales insights del año 
Библиотека дата-сайентиста | Data Science, Machine learning, анализ данных, машинное обучение
Ir al canal en Telegram
Все самое полезное для дата сайентиста в одном канале. Курс по Ai-агентам: https://clc.to/9L0Tqg По рекламе: @proglib_adv Для обратной связи: @proglibrary_feeedback_bot РКН: https://gosuslugi.ru/snet/67a5b03124c8ba6dcaa121c9
Mostrar más📈 Análisis del canal de Telegram Библиотека дата-сайентиста | Data Science, Machine learning, анализ данных, машинное обучение
El canal Библиотека дата-сайентиста | Data Science, Machine learning, анализ данных, машинное обучение (@dsproglib) en el segmento lingüístico de Ruso es un actor destacado. Actualmente la comunidad reúne a 18 490 suscriptores, ocupando la posición 7 259 en la categoría Tecnologías y Aplicaciones y el puesto 36 512 en la región Rusia.
📊 Métricas de audiencia y dinámica
Desde su creación el невідомо, el proyecto ha mostrado un crecimiento acelerado, reuniendo a 18 490 suscriptores.
Según los últimos datos del 13 junio, 2026, el canal mantiene una actividad estable. En los últimos 30 días la variación de miembros fue de -35, y en las últimas 24 horas de -6, conservando un alto alcance.
- Estado de verificación: No verificado
- Tasa de interacción (ER): El promedio de interacción de la audiencia es 6.92%. Durante las primeras 24 horas tras publicar, el contenido suele obtener 4.42% de reacciones respecto al total de suscriptores.
- Alcance de las publicaciones: Cada publicación recibe en promedio 1 279 visualizaciones. En el primer día suele acumular 817 visualizaciones.
- Reacciones e interacción: La audiencia responde de forma activa: el promedio de reacciones por publicación es 5.
- Intereses temáticos: El contenido se centra en temas clave como сайентиста, llm, буст, навигация, openai.
📝 Descripción y política de contenido
El autor describe el recurso como un espacio para expresar opiniones subjetivas:
“Все самое полезное для дата сайентиста в одном канале.
Курс по Ai-агентам: https://clc.to/9L0Tqg
По рекламе: @proglib_adv
Для обратной связи: @proglibrary_feeedback_bot
РКН: https://gosuslugi.ru/snet/67a5b03124c8ba6dcaa121c9”
Gracias a la alta frecuencia de actualizaciones (últimos datos recibidos el 14 junio, 2026), el canal mantiene la vigencia y un amplio alcance. La analítica demuestra que la audiencia interactúa activamente con el contenido, lo que lo convierte en un punto de referencia dentro de la categoría Tecnologías y Aplicaciones.
18 486
Suscriptores
-624 horas
-187 días
-3530 días
Carga de datos en curso...
Canales Similares
Nube de Etiquetas
Menciones Entrantes y Salientes
---
---
---
---
---
---
Atraer Suscriptores
junio '26
junio '26
+42
en 0 canales
mayo '26
+142
en 1 canales
Get PRO
abril '26
+106
en 0 canales
Get PRO
marzo '26
+329
en 4 canales
Get PRO
febrero '26
+154
en 5 canales
Get PRO
enero '26
+212
en 4 canales
Get PRO
diciembre '25
+211
en 3 canales
Get PRO
noviembre '25
+101
en 1 canales
Get PRO
octubre '25
+148
en 5 canales
Get PRO
septiembre '25
+105
en 2 canales
Get PRO
agosto '25
+103
en 4 canales
Get PRO
julio '25
+171
en 2 canales
Get PRO
junio '25
+185
en 42 canales
Get PRO
mayo '25
+319
en 6 canales
Get PRO
abril '25
+206
en 18 canales
Get PRO
marzo '25
+247
en 53 canales
Get PRO
febrero '25
+236
en 36 canales
Get PRO
enero '25
+180
en 41 canales
Get PRO
diciembre '24
+212
en 42 canales
Get PRO
noviembre '24
+217
en 52 canales
Get PRO
octubre '24
+224
en 43 canales
Get PRO
septiembre '24
+249
en 38 canales
Get PRO
agosto '24
+269
en 37 canales
Get PRO
julio '24
+197
en 37 canales
Get PRO
junio '24
+257
en 31 canales
Get PRO
mayo '24
+429
en 38 canales
Get PRO
abril '24
+339
en 38 canales
Get PRO
marzo '24
+437
en 32 canales
Get PRO
febrero '24
+426
en 32 canales
Get PRO
enero '24
+473
en 28 canales
Get PRO
diciembre '23
+604
en 34 canales
Get PRO
noviembre '23
+289
en 13 canales
Get PRO
octubre '23
+462
en 22 canales
Get PRO
septiembre '23
+631
en 0 canales
Get PRO
agosto '23
+488
en 0 canales
Get PRO
julio '23
+420
en 0 canales
Get PRO
junio '23
+329
en 0 canales
Get PRO
mayo '23
+433
en 0 canales
Get PRO
abril '23
+224
en 0 canales
Get PRO
marzo '23
+712
en 0 canales
Get PRO
febrero '23
+249
en 0 canales
Get PRO
enero '23
+260
en 0 canales
Get PRO
diciembre '22
+292
en 0 canales
Get PRO
noviembre '22
+407
en 0 canales
Get PRO
octubre '22
+172
en 0 canales
Get PRO
septiembre '22
+209
en 0 canales
Get PRO
agosto '22
+287
en 0 canales
Get PRO
julio '22
+352
en 0 canales
Get PRO
junio '22
+407
en 0 canales
Get PRO
mayo '22
+166
en 0 canales
Get PRO
abril '22
+215
en 0 canales
Get PRO
marzo '22
+225
en 0 canales
Get PRO
febrero '22
+129
en 0 canales
Get PRO
enero '22
+250
en 0 canales
Get PRO
diciembre '21
+203
en 0 canales
Get PRO
noviembre '21
+253
en 0 canales
Get PRO
octubre '21
+237
en 0 canales
Get PRO
septiembre '21
+208
en 0 canales
Get PRO
agosto '21
+297
en 0 canales
Get PRO
julio '21
+312
en 0 canales
Get PRO
junio '21
+288
en 0 canales
Get PRO
mayo '21
+446
en 0 canales
Get PRO
abril '21
+446
en 0 canales
Get PRO
marzo '21
+429
en 0 canales
Get PRO
febrero '21
+396
en 0 canales
Get PRO
enero '21
+351
en 0 canales
Get PRO
diciembre '20
+12 450
en 0 canales
| Fecha | Crecimiento de Suscriptores | Menciones | Canales | |
| 14 junio | 0 | |||
| 13 junio | +2 | |||
| 12 junio | +5 | |||
| 11 junio | +3 | |||
| 10 junio | +6 | |||
| 09 junio | +4 | |||
| 08 junio | +6 | |||
| 07 junio | +1 | |||
| 06 junio | +3 | |||
| 05 junio | 0 | |||
| 04 junio | +8 | |||
| 03 junio | +2 | |||
| 02 junio | +2 | |||
| 01 junio | 0 |
Publicaciones del Canal
а что выбираешь ты 😁
Библиотека дата-сайентиста
#развлекалово
| 2 | 🎥 До открытого урока — несколько дней. Подготовили небольшую подборку материалов от нашего спикера Дмитрия Юдина.
Дмитрий руководит AI/ML-направлением в Сloud․ru и развивает Evolution AI Factory — среду для работы с GenAI: от инфраструктуры обучения LLM до внедрения интеллектуальных агентов.
С чего начать:
📺 AI-инструменты для разработчиков — как код, автотесты и ассистенты меняют рутину инженера.
📺 AI-эволюция бизнеса в эпоху генеративных моделей — агентные системы в реальных продуктах.
📺 Разработка мертва? — дискуссия о будущем профессии и роли AI в ней.
📖 Применение LLM в бизнесе — статья Дмитрия о практике внедрения и роли облака.
Одна из ключевых тем Дмитрия — практическое применение агентных систем и их ограничения.
Именно об этом — бесплатный урок 18 июня в 19:00: «Мультиагентные системы: почему большинство архитектур переусложнены» 🔥
🎁 Для участников подготовили промокод на скидку 10 000 ₽ на курс «Разработка ИИ-агентов».
👉 Успей занять место на открытом уроке | 342 |
| 3 |  🤖 Архитектуры нейросетей: объясняем на пальцах
Разбираться в Data Science и Deep Learning становится проще! В одной картинке собрали 8 ключевых архитектур нейросетей, которые двигают вперед современный ИИ.
📍 Навигация: Вакансии • Задачи • Собесы
Библиотека дата-сайентиста
#буст | 680 |
| 4 | 💻 3 курса по цене одного — собери стек для оффера в топовую IT-компанию
Для следующего карьерного шага мало писать код. Работодатели ждут не только знания языка, но и понимания архитектуры, алгоритмов, автоматизации, AI-инструментов и агентных систем.
Одно направление закрывает только часть задачи.
Поэтому сейчас мы предлагаем освоить сразу несколько востребованных навыков — выбери любой курс и получи доступ еще к двум бесплатно 🔥
Собери стек навыков под свою цель:
🔹 подготовка к сильным компаниям (алгоритмы, архитектура);
🔹 переход в AI-направление (ИИ-агенты, AgentOps);
🔹 развитие в ML и Data Science (математика, основы ML);
🔹 новый оффер и рост дохода.
Полученные знания применяешь в работе уже во время обучения.
⏳ Акция действует 48 часов — 13 и 14 июня.
👉 Переходи на сайт, выбирай курсы и оставляй заявку — за 10 минут поможем собрать комплект под твою цель. | 760 |
| 5 |  Библиотека дата-сайентиста
#развлекалово | 860 |
| 6 | ✳️ 4 библиотеки для полного DS-пайплайна на Polars
Polars набирает популярность стремительно — на PyCon US 2026 очередь на подпись книги по Polars растянулась на весь коридор. Но многие останавливаются на вопросе: «А поддерживают ли мои инструменты Polars?»
Вот четыре библиотеки которые поддерживают — и закрывают весь пайплайн.
1. pointblank — валидация данных
agent = (
pb.Validate(sales_data)
.col_vals_not_null(columns="date")
.col_vals_between(columns="sales", left=0, right=10000)
.col_vals_in_set(columns="region", set=["North", "South", "East", "West"])
.interrogate()
)
Проверяет качество данных прямо в Polars DataFrame. Никакого .to_pandas().
2. Great Tables — публикационные таблицы
GT(regional_summary)
.fmt_currency(columns=["total_sales"])
.fmt_nanoplot(columns="sales_trend", plot_type="line")
.data_color(columns="total_sales", palette=["#f0f0f0", "#447099"])
Форматирование, цвета, мини-графики прямо в таблице. Это дефолтный способ стилизации Polars DataFrame через df.style.
3. plotnine — ggplot2 для Python
ggplot(sales_data, aes(x="region", y="sales", fill="product"))
+ geom_col(position=position_dodge(width=0.8))
+ scale_fill_manual(values=product_colors)
+ theme_minimal()
Grammar of graphics в Python. Работает с Polars напрямую — конвертация не нужна.
4. mall — LLM прямо в пайплайне
sales_data.llm.use("ollama", "llama3.2")
sales_data.llm.classify("sales", ["high", "medium", "low"])
sales_data.llm.sentiment("review_text")
sales_data.llm.summarize("description")
.llm accessor добавляет LLM-операции к любому Polars DataFrame. Работает с Ollama, OpenAI, Anthropic.
📍 Навигация: Вакансии • Задачи • Собесы
Библиотека дата-сайентиста
#буст | 872 |
| 7 | 🔥 Строишь ИИ-агентов? Руководитель AI/ML-направления Сloud․ru покажет, где большинство архитектур ломаются, и как этого избежать.
18 июня в 19:00 совместно с Сloud․ru проведём открытый урок «Мультиагентные системы: почему большинство архитектур переусложнены».
Спикер — Дмитрий Юдин, эксперт по масштабированию и оптимизации вычислительных ресурсов для ML. Под его руководством развивается Evolution AI Factory — цифровая среда для работы с GenAI. Он занимается развитием сервисов генеративного ИИ, инфраструктуры для обучения больших языковых моделей и внедрением интеллектуальных агентов.
Что получишь на уроке:
— критерии выбора между одним агентом и мультиагентной системой;
— разбор популярных архитектурных ошибок;
— реальные ограничения современных ИИ-агентов;
— практические рекомендации по проектированию агентных систем.
🎁 Для участников урока подготовили промокод на скидку 10 000 ₽.
🗓️ Когда: 18 июня, 19:00 (МСК)
👉 Занять место на открытом уроке | 880 |
| 8 |  CVPR 2026: 16 000 заявок, 4 090 принято. Вот 5, которые стоит прочитать первыми
Если вы работаете с VLM или мультимодальными пайплайнами — это ваш список на длинные выходные.
1. SAM 3D — лучшая работа конференции
«Сегментируй что угодно» теперь в 3D из одного 2D изображения, за один проход. Год назад это назвали бы исследовательским демо.
2. Back to Basics — Tianhong Li & Kaiming He
Когда Каiming He публикует «Назад к основам» — читаешь сразу. Оба предыдущих раза он переписывал то, что область считала устоявшимся.
3. TIPSv2 — vision-language pretraining с улучшенным patch-text alignment
Поиск на уровне патчей — это следующее поколение image RAG. Здесь оно живёт.
4. INSID3 — сегментация по примерам без обучения, на DINOv3
Никакого файн-тюнинга, никаких меток, oral на CVPR. Training-free подход — тренд, которому поле долго сопротивлялось.
5. A Frame is Worth One Token — дельта-токены для генеративного моделирования мира
Токенная эффективность которая изменила LLM-инференс теперь добралась до видео.
📍 Навигация: Вакансии • Задачи • Собесы
Библиотека дата-сайентиста
#буст | 953 |
| 9 | PyTorch custom operations: когда стандартных слоёв не хватает
Иногда нужна операция, которой нет в PyTorch из коробки. Можно написать её на Python, но если нужна скорость — пишут на C++ и CUDA. Разбираем как это устроено.
Два способа расширить PyTorch
1. Custom function — stateless операция
Реализуется на C++/CUDA, регистрируется через TORCH_LIBRARY_IMPL. PyTorch сам выбирает CPU или CUDA реализацию в зависимости от устройства тензора:
# После загрузки .so файла
result = torch.ops.my_ops.identity_conv_op(tensor)
2. Custom class — операция с состоянием
Если нужно хранить параметры (веса, конфиг) — используют torch::CustomClassHolder. Класс регистрируется и становится доступен из Python:
conv = torch.classes.my_ops.IdentityConvClass(channels=3)
output = conv.forward(input_tensor)
Главная сложность — torch.export
Когда модель компилируется для продакшена через torch.export, трассировщик работает с «фейковыми» тензорами — он не запускает реальный C++ код. Поэтому нужно зарегистрировать абстрактную Python-версию каждой операции:
@torch.library.register_fake("my_ops::identity_conv_op")
def _fake(x: torch.Tensor) -> torch.Tensor:
return torch.empty_like(x) # только форма и тип, без вычислений
Что в итоге
Скомпилированная модель (.pt2 файл) запускается и из Python, и из чистого C++ без зависимости от libpython — удобно для деплоя в продакшен без Python окружения.
Схема работы:
C++/CUDA код → .so библиотека → регистрация в PyTorch
↓
torch.export → AOTInductor → model.pt2
↓
Python inference или C++ inference (dlopen)
Полный пример с Identity Convolution
📍 Навигация: Вакансии • Задачи • Собесы
Библиотека дата-сайентиста
#буст | 969 |
| 10 | ✳️Шпаргалка: рабочая станция для AI/ML в 2026
Больше не нужен огромный бюджет на облако. Консьюмерское железо и open-source модели изменили правила. Но покупать нужно стратегически.
🖥 Железо: смотрите на VRAM, не на CPU
GPU (RTX 5090):
— лучший выбор для дообучения тяжёлых моделей
— CUDA незаменима для full fine-tuning
— дорого, шумно, энергозатратно
NPU + unified memory (Apple M5 Max, Intel Panther Lake):
— 64–128 ГБ RAM → большая часть уходит под VRAM
— 70B+ моделей локально без облака
— тихо, эффективно, достаточно для большинства DS-задач
Правило: для инференса и экспериментов — unified memory. Для обучения с нуля — GPU.
📦 Локальные модели: уходите от API-зависимости
Лучшие модели для локального запуска в 2026:
— DeepSeek V4 — сильный reasoning, хорош для кода
— Qwen3-Coder — отличный выбор для задач с данными
— Llama 3.3 — универсальный вариант
Запуск через Ollama:
ollama run qwen3-coder
ollama run deepseek-v4
Квантизация — ключевое понятие:
Q8 — максимальное качество, нужно много VRAM
Q4 — баланс качества и размера (рекомендуется)
Q3 — минимум VRAM, качество падает заметно
🔍 Как выбрать модель для задачи
— Анализ данных, код → Qwen3-Coder, DeepSeek V4
— Длинный контекст, документы → Gemini 3.1 Pro
— Сложные агентные задачи → Claude Opus 4.7
— Быстрый инференс локально → Llama 3.3 Q4
Ориентир для сравнения моделей на реальных задачах с кодом — SWE-bench.
⚙️ Минимальный стек для старта
Ollama — локальный запуск моделей
LM Studio — GUI для экспериментов
LangChain — оркестрация агентов
ChromaDB — локальная векторная БД для RAG
💡 Правило выбора
— Чувствительные данные → только локально
— Разовые тяжёлые задачи → API
— Повторяющиеся задачи → локально, окупается быстро
📍 Навигация: Вакансии • Задачи • Собесы
Библиотека дата-сайентиста
#буст | 998 |
| 11 |  🌳 SuperTree — интерактивная визуализация деревьев решений прямо в Jupyter Notebook
Если вы работаете с деревьями решений и ансамблями, то наверняка сталкивались с тем, что стандартные визуализации быстро становятся неудобными для анализа.
SuperTree решает эту проблему, добавляя полноценную интерактивность:
✅ Масштабирование и навигация по дереву
✅ Сворачивание и разворачивание узлов
✅ Отслеживание пути конкретного объекта через дерево
✅ Работа прямо в Jupyter Notebook, JupyterLab и Google Colab
Установка:
pip install supertree
Пример использования:
from sklearn.tree import DecisionTreeClassifier
from sklearn.datasets import load_iris
from supertree import SuperTree
iris = load_iris()
model = DecisionTreeClassifier(max_depth=3)
model.fit(iris.data, iris.target)
super_tree = SuperTree(
model,
iris.data,
iris.target,
iris.feature_names,
iris.target_names
)
super_tree.show_tree()
📍 Навигация: Вакансии • Задачи • Собесы
Библиотека дата-сайентиста
#буст | 1 196 |
| 12 |  🧠 Google представила Memory-Cached RNN — возможного конкурента Transformers
Последние 7 лет практически все крупные языковые модели — ChatGPT, Claude, Gemini, Llama — строились на архитектуре Transformer. Несмотря на впечатляющие результаты, у неё есть фундаментальная проблема: вычислительная сложность внимания растёт квадратично относительно длины контекста.
До появления Transformers основой многих нейросетей были RNN (Recurrent Neural Networks). Они обрабатывают последовательности намного эффективнее, но страдают от другой проблемы — ограниченной памяти. При работе с длинными текстами модель постепенно «забывает» информацию из начала последовательности.
Исследователи Google предложили новый подход в работе «Memory Caching: RNNs with Growing Memory».
💡 Ключевая идея — добавить RNN механизм кэширования промежуточных состояний.
Вместо фиксированной памяти модель сохраняет важные «снимки» своего внутреннего состояния по мере чтения текста. По мере роста последовательности память также может расширяться.
Что это даёт:
• память растёт вместе с длиной контекста;
• вычислительная стоимость остаётся значительно ниже, чем у Transformer;
• улучшается работа с длинными документами и задачами на запоминание;
• достигается качество, близкое к Transformer, без квадратичного роста вычислений.
🚀 Если результаты подтвердятся на больших языковых моделях промышленного масштаба, в ближайшие годы мы можем увидеть новый класс архитектур, где память растёт динамически, а вычисления остаются линейными по длине последовательности.
📍 Навигация: Вакансии • Задачи • Собесы
Библиотека дата-сайентиста
#буст | 1 201 |
| 13 |  Библиотека дата-сайентиста
#развлекалово | 1 244 |
| 14 |  🖼️ Как работает сжатие изображений: взгляд Data Scientist
Для дата-сайентиста изображение — это не картинка, а матрица чисел.
Сжатие же изображений позволяет уменьшить объём данных, сохранив максимум полезной информации.
Классный гид для быстрого понимания темы
📍 Навигация: Вакансии • Задачи • Собесы
Библиотека дата-сайентиста
#буст | 1 271 |
| 15 | 🔥 Инженерная методичка по ИИ от Романа Барлоса (Team Lead в Yandex Cloud)
Продолжаем делиться экспертизой команды курса «Разработка ИИ-агентов».
Роман собрал мастхев-инструменты и ключевые работы для тех, кто хочет выйти за рамки вайбкодинга.
🛠️ Полезные инструменты:
• Understand Anything — граф знаний по коду и зависимостям.
• DeepTutor — open-source платформа для персонализированного обучения.
• Superpowers — набор практик для системной разработки с ИИ.
• Awesome Agent Skills — коллекция навыков для ИИ-агентов.
📚 Ключевые работы по LLM:
• Attention Is All You Need (2017) — архитектура Transformer.
• GPT-1 (2018) — начало эпохи GPT.
• GPT-2 (2019) — решение новых задач без дообучения.
• GPT-3 (2020) — обучение на примерах из запроса.
• InstructGPT (2022) — RLHF и современные чат-боты.
На курсе Роман выступает консультантом программы: помогает формировать содержание уроков с опорой на актуальные инженерные практики».
Занять свое место на потоке:
👉 Курс «Разработка ИИ-агентов» | 1 352 |
| 16 |  🤖 Материалы: Awesome Self-Evolving Agents
Подборка материалов про самоэволюционирующих AI-агентов и их развитие в последние годы.
Проект систематизирует исследования в области agentic AI и разбивает их на понятную структуру эволюции методов
📍 Навигация: Вакансии • Задачи • Собесы
📍 Как внедрять AI-логику в бэкенд и сохранять стабильность сервиса
#буст | 1 376 |
| 17 |  +3🖼️ Как CNN «видят» изображения
Сверточные нейронные сети (CNN) лежат в основе множества задач компьютерного зрения — от классификации изображений до детекции объектов и сегментации.
📍 Навигация: Вакансии • Задачи • Собесы
Библиотека дата-сайентиста
#буст | 1 491 |
| 18 | 📘 Это классика: Dive into Deep Learning
Один из самых популярных open-source учебников по deep learning — «Dive into Deep Learning» от Aston Zhang, Zachary C. Lipton, Mu Li и Alexander J. Smola.
Это не просто теория, а практико-ориентированное пособие, которое объясняет ключевые идеи машинного обучения и нейросетей через код и интуицию.
📍 Навигация: Вакансии • Задачи • Собесы
Библиотека дата-сайентиста
#буст | 1 345 |
| 19 | 😎 Знакомьтесь с экспертом Proglib.academy: Senior Software Engineer и Team Lead в Yandex Cloud Роман Барлос
Роман — консультант нашего курса «Разработка ИИ-агентов». Он работает на стыке cloud-native архитектуры и AI, активно внедряя современные ИИ-подходы в реальные процессы разработки.
За что его ценит IT-комьюнити?
🟣 Team Lead и AI-евангелист в команде UX Yandex Cloud
14-лет в разработке. Занимается AI-адопшеном в команде Yandex Cloud, проводит мастер-классы и продвигает лучшие практики для повышения эффективности разработчиков.
🟣 Техлид Sourcecraft Code Assistant
С сильным практическим бэкграундом принимал участие как технический лид в создании мощного AI-расширения для VS Code.
🟣 Создатель полезного Open Source
Разрабатывает утилиты, которые позволяют быстро начать эксперименты с инференсом и агентами в локальном окружении: например, набор скриптов vllm-setup для быстрого запуска окружения и mini-proxy — минималистичный прокси для OpenAI API провайдеров.
🟣 Автор интерактивных ML-визуализаций
Объясняет сложные концепции наглядно. Создал серию залипательных обучающих материалов, где можно вживую пощупать работу сетей Хопфилда, машин Больцмана и VC-размерности.
Роман регулярно делится инженерными наработками, инсайтами и экспертизой в своем авторском Telegram-канале
На курсе Роман выступает консультантом программы: он помогает формировать содержание уроков с опорой на актуальные инженерные практики и жесткие требования индустрии.
Узнать больше о программе и разработке автономных систем:
👉 Курс «Разработка ИИ-агентов»
Так, продолжаем знакомить вас с командой?
👍 — Да, ждем новых лиц
🔥 — Жду полезные материалы от Романа | 1 265 |
| 20 |  Новый open-source проект для тех, кто исследует современные механизмы внимания в трансформерах.
attnhut — это коллекция реализаций различных Attention-механизмов в PyTorch, собранных в одном месте.
Вместо того чтобы искать код по десяткам репозиториев, можно быстро изучить и протестировать популярные подходы через единый интерфейс.
Что уже доступно:
✅ Standard Multi-Head Attention (Transformer)
✅ Multi-Query Attention (MQA)
✅ Grouped Query Attention (GQA)
✅ Multi-Head Latent Attention (MLA) из DeepSeek
✅ Differential Attention
✅ Delta Attention
✅ DeepSeek Sparse Attention
✅ MiniMax Sparse Attention
✅ BigBird
✅ Slot Attention
✅ Compressed Sparse Attention (DeepSeek V4)
✅ Heavily Compressed Attention
Особенность проекта — максимально простой API:
from attnhut import GroupedQueryAttention
attn = GroupedQueryAttention(
dim=512,
num_heads=8,
num_kv_heads=2
)
y = attn(x)
📍 Навигация: Вакансии • Задачи • Собесы
Библиотека дата-сайентиста
#буст | 1 338 |
