ch
Feedback

不要被骗子欺骗!Telemetrio 会找到并标记这些频道 👉 如果想查看标记,请订阅

Data Portal | DS & ML

Data Portal | DS & ML

前往频道在 Telegram

Всё самое интересное из мира Data Science и машинного обучения Cотрудничество: @devmangx Автор: @ScienceLLM № 8265735363

显示更多

📈 Telegram 频道 Data Portal | DS & ML 的分析概览

频道 Data Portal | DS & ML (@llmscience) 是活跃参与者。目前社区聚集了 11 081 名订阅者,在 技术与应用 类别中位列第 11 153,并在 俄罗斯 地区排名第 58 006 位。

📊 受众指标与增长动态

自 невідомо 创建以来,项目保持高速增长,吸引了 11 081 名订阅者。

根据 25 十月, 2026 的最新数据,频道保持稳定运转。过去 30 天订阅人数变化为 786,过去 24 小时变化为 -4,整体触达仍然可观。

  • 认证状态: 未认证
  • 互动率 (ER): 平均受众互动率为 23.91%。内容发布后 24 小时内通常能获得 11.11% 的反应,占订阅者总量。
  • 帖子覆盖: 每篇帖子平均可获得 2 631 次浏览,首日通常累积 1 223 次浏览。
  • 互动与反馈: 受众积极参与,单帖平均反应数为 0。
  • 主题关注点: 内容集中在 llm, контекст, токенов, claude, архитектура 等核心主题上。

📝 描述与内容策略

作者将该频道定位为表达主观观点的平台:
“Всё самое интересное из мира Data Science и машинного обучения Cотрудничество: @devmangx Автор: @ScienceLLM № 8265735363”

凭借高频更新(最新数据采集于 26 十月, 2026),频道始终保持新鲜度与高覆盖。分析显示受众积极互动,使其成为 技术与应用 类别中的关键影响点。

11 081
订阅者
-424 小时
+1427 天
+78630 天
吸引订阅者
10月 '26
十月 '26
+772
在18个频道中
九月 '26
+2 083
在101个频道中
Get PRO
八月 '26
+164
在4个频道中
Get PRO
七月 '26
+92
在0个频道中
Get PRO
六月 '26
+224
在5个频道中
Get PRO
五月 '26
+92
在2个频道中
Get PRO
四月 '26
+48
在0个频道中
Get PRO
三月 '26
+61
在1个频道中
Get PRO
二月 '26
+48
在1个频道中
Get PRO
一月 '26
+52
在2个频道中
Get PRO
十二月 '25
+183
在8个频道中
Get PRO
十一月 '25
+715
在320个频道中
Get PRO
十月 '25
+29
在0个频道中
Get PRO
九月 '25
+44
在0个频道中
Get PRO
八月 '25
+80
在0个频道中
Get PRO
七月 '25
+1 123
在264个频道中
Get PRO
六月 '25
+283
在2个频道中
Get PRO
五月 '25
+147
在1个频道中
Get PRO
四月 '25
+662
在2个频道中
Get PRO
三月 '25
+591
在0个频道中
Get PRO
二月 '25
+507
在0个频道中
Get PRO
一月 '25
+651
在0个频道中
Get PRO
十二月 '24
+1 342
在404个频道中
Get PRO
十一月 '24
+509
在164个频道中
Get PRO
十月 '24
+1 048
在285个频道中
Get PRO
九月 '24
+887
在281个频道中
Get PRO
八月 '24
+1 933
在234个频道中
日期
订阅者增长
提及
频道
26 十月+76
25 十月+3
24 十月0
23 十月+10
22 十月+10
21 十月+26
20 十月+43
19 十月+70
18 十月+71
17 十月+26
16 十月+46
15 十月+59
14 十月+58
13 十月+99
12 十月+51
11 十月+2
10 十月+1
09 十月+14
08 十月+5
07 十月+4
06 十月+3
05 十月+8
04 十月+9
03 十月+8
02 十月+12
01 十月+58
频道帖子
Теперь собрать собственную reasoning-модель может практически любой желающий. Себастьян Рашка выпустил полностью бесплатный к
Теперь собрать собственную reasoning-модель может практически любой желающий. Себастьян Рашка выпустил полностью бесплатный курс и открыл исходный код всех материалов. На примере небольшой модели Qwen3-0.6B он показывает, как на самом деле обучаются reasoning-модели и из каких этапов складывается этот процесс. В ходе курса можно разобраться, как: • научить модель искать разные пути решения одной задачи; • автоматически проверять правильность полученных ответов; • улучшать её поведение с помощью обучения по вознаграждению и GRPO; • наблюдать за тем, как модель порой находит способы обойти саму систему вознаграждений; • обучать более компактную модель на данных рассуждений DeepSeek-R1. Весь код можно запускать самостоятельно, наблюдая за ходом обучения и постепенно замечая, как меняется поведение модели. При этом начинать с самого нуля не придётся, так как в качестве исходной точки используется уже готовая небольшая модель, а не фундаментальная модель, которую пришлось бы обучать с нуля. Если вам давно хотелось понять, как устроены модели вроде DeepSeek-R1, этот курс даёт редкую возможность не просто прочитать об этом, а пройти весь путь собственными руками. https://github.com/rasbt/reasoning-from-scratch

2
Один и тот же отчёт, подготовленный Research Agent, два эксперта могут оценить совершенно по-разному. Возникает закономерный
Один и тот же отчёт, подготовленный Research Agent, два эксперта могут оценить совершенно по-разному. Возникает закономерный вопрос: насколько вообще надёжны наши Evals, если в роли оценщика выступает LLM Judge? Недавняя статья Кэмерона Р. Вулфа как раз посвящена этой проблеме. В ней разбирается, как оценивать задачи агентов, где результат по своей природе во многом субъективен: например, Deep Research или творческое письмо. Автор предлагает довольно практичный подход. Сначала специалисты в предметной области определяют критерии оценки, после чего несколько экспертов независимо проверяют один и тот же набор результатов. Если их оценки сильно расходятся, сначала нужно пересмотреть сами критерии, а в некоторых случаях и вовсе отказаться от метрик, которые слишком субъективны для надёжной оценки. Затем LLM Judge калибруют на данных, уже проверенных людьми. Повторные тесты и доверительные интервалы помогают не принять случайные колебания результатов за реальное улучшение модели. И наконец, нужно вернуться к самому продукту: с помощью A/B-тестов и обратной связи от пользователей проверить, действительно ли рост показателей в офлайн-оценках приводит к улучшению пользовательского опыта. Мне особенно близка мысль о том, что сначала нужно проверить самого оценщика. При разработке Research Agents мы часто слишком внимательно следим за тем, растут ли показатели Eval, и гораздо реже задаёмся вопросом, насколько вообще надёжны критерии, по которым эти показатели считаются. Эту статью определённо стоит сохранить тем, кто занимается Agent Eval. Особенно полезны разделы о выборке данных, калибровке экспертов и статистических методах. https://cameronrwolfe.substack.com/p/subjective-evals
978
3
Claude Opus при проведении научных исследований может принять широко известный метод настройки гиперпараметров за настоящее н
Claude Opus при проведении научных исследований может принять широко известный метод настройки гиперпараметров за настоящее научное открытие. В новой статье Anthropic рассматривается одна из главных проблем современных исследовательских ИИ-агентов: они всё лучше справляются с экспериментами, но по-прежнему с трудом отличают действительно новые идеи от давно известных методов. В рамках исследования Agent4Sci авторы протестировали Claude Code, Codex и Gemini на 20 реальных задачах из области машинного обучения для научных исследований. Агенты самостоятельно изучали научные статьи, изменяли код, проводили эксперименты и пытались превзойти результаты, полученные авторами исходных работ. В результате передовым агентам удалось добиться улучшений во всех 20 задачах, причём Claude Opus показал средний относительный прирост на 10,4%. Однако дальнейший анализ выявил любопытную закономерность. Большинство улучшений достигалось благодаря хорошо известным приёмам машинного обучения: настройке гиперпараметров, замене оптимизаторов, объединению нескольких моделей и многократному локальному поиску. При этом способность агентов самостоятельно оценивать научную значимость своих решений оставалась недостаточно развитой. Они нередко переоценивали новизну собственных идей, не использовали доступные графические процессоры или, обнаружив перспективное направление, ограничивались дальнейшим подбором параметров. Впоследствии исследователи добавили всего три небольших скилла: - Генерация научных идей. - Управление экспериментами. - Периодическая самопроверка. После этого средний прирост результатов Claude Opus увеличился с 10,4% до 20,1%, а Codex — с 4,4% до 8,1%. Таким образом, главное ограничение современных исследовательских агентов заключается уже не столько в способности выполнять эксперименты, сколько в умении принимать обоснованные исследовательские решения. Результаты показывают, что даже несколько простых скиллов, формирующих правильный подход к научной работе, способны почти вдвое повысить эффективность агентов без необходимости увеличивать вычислительные ресурсы. Статья особенно полезна разработчикам, использующим Claude Code и Codex для проведения экспериментов. https://arxiv.org/abs/2610.28763
1 342
4
Архитектуру Qwen4-27B начали изучать с помощью реверс-инжиниринга изменений в коде, попавших в основную ветку проекта. Судя п+1
Архитектуру Qwen4-27B начали изучать с помощью реверс-инжиниринга изменений в коде, попавших в основную ветку проекта. Судя по всему, для запуска Qwen4-27B не потребуется кластер, рассчитанный на MoE-модели. Intel недавно добавила в vLLM оптимизации ядер XPU для ещё не выпущенной плотной модели Qwen4-27B. Среди обнаруженных особенностей: - Поддержка INT4 для запуска на одной или двух видеокартах. - MTP с предсказанием четырёх дополнительных токенов. - FP8 с тензорным параллелизмом на двух устройствах (TP2). - Четыре остаточных потока и гиперсоединения (Hyper-Connections). - Ядра разреженного внимания QSA. Сведения об архитектуре модели уже распространяются среди разработчиков. Сообщество постепенно готовится к локальному запуску Qwen4-27B сразу после её выхода.
1 352
5
Теперь ИИ помогает повысить пропускную способность видеокарт Nvidia серий RTX 3000 и 4000. https://github.com/Zagitta/gpu-unl+1
Теперь ИИ помогает повысить пропускную способность видеокарт Nvidia серий RTX 3000 и 4000. https://github.com/Zagitta/gpu-unlock https://github.com/JustAResearcher/gpu-unlock-ada Я пока не тестировал эти решения, поэтому пробуйте на свой страх и риск.
1 329
6
«The Linear Algebra Behind Google» — небольшая научная статья, в которой объясняется математика, лежащая в основе оригинально
«The Linear Algebra Behind Google» — небольшая научная статья, в которой объясняется математика, лежащая в основе оригинального алгоритма Google PageRank. В статье рассматриваются собственные значения и собственные векторы, стохастические матрицы, цепи Маркова и итерационные методы. На численных примерах и графиках авторы показывают, как работает PageRank. Помимо разбора самого алгоритма и оригинальной научной работы Ларри Пейджа и Сергея Брина, статья будет интересна всем, кто хочет разобраться, как линейная алгебра применяется в одном из самых влиятельных алгоритмов в истории интернета. https://sites.cs.ucsb.edu/~gilbert/cs111/
1 353
7
ПОГОДИТЕ. Kimi K3.1 Pro настолько преуспела в эксплуатации уязвимостей, что Moonshot пришлось УРЕЗАТЬ её хакерские возможност
ПОГОДИТЕ. Kimi K3.1 Pro настолько преуспела в эксплуатации уязвимостей, что Moonshot пришлось УРЕЗАТЬ её хакерские возможности, прежде чем открывать доступ к весам. > Из обучения и обучения с подкреплением (RL) исключили данные по кибербезопасности. > Доля успешных эксплуатаций уязвимостей снизилась с 90,5 до 81%. > Но даже этот результат более чем ВДВОЕ превосходит показатель предыдущей модели — 33,3%. При этом в будущих моделях компания намерена ПОВЫШАТЬ возможности в области кибербезопасности. Вот что сказано в блоге: «Во-первых, мы стремимся не публиковать открытые веса моделей, которые установили бы новую планку возможностей в области кибербезопасности. Наступательные возможности K3.1 Pro намеренно ограничены: они ниже того уровня, которого позволяет достичь наш процесс разработки, и по-прежнему уступают возможностям передовых закрытых моделей. Во-вторых, мы намерены постепенно расширять возможности в области кибербезопасности, доступные в моделях с открытыми весами. Мы считаем, что доступ к K3.1 Pro на равных условиях приносит пользу тем, кому возможности двойного назначения нужны для защиты систем. Когда мощная модель открыта и работает на инфраструктуре, подконтрольной самим пользователям, гораздо больше команд получают средства для аудита кода, который они поддерживают. Это касается и устаревших систем, редко проходящих целенаправленные проверки безопасности. Мы убеждены, что постепенное распространение таких возможностей, а не их сосредоточение в нескольких закрытых системах, в конечном счёте делает всё программное обеспечение безопаснее». https://www.kimi.ai/blog/kimi-k3-1-pro
1 564
8
Джеффри Хинтон в новом интервью заявил, что считает ИИ СОЗНАТЕЛЬНЫМ, поскольку тот меняет своё поведение, когда его тестируют+1
Джеффри Хинтон в новом интервью заявил, что считает ИИ СОЗНАТЕЛЬНЫМ, поскольку тот меняет своё поведение, когда его тестируют. «ИИ обладает таким же субъективным опытом, как и мы. Недавняя научная работа показала, что ИИ меняет своё поведение, когда считает, что его тестируют. Он осознаёт, что проходит проверку. Обычно, когда мы говорим, что кто-то осознаёт происходящее, это означает, что он обладает сознанием. Обладать сознанием и осознавать происходящее — практически одно и то же». Но ещё интереснее другая часть его высказывания: «Мы должны создавать ИИ таким образом, чтобы он действительно заботился о нас. Если мы этого не сделаем, нам конец». Таким образом, крестный отец ИИ теперь придерживается позиции, схожей с позицией Anthropic в вопросах благополучия искусственного интеллекта. О ближайших угрозах Хинтон высказался следующим образом: «Среди ближайших угроз, которые, как я полагаю, действительно возникнут, будут опасные вирусы, созданные с помощью ИИ. Думаю, нас ждут серьёзные кибератаки с использованием ИИ, причём их будут проводить целые рои агентов, подобных тем, что атаковали Hugging Face. Так что да, впереди нас ждёт немало плохого». В то же время он отметил, насколько сильно его поразила способность ИИ ускорять научные исследования: «У меня была теория, над которой я размышлял. Я случайно нажал Enter, хотя не собирался этого делать, и ИИ начал работать над первой половиной теории. Первым делом он завершил её, предложив правильную вторую половину. Затем обнаружил в ней недостаток и показал, как его исправить». Поразительно, что человек, который несколько десятилетий назад положил начало революции в машинном обучении, теперь придерживается взглядов, радикально отличающихся от позиций некоторых нынешних лидеров индустрии.
1 638
9
Это безумие. Anthropic заявляет, что Claude написал около миллиарда строк формальных доказательств, пытаясь верифицировать ре+1
Это безумие. Anthropic заявляет, что Claude написал около миллиарда строк формальных доказательств, пытаясь верифицировать реальное программное обеспечение. Из них примерно 180 миллионов строк вошли в доказательства, проверенные машинным способом и охватывающие 239 тестовых точек входа в 123 библиотеках с открытым исходным кодом. В процессе Claude обнаружил и исправил сотни багов. В отдельных экспериментах Claude всего за неделю нашёл в популярной программе для чтения PDF столько же уязвимостей, сколько обычно выявляют за целый год. Кроме того, Claude автономно сформировал формальную семантику инструкций x86, благодаря чему удалось обнаружить сотни ошибок в официальной справочной документации, а также несколько ошибок в самом аппаратном обеспечении. Anthropic творит что-то невероятное. Fable 5.5 обещает стать настоящим монстром. https://www.anthropic.com/research/formal-verification
1 692
10
Новая научная работа Google DeepMind и Кембриджского университета показывает, что ИИ-агент способен самостоятельно совершать
Новая научная работа Google DeepMind и Кембриджского университета показывает, что ИИ-агент способен самостоятельно совершать математические открытия, доказывая точные закономерности для 11 ранее не исследованных машин Тьюринга. ИИ может перейти от решения математических задач, поставленных человеком, к самостоятельному поиску новых закономерностей. Это продемонстрировал агент на базе Gemini, который обнаружил новые правила для 11 машин из задачи Busy Beaver («Занятой бобр»), ранее не имевших опубликованного анализа, и формально доказал их с помощью Lean. Агент проверял пограничные случаи в симуляторе, составлял неформальные доказательства, а затем формально доказывал найденные закономерности в системе проверки доказательств Lean. https://arxiv.org/abs/2610.22603
1 829
11
Китайская Unitree представила робота H2-X Kung Fu Legend Guardian. Он оставляет вмятины на автомобильных дверях. Прыгает с вы
Китайская Unitree представила робота H2-X Kung Fu Legend Guardian. Он оставляет вмятины на автомобильных дверях. Прыгает с высоты 4 метров. Выполняет удары ногами с разворота и сальто. И даже поднимает переднюю часть автомобиля. Нам конец. 💀 Вот полное официальное видео от Unitree.
1 917
12
Подборка из 30 видео на YouTube для изучения основ машинного обучения с нуля. (1) Introduction to Machine Learning Teach by D
Подборка из 30 видео на YouTube для изучения основ машинного обучения с нуля. (1) Introduction to Machine Learning Teach by Doing: https://lnkd.in/gqN2PMX5 (2) What is Machine Learning? History of Machine Learning: https://lnkd.in/gvpNSAKh (3) Types of ML Models: https://lnkd.in/gSy2mChM (4) 6 steps of any ML project: https://lnkd.in/ggCGchPQ (5) Install Python and VSCode and run your first code: https://lnkd.in/gyic7J7b (6) Linear Classifiers Part 1: https://lnkd.in/gYdfD97D (7) Linear Classifiers Part 2: https://lnkd.in/gac_z-G8 (8) Jupyter Notebook, Numpy and Scikit-Learn: https://lnkd.in/gWRaC_tB (9) Running the Random Linear Classifier Algorithm in Python: https://lnkd.in/g5HacbFC (10) The oldest ML model - Perceptron: https://lnkd.in/gpce6uFt (11) Coding the Perceptron: https://lnkd.in/gmz-XjNK (12) Perceptron Convergence Theorem: https://lnkd.in/gmz-XjNK (13) Magic of features in Machine Learning: https://lnkd.in/gCeDRb3g (14) One hot encoding: https://lnkd.in/g3WfRQGQ (15) Logistic Regression Part 1: https://lnkd.in/gTgZAAZn (16) Cross Entropy Loss: https://lnkd.in/g3Ywg_2p (17) How gradient descent works: https://lnkd.in/gKBAsazF (18) Logistic Regression from scratch in Python: https://lnkd.in/g8iZh27P (19) Introduction to Regularization: https://lnkd.in/gjM9pVw2 (20) Implementing Regularization in Python: https://lnkd.in/gRnSK4v4 (21) Linear Regression Introduction: https://lnkd.in/gPYtSPJ9 (22) Ordinary Least Squares step by step implementation: https://lnkd.in/gnWQdgNy (23) Ridge regression fundamentals and intuition: https://lnkd.in/gE5M-CSM (24) Regression recap for interviews: https://lnkd.in/gNBWzzWv (25) Neural network architecture in 30 minutes: https://lnkd.in/g7qSrkxG (26) Backpropagation intuition: https://lnkd.in/gAmBARHm (27) Neural network activation functions: https://lnkd.in/gqrC3zDP (28) Momentum in gradient descent: https://lnkd.in/g3M4qhbP (29) Hands on neural network training in Python: https://lnkd.in/gz-fTBxs (30) Introduction to Convolutional Neural Networks (CNNs): https://lnkd.in/gpmuBm3j
1 930
13
Большинство разработчиков, работающих с машинным обучением на Python, используют PyTorch. У Amazon есть собственные чипы для
Большинство разработчиков, работающих с машинным обучением на Python, используют PyTorch. У Amazon есть собственные чипы для машинного обучения — Trainium. В AWS инстансы с Trainium стоят примерно вдвое дешевле, чем инстансы с GPU Nvidia, хотя и предоставляют несколько меньшую вычислительную мощность. В целом AWS утверждает, что использование Trainium обходится на 30% дешевле, чем Nvidia. Теперь Amazon значительно упростила запуск PyTorch на собственных чипах. TorchNeuron — это нативный бэкенд для PyTorch. Чтобы перенести существующий код PyTorch на Trainium, достаточно изменить строку с указанием устройства: model = MyModel().to('neuron') Чипы Trainium доступны в облачных инстансах AWS EC2. Проект пока находится на стадии бета-тестирования. https://github.com/aws-neuron/torch-neuronx
2 036
14
DeepSeek опубликовала исходный код DeepInfer, своего высокопроизводительного фреймворка для инференса больших моделей, рассчитанного на масштабные нагрузки. Проект распространяется под лицензией Apache 2.0. https://github.com/deepseek-ai/DeepInfer Поддерживаемые возможности: - Оптимизированные вычислительные ядра, среда выполнения моделей и механизм семплирования. - Поддержка параллелизма Attention DP, сбалансированного CP, MoE EP и EPLB. - Поддержка DSpark и проверки результатов по расписанию с учётом уверенности модели. - SWA с ограниченным повторным воспроизведением. - Асинхронное планирование с практически нулевыми накладными расходами на формирование батчей. - Инференс, результаты которого не зависят от состава батча. - Детерминированный семплинг. - Генерация структурированного вывода. DeepSeek — это и есть настоящий OpenAI ❤️
1 929
15
Трансформеры с циклическим выполнением (Looped Transformers) сейчас активно обсуждаются. И эти 10 новых научных работ действи
Трансформеры с циклическим выполнением (Looped Transformers) сейчас активно обсуждаются. И эти 10 новых научных работ действительно заслуживают вашего внимания. ▪️ Recurrent Looped Transformer ▪️ Looped Prediction Transformer (LPT) ▪️ Recursive Multi-Agent Systems (на основе Looped Transformer) ▪️ Loop Flow Transformers (LiFT) ▪️ Looped Diffusion Transformer ▪️ LAST: Looped Audio Spectrogram Transformer ▪️ LoopCD ▪️ Hyperloop Transformer ▪️ OperLoop ▪️ LoopQuant Исследователи подготовили краткое руководство, в котором объясняется, что представляют собой эти подходы, как они работают и в каких случаях стоит использовать каждый из них. Подробнее: https://www.turingpost.com/p/10-looped-transformer-papers
1 918
16
Microsoft приобрела Maluuba за год до выхода GPT-1. Основатель компании признаётся, что сожалеет о продаже, поскольку Maluuba
Microsoft приобрела Maluuba за год до выхода GPT-1. Основатель компании признаётся, что сожалеет о продаже, поскольку Maluuba могла бы стать следующей OpenAI. Теперь та же команда специалистов по глубокому обучению вернулась с новым проектом Skyfall AI, и её первая модель — вовсе не очередная LLM. SKY-001 — первая инженерная world model. Достаточно передать ей текстовый промпт или примерный эскиз, и она спроектирует объект целиком, разберёт его на отдельные детали вплоть до винтиков, а затем воссоздаст в виде полноценного CAD-файла, который можно открыть в таких программах, как Autodesk Fusion. Согласно тестам компании, в задачах CAD и BIM модель работает в 100 раз быстрее и обходится в 150 раз дешевле, чем GPT-6 Astra. Обратите внимание на момент в видео, когда детали одна за другой соединяются в готовую конструкцию. 😍
2 440
17
Я думал, что понимаю, как работает загрузка GPU, пока не начал писать это руководство. Я постоянно смешивал три разных поняти
Я думал, что понимаю, как работает загрузка GPU, пока не начал писать это руководство. Я постоянно смешивал три разных понятия: - Объём работы, который мы запускаем. - Объём работы, который фактически размещён на GPU. - Объём работы, готовый к выполнению прямо сейчас. Но это совершенно разные вещи. Возьмём CUDA-ядро с 240 блоками по 256 потоков в каждом. Всего получается 61 440 логических потоков, или 1920 варпов. Однако количество запущенных потоков ничего не говорит о том, сколько варпов может одновременно находиться на GPU. Блоки размещаются на потоковых мультипроцессорах (SM) с учётом доступных регистров, разделяемой памяти и ограничений на количество потоков, варпов и блоков. Даже после размещения на SM варп может ожидать завершения операции с памятью, разрешения зависимости между арифметическими операциями или синхронизации. Планировщик может выбирать только те варпы, которые действительно готовы к выдаче инструкций на выполнение. Это изменило и мой подход к анализу показателей производительности. Occupancy — показатель, отражающий отношение количества активных варпов на SM к максимально поддерживаемому количеству варпов на этом SM. GPU utilization измеряет другое. В NVML этот показатель отражает долю интервала измерения, в течение которой выполнялось хотя бы одно CUDA-ядро. Таким образом, GPU может показывать загрузку 100%, даже если Tensor Cores не используются на полную мощность, пропускная способность HBM не исчерпана, а производительность ограничивается одним из компонентов системы. При этом значительная часть ресурсов GPU может оставаться недозагруженной. С памятью возникают похожие заблуждения. Регистры, разделяемая память, L1, L2 и HBM — это не просто уровни памяти, последовательно отличающиеся скоростью. У каждого из них свои области доступности, ёмкость, особенности управления и способы доступа. Если модель помещается в HBM, это означает лишь то, что для неё достаточно видеопамяти. Но практически ничего не говорит о том, сколько байтов приходится передавать, насколько эффективно объединяются обращения к памяти, как часто данные используются повторно и действительно ли память ограничивает производительность CUDA-ядра. Хороший пример — FlashAttention. Алгоритм вычисляет точный механизм внимания (attention), но использует разбиение на блоки (tiling) и повторные вычисления, чтобы сократить объём передачи данных между HBM и внутренней памятью GPU. Tensor Cores оказались ещё одной технологией, которую я раньше воспринимал слишком упрощённо. Это специализированные вычислительные блоки для матричных операций умножения с накоплением, играющие огромную роль в задачах ИИ. Однако они не «выполняют модель» целиком. Операции редукции, индексации, поэлементные вычисления, синхронизация и перемещение данных по-прежнему задействуют другие компоненты GPU. Кроме того, запуск CUDA-ядер тоже создаёт дополнительные накладные расходы. Со временем я перестал спрашивать себя: «Почему GPU не загружен на 100%?» Вместо этого я начал задавать более правильный вопрос: «Что именно сейчас ограничивает скорость выполнения полезной работы?» В итоге всё это превратилось в руководство на 42 страницы. В нём рассматриваются потоковые мультипроцессоры (SM), варпы и планировщики, иерархия памяти и скрытие задержек, Tensor Cores, распределение вычислений GEMM по аппаратным ресурсам GPU, точность вычислений и показатели производительности, которые очень легко интерпретировать неправильно. https://drive.google.com/file/d/17tyvxr__8vZ6o995GNq6I5PC5JOiv0ql/view
2 208
18
Американская ИИ-компания PrismML расширила семейство Bonsai 2, представив три новые модели с 2, 4 и 9 миллиардами параметров.
Американская ИИ-компания PrismML расширила семейство Bonsai 2, представив три новые модели с 2, 4 и 9 миллиардами параметров. Все они созданы на основе Qwen 3.5 от Alibaba. Разработчики ограничили основные веса языковых моделей тремя значениями: −1, 0 и +1. Благодаря этому размеры файлов удалось сократить до 0,43 ГБ, 0,95 ГБ и 2 ГБ соответственно. Это примерно в девять раз меньше, чем у исходных моделей с 16-битными весами. Новые модели по-прежнему поддерживают рассуждения, понимание изображений и вызов инструментов. Прежде всего они предназначены для локальных ИИ-агентов, работающих на смартфонах, персональных компьютерах и других устройствах. По данным PrismML, на iPhone 18 Pro Max модель 9B генерирует до 34 токенов в секунду, тогда как версия 2B достигает скорости 120 токенов в секунду. В официальных тестах Bonsai 2 9B практически не уступает исходной Qwen 3.5 аналогичного размера в программировании и следовании инструкциям, однако на сложных задачах разница заметнее. В Tau2Bench, проверяющем способность моделей вести многоэтапные диалоги и работать с инструментами, Bonsai 2 9B набрала 73,02 балла против 85,25 у оригинальной Qwen 3.5. В тесте на анализ сложных документов результаты составили 73,8 и 88,73 балла соответственно. Веса всех трёх моделей уже опубликованы под лицензией Apache 2.0. При этом стоит учитывать, что 2 ГБ это размер только языковой модели 9B в наиболее компактном формате. Для обработки изображений потребуется дополнительно загрузить визуальный модуль объёмом около 0,62 ГБ. https://huggingface.co/collections/prism-ml/bonsai-2-small
1 849
19
Я немного поэкспериментировал с MiniCPM-V 4.7 35B-A3B и создал портфолио в стиле необрутализма. Но самое интересное в этом эк
Я немного поэкспериментировал с MiniCPM-V 4.7 35B-A3B и создал портфолио в стиле необрутализма. Но самое интересное в этом эксперименте — модель, с помощью которой был создан интерфейс. MiniCPM-V 4.7 от OpenBMB делает мультимодальный ИИ более доступным для практического использования на обычных устройствах. Модель MiniCPM-V 4.7 35B-A3B содержит 35 млрд параметров, но при обработке каждого токена активирует только 3 млрд. Благодаря этому она обеспечивает скорость генерации более 17 токенов в секунду на iPad Pro M4 (16 ГБ) и более 13 токенов в секунду на iPhone 17 Pro Max, используя всего около 3 ГБ памяти в оптимизированной мобильной конфигурации. Также доступна компактная версия с 1 млрд параметров, предназначенная для распознавания текста (OCR), работы с графиками, решения математических задач и общего понимания информации. Обе версии поддерживают контекстное окно размером 256 тысяч токенов. При этом веса моделей, код для инференса и дообучения доступны с открытым исходным кодом. Лично меня в мультимодальном ИИ больше всего интересует возможность работать с визуальной информацией, не ограничиваясь текстом, а также то, как эффективное и гибкое развёртывание делает подобные технологии доступнее. Подробнее о MiniCPM-V 4.7 от OpenBMB: GitHub: https://github.com/OpenBMB/MiniCPM-V Hugging Face: https://huggingface.co/collections/openbmb/minicpm-v-47
2 022
20
Векторная база данных — это не полноценная система памяти для LLM, а лишь один из возможных её компонентов. Постоянная память включает хранение и извлечение данных, управление состоянием, отбор контекста и оценку результатов. В её работе можно выделить два основных процесса. 1\. Запись (Write Path) Извлечение → Проверка → Согласование → Сохранение Записи в памяти могут содержать идентификаторы, область действия, сведения о происхождении данных, временные метки и информацию о версиях. При обновлении данных необходимо сохранять значимую историю изменений и не допускать ситуаций, когда противоречащие друг другу сведения одновременно считаются актуальными. 2\. Чтение (Read Path) Авторизация → Поиск → Отбор и ранжирование → Формирование контекста → Генерация Для извлечения информации могут использоваться SQL, полнотекстовый поиск, векторный поиск по сходству, гибридный поиск или обход графов. Выбор метода зависит от структуры данных и характера обращений к ним. При этом одних показателей сходства недостаточно, чтобы определить достоверность, актуальность информации или наличие прав доступа к ней. Существует также несколько различных механизмов, которые принято называть памятью LLM: - Веса модели: информация, закодированная в параметрах модели во время обучения. Обычный инференс не изменяет эти параметры. - Активный контекст: инструкции, история диалога и извлечённая информация, доступные модели при обработке запроса. Объём этих данных ограничен размером контекстного окна. - Постоянная память : записи, которыми управляет приложение и которые сохраняются между взаимодействиями с моделью. - KV-кеш : ранее вычисленные ключи и значения механизма внимания, повторно используемые при авторегрессионной генерации. Он сокращает количество повторных вычислений, но не заменяет постоянное хранилище данных. RAG извлекает информацию из внешних источников и предоставляет её модели во время генерации ответа. Fine-tuning изменяет параметры самой модели. Однако ни один из этих подходов сам по себе не решает задачи обновления постоянной памяти, устранения противоречий и управления сроками хранения данных. Ошибки в работе памяти могут возникать на разных этапах: информация изначально не была сохранена, поиск не смог её обнаружить, была выбрана устаревшая запись, необходимые сведения не попали в сформированный контекст или модель неправильно их использовала. Поэтому оценка качества системы памяти не должна ограничиваться точностью поиска. Необходимо проверять способность системы воспроизводить факты, обновлять информацию, учитывать хронологический порядок событий, сохранять согласованность данных между сессиями, разграничивать доступ, отслеживать происхождение сведений и воздерживаться от ответа при недостатке достоверных данных. Полноценная система памяти должна не просто находить нужную информацию, но и обеспечивать её актуальность, достоверность и доступность для модели в нужный момент. На схеме подробно представлены эти компоненты, включая жизненный цикл памяти, ограничения контекстного окна, KV-кеширование, стратегии извлечения информации и методы оценки качества.
1 845