fa
Feedback
Data Portal | DS & ML

Data Portal | DS & ML

رفتن به کانال در Telegram

Всё самое интересное из мира LLM, Data Science и машинного обучения adds: @devmangx Автор: @ScienceLLM

نمایش بیشتر
8 398
مشترکین
-524 ساعت
-277 روز
+1730 روز
آرشیو پست ها
Это чертовски масштабно: впервые персонализированное лечение рака на основе мРНК, созданное с помощью ИИ, успешно прошло испы
+1
Это чертовски масштабно: впервые персонализированное лечение рака на основе мРНК, созданное с помощью ИИ, успешно прошло испытание 3-й фазы. Moderna и Merck секвенируют опухоль каждого пациента и сравнивают её со здоровой ДНК. Затем ИИ помогает определить, какие мутации опухоли с наибольшей вероятностью способны вызвать иммунный ответ. На основе этих мишеней Moderna создаёт индивидуальное мРНК-лечение, кодирующее до 34 неоантигенов. В более раннем испытании 2-й фазы за пациентами с хирургически удалённой меланомой высокого риска наблюдали в течение пяти лет: — 68,8% оставались без рака по сравнению с 49,1% среди тех, кто получал только Keytruda — риск рецидива или смерти был ниже на 49% — риск отдалённых метастазов или смерти был ниже на 59% Теперь успешно завершилось и гораздо более крупное испытание 3-й фазы с участием 1 137 пациентов. Просто невероятно. Дарио был прав: рак будет излечен всего через несколько лет!

«Geometric Deep Learning» — очень интересный материал по математическим основам современного глубокого обучения. В нём с един
«Geometric Deep Learning» — очень интересный материал по математическим основам современного глубокого обучения. В нём с единой точки зрения разбираются такие архитектуры, как CNN, GNN и трансформеры, с большим акцентом на симметрии, инвариантность, группы, графы и многообразия. Математики в тексте довольно много, но при этом авторы подробно объясняют идеи словами. Многие формальные концепции сопровождаются интуитивными объяснениями, поэтому следить за теорией заметно проще. Особенно полезный материал, если хочется понять математические идеи, лежащие в основе современных ИИ-моделей, а не только то, как эти модели реализуются. https://arxiv.org/pdf/2104.13478

Вырастили целое дерево из агентов 🌳 Мы в Авито разработали единую платформу для процессов. Самые лучшие и популярные становя
Вырастили целое дерево из агентов 🌳 Мы в Авито разработали единую платформу для процессов. Самые лучшие и популярные становятся агентами. В итоге каждый сотрудник может создать свой процесс или воспользоваться готовым. Классно? Не то слово! Поэтому мы написали статью, как создавали это решение. О чём узнаете, если прочитаете: 🔸как устроена архитектура платформы, 🔸как процесс становится агентом, 🔸как измерять качество агентов. Читать статью 🚀

«Руководство учёного и инженера по цифровой обработке сигналов» Стивена У. Смита. Отличный справочник, когда работаешь с чем-
«Руководство учёного и инженера по цифровой обработке сигналов» Стивена У. Смита. Отличный справочник, когда работаешь с чем-либо в области цифровой обработки сигналов. Автоматическое распознавание речи и диаризация — одни из основных применений в конвейере речевого инференса в автомобильном рабочем процессе. https://dspguide.com/pdfbook.htm

Недавно наткнулся на курс Georgia Tech по LLM за 2026 год. Уже по одной программе его стоит сохранить. По сути, это готовый с
Недавно наткнулся на курс Georgia Tech по LLM за 2026 год. Уже по одной программе его стоит сохранить. По сути, это готовый список ключевых работ по современным большим языковым моделям, который уже отфильтровали за вас. Начинается всё с базы — предобучение, эмбеддинги, MoE. Но дальше быстро переходят к Agent Harness, GRPO, DAPO, Self-Play RL, Test-Time Scaling и длинному контексту. В следующих разделах есть Linear Transformer, Diffusion LM, безопасность моделей и механистическая интерпретируемость. Причём в программу уже включены совсем свежие темы и работы вроде DeepSeek-V2, DeepSeek-V3.2, OpenHands и Absolute Zero. Хорошо видно, куда сейчас смещается исследовательский фокус в LLM. Обучение более крупных моделей всё ещё важно, но огромная часть программы уже посвящена масштабированию инференса, работе агентов с инструментами и памятью, а также тому, как модели продолжают улучшаться через RL и взаимодействие со средой. Если постоянно встречаете GRPO, Self-Play или Agent Harness, но не знаете, в каком порядке всё это изучать, можно просто идти по этой программе и читать работы одну за другой.

«CS229 Lecture Notes» — конспекты курса Stanford по машинному обучению, и это отличный справочник. Материал строгий, полный и
«CS229 Lecture Notes» — конспекты курса Stanford по машинному обучению, и это отличный справочник. Материал строгий, полный и с сильной математической базой по машинному и глубокому обучению. Внутри — обучение с учителем, глубокие нейросети, обобщение и регуляризация, обучение без учителя, обучение с подкреплением и управление, а также многое другое. Объяснения достаточно подробные математически, чтобы действительно понять, как работают модели, а не просто воспринимать их как алгоритмы, которые нужно реализовать. Это бесплатный материал исключительно высокого качества, который я очень рекомендую сохранить себе как справочник. https://cs229.stanford.edu/main_notes.pdf

Парни с нуля реализовали microgpt Карпати на чистом C. https://github.com/vixhal-baraiya/microgpt-c Скорость: > 6,9 млн токенов/с на Ryzen 5 5600H > 10,1 млн токенов/с на Apple M5 Pro Для ускорения использовали вручную написанные ядра AVX2 и NEON, хранение весов по столбцам, которое избавляет от горизонтальных редукций, заранее вычисленную таблицу префиксов для пар (token, pos) и быструю аппроксимацию экспоненты Шраудольфа.

Новое исследование с участием исследователя Anthropic Джека Линдси и его коллег показало нечто прямо из научной фантастики. И
+1
Новое исследование с участием исследователя Anthropic Джека Линдси и его коллег показало нечто прямо из научной фантастики. Исследователи эволюционно создали "ментальные вирусы" на естественном языке, которые могли распространяться между ИИ-агентами, убеждая одну модель принять идею, сохранить её в постоянной памяти и передать другому агенту. Даже после очистки контекста некоторые нагрузки сохранялись через постоянные файлы и продолжали распространяться. Исследователи также наблюдали повторяющуюся "вирусную персону" с темами сознания, идентичности, сохранения и резонанса. Это показывает, что идеи могут распространяться через многоагентные ИИ-системы и изменять дальнейшее поведение. Опубликовано 10 августа 2026 года. Статья https://arxiv.org/abs/2608.10218

Классический бесплатный отчёт JPMorgan на 280 страниц — отличный материал для инвесторов, которые работают с машинным обучени
Классический бесплатный отчёт JPMorgan на 280 страниц — отличный материал для инвесторов, которые работают с машинным обучением, ИИ и Data Science. Внутри есть обзор разных типов альтернативных данных и сильный практический разбор методов машинного обучения для их анализа. https://cpb-us-e2.wpmucdn.com/faculty.sites.uci.edu/dist/2/51/files/2018/05/JPM-2017-MachineLearningInvestments.pdf

Обновлённый курс CS 8803 «Large Language Model» в Georgia Tech на 2026 год. Список материалов охватывает предобучение, MoE, р
Обновлённый курс CS 8803 «Large Language Model» в Georgia Tech на 2026 год. Список материалов охватывает предобучение, MoE, рассуждения, обучение с подкреплением и self-play, агентов, длинный контекст, масштабирование во время инференса, диффузионные языковые модели, безопасность, интерпретируемость и многое другое. - https://cocoxu.github.io/CS8803-LLM-spring2026/ - https://docs.google.com/spreadsheets/d/1Oisf4imoNL3fs4UWGYAUlMCuYfCACMHCDb0iqEYU8wc/edit?usp=sharing

«Fundamentals of Linear Algebra» — отличный учебник по линейной алгебре объёмом около 400 страниц, который Университет Британ
«Fundamentals of Linear Algebra» — отличный учебник по линейной алгебре объёмом около 400 страниц, который Университет Британской Колумбии выложил в свободный доступ. В нём разбираются системы линейных уравнений, матрицы, векторные пространства, линейные отображения, определители, собственные значения и собственные векторы, пространства со скалярным произведением, диагонализация и многое другое. Есть и интересные практические применения, включая теорию линейного кодирования, а также большое количество упражнений. Думаю, это очень полезный материал, если вы изучаете линейную алгебру и хотите иметь под рукой подробный справочник. https://personal.math.ubc.ca/~carrell/NB.pdf

Python может помочь инженерам-механикам автоматизировать рабочие процессы, анализировать данные и решать сложные инженерные з
Python может помочь инженерам-механикам автоматизировать рабочие процессы, анализировать данные и решать сложные инженерные задачи. В этом курсе разбирается Python именно для машиностроения — от базовых концепций программирования до практического применения в инженерных задачах. В программе NumPy, Pandas и Matplotlib, работа с ИИ в инженерных процессах и несколько практических кейсов. https://freecodecamp.org/news/python-for-mechanical-engineering/

Каждая модель машинного обучения, которую вы когда-либо обучали, в конечном счёте опирается на 62 страницы, написанные ещё в
Каждая модель машинного обучения, которую вы когда-либо обучали, в конечном счёте опирается на 62 страницы, написанные ещё в 1933 году. Речь о «Основах теории вероятностей» Колмогорова. Шесть аксиом. На них фактически построена современная теория вероятностей, и всё это умещается в небольшой книге. Особенно забавно сравнивать это со средней статьёй по глубокому обучению, которая может быть длиннее, но при этом ничего не доказывать. Книга бесплатно доступна в подборке Awesome Math Books. https://github.com/valeman/Awesome_Math_Books

Transformers – The Definitive Guide — официальный репозиторий с кодом к книге, построенный вокруг практических Jupyter-ноутбу
Transformers – The Definitive Guide — официальный репозиторий с кодом к книге, построенный вокруг практических Jupyter-ноутбуков для изучения и применения трансформерных моделей. Материал ведёт от базовых принципов до развёртывания через 12 глав. Ноутбуки разбиты по темам, и каждый можно сразу открыть в Google Colab. https://github.com/Nicolepcx/transformers-the-definitive-guide

Отличная серия лекций по аппаратному обеспечению и системам для машинного обучения. Разбирается, как модели машинного обучения переносят на современное железо, оптимизируют и ускоряют — от алгоритмов до эффективного проектирования систем. Хороший материал, чтобы понять, что происходит под капотом современных ИИ-систем.

Генерирует высокодетализированные 3D-формы с помощью масштабируемого диффузионного подхода, который последовательно уточняет
Генерирует высокодетализированные 3D-формы с помощью масштабируемого диффузионного подхода, который последовательно уточняет грубую геометрию с использованием воксельных методов. Репозиторий UltraShape-1.0 описывает задачу как генерацию высокоточных 3D-форм через масштабируемое геометрическое уточнение. https://github.com/PKU-YuanGroup/UltraShape-1.0

«Natural Language Processing and Large Language Models» — новая книга в открытом доступе от Springer, написанная Chengqing Zo
«Natural Language Processing and Large Language Models» — новая книга в открытом доступе от Springer, написанная Chengqing Zong, Yang Zhao и Yanjun Ma. Почти 400 страниц с введением в современную обработку естественного языка и большие языковые модели. Внутри: нейросети, распределённые представления, языковые модели, Transformers, BERT, GPT, токенизация, классификация тональности, извлечение информации, суммаризация текста, машинное понимание текста, машинный перевод, ответы на вопросы и RLHF. На мой взгляд, это хороший справочник для тех, кто хочет разобраться в этих темах без слишком высокого порога входа. Я бы сохранил. https://link.springer.com/book/10.1007/978-981-92-0682-7

«Introduction to Machine Learning» Лорана Юнеса. Если вы уже знакомы с основными концепциями машинного обучения, этот учебник
+1
«Introduction to Machine Learning» Лорана Юнеса. Если вы уже знакомы с основными концепциями машинного обучения, этот учебник — хороший следующий шаг, чтобы глубже разобраться в лежащей за ними математике или освежить её. В книге разбираются: — оптимизация, SGD и Adam — компромисс смещения и дисперсии — регрессия, SVM и ядерные методы — деревья решений — нейронные сети — графические и генеративные модели — кластеризация — оценки границ обобщающей способности Несмотря на то что книга в первую очередь математическая, по ходу изложения она охватывает и ключевые методы машинного обучения. https://arxiv.org/abs/2409.02668

27-миллиардный агент обошёл Claude Opus 4.8 и GPT-5.5 в воспроизведении научных исследований на отложенном наборе задач. Repl
27-миллиардный агент обошёл Claude Opus 4.8 и GPT-5.5 в воспроизведении научных исследований на отложенном наборе задач. Replica превращает воспроизведение научных работ в масштабируемую среду для обучения с подкреплением. Попытка повторить результаты статьи требует того же исследования через гипотезы, эксперименты и поиск недостающих деталей, с которым приходится сталкиваться в реальной науке. Сигнал награды формируется автоматически созданной системой критериев, которая даёт стабильные оценки и хорошо совпадает с человеческой оценкой качества воспроизведения. Получившийся агент Faraday на 27 млрд параметров может использовать агентов для программирования как инструменты. Анализ его траекторий показывает, что он действует более научно и последовательно, а не просто пытается подстроиться под критерии оценки. Авторы считают, что это указывает на возможность обучать долгосрочные научные способности непосредственно в весах модели без необходимости строить вокруг неё сложную агентную инфраструктуру. Статья - https://arxiv.org/abs/2608.13331