Анализ данных (Data analysis)

⚡️ Сэм Альтман опубликовал новый блог-пост «Abundant Intelligence». Главная мысль: при доступе к 10 гигаваттам вычислений ИИ может приблизиться к решению величайших задач, например, поиску лекарства от рака. OpenAI видит будущее как «фабрику» ИИ-инфраструктуры, способную выпускать по 1 ГВт новых мощностей каждую неделю. Альтман сравнивает это с космической программой Apollo, только теперь цель не космос, а создание избыточного интеллекта. https://x.com/sama/status/1970484594161098920

📢 NVIDIA представила nvmath-python — библиотеку для Python, которая открывает доступ к возможностям фирменных математических библиотек (например, cuBLASLt) через удобный API. Что умеет: - работает с массивами из NumPy, CuPy, PyTorch и других экосистем; - поддерживает тонкую настройку вычислений (precision, режимы умножений, epilog-операции); - позволяет использовать расширенные оптимизации NVIDIA для ускоренной математики и ML-задач. Проект пока в бета-версии, но уже можно попробовать: https://github.com/NVIDIA/nvmath-python

🔥 Ваши данные стоят слишком дорого, чтобы ими рисковать Positive Technologies 8 октября запустит новый продукт — PT Data Security. Он создан, чтобы вовремя выявлять угрозы и предотвращать утечки, пока они не привели к кризису. На онлайн-трансляции вы первыми узнаете: — Какие задачи и риски сегодня определяют настоящее и будущее рынка защиты данных. — Какие вызовы стоят перед компаниями на рынке защиты данных. — Почему Positive Technologies выходит на рынок защиты данных с новым подходом. 🕒 15:00 мск 📍 Онлайн 👉 Регистрация

🤖 Почему роботы Unitree так быстро стали одними из лучших? На самом деле - не «вдруг». Секрет в том, что компания не закрылась в себе: - они продают железо и открывают SDK, - сами роботы «из коробки» почти бесполезны, но дают полный контроль разработчикам. Благодаря этому Unitree стала популярной платформой для исследований и разработок, вокруг которой выросло активное сообщество. Результат - G1 сегодня на порядок лучше, чем мог бы быть, если бы компания развивала всё только внутри себя. Многие хардварные компании с амбициями на «комьюнити-продукты» (роботы, AR-очки и др.) выбирают путь закрытых экосистем. Но такая жадность оборачивается тем, что их решения быстро уступают открытым платформам вроде Unitree G1.

🚀 Хотите ускорить обучение в PyTorch в несколько раз? У DataLoader есть два плохих дефолта, которые тормозят процесс. Исправив их, я получил почти 5x ускорение. ❌ Проблема - .to(device) переносит данные на GPU. - Пока GPU считает - CPU ничего не делает. - Пока CPU готовит данные — GPU простаивает. ⚡ Решение Нужно заставить CPU и GPU работать параллельно: - В DataLoader укажи pin_memory=True - При переносе данных используй .to(device, non_blocking=True) - Добавь num_workers в DataLoader для фоновой загрузки. ✅ В итоге CPU готовит следующий батч, пока GPU занят текущим. Так исчезают простои, и обучение идёт заметно быстрее.

🐐 В 2009 году Дженсен Хуанг объяснял, что такое CUDA, и прикидывал её рынок. Тогда акции NVIDIA стоили всего около $0.20 за штуку (с учётом сплитов). 💰 Если бы ты вложил $10,000 тогда, сегодня это было бы около $8.8 млн. Вот почему Дженсена называют GOAT.

🚀 LongCat-Flash-Thinking от Meituan ⚡ Главное - Размер: 560 миллиардов параметров, но работает только часть (~27B), поэтому инференс быстрее и дешевле. - Технология ScMoE (Shortcut-Connected MoE) позволяет совмещать вычисления и обмен данными, уменьшая задержку. - Поддерживает контекст до 128k токенов — можно обрабатывать очень длинные документы. - Обучалась на 20+ триллионах токенов всего за месяц. - Скорость инференса: 100+ токенов в секунду. - Лицензия: MIT. - Поддерживает работу с агентами (agentic tasks). - Модель хороша в программировании и рассуждениях. - На бенчмарке результаты на уровне топовых моделей. LongCat-Flash доказывает, что даже модель на сотни миллиардов параметров может быть быстрой и практичной. 🔗 Hugging Face: https://huggingface.co/meituan-longcat/LongCat-Flash-Thinking

⚡️Мы часто говорим об AGI так, будто это просто технологическая гонка. Но что произойдет, когда машины смогут делать всё, что сегодня считается работой? Новый доклад NBER показывает: в мире с AGI человеческий труд перестаёт быть узким местом для роста — им становится лишь вычислительная мощность. Это значит, что профессии, на которых строится наше нынешнее благосостояние, могут потерять экономический смысл. Те, кто владеет компьютерами, будут определять, кому достанется процветание. Главный вопрос: что будет значить работа, когда её экономическая необходимость исчезнет? И речь идёт не о далёком будущем, а о сдвиге, который формируется уже сейчас. Сильные стороны и ограничения + Полезная теоретическая работа, позволяющая формализовать идеи о будущем с AGI: что именно может стать автоматизированным, каковы условия, при которых автоматизация происходит, и как меняются распределение доходов и роль труда. + Привязка к росту compute (вычислительных ресурсов) как ключевого фактора — отражает реальные технологические тенденции. − Очень абстрактная модель: многие параметры и допущения (темп роста compute, стоимость автоматизации, «ценность» человеческого труда, предпочтения) остаются неопределёнными. − Не учитываются многие реальные ограничения: политические, социальные, институционные; также проблемы безопасности, этики, доступности технологий. − Не фокусируется на трансформации распределения внутри стран, регионов, между группами — реальная динамика может быть более сложной. 🟠 Подробнее

📘 Introduction to Machine Learning* (Laurent Younes) Что внутри: - 📐 Математический фундамент: анализ, линейная алгебра, теория вероятностей - ⚡ Оптимизация: SGD, проксимальные методы и др. - 🤖 Алгоритмы с учителем: линейные модели, SVM, деревья, бустинг, нейросети - 🎲 Генеративные модели: MCMC, графические модели, вариационные подходы, GAN - 🔎 Без учителя: кластеризация, PCA, факторный анализ, обучение на многообразиях - 📊 Теория: неравения концентрации, обобщающая способность моделей Фундаментальный учебник, который соединяет математику и практику ML. 👉 https://arxiv.org/abs/2409.02668 #MachineLearning #DeepLearning #Mathematics #DataScience #DataScientist

🚀 Xai представили новый Grok-4 fast — дешёвый, быстрый и с контекстом в 2 млн токенов 🔥 🧠 Архитектура объединяет режимы рассуждений и обычной генерации в одной модели. Это означает, что можно обрабатывать простые запросы, не тратя лишние вычислительные ресурсы. 💲 Цены радуют: - Ввод: $0.20 / 1M токенов (fast) и $0.40 / 1M (full) - Вывод: $0.50 / 1M токенов (fast) и $1.00 / 1M (full) ⚡ Дешево, быстро и с огромным контекстом. https://x.com/xai/status/1969183326389858448 #ai #grok

🧬 Как AI изменит биологию к 2030 году Учёные построили прогноз по трём ключевым задачам. 🔹 Белок + лекарство (PoseBusters-v2) Задача: понять, как молекула лекарства «садится» на белок. AI уже показывает высокую точность → такие задачи будут решены в ближайшие годы. 🔹 Лабораторные протоколы (ProtocolQA) Вопросы вроде: *как правильно поставить эксперимент, что делать на следующем шаге?* Кривая растёт быстро → к 2030 AI сможет уверенно подсказывать, как работать в лаборатории. 🔹 Белок + белок Самый сложный вызов. Прогнозировать взаимодействие любых двух белков пока получается с большим числом ошибок. Даже к 2030 результат остаётся под вопросом. ⚡️ Вывод - К 2030 AI наверняка справится с докингом молекул и помощью в лаборатории. - Но загадка взаимодействия белков останется нерешённой. AI станет реальным инструментом для биомедицины, но до полного понимания живых систем ещё далеко. https://epoch.ai/blog/what-will-ai-look-like-in-2030

58 минут на то, чтобы понять, что нужно удалить, 2 минуты на фикс, как настоящий разработчик.

🤖 Сооснователь Anthropic поделился интересным фактом: 70–90% кода внутри компании уже пишется Claude. Но это не значит, что кодеров собираются заменить. Смысл в другом: - Люди пишут меньше кода руками. - Основная роль - управлять ИИ-системами, задавать направления, проверять качество. - Программисты становятся «менеджерами» ИИ, распределяющими задачи и интегрирующими решения. Так меняется сама суть профессии: 👉 не только «писать код», а строить системы вместе с ИИ. 👉 от ручного труда к стратегическому управлению. Вопрос только один: готовы ли мы к роли «дирижёров», где ИИ - это оркестр? 🎼

🛠️ Улучшаем отладку с пользовательскими типами Этот репозиторий помогает отображать пользовательские типы и контейнеры в отладчике LLDB, делая их более понятными. С помощью кастомных функций и синтетических провайдеров вы сможете легко видеть значения ваших объектов и контейнеров. 🚀Основные моменты: - Поддержка пользовательских типов и контейнеров в LLDB. - Использование Python для настройки отображения. - Примеры для классов и контейнеров, таких как example::date и example::span. - Удобное взаимодействие с отладчиком через .lldbinit. 📌 GitHub: https://github.com/codeinred/lldb_user_types #python

🧠 Представлен новый бенчмарк OptimalThinkingBench — тест, который показывает, когда LLM «думают слишком много» или «слишком мало». В чём идея - У reasoning-моделей: болтовня и лишние шаги даже на простых вопросах. - У быстрых моделей: пропуск шагов и ошибки на сложных задачах. Как устроен бенчмарк - 2 части: 1. Простые вопросы → проверка переосмысления (overthinking). 2. Сложные задачи → проверка недоосмысления (underthinking). - Метрика: точность при разных лимитах токенов, усреднение по бюджетам + точность на сложных задачах. - Высокий балл возможен только при эффективности и правильности одновременно. Результаты - Тестировали 33 модели. - Ни одна не сбалансировала обе стороны: - «Думающие» тратили сотни токенов на простяках без прироста качества. - «Быстрые» — проваливались на сложных задачах. Попробованные фиксы - ✂️ Штрафы за длину сокращают токены. - 🔀 Роутер режимов помогает, но уступает оракулу, который всегда выбирает правильный режим. - 📝 Подсказка *«do not overthink»* надёжно сокращает ответы на лёгких вопросах без потерь точности. Доп. наблюдения - Больше отвлекающих опций → модель думает дольше. - Числовые формулировки → удлиняют рассуждения. - Крупные модели → думают больше, но не всегда лучше. 📑 Полный текст: https://arxiv.org/abs/2508.13141 👉 OptimalThinkingBench помогает строить модели, которые экономят вычисления на простых задачах и тратят усилия на сложные.

📘 На Stepik вышел курс — «MLOps с нуля: как довести модель до продакшна»  Начинаете путь в MLOps и хотите понять, как перевести ML-модель из ноутбука в реальный продукт? Этот курс — именно то, что нужно. 🔍 Что вы получите: • Понимание полного жизненного цикла ML-модели: от обучения до мониторинга • Практику с современными инструментами: Docker, Kubernetes, CI/CD, MLflow • Опыт построения воспроизводимых пайплайнов и управления экспериментами • Навыки автоматизации и работы с инфраструктурой для реального продакшна 🎓 Сертификат по завершении — добавьте его в резюме или профиль LinkedIn 🚀 Сделайте шаг к профессии MLOps-инженера. Начните уже сегодня и получите скидку 30%, которая действительна в течение 24 часов 👉 Пройти курс на Stepik

📊 93,9% специалистов по машинному обучению используют большие языковые модели в работе, более трети (31,5%) доверяют им написание кода, — следует из исследования технологической платформы Авито и Хабра. 📌 Главное: — LLM применяются не только для программирования, но и для поиска информации, генерации идей, анализа данных. — Лишь 6,1% разработчиков пока обходятся без таких инструментов. — Половина респондентов воспринимают ИИ как полезного ассистента, экономящего время. — ИИ меняет сам подход к разработке: помогает ускорять создание алгоритмов, сокращает барьеры для входа в профессию и в перспективе способен предложить решения, до которых человек не додумался бы самостоятельно. По словами Константина Мягких, директора по Data Science Авито, мир фактически вступает в эпоху саморазвивающихся систем: каждое новое поколение моделей рождается быстрее предыдущего, открывая путь к революции, где ИИ ускоряет собственное развитие. Компании, которые смогут безопасно интегрировать ИИ в процессы, получат не просто преимущество в эффективности — они создадут условия для появления принципиально новых технологий. Авито, например, уже активно внедряет искусственный интеллект: компания создает собственную экосистему решений — от чат-бота на основе языковой модели A-Vibe до ИИ-портала для быстрого поиска информации.

🚀 Техотчёт Meituan — LongCat-Flash Модель на 560B параметров (из них ~27B активные) с архитектурой MoE, где число активных экспертов динамически подстраивается под контекст. 🔧 Архитектура - Каждый слой содержит 2 блока внимания + FFN и MoE → коммуникации накладываются и ускоряют обучение. - Введён «нулевой эксперт» — токен может выбрать «ничего не делать». Это экономит вычисления для простых случаев. - Балансировка нагрузки через специальный loss с постепенным уменьшением смещения. 📈 Масштабирование - Инициализация с выравниванием дисперсий для MoE/MLA → модель обучается стабильнее. - Growth init: сначала тренируется уменьшенная версия (в 2 раза меньше), потом на её основе строят полную модель, просто добавляя слои. - Передача гиперпараметров через метод SP (вместо muP). ⚖️ Стабильность - Следят за отношением нормы градиента и схожестью экспертов, чтобы не «завалить» балансировку. - Для сдерживания активаций используется лёгкий z-loss (альтернатива qk-clip). - Параметр Adam epsilon снижен до 1e-16, чтобы быть меньше диапазона градиентов. ### 📚 Обучение - Всего обучено на ~20 трлн токенов + отдельные фазы: - STEM/код (70% смеси) - расширение контекста: 80B токенов для 32k и 20B для 128k - Данные: извлечение контекста → фильтрация → дедупликация. 🧪 Бенчмарки и результаты - Новые тесты: Meeseeks (многошаговые инструкции) и VitaBench (реальные бизнес-сценарии). - Отдельно показали: - какие top_k лучше для разных задач - как токены распределяются по слоям - В инфре: оптимизация под inference, speculative decoding, квантизация, параллельные коммуникации. 📌 Репозиторий: github.com/meituan-longcat

ИИ-ассистенты уже стали нормой для разработчиков Свежий отчёт от Yandex B2B Tech и ИТМО: 75 % dev’ов используют AI-помощников для кода, документации и поиска багов 🔥 Несколько цифр: — лишь 6 % верят, что ИИ сможет полностью автоматизировать задачи; — 61 % ждут разгрузки рутины, а не полной замены; — 79 % считают, что влияние сильнее всего на джуниоров. Появляется новый must-have навык: работа с ассистентами. Компании планируют вкладывать до 10 % IT-бюджета в инструменты с AI, а интерес к отечественным решениям (например, SourceCraft) растёт — безопасность и независимость стали важнее. 79 % студентов и половина преподавателей уже пользуются AI в обучении.

Grok 5 может стать AGI, считает Илон Маск — и это нельзя недооценивать. 🔹 Модель обучается на огромных массивах данных. 🔹 xAI снабжает её свежей и тщательно отобранной информацией. 🔹 Tesla генерирует данные с камер автопилота FSD. 🔹 В ближайшем будущем робот Optimus начнёт собирать колоссальные объёмы реальных данных из физического мира. При этом остаётся главный вопрос: что именно считать AGI? Универсальное и согласованное определение всё ещё необходимо. https://x.com/elonmusk/status/1968202372276163029