Machinelearning

🦎 Эволюция ИИ моделей, вдохновленная природой В Sakana AI предложили новый подход: развивать ИИ не как один гигантский «мозг», а как экосистему моделей, которые конкурируют, объединяются и обмениваются навыками. Этот метод они назвали M2N2 (Model Merging of Natural Niches). 🔑 Как это работает - Гибкие границы слияния — модели объединяются не фиксированными слоями, а переменными кусками параметров, как будто меняются фрагментами ДНК. - Конкуренция за данные — модели соревнуются за ограниченные ресурсы и становятся «экспертами» в узких областях. - Выбор партнёров — для объединения подбираются те модели, которые дополняют друг друга: одна сильна там, где другая слаба. 📊 Чего удалось добиться - С нуля: только слиянием случайных сетей удалось получить классификатор MNIST, сравнимый с классическими эволюционными методами, но быстрее и дешевле. - Крупные LLM: объединение модели-«математика» и модели-«агента» породило систему, которая уверенно справляется с обоими типами задач. - Мультимодальные модели: при слиянии text-to-image моделей для японского итоговая версия стала лучше понимать японские запросы и при этом сохранила сильный английский — без «забывания» старых навыков. Этот подход показывает, что будущее ИИ может быть не за одним огромным монолитом, а за живой экосистемой специализированных моделей, которые эволюционируют вместе, обмениваются сильными сторонами и становятся более гибкими и креативными. 🟠 Paper: https://arxiv.org/abs/2508.16204 🟠 Code: https://github.com/SakanaAI/natural_niches @ai_machinelearning_big_data

📌Анатомии GPU и TPU: 12 глава пособия "How to Scale Your Model" Группа инженеров из Google DeepMind опубликовали 12-ю главу своего он-лайн учебника "How to Scale Your Model: A Systems View of LLMs on TPUs"

How to Scale Your Model - практико-ориентированное руководство по масштабированию LLM из 12 разделов для разработчиков и исследователей. Оно объясняет, как анализировать и оптимизировать производительность модели, учитывая системные ресурсы: вычисления, память и пропускную способность. Пособие научит выбирать оптимальные стратегии параллелизма, оценивать стоимость и время обучения и инференса, а также глубже понять взаимодействие между TPU/GPU и алгоритмами масштабирования как на одном, так и на тысячах ускорителей.

12-я глава - глубокое техническое руководство по архитектуре GPU и стратегиям масштабирования больших моделей. В ней детально разбирается устройство современных GPU NVIDIA: Streaming Multiprocessors, Tensor Cores, иерархия памяти (HBM, L2, SMEM), все это с подробными сравнительными таблицами характеристик для разных поколений чипов. Очень подробно выполнено сравнение архитектур GPU и TPU, с объясняем ключевого различия между модульностью GPU и монолитностью TPU. Особое внимание, что редкость для обучающих материалов, уделено сетевой организации кластеров. Авторы доступно объясняют как GPU соединяются внутри узлов через NVLink/NVSwitch и между узлами через InfiniBand в топологии "Fat tree", и как пропускная способность на каждом уровне влияет на реальную производительность коллективных операций (AllReduce, AllGather). Описаны основные стратегии параллелизма: Data Parallelism, Tensor Parallelism, Expert Parallelism и Pipeline Parallelism, с разбором их ограничений и примеров из реальных проектов. В конце главы есть хороший анализ новых возможностей архитектуры Blackwell. @ai_machinelearning_big_data #AI #ML #LLM #Scaling #GPU #TPU

🐋 DeepSeek-V3.1 теперь можно запускать локально Оригинальная модель весила 715GB, но её удалось уменьшить до 170GB (−80%) с помощью новой техники квантовки Dynamic 1-bit GGUF. ⚡ Огромная экономия памяти 👉 Подробный гайд: https://docs.unsloth.ai/basics/deepseek-v3.1 👉 GGUF-модель: https://huggingface.co/unsloth/DeepSeek-V3.1-GGUF Теперь топовую DeepSeek реально запустить даже на локальной машине, а не только в дата-центре 🚀 @ai_machinelearning_big_data #DeepSeek #GGUF

✔️ Nvidia остановила производство чипов H20 для Китая. Nvidia приостановила выпуск своих ИИ-чипов H20, разработанных специально для китайского рынка в обход американских санкций. Причиной стало новое распоряжение Пекина, которое вынуждает местные компании отказаться от продукции Nvidia из-за опасений, связанных с безопасностью. В результате около 700 000 уже произведенных и готовых к отправке чипов, которые ранее получили одобрение от правительства США, теперь простаивают на складах партнера по упаковке. Вся цепочка поставок оказалась парализованной, несмотря на то, что Вашингтон и Nvidia уже достигли политического соглашения. theinformation.com ✔️ Cohere представила ризонинг-модель для бизнеса. Cohere выпустила ризонинг-модель Command A Reasoning, оптимизированную для ресурсоемких задач, требующих логических рассуждений: работа в агентных системах и анализ больших документов. По заявлению разработчиков, на бенчмарках BFCL-v3, Tau-bench и DeepResearch Bench модель превосходит gpt-oss-120b и Mistral Magistral Medium. Command A Reasoning может работать на одном GPU H100 или A100 с контекстным окном в 128 тыс. токенов, которое можно расширить до 256 000 токенов на нескольких GPU. Модель уже доступна на платформе Cohere, а на Hugging Face выложена версия для некоммерческого использования под лицензией CC-BY-NC-4.0. cohere.com ✔️ ElevenLabs выпустила альфа-версию TTS-модели v3. ElevenLabs представила обновленную модель для синтеза речи Eleven v3. Она уже доступна в альфа-версии через API. Модель знает более 70 языков (включая русский) и получила расширенные возможности для передачи эмоций и дополнительные элементы управления голосом. Одной из главных особенностей стал режим «диалог», который может обрабатывать неограниченное количество спикеров в одном аудио. Для управления интонациями и эмоциональными оттенками речи добавлены специальные аудиотеги. Доступ к API Eleven v3 (alpha) можно получить с бесплатного аккаунта, однако некоторые функции могут быть платными. elevenlabs.io ✔️ Anthropic разработала классификатор для блокировки запросов, связанных оружием массового поражения. Anthropic создала ИИ-классификатор, который выявляет опасные запросы, касающиеся технологий, связанных с биологическим, химическим и ядерным оружием. Предварительные тесты показали точность системы на уровне 96%. Цель классификатора - фильтровать информацию об оружии массового поражения еще на этапе предварительного обучения моделей. Такой подход должен предотвратить ситуации, когда чат-боты могут предоставить инструкции по созданию оружия, не влияя при этом на их способность выполнять безопасные задачи. В Anthropic в очередной раз напомнили, что безопасность должна быть фундаментальным принципом при разработке ИИ. anthropic.com ✔️ Илон Маск анонсировал создание компании-симулятора Microsoft. Илон Маск объявил о запуске новой софтверной компании Macrohard, созданной в рамках его инициативы xAI. Главная цель проекта - построить полностью управляемую ИИ программную корпорацию, которая будет симулировать деятельность Microsoft и конкурировать с ней . По замыслу Маска, сотни специализированных ИИ-агентов будут совместно работать над созданием программных продуктов, полностью воспроизводя цифровые операции гиганта. Название Macrohard является явной ироничной отсылкой к Microsoft, подчеркивая амбиции проекта стать его прямым конкурентом в сфере ПО. Elon Musk в сети X @ai_machinelearning_big_data #news #ai #ml

🌟 MAD: алгоритм безопасной работы с огромными датасетами. Большие данные - это топливо для ИИ. Но как их использовать, чтобы не нарушить приватность, например датасета, где есть персональные данные? Один из вариантов - метод дифференциально-приватного отбора. Он выбирает из огромного набора уникальные элементы так, чтобы нельзя было соотнести их с конкретным человеком. А если данных - больше миллиарда? Для этого нужен более надежный подход. Таким алгоритмом стал Max Adaptive Degree (MAD), представленный Google на ICML 2025. Он не только эффективнее других параллельных методов, но и работает с наборами данных на десятки и сотни миллиардов записей. 🟡Стандартный MAD метод состоит из 3 шагов: 🟢Каждому элементу присваивается вес (обычно по частоте использования). 🟢К весу добавляется случайный шум для защиты приватности. 🟢Выбираются только те элементы, чей вес с шумом превышает определенный порог. Но тут появляется новая проблема - популярные элементы получают избыточный вес, который можно было бы использовать для менее частых, но ценных данных. MAD решает ее с помощью адаптивного взвешивания, перераспределяя вес: забирает часть у популярных элементов и отдает тем, чьи значения уже находятся у порога. Это позволяет отобрать больше полезных данных без потери приватности.

Простой пример: представьте 100 пользователей, у каждого по 3 элемента. Один элемент (A) есть у всех, а остальные элементы уникальны. В базовом алгоритме элемент A получит слишком много веса (намного больше необходимого), а уникальные элементы - слишком мало. MAD "забирает" часть веса у A и распределяет его между уникальными элементами, давая им шанс пройти порог.

🟡MAD2R. Метод можно использовать в несколько итераций, публикуя промежуточные результаты с шумом. Так можно еще точнее распределять вес между раундами. В первом раунде запускается MAD как обычно, а во втором удаляются уже найденные элементы и те, которые явно не пройдут порог. Для остальных элементов применяется "смещение" веса на основе данных первого раунда. На практике MAD показал отличные результаты. Всего за 2 этапа он отобрал больше полезных элементов, чем другие методы. Например, в Common Crawl (800 млрд. записей) он выбрал набор слов, который покрыл 99.9% всех записей и 97% уникальных слов с полным соблюдением приватности. 🟡Статья 🟡Arxiv 🖥GitHub @ai_machinelearning_big_data #AI #ML #Selection #MAD #Google

🦾 Boston Dynamics выкатили впечатляющее видео своего робота. Atlas получает изображение с камеры, данные о положении тела и текстовую команду. На основе этого модель генерирует плавные движения всего корпуса 30 раз в секунду. Это не набор хрупких скриптов, а система, которая сама «думает», как выйти из ситуации.

Вместо того чтобы «прыгать» от точки к точке, система сразу строит короткую последовательность действий — примерно на полторы секунды вперёд. Часть из них выполняется, а потом план обновляется, чтобы движения оставались точными и естественными.

Робот показывает, что может работать в реальном бардаке, где всё падает, двигается и мешает работе. @ai_machinelearning_big_data #ai #robots #BostonDynamics #atlas

🧠 Управление командой и проектами с помощью AI: от OKR до Performance Review. Технические скиллы — это наш фундамент, но для роста до тимлида или руководителя нужно понимать язык бизнеса. Канал Саши (маркетинг дир в Yandex, Playrix, eBay) «Мальцев: Карьера. Маркетинг. Al» — это плейбук для IT-специалистов, которые хотят эффективно управлять командой, расти в карьере и получать признание за свою работу. ✔️ Какие управленческие фреймворки разбираются на практике: • Постановка целей по OKR: Как самостоятельно сформулировать цели, которые будут высоко оценены вашим бизнесом и повысят шансы на премию. Подход, который помог Google стать Google. • Подготовка к Performance Review: 4 неочевидные ошибки в Self-Review, которые мешают получить высокую оценку. Саша делится опытом участия в калибровках 137 сотрудников и объясняет, как связывать свой вклад с метриками бизнеса (выручка, LTV, EBITDA). • Запуск крупных продуктов: Готовый шаблон для обоснования продуктовых запусков перед топ-менеджментом. Включает оценку ROI, расчет ресурсов и описание рисков. • Работа с нечеткими задачами: Промпт для GPT, который на основе 4-х вводных помогает системно продумать подход к решению задачи от руководителя, выявить скрытые цели и определить метрики успеха. Канал помогает IT-специалистам развить навыки, необходимые для карьерного роста в крупных технологических компаниях. ➡️ Подписаться: Мальцев: Карьера. Маркетинг. AI.

✔️ Google расширила доступ к ИИ-поиску на 180 стран и добавила функцию бронирования. Google начала масштабное развертывание диалогового поискового режима AI Mode для 180 стран. Ранее функция работала только в США, Великобритании и Индии. Пока доступен только английский язык, а страны Евросоюза в список не вошли из-за строгих правил в области данных и ИИ. Вместе с географическим расширением Google представила первую агентную возможность в AI Mode. Теперь пользователи в США могут находить и бронировать столики в ресторанах через платформы OpenTable и Resy, прямо из поисковой выдачи. В будущем планируется добавить бронирование билетов и запись на услуги. Эта функция пока доступна только подписчикам платного тарифа Google AI Ultra. 9to5google.com ✔️ Runway представила платформу для создания интерактивных ИИ-миров. Компания анонсировала бета-версию платформы Game Worlds, на которой пользователи в реальном времени могут создавать и исследовать полностью сгенерированных персонажей, сюжеты и окружения. Одновременно с этим Runway добавила в свой продукт Act-Two новую функцию «Voices». Она дает возможность подбирать и настраивать голоса для ИИ-персонажей. Эти нововведения - часть стратегии компании по демократизации создания иммерсивного контента, делая его доступным для авторов без специальных навыков в программировании или анимации. RunwayML в сети X ✔️ Появились тестовые образцы нового ИИ-чипа Intel Jaguar Shores В сети появились фото тестовых образцов следующего поколения ИИ-архитектуры Jaguar Shores. Размер корпуса 92,5 мм на 92,5 мм, он включает 4 отдельных кристалла и 8 площадок памяти HBM, что явно указывает на платформу для высокопроизводительных вычислений. Jaguar Shores станет первым стоечным решением Intel, планируется использование памяти HBM4 от SK Hynix и совместная работа с будущими процессорами Xeon Diamond Rapids. wccftech.com ✔️ Streaming Sortformer: модель для распознавания говорящих в реальном времени. NVIDIA выпустила Streaming Sortformer - модель для диаризации речи, которая мгновенно определяет и маркирует участников разговора в реальном времени с низкой задержкой. Модель оптимизирована для английского и китайского языков, способна отслеживать до 4 говорящих одновременно и предназначена для работы на GPU. По результатам тестов, Streaming Sortformer показывает более низкий уровень ошибок (DER) по сравнению с конкурирующими решениями. Streaming Sortformer подойдет для применения в колл-центрах, при создании протоколов встреч и в интерактивных голосовых приложениях, где важно точно знать, кто, что и когда сказал. Модель доступна на Hugging Face. developer.nvidia.com ✔️ AMD официально представила технологию FSR 4. AMD выпустила новейшую технологию масштабирования изображения FidelityFX Super Resolution 4 (FSR 4). Это часть обновления FidelityFX SDK 2.0, где AMD впервые внедряет алгоритм апскейлинга на основе машинного обучения для улучшения качества графики и производительности в играх. По сравнению с предыдущей версией 3.1, FSR 4 показывает улучшения в детализации изображения и временной стабильности, а также снижает артефакты гостинга движущихся объектов. FSR 4 поддерживается только видеокартами AMD Radeon RX 9000 серии и выше на архитектуре RDNA 4 и требует DirectX 12. AMD также предоставила плагины FSR 4 для Unreal Engine версий 5.1–5.6. gpuopen.com @ai_machinelearning_big_data #news #ai #ml

⚡ PyTorch представил **ZenFlow** — новый движок для обучения больших языковых моделей без «простоев» GPU. В чём проблема? Когда при обучении LLM данные и градиенты выгружаются на CPU (offloading), GPU часто простаивает: шина PCIe медленная, а вычисления на CPU ещё медленнее. В итоге шаг обучения может замедлиться в 10–15 раз. Как решает ZenFlow: - 🔄 Делит градиенты по важности: ключевые обновляются сразу на GPU, остальные — асинхронно на CPU. - ⏱️ Все операции перекрываются: пока CPU считает и гоняет данные по PCIe, GPU продолжает работать. - 🚀 Это снижает простои GPU на 85% и ускоряет обучение в среднем в 5 раз (по сравнению с DeepSpeed ZeRO-Offload). - 📉 PCIe загружается в 2 раза меньше, а качество обучения моделей не падает. Итог: ZenFlow делает обучение LLM быстрее и эффективнее — теперь GPU работают почти без перерывов, а модели масштабируются без потери качества. 🟢 Подробности: https://pytorch.org/blog/zenflow-stall-free-offloading-engine-for-llm-training/ @machinelearning_interview

📌Облачные технологии — базовый минимум современного IT-специалиста. Речь не только про возможность войти в перспективные профессии: DevOps-инженер, аналитик, backend-разработчик, ML-инженер, но и про базовую грамотность в IT, которая сегодня нужна всем. Ведь сейчас почти любой цифровой сервис — от приложений до нейросетей — работает в облаке. Если хочется наконец понять, какая сфера тебе ближе и куда развиваться дальше в комфортном для себя режиме, сейчас открыта регистрация на бесплатный курс «Основы работы с Yandex Cloud» от архитекторов и менеджеров платформы. Материал курса рассчитан на 30 часов и разделён на 7 тем с теорией и практикой. 🤖Чем это полезно? Даже понимание основ даёт сильное преимущество в резюме, поэтому при поиске работы можно отмечать навык как практику на реальных инструментах. 🔥Внутри курса: — облачные технологии и основные термины: IaaS, PaaS, SaaS; — элементы облачной инфраструктуры: регионы, зоны доступности, центры обработки данных; — виртуальные машины и управление ими в Yandex Cloud; — безопасность и отказоустойчивость в облаке; — использование облачных баз данных и других инструментов для работы с данными; — сервисы Yandex Cloud и их применение для бизнеса и личных проектов. Регистрируйтесь сегодня, пополняйте резюме новой ачивкой — стоящим сертификатом — и переходите на уровень знаний в IT. @ai_machinelearning_big_data

📌Как создавали RL-агент AutoGLM-OS, который выбил SOTA на OSWorld, обогнав OpenAI и Anthropic. Автономные агенты, способные управлять рабочим столом - это Грааль современного HCI. Но их обучение сопряжено с трудностями: GUI созданы для людей, а не для машин, а масштабирование RL упирается в неэффективность и нестабильность сред. В Z.ai сделали фреймворк COMPUTERRL, который лег в основу агента AutoGLM-OS. Результат - state-of-the-art на бенчмарке OSWorld: 48.1% успешных выполнений и это лучше, чем у OpenAI CUA 03 (42.9%), UI-TARS-1.5 (42.5%) и Claude 4.0 Sonnet (30.7%).

OSWorld — это крупный бенчмарк из 369 заданий для проверки многомодальных ИИ-агентов в реальных условиях. Он работает в Ubuntu, Windows и macOS. В нем ИИ выполняет открытые задачи: работает с веб- и десктопными приложениями, управляет файлами, запускает процессы. Каждое задание имеет четкие начальные условия и скрипты для оценки, чтобы результаты можно было воспроизвести.

Такие высокие показатели - результат комбинации 3-х инноваций. 🟡Новая парадигма взаимодействия API-GUI. Фреймворк объединяет GUI-взаимодействия с быстрыми и точными API-вызовами образуя систему, которая через LLM автоматически анализирует примеры задач, генерирует необходимый API-код для стандартных приложений Ubuntu и даже создает для него базовые тесты. Таким образом, агент использует быстрые API там, где это возможно, и переключается на GUI для общих задач, что повышает и скорость, и надежность. Абляция показала, что переход от GUI-only к API-GUI поднимает средний показатель успеха с 11.2% до 26.2%. 🟡Масштабируемая распределенная RL-инфраструктура. OSWorld крайне ресурсоемок, и запуск множества его экземпляров на одном узле это тот еще квест. Z.ai полностью переработали эту среду, используя qemu-in-docker для легковесного развертывания VM, gRPC для связи между узлами и полностью асинхронный фреймворк AgentRL. Это позволило создать кластер из тысяч параллельных виртуальных сред, к котором онлайн-обучение RL-агентов стало максимально эффективным. 🟡Стратегия обучения Entropulse. Entropulse решает проблему коллапса энтропии, чередуя фазы RL с периодическими сессиями SFT. Во время RL-фазы собираются все успешные траектории, и на их основе формируется новый SFT-датасет. Затем модель дообучается на этом датасете, что позволяет восстановить её исследовательскую способность без потери производительности. После этого запускается вторая, более эффективная фаза RL. Эта стратегия позволила AutoGLM-OS, построенному на базе 9B GLM-4, достичь финального результата в 48.1%, в то время как после первой RL-фазы показатель был 42.0%. 🟡Arxiv @ai_machinelearning_big_data #AI #ML #Agents #AutoGLM #Zai

Получи грант до 1,65 млн. ₽ на магистратуру «ИИ и компьютерное зрение» и получи 2 диплома: НИУ ВШЭ + НЕЙМАРК! Стань AI-инженером мирового уровня и зарабатывай до 1 млн. ₽ Уже сейчас работодатели активно ищут таких специалистов, и спрос на них будет только расти! Магистратура в ИТ-университете НЕЙМАРК — это: 1) онлайн обучение на английском языке 2) реальные задачи от Intel, Huawei, SBERLAB и других 3) возможность запустить стартап при поддержке наставников во время обучения 4) отсрочка от армии Узнай, как получить грант и учиться бесплатно — переходи в бот и забирай инструкцию! Реклама. НЕЙМАРК, УНИВЕРСИТЕТ НЕЙМАРК. ИНН 5256209106.

📌Python на взлете, а Python Software Foundation в минусе на 1.5 млн. долларов: разбираем свежий опрос. Python Software Foundation (PSF) совместно с JetBrains опубликовала результаты восьмого, самого крупного в истории опроса разработчиков - в нём приняли участие более 30 000 человек. Данные, собранные в конце 2024 года, показывают, что 72% респондентов используют Python в рабочих целях и это подтверждает доминирующую роль языка в индустрии. И популярность Python продолжает расти: согласно другому исследованию, от Stack Overflow, использование языка увеличилось на 7%. 🟡Приток свежей крови в экосистему. Половина опрошенных имеют менее 2 лет профессионального опыта в программировании, а 39% начали использовать Python в течение последних 2 лет. Это говорит о том, что язык активно привлекает новичков и остается ключевой точкой входа в разработку. 🟡Парадокс версий. Только 15% разработчиков используют последнюю на момент опроса версию, 3.13. В PSF утверждают, что массовый переход на нее мог бы сэкономить миллионы долларов на облачных вычислениях за счет повышения эффективности. Однако сами разработчики не торопятся: 53% заявляют, что текущая версия полностью удовлетворяет их потребности, 27% ссылаются на проблемы с совместимостью, а 25% - на нехватку времени. При этом нельзя сказать, что сообщество инертно. Самая популярная версия - 3.12 (35%), выпущенная в конце 2023 года, за ней следует 3.11 (21%), что говорит о довольно быстрой адаптации к не самым последним, но свежим релизам. 🟡Сферы применения. Анализ данных (48%) и веб-разработка (46%) идут практически вровень. Но если к анализу прибавить ML (41%) и инжиниринг данных (31%), то доминирование Data Science становится очевидным. В мире веб-фреймворков происходит смена караула: FastAPI (38%) резко вырвался вперед, обогнав ветеранов: Django (35%) и Flask (34%). Год назад у FastAPI было всего 29%. Ещё один стремительный взлёт — у написанного на Rust менеджера пакетов uv, который позиционируется как замена pip. Заявляя о кратном превосходстве в скорости, он уже отхватил 11% пользователей. А вот в лагере IDE плохие новости для спонсора опроса, JetBrains: Visual Studio Code укрепил свое лидерство, набрав 48% (против 41% в прошлом году), а доля PyCharm снизилась до 25% (с 31%). 🟡Финансовые проблемы Python Software Foundation. Ранее в этом месяце PSF объявила о приостановке своей грантовой программы из-за нехватки средств. Годовой отчет за 2024 год показал чистый убыток в размере 1 462 000 долларов, что значительно больше, чем в 2023 году, там убыток был 225 000 долларов. Фонд, который поддерживает репозиторий PyPI, дистрибуцию самого Python и нанимает разработчиков для CPython, оказался в сложной ситуации и явно нуждается в большей поддержке и ресурсах от корпораций, которые строят свой бизнес и получают доход на Python. @ai_machinelearning_big_data #news #ai #ml

📘 На Stepik вышел курс — «LangChain: с нуля до продакшн LLM-приложений» Нужен не игрушечный бот, а воспроизводимый RAG-пайплайн с метриками и сервисом? Этот курс — про путь «ноутбук → FastAPI → прод». 🔍 Что вы получите • RAG по PDF с цитированием источников и гибридным поиском (BM25 + вектор + rerank); контроль галлюцинаций через метрики (precision/recall@K, citation-rate) • Инструменты и агенты для анализа данных: Pandas-задачи, структурированный JSON-вывод под отчёты/дашборды • Продакшн-контур: FastAPI-сервис, логирование латентности/токенов, PromptOps (версии/A/B), базовый SLA-мониторинг 🎓 Сертификат по завершении — можно добавить в резюме или LinkedIn 🚀 Начните сегодня и получите скидку 25% в течение 72 часов 👉 Пройти курс на Stepik #LangChain #RAG #LLM #FastAPI

✔️ Сотни тысяч приватных чатов Grok проиндексированы поисковиками. xAI допустила утечку данных: сотни тысяч личных переписок пользователей с чат-ботом Grok оказались в открытом доступе и были проиндексированы поисковиком Google. По оценкам Forbes, в индексе оказалось более 370 000 ссылок на чаты. Причиной утечки стала функция «Поделиться». При ее использовании генерируется уникальный URL, который и попадает в поле зрения поисковых роботов. В результате в открытом доступе оказались как обычные рабочие запросы, так и конфиденциальная информация, включая медицинские данные, пароли, загруженные изображения и таблицы. В xAI пока не прокомментировали ситуацию. Этот инцидент напоминает похожий случай с ChatGPT от OpenAI, когда ссылки на чаты также попали в поисковую выдачу, но проблема была оперативно устранена. forbes.com ✔️ Ai2 представил бенчмарк для проверки способности LLM к сложным рассуждениям. MoNaCo - новый бенчмарк для оценки вопросно-ответных систем. Он состоит из 1315 естественных и сложных вопросов, ответы на которые требуют анализа и синтеза информации из десятков, а иногда и сотен различных источников. MoNaCo должен устранить разрыв между возможностями современных LLM и существующими методами их оценки. Большинство текущих бенчмарков либо слишком просты, либо состоят из сгенерированных вопросов. Тестирование 15 топовых LLM показало, что все они испытывают трудности. Лучшая модель, o3, достигла F1-меры в 61.2%, дав абсолютно точный ответ лишь в 38.7% случаев. Производительность моделей резко падает с увеличением числа необходимых источников и шагов рассуждения. Бенчмарк уже доступен на Hugging Face. allenai.org ✔️ Робота Figure 02 научили ходить по пересеченной местности без использования камер. Figure AI показала новые возможности своего гуманоидного робота Figure 02. На видео он уверенно преодолевает препятствия, используя новую систему локомоции - Helix. По словам основателя компании, система управления ходьбой обучена с помощью RL и позволяет роботу передвигаться, полагаясь исключительно на внутренние датчики для поддержания равновесия, без данных с камер. В Figure AI описывают достигнутую стабильность и надежность как "почти сверхчеловеческую". Helix является частью более широкой архитектуры VLA, которая объединяет восприятие, понимание языка и управление моторикой для координации движений всего тела робота. Brett Adcock (Основатель Figure AI) в сети Х ✔️ В Google Photos появилась функция редактирования фото с помощью голосовых команд. Функция под названием "Редактируй, спрашивая" (edit by asking) способна выполнять как базовые задачи - коррекцию освещения или удаление объектов, так и более творческие, например, замену фона или добавление новых элементов на снимок. Инструмент работает на базе модели Gemini. Первыми доступ к нему получат владельцы новых смартфонов Pixel 10 в США на следующей неделе. В течение ближайших недель функция станет доступна и на других устройствах под управлением Android и iOS. techcrunch.com ✔️ Microsoft и NFL внедрят Copilot для анализа игр и скаутинга. Microsoft и NFL объявили о продлении своего технологического альянса. В рамках нового соглашения в работу лиги будут внедрены инструменты на базе генеративного ИИ которые затронут как игровые, так и бизнес-операции. Ключевым элементом станет система Sideline Viewing System, которая получит более 2500 кастомизированных планшетов Surface Copilot — по одному для каждого игрока и тренера во всех 32 командах. Новое ПО позволит тренерскому штабу за считанные секунды получать статистику по игровым моментам, заменяя ручной поиск данных. Помимо поля, Copilot будет использоваться для анализа драфта, управления потолком зарплат и разработки приложений для болельщиков. Microsoft также планирует расширить применение Azure AI для скаутинга и анализа видео, основываясь на успешном опыте пилотного проекта на NFL Combine в этом году. news.microsoft.com @ai_machinelearning_big_data #news #ai #ml

☀️ Surya: фундаментальные модели ИИ для гелиофизики и предсказания погоды в космосе NASA и IBM выпустили в опенсорс Surya Heliophysics Foundational Model — крупномасштабную ИИ-модель, обученную на 14 годах наблюдений космоса спутника Solar Dynamics Observatory (SDO) 🟢 Зачем это нужно: Солнечные бури влияют на нашу жизнь: 🛰️ могут вывести из строя спутники ✈️ нарушить работу навигации в самолётах ⚡ вызвать перебои с электричеством 👨‍🚀 создать радиационную угрозу для астронавтов Иногда вспышки сопровождаются потоками частиц, которые повреждают электронику и опасны для здоровья. 🟠 Чем интересна Surya: - Обучена на 14 годах наблюдений за Солнцем - Позволяет предсказать вспышки на солнце за 2 часа до их - Показывает точное место на Солнце, где произойдёт вспышка - Помогает заранее подготовиться авиации, энергетике и связи к возможным проблемам. 🚀 IBM и NASA десятилетиями работали над моделями климата и погоды на Земле. Теперь они перешли к прогнозированию «космической погоды». ▪HF: https://huggingface.co/nasa-ibm-ai4science ▪Модели: https://huggingface.co/nasa-ibm-ai4science/models ▪Датасеты: https://huggingface.co/nasa-ibm-ai4science/datasets @ai_machinelearning_big_data #AI4Science #Heliophysics #OpenScience #MachineLearning #NASA #IBM

📌 MTС Web Services даст возможность партнерам продавать MWS GPT и MWS Data Компания запустила новую партнерскую программу, которая включает три модели сотрудничества: 🟡 Агентская. Партнёр регистрирует лид — всю сделку закрывает MWS. Вознаграждение партнера до 20%. 🟡 Реселлерская. Партнёр закупает сервисы по спецценам и перепродаёт клиентам. Выгода - до 35%. 🟡 Разработчик (white-label). Сервисы MWS — GPT, Data, Cloud — можно встроить в собственные продукты без раскрытия бренда. Ключевое отличие — гибкость. Можно продавать под маркой MWS, а можно под своей. Ассортимент: платформа для работы с разными LLM - MWS GPT, комплекс инструментов для хранения, обработки, визуализации, контроля качества и безопасности данных MWS Data, облако MWS Cloud с GPU-инстансами, контейнерные платформы, Octapi для интеграции, корпоративные сервисы (почта, решение для совместной работы Tables, диск). Экономика: MWS ожидает рост выручки по партнёрской схеме в 7 раз, планирует привлечь 300+ компаний. Первыми в программе уже Neoflex, «Концепт разработка» и GlowByte. Подробности тут. @ai_machinelearning_big_data

📌Синтетика BeyondWeb: как 3B модель, обученная на ней, обходит 8B модели. Есть такая проблема в обучении моделей, называется "Data Wall". Это когда просто добавлять все больше текста из интернета уже не помогает улучшать большие языковые модели. Синтетические данные стали решением, но как именно они работают, до сих пор было не до конца понятно. Метод, разработанный DatologyAI переосмысливает синтетику и показывает, как она может быть эффективна. Модель на 3 миллиарда параметров, обученная на 180 миллиардах токенов BeyondWeb, работает лучше, чем 8-миллиардная модель на данных Cosmopedia. BeyondWeb — это не просто еще один датасет, а целая методология, основанная на перефразировании источников. Иными словами, она не генерирует знания с нуля. Вместо этого берется существующий веб-контент и перерабатывается в более качественные и целевые форматы, например, в пары вопрос-ответ. Это дешевле и позволяет добиться большего разнообразия. 🟡Цифры. На 14 тестах модель, обученная на BeyondWeb, показывает точность 63.7%. Это на 2.6% лучше, чем у конкурента Nemotron-Synth, и на 5.1% лучше, чем у Cosmopedia. 🟡Эффективность. Чтобы достичь уровня RedPajama, BeyondWeb нужно в 7.7 раз меньше данных. А уровня Nemotron-Synth — в 2.7 раза меньше. Ключевые выводы, к которым пришли авторы проведенного исследования, экспериментируя с фреймворком: 🟢Во-первых, синтетика — это не просто дистилляция знаний. Простая суммаризация веб-текста для повышения плотности информации дает результат, сравнимый с Cosmopedia, но подход BeyondWeb значительно его превосходит. 🟢Во-вторых, синтетика может пробить "Data Wall", но не любая. Наивное дописывание существующего текста дает лишь скромный прирост, а вот стратегически созданные данные, заполняющие пробелы знаний, могут превзойти потолок производительности, достигаемый на чисто естественных данных. 🟢В-третьих, качество исходных данных имеет решающее значение. Перефразирование качественного веба дает гораздо лучшие результаты, чем облагораживание низкокачественного. Также важен стиль: в вебе всего 2.7% контента имеет диалоговый формат, хотя это основной сценарий использования LLM. 🟢В-четвертых - разнообразие. При масштабировании до триллионов токенов именно разнообразие стратегий генерации синтетики (вопрос-ответ, MCQ, логические задачи и т.д.) позволяет избежать стагнации и продолжать улучшать модель. 🟡И самое интересное. Эксперименты показали, что размер модели-генератора не так важен. Переход с 1 млрд. на 3 млрд. параметров дает прирост, а с 3 на 8 - уже почти нет. Значит, не нужны огромные модели, чтобы создавать качественные синтетические данные. 🟡Статья 🟡Arxiv @ai_machinelearning_big_data #AI #ML #LLM #BeyondWeb #DatologyAI

Полезные материалы про LLM и AI-агентов от магистратуры AI Talent Hub 📹 Лекция | Построение инфраструктуры для LLM: опыт X5 Tech 📹 Лекция | Код-ассистенты: Как Al-агенты помогают в разработке? 📹 Воркшоп | Базовый RAG: создай свой поисковик на LLM 📹 Reading Club | Михаил Бурцев – Как сделать LLM еще умнее? 📹 Reading Club | Валентин Малых – Как улучшить ИИ-генерацию кода? Подборки AI-тулзов 🔘 Open-source фреймворки для AI-агентов 🔘 Всё для создания MCP-агентов 🔘 AI-инструменты для кодинга 🔘 АI-сервисы для научных исследований 🔘 Гайды по промптингу ➡️ Хочешь освоить AI на практике и положить минимум 4 ML-проекта в портфолио? Подай заявку в AI Talent Hub до 27 августа. ✅ 80+ выборных курсов по AI/ML (в том числе курсы от ШАД) и 15+ курсов по софтам ✅ Онлайн-обучение в вечернее время с привелегиями очной формы: стипендия, общежитие, отсрочка ✅ Практика на кейсах от Яндекс, Альфа-Банк, Napoleon IT, AIRI и других индустриальных партнеров. ✅ Комьюнити: менторы из науки и бизнеса, бадди-система, помогающая адаптироваться и расти быстрее. ✅ Новая программа — для AI-продактов ✅ Диплом ИТМО * AI Talent Hub — онлайн-магистартура по ИИ от ИТМО и лучший просветительский проект в GenAI по версии Gnertion AI Awards 2025 😎 @aitalenthubnews Реклама. Университет ИТМО ИНН:7813045547

✔️ Марк Цукерберг снова реструктурирует свое ИИ-подразделение. Компания намерена разделить Superintelligence Labs на 4 специализированных подразделения: FAIR, новый проект по созданию суперинтеллекта, потребительские продукты и поддерживающая инфраструктура. Каждое подразделение получит своего руководителя. Проект по суперинтеллекту возглавит Александр Ванг, FAIR - пионер компьютерного зрения Роберт Фергюс, разработку продуктов - бывший CEO GitHub Нэт Фридман, а инфраструктуру - Апарна Рамани. В рамках реорганизации тысячи инженеров будут перераспределены. Кроме того, рассматриваются варианты сокращения общей численности персонала, а несколько топ-менеджеров, как ожидается, покинут компанию. bloomberg.com ✔️ Microsoft встроила Copilot прямо в ячейки Excel. Microsoft добавила в Excel новую функцию =COPILOT, которая позволяет использовать возможности LLM непосредственно в ячейках электронных таблиц. Теперь пользователи могут выполнять анализ данных, классификацию текста и генерацию контента, просто написав запрос на естественном языке и указав нужные диапазоны ячеек. Главный плюс - интеграция в движок Excel. При изменении исходных данных результаты, сгенерированные ИИ, обновляются автоматически. Функцию можно комбинировать со стандартными формулами. Функция уже доступна для бета-тестеров с лицензией Microsoft 365 Copilot. techcommunity.microsoft.com ✔️ Билл Гейтс учредил премию в $1 млн. за лучшее применение ИИ в исследовании болезни Альцгеймера. Билл Гейтс запустил конкурс Alzheimer’s Insights AI Prize, цель которого - найти алгоритмы и модели, способные выявить новые мишени для лекарств, биомаркеры или закономерности в развитии болезни Альцгеймера, которые остались незамеченными при традиционных методах анализа. Победителя определит жюри из нейробиологов и экспертов по машинному обучению. Главный критерий - решение должно демонстрировать явный потенциал для ускорения клинических прорывов. В конкурсе могут принять участие академические лаборатории, стартапы и технологические компании со всего мира. Заявки принимаются до конца года, а победителя объявят в 2026 году. ft.com ✔️ Lightning AI запустила мультиоблачный маркетплейс GPU. Маркетплейс позволяет клиентам сравнивать, резервировать и запускать GPU от разных провайдеров - от облачных гигантов до специализированных поставщиков через единый интерфейс. Сервис отображает цены и данные о производительности чипов. Пользователи могут переключаться между провайдерами без необходимости переписывать код, выбирая спотовые, on-premise или зарезервированные мощности для оптимизации затрат, производительности или географического расположения. Базовый доступ к маркетплейсу бесплатен. Подписка для небольших команд стоит 140 долларов в месяц на пользователя, а корпоративные тарифы обсуждаются индивидуально. semafor.com ✔️ Adobe представила единое рабочее пространство с ИИ-ассистентами. Adobe запустила новую платформу Acrobat Studio, которая объединяет в одном интерфейсе Acrobat Pro, Adobe Express и набор генеративных ИИ-инструментов. Сервис позволяет загружать и анализировать до 100 файлов различных форматов: PDF и офисные документы в рамках совместных рабочих областей «PDF Spaces». Встроенный чат-бот может суммировать содержимое, цитировать источники и отвечать на вопросы по всем загруженным материалам. Кроме того, доступны 3 ИИ-агента : "Analyst", "Instructor" и «Entertainer», которых можно кастомизировать под конкретные задачи. Acrobat Studio уже доступен по всему миру на английском языке и позиционируется как замена существующим планам Acrobat Standard и Pro. До конца октября действует специальная цена в 25 долл/мес для индивидуальных пользователей. Подписка также включает доступ к Adobe Express Premium. news.adobe.com @ai_machinelearning_big_data #news #ai #ml