Анализ данных (Data analysis)

🌟 NVIDIA Kaolin — библиотека PyTorch для ускорения работы с 3D

pip install kaolin==0.16.0 -f https://nvidia-kaolin.s3.us-east-2.amazonaws.com/torch-{TORCH_VERSION}_cu{CUDA_VERSION}.html

Библиотека NVIDIA Kaolin предоставляет PyTorch API для работы с различными 3D-представлениями и включает коллекцию GPU-оптимизированных операций, таких как модульный рендеринг, быстрые преобразования между представлениями и других операций. 🖥 GitHub 🟡 Страничка NVIDIA Kaolin @data_analysis_ml

🌏Новая реальность: посетить концерт, не выходя из дома, увидеть друзей, находясь за тысячи километров, получить высшее образование по Data Science удалённо. Когда виртуальные границы стираются, самое время применить технологии с пользой. Онлайн-бакалавриат Нетологии и ТюмГУ «Науки о данных» — способ получить диплом о высшем образовании из любой точки мира. За 4 года вы освоите навыки работы с данными и станете бакалавром в области математики, который умеет работать с Big Data, компьютерным зрением и искусственным интеллектом. Будете закреплять знания на практике, создадите портфолио и сможете строить карьеру аналитика данных или Data Scientist. Во время учёбы у вас будут все студенческие льготы и скидки, а в конце вы получите диплом очного бакалавриата ― такой же, как у студентов офлайн-обучения. Узнать подробности о программе Реклама. ООО "Нетология". Erid 2VSb5z6rppg

🚀 Прорыв в оптимизации LLM: Tree Attention — новый алгоритм для сверхбыстрого масштабирования! Исследователи представили революционный алгоритм Tree Attention, который обещает трансформировать обучение и интерфейс больших языковых моделей (LLM). Ключевые преимущества: 🔥 Ускорение до 8 раз по сравнению с Ring Attention 🧠 Вдвое меньшее использование пиковой памяти 🌐 Значительное снижение межузловых коммуникаций 📊 Сравнение методов (на 1М токенов, 64 GPU): Стандартное внимание: 100% (базовая линия) Ring Attention: 60% времени базовой линии Tree Attention: всего 15% времени базовой линии! 🔬 Теоретическая основа: Функция энергии самовнимания связывает его с энергетическими моделями Байесовская интерпретация как метод максимального правдоподобия ⚙️ Технические детали: Сложность O(N/p + log p) для последовательности длины N на p процессорах Древовидная структура редукции на основе свойств logsumexp и max Интеграция с Flash Attention 2 и оптимизированными операциями NCCL 🖥️ Практическое применение: Оптимизация для GPU-кластеров с учетом топологии сети Непревзойденная эффективность для контекстов >1M токенов 🔮 Влияние на будущее AI: Tree Attention может стать ключом к созданию LLM с гигантскими контекстными окнами, открывая путь к моделям с долгосрочной памятью и более глубоким пониманием сложных текстов. 🔗 Для углубленного изучения: Рекомендуем заинтересованным читателям искать последние публикации по ключевым словам "Tree Attention", "GPU optimization for LLM" на научных порталах, таких как arXiv или Google Scholar. Tree Attention — это не просто оптимизация, а потенциальный прорыв в масштабировании AI. Представьте LLM, способную анализировать целые книги за один проход или вести длительный диалог без потери контекста! 💬 А что вы думаете? Как Tree Attention может изменить ваши AI-проекты? Поделитесь мнением в комментариях! 📌 Почитать #AI #MachineLearning #TreeAttention #LLM #GPUOptimization @data_analysis_ml

🌟 VideoPoet — продвинутая LLM для генерации видео Dan Kondratyuk и его коллеги представляют VideoPoet — языковую модель, способную синтезировать высококачественное видео с соответствующим звуком. VideoPoet использует архитектуру трансформера, работающего только с декодером, который обрабатывает мультимодальные входные сигналы — изображения, видео, текст и аудио. 🟡 Страничка VideoPoet 🟡 Arxiv @data_analysis_ml

Вышла бета-версия Grok-2 https://x.ai/blog/grok-2 Она превосходит, Claude 3.5 Sonnet и GPT-4-Turbo. @data_analysis_ml

🌟 T2V-CompBench — комплексный бенчмарк для анализа T2V-моделей Модели генерации текста в видео (T2V) значительно продвинулись вперед, однако их способность точно компоновать различные объекты, атрибуты и движения в видео остается неизученной. В данной работе Kaiyue Sun с коллегами проводит первое систематическое исследование этого вопроса. В результате работы появился T2V-CompBench — первый бенчмарк, предназначенный для оценивания точности размещения нужных объектов в кадре, точности их движения и т.д. 🟡 Страничка T2V-CompBench 🟡 Arxiv @data_analysis_ml

🤔Запутались в различиях между пользовательскими сценариями (Use Cases) и пользовательскими историями (User Stories)? Не знаете, какой метод лучше использовать в вашем проекте? 😎А теперь представьте, что вы твердо знаете, как и когда использовать каждый метод. Вы умело используете инструменты аналитики и развиваете свои проекты. Хотите это реализовать? Присоединяйтесь к открытому вебинару 20 августа в 20:00 мск, где вы научитесь: - понимать различия между пользовательскими сценариями и пользовательскими историями; - применять практические примеры использования обоих методов; - разрабатывать примеры для закрепления материала. 🤩Урок будет полезен системным и бизнес-аналитикам, менеджерам проектов, учавствующем в процессе работы с требованиями. Встречаемся в преддверии старта курса «Системный аналитик. Advanced». Все участники вебинара получат специальную цену на обучение! Регистрируйтесь прямо сейчас, чтобы не пропустить мероприятие: https://otus.pw/dlU3/ Реклама. ООО "ОТУС ОНЛАЙН-ОБРАЗОВАНИЕ". ИНН 9705100963. erid: LjN8KWuDB

⚡️ Whisper Diarization — очень точное распознавание речи прямо в браузере Whisper Diarization совмещает в себе возможности whisper-base и pyannote-segmentation-3.0, двух мощных инструментов для распознавания речи, а также поддерживает 100 различных языков Whisper Diarization работает полностью локально в браузере с помощью Transformers.js и ONNX Runtime Web, без всяких API-вызовов на сервер. 🤗 HuggingFace @data_analysis_ml

🛢 В мире, где данные — новая нефть, растёт спрос на дата-инженеров. Ведь именно они знают, как такую нефть добывать, обрабатывать и хранить. И пока компании осознают потребность в этих специалистах, конкуренция на рынке низкая, а зарплаты — высокие. Освоить ключевые компетенции дата-инженера поможет онлайн-магистратура Нетологии и НИУ ВШЭ «Инженерия данных». За 2 года вы на практике изучите Python, Java, Scala, Kotlin и SQL, научитесь проектировать пайплайны и обрабатывать данные, работать с системами хранения данных и базами данных в облаке. Программа даёт широкий простор для переквалификации, поэтому после учёбы сможете перейти в MLOps, DevOps или менеджмент. Онлайн-формат позволяет учиться без отрыва от привычной жизни и совмещать занятия с работой. При этом у вас будет отсрочка от армии, льготы на проезд и все остальные бонусы очного обучения. Станьте магистром программной инженерии с дипломом одного из лучших вузов страны и получите веское преимущество при приёме на работу: https://netology.ru/programs/dataengineering Реклама. ООО "Нетология", ИНН: 7726464125, erid: LjN8KcHys

⚡️ Лучшее за неделю из мира Open ML/ AI: 1. В качестве сюрприза команда Qwen выпустила - Qwen2-Math - специализированный англоязычный набор моделей на базе LLM Qwen2 для математических вычислений. Всего в релиз вошло 6 вариантов с разной плотностью параметров, от 1.5B до 72B. Старшая модель Qwen 2-Math-72B предназначена для сложных Qwen 2 Audio - 8.5B, лицензионные аудиоязыковые модели Apache 2.0 (Bas + Instruct), достигшие SoTA на ASR, S2TT и AIR-Bench, обученные на ~ 550 тысячах часов аудио. Qwen2-Audio - аудио-языковых модель, которая способна принимать аудио и текст на вход и генерировать текст на выходе. 2. Parler TTS- 885M - это модели текст-в-речь (TTS), способные генерировать качественную, естественно звучащую речь в заданном стиле (пол, тон, тип речи и т. д.). Все датасеты обучения, предварительная обработка, код обучения и веса выпускаются публично, что даст возможность сообществу строить на нашей работе и разрабатывать свои собственные модифицированные модели TTS. Обе модели обучались на 45 тысячах часов англоязычных аудиокниг. 3. LG выпустила EXAONE 7.8B, обученный на токенах 8T, превосходящий L3.1 8B, Phi3, Mistral 72,0 балла Human eval, 34,4 балла на MATH, 9,01 балла по MT-Bench (некоммерческая лицензия). 4. Hugging Face выпустили IDEFICS3 Llama 8B - Выпустили лицензионный VLM-сервер Apache 2.0 с расширенными возможностями контроля качества и работы с документами! Основан на : SigLip, текст на базе: Llama 3.1 8B, контекст 10K, DocVQA 87.7; MMStar 55.9 5. Internet LM open выпустил Internet LM 2.5 20B с лицензией Apache 2.0, контекстным окном размером до 1 млн и обучен работе с большим количеством синтетических данных! соревнуется с Gemma 27B в области информационных технологий; СРЕДНИЙ балл: 73,5, МАТЕМАТИКА: 64,7 6. Tsingua KEG выпустила CogVideoX 2B - открытую модель преобразования текста в видео, подобную SORA, которая генерирует видео продолжительностью до 6 секунд с частотой 8 кадров в секунду, довольно приличного качества! И... произошло еще много чего: PyTorch выпустил FlexAttention, aiola выпустила Whisper Medusa (на 150% быстрее выводит логические данные), Maxime выпустила токен frankenmerge на 1 трлн долларов Llama 3.1 и т.д @data_analysis_ml #ainews #mlnews #digest

Бизнес нуждается в зарубежных BI-решениях, так ли это? К2Тех Data Lab совместно с Digital Leader, НОРБИТ, Arenadata и Kept проанализировали BI-рынок. Они выяснили, что крупные компании продолжают использовать BI ушедших вендоров. При этом доля внедрений отечественных решений выросла с 9% до 68%. Можно ли считать, что сложный период российского рынка BI позади? Команда провела 29 интервью с представителями топ-600 компаний и проанализировала 365 реализованных проектов. Внутри исследования: — Какие есть ограничения при переходе с зарубежных решений на отечественные, и как их преодолеть; — Какие BI-решения использует российский бизнес в 2024 году; — Частые проблемы при внедрении BI и рекомендации по внедрению и развитию; — Чего крупные компания ожидают от развития BI-систем. Скачивайте исследование по ссылке. Реклама. АО "К2 ИНТЕГРАЦИЯ". ИНН 7701829110.

🌟 InternVL 2.0 40B — open-source альтернатива GPT-4o InternVL 2.0 превосходит большинство открытых мультимодальных LLM. Модель показывает конкурентоспособную производительность в различных областях, включая понимание документов и схем, анализ инфографики, решение задач OCR, решение научных и математических задач. Модель InternVL 2.0 обучалась с контекстным окном 8k на датасете из длинных текстов, нескольких изображений и видео, что значительно улучшает ее способность обрабатывать эти типы входных данных по сравнению с InternVL 1.5. 🤗 Hugging Face 🖥 GitHub @data_analysis_ml

🦒 Открытые генеративные модели изображений и как их готовить На вебинаре мы обсудим последние результаты в области генерации изображений (в том числе прогремевший FLUX от BlackForestLabs) и как настраивать результаты под себя: позу персонажей, рисунок, который можно увидеть на контрасте и прочие интересные способы сделать результат лучше и уникальней. Конечно, речь будет идти про открытые модели. Будем заниматься указанием условий генерации для диффузионной модели: фиксируем позу, форму и др. с использованием ControlNet. Вебинар направлен на максимально широкую аудиторию, поэтому мы постараемся обойтись (почти) без кода. Свой кластер GPU не требуется :) Вебинар проведет Радослав Нейчев и команда Girafe AI, ведущие магистерской программы МФТИ “Современные методы искусственного интеллекта”. Вебинар пройдет 12 августа в 18:00 МСК Регистрация на вебинар в TG канале: https://t.me/+iF5VpZMznK00OGVi 🦒 Кто мы: Владислав Гончаренко и Радослав Нейчев - основатели проекта, авторы курса и преподаватели по машинному обучению в МФТИ. Мы создали один из признанных курсов машинного обучения (более 2 тысяч звезд на github https://github.com/girafe-ai/ml-course), который преподается в МФТИ, YSDA, МГУ, MADE (академия больших данных от vk com), Harbour. Космический университет (Испания и Таиланд) и др. Наша цель - обеспечить первоклассное образование и помочь как можно большему числу людей освоить область искусственного интеллекта, поэтому наши учебные материалы доступны с открытым исходным кодом. 🦒 Также наша команда продолжает набор в онлайн магистратуру МФТИ Modern State of Artificial Intellegence (MSAI), где вы сможете пройти курсы по LLM, MLOps и другим темам машинного обучения, начав с математической и программисткой базы. Больше информации можно узнать на сайте магистратуры На все интересующие вопросы о программе мы ответим в конце семинара. Реклама, ИП Гончаренко В.В., ИНН 272403059890 erid: 2VtzquhAuXr

🌟 VADER — video diffusion alignment via reward gradient VADER — это метод выравнивания результатов диффузионных моделей по генерации видео; VADER позволяет улучшить различные модели, такие как VideoCrafter, OpenSora, ModelScope и StableVideoDiffusion, с помощью разных подходов, таких как HPS, PickScore, VideoMAE, VJEPA, YOLO, Aesthetics и др. 🖥 GitHub 🟡 Страничка VADER @data_analysis_ml

Начните обучение в магистратуре в Центральном университете уже на 3-м курсе бакалавриата! Центральный университет — современный вуз, созданный при поддержке ведущих компаний России: Т-Банка, Авито и других. Учебу реально совместить с последними курсами бакалавриата или действующей работой. Обучение занимает 20 часов в неделю в вечернее время в первый год, а занятия проводят в центре Москвы профессоры из МГУ, МФТИ, РЭШ и практики из индустрии. Обучение в университете построено по принципам ИТ-компаний, со средой, способствующей росту и развитию. У каждого студента будет: личный ментор по траектории обучения; доступ к карьерному центру с коучами и консультантами; опыт работы в проектах 30+ компаний-партнеров уже во время обучения; диплом гособразца. Участвуйте в онлайн-отборе, чтобы выиграть грант на обучение до 1,2 млн рублей. Больше подробностей про университет и конкурс грантов по ссылке! erid:2VtzquWZ179 Реклама, АНО ВО «Центральный университет», ИНН 774341802

🌟 LLM Judge — метод тонкой настройки модели Mistral для обнаружения галлюцинаций Проект LLM Judge демонстрирует тонкую настройку и оценку языковой модели Mistral для обнаружения фактических несоответствий и галлюцинаций в тексте. 🖥 GitHub 🟡 Доки по тонкой настройке Mistral @data_analysis_ml

#вакансия #remote #ml #cv #job Lead Machine Learning Engineer (Computer Vision) в Gradient от 1 000 000 ₽ Удаленная работа приветствуется! Мы в Gradient ищем талантливого и опытного ML инженера для создания новых передовых технологий и улучшения текущих пайплайнов обработки фото и видео для приложений Gradient и Persona. Gradient - мобильное приложение для редактирования фото и видео - Самое скачиваемое приложение в мире за месяц в 2019, 2020 годах - Best of 2019 среди приложений по версии Apple Persona - передовой бьюти фото и видео редактор с инновационными технологиями обработки селфи Совокупно наша аудитория составляет больше 100 миллионов пользователей Ваши задачи - Исследовать, разрабатывать и внедрять state-of-the-art технологии в области обработки изображений и видео - Совершенствовать текущие технологии и пайплайны - Следить за новейшими исследованиями и публикациями в ML и computer vision - Оптимизировать модели для работы на сервере и мобильных устройствах - Работать с большим объемом данных в датасетах, совершенствовать подходы по их получению и обработке Требования - Высшее образование в сфере computer science в ведущем технологическом вузе - Опыт работы на senior позиции в топовых фото/видео редакторах, computer vision стартапах или бигтехе от 3 лет - Глубокое понимание текущих SOTA подходов в computer vision и ML (GAN, diffusion, transformers и тд) - Опыт деплоя production-ready моделей на большие аудитории - Идеальное знание Python, Pytorch - Знание основных инструментов и библиотек для обработки изображений и видео (OpenCV, Scikit-Image, FFmpeg и тд) - Обладание отличным математическим бэкграундом - линейная алгебра, теория вероятностей, мат. анализ Будет плюсом: - У вас есть PhD или вы в процессе получения - У вас есть опубликованные статьи или github-репозитории, в которых вы внесли вклад в развитие отрасли - Участие в ведущих конференциях и семинарах по computer vision (CVPR, ICCV, ECCV) Контакт: @axcher

⚡️ Очень полезные систематизированные знания по настройкам LLM Большой, постоянно обновляемой список по всем основным моделям. https://docs.google.com/spreadsheets/d/14vbBbuRMEHoqeuMHkTfw3uiZVmyXNuoSp8s-aHvfvZk/edit?gid=0#gid=0 @data_analysis_ml

Как подготовить данные без пропусков, дубликатов и некорректных значений?  Расскажем как предварительно обработать сырые данные на открытом уроке «Подготовка данных в Pandas»    🔹Последовательно рассмотрим этапы обработки пропусков, дубликатов и  поиск аномалий.  ✅ Практика: Чистка данных при помощи библиотеки Pandas Урок приурочен курсу «Machine Learning» от Otus. По окончанию обучение получите диплом государственного образца. 👉 Регистрация и подробности: https://otus.pw/guDm/?erid=LjN8KWb6g

👩‍💻 FlexAttention: The Flexibility of PyTorch with the Performance of FlashAttention Единый API, который может реализовать широкий спектр разных вариантов внимания всего несколькими строками кода ,с помощью определяемой пользователем функции "score_mod" (causal mask, AliBi, sliding window, ), которая изменяет оценку перед softmax. Api реализован на чистом коде на Python со стороны пользователя, но скомпилирован таким образом, что почти так же быстродействен, как от ядро Triton! https://pytorch.org/blog/flexattention/ @data_analysis_ml