Data Secrets

Nvidia представили EdgeRunner – модель для генерации высококачественных 3D-объектов EdgeRunner справляется даже со сложными моделями, в которох число граней достигает 4000. Предыдущие поколения алгоритмов не тянули такую детализацию. Недавний тренд таких 3D генераций – авторегрессионные модели: за счет своей структуры они способны сохранять больше топологической информации. И на мелких примерах они действительно работают хорошо, но есть нюанс: на большее количество граней и высокое разрешение они не масштабируются. В Nvidia чуть-чуть докрутили архитуктуру и предложили автоэнкодер (тоже авторегрессионный). За счет наличия в нем скрытого пространства появляется возможность обучить латентную диффузию и получить лучшую генерализацию; а для оптимизации исследователи прикрутили meshes-to-1D токенизатор. В итоге результаты получились действительно крутые: вот тут можно посмотреть и покрутить 3D-модельки в рамках демо. А полный текст статьи лежит вот тут.

Божественно: в Лондоне создали «GPU орган». Он «воспроизводит музыку, управляя частотой вращения каждого вентилятора». При этом музыка бесконечно генерируется ИИ, обученном на данных 15 хоров. @xor_journal

Разработчик написал промпт, который может вывести ризонинг Claude Sonnet на уровень o1-preview Сам промпт – на картинке. В целом получается какое-то обучение с подкреплением понарошку: модель крутит теги reflection, reward и thinking по кругу, пока не потратит назначенный ей «бюджет». По кастомному датасету создателя Sonnet стал рассуждать на этом промпте лучше, чем o1. По MMLU (тестировали уже пользователи) до o1 все-таки не дотягивает, но точность все-таки повышает неплохо. Код эксперимента лежит тут

Начинаем понедельник с заряда мотивации.

Мини-подборка новых статей выходного дня, которые точно стоит прочитать: ⚙️ Обучаемый метод прунинга от Nvidia. Основан на идее Semi-Structured прунинга, но, в отличие от классических подходов, маска прунинга выбирается не вручную, а с помощью стохастического алгоритма. Подробнее – в нашем разборе статьи. ⚙️ Новый метод генерации синтетических 3D-данных для беспилотных авто. Self-driving – сфера, где синтетика нужна больше всего, но где генерировать ее качественно очень сложно. SytheOcc из статьи использует MIPs и ребалансировку, и это впервые позволяет решить одновременно и проблему учета глубины сцен, и вопрос детальной управляемости геометрии. Подробнее – в нашем разборе статьи. ⚙️ Закон слабого звена: ученые из Meta предложили новый бенчмарк. Они показали, что существующие тесты проверяют только базовые навыки по отдельности, в то время как в задачах реального мира, для которых требуется объединение способностей, модели перформят сравнимо хуже. Подробнее – в нашем разборе статьи.

Кратко о нейменге в ресерче

Новость дня: активисты разослали необычные посылки Сэму Альтману, Марку Цукербергу и президенту комиссии ЕС Внутри оказались… перчатки с шестью пальцами. Так сообщество Saidot хотело напомнить бизнесменам про их ответственность за дипфейки, авторские права и угрозу ИИ в целом. И это не все. Под раздачу неожиданно попала еще и Скарлетт Йоханссон, голосом которой когда-то якобы говорил gpt-4o. Интересный выбор 😁

Как там говорится? «Кажется, началось»?

Андрей Карпаты опять завозит контент на выходные: он за два часа сгенерировал 10 эпизодов подкаста про конспирологические теории В программе: Антлантида, Антикитерский механизм, тайна Марии Целесты и многое другое Сценаристы и режиссеры-постановщики: ChatGPT, Claude, Gemini В ролях: NotebookLM Художник: Ideogram Уже доступно на Spotify

Профессиональный праздник, получается 🥳

Meta только что анонсировала Movie Gen – семейство фундаментальных медиа-моделей Что может Movie Gen: ➡️ генрировать видео до 1080p с различным соотношением сторон ➡️ генерировать звук в формате video-to-audio и музыку ➡️ редактировать видео на основе промптов (промптом может быть текст или изображение) По архитектуре трансформер, конечно. Самая большая модель имеет 30B параметров и обучена на контексте в 73K видеотокенов (это примерно 6 секунд 16fps). В статье есть детали про данные, устройство латентного пространства, оптимизацию архитектуры и лоссов.

Как правильно отдыхать: пособие от Илона Маска Стали известны подробности той самой AI-тусовки Илона Маска, которая проходила в бывшем офисе OpenAI (начинается уже многообещающе, да)? И это еще не принимая во внимание то, что вечеринка проходила день-в-день с OpenAI DevDay. Вообще, изначально целью вечеринки было привлечение крутых специалистов в xAI. Однако, кажется, HR-бренд прокачать так и не удалось: уже спустя час Маск, буквально стоя на столе, вещал про то, что он выступает за свободную разработку ИИ, не обусловленную получением прибыли (интересно, в чей же огород камень?)... Завершилась туса тоже эпично – пожарной сигнализацией (наверное, у Маска слишком сильно подгорело). Вишенка на торте: у эвакуировавшихся из здания людей замечали рюкзаки OpenAI. В общем, записывайте идею на вечер пятницы

Привет! Это команда МТС. Мы запустили набор на 3 поток Школы аналитиков данных МТС! Обучение проходит в онлайн-формате и длится 10 месяцев. Преподаватели — эксперты нашего центра Big Data. Вы научитесь писать на Python, прокачаетесь в математике, основах машинного обучения, ML Ops, Spark и прочих вещах, без которых не выйдет работать в Data Science. Также у студентов будет возможность попасть на стажировку в МТС. Ждем тех, кто любит учиться, хочет попасть в комьюнити единомышленников, и, конечно, развиваться в анализе данных и ML. Обучение бесплатное, но места ограничены - чтобы попасть, необходимо подать заявку до 20 октября и выполнить вступительное задание. Старт обучения - 7 ноября! Подробности по ссылке, ждём тебя! Реклама. Информация о рекламодателе.

Смотрите, какая интересная статистика. Оказывается, что Anthropic зарабатывает на API примерно столько же, сколько OpenAI. Интересно, изменятся ли числа после DevDay?

Что ни день, то новость про то, что кто-то ушел из OpenAI На этот раз компанию покинул Тим Брукс. Он был одним из руководителей проекта SORA. Ушел он в DeepMind, где будет также работать над генерацией видео и "world simulators"

Идет набор на грантовый трек годовой программы School of Analytics до 7 октября! Подавайте заявку и получите покрытие стоимости курса до 98% Проект School of Analytics появился по инициативе команды проекта The Experts, ведущей образовательной платформы по корпоративным финансам, которая успешно реализуется уже 12 лет и выпустила более 1000 учеников. В программе годового курса еженедельные онлайн-лекции и воркшопы от дата- и бизнес-аналитиков. Обучение охватывает основные темы отрасли: управление базами данных в SQL, визуализация данных в PowerBI и Tableau, статистический анализ и тестирование гипотез, юнит-экономика и работа с метриками, моделирование данных в Python и др. ✔️В чем преимущества программы? — Удобный формат: онлайн-лекции и воркшопы от экспертов, возможность совмещать обучение с работой или учебой в вузе; — Менторская и карьерная поддержка: студенты School of Analytics становятся востребованными на рынке труда; — Сообщество профессионалов: нетворкинг со спикерами и аламни-сообществом, мастер-классы с представителями компаний-партнеров: Яндекс, OZON, VK, Т-Банк и др. Подать заявку могут студенты российских и зарубежных вузов, обучающиеся по программам специалитета, бакалавриата и магистратуры, а также выпускники 2024 года. Подробнее по ссылке Осталось совсем немного мест!

🚀 OpenAI выпустили Canvas – надстройку над ChatGPT для работы с кодом и текстом По дизайну Canvas походит на Anthropic Artefacts: это отдельное окно рядом с чатом. Инструмент предназначен для задач, где нужно много править или пересматривать один и тот же проект. Он, в отличие от чата, будет лучше запоминать контекст + работать над конкретными разделами. Например, при работе с текстом он может предложить правки конкретных кусочков, отредактирует длину, тон повествования или грамматику. Но самое интересное – это, конечно же, код. Canvas просто идеально подходит для программирования: — исправление багов — код-ревью — добавить комментарии — перевести на любой другой ЯП — добавить логи В общем, мини VSCode прямо в чате на основе GPT-4o. И уже раскатили на Plus и Team!

В дополнение к утренней новости про новый раунд финансирования OpenAI стало известно, что для компании еще и открыли кредитную линию на $4 млрд Это возобновляемые деньги, стартап будет платить по ним примерно 6% (+- айти ипотека в России). Получается, что общие инвестиции этого раунда перешагнули за $10 миллиардов 😨

Тайна модели blueberry раскрыта! Контекст: примерно неделю назад на text-to-image арене появилась загадочная модель 🫐, точнее целых две. Они с отрывом порвали всех остальных и вышли на первое место по ELO. Все думали, что это новый Dall-E или SORA, но это оказалась… Свежая FLUX1.1 от Black Forest Lab. Стартап анонсировал модель в Твиттере в в блогпосте, и ходят слухи, что раскатить ее могут уже сегодня 🥳