Data Secrets

Как и прогнозировал админ: OpenAI добавили поиск в ChatGPT Фича уже доступна всем платным пользователям. Обещают, что постепенно ее раскатят на всех. Работать будет, как Perplexity: ответы – умная агрегация материалов из интернета со ссылками на источники. Серьезный вызов Google и другим конкурентам

Оффер или жизнь? 🧛‍♂️ Хэллоуин… В этот день ведьмы собираются на ежегодный шабаш, нежить вылезает из болот, а админы составляют для вас подборку культовых ужастиков на вечер. Приятного просмотра. @data_secrets_career

Nvidia обучили фундаментальную модель HOVER для управления телом роботов – в ней всего 1.5M параметров Модель была обучена на базе NVIDIA Isaac. Это среда симуляции на базе GPU, которая ускоряет физику в 10 тысяч раз относительно реального времени. То есть, пока в симуляции робот учится на годе движений, в "нашем мире" это занимает примерно 50 минут. Самое интересное, что для того чтобы перевести робота в реальное время не нужен даже файнтюнинг. Нужно, однако, понимать, что HOVER – это не автономная система внутри робота, а именно система управления, которая на вход принимает какой-то вид "промпта" (движения джойстика, позы, экзоскелет), и переводит это в полноценные движения гуманоида. За счет этого HOVER становится еще и очень удобной системой для сбора данных. Под капотом, по сути, алгоритм дистилляции, который действия тренера сжимает в понятные роботу маски (есть отдельные маски для низа тела и верха). Таким образом, любой ввод действий мы переводим в единое пространство политики, и за счет этого избавляемся от проблемы непереносимости управления между различными режимами. Статья здесь

Стать сотрудником Яндекса быстрее и проще, чем кажется. Участвуйте в днях быстрого найма: решите тестовое, пройдите несколько секций собеседования и получите офер за несколько дней. Ближайшее мероприятие: • 9-11 ноября — для продуктовых и аналитиков данных, офер за 3 дня в команды Финтеха и Яндекс Практикума. Зарегистрироваться

Шестидневка – главный монстр из кошмаров

OpenAI совсем скоро раскатит SearchGPT Об этом сообщил один из твиттерских ИИ-инсайдеров, который часто прокидывает какую-то информацию о ведущих стартапах или лабораториях – Jimmy Apples. Он написал, что OpenAI и вовсе планировали релизиться на прошлой неделе, но не захотели соревноваться за внимание с обновлениями от Anthropic. Стартап любит релизы в четверг вечером, так что ждем подарка на Хэллоуин 👻

Что надеть на Хэллоуин, чтобы быть страшнее всех? Подобрали для вас костюмы, по сравнению с которыми Пеннивайз и Фредди Крюгер покурят в сторонке. С праздником 🎃

Boston Dynamics показали новое видео своего робота Atlas На демо он перемещает крышки двигателей из одних контейнеров в другие. Стартап подчеркивает, что гумоноид делает все автономно, без радиоуправления или других читов (это, видимо, камень в огород Маска, который постоянно хитрит со своим оптимусом 😀) Демо поражает: робот стабильно ходит, почти ничего не путает и выполняет разумные действия. Если это не черрипикинг, а демонстрация реальных возможностей, то перед нами самый продвинутый на данный момент робот в мире.

Миниатюра: я после того как заполнил .yml и запустил trainer.train()

В Лондоне прошел OpenAI DevDay Больше всего внимания уделили Realtime API: показывали, как o1 в реальном времени пишет приложение для интерактивной демонтрации солнечной системы, заказывает пироги и работает гидом по городу. Демо, в общем-то, OpenAI всегда показывать умели, но в этот раз оно особенно удалось. Шоу еще раз доказывает, что ИИ-агенты станут революционным будущим, если компании найдут способ снизить косты на инференс. В остальном, ничего шокирующего или нового: по поводу o1 говорили, что раскатят скоро. Объясняли пользу файнтюнинга и дистилляции своих моделей, напоминали, что у них есть json структурирование и сервис для эвала.

Как обучить и интегрировать ML-модель — расскажут спикеры конференции I’ML — MLOps-конференция от JUG Ru Group — организаторов Joker, JPoint, Heisenbug, HolyJS и других крупных конференций. — 8 ноября онлайн — 10 докладов и онлайн-дискуссии Как измерить полезность модели? Какую развернуть инфраструктуру? Нужно ли строить свою ML-платформу? Найдем ответы на эти вопросы вместе. Сравним стеки AMD и Nvidia, поговорим о RecSys и мультимодальности, процессах и политиках ML-разработки. Также будут доклады про обеспечение качества и безопасности моделей. Выступления будут транслироваться в 4K, записи останутся участникам навсегда, а после докладов вы сможете задать вопросы спикерам. Полная программа — на сайте конференции. Билет на I’ML 2024 Autumn можно купить за счет компании — читайте в статье на VC, почему это выгодно не только вам, но и вашему работодателю. При покупке билета за свой счет («Для частных лиц») используйте промокод для скидки 15% — DATASECRETS Реклама. ООО «Джуг Ру Груп». ИНН 7801341446

Что-то интересное: ученые из M-A-P и ByteDance слепили AutoKaggle – мультиагентный фреймворк для автономного решения DS/ML соревнований Библиотека работает по итеративной схеме. На каждом этапе агенты выполняют определенные привычные нам шаги: в начале очищают и обрабатывают данные, а потом экспериментируют с моделями, отлаживают код, тестируют и тд. Под капотом агенты в ролях Reader, Planner, Developer, Reviewer и Summarizer, которые взаимодействуют по определенной схеме (см., например, псевдокод). На практике это работает, как горячая картошка – агенты перекидывают задачи друг другу, и каждый из них внутри себя имеет собственный алгоритм того, что с задачей нужно сделать и кому отдать дальше. В качестве базовой модели пробовали gpt-4o и o1-mini. Оказалось, что перформят они плюс-минус одинакого. Вообще, результаты получились неплохие: на восьми валидационных хакатонах в среднем фреймворк выбил скор 0,85. Код | Статья

К такому даже его жизнь не готовила

Reuters: OpenAI создает свой первый чип Но амбиции пришлось подурезать: раньше Альтман хотел полностью автономное производство, но сейчас стартап работают с TSMC. Да и в целом компания уходит от планов перейти полностью на собственные чипы просто к стратегии максимальной диверсификации: например, OpenAI также начинает закупать карты AMD.

Как оценить стоимость облачных решений? Как перенести свои процессы обучения моделей в облачную среду? 🔹Расскажем на открытом уроке «Облачная инфраструктура для ML инженера на базе Yandex Cloud» на открытом уроке в Otus. Рассмотрим базовые компоненты облачной инфраструктуры, которые часто используются в машинном обучении - хранилища данных, виртуальные машины и базы данных. ✅ Практика: Создадим все необходимые компоненты в облаке Yandex Cloud, подключимся к ним, запустим конвейер машинного обучения и сохраним обученную модель в облачном S3 хранилище. Урок приурочен курсу «MLOps» от Otus. 👉 Регистрация и подробности: https://otus.pw/iiaS/?erid=LjN8KYg2b #реклама О рекламодателе

Более 25% кода, который сейчас пишут в Google, создается ИИ Об этом рассказал Сундар Пичаи. Политика такова, что инженерам разрешают и даже рекомендуют активно использовать ИИ для генерации нового кода (но, конечно, сгенерированный код затем внимательно проверяется). Кроме того, CEO поделился занятными цифрами: бизнес Google Cloud увеличился на 35%, и аналитики считают, что в основном это заслуга ИИ, который помогает заключить крупные b2b сделки.

⚡️ Вышла Stable Diffusion 3.5 Medium В модельке 2.5В параметров, так что, как создатели написали в релизе, запустить ее можно даже «на тостере». Для малышки потребуется всего 10 Гб видеопамяти, а на метриках это SOTA в своем размере. Самое приятное: модель открыта как для личного, так и для коммерческого использования. Веса | Блог

Вот так коллаб: NVIDIA совместно с xAI построили Colossus – самый большой в мире суперкомпьютер Colossus был создан всего за 122 дня и работает на базе сетевой платформы NVIDIA Spectrum-X Ethernet, которая была разработана специально для обучения ИИ. Ее соль в повышенной пропускной способности: 95% с нулевой задержкой. В Colossus (приготовьтесь) 100 000 видеокарт NVIDIA H100. И, судя по твитам Маска, туда собираются добавить еще столько же H200. Кластер будет использоваться для обучения моделей Grok.

Как доставить модель в прод и при этом не сойти с ума Для настоящего DL-инженера работа не заканчивается на экспериментах в Jupyter ноутбуках. Нет. Самое интересное происходит за их пределами. И базовые инженерные практики вроде кодстайла, тестов и структуры репозитория тут – это только цветочки. Главная вещь, с которой нужно быть на ты – end2end доставка вашей модели до юзера. А это не так уж просто. Хорошо, что наши друзья из DeepSchool снова собрали всю информацию воедино и сделали открытую лекцию про путь модели после обучения. На лекции вы узнаете: ➡️ когда стоит использовать Jupyter-ноутбуки, а когда нет ➡️ как подготовить репозиторий моделинга ➡️ как выбрать вариант конвертации модели ➡️ как обернуть инференс в http-приложение ➡️ как деплоят приложения и автоматизируют этот процесс Получается супер ёмкая и интересная сессия, которую к тому же еще и вести будут опытные ML-лиды (в том числе основатель школы). А еще всем участникам ребята дарят скидки на новый курс, где вы научитесь создавать и деплоить полноценные DL сервисы. Лекция пройдет в четверг 31 октября в 19:00. Скорее регистрируйтесь по ссылке!

Там в Твиттере случайно сгенерировали классическую реакцию на новость про шестидневку