Data Secrets

По интернету пролетела новость о том, что в следующем квартале Meta планирует выпустить собственный ИИ-чат. Компания будет тестировать подписочную систему и добавлять в чат инструменты: все, как в популярных ChatGPT, Сlaude и тд. Тем временем реакция Альтмана: "ок, пойду сделаю соцсеть"

CTO социальных платформ VK Сергей Ляджин в подкасте рассуждал о AI-технологиях в продуктах компании и технологических вызовах, которые в целом нас ожидают. Это интересно: он говорил не только про улучшение пользовательских сценариев, но и создание новых, которых еще нет. AI меняет нас, мы меняем AI, и каждый раз появляется что-то новое. Полный выпуск смотрите здесь.

Скрин со вчерашнего стрима OpenAI, но не простой Кто найдет пасхалку? 🐣

Пятый и последний день опенсорса от DeepSeek (будем скучать) Сегодня у нас целая файловая система 3FS (Fire-Flyer File System). Она глобально оптимизирует работу с данными и в обучении, и в инференсе. То есть позволяет: 🔵 Быстро загружать и сохранять данные для обучения модели 🔵 Мгновенно получать доступ к нужным частям данных, что очень важно для инференса 🔵 Сокращать повторные вычисления и увеличивать скорость работы Внутри – умная параллельная сортировка, цепочная репликация, KVCache, параллельный чекпоинтинг другие хаки, особенно актуальные именно для ML-систем. В общем, достаточно масштабно. В тестах на чтения вся эта красота достигает пропускной способности 6.6 ТиБ/с на 180 узлах: github.com/deepseek-ai/3FS

✒️ Разбираем тестовое задание в Альфа Банк на позицию Junior Аналитика данных Чтобы найти работу, мало пройти курс и сделать классное резюме. На практике, чтобы выделиться на собеседовании, нужно понимать, что лежит под капотом каждого инструмента, а не следовать конкретному заученному алгоритму. Чтобы попрактиковаться в этом, приходите на бесплатный вебинар, где будем разбирать реальное тестовое задание, которое дают аналитикам в Альфа Банке💻 Что будем делать на вебинаре: 🟠 Напишем сложные SQL-запросы для банковских данных; 🟠 Вспомним, как правильно использовать оконные функции; 🟠 Узнаем, как создавать разметку, из чего она состоит и для чего она нужна; 🟠 На реальных данных проведем когортный анализ и сделаем выводы; 🟠 Расскажем, как доставать инсайты из данных. Вебинар проведет Денис Иванов, ведущий продуктовый аналитик 🏃‍♀️ Зарегистрироваться на бесплатный вебинар

У OpenAI закончились графические процессоры 😢 По крайней мере, так говорит Сэм Альтман. Вчера после выпуска GPT-4.5 он написал в X:

Это гигантская дорогая модель. Мы действительно хотели выпустить ее в версиях Plus и Pro одновременно, но мы сильно выросли, и у нас закончились GPU. На следующей неделе мы добавим десятки тысяч GPU и выпустим ее в Plus. (Скоро их будет сотни тысяч, и я почти уверен, что вы будете использовать все)

Скинемся по 200 долларов Сэму на чипы? 💵

Итак, GPT-4.5 вышла Еще раз: в сравнении с o1 на математике и кодинге модель хуже (неудивительно, это другой подход). Но нельзя бесконечно скейлить только ризонинг, и, с другой стороны, это самая большая и самая накаченная знаниями о мире модель. Она поглотила МНОГО текста и лучше подходит для простых нетехнических задач, креатива, написания текстов, социального взаимодействия и просто разговоров. Отдельно отмечают глубокий элаймент и то, что модель стала безопаснее и этичнее. Ее долго тюнили на предпочтения, и ответы получаются емкие и естественные. Кроме того, в GPT-4.5 сократили процент галлюцинаций. Пока доступно только Pro, в течение следующей недели добавят в плюс и тим

В твиттер уже утекла системная карта GPT-4.5 «Это наша самая большая модель, которая продолжает парадигму масштабирования претрейна и ризонинга» – пишут в ней Также в доке есть бенчмарки: много оценок безопасности и чуть-чуть качества. По ощущениям хуже, чем o3-mini и даже o1, но отстает не сильно. https://cdn.openai.com/gpt-4-5-system-card.pdf

Я в ожидании стрима OpenAI: P.S Кстати, сегодня должны были раскатить Advanced Voice на базе GPT-4o mini на всех бесплатных пользователей. У кого появилось?

В Yandex Cloud Foundation Models теперь можно разворачивать открытые модели легким движением руки Никаких тебе долгих настроек окружения, мониторинга, масштабирования. Все происходит на готовых серверах, надо просто подобрать себе конфигурации. Из коробки уже можно запустить YandexGPT, LLaMa, Qwen, Mixtral, DeepSeek и др. К слову, так можно использовать сразу несколько моделей параллельно или комбинировать их. Но если вы более искушенный потребитель, то в Yandex Cloud AI Studio появилась возможность файнтюнить модельки методом LoRA. Для этого нужно собрать датасет, выбрать модель и… все. LoRA позволит легко настроить модель для ваших задач или дообучить на определенный домен, и тогда можно будет даже маленькие модели эффективно гонять в проде за совсем небольшие деньги. При этом если датасет небольшой, дообучение займет всего минут 10. Представьте, какая экономия времени и ресурсов для бизнеса. Экспериментируй и внедряй – не хочу

OpenAI объявили, что через 4.5 часа проведут лайфстрим Ждем 4.5 часа и встречаем GPT-4.5 (и скрещиваем пальцы, чтобы доступ дали всем)

Третий день опенсорса от DeepSeek: библиотека DualPipe Это инструмент для эффективной параллелизации. Что это значит: 1. Минимизация пайплайн-пузырей. Это, иначе говоря, периоды простоя оборудования, когда какие-то процессоры ничего не считают и просто ждут поступления данных. В данном случае алгоритм позволяет прямой и обратный проход выполнять одновременно, поэтому этапы передачи перекрываются вычислениями, и обучение значительно ускоряется. 2. Симметричное распределение микробатчей в прямом и обратном проходе, чтобы сбалансировать нагрузку. 3. Хранение меньшего количества активаций. Это происходит как раз за счет симметричности: часть активаций сразу используется для обратного распространения, и их можно вычищать из памяти. Кстати, один из троих разработчиков библиотеки – Лян Вэньфэн, CEO и основатель DeepSeek. Оказывается, он не просто руководит, но и довольно часто сам пишет код. github.com/deepseek-ai/DualPipe

Как прокачаться в DS за 2 дня? Приезжайте на Data Fusion 2025 — самое масштабное событие этой весны в сфере анализа данных и искусственного интеллекта. Что вас ждет? 🔹 14 треков и 70+ сессий, посвященных передовым разработкам в Data Science и AI 🔹 Кейс-стади по применению DS в различных сферах бизнеса от финтеха и промышленности до медицины. 🔹 250+ экспертов — от известных ученых до лидеров бизнеса 📅 Когда? 16-17 апреля 📍 Где? Москва, технологический кластер «Ломоносов» Конференция бесплатная. Регистрируйтесь по ссылке — https://data-fusion.ru/ — *AI — искусственный интеллект *DS — Data Science — наука о методах анализа данных

⚡️ Microsoft выпустили новое поколение семейства Phi Phi-4-Multimodal и Phi-4-Mini уже лежат в опенсорсе под лицензией MIT и интегрированы в Transformers. Мультимодальность включает текст, аудио и видео. Ну куче мультимодальных бенчмарков модель превосходит GPT-4o, Gemini-2.0 Flash и 1.5 Pro. Это первая открытая модель такого уровня поднимания речи и OCR. В привычных математических и кодинговых задачах тоже неплохо: mini с ризонингом соответствует o1-mini и дистилляциям R1. Внутри 2 адаптера для видео и аудио + лоры для модальностей в основной модели, чтобы не менять ее собственные веса. Обучали в три внушительных этапа: 1. претрейн на тексте + файнтюн на тексте 2. мультимодальный трейн на vision, audio и vision-speech 3. ризонинг трейн на CoT + обучение с подкреплением с CoT Веса, веса mini

Стартап Миры Мурати оценили в 9 миллиардов долларов Чуть меньше, чем у Суцкевера, конечно, но все еще очень даже прилично для еще ничего не выпустившей компании 🤑 Также пишут, что скоро компания привлечет инвестиции в размере одного миллиарда.

Мастхэв: Google совместно с Kaggle снова открыли регистрацию на тот самый бесплатный курс по генеративным моделям Он пройдет в формате недельного интенсива с 31 марта по 4 апреля. Каждый день – онлайн лекции, домашки, практики + обсуждения в Дискорде. В программе актуальная база по основным архитектурам глубокого обучения, устройству LLM, векторным базам данных и MLOps. Курс составляли ML-ресерчеры и инженеры из Google. В конце, кстати, будет еще и проект-соревнование, так что можно заодно залутать медальку Kaggle. Еще раз: все бесплатно. Для регистрации нужен только Google аккаунт 🍯

❓ Архитектура проектов по видеоаналитике или какие проблемы проектирования и масштабирования в 2025 году? Узнайте на бесплатном вебинаре 27 февраля в 20:00 (МСК) Так же вы поймёте: + Какие методы применяют в аналитике дорожного движения, мониторинга объектов и других задач, связанных с компьютерным зрением; + Как использовать временные базы данных (time series DB) и визуализацию данных в Grafana; + Реализацию на практике примера проекта по аналитике дорожного движения, включая детекцию, трекинг и анализ загрузки дорог. 🆓 Вебинар проходит в рамках курса «Компьютерное зрение. Advanced» 👉  Регистрация открыта: https://otus.pw/ttsDr/?erid=2W5zFJYkfnp #реклама О рекламодателе

OpenAI начинает прогрев перед выпуском GPT-4.5: некоторым Pro-пользователям обновленного приложения на Android «случайно» всплыло уведомление с приглашением попробовать модель.

Попробуйте предварительную исследовательскую версию GPT-4.5 — пользователи Pro теперь имеют доступ к нашей новейшей, самой большой модели.

Все указывает на то, что завтра модель действительно выйдет в виде превью для pro-юзеров, а на остальных покатят позже.

Третий день опенсорса DeepSeek: библиотека DeepGEMM для ускорения умножения матриц GEMM – это General Matrix Multiplication, обобщённая операция умножения матриц. Вот формула: C=α×A×B+β×C. Здесь A,B,C – матрицы, а альфа и бетта – скаляры. Если вам кажется, что вы это выражение где-то видели, то вам не кажется. Оно фигурирует в любом учебнике по DL или LLM, потому что лежит в основе большинства преобразований глубокого обучения. В трансформерах это вычислении матриц запросов (Q), ключей (K) и значений (V) для механизма внимания, обычные полносвязные feed-forward слои, расчет эмбеддингов и другое. DeepSeek большие любители оптимизации и, конечно, они крутят в своих моделях собственную реализацию GEMM, которой сегодня и поделились. Кода, кстати, немного: все реализовано в одном ядре в примерно 300 строк, так что разобраться довольно просто. Основное достоинство – это JIT-компиляция и двухуровневое накопление. Реализация поддерживает FP8 и подходит и для плотных моделей, и для MoE. Ускорение относительно других популярных оптимизаций – от 1,1x до 2,7x. github.com/deepseek-ai/DeepGEMM