Data Secrets

Компании активно переходят на нейросети в облаке Раньше бизнес с опаской относился к тому, чтобы запускать ИИ-модели в облаке, и разворачивал их on-premises. Но тренд меняется: облака уже стали местом, где модели обучаются, генерируют тексты, пишут код и ищут информацию по внутренним документам. Причина простая — инфраструктура изменилась. В облаках появились инструменты, которые позволяют запускать ИИ-агентов без кода, подключать их к корпоративным сервисам и использовать открытые модели наравне с собственными. Например, в Yandex AI Studio с начала года потребление генеративных моделей выросло в пять раз, ежемесячно это десятки миллиардов токенов. Самые активные — YandexGPT и Qwen3-235b. Яндексовые модели используют для работы с текстами и RAG-сценариев, нейросеть от AliBaba – для агентских систем.

Слабонервным не смотреть

GSI Technology заявили, что разработали чип, который по производительности соответсвует NVIDIA A6000, но потребляет на 98% меньше энергии Их Gemini‑I APU построен на архитектуре Compute-in-Memory. В обычных чипах данные хранятся в памяти, а вычисления проходят отдельно на ядрах. Чтобы что-то посчитать, надо прочитать из памяти -> передать в вычислитель -> посчитать -> вернуть обратно. Это классическая архитектура фон Неймана, но вот эти перегонки данных туда-сюда стоят очень дорого. В APU же вычислительные операции выполняются не отдельно от памяти, а внутри. В ячейки памяти встроены маленькие логические элементы, которые могут выполнять простые битовые операции без выноса данных наружу. То есть память становится одновременно и хранилищем, и вычислителем. И вот за счет того, что данные больше не нужно таскать, и получается такая огромная экономия. Результат очень бодрый, конечно. И его, кстати, проверили ученые из Cornell University и MIT, так что замерам можно доверять. Но есть нюансы. 1. Во-первых, производить такие чипы сильно дороже: используется SRAM и требуется больше транзисторов. 2. Во-вторых, они менее универсальные (в данном случае тестировали только на RAG, что там будет на других задачах – непонятно). 3. В-третьих, просто так пересесть на Compute-in-Memory нельзя, у нас вся инфраструктура оптимизирована под GPU. Вопрос совместимости ключевой. И тем не менее, 98% экономии – это прямо хорошо. Даже если получится воткнуть только под какую-нибудь локальную задачку инференса. Акции GSI Technology, кстати, взлетели на фоне новостей почти на 200% 🙂

Сегодня делимся с вами полезными материалами про рост в карьере. Нашли их у Саши Мальцева - маркетинг директора из Yandex с опытом работы в Playrix и eBay. Оказалось, в его тг-канале есть буквально сборник эксклюзивного и полезного на тему карьеры с ИИ. Про то, какими фреймворками и промптами пользуются менеджеры в бигтехе, где применять нейросетки для работы в текущих реалиях и оставаться незаменимым. Ну и, конечно, про маркетинг с ИИ (Саша же директор по маркетингу!): как запускать продукт и делать классный креатив, какие стратегии используют стартапы и компании. А еще сейчас на его канале идет розыгрыш обучений на курсах Яндекс Практикума. Чтобы участвовать, нужно подписаться на канал. Остальные инструкции найдете вот в этом посте. Приятная новость: розыгрыш беспроигрышный. Каждый участник получит доступ к закрытым воркшопам Мальцева по теме работы с AI для роста в карьере, по методам из которых учатся и сотрудники Яндекса. Подписаться –> Мальцев: Карьера. Маркетинг. AI

Время для легендарного мема

В OpenAI может появится реклама на основе памяти Об этом пишет The Information в свежей статье «OpenAI Readies Itself for Its Facebook Era». Они выяснили, что в последнее время OpenAI ну очень активно нанимает бывших сотрудников Meta. Сейчас они составляют уже около 20% всего стартапа. Подразделение Strategic Initiatives теперь вообще почти полностью состоит из выходцев из фейсбука. А возглавляет его Фиджи Симо, которая до этого руководила рекламой и монетизацией у Цукерберга. И это, видимо, не случайность. Именно группа Strategic Initiatives сейчас обсуждает и исследует рекламные возможности в ChatGPT. Они предлагают внедрить рекламу с использованием памяти. То есть та самая фича, благодаря которой бот умеет ссылаться на прошлые диалоги и учитывать их, теперь может быть использована для того, чтобы что-то вам продавать 😐 Сбор и анализ пользовательских данных с целью монетизации – это буквально бизнес-модель Meta. Только в разы мощнее. Представьте: люди месяцами и годами так или иначе рассказывали ChatGPT о себе, своей работе, детях, питомцах и тд. Если каждому пользователю предлагать товары, учитывая весь этот контекст, – это будет, вероятно, самая эффективная рекламная модель в мире. С одной стороны, это какое-то черное зеркало. И даже Сэм Альтман когда-то говорил, что сценарий с внедрением рекламы был бы «тревожным и подрывающим доверие». С другой, это вероятно единственная возможность OpenAI выйти на какую-то прибыль к 2029 (как они обещали инвесторам). Именно поэтому возможность рекламы изучается сейчас всерьез. А еще согласно focus-группам часть пользователей уже считает, что ответы в ChatGPT – это реклама. Так что мы с вами можем даже не заметить, когда на нас раскатят что-то подобное ✌️

Внезапная статистика 77% людей на Polymarket считают, что к концу 2025 году лучшая ИИ-модель на рынке будет у Google (ждем Gemini 3) На OpenAI ставят всего 13%, а Anthropic вообще скатился куда-то вниз

Отец ИИ Йошуа Бенджио пробил 1 миллион цитирований по официальным данным Google Scholar В мире единицы ученых с таким Хиршем и количеством цитирований: можно пересчитать по пальцам одной руки. И до этого момента, насколько нам известно, не было ни одного из сферы Computer Science и ML. Поздравляем!

Создай ML-модель, которую оценит продюсер «Слова пацана» На хакатоне Wink AI Challenge участников ждут задачи, которые ускорят производство фильмов и сериалов за счёт прикладных AI-решений. Призовой фонд — 1 125 000 рублей. 🗓 Регистрация открыта до 31 октября включительно ML-инженеры, backend- и frontend-разработчики, DevOps, MLOps и мультимедиа-инженеры — ваш выход. Алгоритм такой: → Получи настоящий сценарий кинофильма. → Распознай персонажей и локации с помощью NER и NLP-моделей. → Разработай ИИ-сервис, который умеет интерпретировать сценарий и предлагать оптимальные решения для киноиндустрии. Задачи хакатона: 🔸 Построй модель зависимости между сценами и структурируй сценарий. 🔸 Преврати текст в эскизы с помощью text-to-image для создания превизуализации сценария. 🔸 Создай решение, которое классифицирует контент и находит сцены, влияющие на возрастной рейтинг. Твой ИИ-сервис оценят и будут использовать продюсеры популярных российских фильмов и сериалов: «Слово пацана», «Ёлки», «Фишер» и многих других. Финал пройдёт в Москве — двум участникам из команды Wink оплатит билеты и проживание. Регистрируйся на первый в России хакатон по применению ИИ в кинопроизводстве и разработай решение, которое станет частью создания фильмов и сериалов: https://cnrlink.com/winkaichallengedatasecrets

Интересная статья из Nature про то, как один ИИ учил другой Возможно, вы уже что-нибудь слышали про мета-обучение. Нынче это довольно модно. Суть в том, что вместо того, чтобы учить одну модель, мы учим две. Первую – обычную, а вторую (мета-модель) – чтобы регулировать, как учится первая. То есть в процессе обучения мета-модель подбирает гиперпараметры и алгоритмы, которые используются для того, чтобы учить базовую модель. Получается, что обучение эволюционирует, и система учится, как лучше учиться 👥 Здесь эту идею взяли и применили для RL. Технически, получается два уровня обучаемых параметров. Первый – это обычная политика нашего агента. Второй – мета-параметры, которые определяют, по какому правилу будет обновляться политика. Для того, чтобы оптимизировать мета-параметры, мы запускаем много агентов с разными политиками в разных средах. Их опыт – это данные для обучения мета-модели. Чем больше она видит таких данных, тем лучше становится правило обновления и, следовательно, тем эффективнее она учит агентов. Итог: таким подходом авторам удалось синтезировать алгоритм обучения, который превзошел предыдущие человеческие решения. На игровом бенчмарке Atari обученный с его помощью агент выбил соту. Конечно, компьюта на такие достижения нужно просто море + не факт, что если стрельнуло в одной области, стрельнет и в другой. Но занятно, занятно. И кстати, это уже сингулярность? 😛

Ян Лекун снова раздает критику в адрес современного ИИ. На этот раз досталось роботам и робо-стартапам

Большой секрет всей этой отрасли в том, что ни одно из этих компаний не имеет ни малейшего представления о том, как сделать роботов достаточно умными для того, чтобы быть глобально полезными. Мы можем обучить их под конкретные задачи. Например, делать что-то на производстве или типа того. Но автономный домашний робот абсолютно невозможен без целого списка прорывов в области ИИ и архитектур, умеющих планировать. Так что успех всех этих компаний напрямую зависит от прогресса, которого мы добьемся с world modelling архитектурами.

Просьба всем робо-стартапам вернуть деньги инвесторам. Спасибо за внимание. Из нового интервью Массачусетскому университету

Сегодня закончилась ежегодная конференция PyTorchCon в Сан-Франциско Собрали для вас небольшой обзор на 4 самых интересных и полезных продукта, которые PyTorch выпустили за эти дни: 1. Релизнули целый язык программирования – Helion. Работает на базе питона и предназначен для написания ядер. Теперь можно кодить оптимизированные ядра на привычном синтаксисе, а Helion уже сам скомпилирует это все в Triton. 2. torchcomms – новая экспериментальная коммуникационная библиотека для распределённого обучения в PyTorch. Сделано специально под сценарии с большим количеством железа (пишут, что аж до 100к GPU). 3. ExecuTorch 1.0 – end-to-end решение для инференса (и частично для обучения) моделей на мобильных и носимых устройствах. Самый сок. 4. torchforge – новая либа для RL’ки и агентов. Акцент сделали на разделении алгоритмической части и инфраструктурной: чтобы можно было думать о подходе, а не о шардировании, отказоустойчивости и прочем. Выглядит приятно. Продуктивные у них вышли два дня

Cloud.ru запустили телемагазин на диване в стиле нулевых – только продают не утюги и сковородки, а облачные и AI-сервисы Поверьте, на это стоит взглянуть. Компания выпустила 4 ролика с Ильей Макаровым, и они буквально излучают ностальгию. О том, что на дворе 2025, напоминают только продукты, которые "продаются": – Сервис для создания корпоративных AI-агентов – Инструменты для настройки умного поиска на базе RAG – Сервис Evolution Foundation Models, чтобы кодить с AI-ассистентом Все это можно найти на платформе Evolution AI Factory, которую разрабатывает Cloud.ru. Покажите рекламу ИИ-сервисов лучше этой. Мы подождем. P.S. Лендинг тоже зацените, это отдельное удовольствие Реклама. ООО «Облачные технологии», ИНН: 7736279160. Erid: 2W5zFGdb38t 0+

Датацентры могут перенестись в космос Nvidia заключили очень занятную сделку со стартапом под названием Starcloud. Они планируют начать создавать датацентры на орбите Земли. Утверждается, что у таких кластеров есть целый ряд преимуществ: 1. Можно экономить на охлаждении. На Земле приходится тратиться на воду, а в космосе можно использовать вакуум как почти бесконечный радиатор. 2. На орбите можно активнее использовать солнечную энергию. Снова экономия. 3. Минимальный углеродный след. Пишут, что выбросы CO₂ можно сократить аж в 10 раз. Короче, даже с учётом расходов на запуск Starcloud считает, что энерго­затраты будут примерно в 10 раз меньше, чем на Земле. Уже в ноябре они планируют запустить спутник с GPU размером примерно с холодильник, а в долгосрочной перспективе хотят построить датацентр мощностью 5 гигаватт. Это примерно 4 квадратных километра GPU Nvidia, летающих в космосе 👀

Буквально все ИИ-стартапы в последние пол года:

Google добавили ризонинг модель в Google Earth Они релизнули фреймворк Geospatial Reasoning, который работает на базе Gemini и автоматически соединяет разные предиктивные модели и данные в единую систему анализа Земли. Это открывает совершенно новые возможности для геоанализа. Например, модель может обстоятельно ответить на вопрос «где будет землетрясение и как защитить людей». Для этого она залезет сначала в данные о сейсмической активности и предскажет место и время землятресения, потом сопоставит результаты с данными плотности населения, уровнем устойчивости зданий, доступом к больницам, дорогам и убежищам, и только затем предложит оптимальный план эвакуации. Получается большая связка моделей под управлением единого ризонинг-мозга. Интересно, что систему уже используют на практике несколько организаций. Например, в WHO AFRO (Африка) она делает прогноз рисков вспышек холеры и помогает планировать вакцинацию и мед.помощь. А для McGill & Partners просчитывает вероятный будущий ущерб по страховкам имущества после ураганов. У Google просто отличный вкус на прикладные задачки

Как работает умная камера с Алисой в чате У Яндекса в нейросети Алисе уже некоторое время существует бесплатная фича "умная камера". И она не просто распознает изображения и отвечает на вопросы, а может, например: тут же найти товар, как на фото и рассказать вам о характеристиках; решить уравнение с картинки; скопировать для вас текст с изображения или перевести его прямо в камере; и многое другое. Сегодня мы решили сделать небольшой ликбез по тому, как вообще работают такие системы, и даже поговорили для этого с ребятами из Яндекс. Итак. В основе всего, конечно, VLM – Vision Language Model (в быту – мультимодальная LLM). В начале у нас есть обычная LLM, которую мы должны как-то научить воспринимать картинки. Как это сделать?

1. Берем какой-нибудь image encoder. То есть модель, которая умеет смотреть на картинки и выдавать для них эмбеддинги (набор фичей). 2. К сожалению, эти эмбеддинги нельзя подавать в LLM сырыми. Так как image encoder – это другая модель, векторные пространства будут отличаться слишком сильно, и наша LLMка в жизни не поймет, что от нее хотят. Поэтому добавляем еще адаптер – несколько слоев, которые будут проецировать наши картиночные эмбеддинги в текстовые. 3. Вот теперь все это вместе можно обучать. Для обучения требуется претрейн VLM, SFT и RL.

Все, можно пользоваться? Еще нет. У этой VLM все еще не спросишь, например, "где купить такие кеды?". Для этого к ней нужно прикрутить дополнительный пайплайн и инструменты. Добавляется:

1. Визуальный поиск. Если у модели не хватает знаний об изображении, она может сходить с ним в поиск и вытащить из него теги. Например: "Кеды, Nike, Blazer, мужские". 2. Дальше отрабатывает VLM-рефрайзер. Он собирает из всего предыдущего контекста нужную информацию и добавляет во внутренний промпт. Например: "размер 43". 3. Все вместе отправляется в текстовый поиск, в котором агент находит ссылки на подходящие модели.

И только после этого вся найденная информация соединяется в единое целое с помощью VLM-суммаризатора. Работает все это около 2-3 секунд. И, к слову, всю эту конструкцию еще дополнительно тюнят на пользовательские предпочтения. Вот такая техническая мякотка одной небольшой фичи нейросети Алисы 👍

Anthropic теперь будут обучать модели на TPU Они заключили большую сделку с Google, и уже к концу 2026 гигант предоставит стартапу мощностей на 1 гигаватт. Это более миллиона чипов. Говорят, что TPU выбрали из-за соотношения цены и производительности. А еще Google пообещал поделиться с Anthropic опытом обучения и инференса моделек на этом железе. 2025 получился каким-то очень удачным годом для TPU. Сейчас среди пользователей видеокарт гугла уже Safe Superintelligence, Salesforce и Midjourney, и теперь добавился Anthropic. Внезапный камбэк.

Возможно, следующий шаг OpenAI – это ИИ-операционка Они только что купили Software Applications Incorporated, главным продуктом которых является Sky. Это интерфейс для управления Mac на естественном языке. Все сотрудники SAI присоединяются к OpenAI.

Мы строим будущее, в котором ChatGPT не просто отвечает на ваши вопросы, а помогает вам делать вообще все.

Только бы не очередной бесполезный агент 🙏