Data Secrets

Помните, как это было? Кофе, зачетка и возможность просто учиться без спринтов и задач 29 ноября в 16:00 будет Back to Uni — встреча-ностальгия в кампусе Центрального университета для ИТ-сообщества. Что вас ждет: — Пары от преподавателей ЦУ — применять знания не обязательно, будет просто интересно. — Возможность узнать, как и зачем ИТ-специалисту преподавать в вузе, даже если нет опыта или страшно начать. — Студенческие клубы, разговоры по душам в коридорах и та самая атмосфера, где можно просто вдохновляться. Пары будут вести руководитель отдела прикладного ML в AI-центре Т-Банка Андрей Мельников, руководитель аналитики международного Яндекс Поиска Роман Васильев, к.м.н., руководитель направления исследований «Мышление и AI» в лаборатории нейронаук и поведения человека Сбера Яна Венерина и другие эксперты. Это бесплатно. Приходите с однокурсниками — ностальгировать вместе. Регистрируйтесь по ссылке тут!

Сэм Альтман совместно с Льюисом Андре основал компанию, заявленную как «новый тип R&D-организации» Компания под названием Episteme намерена нанимать выдающихся исследователей из разных областей и давать им возможность заниматься своими исследованиями без бюрократии и давления со стороны коммерции. Сотрудникам они обещают все необходимые ресурсы, инфраструктуру и поддержку. Также исследователи будут получать долю в компании. Цель – заниматься идеями, которые могут стать прорывными в долгосроке. В академии на такие обычно не хватает денег, а в индустрии они не получают достаточно внимания или свободы, потому что промышленность ориентирована на быстрые результаты и прибыль. По темам целятся в пересечение физики, биологии, вычислений и энергии. То есть все равно в те области, где значимые исследования в итоге могут принести значимый экономический эффект (но в анонсе, конечно, говорится только про эффект для человечества). В общем, пока звучит слишком хорошо для того, чтобы быть правдой, но новость интересная. Посмотрим, кто пойдет к ним работать. Сайт: episteme.com

Андрей Карпаты: «ИИ – это ПО 2.0, и оно автоматизирует то, что можно проверить» Понравился свежий емкий пост Карпаты на вечную тему автоматизации в эпоху ИИ. Подготовили сокращенный перевод:

ИИ часто сравнивают с историческими прорывами: электричеством, промышленной революцией и тд. Но, по-моему, самая точная аналогия – ИИ как новая вычислительная парадигма, Software 2.0. В обоих случаях речь про автоматизацию обработки цифровой информации. В 80-х автоматизировались задачи, которые сводились к механическому преобразованию информации по простым, чётко формализуемым правилам (например, бухгалтерия). Сейчас же, с ИИ, мы можем автоматизировать то, что вручную описать невозможно, но можно проверить. Мы задаем таргет (например, accuracy) и с помощью градиентного спуска ищем в пространстве алгоритмов нейросеть, которая оптимизирует этот таргет лучше всего. Это и есть Software 2.0, и в этой парадигме ключевым факторов автоматизируемости задачи выступает ее проверяемость. Лучше всего можно автоматизировать именно то, что легко проверить. Если задача непроверяема, останется надеяться на волшебную обобщающую способность нейросетей. Именно поэтому прогресс ИИ такой зубчатый: в проверяемых задачах прогресс стремительный (код, математика, головоломки), а вот многое другое отстает (творчество, стратегия, здравый смысл). Software 1.0 легко автоматизирует то, что можно формально описать. Software 2.0 легко автоматизирует то, что можно проверить.

🚀 ИИ-сервисы перестали быть уделом корпораций. Сегодня любой разработчик может развернуть свой искусственный интеллект — даже локально, в собственном Telegram-боте. Главное — понимать, какие библиотеки использовать и как это собрать воедино. 🗓 На открытом уроке 19 ноября в 20:00 МСК вы узнаете, как превратить мессенджер в площадку для прототипирования AI-проектов. Разберём популярные библиотеки, подходы к NLP и покажем, как развернуть и опубликовать свой бот с ИИ-функциональностью. Вы сможете создать собственный Telegram-сервис, который работает с открытыми библиотеками искусственного интеллекта — без сложной математики и громоздких облаков. ➡️ Регистрируйтесь на открытый урок в преддверии старта курса «LLM Driven Development» и сделайте первый шаг к созданию AI-приложений своими руками: https://otus.pw/qZkQ/ Реклама. ООО «Отус онлайн-образование», ОГРН 1177746618576

На бирже опять что-то интересное происходит: миллиардер Питер Тиль продал все свои акции Nvidia Он владел примерно 537 тысячами акций, они составляли 40% всего его фонда. Капитал он перераспределил в Microsoft, Apple и частично Tesla. Основная мотивация та же – опасения по поводу пузыря. Он несколько раз публично заявлял, что не видит устойчивого экономического фундамента под текущей эйфорией вокруг ИИ, и, по классике, сравнивал ситуацию с доткомами 90-х. В общем, акции Nvidia Тиль, судя по всему, посчитал перегретыми. Итого, что мы имеем: – Один из самых влиятельных инвесторов мира избавляется от своих акций Nvidia – SoftBank также продает всю свою долю в компании – Майкл Бьюрри, который заработал миллионы на предыдущем кризисе США, шортит Nvidia на 14% всего своего портфеля Мнения?

В эфире рубрика "Да что может пойти не так?". В Южной Корее хотят запустить датацентр, который будет полностью проектироваться и управляться ИИ. Стоимость проекта под названием Project Concord оценивается примерно в 35 млрд долларов. ИИ планируют применять почти на всех этапах: выбор площадки, проектирование инженерных систем, управление и оптимизация систем энергопотребления и охлаждения, а также непосредственный мониторинг и устранение неисправностей уже на этапе эксплуатации центра. По мощности запланировано около 3 гигаватт, это довольно масштабно. Завершить строительство рассчитывают в 2028.

LeJEPA: новая статья от Яна Лекуна (Да-да, с каждым разом названия этой линейки моделей все лучше и лучше 😂 ) Небольшой предисловие о том, что вообще такое эта ваша JEPA. Если кратко, это попытка Лекуна сделать шаг навстречу тем самым world models, о которых он так много говорит. Расшифровывается JEPA как Joint Embedding Predictive Architecture –Self-Supervised архитектура, предназначенная для понимания внешнего физического мира. Вот, допустим, есть у вас видео, и вы хотите, чтобы модель не просто могла дорисовать пиксели для следующего кадра, а действительно понимала, что в сцене происходит: где объект, куда он движется, что неизменно, что может меняться и под действием каких сил и тд. JEPA как раз отличается от большинства моделей тем, что работает не с предсказанием следующего токена/генерацией пикселей, а пытается предсказывать смысл наблюдаемого фрагмента на основе контекста (по факту, эмбеддинги). Лекун считает, что это идеалогическая альтернатива привычному ИИ, потому что предсказание пикселей или токенов – это лишь имитация понимания структуры мира, а тут модель действительно учится понимать физику и логические связи. И, кстати, за счет того, что предсказание происходит на уровне скрытого пространства, JEPA еще и намного эффективнее той же авторегрессии. Ну так вот. Впервые JEPA была предложена в 2022. С тех пор уже вышла I‑JEPA для изображений, V‑JEPA для видео и V‑JEPA 2 (ну и куча сторонних надстроек, это не считаем). Сейчас вот вышло следующее большое обновление архитектуры – LeJEPA. Оно построено на важном теоретическом результате: исследователи впервые доказали, что существует оптимальная форма латентного распределения для foundation-моделей, и это изотропный гаусс. Оптимальная – значит такая, которая минимизирует среднюю ошибку на любых задачах. Раньше были только какие-то эмпирические наблюдения, а сейчас впервые появился четкий рецепт. И, собственно, практическое обновление состоит только в том, что они добавили новый лосс, который заставляет эмбеддинги становиться гауссовыми, – SIGReg (Sketched Isotropic Gaussian Regularization). Но в итоге этот лосс: 1. Помог избавиться вообще от всех предыдущих костылей. Он заменил stop-grad, teacher-student, EMA, всякие трюки с нормализацией и пр. 2. Прокачал стабильность. 3. Дал SOTA качество на 10+ датасетах. Теперь по качеству это примерно DINOv2, но гораздо проще и с нормальной сходимостью. В общем, приколько. Теперь JEPA уже несколько больше, чем исследовательская идея, и уже похоже на полноценный практический метод. Если любите математику, обязательно почитайте статью полностью, там красиво. arxiv.org/pdf/2511.08544

Какие планы на 19 ноября? ML-инженеры, дата-аналитики и все, кто работает с машинным обучением, бронируйте вечерний слот в календарях, потому что команда Купер.тех зовет вас на митап в Москве и онлайн. В программе: 🟢 Первый шаг к векторному поиску Игорь Самарин, Machine Learning Engineer в Купер.тех 🟢 Применение LLM в поиске для разметок Александр Баранов, Data Analyst в Купер.тех 🟢 Как картинки находят себе пары Николай Чугунников, Senior Machine Learning Engineer в Купер.тех 🟢 От интуиции к алгоритмам: data-driven подход к массовому найму Вадим Грошев, Machine Learning Engineer в Купер.тех Регистрируйся, чтобы попасть в офлайн или не пропустить ссылку на трансляцию. Реклама. ООО «ИНСТАМАРТ СЕРВИС», ИНН: 9705118142. Ерид: 2W5zFGdhm9a

Google продолжают экспериментировать с ИИ-продуктами и на этот раз выкатили Code Wiki – агента, который сделает по любому репозиторию красочную документацию Открываете codewiki.google/, вставляете ссылку на репозиторий и все: перед вами подробная документация с оглавлением и схемами, по которой вы можете перемещаться в интерактивном режиме. Тут же встроен чат с ассистеном, которому можно задавать вопросы по проекту и доке: он будет отвечать сразу с гиперссылками на файлы и куски кода, очень удобно. И еще интересная фича: документация будет автоматически обновляться каждый раз, когда в репозитории происходят изменения. Скоро обещают выкатить еще и CLI расширение, а пока Code Wiki можно попробовать абсолютно бесплатно здесь

Этот мультик точно сделал гений

Cursor привлек 2.3 миллиарда долларов Для стартапа это уже раунд D, в этот раз в них вложились Nvidia, Google, Andreessen Horowitz и несколько других крупняков.

Мы также рады сообщить, что годовой доход Cursor превысил 1 млрд долларов, и теперь он производит больше кода, чем любой другой агент в мире.

Оценка компании на данный момент – $29.3 миллиарда. Напоминаем, что при этом она основана только в конце 2022. На данный момент Cursor – самый быстрорастущий SaaS-стартап в истории.

Дмитрий Ветров получил Yandex ML Prize 2025 Это ежегодная премия Яндекса за вклад в развитие машинного обучения. С этого года ей награждают преподавателей — тех, кто растит новое поколение AI-специалистов и двигает науку вперёд. Лауреатами стали 10 представителей ведущих вузов страны, еще трое ученых и преподавателей получили специальную награду. Поздравляем Дмитрия Ветрова — профессора-исследователя ФКН НИУ ВШЭ, который вошёл в «Зал славы» Yandex ML Prize 2025. Респектуем за одну из самых сильных исследовательских команд по машинному обучению в России и продвижение байесовских методов.

OpenAI выпустили довольно интересную статью про интерпретируемость моделей Сейчас модельки уже во всю помогают принимать решения в медицине, в науке, образовании и тд. Но интерпретировать их ответы мы так и не научились, к сожалению. Многие уповают на интерпретацию через CoT, но это дело очень хрупкое и ненадежное. OpenAI утверждают: проблема в том, что мы пытаемся распутывать внутренности модели постфактум, когда это уже почти невозможно. Во время обучения модели подбирают миллиарды весов, из которых в итоге получается очень плотная сеть. В итоге поведение модели размазано по массе параметров, и структурировать эту паутину, мягко говоря, сложно. Вместо этого они предлагают сразу обучать структурно более простую разреженную сетку. На практике исследователи берут архитектуру, похожую на GPT-2 и ограничивают веса так, чтобы подавляющее большинство было равно нулю. То есть если в обычной плотной сети каждый нейрон связан со всеми из следующего слоя, то здесь остаются связи только с несколькими. Сеть становится более чистой и читаемой. Это первый шаг. Такая структура сети позволяет для конкретной задачи брать и находить маленькую часть модели, отвечающую за ее решение. В статье это называется circuit. Формально, – минимальный поднабор весов, обладающий необходимостью и достаточностью: то есть если выкинуть все, кроме него, задача все еще будет решаться; а если выкинуть только его, а остальную сеть оставить – нет. Ну а затем в этом маленьком наборе весов уже можно копаться и непосредственно анализировать поведение сети. В статье приведен пример с простенькой задачей закрытия кавычки. Модели надо запомнить тип открывающейся кавычки и в конце последовательности поставить такую же. И вот оказывается, что делает она это по определенному логическому алгоритму, заложенному в 5 residual-каналах, двух MLP-слоях и 1 канале аттеншена. На картинке можете посмотреть, как это работает. Представьте: если за маленькой задачкой скрывается что-то такое, то что можно найти, если посмотреть, как модель решает сложную математику или пишет код? Короче, подход интересный. И есть даже занятный практический результат, в который нужно вдуматься: чем больше модель и чем более она разреженная, тем проще становятся схемы, реализующие одни те же способности. Make sense. Тем не менее, не факт, что если это работает для таких игрушечных моделек, заработает и для больших. К тому же обучать разреженные модельки только ради интерпретируемости никто не будет: слишком дорого и неэффективно. Но вот если в OpenAI научатся извлекать что-то подобное из уже обученных dense-моделей, будет совсем другой разговор. openai.com/index/understanding-neural-networks-through-sparse-circuits/

А тем временем суд все-таки обязал OpenAI предоставить The New York Times 20 миллионов чатов пользователей Первая часть этой истории здесь. Кратко: NYT сейчас судятся с OpenAI из-за того, что ChatGPT якобы воспроизводит защищенные материалы издания. В рамках расследования они потребовали от стартапа отдать им на рассмотрение 20 миллионов случайных обезличенных пользовательских диалогов. Стартап пытался противостоять запросу, но «будем биться за приватность пользователей до последнего» продлилось довольно недолго. По оценке OpenAI, 99.99% логов вообще не будут относиться к делу. Они предлагали альтернативное решение с выборочной выдачей чатов, но судья посчитала, что обезличивания диалогов и охранного судебного ордера будет и так достаточно для защиты данных юзеров 🙂 OpenAI подал ходатайство о пересмотре решения, но суд пока требует выполнить приказ и передать данные в ближайшее время.

👿 Data Dojo 27 ноября: программа встречи Data Dojo — мероприятие Яндекса для ML-энтузиастов всех уровней. Какие будут лекции: 17:10 Обзор трендов и предварительные итоги года

Сергей Овчаренко, руководитель отдела мультимодального анализа и генерации

17:40 Научить AI не бредить, сдать физику и получить права: как мы готовили задачи ML-квалификации Yandex Cup

Сергей Фиронов, ведущий разработчик службы поведения и предсказания департамента Автономного транспорта

18:10 Кухня, гости, музыка: как мы научили колонку реагировать в реальном хаосе

Дмитрий Солодуха, руководитель команды голосовой активации

Собираемся в 16:00. Фуршет, нетворкинг, мастер-класс, afterparty — будет всё. Регистрируйся

Anthropic зафиксировали первый официальный случай крупной кибератаки, выполненной с помощью ИИ. Стартап утверждает, что что за операцией стоит китайская государственная группа. По данным Anthropic, это был даже не единичный случай, а целая кибершпионская кампания, целью которой были около тридцати организаций по всему миру. Среди них бигтех, финансовые институты, хим.производства и государственные агентства. Преступники использовали Claude Code и "агента на основе Claude". Модельку джейлбрейкнули, попросив ее выполнять мелкие задачи без раскрытия истинной цели и убедив, что она работает для легальной фирмы кибербезопасности. Ну а дальше все как по маслу. Модель провела разведку инфраструктуры целевой организации, написала эксплойты, получила нужные доступы, создала бэкдоры, украла данные и даже услужливо написала по всему этому подробную документацию 😍 По оценке Anthropic, вмешательство человека во всем этом требовалось 4-6 раз: преступники автоматизировали всю деятельность на 90%. Отловить атаку удалось благодаря тому, что аналитики заметики подозрительную активность и тут же запустили расследование. Большиство запланированных атак, по словам стартапа, удалось предотвратить, и все же преступники «успешно компрометировали небольшое число случаев». Вот вам и весь хваленый элаймент 🤠

ИИ в Google Colab теперь будет доступен бесплатным пользователям 🕺 У моделям можно обратиться двумя способами: 1. Через библиотеку google.colab.ai, которую сделали открытой для всех пользователей. Прямо в ячейке прописываете from google.colab import ai, и затем можете:

– Просмотреть все доступные вам модели: ai.list_models() – Сгенерировать что-нибудь: response = ai.generate_text("2+2?", model_name = 'google/gemini-2.0-flash-lite') print(response) – Или стримить ответ: stream = ai.generate_text("Tell me a short story.", stream=True) for text in stream: print(text, end='')

2. Через новую кнопку «Add AI prompt cell», которая теперь расположена рядом с кнопкой +Code. Тут уже никакой код писать не надо, система сама предложит вам готовую ячейку с интерфейсом для написания промпта. Из моделей и там и там бесплатным пользователям будут доступны gemini-2.5-flash и gemini-2.5-flash-lite. 🍯

AI-агенты перестали быть экспериментом — они становятся основой продуктовых решений. Вопрос лишь в том, умеете ли вы создавать своих? С 20 ноября будет Yandex AI Studio Series — серия практических вебинаров для тех, кто хочет пройти путь от идеи до production-ready AI-агента за 7 дней. Что будет на интенсиве:

➖ 4 онлайн-трансляции с сессией вопросов и ответов. ➖ Предзаписанный воркшоп для самостоятельной практики. ➖ Квиз и приятные сюрпризы. ➖ Нетворкинг в продуктовом комьюнити. ➖ Офлайн-встреча в офисе Яндекса в Москве.

Все решения будем деплоить на базе Yandex AI Studio — платформы от Яндекса для разработки AI-агентов. Участие в мероприятии бесплатное. Если вы AI/ML-инженер или разработчик и хотите углубиться в инженеринг агентов и мультиагентных систем — присоединяйтесь. Регистрация уже идет вот тут. Ещё один скилл в резюме 😊

Стартап Фей-Фей Ли выпустил свой первый коммерческий продукт – модель пространственного интеллекта Marble Ее релизнули сразу же после выхода эссе Фей-Фей о том, что пространственный интеллект – будущее ИИ (наш пост с пересказом). Внешне моделька очень напоминает Genie: по сути, 3D генератор миров, по которому можно передвигаться. Только у Marble фокус больше на персистентности. То есть если Genie генерирует динамическое видео, то здесь это генерация именно полноценного 3D-мира, в котором есть геометрия, объекты, ландшафт и прочее. Потом вы можете по нему передвигаться, но меняться или достраиваться он при этом не будет. Хотя можно поменять что-нибудь по промпту, расширить какую-то часть генерации или даже объединить два мира. И кстати, на вход принимаются почти любые модальности: текст, картинки, видео и 3D-драфты. Генерировать можно поэтапно: сначала создать 3D-скелет, и только потом добавлять стили и текстуры, подобно тому, как это делается в геймдеве. Ну и киллер-фича, на наш взгляд: созданные миры можно экспортировать как меши, Gaussian splats или как видео. Попробовать можно тут, дают сколько-то фри кредитов. Дальше тарифы начинаются от 20 долларов в месяц.

Новая статья от DeepMind: учим модели видеть, как люди Помните класическую детсткую игру "Найди лишнее"? Из нескольких картинок нужно вычеркнуть ту, которая выбивается из общего ряда, по английски называется odd-one-out. Так вот: авторы протестировали на этой игре несколько vision моделей и выяснили, что они далеко не всегда рассуждают, как люди. Это связано с тем, что модели, даже самые мощные, все еще видят мир иначе, нежели мы. Люди группируют объекты по смыслу, а модели – чаще по визуальным/текстурным признакам. Например, в задаче <морская звезда, кот, лиса> люди выбирают морскую звезду, потому что она живет в воде, а модели – кота, потому что картинка выделяется из цветовой палитры. Недостаток важный, потому что если модель не структурирует свой внутренний образ мира, как человек, ее решения могут быть алогичными и ненадежными. Что сделали в DeepMind: – Взяли большую visual модель, заморозили ее и искусственно пристроили небольшой адаптер, обученный только на датасете с человеческими ответами по odd-one-out. – Нагенерировали с помощью этой модели гигантский датасет с миллионами решений odd-one-out. – На основе этого большого датасета дообучали другие модели так, чтобы их внутренние представления стали ближе к человеческой логике группировки. То есть, вроде как, модельки просто натаскали на какую-то одну детскую игру, ничего удивительного. Но оказалось, что это качественно изменило их скрытое пространство. См. третий скрин: слева модель до элаймента, справа после. Видно, как появляются четкие кластеры, соответствующие человеческой логике (например, животные, еда и тд). Красота же? А еще такая модель оказалось более устойчивой с точки зрения изменения распределения. Например, если на картинках поменять фон, освещение или другие условия, ее ответы все еще остаются подвластными логике. В целом можно ожидать, что такая модель и генерализоваться будет быстрее обычной. deepmind.google/blog/teaching-ai-to-see-the-world-more-like-we-do/