Data Secrets

Есть две новости от Anthropic, и одна из них, предупреждаем, болезненная На самом деле, они обе про одно и то же: Anthropic с разных концов затягивает гайки в политике использования их моделей для кодинга, и конкретно Claude Opus 4.5. Он сейчас негласно считается лучшим на рынке. Так вот: 1. Anthropic отрезал xAI от Opus 4.5 в Cursor. Выяснилось, что разработчики xAI довольно активно использовали Claude для кодинга. Анропикам это не слишком понравилось, и они без церемоний просто отключили тем доступ. Но тут, в целом, ничего нового. У них в условиях уже давно прописано, что их модели нельзя использовать для разработки конкурирующих продуктов. Так что это было вопросом времени. Разрабам xAI, конечно, соболезнуем. 2. Anthropic запретил прокидывать подписку Claude в сторонние клиенты типа OpenCode. И вот это уже по больному. Раньше в OpenCode можно было использовать вашу купленную подписку Claude и использовать ее в тех же режимах и с теми же лимитами, что и в официальном клиенте. И это было в куууучу раз дешевле, чем напрямую покупать токены по API. Теперь Anthropic лавочку прикрыли и оправдались тем, что подобное «портит им UX». Типа если что-то сломается у OpenCode, пользователь обвинит сервис Anthropic, а не интеграцию, и это бьет по репутации стартапа. Звучит не очень убедительно. На самом деле страдает не репутация, а юнит-экономика + стратегия. В целом, понять Anthropic можно. Теперь уже сочувствуем любителям OpenCode. В соцсетях ищут способ обойти ограничения, но из надежного пока ничего. F, короче

У Суцкевера «нашли» 4 миллиарда долларов в акциях OpenAI Все новые и новые интересные детальки пазла несет нам иск Илона Маска против OpenAI. На этот раз в материалах дела оказалась переписка COO OpenAI Брэда Лайткапa с представителями Microsoft. Когда в 2023 Альтмана внезапно уволили, Microsoft во главе с Сатьей Наделлой готовилась переманить его и команду OpenAI. CTO компании Кевин Скотт еще тогда публично говорил, что компания наняла бы и выровняла компенсации для любого сотрудника OpenAI, который ушел бы к ним вместе с Альтманом. Но Альтмана в должности скоро восстановили, а вот переписки с обсуждением финансовых деталей – остались. И вот какая фраза в них есть:

…чтобы выкупить доли сотрудников в рамках тендерного предложения, потребуется около 25 млрд долларов без учета пакета Суцкевера и примерно 29 млрд, если выкупать и его единицы.

То есть на момент ноября 2023 года у Ильи Суцкевера было около 4 млрд долларов доли в OpenAI. При этом подчеркивается, что 4 млрд – это только vested‑часть, а размер ещё не дозревших (unvested) опционов Суцкевера из переписки непонятен. Короче, многих эта сумма, мягко говоря, удивила. Теперь Илью еще раз будут вызывать в суд для выяснения обстоятельств увольнения Сэма и выяснения его реальной доли в стартапе, потому что 4 миллиарда долларов превратили еще в еще более заинтересованное лицо 😐

Агент Axiom Prover решил 12 из 12 задач на самом сложном математическом экзамене в мире Возможно, вы помните, что это за система. В начале декабря (когда и проводился конкурс Putnam, о котором идет речь) она решила 8 из 12 задач за отведенное на олимпиаду время + еще одну вне зачета. Это очень классный результат: большинство студентов получает круглый ноль. Теперь разработчики сообщили, что агент дорешал самые сложные оставшиеся задачи и выложили все его решения сюда. Интересно, что среди задач явно выделяются группы таких, которые(1) просты для человека и сложны для ИИ; (2) и наоборот. Например: – Комбинаторные задачи человек решает достаточно быстро, а Axiom Prover одна из таких обошлась в 2054 строки формального кода и 518 минут вычислений. Это из-за того, что Lean, в котором работает агент, требует формального доказательства даже очевидных фактов, и они получались крупными и долгими, хотя человеку было бы достаточно одной фразы. – Есть задачи, где у ИИ и человека координально разный подход. Например, A4: люди думали алгебраически, а Axiom Prover внезапно подошел геометрически. Это занятно. – А вот А6 ни один штатный математик Axiom не смог решить, а Axiom Prover довольно быстро довел решение от идеи до формального доказательства. Короче: все равно люди все еще выигрывают в плане математической интуиции. Для ИИ задача становится сложной, если нет готовых библиотечных кирпичей + идеи. Плюс, внезапным узким местом становится доказательство мелких фактов (опять же, для человека это вопрос интуиции). axiommath.ai/territory/from-seeing-why-to-checking-everything

Очень интересная статья от MIT про дообучение моделей после деплоя Фанфэкт: некоторые из авторов работают в OpenAI, так что читаем внимательно 🤨 Подход красиво назвали тюленем: SEAL – Self-Adapting Language Models. Суть тюленя в том, что модель учится извлекать из условных чатов информацию в таком виде, которая дообучит ее лучше всего. Звучит немного запутанно, поэтому разбираемся: 1. Модель получает на вход некоторый контекст и извлекает из него так называемые self-edit (SE). Это структура, на которой модель дальше будет дообучаться (например, список следствий/импликаций из абзаца). 2. Таких SE генерируется много, а затем по каждому из них мы делаем мини-файнтюн и смотрим, какие SE улучшили знания модели лучше всего. Тестирование проходит на той же downstream-задаче (например, вопросах по абзацу без подсказки-абзаца в контексте). 3. Чем лучше SE обучил модель, тем больший reward он получает. Далее политика генерации self-edit обновляется так, чтобы в следующий раз SE были более и полезными. То есть модель как бы учиться выбирать наилучшую процедуру адаптации для самой себя. Красиво, да? И работает неплохо. Из примера в статье: на бенчмарке SQuAD тюлень улучшил Qwen2.5-7B аж на 15 процентных пунктов. В сравнении, base model + дообучение на синтетике от сильной GPT-4.1 дает результат на пару процентов меньше, хотя разница в размере моделей «учителей» огромна. Есть, конечно, и парочка НО. Например: – Это адски дорого. Одна оценка self-edit занимает примерно 30–45 секунд. 750 итераций – это 6 часов на двух H100. Авторы предлагают это немного сгладить, применяя вместо мини-файнтюнингов Proxy reward, когда SE оценивает другая LLM. Это уже не так интересно, и метрики чуть хуже, но как вариант. – Для тестов требуется разметка. Хотя тут, опять же, можно генерировать. – Модели показывают деградацию на прошлых задачах по мере числа обновлений. Это частично лечится reward shaping, но полностью проблема не исчезает. Стоит ли игра свеч, пока непонятно. Но идея прикольная. Статья полностью здесь -> https://arxiv.org/abs/2506.10943

К вопросу о прогрессе. Агент от SakanaAI занял уверенное первое место на соревновании по кодингу. В прошлом году на этом же конкурсе агент от OpenAI занял только второе место. В AtCoder Heuristic Contest в этом году принимало участие около 800 человек. ALE-Agent от японской лаборатории обошел всех и с приличным отрывом взял топ. Стоимость решения составила примерно $1300. При этом, что интересно: сами авторы оптимизационной задачи этого года предполагали классический подход с использованием отжига и конструктивных эвристик, но агент Sakana пошел другим путем. Он внезапно реализовал эвристику virtual power, и это позволило ему выходить из локальных оптимумов даже лучше, чем эксперты-люди. Агент представляет из себя достаточно хитрую обертку над (в данном случае) GPT‑5.2 high и Gemini 3 Pro high. Сами Sakana, в плане моделей, звезд с неба никогда не хватали, но научились грамотно работать с inference time scaling – и вот результат. Одним словом, молодцы. https://sakana.ai/ahc058/

Первые отзывы на ChatGPT Health полетели

Ученые из Университета Ватерлоо (Канада) впервые придумали способ безопасно сохранять и дублировать информацию в квантовых компьютерах Раньше это считалось невозможным. Дело в том, что квантовую информация нельзя просто скопировать и вставить, как обычный файл. Это фундаментальный закон квантовой физики – теорема о невозможности клонирования (no-cloning theorem). Она гласит, что невозможно создать механизм, который бы делал точную копию какого-либо квантового состояния. Обойти это удалось с помощью шифрования информации. Сначала квантовые данные зашифровывают, и только потом копируют. Причем делать это можно сколько угодно раз, но есть нюанс: когда одна копия расшифровывается, ключ шифрования тут же физически разрушается, и больше его использовать нельзя. То есть все копии вскрываются как бы одновременно. Если хотите разобраться в процессе подробнее, вот статья: uwaterloo.ca/news/media/scientists-discover-first-method-safely-back-quantum Это, на самом деле, огромный шаг, потому что тут открываются виды и на квантовое облачное хранение, и на распределенные квантовые системы. Ух!

OpenAI запускает ChatGPT Health Это (очередной) отдельный раздел чат-бота, предназначенный для общения на тему здоровья. Из важного и интересного: – Разрабатывали совместно с врачами, за два года разработки собрали ~600 000 отзывов от >260 практикующих врачей. Подчеркивается, что это все еще не замена врачам, а скорее инструмент для ориентации в данных (максимум может дать совет по питанию и прокомментировать анализы). – Раздел изолирован отдельной памятью и усиленным шифрованием. Плюс эти чаты (пока что) не используются для обучения моделей OpenAI. Но помните: это не значит, что ваши данные не собирают. – Есть интеграции с Apple Health, Peloton и другими релевантными приложениями. В перспективе это, конечно, огромная угроза всяким Oura Ring и Whoop. Под капотом, как вы понимаете, специальной модели нет, просто другой системный промпт. Пока не очень понятно, чем это глобально отличается от временного ChatGPT чата, если не синхронизировать данные с приложениями. Но, возможно, кому-то будет актуально (нужен аккаунт США). https://openai.com/index/introducing-chatgpt-health/

DeepSeek внезапно обновили статью годовой давности про DeepSeek-R1 Раньше в ней было 22 страницы, теперь же работа насчитывает 86 (!) Ничего крайне необычного на дополнительных страницах, правда, не появилось: в основном все про эвал модели, self-evolution R1-Zero, дистилляцию и анализ способностей. Если интересно, обновленная версия: https://arxiv.org/abs/2501.12948 Кстати, R1 вышла почти ровно год назад. Может, это знак, и в этом январе DeepSeek нам тоже что-нибудь завезут?

Cursor полностью переходят на динамический контекст для всех моделей Об очень интересном и смелом обновлении сегодня объявили Cursor. Захотелось разобрать здесь его поподробнее. Кратко: Cursor полностью отказываются от статического контекста и переходят к динамическому. Это значит, что агент (на базе любой модели) теперь будет в основном самостоятельно собирать себе контекст, а не пользоваться тем, что дали. Static context – это классический подход. Ты вываливаешь агенту все и сразу: логи, документацию, историю чата, описания всех тулов, MCP и тд и тд. В целом, это работает, но в контексте таким образом оказывается куча нерелевантной информации, и он постоянно переполняется. Теперь же Cursor предлагают Dynamic context discovery. Это когда в контекст кладется условное «оглавление» и ссылки, а остальное распихивается по файлам, и агент сам по мере надобности ходит в них и добавляет себе информации. Например:

➖ Все же помнят, что когда контекст переполняется, Cursor делает шаг summarization и как бы обновляет окно? Так вот теперь, помимо этого, Cursor хранит chat history как файл. После суммаризации агент получает ссылку на этот файл, и если в summary какая-то нужная деталь потерялась, он может поискать по истории и дополнить себя. ➖ Длинные ответы tool calls теперь тоже записываются в файлы, а не отправляются прямиком в контекст. В контексте появляется только ссылка на нужный вывод, а сам гигантский JSON лежит себе и ждет, пока агент обратиться к нему и поищет нужное с помощью условного grep или tail. ➖ То же самое касается MCP, Agent Skill и терминальных сессий. Громоздкие описания инструментов и выводы терминала хранятся не в контексте, а в файлах. В контексте остается условное «Доступны MCP: jira, datadog, figma», и агент, если что-то ему нужно, уже идет в детальное описание и вызывает tool.

Получается довольно красиво и практично. На A/B тестах общее потребление токенов снизилось на ~46.9%. А еще это масштабируемо, потому что здесь контекст превращается из места, где лежат знания, в инструкцию, как их добывать. https://cursor.com/blog/dynamic-context-discovery

DeepMind теперь будут производить роботов совместно с Boston Dynamics За основу возьмут модель Atlas, в нее планируется интегрировать Gemini Robotics. То есть за железо и так называемый athletic intelligence будут отвечать BD, а за базовые способности к рассуждению и планированию – Google. Сильный коллаб bostondynamics.com/blog/boston-dynamics-google-deepmind-form-new-ai-partnership/

Как использует Claude Code создатель Claude Code Борис Черный запостил 13 советов, как выжать из Claude Code максимум. Напоминаем, что перед Новым Годом он заявил, что последние 30 дней 100% его кода ( в том числе контрибьютов в Claude Code) были написаны самим Claude Code. В общем, мы подготовили краткий перевод. Может, найдете для себя полезное:

1. Я запускаю 5 сессий Claude параллельно в терминале, нумерую вкладки и использую системные уведомления, чтобы понимать, когда Claude требуется input. 2. Параллельно держу 5–10 сессий в claude.ai/code вместе с локальными. По ходу работы перекидываю сессии между терминалом и вебом, а также регулярно запускаю сессии с телефона. 3. Для всего использую только Opus 4.5 с ризонингом. Несмотря на большую медлительность, из-за лучшего tool use и меньшей необходимости «рулить» модель в итоге почти всегда быстрее Sonet. 4. С командой мы используем файл CLAUDE.md. Каждый раз, когда Claude ошибается, мы дописываем правило, чтобы он не повторял эту ошибку. 5. Мы также обновляем CLAUDE.md во время ревью, тегая агента через @claude. 6. Большинство сессий начинаю в Plan mode. Если цель – Pull Request, мы с Claude итеративно доводим план до идеала, после чего я включаю auto-accept edits mode, и задача часто решается за один проход. 7. Для всех повторяющихся внутренних процессов я использую slash-команды. Они лежат в .claude/commands/ и позволяют ускорить работу и переиспользовать готовые воркфлоу. 8. Я регулярно использую сабагентов: например, один упрощает код после правок, другой проверяет приложение end-to-end. Это автоматизация типовых шагов почти для каждого PR. 9. Мы используем PostToolUse hook для форматирования кода. Claude обычно пишет аккуратно, а хук закрывает последние 10%, чтобы избежать CI-ошибок. 10. Я не использую --dangerously-skip-permissions, а заранее разрешаю безопасные команды через /permissions. Эти настройки хранятся в .claude/settings.json и шарятся на команду. 11. Claude Code работает со всеми моими инструментами: Slack, BigQuery, Sentry и т.д. Конфигурации MCP (например, для Slack) лежат в .mcp.json и общие для команды. 12. Для долгих задач я прошу Claude проверить результат фоновым агентом, использую Stop hook или плагин ralph-wiggum. В песочнице могу включать --permission-mode=dontAsk, чтобы не тормозить агента. 13. Самое важное – дать Claude способ проверить свою работу. Наличие feedback loop увеличивает качество результата в 2–3 раза, будь то тесты, bash-команды или проверка UI в браузере.

Маякните в комментариях, если есть, что добавить https://x.com/bcherny/status/2007179832300581177?s=46&t=pKf_FxsPGBd_YMIWTA8xgg

Как научиться развертывать LLM до прода? Отличный курс для тех, кто хочет не просто играться с LLM, а уметь заставлять их работать. LLM — сложные системы. Промпты хороши для демо, но в реальных задачах нужны пайплайны, деплой под нагрузку и защита от сбоев. Этому мало где учат. GIGASCHOOL и AI Talent Hub запустили курс «LLM-инженер»: это сильная программа обучения тому, как строятся и запускаются LLM-продукты в реальности. В меню: — Дообучение: fine-tuning, PEFT, LoRA / QLoRA, RLHF. — Инструменты: LangChain, LangGraph, векторные базы данных. — Архитектуры: RAG-системы, информационный поиск, защита LLM-продуктов, LLMSecOps. — MLOps: пайплайны, деплой, трекинг, версионирование моделей. — Продвинутые темы: мультиагентные решения и AI-ассистенты. Интенсивная практика с фокусом на архитектуру, стабильность, масштабирование и контроль качества → готовый собственный проект для портфолио, где вы управляете каждым этапом. Стартует курс 26 января и продлится 25 недель с каникулами. В конце выдают диплом о профессиональной переподготовке. Подробности и регистрация здесь – успевайте до повышения стоимости 7 января! Реклама, АНО «ГИГА ШКОЛА», ИНН 7453352684, erid 2Vtzqub7yBg

Claude смог вырастить помидор 😐 В стартапе Autoncorp (возможно, вам они известны: компания хайпанула на продаже автопортретов разных LLM) провели прикольный эксперимент. Они заставили Claude автономно вырастить куст помидора. Агент анализировал изображение с камеры и сам управлял влажностью, температурой, поливом и тд. Он работал круглосуточно и проверял своего подопечного раз в 15-20 минут. Однажды растение чуть не погибло из-за ошибки рекурсии в arduino, потому что надолго осталось без света и воды. Но Claude что-то покрутил, и всего за 13 минут куст восстал. Судя по всему, скоро на нем должна появится первая помидорка. За трансляцией можно следить здесь. Скоро сезон рассады, так что берите на заметку

Илон Маск внезапно заявил, что мы вошли в эру сингулярности Сингулярность в контексте прогресса – это момент, после которого темпы и характер развития становятся настолько быстрыми и качественно иными, что привычные модели прогнозирования и время перестают работать. По сути, момент, когда прогресс становится неуправляемым и меняет структуру человеческой цивилизации. Кажется, в этом году девиз Маска – «вперед паровоза»

😢

Новогодние каникулы — когда можно без зазрения совести включить «Гарри Поттера», доесть салаты и позволить себе просто быть в режиме отдыха. И в этом режиме особенно хорошо заходят вещи, которые не требуют усилий, иногда между фильмом и очередной кружкой чая появляется желание сделать для себя что-то еще — не напряженное, но полезное, связанное с профессией и будущим. Data Holiday Box от karpovꓸcourses как раз для таких моментов: это записи вебинаров про аналитику, data и машинное обучение, где без спешки и лишней теории объясняют, как меняется рынок, какие инструменты и подходы уже сейчас влияют на работу аналитиков и что стоит держать в фокусе в ближайшие годы, чтобы вырасти в грейде и зарплате. А тем, кто регистрируется, дополнительно открывается небольшой приятный бонус — подборка практичных материалов про собеседования, работу с нейросетями и другие полезности, которые помогают ориентироваться в профессии и чувствовать себя увереннее. Доступ к Data Holiday Box бесплатный — просто регистрируйтесь и забирайте записи вебинаров: https://clc.to/erid_2W5zFGf8kcp Реклама. ООО "КАРПОВ КУРСЫ". ИНН 7811764627. erid: 2W5zFGf8kcp

Первый скандал года, друзья 👩‍❤️‍👨 Ян Лекун публично назвал Александра Вана «неопытным» и предсказал, что из Meta будет уходить еще больше сотрудников. В новом интервью с Financial Times Лекун сказал следующее:

У него нет опыта работы с исследованиями или понимания того, как проводятся исследования, как ученые это делают. Нет понимания, что было бы привлекательным или отталкивающим для исследователя.

Он также заявил, что Александр не хотел бы, чтобы Лекун рассказывал миру, что «LLM – это тупик» (а Лекун ох как любит это делать). «Но я не собираюсь отказываться от своего мнения, потому что какой-то чувак говорит мне, что я не прав. Я не не прав. И моя честность как ученого не позволяет мне молчать». Напоминаем, что сам Ян в конце 2025 доработал свои последние дни в компании. Теперь ученый строит собственный стартап (подробности мы расписывали здесь)

DeepSeek предложили новую вариацию трансформера Сегодня с вами разбираем свежую громкую статью под названием mHC: Manifold-Constrained Hyper-Connections от DeepSeek. В самой статье ну очень много математики, но мы попробуем разобрать идею на пальцах. Священная корова трансформера – это residual connection (левая схема на скрине). Суть: вместо того, чтобы каждый слой полностью переписывал предыдущий, вход слоя добавляется к его выходу. Тем самым сигнал и градиенты не теряются по дороге, а плавно протекают сквозь глубину сетки без резких искажений. В 2024 ученые из ByteDance предложили расширить residual connections и сделать их многопоточными (схема посередине на скрине). Теперь остаточная информация течет по нескольким "трубам", распределяется и перемешивается. Это называется Hyper-Connections, и такой подход немного раширяет топологию, позволяет потокам обмениваться "мыслями" и действительно дает какие-то приросты. Но есть большой нюанс. Из-за HC в сети накапливается нестабильность. Матрицы H ничем не ограничены, и когда информация перемешивается, сигнал может резко усилиться или заглушиться. Это все приводит к тому, что HC не масштабируется на крупные модели. Это и есть то, что в своей работе исправили DeepSeek. Они предложили хитрый математический хак, чтобы ограничить матрицу H_res, при этом не навредив эффективности метода. Дело в том, что ее ограничивают не просто значениями, а геометрией. Авторы проецируют H_res на многообразие doubly-stochastic matrices(оно же Birkhoff polytope). Все элементы должны быть неотрицательные, суммы по строкам = 1, суммы по столбцам = 1 (совсем идеально эти свойства не выполняются, но итеративным алгоритмам матрицы к ним приближают). Основное свойство тут в том, что произведение таких матриц тоже doubly-stochastic, а еще у таких матриц среднее значение сигнала сохраняется по глубине. То есть информация продолжает распространяться эффективно, но теперь еще и монотонно и без разрушения скейлинга. H_pre и H_post при этом так жестко ограничивать не надо, потому что они служат только для сбора и разброса сигнала по потокам и не передают сигнал между слоями. Результаты: – Стабильность улучшилась на три порядка. В mHC (DeepSeek) Amax Gain ≤ 1.6, при том что в обычном HC – примерно 3000 – Качество на reasoning-бенчмарках значимо усиливается, и выигрыш не исчезает при росте FLOPs – При этом с оптимизированными ядрами по времени выходит всего +6.7% с четыремя потоками (считай, бесплатно) Из минусов – сложности с инфраструктурой и дорогое масштабирование по количеству потоков. www.alphaxiv.org/abs/2512.24880

Чем заняться на январских? Проснулись, улыбнулись, доели салаты и пытаемся не потерять время на новогодних совсем уж даром. Мы собрали для вас небольшую подборку полезного контента на выходные. Если хочется что-нибудь посмотреть:

– Новая документалка The Thinking Game про DeepMind от Google. Отличный сюжет про Демиса Хассабиса и разработку легендарных систем вроде AlphaGo, AlphaZero и AlphaFold. – Свежее интервью Ильи Суцкевера у Дваркеша Пателя. Это прямо must watch, каждый эпизод можно разбирать на цитаты. – Отличный фильм про Python этого года. В нем, кстати, снялся сам создатель – Гвидо ван Россум. Внутри – история языка, как он зарождался, развивался, и почему ML вывел его в топ-1 ЯП мира.

Если хочется поучиться:

– Stanford CS230 | Autumn 2025: новый курс по глубокому обучению с легендарным Эндрю Ыном, детально охватывающий весь DL, начиная с перцептрона и заканчивая LLM. Доп.материалы к курсу здесь. – Stanford CS224R | Spring 2025: хороший курс по RL для более продвинутых. – Вот здесь мы делали подборку еще из 5 бесплатных ML/AI курсов от топовых университетов. Все не старше весны 2025 года, так что и информация, и код – актуальны. – 12 курсов на любые ИИ-темы от Hugging Face.

Если хочется почитать:

– Отличная свежая книга по ML-системам от Гарварда. Про то, как строить, оптимизировать и поддерживать ML-решения на всех этапах – от данных и инфраструктуры до развертывания и эксплуатации. PDF, репозиторий. – The Smol Training Playbook от HuggingFace. По сути, интерактивный хардовый гайд по тому, как с нуля обучить и захостить языковую модель. – Книга Себастьяна Рашки по ML/DL, которую он недавно сделал бесплатной. 30 больших глав по нейросетям, компьютерному зрению, LLM, эвалу и методам деплоя моделей. Много практики, примеров, схем и картинок. – Статьи из топа www.alphaxiv.org/: там все самое новое и популярное среди исследователей. Туда же – huggingface.co/papers: каждый день новый топ статей.

Если ничего не хочется, просто читайте Data Secrets: тоже полезно 🍿