Data, Stories and Languages

​​Лайфхак для Audible Это даже в чём-то про ML. А вы знаете, что если незадолго перед продлением подписки Audible вы попробуете её отменить, Audible вам предложит большую скидку? Я это использую уже во второй или в третий раз вподряд Наверное их модель решила, что это отличный способ удержать уходящих. Я не жалуюсь :) Я очень рад, что ML-щики амазона не научили модель блефовать. А то было бы так: Я: А давай-ка я отменю подписку Audible в надежде на скидку Amazon AI: Ага, конечно. Ты ж просто скидку хочешь. Ну давай, отмени раз такой смелый. Я: ... Ладно, держи мои деньги. #life

Kaggle TPU и... local models Если вы используете kaggle tpu для чего-либо, возможно вы заметили, что в последние недели очереди на TPU стали безумными. В последние несколько недели запущенный ноутбук может ждать своей очереди 1-2 дня (!). Кажется я нашёл причину: https://www.reddit.com/r/ZaiGLM/comments/1wh7t27/glm53flash_320b_moe_running_on_kaggles_free_tpu/ https://www.kaggle.com/code/rahim3/glm-5-3-flash-on-a-free-kaggle-tpu-64-tok-s-api Кто-то придумал использовать Kaggle TPU для... сервинга glm-5.3. Остаётся надеяться, что такое забанят, ибо прям невозможно запускать тренировку/инференс. Вспоминается как когда-то давно Chris Deotte абьюзил систему и запускал сотни-тысячи ноутбуков на GPU и после этого были введены первые лимиты на GPU. #kaggle #ai

​​DevFest Essex 2026: The Agentic Era-Build. Secure. Scale. Grow https://gdg.community.dev/events/details/google-gdg-essex-presents-devfest-essex-2026-the-agentic-era/?code=save10 📅 Date: Friday, 27 November 2026 🕙 Time: 09:30 AM – 4:00 PM GMT В ноябре я буду выступать на DevFest Essex 2026 (от Google Developer Experts)!

​​Jeva: Rethinking System One Models from First Principles Недавно TypeSafe опубликовали пост о Jev, но так и не поделились деталями архитектуры. Но уже появились статьи развивающие идею и я попробовал почитать Jeva. Jev возвращает typed decisions напрямую, без рассуждений. Авторы Jeva считают, что такой дизайн пока не очень хорошо работает и формулируют четыре требования, которым подобные модели должны следовать: - отличать "ничего не подходит" от "непонятно, что подходит" - не зависеть от порядка вариантов - масштабироваться на большие наборы вариантов - переиспользовать вычисления для повторяющихся вариантов вроде реестра tools Jeva закладывает их прямо в архитектуру: - Независимое кодирование: общий бэкбон Qwen3.5-4B отдельно кодирует запрос и каждый вариант, как bi-encoder, поэтому векторы вариантов можно закэшировать. - Decision block: состояние запроса делает cross-attention к векторам вариантов, и обновляется только оно, а скор варианта считается как dot product с обновлённым состоянием. - Coverage gate: отдельная оценка того, подходит ли хоть один вариант, тогда как softmax отвечает только на вопрос, какой именно. В результате показывают хорошие метрики: sota по 7/8 бенчмарков, null detection 98.66% AUROC против 93.61% у Kev-4B. И при перестановках вариантов предсказание стабильное, в то время как даже самый стабильный бейзлайн, Jev-1.13.0, меняет ответ в 17% случаев. Paper Code Project Мои обзоры: Блог Medium #paperreview

Рекомендую канал Хочу порекомендовать вам "Мысли Рвачева" (@rvnikita_blog) - канал Никиты Рвачева про AI на практике: как он сам работает с Claude Code и агентами, что нового у Anthropic и других лабораторий и как устроена экономика AI. Никита много экспериментирует с агентами сам: от автоматизации некоммерческой детской студии в Нью-Йорке, где он сооснователь, до бытовых задач вроде отправки бумажного письма в банк. Поэтому посты получаются конкретными, с рабочими приёмами и честными историями о том, где агент ошибся. Ещё Никита ведёт Lecture Club: участники неделю смотрят лекции открытого университетского курса, а потом час обсуждают их на созвоне. Весной разбирали стэнфордский Economics of the AI Supercycle (датацентры, энергия, кто зарабатывает на AI), сейчас идёт Princeton Introduction to Robotics: motion planning, SLAM, imitation learning, VLA-модели. Записи созвонов и саммари обсуждений выходят в канале. Посты, которые мне зашли: - Лучшие строчки в CLAUDE.md - правило, по которому каждый ответ агента заканчивается action-блоком: что агенту обязательно нужно от тебя, а что можно сделать по желанию. - Ассистент сам добился, чтобы Никиту пустили на хакатон: Telegram-бот поверх Claude Code нашёл организаторов, обошёл два платных ограничения, и через час пришло подтверждение регистрации. - Context engineering: почему не стоит закидывать в контекст всё подряд и зачем саб-агентам возвращать оркестратору только выжимку. - Разбор S-1 Anthropic: выручка, убытки, расходы на compute и необычная для публичной компании структура управления - AI и выгорание: производительность выросла, но вместе с ней и нагрузка. Когда ведёшь 8-12 задач параллельно, к концу дня мозг кипит. Если вам интересно, как агенты справляются с реальными задачами, загляните: @rvnikita_blog

In the first episode of Beyond the Leaderboard, three Orbit Wars competitors weigh scale against clever engineering: • Isaiah Pressman (https://www.linkedin.com/in/isaiah-pressman-b4b431221/) previously finished 2nd in a competition on his home PC, behind a team running 8 H100s. This time, he won on a cluster, betting that reinforcement learning almost always improves with more compute. • Simon Jégou (https://www.linkedin.com/in/simon-jegou/) competed with about an eighth of the winner's compute. He tried three approaches before landing on his 2nd-place solution. • Gerardo Nahuel Del Toro (https://www.linkedin.com/in/gerardo-del-toro/) reached the top 2% on a single GPU and says massive hardware brings its own problems. Kaggle's Addison Howard hosts the full episode here: https://youtu.be/udrXyYygddo #kaggle

​​Beyond LLMs: The Next Frontier of AI — Sahir Maharaj Я получил от Packt очередную книгу на ревью. Она про то, что строится вокруг языковой модели в production-системе: явное состояние, память, агенты с ограниченными правами, детерминированные правила, evaluation и контроль стоимости. Основной тезис: большинство сбоев в production - архитектурные. Есть end-to-end пример: SupportOps AI (ассистент службы поддержки), который вырастает от одного вызова модели в первой главе до multi-agent системы со слоем правил в конце. Из интересного: книга постоянно возвращается к вопросу, относится ли задача к языку или к логике и состоянию. Понять, что имеет в виду клиент - это про язык, а проверить, есть ли у него просрочка, или посчитать сумму возврата - про логику: "The model does the understanding. The code does the deciding." На этом построен паттерн propose-then-constrain: модель предлагает ответ или действие, а детерминированные правила решают, выполнить его, отправить на доработку, заблокировать или передать человеку. В медицинском чатботе в MTS AI, где я вёл NLP-часть, у нас было такое разделение задолго до LLM: модели извлекали симптомы и их атрибуты, а бот задавал шаблонные вопросы, пока все слоты не были заполнены. Классификация у нас была на TF-IDF с логрегом, и книга тоже пишет, что для узкой классификации с большим потоком запросов хорошо настроенный логрег часто выигрывает у LLM по стоимости и latency. Главы про агентов — о том, как ограничить действия модели, и в книге есть хорошая фраза на эту тему: "Prompts can be interpreted around; a state that mechanically hides the tool cannot." Книга годная. Amazon Code Author Мои обзоры: Блог Medium #bookreview

Короткая мысль про Kaggle Сегодня у меня была очень ироничная ситуация. Вначале мне в LinkedIn пишет незнакомый человек: "I'm moving from leading AI education ... into applied ML and AI product work, so your path into Careem and Meta really caught my eye. Can I ask what you think got you hired? Was it mainly your Kaggle record, or were there particular projects that helped you stand out?" Я хотел было ему ответить, мол Kaggle - это хорошо, но в наше время в больших компаниях он мало значит. И вдруг, буквально через пару часов, вижу, что мне кто-то написал в личку на работе. Смотрю - а это advisor моего текущего проекта (IC7 ~principal) написал мне "btw Andrey... just saw that you are a kaggle grandmaster. Cool!" Теперь я не могу сказать, что Kaggle мало полезен в бигтехе. #kaggle #career

​​Bioware закрылась Пост не про AI, а про игры. Bioware закрывается. Увы, в последние годы компания скатилась - в это виню EA. Я пропустил эпоху Baldur's Gate, но запоем играл в NWN - это была моя самая первая компьютерная игра. В то время у меня только появился первый компьютер, и он был таким слабым, что NWN регулярно лагала и вылетала. Но я всё равно прошёл её много (наверное 3-5 раз первую часть и основные expansions). А потом появился Dragon Age Origin. Я уже не помню сколько раз я её проходил, но точно попробовал все origins и все основные выборы. В ней прям ощущался дух mythical, whimsical. И наверное она была самой grimdark в серии, с возможностью делать реально злые/трешовые поступки. Драконы были действительно эпичными врагами (а не просто мини-боссами как в следующих играх). Dragon Age Inquisition страдал от механик multiplayer, но всё равно был годной игрой. Ушла эпоха.

​​GPT-Live-1.1 Новости из openai discord

​​Kaggle redesign Сегодня внезапно узнал, что Каггл получил редизайн. Сразу ворчать не буду, ибо, как известно, люди часто негативно относятся к изменениям. Но жаль, что медальки теперь - просто кружки с градиентами #kaggle

​​О пользе LLM для изучения языков Просто хочу поделиться тем, что в наше время можно очень удобно использовать LLM даже в режиме чатика. Учу японскую грамматику, продвинутая даётся тяжело, нередко делаю ошибки. Тогда я просто попросил ChatGPT сделать интерактивные упражнения - и буквально за минуту он всё сделал. Очень удобно #ai

Amazon AI создаёт summary о вас. Это работает ужасно Люди заметили новую фичу на Amazon. Откройте https://www.amazon.com/slc/hub, проскролльте вниз и нажмите "Manage your information" - вы увидите, что Amazon знает о вас. Там часть информации адекватна, часть бесполезна, часть безумна. Я плачу

​​GPT‑6 and Intelligent UI for everyone https://openai.com/index/gpt-6-for-everyone/ OpenAI выкатили новый UI - интерактивное, мол удобнее для исследований, поиска информации и вообще для всего. Выглядит любопытно

ML Roadmap 2026 A machine learning roadmap for beginners in 2026 Те кто застали ODS, возможно помнят как в далёком 2018 году я выкладывал roadmap - он был довольно популярен. Но с тех пор утекло много времени, частично он устарел. Я давно хотел написать новую версию, но прокрастинировал. Наконец, после моего недавнего доклада для пакистанских студентов, я собрался с силами и закончил блогпост. В нём рассказываю что стоит изучать, как развивать навыки, как готовиться к собеседованиям, как использовать AI с пользой и так далее. Medium #career #datascience

​​NVIDIA Kumo Tabular https://huggingface.co/blog/nvidia/kumo-tabular NVIDIA выпустила новую либу для табличных данных. Тренировали исключительно на синтетических данных. Уверяют, что модель лучше всех конкурентов на TabArena leaderboard. Правда на официальном лидерборде этой модели нет. Верим в успех? #datascience #ai

Kaggle: я свободен! Разбанили! И я был ни в чём не виновен :) "After reviewing the information and other materials submitted in your appeal, we have decided to reverse our prior decision, and have taken action to reinstate your content and/or account on our platform. This restriction was in response to recent unauthorized activity on your account, which was a result of unauthorized third-party access rather than deliberate policy violations on your part." #kaggle

​​Меня тут это... на Kaggle забанили говорят, что за автоматизацию Единственная причина о которой я подозреваю - клод засабмитил ноутбук на тпу и проверял его статус раз в час или раз в полчаса Подал appeal, жду #kaggle

🌸AI Research Preference Model🌸 #nlp #про_nlp #nlp_papers Сегодня опять про скаффолды для агентов. Мы уже говорили про то, хорошая ли идея применить сверху preference models для оценки потенциала идей (спойлер: нет). А что, если попробовать обучить такую preference-модель не на вкусовщине (новизна идеи, "вкус", интуиция и т.д.), а на верифицируемом сигнале? Про это наша новая статья — “AI Research Preference Models”. 🌸TL;DR Главная проблема: AI-агент может быстро придумать множество вариантов эксперимента, но полноценный запуск каждого варианта — обучение модели и оценка результата — требует часов работы GPU. Поэтому критически важно заранее понять, какие идеи действительно стоит проверять. Мы предлагаем Research Preference Model (RPM) — модель, которая сравнивает несколько предложенных решений и выбирает наиболее перспективное до их полного запуска. В идеале, такая модель может выучить паттерны лучших практик МЛ, чтобы использовать эту информацию для попарного сравнения экспериментов, какой будет более перспективным. Рассматриваются два варианта: Inference-only RPM анализирует планы, код и результаты предыдущих экспериментов только при помощи рассуждений LLM. Agentic RPM дополнительно проводит дешёвые пилотные эксперименты: запускает сокращённое обучение (5 минут, 30 минут, 4 часа), проверяет код и использует полученные метрики для выбора. 🌸Агент RPM встроена в исследовательского агента AIRA-dojo. На каждом шаге агент генерирует 15 вариантов продолжения, после чего RPM проводит попарное сравнение и отправляет на полноценный запуск только победителя. 🌸Данные Эксперименты проведены на 20 задачах AIRS-Bench, охватывающих языковое моделирование, математику, биоинформатику и временные ряды. Каждому запуску предоставлялись 24 часа на одной H200 GPU. 🌸Основные результаты обычный AIRA-dojo: 0,684 среднего нормализованного балла; с Inference-only RPM: 0,711; с Agentic RPM: 0,729; теоретически достижимый результат: 0,748. Обе RPM достигают результата обычного 24-часового агента примерно за 15 часов, то есть требуют примерно в 1,5 раза меньше вычислений. Кроме того, были получены новые SOTA: 94,1% на WinoGrande против прежнего агентного SOTA 90,4%; 95,7% на SVAMP против опубликованного человеческого SOTA 94,2%. 🌸Главный вывод статьи: прогресс исследовательских агентов зависит не только от способности генерировать хорошие идеи, но и от умения выбирать, какие идеи заслуживают дорогой экспериментальной проверки. Дополнительные вычисления выгодно тратить не только на генерацию решений, но и на их предварительный отбор, основанный на предсказуемых и верифицируемых сигналах. Сигнала от мини-версии эксперимента, с первых 5 минут, бывает вполне достаточно! Проверено на одном скаффолде, но для всех tree-search подходов такой апгрейд должен сработать. 🟣Arxiv https://arxiv.org/abs/2608.13940 🟣Alpharxiv https://www.alphaxiv.org/abs/2608.13940