Data Science | Machinelearning [ru]

Reasoning From Scratch: RLVR, часть 2 Себастьян Рашка (@rasbt) выкатил вторую порцию разбора «Reasoning From Scratch: RLVR» — это про обучение с подкреплением, где награду можно проверить. Внутри: зачем вообще ограничивать отношения вероятностей политик, какую роль играет KL-слагаемое в лоссе, что дают награды за формат ответа и какие ещё трюки крутят вокруг GRPO. Видео: youtu.be/VxfUrUrrczs

00:00 Вступление и повтор того, что уже было 01:52 Как читать основные метрики обучения GRPO 06:34 Что собираются доработать в GRPO 08:58 Запуск долгого обучения через Python-скрипты 13:39 Старт базового скрипта для обучения GRPO 17:29 Подтягиваем логи обучения и рисуем графики 19:29 Разбираемся, почему обучение пошло вразнос 23:55 Прогон контрольных точек модели на MATH-500 26:26 Качаем уже готовые контрольные точки модели 30:09 Следим за статистикой преимущества 34:53 Что за зверь такая энтропия 40:32 Считаем энтропию в PyTorch 44:17 Как трактовать значения энтропии 48:58 Прикручиваем трекинг энтропии к GRPO 53:36 Разбор метрик преимущества и энтропии 56:18 Стабилизируем GRPO через ограничение отношений вероятностей политик 1:03:27 Пишем функцию потерь политики с ограничением 1:09:39 Смотрим результаты обучения с ограничением отношений вероятностей политик 1:11:25 KL-дивергенция и как обойти систему наград 1:15:12 Вставляем KL-слагаемое в функцию потерь 1:20:34 Где спотыкается упрощённая функция потерь с KL 1:23:04 Награды за формат ответа и теги think 1:25:47 Закидываем специальные токены в токенизатор 1:30:29 Реализуем награду за формат ответа 1:35:56 Разбор обучения с наградой за формат ответа 1:38:25 Награда за формат — только если ответ верный 1:40:48 Дальнейшие улучшения GRPO из исследований 1:45:43 Куда дальше и дистилляция

👉 Telegram | Max

35B-модель на RTX 5080 и RTX 3060: 109 ток/с через PCIe Gen2 x4 Чел заявляет: его 3060, посаженная на PCIe Gen2 x4, вообще не душит генерацию Qwen3.6–35B‑A3B — 109 ток/с, и плевать она хотела на узкую шину. Почему это в принципе работает, он раскладывает в статье. Читать далее 👉 Telegram | Max

Как не спалить токены AI-агента на кодовой базе: 5 паттернов на все случаи AI-агенты уже не просто клепают отдельные функции — они влезли в обычный процесс разработки по-настоящему. Роются в живых проектах, ищут нужные файлы, разбирают архитектуру, гоняют тесты и проверяют, что получилось. И это вообще не про какой-то один стек: агенту без разницы, лепить страницу во frontend-приложении, поднимать endpoint на backend, править схему базы, возиться с очередью сообщений, чинить data pipeline, обновлять CI/CD или накатывать новый сервис. И вот тут на приличной кодовой базе вылезает засада: токены улетают куда быстрее, чем растёт объём реально написанного кода. Всё потому, что здоровенный кусок токенов сгорает ещё до того, как в проекте появится первая строчка кода. Читать далее 👉 Telegram | Max

NVIDIA открыла исходники PersonaPlex-7B Голосовой ИИ давно упирался в одно жирное ограничение — и NVIDIA его, похоже, снесла: код болталки PersonaPlex-7B теперь лежит в опенсорсе. Фишка в полнодуплексном режиме — она слушает и говорит одновременно. Хватит тупо ждать, пока ты договоришь. Внутри двухпоточная архитектура: речь и ответ обрабатываются прямо в реальном времени. Код открыт целиком, юзай бесплатно. PersonaPlex-7B 👉 Telegram | Max

Детектор ИИ-текста на коленке: что из нейрослопа реально ловит код, а что до сих пор расхлёбывает живой редактор Автор прогнал через свой детектор 12 признаков нейрослопа — то есть текста, который родила нейронка и никто потом не вычитал. Пять признаков скрипт берёт на себя, причём два — только частично. Оставшиеся семь держатся исключительно на правилах для редактора. А на пробе мимо скрипта спокойно проплыли две классические вводки: «В этой статье мы рассмотрим» и «Вывод простой» с двоеточием. Онлайн-детекторы выдают тебе процент и молчат про то, что вообще чинить. Да и сам процент — опора так себе: у Liang и соавторов семь детекторов в среднем записали в машинные 61% эссе TOEFL, написанных живыми людьми, для которых английский не родной. OpenAI свой классификатор прикрыла летом 2023 года — точность никакая. Точечная проверка устроена иначе: она тычет пальцем в конкретную фразу и правило, и по каждому срабатыванию можно спорить отдельно. Редакторы Википедии держат открытый список признаков ИИ-текста и прямым текстом пишут: признак — это намёк на возможную проблему, сам по себе он ничего не доказывает. Скрипт живёт по той же логике: он вынюхивает следы невычитанного текста, а авторство не палит. Общий балл этого детектора уже разбирали на Хабре 👉 Telegram | Max

LLM, боль и хайповый препринт: что там на самом деле По телегам снова понеслась волна: учёные, мол, откопали в LLM вектор боли — значит, модель умеет страдать. Насколько искусственен искусственный интеллект? И не пора ли уже прописать этику обращения с ИИ? А статья — про то, что авторы реально написали и какие выводы из этого честно вытекают. Читать далее 👉 Telegram | Max

Гоняй свои ML-стратегии по истории рынка, а не по собственному кошельку. Сначала прогон — потом реальные бабки. Причём проверяй не одну бумажку, а сразу пачку инструментов. И модели должны имитировать живую торговлю, а не что-то оторванное от реальности. Данные для этого тащат из Yahoo и Alpaca: pybroker 👉 Telegram | Max

«И тут по щелчку навайбкодил SaaS» — а что осталось за кулисами сказочного успеха Cal AI, Rork и Base44 Со стороны Cal AI, Rork и Base44 — чистый триумф вайбкодинга. Школьник разгоняет приложение до десятков миллионов долларов. Двое основателей, сидящие в долгах, поднимают $2.8 млн инвестиций. Соло-разработчик за какие-то полгода толкает Wix свой продукт за $80 млн. Выглядит так, будто хватит запустить Claude Code, нагенерить SaaS — и сидеть ждать, пока бабки сами приедут. Автор пошёл копать, что творилось за кадром. А за этой красивой картинкой — опыт, былые провалы, деньги, маркетинг, команда. Сам вайбкодинг тут — лишь один кусок пазла. Читать далее 👉 Telegram | Max

🤣 Этот на все согласен 💥 xCode Journal

Разработчик больше не обязан выполнять каждую задачу вручную. Но сможет ли ИИ-агент действительно помочь в работе? ИИ-агенты уже умеют анализировать код, работать с инструментами, искать ошибки и выполнять последовательность действий. Но важно понимать, какие задачи им можно доверить, где они действительно экономят время и как сохранить контроль над результатом. На открытом уроке 19 октября в 20:00 МСК в преддверие старта курса «Разработка ИИ-агентов» разберем, как создавать и применять агентов в реальной разработке. Вы узнаете, какие задачи можно делегировать ИИ-агентам, как они работают с кодовой базой и внешними системами, где помогают ускорить процессы, а где требуется участие разработчика. Урок будет полезен разработчикам, техническим специалистам и тимлидам, которые хотят использовать возможности ИИ не только для генерации кода. Откройте новый подход к разработке. Регистрируйтесь на открытый урок: https://vk.cc/d2JlHA Реклама. ООО «Отус онлайн-образование», ОГРН 1177746618576

OpenBPM 2.0 приехал В «Хоулмонте» инженеры пилят русскую платформу OpenBPM. Что это по сути: bpm-движок плюс обвязка из профильных инструментов вокруг него — чтоб автоматизировать контору целиком, а не по кусочкам. И вот они выкатили OpenBPM Engine v.2.0 — это, по сути, продолжение той самой истории с форками «7-ой камунды». Релиз — коллективный труд кучи команд, собран на самых свежих java-фреймворках, и отличий там хватает принципиальных. Переезд на Spring Boot 4 вместе с плотным использованием Spring AI — это реально новые горизонты для тех, кто клепает процессные приложения. Инноваций напихали столько, что без чтения migration-гайдов никуда: они и помогают перенести проекты на эту базу без нервов и сюрпризов. Подробности в статье 👉 Telegram | Max

Разбираем decision-модели по кишкам: что внутри Jev, Clef, pplx-decider, Strands Decider, Laya и GLiDE 15 сентября TypeSafe выкатила Jev и объявила её первой моделью класса System One. На вход — состояние системы плюс пачка типизированных вопросов, на выходе — распределение вероятностей по допустимым ответам. И всё это за один прямой проход, никакой генерации токенов. За 16 дней та же идея обросла ещё пятью реализациями: Clef и Clef-flash от Cloudflare, pplx-decider-v1-27b от Perplexity, Strands Decider 2B от AWS, Laya от Convai Innovations и GLiDE от Fastino. Миллион решений у самой дешёвой — 12 долларов, а у Claude Sonnet 5 в роли классификатора — 700. Дальше: как устроены все шесть, что показывают независимые замеры и что проверить, прежде чем тащить это в прод. Читать далее 👉 Telegram | Max

Европа тоже влезла в гонку языковых моделей: Германия впервые выкатила модель с результатом под 97% в математике. Kolibri от Aleph Alpha: 78 млрд параметров, активных — 3,46 млрд, контекст до 1 млн токенов. Веса открыты, лицензия Apache 2.0. А для дообучения взяли ответы китайских моделей — GLM от Zhipu и Qwen от Alibaba. Так что годные небольшие модели умеют собирать не только в Штатах и Китае. 👉 Telegram | Max

Google выкатила EmbeddingGemma 2 Открытых мультимодальных моделей под эмбеддинги до неё не существовало. Жуёт текст, код, картинки, видосы и звук — всё из коробки. 740 млн параметров, архитектура модульная. И это не про дата-центры: её затачивали под запуск на самом устройстве. Причём часть узкоспециализированных моделей, которые тяжелее её больше чем вдвое, она обходит. А в паре с Gemma 4 выходит полностью локальный RAG с уклоном в приватность. Блог Google | Модель на Hugging Face | GGUF-версия 👉 Telegram | Max

Матан: три подборки по основам 1. База по математике для машинного обучения 2. База по математике для генеративных моделей 3. База по математике для генеративного ИИ 👉 Telegram | Max

Что почитать разработчику? Разборы Алексея Рыбака Пишете backend и хотите глубже понимать архитектурные решения? В канале Алексея Рыбака есть что разобрать: • Микросервисы – какой ценой? Почему они могут стать неподъёмным «налогом» для стартапа • Очереди сообщений – что выбрать? Чем отличаются решения и для каких задач подходят • AI – помощь или новая нагрузка? Как меняется работа мейнтейнеров PostgreSQL, когда генерировать отчёты об ошибках становится проще, чем проверять А ещё – System Design Framework, производительность, масштабируемость и блокировки СУБД. В канале выходят и анонсы AI-митапов и обучения разработке с агентами Начните с интересующей темы и подписывайтесь на канал Алексея! Подписаться #реклама 16+ О рекламодателе

Яндекс открыл YTsaurus Flow: обработка данных в реальном времени для более точных рекомендаций Рекомендательные системы и реклама живут на свежих данных о пользователях. Но клики и заказы обычно не летят в обработку сразу, а сначала накапливаются, и задержка может растянуться на часы. За это время интересы человека могут смениться. Теперь технология в опенсорсе: Flow разгребает такие события по мере поступления. Под капотом exactly-once (ни потерь, ни дублей), устойчивость к сбоям и работа в рамках платформы YTsaurus, где накопленная и свежая информация учитывается в одной системе. Flow уже крутится в Маркете, антифроде и Рекламе Яндекса. В Рекламе через него ежесекундно идёт больше 100 ГБ, подготовка данных для дообучения части моделей раньше занимала больше 10 часов — теперь эту задержку почти полностью убрали. Вне рекламы Flow сгодится для ML-датасетов, онлайн-счётчиков просмотров и заказов и обновления информации на сайтах и в приложениях. Лицензия Apache 2.0 не мешает использовать его и в коммерческих проектах. Читать далее 👉 Telegram | Max

Парсить текст без LLM? Проект Real AI SA всё ещё дышит С прошлого поста об этой штуке прошло больше двух лет. Автор наконец-то вылез из норы и поведал, чем живёт проект и во сколько он уже влетел. Без воды: сожжено 8 000 000 рублей, в базу знаний анализатора закинули порядка 5000 понятий, а ещё прогнали бесплатный пилот. Напоминаем суть: тут пилят семантический анализатор, который собирает граф из текста и при этом обходится без больших языковых моделей (LLM). Читать далее 👉 Telegram | Max

Защитит ли ИИ от дрона? Разрабатываем умный прицел За последние годы война пережила самую настоящую дроновую революцию: FPV-птички массово жгут и технику, и живую силу. И фишка тут не в наворотах — прошлые революции как раз строились на крутых технологиях и таком же крутом ценнике. А эти берут ценой. Один копеечный аппарат разбирает железо, которое дороже его в тысячи раз, а порой и снаряд ПВО тянет заметно больше самой цели. Военная техника кое-как огрызается: обросла антидроновыми «зонтиками» и «усами», навесила активную защиту и антидроновые турели. А вот с переносным, которое реально вытащит пехотинца, всё куда печальнее. Читать далее 👉 Telegram | Max

Один агент — и уже AI-холдинг: как раздувают автономные AI-системы Отдельные задачи ИИ, ясен пень, ускоряет. Но вот когда процессов и проектов становится всё больше, управление ими всё ещё висит на человеке. Автор на своих экспериментах показывает дорожку от одного агента к AI-организации и объясняет, на кой чёрт под несколько направлений может понадобиться AI-холдинг. Читать на Habr 👉 Telegram | Max