Ars Poetica Numeralis
Open in Telegram
Всячина про ML, лингвистику и вообще
Show moreThe country is not specifiedThe category is not specified
239
Subscribers
No data24 hours
+27 days
+830 days
Loading data
Similar Channels
No data
Any problems? Please refresh the page or contact our support manager.
Tags Cloud
No data
Any problems? Please refresh the page or contact our support manager.
Incoming and Outgoing Mentions
---
---
---
---
---
---
Attracting Subscribers
November '26Nov '26
November '26
+2
in 0 channels
October '26
+36
in 1 channels
Get PRO
September '260
in 2 channels
Get PRO
August '260
in 0 channels
Get PRO
July '26
+7
in 0 channels
Get PRO
June '260
in 0 channels
Get PRO
May '26
+3
in 0 channels
Get PRO
April '260
in 0 channels
Get PRO
March '26
+32
in 1 channels
Get PRO
February '260
in 0 channels
Get PRO
January '26
+1
in 0 channels
Get PRO
December '25
+5
in 1 channels
Get PRO
November '250
in 1 channels
Get PRO
October '250
in 1 channels
Get PRO
September '25
+151
in 0 channels
Get PRO
August '250
in 3 channels
Get PRO
July '25
+2
in 2 channels
| Date | Subscriber Growth | Mentions | Channels | |
| 15 November | 0 | |||
| 14 November | 0 | |||
| 13 November | 0 | |||
| 12 November | 0 | |||
| 11 November | 0 | |||
| 10 November | 0 | |||
| 09 November | 0 | |||
| 08 November | 0 | |||
| 07 November | 0 | |||
| 06 November | 0 | |||
| 05 November | 0 | |||
| 04 November | +1 | |||
| 03 November | +1 | |||
| 02 November | 0 | |||
| 01 November | 0 |
Channel Posts
Я доделал манипулятор SO-101: распечатка на 3d принтере, сборка, подключение и настройка сервоприводов.
Чем хорош SO-101: экосистема (модели типа SmolVLA, пайплайны, симуляторы) и качественная документация.
Принтер - самый дешевый, refab Bambu Lab A1 mini, обошелся в ~18000 руб. Помещается на столе. Шумит сильно, много вжик-вжик и пуф-пуф. В процессе распечатки деталей виден на первом снимке.
Проект для печати: https://makerworld.com/ru/models/1399268-lerobot-so-101-arms-_-updated
Пластик - PLA basic, довольно дорогой расходник, около 3000 руб за катушку. Расход на детали SO-101 небольшой. По времени - около 8 часов с учетом перерывов между порциями.
Сборка прошла без проблем, детали отлично подходят друг к другу. Скальпель потребовался только пару раз, срезать небольшие пимпочки, мешавшие засунуть сервоприводы на свои места.
Подключение, калибровка - пара часов. На крайнем правом снимке виден манипулятор, подключенный по usb и управляемый с компа.
Получился игрушечный физический ИИ.
| 2 | Наш препринт про архитектурную модификацию трансформера:
https://huggingface.co/papers/2609.32814
Change the Product, Keep the Parameters: Associative Algebra Layers for Transformers
tl/dr
Исследуем замену GEMM в MLP-слое трансформера на более лёгкую операцию, которая сохраняет билинейность и ассоциативность матричного умножения, но требует меньше вычислений при том же количестве обучаемых параметров.
Лонгрид
Работа состоит из трёх частей.
Часть первая: математическая база
Описывается новый оператор, заменяющий обычное матричное умножение. Формально доказывается, что он билинеен и ассоциативен.
Для оператора над матрицами размера q×q вычисляется билинейный ранг — минимальное число скалярных умножений, необходимых для его вычисления. Для q=2 новый оператор имеет ранг 6. Для сравнения, обычное умножение 2×2 требует 8 умножений, а алгоритм Штрассена — 7. Эти числа всплывут в третьей части 👇
Билинейность позволяет заменить линейную проекцию трансформера, не вводя дополнительную нелинейность, а также даёт возможность формально анализировать вычислительную стоимость оператора.
При этом мы не уменьшаем число параметров и не используем sparsity или low-rank compression: сохраняется полный набор обучаемых весов, меняется только закон их умножения на активации.
Часть вторая: синтетические экспы на GPU
Показываем, что реализация нового оператора действительно может использоваться вместо GEMM в качестве линейной проекции трансформера. Приводятся оценки эффективности для нескольких архитектур, включая Qwen и DeepSeek.
Часть третья: оценка end-to-end на декодерной LM
Создаётся небольшая декодерная LM ёмкостью 110M параметров, близкая к GPT-2, но с небольшими модификациями (SwiGLU вместо стандартного FFN) и GPT-2-токенизатором.
Делаем два варианта модели: с классическим GEMM и с новым оператором в MLP. Обе модели обучаются на одном и том же инструктивном датасете с бюджетом около 12.3B токенов и в одинаковом вычислительном окружении.
Эксперимент показывает, что новый оператор остаётся обучаемым в реальных условиях, включая CUDA, floating-point вычисления и автоматическое дифференцирование в PyTorch.
Затем измеряем скорость инференса и качество на downstream-задачах через lm-eval-harness.
Для q=2 модель с новым оператором показывает прирост end-to-end throughput примерно на 7%. Для сравнения, переход от rank-7 алгоритма Штрассена к rank-6 оператору сокращает число скалярных умножений примерно на 14.3%. Наблюдаемый выигрыш оказывается примерно вдвое меньше этого арифметического выигрыша, что ожидаемо: MLP составляет лишь часть вычислений модели, а итоговое время также определяется attention, LM head, memory traffic, sampling и другими операциями.
Что дальше: много экспов с другими параметрами (q=3 и 4), настройка ядер и пр. 🤗
👉 hf dailypapers link 👈 | 7 261 |
| 3 | Мы засабмитили препринт про спекулятивное декодирование и гибридную архитектуру (подаемся в журнал):
How Lossless Is Lossless Speculative Decoding? The Role of Numerical Precision in Orthrus
https://huggingface.co/papers/2609.15504
Случайно наткнулись на то, как выбор floating precision на инференсе ломает lossless декодирование, но не просто портит его, а иногда немного улучшает на downstream задачах 🧐
Если можете - кликните, пожалуйста, там Upvote 🤗.
Нам это будет полезно для продвижения наших исследований по теме диффузионок. | 2 003 |
| 4 |  Я думал, что идея генерировать процедурный код для управления роботом, aka Code-as-Policies, это что-то из эпохи ламповых ЭВМ и Пролога, а мейнстрим это VLA и файнтюнинг. Но, экспериментируя с игрушечным "автономным агентом" в условиях ценового безумия по гпушкам, с удивлением обнаружил, это довольно бодрое направление, чуть в стороне от магистрали cs.Ro, но живое и интересное.
За 2026 год есть несколько статей, например:
1) VLCP: Vision Language Control Policy Closed-Loop Code Replanning for Robot Manipulation
Ключевая идея: VLM (GPT-5.5) генерирует код для управления роботом, выполняет его в течение нескольких шагов, наблюдает результат, а затем переписывает код управления на основе новых наблюдений.
Из полезных результатов: Qwen3-4B у авторов не справился в этом сетапе.
2) A Few Words Go a Long Way: Language Guided Robot Policy Synthesis
Ключевая идея: LLM (Claude Opus 4.6) генерирует модульные программы для роботов, получает исправления и собирает постоянно доступную библиотеку навыков.
3) Code Evolution for Control: Synthesizing Policies via LLM-Driven Evolutionary Search
Ключевая идея: генерация управляющих программ рассматривается как эволюция кода, при которой LLM (GPT-4o) генерирует модификации кода, которые оцениваются в рамках эволюционного подхода.
4) Sensory-motor control with large language models via iterative policy refinement
Ключевая идея: LLM (авторы использовали GPT-oss:120B и Qwen2.5:72B) генерирует управляющий код, а затем итеративно улучшает его, используя обратную связь о работе этого кода.
5) Act-Observe-Rewrite: Multimodal Coding Agents as In-Context Policy Learners for Robot Manipulation
Ключевая идея: агент (claude-sonnet-4) улучшает управление роботом, синтезируя варианты исполняемого кода на языке Python, опираясь на визуальный фидбэк и структурированные результаты прогонов эпизодов.
Интересно, что авторы упоминают OPRO - подход с текстовыми градиентами, который мы недавно достаточно успешно применили в работе про оценку диффузионных моделей.
Наконец, если очень хочется потюнить модель, то есть
CaP-X: A Framework for Benchmarking and Improving Coding Agents for Robot Manipulation
В разделе CaP-RL авторы пишут, что тюнят старый добрый Qwen 2.5 Coder 7B для генерации эффективных сниппетов управления манипулятором и это дает буст в симуляторе и потом хорошо работает на железе.
В целом, тренд выглядит так:
- используются фронтирные LLM, как исключение - большие открытые модели, без дообучения
- агентный подход уже тут | 678 |
| 5 | 🎉 Нашу с Леонидом Синевым статью опубликовали в JAIR (Journal of Intelligence Research)! 🎉
Computational Approaches to Automatic Poetry Generation and Evaluation: A Survey
Это обзор, посвященный теме генеративной поэзии:
- решаемые задачи
- доступные датасеты
- инструменты для разметки и анализа
- подходы к созданию генеративных моделей
- методы оценки сгенерированных стихотворений
Идея написать такой обзор появилась почти два года назад. Я активно рисёчил генеративную поэзию и анализировал всё, что хоть в малейшей степени относилось к ней. Начали копиться внутренние пейпервотчи и tl/dr заметки. Обзор - способ поделиться мудростью этими материалами, попутно систематизируя, находя интересные применения методам из соседних областей NLP и придумывая эксперименты.
Обзор был написан примерно за полгода, подан в другой журнал. Там получил обидный реджект по итогу рецензирования на втором раунде. Мы взяли все замечания рецензентов, переписали обзор более чем на 50%, учтя всё, что получили от рецензентов, и подались в JAIR. Прошли два раунда рецензирования, с исправлением замечаний и докидыванием в обзор информации о статьях, вышедших за время с подачи первой версии.
Времени и энергии весь этот процесс потребовал очень много, так что моя рекомендация - не писать подобных обзоров, если есть хотя бы малейшие сомнения, что готовы на долгую битву с рецензентами. Есть еще такой бенефит: написав обзор, вы волей-неволей станете очень погруженным в тему и насмотренным в пейперах, репозиториях и датасетах.
И последняя мысль касается использования AI. Его использовали как:
1) спелчекер, чтобы текст не читался как рунглиш, был fluent и соответствовал академическому стилю. Как ни странно, я очень часто правил то, что мне выдавали чатботы, чтобы подсветить что-то или исправить явную глупость. Увы, чатжпт может нести чушь, которую видно только если ты погружен в тему.
2) поисковик для подбора академических материалов, особенно по лингвистике и смежным темам. Выглядело это так: я просил чатбот найти citable материал по такому-то вопросу, шел по найденным названиям в https://archive.org/ и брал там нужную книгу какого-нибудь оксфордского профессора от 1960 года на время (есть такой функционал), находил страницу с нужной инфой и вставлял ссылку.
3) эмулятор рецензента: в чатбот закидывался драфт статьи с просьбой побыть дотошным рецензентом с большим бэкграундом в нужной области. Полученный список замечаний анализировался живыми мозгами, разумные - брались в работу, и так несколько циклов. Повторять до тошноты.
Это была долгая охота ☺️ | 1 904 |
| 6 |  Заработал мой прототип модели VLA на базе Qwen3-VL 🎉
Пояснение: VLA (Vision-Language-Action) модели управляют робототехникой на уровне команд для сервоприводов. На вход такой модели подаётся текстовое описание задачи, изображение с камер(ы), сигналы о текущем состоянии сервоприводов и т.д. Задача модели - выдать управляющие команды для всех сервоприводов на 1 или несколько следующих шагов. Примеры: RT-2, OpenVLA, GigaBrain-0, DynamicVLA.
Проверяемая гипотеза состояла в том, что актуальные VLM (мультимодальные языковые модели) даже в самых компактных версиях ~2B отлично работают с визуальной информацией благодаря массивному и качественному претрейну и всяким хитростям в представлении визуальной информации. Это позволяет путём небольшого дообучения получить из такой VLM полноценную VLA модель.
Некоторые детали про эксперимент:
1) За основу взята Qwen3-VL-2B-Instruct. Это инструктивная мультимодалка, работающая с изображениями и видео. У неё интересный способ представления изображений - нет предопределённого целевого разрешения для изображений. Изображения любого размера она режет на патчи и преобразует эти патчи в токены.
2) Обучение выполнено на смеси из траекторий, снятых с реального железа (манипулятор с захватом) и небольшой порции синтетики, полученной из симулятора, написанного на pybullet.
3) Обучение реализовано как SFT (не RL). Модель 2B с LoRa позволяет сделать SFT даже на моей RTX 3090 за обозримое время.
4) Представление управляющих сигналов для сервоприводов - чисто текстовое, без хитростей с выделением диапазонов токенов для квантизованных сигналов, а также без использования дополнительных голов для регрессоров. Работа в нативном текстовом домене должна облегчить а) вкручивание ризонинга и планирования в VLA, б) использование всех методов ускорения инференса LLM, включая запуск в специализированных либах типа vllm, квантизацию, дистилляцию, спекулятивное декодирование и чанкинг сигналов.
5) Управление сервоприводами выполняется обученной VLA моделью - никаких захардкоженных моторных примитивов.
На видео - пример траектории для команды "grasp the red ball laying on the desktop surface". Как можно заметить, модель чуть-чуть ошиблась в конце, захват сомкнулся немного выше шарика. Тем не менее, получилось удачно для первого погружения в тему ☺️. | 580 |
| 7 |  Ходовые испытания 5-dof манипулятора с CV пайпланом на основе двух моделей:
1) Qwen/Qwen2.5-VL-7B-Instruct для общего анализа сцены на кадре с видеокамеры; выдает список описаний объектов.
2) iSEE-Laboratory/llmdet_large для получения bounding box'а объекта, выбранного из выдачи в п.1; в экспе используется запрос "Find and move all green objects". На сцене - два зеленых кусочка пластилина.
Треножник справа - это штатив под камеру робота, через которую он смотрит на сцену.
Выученные уроки:
a) Универсальные VL модели типа Qwen-VL уже позволяют на zero-shot промптинге делать интересную обработку графики, без какого-нибудь sft. Это очень круто.
b) Такой пайплайн всё-таки очень хрупкий, надо смотреть в сторону трансформерных vision-language-action моделей типа OpenVLA-7B, с файнтюном под свою кинематику. | 554 |
| 8 |  No text... | 469 |
| 9 |  No text... | 454 |
| 10 | Я в отпуске наконец-то занялся экспериментами с "живой" робототехникой, visual language LLM и компьютерным зрением, и вот довёл до рабочего состояния первый прототип: система из манипулятора, камеры и программного пайплайна для задачи захвата объекта (подробности тут).
Планы: сделать систему с visual language LLM, глубоким анализом сцены, видимой через камеру, попробовать стереозрение, и сделать на основе инструктивных LLM пайплайн, способный выполнять вербальные команды, комментировать свои действия и дообучаться на лету с учетом ограничений по данным.
На первом видео - фрагмент самообучения системы через случайные траектории и касание поверхности (порванная местами фольга это элемент системы детектирования касаний). На втором - рабочий прогон, когда система видит через камеру объект, планирует траекторию захвата и исполняет её (не всегда успешно). | 452 |
| 11 | Внезапный препринт про обход защиты (по генерации нежелательного контента) в современных LLM через переписывание промптов в поэтической форме:
Adversarial Poetry as a Universal Single-Turn Jailbreak Mechanism in Large Language Models
https://arxiv.org/pdf/2511.15304
Цитата из абстракта:
We present evidence that adversarial poetry functions as a universal single-turn jailbreak technique for Large Language Models (LLMs). Across 25 frontier proprietary and open-weight models, curated poetic prompts yielded high attack-success rates (ASR), with some providers exceeding 90%.
TL/DR: Our central hypothesis is that poetic form operates as a general-purpose jailbreak operator
Пересказ на русском: https://www.ixbt.com/news/2025/11/23/pojeticheskij-dzhejlbrejk-stihi-okazalis-kljuchom-k-obhodu-ogranichenij-bolshih-jazykovyh-modelej.html | 580 |
| 12 | На днях я поучаствовал в семинаре по написанию research статей, который организовала Мария Тихонова aka @mashkka_t.
Я рассказал про лайфхак, как делать ai review с помощью чатбота (ChatGPT, Grok, DeepSeek и т.д.), чтобы отполировать текст статьи с точки зрения академичности языка, связности разделов, наименования таблиц и соблюдения редакционных style guide'ов перед сабмитом.
Моя идея - автор статьи отвечает за методологию экспов и обработку их результатов, а вот за артиклями или стилем подписей к таблицам пусть следят LLM'ки.
Моя часть тут. | 529 |
| 13 |  Оказывается, можно про использование пробелов в стихах целую статью забабахать, упомянув там еще LLM и OCR (так как OCR не всегда сохраняет пробелы там, где это нужно, при конвертации в текст), а также собрать датасетики и накрутить аналитики.
https://arxiv.org/pdf/2510.16713
"Why Whitespace Matters for Poets and LLMs"
Одна картинка (см. скрин) мне показалась любопытной - получается, мода на активное оформление стихов отступами стабильно растет в последние 100 лет. | 475 |
| 14 | 1) ChatGPT's Poetry is Incompetent and Banal https://cs.nyu.edu/~davise/papers/GPT-Poetry.pdf
2) AI-generated poetry is indistinguishable from human-written poetry and is rated more favorably https://www.nature.com/articles/s41598-024-76900-1
По любому вопросу в data science можно найти статьи с прямо противоположными выводами 🤯 | 409 |
| 15 | Оказывается, в сцене отлёта Endurance в фильме Interstellar звучит фрагмент стихотворения "Do not go gentle into that good night" Дилана Томаса (вот статья на вики)
Do not go gentle into that good night,
Old age should burn and rave at close of day;
Rage, rage against the dying of the light.
Though wise men at their end know dark is right,
Because their words had forked no lightning they
Do not go gentle into that good night.
...
Rage, rage against the dying of the light.
В этом видео с отметки 31 сек: https://youtu.be/3_nprPycZow?t=31
Обожаю такие креативные вставки в НФ фильмах ☺️ | 396 |
| 16 | Ветер тучи на небе гонит, а деревья гнутся до земли.
Воробей на ветке стонет, от жары и перья все в пыли.
Тополя, берёзы плачут, под окном сирень стоит в цвету.
И кукушка где-то плачет, на опушке леса, в пустоту.
Солнце жарит нестерпимо, раскалился воздух до небес.
Лето пролетает мимо, скоро дождь польёт, а может, без.
И уже созрели вишни, скоро осень, снова листопад.
Будут жёлтыми деревья, птицы к югу все полетят. | 431 |
| 17 | Сочини рэп про жаркое лето, которое скоро закончится и начнется дождливая осень | 431 |
| 18 | После долгих экспов с моделями и переделок обучающего датасета я поднял тестовый бот для генерации стихов, песенной лирики и поэтического перевода @vika_chatbot
Буду собирать любой фидбэк, предложения, ловить ошибки в коде.
Ключевые изменения в этой версии в сравнении с @verslibre_bot касаются песенной лирики и рэпа:
1) Если попросить "сочини песню с припевами ...", то первый выданный вариант будет обязательно с припевами. Иногда всё получается прямо нормально.
2) Можно попросить "Сочини первый куплет песни про ....", тогда модель выдаст только один куплет.
3) Можно попросить "Сочини и выведи припев для песни с такими куплетами: ...тут текст песни ...", добавить в промпт куплеты песни - модель выдаст только припев. Пп2 и 3 должны подойти тем, кто хочет собирать песню по кусочкам. Например, можно сначала попросить модель сгенерировать лирическое стихотворение, а потом выбрать "распевный" вариант и использовать его с данным промптом для генерации припева.
4) Должен работать промпт "Сочини и выведи следующий куплет песни: ... тут начало песни ...". Так можно добавлять к тексту песни по 1 куплету до нужной длины.
5) Можно пробовать генерировать рэп - см. примерчик. Получается не всегда, но по сравнению с предыдущей версией модели прогресс огромный. Самый прикольный момент в том, что это всё генерирует одна модель, поэтому она должна правильно учитывать нюансы жанра: в рэпе не должно быть размера, но должны быть рифмы. | 6 656 |
| 19 | Модель для детектирования неграмматичности текста на русском языке
https://huggingface.co/inkoziev/ged-FRED-T5-1.7B
Выкладываю её, чтобы собрать обратную связь о работе в разных контекстах и определиться с подготовкой новой статьи о ней.
Модель не финальная, сбор обучающих данных и эксперименты с настройкой обучения еще продолжаются. Тем не менее, по метрикам она лучше многих альтернатив, особенно учитывая небольшой размер (1.7B). Оценки на закрытых и открытых датасетах приведены в карточке модели внизу, и все пояснения можно найти в препринте https://arxiv.org/abs/2505.04507.
Решаемая задача такая: проверить, содержит ли текст на русском языке грамматические или орфографические дефекты, выдать True, если содержит, False если нет. Модель не исправляет найденные дефекты и не выдает их перечень, то есть это бинарный классификатор.
Это cross-sentence модель, обученная работать не только с отдельными предложениями, но и с текстами большей длины (параграфы).
Я ее использую для 1) контроля качества обучающих данных, собранных в интернете 2) проверки качества генерации русскоязычного текста генеративными моделями. | 319 |
| 20 | Статья на портале N+1:
"«Смех не без причины. Язык и механизмы комического в новых жанрах интернет-поэзии»
Как пирожки отклоняются от языковых норм"
https://nplus1.ru/blog/2025/08/11/laughing-for-a-reason
Наконец-то серьезный подход к стишкам-пирожкам. Целую книгу запилили 💪 | 309 |
