CoreInfra

– @tthread

Сегодня вышла GLM 5.3 Flash. Эта модель встает в один ряд с такими дешевыми, но мощными моделями, как GPT 5.6 Luna и DeepSeek v4 Flash Vision. Она особенно интересна двумя фактами: 1. это первая GLM-модель, которая одновременно умеет vision и хорошо пишет код 2. она работает полностью на китайских чипах В ближайшие 2 недели она доступна по промоценам. Попробовать ее можно прямо у нас на хабе. - @razmser

Rust 1.100 стабилизирует 🎉 never type AKA !. Очень нишевая, но очень классная штука, которая позволяет явно задать тип для "невозможных" вещей:

// Никогда не возвращаемся
fn exit(code: i32) -> !

// Неудача невозможна
fn always_success() -> Result<T, !>

// Если вышли, то из-за проблемы
fn server_loop() -> Result<!, E>

И, так как это настоящий тип, автоматически работает очень много магии, в т.ч. паттерн-матчинги типа

let Ok(v) = always_success()

Все это время ходила шутка never type is named after its stabilization date – но возможно, обещанный день настал! Never date: 25.08.2026 – @pgregory

Математика проходит сейчас через метаморфозы, очень похожие на те, что происходят у нас, в программировании. То, что раньше казалось основной ценностью (создание доказательств/кода), и было в дефиците – автоматизируется, и доступно в избытке. Это заставляет переосмыслить ремесло. То, что предлагает Теренс Тао для математики – стройно и логично. И, что может быть более интересно – показывает глубокую связь науки с социальными и цивилизационными аспектами, в противовес "сиянию чистого разума". Как следствие (моя интерпретация) – некоторая перспектива на то, что для real AGI необходимы агенты с целями, эмоциями и обществом. Рекомендую к просмотру всем неравнодушным к философской стороне нашего дела: https://www.youtube.com/watch?v=M0--ZH1lOzg – @pgregory

Немного разберемся в матчасти и в том, что тарифицируется хабом при использовании API. Токен – это элементарный блок текста, которым оперирует модель, часто это несколько символов. Упрощенно, на каждом прогоне модели во внутреннем цикле получается один токен, он и является единицей тарификации. Входящий текст разбивается на токены и это процесс называется токенизацией. Какие бывают токены: Input – весь входной контекст: системный промпт, история диалога, код, файлы, описания инструментов и результаты их вызовов. Всё, что поступает на вход модели. Output – сгенерированный моделью ответ или рассуждения, необходимые для его получения. Базово это все, но, в свою очередь, выделяют ещё дополнительные типы, необходимые для тарификации и аналитики. Reasoning или thinking – внутренние рассуждения модели. Они входят в output. Что это за токены и откуда они появляются, рассмотрим в другом посте. Считаются отдельно исключительно для аналитики, чтобы понимать, чем агент занимался. В агентском цикле на вход каждый раз подается весь контекст, и чтобы его не перечитывать, используется кэш, который тарифицируется отдельно. Это очень важно, поскольку в противном случае скорость работы снижается и растет стоимость. Cache read – часть входного контекста, для которой часть вычислений уже была проведена ранее. Провайдер загружает готовый кэш и не производит часть операций, поэтому такие токены стоят дешевле обычного input. Cache write – контекст, для которого кэш создается впервые. У некоторых провайдеров, например Anthropic, отдельно учитывается запись на 5 минут и на 1 час. Некоторые провайдеры Cache write не тарифицируют. Итого стоимость считается так:

Стоимость запроса =
(Input × тариф Input
+ Cache Read × тариф Cache Read
+ Cache Write × тариф Cache Write
+ Output × тариф Output) / 1 000 000

В CoreInfra AI Hub мы максимально точно считаем и тарифицируем использованные токены и даем детальную аналитику. Мы учитываем все типы кэша и отдаём аналитику с точностью до токена, с гранулярностью в одну минуту. – @tthread

DeepSeek V4 Pro вышла из превью (вторая слева). Модель интересна своей крайней дешевизной на фоне близкого к фронтиру интеллекта. На хабе она доступна под тем же именем, что и ранее. Кроме того, теперь ею можно пользоваться через Responses API, а значит, и из Codex. Если вы уже пользовались скриптом настройки Codex, то его нужно перезапустить с флагом --refresh для обновления конфига:

uvx --refresh --from git+https://github.com/CoreInfraAI/setup-codex setup-codex

А для тех, кто хочет попробовать модель, сделали ещё один промокод: COREINFRA_TRY_DEEPSEEK_PRO. Он доступен пользователям, пополнявшим баланс хаба после 6 августа, и действует до вечера понедельника. - @razmser

Мне спокойнее использовать Codex, потому что там есть нормальный sandbox в отличие от тех же OpenCode и Pi. К чему я это. Мы поддержали Responses API для deepseek-v4-flash. И теперь вы можете использовать его прямо из Codex. Для простоты настройки мы сделали скрипт который одной командой настроит codex для работы с CoreInfra AI Hub

uvx --from git+https://github.com/CoreInfraAI/setup-codex setup-codex --api-key <your-token>

И в честь этого события мы запускаем промокод COREINFRA_TRY_DEEPSEEK на 500 рублей. Его можно применить, если вы пополните баланс хаба. Действует до конца понедельника. Количество использований ограничено. – @razmser

Две забавные мысли: Программа : циклы процессора ~= агент : токены. LLM-ки похожи на фаззеры тем, что и там, и там – мы понимаем механизм, но не понимаем, почему это работает, и в обоих случаях в сердце процесса compute go brrrr. LLM-ки – это фаззеры мыслительного процесса. Да-да, за таблетками уже иду 🙂 – @pgregory

Объяснить и сам могу.

(с) Мне очень нравится эта фраза из анекдота. Удивительным образом она применима и к агентам, которые готовы объяснить, что угодно, и не только к ним. Из забавного: любой маркетолог расскажет, как строится рынок, разработает стратегию продвижения и объяснит, почему одно сработало, а другое нет. Но он не сможет что-то построить, строить и создавать могут только оунеры. Поэтому маркетологи себя стыдливо называют функцией маркетинга, они-то знают, что -олог – это про объяснить. Поэтому какой смысл быть подписанным на очередной бигтех канал "инсайдов", который ведет штат пиарщиков с KPI? Господа и дамы, читайте наш канал! Мы пишем от первого лица что происходит у нас в компании, какие технологии нам интересны и что мы задумали сделать еще 😃 – @tthread

Сегодня – лучшее время, чтобы вернуться к своим пет проектам. Есть у меня проект: "улицы Санкт-Петербурга", где я хочу обойти все улицы этого прекрасного города. Но как понять, что я действительно это сделал? Очевидно, нужно записывать GPS треки и сделать софтину, которая подскажет что осталось. В до-LLM времена, я как начинал думать, что нужно ресечить OpenStreetMap API, считать геометрию в WGS84, учиться маппить треки на тайлы... В общем я понимал что эта, в общем-то второстепенная задача, выходит на несколько недель работы и мотивация быстро пропадала. Чуть больше года назад у нас появились агенты: "Во, сейчас быстренько сделаем", - подумал я. Взял курсор, его бесплатную модельку (нашей картой же не оплатить) и... ничего толком не вышло. У модельки ничего не получалось: очень долго не могла научиться скачивать правильные геоданные, фиксила один баг, появлялся другой, потом старый опять возвращался, все ходило по кругу. В общем у меня тогда не хватило терпения вести её за ручку и я сдался. К слову с фронтиром дела обстояли так же. Вчера я сделал ещё один подход к снаряду. Открыл кодекс и буквально с одного промпта агент скачал все тайлы, спарсил GPX, посчитал все раcстояния в питончике, наделал скриншотов для проверки и минут через 10 вернулся ко мне с работающим проектом. Но это SOTA модель – GPT 5.6 Sol High и для чистоты эксперимента нужно взять что-то прям совсем дешевое, например DeepSeek V4 Flash. И что вы думаете? Она тоже справилась. Работала, конечно, дольше (около 40 мин.), оставила пару багов, но стоило это каких-то 14 руб. Кажется сейчас золотое время таких вот пет проектов, которые немножко улучшают нашу жизнь. Раньше на них приходилось жертвовать довольно много времени, сегодня они стоят дешевле сникерса. @nik_myxo

Когда программируешь с агентами, обычно нужно читать много кода и ревьюить коммиты. (ну если только ты не школьник-вайбкодер, хи-хи). Интересным вопросом является вопрос структурирования больших PR, об этом я думаю как нибудь расскажет @pgregory, а @razmser мне подсказал классный тул, который рекомендую к использованию. revdiff супер прост в использовании, согласно документации буквально:

Usage:
  revdiff [OPTIONS] [base] [against] [base] [against]

На скрине можно посмотреть, как это выглядет. Дело в том, что стандартный git diff не дает контекста и показывает только измененные строки, когда важно видеть весь контекст. С помощью revdiff видны все файлы с измениями в дифе и полное их содержимое. Для любителей потыкать мышкой, у меня в ghostty рабтает даже управление через трекпад. Супер удобно для просмотра и ревью больших PR. https://github.com/umputun/revdiff – @tthread

Самое загадочное в больших языковых моделях – это то, что они все работают, несмотря на огромную разницу во всем. Dense, MoE, LatentMoE, все варианты attention (в т.ч. например Kimi Linear который вообще не совсем attention), все варианты функций активации, все варианты обучения – классический pretrain, JEPA-like цели, RL, все модальности – текст, сырое (!) аудио и картинки, видео, квантизация и дистилляция – все работает, во всех доменах, и между доменами. Можно придумать бесконечное множество причин, почему это не должно работать – но оно работает. Pic unrelated. – @pgregory

Me too

Свежее выступление моего любимого поляка Фила Пизло про его проект, скромно названный Fil-C – самое интересное, что случилось в системном программировании за последний год. https://www.youtube.com/watch?v=5F-2Y1LPRek Ну и легкий троллинг Раста это всегда хорошо :-) – @pgregory

Открытые китайские модели всё ближе подбираются к фронтиру. Сначала появился DeepSeek R1, удививший всех своей доступностью. Затем вышел GLM-5.2 — он лишь на полшага отстаёт от фронтирных моделей и сейчас особенно популярен для ревью кода. А недавно Moonshot AI представила Kimi K3 — уже полноценную фронтирную модель. В веб-разработке она показывает одни из лучших результатов. С сегодняшнего дня вы можете попробовать модели Moonshot AI прямо в нашем хабе — @razmser

И опять контрэкземпл, но не там где ждали и не от AI. На этот раз с инвариантом свойства логарифма для Lua и PHP (кто бы сомневался). Утверждается, что если a>b>1, то логарифмы от x, где x>1 по основанию a и b будут строго меньше соответвующе. Но PHP и Lua получают обратный результат. Очень забавная находка и спойлер такой, что дело не в арифметике с плавающей точкой, это было бы достаточно скучно, дело в том, что оптимизации нарушают математический инвариант. Почему – подробности в посте из канала. – @tthread

И опять контрэкземпл, но не там где ждали и не от AI. На этот раз с инвариантом свойства логарифма для Lua и PHP (кто бы сомневался). Утверждается, что если a>b>1, то логарифмы от x, где x>1 по основанию a и b будут строго меньше соответвующе. Но PHP и Lua получают обратный результат. Очень забавная находка и спойлер такой, что дело не в арифметике с плавающей точкой, это было бы достаточно скучно, дело в том, что оптимизации нарушают математический инвариант. Почему – подробности в посте из канала. – @tthread

Работаю на CoreInfra AT1 и переодически сталкиваюсь с тем, что OpenAI считает это cybersecurity professional tool и отказывается работать. С одной стороны это приятно, поскольку действительно мы считаем AT1 лучшим и уникальным продуктом в сфере полносистемного семмантического фаззинга и поиска ошибок, с другой доставляет некоторые неудобства. Сейчас спасают, что под боком в хабе есть китайские модельки, которые не обращают на это внимание и продолжают работать =) PS: если хотите попробовать фронтирные модельки в сочетании с топовыми китайцами – все есть на https://hub.coreinfra.ai/register – @tthread