Технозаметки Малышева

наглядная иллюстрация объема вычислений LLM на примере Qwen3.8:27b когда ей задали вопрос "Назови столицу Франции" 25 миллардов вычислений. чтобы это показать наглядно в видео, 7.2 миллиона вычислений не показывают. ролик 3600 кадров со скоростью 60 кадров в секунду. Если бы каждое вычисление показывалось в каждом кадре, - ролик бы занял 13 лет времени. на RTX PRO 6000 эти вычисления проходят за 13 миллисекунд. Объем работы, которую выполняют GPU, - фантастически запредельный, конечно #demo #LLM #Qwen ——— @tsingular

Кстати, много народу присоединилось с тех пор как мы вспоминали всяких полезных ботов моих. Вот, например, есть такой @Math_learn_bot С ним можно потренировать устный счёт. Бот бесплатный. Слегка геймифицированный. Фишка бота - все примеры вычисляемы в уме. Пришлось долго оптимизировать алгоритм, чтобы это всегда было так. #dev #боты ------ @tsingular

OpenAI на деле доказывает, что «конец математики от ИИ», объявленный Сэмом Альтманом, уже наступает. Опубликованы 722 работы новой модели ChatGPT, которая готовится к выпуску. Они важны не просто числом, а исторической значимостью для математики. 722 рукописи, сгруппированные в 372 семейства результатов по 17 областям: теоретическая информатика ~40, комбинаторика ~37, алгебраическая/комплексная геометрия ~36, теория чисел ~31 и др. Это показывает, что не остаётся убежища для «кожаных» математиков — ИИ силён во всех возможных областях математики. Ключевые заявленные результаты (примеры высокой значимости): • Квази-гипотеза Римана: все Dirichlet L-функции (включая ζ) свободны от нулей в Re(s) > 7/8 (есть Lean). Это существенный прогресс к классической гипотезе Римана (Re(s) > 1/2). • Гипотезы Малера (симметричная и общая) во всех размерностях. • Контрпримеры к гипотезам Капланского (zero-divisor и direct-finiteness). • Изоморфизм факторов свободных групп (классическая проблема Войкулеску; Lean пока нет). • Отрицательное решение 10-й проблемы Гильберта над ℚ. • Иррациональность константы Каталана. • Прогресс по Birch–Swinnerton-Dyer, Goldfeld, корреляциям мультипликативных функций, NP-hardness порогов, arithmetic progressions, результатам в матфизике (Vlasov–Maxwell, Heisenberg) и др. Нравится это или нет математикам и сторонникам математического образования, но реальность такова: математика как наука явно уходит к ИИ. Люди скорее будут пользователями сложных матмоделей, заказчиками их создания, контролёрами их качества, но не создателями этих моделей. Однако высокая доступность математических моделей топ-класса окажет ещё мощнейшее влияние на IT-разработку, где сейчас сложных матмоделей почти нет, потому что программисты — не математики и даже обычно не помнят свои курсы высшей математики из университетов. Сейчас ИИ может создать крайне сложные и рабочие модели прогнозирования и управления для бизнеса, где старые ERP будут смотреться как поделка дилетантов. https://github.com/openai/math

Станислав Лем, «Кибериада: Путешествие первое А, или Электрибальд Трурля» 1965 год. Трурль построил машину, которая умеет писать стихи. Клапауций решил проверить её и дал примерно такой промпт: шесть строк, любовь, измена, музыка, высшее общество, несчастье и кровосмесительство — и все слова только на букву «К». Машина отвечает мгновенно. То, что сегодня выглядит как обычный тест ChatGPT или Claude, Лем описывал как научно-фантастическую сатиру почти 60 лет назад. И даже классический жанр «давай усложним промпт, пока модель не сломается» у него уже был. Хорошего вам дня!

Народ с Opus 5.5 на tree.js вайбкодит прекрасное. Исходников, жаль, нет,- там какие-то мутки с лицензиями на ассеты от Unity Автор #treejs #demo #Opus ------ @tsingular

Ахаха,- чисто я, когда инструктирую мультиагентный рой в multica #юмор #multica ------ @tsingular

EmbeddingGemma 2: Google открыла мультимодальные эмбеддинги, работающие на телефоне Google DeepMind выпустила EmbeddingGemma 2: первую открытую модель эмбеддингов, которая нативно сводит текст, код, изображения, аудио и видео в единое векторное пространство. Модель построена на архитектуре Gemma 4 и использует ту же технологию, что эмбеддеры Gemini. Веса открыты под Apache 2.0. ⚙️ Модульная архитектура. Полная версия весит 740 млн параметров, а для текстовых задач хватает 270 млн: блоки зрения (+170 млн) и аудио (+300 млн) подключаются опционально. Matryoshka-обучение разрешает обрезать векторы с 768 до 128 измерений и экономить до 6 раз хранилища локальной векторной базы. 📱 Работает офлайн на смартфоне. С квантизацией на Google Pixel 11 Pro модели нужно около 191 МБ RAM в текстовом режиме и около 567 МБ в полном мультимодальном. Контекст вырос вчетверо против первой версии: 8K токенов, до 5,5 минуты аудио, 29 изображений или 58 кадров видео за один проход. 🔬 Бенчмарки. На MTEB Code модель поднялась с 68,76 до 78,68 балла против EmbeddingGemma 1. В классе до 1 млрд параметров она лидирует по MTEB, MAEB и MIEB, а отдельные специализированные модели вдвое большего размера обгоняет по качеству. 💼 Зачем это нужно. Локальные эмбеддинги делают поиск приватным: найти момент в видео по голосовой заметке, искать по часам аудиозаписей текстовым запросом, собрать RAG по локальным файлам вместе с Gemma 4. Всё это работает без интернета и не отправляет данные на сервер. Первая EmbeddingGemma собрала более 20 млн скачиваний, поэтому экосистема готова сразу: transformers, MLX, llama.cpp, Ollama, vLLM и файнтюн через Unsloth. 📎 Веса на Hugging Face и Kaggle 📎 Гайд для разработчиков 📎 Модельная карточка с метриками #Google #Gemma #OpenSource #эмбеддинги ——— @tsingular

🔮 Главный ИИ-прогнозист Google, Рэй Курцвейл, заявил, что если вы сможете ещё прожить 10 лет, у вас появляется реальный шанс на бессмертие, т.к. ИИ может решить проблему старения за это время. Сам по себе Рэй очень интересный персонаж, давайте рассмотрим сначала, почему Google назначил его своим «главной Бабой Вангой по ИИ» (AI Visionary). Сам по себе Курцвейл — один из самых известных американских инженеров в области распознавания изображений, текстов, синтеза речи и музыки. Он почётный доктор наук сразу нескольких университетов. Получил Национальную медаль технологий и инноваций США от президента Клинтона, Lemelson-MIT Prize, введён в National Inventors Hall of Fame. Фактически он был одним из пионеров распознавания текстов, когда ещё Лекун под стол пешком ходил. Машина для чтения слепым (Kurzweil Reading Machine, 1976) вернула к нормальной жизни огромное количество людей. Однако славу «Бабы Ванги в ИИ» он получил необычайно точным прогнозированием ИИ-трендов. Во всех публикациях он сделал 147 прогнозов о трендах ИИ, из которых 86% уже сбылись, в том числе он предсказал, что компьютер победит чемпиона мира по шахматам к ~1998–2000, в результате Deep Blue обыграл Каспарова в 1997. Поскольку точность прогнозирования Рэя Курцвейла ИИ-трендов была уже явно выше нескольких случайных угадываний, то Google его нанял как AI Visionary. Сейчас фактически Рэй поддержал тезисы экспертов, которые я изложил в этом посте (https://t.me/turboproject/5232), т.е. что в течение 10 лет будет прорыв в сдерживании негативных влияний зомби-клеток (SASP, Senescence-Associated Secretory Phenotype). Это резко замедлит разрушение организма людей от старения, поскольку у них значительно вырастет длительность жизни, то у них появляется шанс дожить до второй ИИ-революции, когда ИИ уже создаст почти полное решение проблемы рака и бессмертного человека через улучшение природного механизма апоптоза, т.е. старые клетки будут сами заканчивать жизнь суицидом, что переведёт организм в состояние «вечной молодости». По мнению Рэя, этот сценарий крайне вероятный хотя бы для части людей, и он ставит на этот прогноз свою репутацию.

На этой неделе выпустили Eleven v4 - самую лучшую TTS модель в мире Настолько она крутая, что мы даже договорились везде писать, что она emotive, а не просто expressive Для этой демки я засунул её в Reachy Mini и попросил показывать антеннами те же эмоции, что голосом Тут все от программирования робота и до монтажа видео - это Opus 5.5. Я только камеру нашел и ракурс подобрал :) P.S. спасибо моему корешу Севе за бесконечные разгоны идей для демок, в мире агентов только идеи теперь чего-то и стоят

Кстати, если кто не видел,- так работает web crawler :) #WWW #web #crawler #паук ------ @tsingular

Сегодня OpenAI оптимизировали стандартную скорость ChatGPT и Codex, увеличив её примерно на 50% для GPT-6 Astra и GPT-6.1 Sol через подписку во всех продуктах. Изменения вступят в силу у всех пользователей в течении нескольких часов.

OpenH-RF: 39 терабайт сырых данных по ультразвуку от NVIDIA 📋 Университет Эйндховена и NVIDIA выпустили OpenH-RF: крупнейшую открытую коллекцию медицинских ультразвуковых измерений уровня каналов. 19,3 тыс. записей и 39 ТБ данных собрали 38 учреждений, среди них Siemens Healthineers, Johns Hopkins, Weizmann Institute и NIH. Лицензия CC BY 4.0 разрешает и коммерческое использование. ⚙️ Данные каналов,- это сырой сигнал с каждого элемента датчика до схлопывания в изображение. Каждый HDF5-файл несёт сигналы всех элементов, полную геометрию передачи и приёма, а где они есть,- готовые изображения, карты и метки. Формат zea, эталонные скрипты реконструкции открыты в GitHub. Покрытие: эхокардиография, фетальная и транскраниальная визуализация, кровоток, ультразвуковая микроскопия. 💡 Почему именно сырые данные: классический ультразвуковой конвейер сжимает сигнал датчика примерно в сто раз по дороге к изображению реального времени. Кровоток, эластичность и скорость звука в тканях выбрасываются на этом шаге. Модель, обученная на уровне каналов, восстанавливает то, что конвейер теряет, и одна сеть решает сразу несколько задач: реконструкция, движение, количественные карты. Таких открытых данных раньше не существовало, они были заперты у производителей сканеров. 💼 Релиз задуман как датасет плюс foundation-модель «raw-to-insight», обучение шло с августа. Ближайшая польза от открытых данных: портативные сканеры с ИИ-обработкой вместо дорогих аппаратов экспертного класса. Для медицинской ИИ-индустрии это тот же момент, что ImageNet для компьютерного зрения. 📎 nvidia/OpenH-RF на Hugging Face,- данные, пока ранний доступ 📎 GitHub проекта,- формат zea и реконструкция #NVIDIA #медицина #OpenSource #датасеты ——— @tsingular

Multi-harness RL: Hugging Face обучает модели прямо внутри Claude Code и Codex 📋 Команда Hugging Face вместе с Liquid AI опубликовала открытый фреймворк и большую статью: маленькую модель LFM2.5-2.6B обучили методом GRPO одновременно в четырёх оболочках для кодинга,- OpenCode, Claude Code, Codex и Mini-SWE-Agent. Оболочки работают как есть, их код не трогают. Результат на отложенных задачах: с 42,2% до 54,2% решённых, и на 31% меньше вызовов инструментов на задачах, которые модель и раньше решала. ⚙️ Инженерный ход,- прокси-перехват между оболочкой и моделью. Прокси записывает промпты и ответы ровно в том виде, в котором их видела и генерировала модель, вместе с лог-вероятностями. OpenEnv отдаёт эти трассы в TRL, Harbor поставляет задачи и песочницы. Оболочка сохраняет свои инструменты, сжатие контекста и цикл выполнения: повторять их логику внутри тренажёра не нужно. 💡 Зачем это нужно: одна и та же модель в разных оболочках показывает разные результаты. GLM-5.2 на SWE-bench Pro,- 23% в одной оболочке и 52% в другой (замер Joel Niklaus). Смена оболочки двигала GLM-5.1 на 13 пунктов, смена модели внутри одной оболочки,- всего на 2,5-5. Модель учит «как решать задачу в интерфейсе конкретной оболочки», и вне его навык теряется: OpenSWE-32B в непривычной оболочке падает на 59 пунктов. Frontier-лаборатории уже масштабируют число оболочек при обучении: Kimi K3, Qwen3-Coder-Next (шесть оболочек), MiMo-V2.6. 💼 Обучение на траекториях крупной модели (SFT) дало 43,1% против 54,2% у RL: копирование чужого поведения слабее собственной практики. Фреймворк открытый, Apache-2.0, и маленькая модель после такого обучения одинаково предсказуема во всех оболочках сразу. Прямой путь к дешёвым агентам на собственных мощностях. 📎 FineEnvs на GitHub,- код сред и обучения 📎 OpenEnv,- прокси и интерфейс сред #RL #HuggingFace #агенты #OpenSource ——— @tsingular

ArtCraft: весь пакет Adobe переписывают на чистом Rust, с MCP-управлением 📋 ArtCraft Studios, - команда, которая с 2022 года развивает AI-студию ArtCraft для художников, выложила на GitHub семь приложений на чистом Rust: PhotoCraft для растровой обработки (аналог Photoshop), VectorCraft для векторов (Illustrator), FilmCraft для видео (Premiere Pro), LightCraft для фототек (Lightroom), PrintCraft для PDF (Acrobat), EffectCraft для моушена (After Effects) и DesignCraft для вёрстки (InDesign). Лицензия MIT и Apache-2.0, репозитории обновляются ежедневно. PhotoCraft выложили 30 сентября: за пять дней 82 коммита, три релиза и 1,6 тыс. звёзд. Сегодня набор вышел на Hacker News. ⚙️ PhotoCraft в ранней альфе, но редактор настоящий: слои, маски, 16 корректирующих слоёв, стили, векторы, типографика и движок кистей с реакцией на нажим пера. PSD-файлы открываются и сохраняются байт в байт: 134 из 135 реальных документов проходят круг без потерь. RGB, CMYK и Lab, 8/16/32 бита, ICC-профили. GPU-композитор на wgpu, без Electron, вся программа собирается в WebAssembly и работает в браузере. Больше 1 700 тестов, а совпадение с меню Photoshop измеряет автоматическая задача cargo xtask parity. 🤖 Каждое действие интерфейса, - это команда из общего реестра на 500+ команд. UI, CLI, JSON-канал управления и MCP-сервер вызывают одни и те же команды, поэтому всё, что можно кликнуть мышью, умеет и агент. В корне каждого репозитория лежат AGENTS.md и CLAUDE.md: агентам-контрибьюторам отдельная инструкция наравне с людьми. 💼 Подписка на пакет Adobe стоит под сотку $ каждый месяц, а тут семь бесплатных аналогов. В продакшен рановато, конечно,- альфа есть только у PhotoCraft, остальные шесть в разработке. Но в базе они уже функциональны и могут заменить проприетарные продукты в ближайшем будущем. Отдельный плюс,- сразу заточено под ИИ агентов с MCP. Вайбкодеры всех переиграют, - 82 коммита за пять дней. 🤖 📎 getartcraft.com, - все семь приложений с установщиками 📎 PhotoCraft на GitHub, - код и план развития #Rust #OpenSource #Adobe #ArtCraft ——— @tsingular

Это не шутка. Созданное нейросетью продолжение "Мертвых душ" поступило в продажу Над проектом вместе со специалистами Сбера работали историки, литературоведы, лингвисты и инженеры #Гоголь #МертвыеДуши #Сбер ------ @tsingular

Uber MCP Gateway: 5000 инструментов для агентов 📋 Uber разобрала в своём блоге собственный MCP Gateway,- платформу, через которую ИИ-агенты компании ходят во внутренние сервисы. Внутри уже больше 800 MCP-серверов и 5000 инструментов. ⚙️ Начиналось как у всех: команды сами городили интеграции, получался зоопарк инфраструктуры, инструменты было не найти, безопасность у каждой связки своя. Ответом стал единый шлюз между агентами и бэкендом. Реестр ведёт каталог серверов и инструментов как единую точку поиска и доступов. Прокси-шлюз переводит вызовы MCP в HTTP, gRPC и TChannel и обратно: существующим сервисам ничего менять не нужно. AutoCrawler на Cadence сканирует реестр интерфейсов (Protobuf, Thrift), сам создаёт MCP-серверы, описания инструментов генерирует LLM. 🛡 Правило платформы: обнаружение не означает доступ. Всё новое регистрируется выключенным, включают только владельцы сервисов после ревью. Авторизация работает на уровне отдельного инструмента, политики для людей, сервисов и агентов разные, PII из ответов затирается автоматически. 🧠 Самое интересное всплыло при масштабировании: тысячи определений инструментов съедают контекст, поиска по серверам в протоколе нет. Решения: - Omni MCP,- один прокси с постепенным обнаружением: агент сначала ищет сервер, потом инструменты и схему, затем делает вызов - проекция ответов в стиле GraphQL: модель заказывает только нужные поля, шлюз отрезает лишнее - Code Mode: утилита aifx пишет вывод инструментов в файлы, агент читает только нужное. Это дефолт для агентов-разработчиков Uber 💼 Главный вывод Uber: существующие API,- самый быстрый способ дать агенту инструменты. Самое сложное в больших агентных системах,- соединительная ткань: обнаружение, безопасность, надёжность. MCP никуда не пропал, - просто стал обыденной частью агентской инфры, поэтому про него может и меньше говорят, но он тащит на себе важный слой работы. 📎 Спецификация MCP #MCP #агенты #Uber ——— @tsingular

Гермесоводы, держите лайфхак. Команда /learn обычно используется для создания навыков. Но ведь агент то свободный и ему через эту команду можно скормить и другую смежную задачу - написать для себя плагин! На примере темпоральной графовой памяти: /learn установи, изучи, напиши под неё  себе плагин еа все полезные сценарии и используй https://github.com/getzep/graphiti #lifehack #memory #learn #hermes ------ @tsingular

Месяц подарков от OpenAI — компания запускает 28-дневный марафон апдейтов и халявных ресетов 😊 Каждый день релизить заметное улучшение для Codex/Work или сбрасывать лимиты пообещал Тибо из OpenAI. Ждем ответку от Anthropic 😘 @xor_journal

Мы? :) #юмор ——— @tsingular