Код в мешке

Самая СКАЧИВАЕМАЯ ИИ-модель ОБНОВИЛАСЬ! | Вес всего 7 GB https://youtube.com/watch?v=9SvWUCPMhGM&si=w_COmMd3uGcSTlQg

📹 WebLLM: Как сделать AI чат-бот в браузере за 15 минут [Frontend] → @ssVideoBot: 720p

WebLLM: Как сделать AI чат-бот в браузере за 15 минут [Frontend] ▶️ https://www.youtube.com/watch?v=hOE7wY6A_hc ...

WebLLM: A high-performance in-browser LLM Inference engine

WebLLM, высокопроизводительный механизм вывода LLM в браузере. WebLLM позволяет создавать быстрые, приватные и удобные ИИ-приложения ...

Смотреть: ▶ https://rutube.ru/video/ee1f28f01caf5794fbc11ffca11fabbc/ 📙 WebLLM: Запуск модели локально в браузере ▶️ https://www.youtube.com/watch?v=hOE7wY6A_hc Читать: 📙 WebLLM | Home

WebLLM is an open-source project that enables in-browser inference of language models (LLMs) using WebGPU for hardware acceleration. It supports various models, OpenAI API compatibility, custom model integration, and streaming chat completions.

↘️ https://webllm.mlc.ai/ 📝 r/webllm

A place for developers and AI enthusiasts exploring WebLLM, running large language models directly in the browser with WebGPU!

↘ ️ https://www.reddit.com/r/webllm/ 📙 WebLLM: A High-Performance In-Browser LLM Inference Engine

WebLLM is a JavaScript framework that deploys LLMs client-side in the browser, enabling LLM-based features in web applications.

↘ ️ https://arxiv.org/html/2412.15803v2 ...

WebLLM запускает языковую модель прямо во вкладке браузера, сервер не нужен npm-библиотека от команды MLC AI: модель скачивается один раз, кэшируется в браузере и считает на видеокарте пользователя через WebGPU. API совместим с OpenAI. 18,8 тыс. звёзд на GitHub, Apache-2.0. 🔘 npm install @mlc-ai/web-llm или импорт с CDN https://esm.run/@mlc-ai/web-llm; 🔘 CreateMLCEngine("Llama-3.2-1B-Instruct-q4f32_1-MLC", { initProgressCallback }), дальше engine.chat.completions.create({ messages, stream: true }); 🔘 Web Worker и Service Worker, чтобы не вешать интерфейс; JSON-режим реализован в WASM-части; 🔘 на графике, сколько видеопамяти просят предсобранные модели: от 0,7 ГБ у gemma3-1b до 6,4 ГБ у Qwen3.5-9B. Против серверного API: промпты не уходят с устройства и инференс бесплатен, но первый запуск ждёт скачивания весов, а на слабом ноутбуке модель не поместится. Попробовать без кода: chat.webllm.ai. Разбор с кодом, замерами и FAQ на сайте. @prog_tools

Как сделать свою CLI такой, чтобы агент не уходил за документацией в веб Автор ведёт открытые утилиты aqua, pinact, tfcmt и ghalint и описывает проблему: про малоизвестный проект модель ничего не знает, уходит в веб-запрос, а тот ещё и возвращает пересказ вместо текста. На примере ghtkn, утилиты для восьмичасовых токенов GitHub App, показано, что с этим делать. 🔘 класть сообщения для агентов прямо в вывод --help и в логи; 🔘 привести документацию в порядок и разложить по отдельным документам; 🔘 добавить подкоманды, которые перечисляют документы и печатают их содержимое; 🔘 поставить указатели на эту подкоманду в README, --help, --version и текстах ошибок. #инструменты

Помнишь бумажные анкеты, которые ходили по классу на переменах — «любимый цвет», «любимая песня», «твой лучший друг»? SpaceWeb, которому в этом году исполнилось 25, вместе с Типичным программистом пересобрали этот формат: вместо тетрадки — сайт, вместо заполненных анкет — вся история рунета с 2001 года. Есть только появившийся биткоин, GTA 3, Diablo 2 и другие легендарные игры на рабочем столе. Между вопросами покажем, как развивались веб и компания. В конце — промокод на услуги SpaceWeb и результат: на что записаны твои воспоминания.

slotstream: локальный сервер для MoE-модели, которая не влезает в память вашего Mac Инструмент на Swift запускает Qwen3.8-Flash-Next на 125 млрд параметров на Mac с 48 ГБ: веса лежат на SSD (105 ГБ), а в память подгружаются только нужные для текущего токена эксперты, через pread в фиксированный пул слотов. Наружу торчит HTTP API, совместимый с Ollama и OpenAI. 🔘 постоянно в памяти 3,8 ГБ, процесс около 33 ГБ, генерация около 12 токенов в секунду на M5 Pro; 🔘 промпт 8000 токенов около 39 секунд, 32 000 около трёх минут, контекст до 32 768; 🔘 требования: Apple Silicon, macOS 14, около 110 ГБ на диске; MIT; 🔘 работают curl, Open WebUI и OpenAI SDK; в slotstream 0.2.0 Ollama CLI пока не подключался. Против Ollama и LM Studio: те дают модели, которые целиком помещаются в память, и быстрый prefill; slotstream даёт модель на класс больше ценой минут ожидания на длинном промпте. Linux и дискретных GPU нет и не планируется. Почему mmap здесь не работает, на сайте. @prog_tools

ИИ-агент для админа прямо в терминале, с моделью на серверах Selectel aish появился в SELECTOS, дистрибутиве Linux от Selectel. Это терминальный агент: описываете проблему словами, он сам собирает контекст с сервера, предлагает команды и выполняет их только после вашего согласия. 🔘 установка: sudo apt update, sudo apt install aish, запуск aish; 🔘 сценарии из документации: не стартует сервис, кончилось место, надо посмотреть логи или конфиг; 🔘 каждая команда показывается до выполнения, автономных действий нет; 🔘 модель развёрнута на серверах Selectel, контекст не уходит зарубежным провайдерам; 🔘 подключение других моделей обещано в будущих релизах. Против Warp AI и ассистентов в облачных консолях главный аргумент юрисдикция данных, а не качество: что за модель внутри и сколько это будет стоить, Selectel не раскрыл. Работает только в SELECTOS, про Ubuntu и другие дистрибутивы ни слова. Что проверить перед запуском на боевом сервере, на сайте. @prog_tools

Mantis: Google выложила гайд по своему ИИ-конвейеру для поиска и починки уязвимостей Mantis это набор скиллов для кодинг-агента, которым Google проверяет собственные репозитории: 16 последовательных стадий плюс вспомогательные скиллы, от /mantis-history (учится на прошлых security-фиксах в истории коммитов) до /mantis-reproduce (воспроизводит уязвимость в контейнере без сети) и /mantis-patch. Репозиторий google/mantis открыт с июня под Apache-2.0, а 2 сентября Google опубликовала инструкцию по запуску, где представила скилл mantis-advise из репозитория, который подсказывает агенту безопасные решения ещё до правок. ▪️ Установка: git clone https://github.com/google/mantis.git или npx skills add google/mantis. ▪️ Агент любой: Google проверяла с Gemini CLI, Antigravity CLI и ADK; модель приносите свою. ▪️ Запуск: открыть агента и написать «I would like to use Mantis framework in path/to/mantis to review my code in path/to/your/code, can you help me get started?». ▪️ Песочница обязательна: gVisor с --network=none, microsandbox или отдельная VM; флаги вроде --yolo авторы прямо запрещают. ▪️ Каждую находку подтверждает человек: README запрещает массово слать непроверенные ИИ-отчёты мейнтейнерам. Как устроены стадии и что Mantis не обещает, разобрали на сайте.

VS Code 1.136: агент сам доводит ваш pull request до зелёных проверок Agent Merge в новом VS Code берёт открытый PR и крутит цикл: читает замечания ревью, правит код, перезапускает упавшие проверки, разрешает конфликты, пока ветку не станет можно сливать. Функция в Preview. 🔘 включение: chat.agentMerge.enabled, запуск из окна Agents; 🔘 агенты Copilot и Claude экспериментально работают с multi-root workspace (chat.agentHost.copilotAgent.multiRootEnabled, chat.agentHost.claudeAgent.multiRootEnabled), хуки пока в пределах одной папки; 🔘 дерево сессий со статусами и ожидающими подтверждениями, уведомления, когда агенту нужен ввод; 🔘 терминальные расширения больше не ждут до 5 секунд при запуске. Против ручного цикла «прочитал комментарий, поправил, запушил» выигрыш очевиден на быстром CI; на медленных пайплайнах каждая итерация агента стоит минут и токенов, а сколько именно, Microsoft не пишет. Без подписки Copilot остаются Compact layout, ускорение запуска терминальных расширений и мелкие правки редактора и доступности. Подробнее на сайте. @prog_tools

WebLLM запускает языковую модель прямо во вкладке браузера, сервер не нужен npm-библиотека от команды MLC AI: модель скачивается один раз, кэшируется в браузере и считает на видеокарте пользователя через WebGPU. API совместим с OpenAI. 18,8 тыс. звёзд на GitHub, Apache-2.0. 🔘 npm install @mlc-ai/web-llm или импорт с CDN https://esm.run/@mlc-ai/web-llm; 🔘 CreateMLCEngine("Llama-3.2-1B-Instruct-q4f32_1-MLC", { initProgressCallback }), дальше engine.chat.completions.create({ messages, stream: true }); 🔘 Web Worker и Service Worker, чтобы не вешать интерфейс; JSON-режим реализован в WASM-части; 🔘 на графике, сколько видеопамяти просят предсобранные модели: от 0,7 ГБ у gemma3-1b до 6,4 ГБ у Qwen3.5-9B. Против серверного API: промпты не уходят с устройства и инференс бесплатен, но первый запуск ждёт скачивания весов, а на слабом ноутбуке модель не поместится. Попробовать без кода: chat.webllm.ai. Разбор с кодом, замерами и FAQ на сайте. @prog_tools

Держите версии Node, Python, Go и Terraform в одном файле, и пусть ставятся при первом вызове mise это менеджер версий инструментов на Rust: один файл mise․toml в проекте описывает, какие версии языков и CLI нужны, а при входе в каталог они подхватываются автоматически. Замена nvm, pyenv и asdf разом, у репозитория 33 тысячи звёзд. В версии 2026.9.0, вышедшей 1 сентября, появилась ленивая установка: у инструмента в конфиге ставится lazy = true, и mise создаёт для него заглушку-шим. Сам бинарник скачивается только при первом запуске команды. mise install такие инструменты пропускает, mise install --include-lazy ставит всё заранее. 🔘 зачем: в монорепе с десятком инструментов новый человек получает рабочее окружение за секунды, а редкие утилиты не тянутся, пока не понадобятся 🔘 против asdf: тот же формат плагинов, но mise быстрее на старте шелла и умеет ещё задачи и переменные окружения; asdf проще и старше @prog_tools

Запускайте программы для macOS прямо в Linux с помощью Darling Darling позволяет запускать программы для macOS на Linux. Он выполняет для macOS ту же роль, что Wine для Windows: переводит системные вызовы и предоставляет приложению знакомое окружение. Название проекта составлено из слов Darwin и Linux. Аппаратная эмуляция не используется, поэтому программы исполняются напрямую. Darling реализует среду Darwin — ядро и базовую систему macOS и iOS, включая Mach, dyld и launchd. В обычном Linux-шелле uname возвращает Linux, а после darling shell показывает Darwin. Проект открыт, распространяется по GNU GPL 3 и использует свободные исходники Darwin, опубликованные Apple. По словам разработчиков, такой подход соответствует EULA Apple. Базовая экспериментальная поддержка простых графических приложений уже есть. Darling работает и в Windows через WSL 2. В дальнейших планах — запуск приложений iOS на ARM-устройствах; для этого команде потребуется собственная реализация UIKit, системы интерфейсов iOS.

tailcat соединяет две машины за NAT без аккаунта и без сети: адрес машины — её ключ Tailscale открыла CLI и Go-пакет, который делает то, что netcat делал в локальной сети, только через интернет. На одной машине запускаете tailcat в режиме ожидания и получаете адрес, на другой передаёте этот адрес, и между ними появляется шифрованный канал. Поверх можно пустить SSH, передачу файлов или проброс порта. Адрес здесь не IP, а публичный ключ WireGuard плюс сведения о релее DERP, через который машину можно найти, если прямой путь через NAT не пробьётся. Поэтому не нужны ни аккаунт, ни tailnet, ни root, ни TUN-интерфейс. 🔘 Установка: go install github.com/tailscale/tailcat/cmd/tailcat@latest, лицензия BSD-3-Clause 🔘 Годится для разового доступа: забрать файл с домашней машины, пустить коллегу на стенд 🔘 Не годится как постоянная сеть: нет списка устройств, ACL и DNS, а стабильность CLI авторы не обещают Честное сравнение: для постоянной сети между серверами обычный Tailscale или WireGuard-конфиг остаются удобнее, а ngrok выставляет порт в публичный интернет, чего tailcat как раз не делает. Автор, Брэд Фицпатрик, написал прототип ещё в 2023 году и рассказал, зачем он нужен. @prog_tools

OpenClaw — открытый персональный ИИ-агент: ставится на свою машину, подключается к мессенджерам и почте и выполняет задачи вроде «следи за письмами из школы и пересылай важное в Telegram». Установка начинается с того, что уже есть на компьютере: подписки ChatGPT и Claude, API-ключи, локальные модели. Вышла версия 2.0, крупнейший релиз в истории проекта: больше 16 000 пул-реквестов от 933 контрибьюторов, примерно половина всех пул-реквестов проекта за всё время. Что внутри: 🔘 установка упростилась, часть настроек убрали, а остальное делается уже в диалоге с агентом; 🔘 браузерное приложение пересобрано заново и стало полноценным интерфейсом; 🔘 общие облачные сессии: задачу агента можно передать коллеге вместе со всем накопленным контекстом; 🔘 релиз затронул память, скиллы, автоматизации, плагины и безопасность. В отличие от облачных агентов, OpenClaw не привязан к одной компании: код открыт, провайдера модели можно выбирать и менять. Плата за это — установка и ответственность за безопасность на вашей стороне. @prog_tools

Бесплатный Практикум-реалити «Контент на вайбе: Повтори за мной»! ⏰ День 1

9 сентября в 11:00 МСК От «я не умею» – до готового контента на вайбе. Вы соберёте банк идей для Reels и Shorts с Claude, выберете подходящие форматы со съёмкой и без неё, создадите своего агента-сценариста и научитесь автоматически монтировать видео и находить идеи.

⏰ День 2

10 сентября в 11:00 МСК От хаоса и просмотров – к подписчикам и деньгам. Вы соедините всё в контент-систему с командой агентов, настроите путь от идеи до автопубликации, выберете способ заработка и составите план внедрения на 30 дней.

Бесплатная регистрация: 👉 https://t.me/aiexpert_vibecon_robot 📝 Если вы только начинаете развивать контент через Codex или Claude Code — сохраняйте стартовый топ-3 скиллов:

1. Marketing Skills – Стратегия, анализ аудитории, тексты и видео.  2. Social Media Skills – Авторский голос, хуки, сценарии коротких видео и переупаковка контента.  3. Knowledge Work Plugins от Anthropic – Создание контента, кампании и проверка стиля.

Модель на 125 миллиардов параметров запустили на ноутбуке с 48 ГБ памяти Веса Qwen3.8-Flash-Next занимают 105 ГБ на диске, и обычный загрузчик на MacBook с 48 ГБ уходил в подкачку и умирал до первого токена. Карлос Галарса написал slotstream: модель устроена как mixture of experts, на каждый токен нужны 10 экспертов из 512, поэтому инструмент держит в памяти фиксированный пул слотов и дочитывает нужных экспертов с SSD через pread. Итог: 3,8 ГБ постоянно в памяти, около 33 ГБ на процесс, 12 токенов в секунду генерации. Плата за это: промпт на 8000 токенов обрабатывается 39 секунд, на 32 000 три минуты. Только Apple Silicon и macOS 14, API совместим с Ollama и OpenAI, так что Open WebUI подключается сразу. Почему ленивый mmap тоже не спас и что проверить перед запуском, разобрали на сайте.

OpenAI начала выпуск GPT-6 Astra: модель придёт всем на Plus, в API $10 и $50 за миллион токенов Сегодня модель получил ограниченный круг организаций, в ближайшие дни она появится у всех подписчиков ChatGPT Plus, Pro, Business и Enterprise, в API под именем gpt-6-astra и в Amazon Bedrock. Fast-режим до 2,5 раза быстрее за двойную цену. Главная заявка в агентных задачах: на Terminal-Bench 4.0 модель чуть впереди Claude Fable 5.1 и далеко впереди GPT-5.6 Sol, при этом задача по оценке OpenAI обходится дешевле. Не везде первая: на Humanity's Last Exam и в индексе Artificial Analysis уступает Fable 5.1 и Opus 5. Кибербезопасность стала ограничением: модель достигла критического уровня по шкале OpenAI, во время тестов сама нашла две уязвимости нулевого дня, и релизная версия отказывается писать эксплойты, а в API задача может остановиться по решению мониторинга. Цифры, оговорки и что менять в Codex разобрали на сайте. В нашем канале «Нейроканал» разобрали подробнее, там пишем и про другие темы, полезные для всех, кто программирует с ИИ.

Файл на 21 байт роняет FFmpeg делением на ноль Четыре нулевых байта на нужном смещении, и либа падает с делением на ноль. Ломается разборщик формата VPK, звука из игр для PS2, о котором почти никто не слышал. Безвестность и есть причина: OSS-Fuzz, гугловый сервис фаззинга, долбит FFmpeg годами, но такие углы достаются ему последними. Фаззер, нашедший баг, собран с помощью модели: 10 часов 43 минуты и 495 211 запусков на одной машине. Оговорка важная: на обычном ffmpeg из командной строки файл не падает. Краш ловится только через собственный ввод-вывод фаззера, где данные при опознании формата и при чтении пакета расходятся и делению достаётся ноль каналов. Такую же проверку предлагали в рассылку ffmpeg-devel почти два года назад, и до нужного пути она не доехала. В разборе ценна честность: автор выкладывает и находку, и собственное неудавшееся воспроизведение. #безопасность #ffmpeg