Галера Морева

Локальный ИИ на ночь вместо сказки Недавно выложил ролик про Qwen 3.8 Flash Next на своих двух 3090. В нем говорил, что на двух 2080 у меня запущена модель Ornith 1.5. И это отличная синергия из двух агентов. Эта команда, в моих сценариях и при моем подходе, уступает облачным только в скорости. Квен так вообще все задачи делает с первого раза, так, как я прошу. Отдельная прелесть — запускать пачку задач локальным моделям на ночь. Они по 9–12 часов работают без остановки. Один агент проверяет работу другого, и вместе они доводят задачи до победного результата. И стоит это все, в пиковом потреблении, 1 кВт энергии. Все меньше вопросов, почему видеокарты и память стоят так дорого. А разработчики все дешевеют и дешевеют :)

Опенсорс уже не тот С появлением агентов опенсорс полетел вперёд семимильными шагами. И теперь строить свою разработку на каком-то высокоуровневом опенсорном решении — стрелять себе в ногу. Наш продукт harness.wormsoft.ru строился на консольной утилите pi.dev и его SDK. Всё было прекрасно, но с выходом новой версии SDK сильно поменялся, и у нас все поехало — либо не обновляться (плохо и опасно) либо обновлять SDK и переписывать адаптеры под него.. Еще стоит добавить, что новые версии теперь выходят раз в день вместо раза в месяц, как было до ИИ. Пришли к тому, что последние дни мы активно вырезаем зависимость от этого SDK в пользу своего решения. И то же самое происходит во многих наших и клиентских проектах. Раньше использовать крупный опенсорс было благом — не надо было много чего писать самому. Теперь это скорее проблема: себестоимость кода многократно сократилась, и проще сделать небольшое решение под себя, чем зависеть от невероятно активно меняющегося проекта.

Qwen3.8 Flash Next на RTX 3090: полноценная разработка без облака Запустил и активно потестил Strata на своем железе. Погонял 4-битный квант на двух 3090 и 3-битный квант на двух 2080 (22гб версия), Про 4-битный квант снял ролик с его возможностями и какого рода вещи я ему могу спокойно отдавать. Спойлер: практически любые мои задачи, если я готов ждать :) 📹 YouTube | VK | Rutube | Dzen 📹 🎓 Мое платное сообщество 🎓

Илон Маск хвалит Kimi и значит Claude не нужен? Выложил на канал видеоразбор партии рилсов про ИИ. В этот раз разобрал обещания, что китайский Кими вот уже совсем победил Клод и можно быть хитрее всех, не платить бешенные подписки и клод больше никому не нужен. 📹 YouTube | VK | Rutube | Dzen📹 🎓 Мое платное сообщество 🎓

📹 Решаю личную задачу со старой моделью Можно ли с помощью недорогой языковой модели автоматизировать реальную бытовую задачу и создать полноценное приложение практически с нуля? Проверяю на практике! В этом видео я беру Qwen3.6-35B-A3B — не самую новую и мощную модель — и поручаю ей задачу из собственной жизни: проанализировать расходы семейной поездки в Китай. 📹 YouTube | VK | Rutube  📹 🎓 Мое платное сообщество 🎓

🎬 Kimi убил Claude? Смотрю ролики Продолжаю разбирать чужие тейки: где согласен, где вижу спорные моменты, а где, на мой взгляд ложь и провокации реальность выглядит совсем иначе 📹 YouTube | VK | Rutube | Dzen 📹 🎓 Мое платное сообщество 🎓

Mimo 2.6 Pro | Моя основная модель от Xiaomi Ролик про вторую модель о Xiaomi — MiMo 2.6 Pro. У нас в галере она сменила GLM 5.3 на посту "основная модель". Подробнее в видео. Видео по ссылкам ниже: 📹 YouTube | VK | Rutube | Dzen 📹 🎓 Мое платное сообщество 🎓

🎬 Первый эксперимент с форматом реакций! Разбираю чужие тейки: где согласен, где вижу спорные моменты, а где, на мой взгляд, реальность выглядит совсем иначе. Не претендую на истину в последней инстанции — просто делюсь своим взглядом, аргументами и приглашаю к дискуссии! Интересно узнать ваше мнение: Как вам такой формат? С какими мыслями согласны, а с какими поспорили бы? Стоит ли продолжать? По секрету — у меня еще несколько частей в монтаже. Ваша обратная связь поможет понять, куда развивать этот формат дальше! 📹 YouTube | VK | Rutube | Dzen 📹 🎓 Мое платное сообщество 🎓

MiMo 2.6 Flash | Лайт-модель от Xiaomi Xiaomi поделились новыми моделями серии 2.6. В сегодняшнем ролике погонял флэш-версию на реальных задачах. Отличная младшая модель для базовых задач. Решил для себя, что для мелких тасок, где нужна скорость и экономия, буду использовать эту модель Видео по ссылкам ниже: 📹 YouTube | VK | Rutube | Dzen 📹 🎓 Мое платное сообщество 🎓

Ornith 1.5 35b-a3b | Достойная повседневная модель Наконец-то добрался до Ornith 1.5 35B-A3B. После ролика про 9-милиардную версию было логично снять видео про старшую модель, а я всё откладывал. И зря. Не смог заставить её не сделать задачу, которую её передавал. Пока, из всех локальных моделей, запущенных у меня, это лучшая модель по сочетанию интеллект+скорость. Видео по ссылкам ниже: 📹 YouTube | VK | Rutube | Dzen 📹 🎓 Мое платное сообщество 🎓

Уехал в Китай Это уже третья поездка за последний год. Но в этот раз отправился вместе с женой и детьми — в основном на пляжный отдых. И продолжаю вести тот же отдельный канал про свои экспресс-поездки в Китай. Буду делиться впечатлениями, маршрутами и всем, что происходит по дороге. Буду рад увидеть вас там :) https://t.me/china_express_travel

Bonsai 2 27B: локальная модель, которая удивила меня 5 задачами подряд Bonsai 2 27B: по сути переквантованный плотный Qwen 27B с тернарными весами, сжатый до ~7 ГБ. Саму модель реально уместить даже в 8 ГБ, я тестировал в честном сценарии — 16 ГБ видеопамяти (отсечка на 3090 и связка из двух P104-100 — дров по 2000 рублей). Заявляют 98% качества оригинала — в контексте моих задач это близко к правде. Год назад с 16 ГБ видеопамяти можно было только плакать, а сейчас можно даже какие-то полезные дела делать с моделями, которые влезают в 16гб. Видео по ссылкам ниже: 📹 YouTube | VK | Rutube | Dzen 📹 🎓 Мое платное сообщество 🎓

Текстовая версия обзора JEV-модели Временно выпал из создания видео-контента (заболел и снимать ролики пока невозможно). Нашел плюсы и в этой ситуации — вернулся к оптимизации процесса создания текстового контента и делюсь первым результатом. Подготовил текстовую версию ролика про Jev — https://habr.com/ru/articles/1087480/.

📹 Qwen 3.8 27B GSC-RCO. Качество FP8 на одной 3090? Мне посоветовали попробовать квант Qwen 3.8 27B — GSC-RCO, у которого другая механика квантования и по бенчмаркам качество не отстаёт от FP8. И так совпало, что одну из моих 3090 как раз переводили на воду — а работать с локальной моделью надо. Запустил квант на одной 3090: уместилось 220 000 контекста в 23.1 ГБ с vision. Прогнал модель через реальные задачи Видео по ссылкам ниже: 📹 YouTube | VK | Rutube | Dzen 📹 🎓 Мое платное сообщество 🎓

📹 Jev не умеет писать. Зато решает быстрее и в разы дешевле LLM Мы привыкли, что ИИ — это «текст на вход, текст на выход». Jev от TypeSafe AI работает иначе: на входе — состояние (текст или JSON) и типизированные вопросы, на выходе — готовые решения с откалиброванными вероятностями. Это новый класс моделей, который TypeSafe называет System One — по канемановской «быстрой» Системе 1: пока LLM-ки с их цепочками рассуждений живут в территории медленной Системы 2 . Видео по ссылкам ниже: 📹 YouTube | VK | Rutube | Dzen 📹 🎓 Мое платное сообщество 🎓

Вайбкодинг — это новый Excel Посмотрите это видео — реклама Excel, которая в своё время произвела фурор. Прикол в том, что раньше сводную таблицу с пересчётом значений на коленке не собрать. Вариантов было два: либо активно кликать по калькулятору и записывать результаты на листочке, либо писать консольное приложение. А для этого нужно было знать COBOL, Fortran, dBase или тот же C. И тут появляется Excel — и человек без опыта и знания языков программирования просто открывает таблицу и сам решает свою задачу. Формулы, пересчёты, сводные — всё из коробки. Excel при этом не убил программистов. Он просто навсегда изменил то, за что готовы платить: огромный пласт задач перестал требовать разработчика вообще. С вайб-кодингом сейчас происходит то же самое. Менеджер, дизайнер, аналитик — любой открывает агента и делает себе нужную автоматизацию. Не идеально, не production-ready, но для своей задачи — достаточно. Мысли написать этот пост появились после того, как я увидел, что мой брат, который совсем не программист, навайбкодил внутреннюю систему учёта финансов для нашей компании. Которая раньше состояла из огромного монструозного Excel-файла :) История повторяется. Только на этот раз таблицы заменили кодом.

Вайбкодинг — это новый Excel Посмотрите это видео — реклама Excel, которая в своё время произвела фурор. Прикол в том, что раньше сводную таблицу с пересчётом значений на коленке не собрать. Вариантов было два: либо активно кликать по калькулятору и записывать результаты на листочке, либо писать консольное приложение. А для этого нужно было знать COBOL, Fortran, dBase или тот же C. И тут появляется Excel — и человек без опыта и знания языков программирования просто открывает таблицу и сам решает свою задачу. Формулы, пересчёты, сводные — всё из коробки. Excel при этом не убил программистов. Он просто навсегда изменил то, за что готовы платить: огромный пласт задач перестал требовать разработчика вообще. С вайб-кодингом сейчас происходит то же самое. Менеджер, дизайнер, аналитик — любой открывает агента и делает себе нужную автоматизацию. Не идеально, не production-ready, но для своей задачи — достаточно. Мысли написать этот пост появились после того, как я увидел, что мой брат, который совсем не программист, навайбкодил внутреннюю систему учёта финансов для нашей компании. Которая раньше состояла из огромного монструозного Excel-файла :) История повторяется. Только на этот раз таблицы заменили кодом.

Qwen 3.8 Flash Next c Reasoning. Я был не прав В прошлых двух роликах про Qwen 3.8 Flash Next я тестировал модель без ризонинга и сделал слишком резкие выводы. Подписчики в комментариях подсказали — ризонинг на этой модели надо включать именно на medium. Я так и сделал, плюс дал ей контекст 260К на железе подписчика — и это оказалась прямо другая модель. Ссылки на ролик на всех площадках: 📹 YouTube | VK | Rutube | Dzen 📹 🎓 Мое платное сообщество 🎓

DeepSeek V4.1 Flash: хайп vs реальность. Тестирую модель, которую называют «убийцей топов» Первый раз DeepSeek на моём канале! Я долго его саботировал, но V4.1 Flash не удержался: по бенчмаркам и мнениям он будто бы на уровне моделей, которые в 10 раз дороже, при этом маленький, с миллионом контекста и — главное — наконец с Vision. Кандидат на замену Minimax M3 в моём сетапе. Проверяем на реальных задачах из моего провайдера, без синтетики. Мой вердикт (субъективный, не кидайте тапками): по факту это модель уровня GLM 5.3 Flash — а это хорошая модель! Проблема в другом: 5.3 Flash знает своё место и не называет себя заменой топов, а DeepSeek заявляет ровно это. Хайп сильно опережает реальные возможности. Где нужен vision — останусь на своём стеке, где не нужен — на GLM 5.3. DeepSeek V4.1 Flash пока обхожу стороной (как и все года обходил дипсик). Ссылки на ролик на всех площадках: 📹 YouTube | VK | Rutube | Dzen 📹 🎓 Мое платное сообщество 🎓