mClouds - облачный провайдер
رفتن به کانال در Telegram
Канал облачного провайдера mClouds.ru Пишем про облачные сервисы (IaaS, BaaS, DRaaS), IT-бизнес, кейсы цифровой трансформации, администрирование (Windows, Linux), лайфхаки от команды инженеров. Техподдержка: info@mclouds.ru
نمایش بیشتر414
مشترکین
اطلاعاتی وجود ندارد24 ساعت
اطلاعاتی وجود ندارد7 روز
+530 روز
در حال بارگذاری دادهها
کانالهای مشابه
هیچ دادهای
مشکلی وجود دارد؟ لطفاً صفحه را تازه کنید یا با مدیر پشتیبانی ما تماس بگیرید.
ابر برچسبها
اشارات ورودی و خروجی
---
---
---
---
---
---
جذب مشترکین
نوامبر '26نوامبر '26
نوامبر '26
+5
در 0 کانالها
اکتبر '26
+3
در 0 کانالها
Get PRO
سپتامبر '26
+4
در 0 کانالها
Get PRO
اوت '26
+4
در 0 کانالها
Get PRO
ژوئیه '26
+2
در 0 کانالها
Get PRO
ژوئن '26
+3
در 0 کانالها
Get PRO
مه '26
+5
در 0 کانالها
Get PRO
آوریل '26
+3
در 0 کانالها
Get PRO
مارس '26
+5
در 0 کانالها
Get PRO
فوریه '26
+8
در 0 کانالها
Get PRO
ژانویه '26
+7
در 0 کانالها
Get PRO
دسامبر '25
+6
در 0 کانالها
Get PRO
نوامبر '25
+1
در 0 کانالها
Get PRO
اکتبر '25
+4
در 0 کانالها
Get PRO
سپتامبر '25
+4
در 0 کانالها
Get PRO
اوت '25
+12
در 0 کانالها
Get PRO
ژوئیه '25
+239
در 8 کانالها
Get PRO
ژوئن '250
در 0 کانالها
Get PRO
مه '250
در 1 کانالها
Get PRO
آوریل '250
در 0 کانالها
Get PRO
مارس '250
در 0 کانالها
Get PRO
فوریه '250
در 0 کانالها
Get PRO
ژانویه '250
در 0 کانالها
Get PRO
دسامبر '240
در 1 کانالها
Get PRO
نوامبر '240
در 0 کانالها
Get PRO
اکتبر '240
در 0 کانالها
Get PRO
سپتامبر '240
در 0 کانالها
Get PRO
اوت '240
در 0 کانالها
Get PRO
ژوئیه '240
در 0 کانالها
Get PRO
ژوئن '240
در 0 کانالها
Get PRO
مه '240
در 0 کانالها
Get PRO
آوریل '240
در 0 کانالها
Get PRO
مارس '240
در 0 کانالها
Get PRO
فوریه '24
+1
در 0 کانالها
Get PRO
ژانویه '24
+5
در 0 کانالها
Get PRO
دسامبر '23
+21
در 0 کانالها
Get PRO
نوامبر '23
+8
در 0 کانالها
Get PRO
اکتبر '23
+260
در 0 کانالها
| تاریخ | رشد مشترکین | اشارات | کانالها | |
| 14 نوامبر | 0 | |||
| 13 نوامبر | 0 | |||
| 12 نوامبر | 0 | |||
| 11 نوامبر | 0 | |||
| 10 نوامبر | 0 | |||
| 09 نوامبر | 0 | |||
| 08 نوامبر | 0 | |||
| 07 نوامبر | 0 | |||
| 06 نوامبر | +1 | |||
| 05 نوامبر | 0 | |||
| 04 نوامبر | 0 | |||
| 03 نوامبر | 0 | |||
| 02 نوامبر | 0 | |||
| 01 نوامبر | +4 |
پستهای کانال
📣 RTX 5090 на 96 или даже 128 ГБ: такие карты вообще есть?
Нас всё чаще спрашивают, можно ли взять в аренду RTX 5090 с 96 ГБ видеопамяти. Бывают запросы даже на 128 ГБ. У серийной RTX 5090 — 32 ГБ, поэтому мы решили разобраться, что стоит за объявлениями о картах с таким объёмом памяти.
1️⃣ RTX 5090 на 96 ГБ мы нашли на Alibaba. Но в характеристиках продавцов есть нестыковки: указанные тип памяти и ширина шины не сходятся с заявленными 96 ГБ. Независимых обзоров и тестов купленной карты мы не нашли. Версия на 128 ГБ пока тоже не получила подтверждения: в сети разошёлся скриншот, но рабочую карту под нагрузкой никто так и не показал.
2️⃣ С RTX 4090 на 48 ГБ история другая. Такие модификации действительно работают, и некоторые провайдеры уже сдают их в аренду. Здесь вопрос в конкретном экземпляре: насколько он стабилен под длительной нагрузкой и справляется ли охлаждение.👉 Если вам нужен большой объём памяти на одной GPU, у профессиональных карт он есть и без переделок: 48 ГБ у NVIDIA L40S и 96 ГБ у RTX PRO 6000 Blackwell. Обе доступны в нашем облаке. 📄 На Хабре разобрали, как увеличивают память видеокарт, что не сходится в объявлениях и чем модификации отличаются от профессиональных карт
| 2 | 🗣 Что нового в mClouds: итоги октября
Привет! В октябре мы добавили больше GPU в облако, вошли в ТОП-5 провайдеров DRaaS и подготовили новые материалы для тех, кто работает с ИИ. Собрали главное за месяц.
🚀 Расширили пул RTX PRO 6000 Blackwell
Добавили карты с 96 ГБ видеопамяти для задач, которым уже мало 24 или 48 ГБ. К одной ВМ можно подключить две GPU — получится 192 ГБ суммарно.
Подробнее о возможностях и сценариях рассказали в карточках.
🏆 Вошли в ТОП-5 российских облачных провайдеров DRaaS
В рейтинге CNewsMarket отметили возможности аварийного переключения, защиту резервных копий и инструменты информационной безопасности. Наш DRaaS на технологиях Veeam и Хайстакс помогает организовать резервную площадку и подготовить восстановление систем при сбое.
🔐 Напомнили об обновлении PHP
21 октября вышли исправления двух критических уязвимостей. Если ваши сайты и приложения используют PHP, а обновления ещё не установлены, рекомендуем не откладывать: обновить нужно сам PHP, а не только CMS и плагины.
Подробности — в официальном бюллетене.
📚 На Хабре разобрали модели и память
🔹 Пять открытых ИИ-моделей для GPU с 8–32 ГБ — какие альтернативы облачным ИИ-сервисам можно запустить у себя.
🔹 Как устроена LPDDR5X-PIM — память, которая умеет выполнять часть вычислений прямо там, где хранятся данные.
💡 В блоге рассказали, как не переплачивать за ИИ
Собрали шесть моделей для GPU до 24 ГБ и разобрали, как выбрать GPU для Qwen и других LLM. С примерами, где хватит L4, а когда стоит смотреть на L40S или RTX PRO 6000.
📖 Полный дайджест октября — в нашем блоге | 86 |
| 3 | 🗣 Больше GPU для ваших ИИ-задач: расширили пул RTX PRO 6000 Blackwell 96GB
Добавили в mClouds дополнительные NVIDIA RTX PRO 6000 Blackwell с 96 ГБ видеопамяти — для тех, кому уже тесно в 24 или 48 ГБ.
К одной виртуальной машине можно подключить две карты и получить 192 ГБ видеопамяти суммарно. Это позволяет распределить крупную модель между GPU или запускать на каждой свои задачи.
📌 Такая конфигурация пригодится для работы с LLM, ИИ-ассистентами и базами знаний, дообучения моделей, генерации изображений и видео.
Если ваша модель вместе с контекстом помещается в 96 ГБ, а производительности достаточно, RTX PRO 6000 может стать более экономичной альтернативой аренде A100, H100 или H200.
💬 В карточках рассказали, что даёт Blackwell, как использовать две GPU в одной ВМ и чем отличаются L4, L40S и RTX PRO 6000. Листайте — собрали главное, чтобы было проще выбрать конфигурацию под вашу задачу.
👨💻 Посмотреть все конфигурации GPU-серверов у нас на сайте! | 117 |
| 4 | 🧠 Какие нейросети можно запустить на GPU с 24 ГБ памяти? А с 16ГБ ?
Для своего ИИ-помощника не всегда нужна дорогая видеокарта на 48 или 96 ГБ. Если вы работаете с документами, собираете базу знаний или запускаете чат-бота, для вашей задачи может хватить и 24 ГБ.
Мы собрали в блоге шесть моделей для такого объёма памяти и разобрали их запуск на примере NVIDIA L4:
🔹 Gemma 4 12B — для ассистентов и работы с текстом, изображениями и аудио.
🔹 Qwen3.5-9B — для кода, длинных документов и автоматизации рутинных задач.
🔹 gpt-oss-20b — для локальных помощников с возможностью настраивать глубину рассуждений.
🔹 PaddleOCR-VL-1.6 — для распознавания документов, таблиц и формул.
🔹 Qwen3.6-35B-A3B и Qwen3.8-27B — для более сложных задач с кодом, документами и RAG.
📌 Что важно учесть
Большинству моделей из подборки потребуется квантование — уменьшение точности весов, которое снижает расход памяти.
В статье рассказали, какие варианты подойдут даже для 16 ГБ
Где хватит L4 и когда стоит смотреть на GPU мощнее. Чтобы вы могли выбрать конфигурацию под свою задачу и не переплачивать за лишние ресурсы.
📖 Подборка моделей и подробности запуска — в нашем блоге | 112 |
| 5 | ⚠️ Вышли важные обновления безопасности PHP — рекомендуем установить их как можно скорее
21 октября 2026 года команда PHP выпустила исправления двух критических уязвимостей — CVE-2026-109618 и CVE-2026-109619.
Они могут позволить выполнить код на сервере без авторизации.
Если вы ещё не видели уведомление и используете PHP для сайтов или веб-приложений, мы рекомендуем как можно скорее проверить версии и установить исправления. ИИ-инструменты могут ускорять поиск уязвимых систем и подготовку атак, поэтому рассчитывать на долгий запас времени не стоит.
📌 Кого это касается
Систем, где PHP обрабатывает веб-запросы через PHP-FPM, Apache с mod_php, CGI, FrankenPHP или LiteSpeed. Наибольший риск отмечен для Apache с mod_php.
Обновления CMS и плагинов недостаточно — исправления нужны самому PHP.
🔹 До каких версий обновиться
Исправленные версии: PHP 8.2.35, 8.3.36, 8.4.27 и 8.5.12. Установите обновление своей ветки или пакет с исправлением от поставщика ОС либо панели управления.
Для PHP 8.1 и старше уточните наличие исправлений у поставщика пакетов. Если поддержки уже нет, потребуется переход на поддерживаемую ветку.
После обновления перезапустите службы PHP и проверьте работу сайтов. Контейнеры пересоздайте из обновлённых образов.
📖 Подробности — в официальном бюллетене PHP | 117 |
| 6 | 8–32 ГБ видеопамяти: какие ИИ-модели можно запустить у себя?
Для своего AI-помощника не обязательно нужен дорогой сервер. Некоторым открытым моделям хватает 8–12 ГБ видеопамяти, а с 24–32 ГБ выбор становится шире.
🗣 Мы рассказали на Хабре о пяти моделях и семействах для GPU с 8–32 ГБ памяти — для работы с кодом, документами и внутренними сервисами.
🔹 DeepSeek R1-Distill — тексты, код и рассуждения. Размер модели можно подобрать под доступное железо.
🔹 Qwen3.8-27B — более сложные задачи с кодом и документами. Ориентир — 24–32 ГБ с подходящим квантованием.
🔹 Gemma 4 12B-it — помощники, RAG и мультимодальные задачи. Можно рассматривать конфигурации от 16 ГБ.
🔹 gpt-oss-20b — рассуждения, программирование и инструменты. Требования зависят от GPU и формата весов.
🔹 MiMo-9B — компактный вариант для кода и агентных сценариев на 8–12 ГБ с квантованием.
💡 Мы отдельно разобрали, сколько места оставить для контекста и рабочих данных. Ведь поместить веса на видеокарту
— ещё не значит получить комфортную работу модели.
📖 Подробности, результаты тестов и ориентиры по памяти — в нашей статье на Хабре | 101 |
| 7 | 🏆 mClouds — в ТОП-5 российских облачных провайдеров DRaaS по версии CNews
CNewsMarket опубликовал рейтинг провайдеров облачного аварийного восстановления для обеспечения непрерывности бизнеса — 2026. Мы вошли в топ-5!
Аналитики CNewsMarket оценили сервисы российских провайдеров по возможностям для обеспечения непрерывности бизнеса. В том числе учитывались характеристики резервной инфраструктуры, защиты данных и интегрированные решения информационной безопасности.
📌 Что отмечено у mClouds в рейтинге:
☁ Ручное и автоматическое аварийное переключение. Поддерживаем плановые и аварийные сценарии, а также одновременный запуск нескольких виртуальных машин.
☁ Защита резервных копий. Доступны неизменяемые копии — Immutable Backup — и изолированное хранилище для длительного хранения критичных данных.
☁ Инструменты информационной безопасности. В таблице отмечены NGFW, WAF, многофакторная аутентификация, управление уязвимостями и мониторинг с реагированием на инциденты 24/7.
Наш DRaaS работает на технологиях Veeam и Хайстекс. Мы помогаем настроить репликацию на резервную площадку и заранее проверить сценарий восстановления — чтобы в нужный момент было понятно, какие системы и в каком порядке запускать.
📖 Полный рейтинг и критерии оценки — на CNews | 6 |
| 8 | 🏆 mClouds — в ТОП-5 российских облачных провайдеров DRaaS по версии CNews
CNewsMarket опубликовал рейтинг провайдеров облачного аварийного восстановления для обеспечения непрерывности бизнеса — 2026. Мы вошли в топ-5!
Аналитики CNewsMarket оценили сервисы российских провайдеров по возможностям для обеспечения непрерывности бизнеса. В том числе учитывались характеристики резервной инфраструктуры, защиты данных и интегрированные решения информационной безопасности.
📌 Что отмечено у mClouds в рейтинге:
☁ Ручное и автоматическое аварийное переключение. Поддерживаем плановые и аварийные сценарии, а также одновременный запуск нескольких виртуальных машин.
☁ Защита резервных копий. Доступны неизменяемые копии — Immutable Backup — и изолированное хранилище для длительного хранения критичных данных.
☁ Инструменты информационной безопасности. В таблице отмечены NGFW, WAF, многофакторная аутентификация, управление уязвимостями и мониторинг с реагированием на инциденты 24/7.
Наш DRaaS работает на технологиях Veeam и Хайстекс. Мы помогаем настроить репликацию на резервную площадку и заранее проверить сценарий восстановления — чтобы в нужный момент было понятно, какие системы и в каком порядке запускать.
📖 Полный рейтинг и критерии оценки — на CNews | 132 |
| 9 | Привет! В сентябре мы добавили новый GPU-тариф, обновили резервное копирование и много разбирались с ИИ на практике.
🔔Собрали главное за месяц — вдруг что-то пропустили.
🚀 Запустили тариф с двумя NVIDIA L4 в одной виртуальной машине.
Суммарно 48 ГБ видеопамяти, 16 vCPU на AMD EPYC 9555, 64 ГБ DDR5 и 300 ГБ NVMe. Вариант для тех, кому одной L4 уже мало, а мощность и стоимость L40S избыточны.
Посмотреть тарифы.
🔒 Обновили наш BaaS до Veeam 13. Закрыли важные уязвимости, добавили новые возможности защиты: анализ подозрительной активности с помощью ИИ, двойное подтверждение критичных действий и единый вход.
📚 Написали в наш блог на Хабре две статьи о серверной памяти.
Разобрали, как добавить RAM через PCIe и зачем дата-центрам память, знакомая нам по ноутбукам:
Больше RAM через PCIe: как работает CXL
LPDDR5X и SOCAMM2: «ноутбучная» память приходит в серверы
🤖 В блоге помогли разобраться с запуском своего AI-помощника. Сколько видеопамяти оставить под контекст и запросы коллег? Как подключить документы компании, чтобы искать ответы по инструкциям и регламентам? Собрали объяснения и пошаговое руководство:
Как оценить объём VRAM для LLM
Как запустить LLM с RAG на своём сервере
В руководстве также сравнили Qwen и Gemma на NVIDIA L4: посмотрели на ответы, скорость и расход памяти — с базой знаний и без неё.
🛡 И не забыли про безопасность. Показали, как настроить CrowdSec на Linux для защиты от перебора паролей SSH и подозрительных веб-запросов. Сохраняйте инструкцию.
📌 В октябре продолжим делиться обновлениями и материалами, которые можно применить в своих проектах. Полную версию сентябрьского дайджеста читайте в нашем блоге. | 117 |
| 10 | А что, если память будет сама обрабатывать данные?
🗣 Мы разобрали на Хабре подход Samsung: в LPDDR5X-PIM часть вычислений перенесли прямо внутрь памяти. Получается, данные можно обработать на месте и передать ускорителю уже результат.
📌 Как это работает
🔹 В каждом из 16 банков памяти есть свой вычислительный блок. Они работают параллельно.
🔹 Память берёт на себя отдельные операции — например, умножение матрицы на вектор, которое используется в нейросетях.
🔹 Меньше данных приходится передавать между памятью и ускорителем — меньше времени уходит на ожидание.
⚡️ Что получилось в тесте
На Llama 3.1 8B скорость генерации выросла с 27 до 81,3 токена в секунду — примерно втрое. При этом ИИ-ускоритель оставался тем же, а контекст составлял 320 токенов.
Конечно, это результат конкретного теста, а не обещание ускорить любую модель втрое. Готовых устройств пока нет, но за таким способом ускорить ИИ интересно следить.
📖 Как устроена PIM и где она может пригодиться — в нашей статье | 91 |
| 11 | Как сократить расходы на ИИ и не переплачивать за GPU?
Для корпоративного чат-бота, поиска по документам или транскрибации не всегда нужна самая дорогая видеокарта. Если модель даёт нужное качество и отвечает достаточно быстро, более доступной конфигурации может хватить.
Мы подготовили разбор, который поможет подобрать GPU для Qwen и других открытых моделей под ваши задачи.
📌 На чём можно сэкономить
🔹 Выбрать GPU под нагрузку. Для компактных моделей можно начать с A16 или L4. L40S и RTX PRO 6000 стоит рассматривать, когда нужны больший объём памяти или скорость.
🔹 Использовать FP8. Квантизация сокращает объём весов и помогает разместить модель на более доступной карте. Качество ответов при этом нужно проверить на своих задачах.
🔹 Сравнить аренду с оплатой API. При регулярной нагрузке своя LLM может обходиться дешевле оплаты за токены — с учётом расходов на сопровождение.
💡 Мы рекомендуем начать с небольшого пилота: проверить качество, расход VRAM и скорость при вашем количестве одновременных запросов. Просто загрузить модель в память недостаточно — нужен запас для контекста и рабочих данных.
📖 Как выбрать конфигурацию и оценить экономию — в нашей статье | 101 |
| 12 | 🔔 «Ноутбучная» память в сервере — зачем это дата-центрам?
Чем больше энергии потребляет память, тем меньше остаётся процессорам и GPU в пределах мощности стойки. Поэтому производители присматриваются к LPDDR5X — памяти, знакомой нам по ноутбукам и смартфонам.
Мы разобрали на Хабре, как она приходит в серверы и что это может дать вашим задачам.
📌 Что меняет SOCAMM2
Это съёмный модуль на базе LPDDR5X: память можно заменить без замены всей системной платы. Для модулей SOCAMM2 на 256 ГБ Micron заявляет примерно втрое меньшее энергопотребление и занимаемую площадь по сравнению со стандартными RDIMM.
🔹 А что с производительностью?
В рассмотренных тестах переход с LPDDR5X-6400 на 8533 ускорил подготовку данных для ИИ на 11%, а в MediaWiki снизил задержку самых медленных запросов примерно на 9%.
В аналитике важнее оказался объём: увеличение RAM с 512 ГБ до 1 ТБ позволило реже обращаться к SSD и ускорило отдельные нагрузки в несколько раз.
📖 Подробнее о SOCAMM2 в нашей статье на Хабре! | 114 |
| 13 | 🗣 Запустили новый тариф с 48 ГБ видеопамяти NVIDIA L4 в одном сервере
Если для ваших задач нужны 48 ГБ видеопамяти, а мощность и стоимость NVIDIA L40S избыточны — у нас появилась более доступная конфигурация: две NVIDIA L4 по 24 ГБ в одной виртуальной машине.
📌 Что внутри
🔹 2 × NVIDIA L4 по 24 ГБ
🔹 16 vCPU на высокочастотных AMD EPYC 9555
🔹 64 ГБ DDR5
🔹 300 ГБ NVMe
Кому подойдёт
🔹 Тем, кто запускает LLM и AI-помощников.
🔹 Тем, кто экспериментирует с дообучением моделей.
🔹 Тем, кто работает с генерацией изображений и обработкой видео.
🔹 Всем, кому одной L4 уже мало, а переход на L40S выходит за бюджет.
Мы собрали этот тариф, чтобы дать больше видеопамяти при меньших затратах на аренду.
🚀 Посмотреть тариф и заказать сервер | 112 |
| 14 | Процессор ещё справляется, а оперативной памяти уже не хватает?
Новые нагрузки приходится переносить на другие серверы, хотя свободные ядра ещё есть. Один из способов добавить RAM — технология CXL. Мы разобрали на Хабре, как она работает и какие ограничения стоит учитывать.
📌 Что даёт CXL
🔹 Подключает дополнительную память через PCIe и специальный контроллер. Система использует её как оперативную память.
🔹 Позволяет повторно использовать исправные модули DDR4 из старых серверов — вместе с локальной DDR5 в новых.
🔹 Помогает разместить больше нагрузки на одном хосте, если ограничение именно в объёме RAM.
В статье разобрали пример MemServer: к 768 ГБ DDR5 добавили 256 ГБ DDR4 через CXL и получили 1 ТБ памяти.
⚠️ Есть нюанс
CXL-память медленнее локальной DDR5, поэтому важен выбор данных, которые в ней размещаются. А серверная платформа должна поддерживать CXL — одного свободного слота PCIe недостаточно.
Собрали подробности об устройстве такой системы, стоимости памяти и результатах испытаний.
📖 Читайте разбор в нашем блоге на Хабре | 123 |
| 15 | Модель весит 14 ГБ, а видеопамяти на 16 ГБ не хватает. Почему? 🤔
При выборе GPU для LLM легко ориентироваться на размер весов: помещаются в память — значит, можно запускать. Но во время работы модели потребуется место и для других данных.
Мы подготовили обзор, который поможет прикинуть, сколько VRAM нужно именно под вашу нагрузку.
📌 Куда уходит видеопамять
🔹 Веса модели. Например, для 7 млрд параметров в FP16 потребуется около 14 ГБ — только на их хранение.
🔹 KV-кэш. Сохраняет результаты вычислений для уже обработанных токенов. Чем длиннее диалог, документ и ответ, тем больше памяти он занимает.
🔹 Параллельные запросы. Несколько пользователей и большие батчи увеличивают расход VRAM.
🔹 Рабочие данные. Временные результаты вычислений и сам движок инференса тоже используют память.
Поэтому мы советуем проверять модель на задачах, близких к реальным: с вашими документами, длиной ответов и количеством одновременных запросов.
В mClouds для таких тестов доступны GPU с 24, 48 и 96 ГБ видеопамяти. Можно проверить расход памяти и скорость ответов до запуска проекта в работу.
📖 Подробнее о выборе GPU под LLM — в нашем блоге | 134 |
| 16 | 🗣 84 ГБ видеопамяти: NVIDIA представила RTX PRO 5500 Blackwell
Новинка занимает место между RTX PRO 5000 и RTX PRO 6000. Карта ориентирована на инференс LLM, AI-агентов, тяжёлые 3D-сцены и симуляции.
📌 Что известно о характеристиках
🔹 84 ГБ памяти GDDR7 с коррекцией ошибок ECC;
🔹 21 760 CUDA-ядер — столько же, сколько у GeForce RTX 5090
🔹 пропускная способность памяти — 1398 ГБ/с;
🔹 интерфейс PCIe 5.0 x16;
🔹 энергопотребление — до 600 Вт.
Большой объём видеопамяти даёт больше пространства под веса LLM и контекст, а в графических задачах — под сложные сцены и текстуры. При этом одинаковое с RTX 5090 число CUDA-ядер само по себе не означает одинаковую производительность.
Из особенностей — поддержка MIG: одну карту можно разделить на два изолированных GPU-экземпляра с памятью до 42 ГБ каждый.
🔎 А что с серверной версией?
Возможно, линейку позже дополнит RTX PRO 5500 Server Edition, но пока NVIDIA такую версию не анонсировала. Представленная Workstation Edition уже рассчитана на размещение в сточных рабочих станциях.
Цена и сроки начала продаж пока не объявлены, а характеристики NVIDIA помечает как предварительные.
📖 Подробнее о характеристиках на сайте NVIDIA | 121 |
| 17 | Пусть AI ищет в вашей базе знаний
🗣В статье рассказали, как Инструкции, регламенты и FAQ вашей компании, можно подключить к LLM, чтобы сотрудники получали ответы по документам компании прямо в чате.
Для этого используют RAG: система находит нужные фрагменты в базе знаний и передает их модели вместе с вопросом. Дообучать LLM для этого не нужно.
Мы подготовили руководство по запуску такой системы на GPU-сервере mClouds с NVIDIA L4 и 24 ГБ видеопамяти. Использовали vLLM для запуска модели и Open WebUI для чата и работы с документами.
📌Разобрали, как:
📍 подобрать ресурсы сервера;
📍 установить и связать vLLM с Open WebUI;
📍 загрузить документы и подключить базу знаний;
📍 настроить доступ и защиту сервера;
📍 сравнить ответы моделей с RAG и без него.
Также протестировали Qwen3.5-9B и Gemma 4 E4B: сравнили скорость генерации, использование видеопамяти и ответы на русском языке.
❔ Полное руководство с командами и примерами — в нашем блоге | 132 |
| 18 | Кто-то перебирает пароли к SSH или ищет уязвимости на сайте? Такие попытки можно блокировать автоматически.
CrowdSec — ПО с открытым исходным кодом для обнаружения атак. Оно анализирует логи, выявляет подозрительное поведение и передает решения баунсерам — компонентам, которые блокируют доступ через firewall или веб-сервер.
CrowdSec также обменивается с сообществом данными об IP-адресах атакующих, учитывая угрозы, замеченные на других серверах.
📌 Собрали для вас инструкцию по настройке на Ubuntu 26.04 LTS
Пошагово показали, как:
📍 установить CrowdSec и подключить веб-консоль;
📍 настроить баунсеры для firewall и Nginx;
📍 подключить правила и источники логов;
📍 включить AppSec для проверки веб-запросов;
📍 добавить доверенные IP в белый список;
📍 включить режим симуляции и проверить блокировку SSH-брутфорса.
Также разобрали, где смотреть сработавшие правила и заблокированные IP, как снять блокировку и изменить её срок.
📖 Инструкция с командами и скриншотами — уже на сайте mClouds | 127 |
| 19 | Для больших языковых моделей и тяжелого инференса 48 ГБ видеопамяти — это потолок. Модели не помещаются целиком, приходится использовать ухищрения.
NVIDIA RTX Pro 6000 с 96 ГБ памяти снимает это ограничение. Карта построена на архитектуре Blackwell и оснащена 24 064 ядрами CUDA, 752 тензорными ядрами и 188 RT-ядрами.
Благодаря этой мощности можно:
🔹 Запускать LLM с 70B+ параметрами целиком, без шардинга
🔹 Держать большие батчи для инференса без падения скорости
🔹 Обучать и дообучать модели на одном GPU
🔹 Работать с тяжелыми 3D-сценами и рендерингом без выгрузки данных.
Это карта для тех, кто уперся в 48 ГБ и не хочет собирать сложные многокарточные конфигурации ради одной модели.
🚀 Запросить доступ к RTX Pro 6000 | 137 |
| 20 | В 2026 году на рынок наконец вышли первые серийные SSD с поддержкой PCIe 6.0. До этого три года технология существовала только в спецификациях.
Первыми вышли диски для серверов: форм-факторы E1.S и E3.S, поддержка жидкостного охлаждения, объем до 61,44 ТБ.
⚡️ На Хабре рассказали про первые модели:
🔹 Samsung PM1763. Скорость: до 28,4 ГБ/с на чтение и 21,9 ГБ/с на запись. 40-гигабайтную языковую модель передает за 1,4 секунды. Диск оптимизирован для жидкостного охлаждения и поддерживает постквантовую криптографию.
🔹 Micron 9650. Скорость: до 28 ГБ/с на чтение и 14 ГБ/с на запись. Доступен в версиях Pro и Max с емкостью до 30,72 ТБ.
📌 Что дает новое поколение
PCIe 6.0 убирает главное узкое место в AI-инфраструктуре — скорость доступа к данным. Новые диски позволяют загружать модели в два раза быстрее и эффективнее использовать дорогие GPU.
Мы в mClouds используем PCIe 5.0 NVMe для работы с GPU. Этого достаточно для текущих задач. Но мы внимательно следим за PCIe 6.0 и изучаем, когда и как переход на новое поколение может быть полезен для наших клиентов.
📖 Подробный разбор — в статье на Хабре | 133 |
