mClouds - облачный провайдер
前往频道在 Telegram
Канал облачного провайдера mClouds.ru Пишем про облачные сервисы (IaaS, BaaS, DRaaS), IT-бизнес, кейсы цифровой трансформации, администрирование (Windows, Linux), лайфхаки от команды инженеров. Техподдержка: info@mclouds.ru
显示更多414
订阅者
无数据24 小时
无数据7 天
+530 天
正在加载数据
吸引订阅者
十一月 '2611月 '26
十一月 '26
+5
在0个频道中
十月 '26
+3
在0个频道中
Get PRO
九月 '26
+4
在0个频道中
Get PRO
八月 '26
+4
在0个频道中
Get PRO
七月 '26
+2
在0个频道中
Get PRO
六月 '26
+3
在0个频道中
Get PRO
五月 '26
+5
在0个频道中
Get PRO
四月 '26
+3
在0个频道中
Get PRO
三月 '26
+5
在0个频道中
Get PRO
二月 '26
+8
在0个频道中
Get PRO
一月 '26
+7
在0个频道中
Get PRO
十二月 '25
+6
在0个频道中
Get PRO
十一月 '25
+1
在0个频道中
Get PRO
十月 '25
+4
在0个频道中
Get PRO
九月 '25
+4
在0个频道中
Get PRO
八月 '25
+12
在0个频道中
Get PRO
七月 '25
+239
在8个频道中
Get PRO
六月 '250
在0个频道中
Get PRO
五月 '250
在1个频道中
Get PRO
四月 '250
在0个频道中
Get PRO
三月 '250
在0个频道中
Get PRO
二月 '250
在0个频道中
Get PRO
一月 '250
在0个频道中
Get PRO
十二月 '240
在1个频道中
Get PRO
十一月 '240
在0个频道中
Get PRO
十月 '240
在0个频道中
Get PRO
九月 '240
在0个频道中
Get PRO
八月 '240
在0个频道中
Get PRO
七月 '240
在0个频道中
Get PRO
六月 '240
在0个频道中
Get PRO
五月 '240
在0个频道中
Get PRO
四月 '240
在0个频道中
Get PRO
三月 '240
在0个频道中
Get PRO
二月 '24
+1
在0个频道中
Get PRO
一月 '24
+5
在0个频道中
Get PRO
十二月 '23
+21
在0个频道中
Get PRO
十一月 '23
+8
在0个频道中
Get PRO
十月 '23
+260
在0个频道中
| 日期 | 订阅者增长 | 提及 | 频道 | |
| 14 十一月 | 0 | |||
| 13 十一月 | 0 | |||
| 12 十一月 | 0 | |||
| 11 十一月 | 0 | |||
| 10 十一月 | 0 | |||
| 09 十一月 | 0 | |||
| 08 十一月 | 0 | |||
| 07 十一月 | 0 | |||
| 06 十一月 | +1 | |||
| 05 十一月 | 0 | |||
| 04 十一月 | 0 | |||
| 03 十一月 | 0 | |||
| 02 十一月 | 0 | |||
| 01 十一月 | +4 |
频道帖子
📣 RTX 5090 на 96 или даже 128 ГБ: такие карты вообще есть?
Нас всё чаще спрашивают, можно ли взять в аренду RTX 5090 с 96 ГБ видеопамяти. Бывают запросы даже на 128 ГБ. У серийной RTX 5090 — 32 ГБ, поэтому мы решили разобраться, что стоит за объявлениями о картах с таким объёмом памяти.
1️⃣ RTX 5090 на 96 ГБ мы нашли на Alibaba. Но в характеристиках продавцов есть нестыковки: указанные тип памяти и ширина шины не сходятся с заявленными 96 ГБ. Независимых обзоров и тестов купленной карты мы не нашли. Версия на 128 ГБ пока тоже не получила подтверждения: в сети разошёлся скриншот, но рабочую карту под нагрузкой никто так и не показал.
2️⃣ С RTX 4090 на 48 ГБ история другая. Такие модификации действительно работают, и некоторые провайдеры уже сдают их в аренду. Здесь вопрос в конкретном экземпляре: насколько он стабилен под длительной нагрузкой и справляется ли охлаждение.👉 Если вам нужен большой объём памяти на одной GPU, у профессиональных карт он есть и без переделок: 48 ГБ у NVIDIA L40S и 96 ГБ у RTX PRO 6000 Blackwell. Обе доступны в нашем облаке. 📄 На Хабре разобрали, как увеличивают память видеокарт, что не сходится в объявлениях и чем модификации отличаются от профессиональных карт
| 2 | 🗣 Что нового в mClouds: итоги октября
Привет! В октябре мы добавили больше GPU в облако, вошли в ТОП-5 провайдеров DRaaS и подготовили новые материалы для тех, кто работает с ИИ. Собрали главное за месяц.
🚀 Расширили пул RTX PRO 6000 Blackwell
Добавили карты с 96 ГБ видеопамяти для задач, которым уже мало 24 или 48 ГБ. К одной ВМ можно подключить две GPU — получится 192 ГБ суммарно.
Подробнее о возможностях и сценариях рассказали в карточках.
🏆 Вошли в ТОП-5 российских облачных провайдеров DRaaS
В рейтинге CNewsMarket отметили возможности аварийного переключения, защиту резервных копий и инструменты информационной безопасности. Наш DRaaS на технологиях Veeam и Хайстакс помогает организовать резервную площадку и подготовить восстановление систем при сбое.
🔐 Напомнили об обновлении PHP
21 октября вышли исправления двух критических уязвимостей. Если ваши сайты и приложения используют PHP, а обновления ещё не установлены, рекомендуем не откладывать: обновить нужно сам PHP, а не только CMS и плагины.
Подробности — в официальном бюллетене.
📚 На Хабре разобрали модели и память
🔹 Пять открытых ИИ-моделей для GPU с 8–32 ГБ — какие альтернативы облачным ИИ-сервисам можно запустить у себя.
🔹 Как устроена LPDDR5X-PIM — память, которая умеет выполнять часть вычислений прямо там, где хранятся данные.
💡 В блоге рассказали, как не переплачивать за ИИ
Собрали шесть моделей для GPU до 24 ГБ и разобрали, как выбрать GPU для Qwen и других LLM. С примерами, где хватит L4, а когда стоит смотреть на L40S или RTX PRO 6000.
📖 Полный дайджест октября — в нашем блоге | 86 |
| 3 | 🗣 Больше GPU для ваших ИИ-задач: расширили пул RTX PRO 6000 Blackwell 96GB
Добавили в mClouds дополнительные NVIDIA RTX PRO 6000 Blackwell с 96 ГБ видеопамяти — для тех, кому уже тесно в 24 или 48 ГБ.
К одной виртуальной машине можно подключить две карты и получить 192 ГБ видеопамяти суммарно. Это позволяет распределить крупную модель между GPU или запускать на каждой свои задачи.
📌 Такая конфигурация пригодится для работы с LLM, ИИ-ассистентами и базами знаний, дообучения моделей, генерации изображений и видео.
Если ваша модель вместе с контекстом помещается в 96 ГБ, а производительности достаточно, RTX PRO 6000 может стать более экономичной альтернативой аренде A100, H100 или H200.
💬 В карточках рассказали, что даёт Blackwell, как использовать две GPU в одной ВМ и чем отличаются L4, L40S и RTX PRO 6000. Листайте — собрали главное, чтобы было проще выбрать конфигурацию под вашу задачу.
👨💻 Посмотреть все конфигурации GPU-серверов у нас на сайте! | 117 |
| 4 | 🧠 Какие нейросети можно запустить на GPU с 24 ГБ памяти? А с 16ГБ ?
Для своего ИИ-помощника не всегда нужна дорогая видеокарта на 48 или 96 ГБ. Если вы работаете с документами, собираете базу знаний или запускаете чат-бота, для вашей задачи может хватить и 24 ГБ.
Мы собрали в блоге шесть моделей для такого объёма памяти и разобрали их запуск на примере NVIDIA L4:
🔹 Gemma 4 12B — для ассистентов и работы с текстом, изображениями и аудио.
🔹 Qwen3.5-9B — для кода, длинных документов и автоматизации рутинных задач.
🔹 gpt-oss-20b — для локальных помощников с возможностью настраивать глубину рассуждений.
🔹 PaddleOCR-VL-1.6 — для распознавания документов, таблиц и формул.
🔹 Qwen3.6-35B-A3B и Qwen3.8-27B — для более сложных задач с кодом, документами и RAG.
📌 Что важно учесть
Большинству моделей из подборки потребуется квантование — уменьшение точности весов, которое снижает расход памяти.
В статье рассказали, какие варианты подойдут даже для 16 ГБ
Где хватит L4 и когда стоит смотреть на GPU мощнее. Чтобы вы могли выбрать конфигурацию под свою задачу и не переплачивать за лишние ресурсы.
📖 Подборка моделей и подробности запуска — в нашем блоге | 112 |
| 5 | ⚠️ Вышли важные обновления безопасности PHP — рекомендуем установить их как можно скорее
21 октября 2026 года команда PHP выпустила исправления двух критических уязвимостей — CVE-2026-109618 и CVE-2026-109619.
Они могут позволить выполнить код на сервере без авторизации.
Если вы ещё не видели уведомление и используете PHP для сайтов или веб-приложений, мы рекомендуем как можно скорее проверить версии и установить исправления. ИИ-инструменты могут ускорять поиск уязвимых систем и подготовку атак, поэтому рассчитывать на долгий запас времени не стоит.
📌 Кого это касается
Систем, где PHP обрабатывает веб-запросы через PHP-FPM, Apache с mod_php, CGI, FrankenPHP или LiteSpeed. Наибольший риск отмечен для Apache с mod_php.
Обновления CMS и плагинов недостаточно — исправления нужны самому PHP.
🔹 До каких версий обновиться
Исправленные версии: PHP 8.2.35, 8.3.36, 8.4.27 и 8.5.12. Установите обновление своей ветки или пакет с исправлением от поставщика ОС либо панели управления.
Для PHP 8.1 и старше уточните наличие исправлений у поставщика пакетов. Если поддержки уже нет, потребуется переход на поддерживаемую ветку.
После обновления перезапустите службы PHP и проверьте работу сайтов. Контейнеры пересоздайте из обновлённых образов.
📖 Подробности — в официальном бюллетене PHP | 117 |
| 6 | 8–32 ГБ видеопамяти: какие ИИ-модели можно запустить у себя?
Для своего AI-помощника не обязательно нужен дорогой сервер. Некоторым открытым моделям хватает 8–12 ГБ видеопамяти, а с 24–32 ГБ выбор становится шире.
🗣 Мы рассказали на Хабре о пяти моделях и семействах для GPU с 8–32 ГБ памяти — для работы с кодом, документами и внутренними сервисами.
🔹 DeepSeek R1-Distill — тексты, код и рассуждения. Размер модели можно подобрать под доступное железо.
🔹 Qwen3.8-27B — более сложные задачи с кодом и документами. Ориентир — 24–32 ГБ с подходящим квантованием.
🔹 Gemma 4 12B-it — помощники, RAG и мультимодальные задачи. Можно рассматривать конфигурации от 16 ГБ.
🔹 gpt-oss-20b — рассуждения, программирование и инструменты. Требования зависят от GPU и формата весов.
🔹 MiMo-9B — компактный вариант для кода и агентных сценариев на 8–12 ГБ с квантованием.
💡 Мы отдельно разобрали, сколько места оставить для контекста и рабочих данных. Ведь поместить веса на видеокарту
— ещё не значит получить комфортную работу модели.
📖 Подробности, результаты тестов и ориентиры по памяти — в нашей статье на Хабре | 101 |
| 7 | 🏆 mClouds — в ТОП-5 российских облачных провайдеров DRaaS по версии CNews
CNewsMarket опубликовал рейтинг провайдеров облачного аварийного восстановления для обеспечения непрерывности бизнеса — 2026. Мы вошли в топ-5!
Аналитики CNewsMarket оценили сервисы российских провайдеров по возможностям для обеспечения непрерывности бизнеса. В том числе учитывались характеристики резервной инфраструктуры, защиты данных и интегрированные решения информационной безопасности.
📌 Что отмечено у mClouds в рейтинге:
☁ Ручное и автоматическое аварийное переключение. Поддерживаем плановые и аварийные сценарии, а также одновременный запуск нескольких виртуальных машин.
☁ Защита резервных копий. Доступны неизменяемые копии — Immutable Backup — и изолированное хранилище для длительного хранения критичных данных.
☁ Инструменты информационной безопасности. В таблице отмечены NGFW, WAF, многофакторная аутентификация, управление уязвимостями и мониторинг с реагированием на инциденты 24/7.
Наш DRaaS работает на технологиях Veeam и Хайстекс. Мы помогаем настроить репликацию на резервную площадку и заранее проверить сценарий восстановления — чтобы в нужный момент было понятно, какие системы и в каком порядке запускать.
📖 Полный рейтинг и критерии оценки — на CNews | 6 |
| 8 | 🏆 mClouds — в ТОП-5 российских облачных провайдеров DRaaS по версии CNews
CNewsMarket опубликовал рейтинг провайдеров облачного аварийного восстановления для обеспечения непрерывности бизнеса — 2026. Мы вошли в топ-5!
Аналитики CNewsMarket оценили сервисы российских провайдеров по возможностям для обеспечения непрерывности бизнеса. В том числе учитывались характеристики резервной инфраструктуры, защиты данных и интегрированные решения информационной безопасности.
📌 Что отмечено у mClouds в рейтинге:
☁ Ручное и автоматическое аварийное переключение. Поддерживаем плановые и аварийные сценарии, а также одновременный запуск нескольких виртуальных машин.
☁ Защита резервных копий. Доступны неизменяемые копии — Immutable Backup — и изолированное хранилище для длительного хранения критичных данных.
☁ Инструменты информационной безопасности. В таблице отмечены NGFW, WAF, многофакторная аутентификация, управление уязвимостями и мониторинг с реагированием на инциденты 24/7.
Наш DRaaS работает на технологиях Veeam и Хайстекс. Мы помогаем настроить репликацию на резервную площадку и заранее проверить сценарий восстановления — чтобы в нужный момент было понятно, какие системы и в каком порядке запускать.
📖 Полный рейтинг и критерии оценки — на CNews | 132 |
| 9 | Привет! В сентябре мы добавили новый GPU-тариф, обновили резервное копирование и много разбирались с ИИ на практике.
🔔Собрали главное за месяц — вдруг что-то пропустили.
🚀 Запустили тариф с двумя NVIDIA L4 в одной виртуальной машине.
Суммарно 48 ГБ видеопамяти, 16 vCPU на AMD EPYC 9555, 64 ГБ DDR5 и 300 ГБ NVMe. Вариант для тех, кому одной L4 уже мало, а мощность и стоимость L40S избыточны.
Посмотреть тарифы.
🔒 Обновили наш BaaS до Veeam 13. Закрыли важные уязвимости, добавили новые возможности защиты: анализ подозрительной активности с помощью ИИ, двойное подтверждение критичных действий и единый вход.
📚 Написали в наш блог на Хабре две статьи о серверной памяти.
Разобрали, как добавить RAM через PCIe и зачем дата-центрам память, знакомая нам по ноутбукам:
Больше RAM через PCIe: как работает CXL
LPDDR5X и SOCAMM2: «ноутбучная» память приходит в серверы
🤖 В блоге помогли разобраться с запуском своего AI-помощника. Сколько видеопамяти оставить под контекст и запросы коллег? Как подключить документы компании, чтобы искать ответы по инструкциям и регламентам? Собрали объяснения и пошаговое руководство:
Как оценить объём VRAM для LLM
Как запустить LLM с RAG на своём сервере
В руководстве также сравнили Qwen и Gemma на NVIDIA L4: посмотрели на ответы, скорость и расход памяти — с базой знаний и без неё.
🛡 И не забыли про безопасность. Показали, как настроить CrowdSec на Linux для защиты от перебора паролей SSH и подозрительных веб-запросов. Сохраняйте инструкцию.
📌 В октябре продолжим делиться обновлениями и материалами, которые можно применить в своих проектах. Полную версию сентябрьского дайджеста читайте в нашем блоге. | 117 |
| 10 | А что, если память будет сама обрабатывать данные?
🗣 Мы разобрали на Хабре подход Samsung: в LPDDR5X-PIM часть вычислений перенесли прямо внутрь памяти. Получается, данные можно обработать на месте и передать ускорителю уже результат.
📌 Как это работает
🔹 В каждом из 16 банков памяти есть свой вычислительный блок. Они работают параллельно.
🔹 Память берёт на себя отдельные операции — например, умножение матрицы на вектор, которое используется в нейросетях.
🔹 Меньше данных приходится передавать между памятью и ускорителем — меньше времени уходит на ожидание.
⚡️ Что получилось в тесте
На Llama 3.1 8B скорость генерации выросла с 27 до 81,3 токена в секунду — примерно втрое. При этом ИИ-ускоритель оставался тем же, а контекст составлял 320 токенов.
Конечно, это результат конкретного теста, а не обещание ускорить любую модель втрое. Готовых устройств пока нет, но за таким способом ускорить ИИ интересно следить.
📖 Как устроена PIM и где она может пригодиться — в нашей статье | 91 |
| 11 | Как сократить расходы на ИИ и не переплачивать за GPU?
Для корпоративного чат-бота, поиска по документам или транскрибации не всегда нужна самая дорогая видеокарта. Если модель даёт нужное качество и отвечает достаточно быстро, более доступной конфигурации может хватить.
Мы подготовили разбор, который поможет подобрать GPU для Qwen и других открытых моделей под ваши задачи.
📌 На чём можно сэкономить
🔹 Выбрать GPU под нагрузку. Для компактных моделей можно начать с A16 или L4. L40S и RTX PRO 6000 стоит рассматривать, когда нужны больший объём памяти или скорость.
🔹 Использовать FP8. Квантизация сокращает объём весов и помогает разместить модель на более доступной карте. Качество ответов при этом нужно проверить на своих задачах.
🔹 Сравнить аренду с оплатой API. При регулярной нагрузке своя LLM может обходиться дешевле оплаты за токены — с учётом расходов на сопровождение.
💡 Мы рекомендуем начать с небольшого пилота: проверить качество, расход VRAM и скорость при вашем количестве одновременных запросов. Просто загрузить модель в память недостаточно — нужен запас для контекста и рабочих данных.
📖 Как выбрать конфигурацию и оценить экономию — в нашей статье | 101 |
| 12 | 🔔 «Ноутбучная» память в сервере — зачем это дата-центрам?
Чем больше энергии потребляет память, тем меньше остаётся процессорам и GPU в пределах мощности стойки. Поэтому производители присматриваются к LPDDR5X — памяти, знакомой нам по ноутбукам и смартфонам.
Мы разобрали на Хабре, как она приходит в серверы и что это может дать вашим задачам.
📌 Что меняет SOCAMM2
Это съёмный модуль на базе LPDDR5X: память можно заменить без замены всей системной платы. Для модулей SOCAMM2 на 256 ГБ Micron заявляет примерно втрое меньшее энергопотребление и занимаемую площадь по сравнению со стандартными RDIMM.
🔹 А что с производительностью?
В рассмотренных тестах переход с LPDDR5X-6400 на 8533 ускорил подготовку данных для ИИ на 11%, а в MediaWiki снизил задержку самых медленных запросов примерно на 9%.
В аналитике важнее оказался объём: увеличение RAM с 512 ГБ до 1 ТБ позволило реже обращаться к SSD и ускорило отдельные нагрузки в несколько раз.
📖 Подробнее о SOCAMM2 в нашей статье на Хабре! | 114 |
| 13 | 🗣 Запустили новый тариф с 48 ГБ видеопамяти NVIDIA L4 в одном сервере
Если для ваших задач нужны 48 ГБ видеопамяти, а мощность и стоимость NVIDIA L40S избыточны — у нас появилась более доступная конфигурация: две NVIDIA L4 по 24 ГБ в одной виртуальной машине.
📌 Что внутри
🔹 2 × NVIDIA L4 по 24 ГБ
🔹 16 vCPU на высокочастотных AMD EPYC 9555
🔹 64 ГБ DDR5
🔹 300 ГБ NVMe
Кому подойдёт
🔹 Тем, кто запускает LLM и AI-помощников.
🔹 Тем, кто экспериментирует с дообучением моделей.
🔹 Тем, кто работает с генерацией изображений и обработкой видео.
🔹 Всем, кому одной L4 уже мало, а переход на L40S выходит за бюджет.
Мы собрали этот тариф, чтобы дать больше видеопамяти при меньших затратах на аренду.
🚀 Посмотреть тариф и заказать сервер | 112 |
| 14 | Процессор ещё справляется, а оперативной памяти уже не хватает?
Новые нагрузки приходится переносить на другие серверы, хотя свободные ядра ещё есть. Один из способов добавить RAM — технология CXL. Мы разобрали на Хабре, как она работает и какие ограничения стоит учитывать.
📌 Что даёт CXL
🔹 Подключает дополнительную память через PCIe и специальный контроллер. Система использует её как оперативную память.
🔹 Позволяет повторно использовать исправные модули DDR4 из старых серверов — вместе с локальной DDR5 в новых.
🔹 Помогает разместить больше нагрузки на одном хосте, если ограничение именно в объёме RAM.
В статье разобрали пример MemServer: к 768 ГБ DDR5 добавили 256 ГБ DDR4 через CXL и получили 1 ТБ памяти.
⚠️ Есть нюанс
CXL-память медленнее локальной DDR5, поэтому важен выбор данных, которые в ней размещаются. А серверная платформа должна поддерживать CXL — одного свободного слота PCIe недостаточно.
Собрали подробности об устройстве такой системы, стоимости памяти и результатах испытаний.
📖 Читайте разбор в нашем блоге на Хабре | 123 |
| 15 | Модель весит 14 ГБ, а видеопамяти на 16 ГБ не хватает. Почему? 🤔
При выборе GPU для LLM легко ориентироваться на размер весов: помещаются в память — значит, можно запускать. Но во время работы модели потребуется место и для других данных.
Мы подготовили обзор, который поможет прикинуть, сколько VRAM нужно именно под вашу нагрузку.
📌 Куда уходит видеопамять
🔹 Веса модели. Например, для 7 млрд параметров в FP16 потребуется около 14 ГБ — только на их хранение.
🔹 KV-кэш. Сохраняет результаты вычислений для уже обработанных токенов. Чем длиннее диалог, документ и ответ, тем больше памяти он занимает.
🔹 Параллельные запросы. Несколько пользователей и большие батчи увеличивают расход VRAM.
🔹 Рабочие данные. Временные результаты вычислений и сам движок инференса тоже используют память.
Поэтому мы советуем проверять модель на задачах, близких к реальным: с вашими документами, длиной ответов и количеством одновременных запросов.
В mClouds для таких тестов доступны GPU с 24, 48 и 96 ГБ видеопамяти. Можно проверить расход памяти и скорость ответов до запуска проекта в работу.
📖 Подробнее о выборе GPU под LLM — в нашем блоге | 134 |
| 16 | 🗣 84 ГБ видеопамяти: NVIDIA представила RTX PRO 5500 Blackwell
Новинка занимает место между RTX PRO 5000 и RTX PRO 6000. Карта ориентирована на инференс LLM, AI-агентов, тяжёлые 3D-сцены и симуляции.
📌 Что известно о характеристиках
🔹 84 ГБ памяти GDDR7 с коррекцией ошибок ECC;
🔹 21 760 CUDA-ядер — столько же, сколько у GeForce RTX 5090
🔹 пропускная способность памяти — 1398 ГБ/с;
🔹 интерфейс PCIe 5.0 x16;
🔹 энергопотребление — до 600 Вт.
Большой объём видеопамяти даёт больше пространства под веса LLM и контекст, а в графических задачах — под сложные сцены и текстуры. При этом одинаковое с RTX 5090 число CUDA-ядер само по себе не означает одинаковую производительность.
Из особенностей — поддержка MIG: одну карту можно разделить на два изолированных GPU-экземпляра с памятью до 42 ГБ каждый.
🔎 А что с серверной версией?
Возможно, линейку позже дополнит RTX PRO 5500 Server Edition, но пока NVIDIA такую версию не анонсировала. Представленная Workstation Edition уже рассчитана на размещение в сточных рабочих станциях.
Цена и сроки начала продаж пока не объявлены, а характеристики NVIDIA помечает как предварительные.
📖 Подробнее о характеристиках на сайте NVIDIA | 121 |
| 17 | Пусть AI ищет в вашей базе знаний
🗣В статье рассказали, как Инструкции, регламенты и FAQ вашей компании, можно подключить к LLM, чтобы сотрудники получали ответы по документам компании прямо в чате.
Для этого используют RAG: система находит нужные фрагменты в базе знаний и передает их модели вместе с вопросом. Дообучать LLM для этого не нужно.
Мы подготовили руководство по запуску такой системы на GPU-сервере mClouds с NVIDIA L4 и 24 ГБ видеопамяти. Использовали vLLM для запуска модели и Open WebUI для чата и работы с документами.
📌Разобрали, как:
📍 подобрать ресурсы сервера;
📍 установить и связать vLLM с Open WebUI;
📍 загрузить документы и подключить базу знаний;
📍 настроить доступ и защиту сервера;
📍 сравнить ответы моделей с RAG и без него.
Также протестировали Qwen3.5-9B и Gemma 4 E4B: сравнили скорость генерации, использование видеопамяти и ответы на русском языке.
❔ Полное руководство с командами и примерами — в нашем блоге | 132 |
| 18 | Кто-то перебирает пароли к SSH или ищет уязвимости на сайте? Такие попытки можно блокировать автоматически.
CrowdSec — ПО с открытым исходным кодом для обнаружения атак. Оно анализирует логи, выявляет подозрительное поведение и передает решения баунсерам — компонентам, которые блокируют доступ через firewall или веб-сервер.
CrowdSec также обменивается с сообществом данными об IP-адресах атакующих, учитывая угрозы, замеченные на других серверах.
📌 Собрали для вас инструкцию по настройке на Ubuntu 26.04 LTS
Пошагово показали, как:
📍 установить CrowdSec и подключить веб-консоль;
📍 настроить баунсеры для firewall и Nginx;
📍 подключить правила и источники логов;
📍 включить AppSec для проверки веб-запросов;
📍 добавить доверенные IP в белый список;
📍 включить режим симуляции и проверить блокировку SSH-брутфорса.
Также разобрали, где смотреть сработавшие правила и заблокированные IP, как снять блокировку и изменить её срок.
📖 Инструкция с командами и скриншотами — уже на сайте mClouds | 127 |
| 19 | Для больших языковых моделей и тяжелого инференса 48 ГБ видеопамяти — это потолок. Модели не помещаются целиком, приходится использовать ухищрения.
NVIDIA RTX Pro 6000 с 96 ГБ памяти снимает это ограничение. Карта построена на архитектуре Blackwell и оснащена 24 064 ядрами CUDA, 752 тензорными ядрами и 188 RT-ядрами.
Благодаря этой мощности можно:
🔹 Запускать LLM с 70B+ параметрами целиком, без шардинга
🔹 Держать большие батчи для инференса без падения скорости
🔹 Обучать и дообучать модели на одном GPU
🔹 Работать с тяжелыми 3D-сценами и рендерингом без выгрузки данных.
Это карта для тех, кто уперся в 48 ГБ и не хочет собирать сложные многокарточные конфигурации ради одной модели.
🚀 Запросить доступ к RTX Pro 6000 | 137 |
| 20 | В 2026 году на рынок наконец вышли первые серийные SSD с поддержкой PCIe 6.0. До этого три года технология существовала только в спецификациях.
Первыми вышли диски для серверов: форм-факторы E1.S и E3.S, поддержка жидкостного охлаждения, объем до 61,44 ТБ.
⚡️ На Хабре рассказали про первые модели:
🔹 Samsung PM1763. Скорость: до 28,4 ГБ/с на чтение и 21,9 ГБ/с на запись. 40-гигабайтную языковую модель передает за 1,4 секунды. Диск оптимизирован для жидкостного охлаждения и поддерживает постквантовую криптографию.
🔹 Micron 9650. Скорость: до 28 ГБ/с на чтение и 14 ГБ/с на запись. Доступен в версиях Pro и Max с емкостью до 30,72 ТБ.
📌 Что дает новое поколение
PCIe 6.0 убирает главное узкое место в AI-инфраструктуре — скорость доступа к данным. Новые диски позволяют загружать модели в два раза быстрее и эффективнее использовать дорогие GPU.
Мы в mClouds используем PCIe 5.0 NVMe для работы с GPU. Этого достаточно для текущих задач. Но мы внимательно следим за PCIe 6.0 и изучаем, когда и как переход на новое поколение может быть полезен для наших клиентов.
📖 Подробный разбор — в статье на Хабре | 133 |
