DevOps Portal | Linux

DevOps-инструмент недели: AirLLM Для локального запуска больших моделей вам не нужен мощный GPU. AirLLM — это open-source инструмент, который позволяет запускать крупные модели на одной видеокарте, не загружая всю модель в VRAM целиком. Он разбивает модель на слои и во время инференса подгружает их по одному. Вот как это работает 👇 - При первом запуске AirLLM скачивает полную модель, разбивает её на отдельные шарды по слоям и сохраняет их на локальном диске. - Когда вы отправляете запрос, модель начинает загружаться в VRAM послойно. - Сначала из диска в VRAM видеокарты загружается первый слой, выполняется его обработка, затем память освобождается и загружается следующий слой. - Этот процесс повторяется для каждого слоя. После обработки всех слоёв AirLLM возвращает ответ на ваш запрос. Благодаря такому подходу даже GPU с 4 ГБ видеопамяти способен запускать модель размером 70B параметров. Начать можно здесь: AirLLM GitHub Repository 👉 DevOps Portal

VPN и mTLS — это базовые и обязательные для понимания технологии для DevOps-инженеров. Это руководство поможет вам на практике разобраться со следующими темами: - VPN типа Client-to-Site - Генерация клиентских и серверных сертификатов с помощью EasyRSA - Взаимная TLS-аутентификация (mTLS) Почему это важно изучить? Практически в любой организации VPN используется для безопасного подключения к облачным ресурсам и внутренней инфраструктуре. Лучший способ по-настоящему понять, как работают VPN и mTLS, — развернуть и настроить их самостоятельно. Подробное руководство: https://devopscube.com/aws-client-vpn/ В рамках руководства в теоретическом формате также рассматриваются следующие темы: - Аутентификация на основе SAML и Active Directory - TCP vs UDP — различия и сценарии использования 👉 DevOps Portal

• Друзья, пришло время провести очередной конкурс. На этот раз мы разыгрываем бумажную версию книги "Компьютерные сети. Принципы, технологии, протоколы" - это новое (7-е) издание легендарного учебника для изучения сетевых технологий, которое поступит в продажу через неделю. • К слову, книга содержит более 1100 страниц информации, а первое издание этой литературы появилось целых 25 лет назад... С того момента авторы постоянно актуализируют материал и выпускают новые издания. • Итоги подведём 20 Июня в 10:00, при помощи бота, который рандомно выберет 10 победителей. Доставка для победителей бесплатная в зоне действия СДЭК. Удачи ❤ Для участия нужно: 1. Быть подписанным на наш канал: Infosec. 2. Подписаться на канал наших друзей: Мир Linux. 3. Нажать на кнопку «Участвовать»; 4. Ждать результат. Бот может немного подвиснуть — не переживайте! В таком случае просто нажмите еще раз на кнопку «Участвовать». #Конкурс

Как запускать Linux-демон при первом подключении к его API-сокету? Одно из ключевых назначений systemd – запуск и управление долго работающими фоновыми процессами. Демоны регистрируются в systemd как service units и обычно стартуют во время загрузки системы. Однако если сервис не нужен сразу после загрузки и предоставляет API через TCP-сокет или Unix-сокет, зачастую эффективнее запускать его только тогда, когда к нему подключается первый клиент. Такой механизм называется socket activation. Изучите, как работает socket activation в systemd, выполнив следующие задания:

- Запустите сервис при первом подключении к его TCP-сокету: https://labs.iximiuz.com/challenges/systemd-socket-activate-listen-stream-inet - Запустите сервис при первом подключении к его Unix-сокету: https://labs.iximiuz.com/challenges/systemd-socket-activate-listen-stream-unix

👉 DevOps Portal

🚀 На платформе Mentorix вышел курс — «Kubernetes: от основ до продакшена» 🐳 Уже работаете с Docker и хотите вырасти из «запустить контейнер локально» в инженера, который держит кластер в проде? Этот курс — про инженерию: как развернуть, масштабировать и эксплуатировать сервисы в Kubernetes так, чтобы они не падали под нагрузкой и переживали отказ узлов. ⚙️ Полный стек: Pods, Deployments, Services, Ingress, ConfigMap и Secrets, тома и StatefulSet, Helm, автоскейлинг (HPA), RBAC, мониторинг через Prometheus + Grafana 🧩 Более 400 интерактивных заданий с автопроверкой — пишете манифесты и команды прямо в браузере 🚀 Финальный проект: рабочее приложение в кластере с балансировкой, автоскейлингом и мониторингом — в портфолио и на собеседования 🏅 Сертификат по завершении — в резюме или LinkedIn 🔥 Скидка 50% только 24 часа 👉 Забрать курс ━━━━━━━━━━━━━━ 🎁 А ещё на платформе — бесплатные курсы с бессрочным доступом: Языки программирования ⚡️ Golang — основы языка 🦀 Rust — основы языка 🐍 Основы Python Инфраструктура и DevOps 🖥 Основы командной строки Linux 🐳 Docker: первые шаги 🔧 Git для начинающих Базы данных 🗄 SQL с нуля 🍃 MongoDB с нуля 📚 Все бесплатные курсы Mentorix

DevOps-инструмент недели: Dragonfly Загрузка модели размером 130 ГБ на 200 GPU-нод создаёт около 26 ТБ сетевого трафика. Но что если ноды будут скачивать данные друг у друга, а не напрямую из исходного источника? Именно для этого нужен Dragonfly – опенорс система P2P-распространения файлов. Первая нода, которая скачивает файл, становится локальным кэшем. К хранилищу моделей обращаются только один раз, а остальные ноды в кластере получают данные друг от друга. Что умеет Dragonfly 👇 - Поддерживает прямую загрузку моделей из Hugging Face и ModelScope. - Разбивает файлы на части и начинает раздачу по P2P ещё до завершения первого скачивания. - Снижает нагрузку на источник с 26 ТБ до примерно 130 ГБ при развёртывании на 200 нодах. - Поддерживает работу с приватными репозиториями через аутентификацию по токенам. - Разворачивается в Kubernetes как DaemonSet. GitHub-репозиторий: https://github.com/dragonflyoss/dragonfly 👉 DevOps Portal

SRE тут? Нашли для вас подкаст, который вполне может пополнить ряд любимых. Коллеги из Авито создали «В SREду на кухне», периодически собираются, зовут на запись гостей и обсуждают то, о чём не принято говорить в опенспейсе. Например, вот темы недавних выпусков: — GitOps не волшебная таблетка; — Зачем продукту бюджет ошибок; — Роняем прод, чтобы стать сильнее: всё о Chaos Engineering; — SRE больше не нужны. AI переписал правила. Отвечая на вопрос «А при чём здесь комьюнити?» — все дополнительные инсайты, статьи и мысли на темы выпусков ребята выкладывают в канал «Avito SREда». И там уже собралась активная аудитория коллег-инженеров.

Учимся на практике: как выбрать правильный Distroless Base Image 🤔 На этот раз тебе предстоит разобраться с контейнером, который ведёт себя некорректно. Приложение даже не может стартовать Твоя задача – найти причину проблемы и устранить её. Возможно, для этого придётся пересобрать образ. Лабораторная работа: https://labs.iximiuz.com/challenges/pick-the-right-distroless-base-image 👉 DevOps Portal

Компания, которая когда-то называла Linux "раковой опухолью", теперь сама поставляет его базовые инструменты пользователям Windows Microsoft выпустила GNU Coreutils для Windows 😳 ls, grep, cat, cp, find — те самые команды, которые уже более 50 лет лежат в основе Unix- и Linux-систем, теперь доступны в Windows нативно и поддерживаются самой Microsoft. Для понимания контекста: GNU Coreutils — это набор базовых утилит, на которых строится работа любой Linux- или macOS-системы. Они используются для операций с файлами, обработки текста и написания shell-скриптов. По сути, это фундамент всей Unix-экосистемы. Каждый день на них выполняются десятки миллионов скриптов, пайплайнов и автоматизированных процессов. И теперь Microsoft не только поставляет их для Windows, но и занимается их поддержкой. И это не WSL. Вам не нужна Linux-подсистема, работающая в фоне. Эти инструменты запускаются напрямую в Windows и поддерживают те же флаги, тот же синтаксис и то же поведение, что и в Linux. Существующие скрипты работают без каких-либо изменений. Цель Microsoft – сделать переход между Linux, macOS, WSL, контейнерами и Windows максимально бесшовным. Написал скрипт один раз – запускай где угодно. В пакет входят uutils/coreutils (современная реализация GNU Coreutils на Rust), а также findutils и grep, собранные в единый multi-call бинарник. Все команды поддерживают стандартные ключи и параметры. Те же команды, те же пайплайны, никакой адаптации или переписывания не требуется. Проект пока находится на стадии Preview, но направление развития уже совершенно очевидно 🤔 https://github.com/microsoft/coreutils @linuxos_tg

Лучший способ понять, как на самом деле работают серверы – написать несколько из них с нуля. Вот серия практических заданий, которые помогут вам освоить сокетное программирование на C, Python и Go:

- Напишите TCP-клиент для сервера телеметрии: https://labs.iximiuz.com/challenges/write-tcp-client-for-telemetry-server - Напишите TCP-клиент для чат-сервера: https://labs.iximiuz.com/challenges/write-tcp-client-for-chat-server - Реализуйте TCP echo-сервер с нуля: https://labs.iximiuz.com/challenges/write-tcp-echo-server - Доработайте echo-сервер так, чтобы он работал как с TCP-сокетами, так и с Unix-сокетами: https://labs.iximiuz.com/challenges/write-stream-echo-server

Happy hacking! 🚀 👉 DevOps Portal

Лучший способ понять, как на самом деле работают серверы – написать несколько из них с нуля. Вот серия практических заданий, которые помогут вам освоить сокетное программирование на C, Python и Go:

- Напишите TCP-клиент для сервера телеметрии: https://labs.iximiuz.com/challenges/write-tcp-client-for-telemetry-server - Напишите TCP-клиент для чат-сервера: https://labs.iximiuz.com/challenges/write-tcp-client-for-chat-server - Реализуйте TCP echo-сервер с нуля: https://labs.iximiuz.com/challenges/write-tcp-echo-server - Доработайте echo-сервер так, чтобы он работал как с TCP-сокетами, так и с Unix-сокетами: https://labs.iximiuz.com/challenges/write-stream-echo-server

Happy hacking! 🚀 👉 DevOps Portal

Как автоматизировать работу с выделенными серверами без слез и костылей Разбираемся на бесплатном вебинаре от Selectel. Присоединяйтесь, чтобы узнать, как работать с Terraform на выделенных серверах, чем подход Infrastructure as Code может быть полезен для бизнеса и как устроен Bare Metal Cloud в Selectel. Все участники вебинара получат промокод на 3000 бонусов в панели Selectel. 📍 Онлайн ⏰ 16 июня в 12:00 Регистрируйтесь ➡️ https://slc.tl/6ifkd Больше мероприятий для ИТ-специалистов в канале @selectel_events. Подписывайтесь! Реклама. АО "Селектел". erid:2W5zFJAgHVb

Скормил Клоду весь свой проект на переписывание Теперь что-то отвалилось. Что именно он поменял, нафига поменял и как это откатить – вообще непонятно. Ни истории коммитов. Ни блейма. Ни кнопки отменить. Только вера, надежда и молитва 🙏 Этот опенсорсный ИИ-инструмент как раз решает такую боль. По сути – гит для ИИ-агентов. Каждое действие записывается, каждая строчка кода привязана к промпту, который её сгенерил. Скоро ещё и полный откат завезут. Можно спокойно давать агенту доступ на запись и при этом видеть весь след изменений с re_gent: http://github.com/regent-vcs/re_gent 👉 DevOps Portal

DevOps-инструмент недели: Agentgateway По мере того как AI-агенты становятся частью продакшн-систем, управление их подключениями к LLM, инструментам, API и MCP-серверам становится всё более сложной задачей. Agentgateway решает эту проблему, выступая в роли централизованного шлюза для AI-агентов. Вот что он умеет: - Маршрутизирует трафик между агентами, инструментами, API и LLM. - Предоставляет единую точку входа для MCP-серверов и взаимодействия между агентами. - Добавляет аутентификацию, политики безопасности и ограничение скорости запросов (rate limiting). - Обеспечивает прозрачность работы агентов: позволяет отслеживать запросы, сбои и использование ресурсов. Можно рассматривать его как API Gateway для агентных AI-систем GitHub-репозиторий: https://github.com/agentgateway/agentgateway

🔈 Новый VPS/VDS-сервис от упоротых инфраструктурщиков Давно дружим с CORTEL, это ребята про enterprise решения для крупняка. Сейчас они запустили отдельный бренд для аренды VPS/VDS — Serverum. Это сервис, где можно выбрать VPS, оплатить и сразу начать пользоваться. Подойдёт для dev/stage-сред, тестовых стендов, ботов, pet-проектов, небольших сервисов и других задач, где нужен сервер без лишней возни. Внутри: — собственная проприетарная платформа — отечественные решения — защищённая инфраструктура — низкие цены — живая поддержка от инженерной команды Сейчас ребята запускают первых пользователей и собирают честную обратную связь от тех, кто реально работает с инфраструктурой. Можно зайти, потыкать, взять VPS под задачу и написать фидбек. 👉 Serverum.ru

Разберитесь, как на самом деле работают серверы, собрав с нуля небольшой TCP-сервер и клиент По традиции – с большим количеством наглядных визуализаций, подробных объяснений и практических заданий: https://labs.iximiuz.com/tutorials/how-servers-work-tcp-sockets 👉 DevOps Portal

Admission Control Каждый запуск команды kubectl apply проходит через Kubernetes API Server до того, как данные будут сохранены в etcd (и изменят состояние кластера). Admission Control — это промежуточный слой обработки запросов, который может модифицировать, валидировать или отклонять запросы к API. Это удобный механизм для добавления недостающих значений по умолчанию, принудительного применения лимитов ресурсов, автоматической инъекции sidecar-контейнеров, блокировки некорректных конфигураций и даже полного запрета на запуск небезопасных рабочих нагрузок. Подробно изучите работу Kubernetes Admission Control в этом практическом туториале от Márk Sági-Kazár: Kubernetes Admission Control Tutorial 👉 DevOps Portal

На Stepik вышла программа «Фундамент DevOps» Это комплексная программа из 4 практических курсов по ключевым технологиям современного DevOps: Linux, Git, Docker и Kubernetes. Вы последовательно пройдёте путь от работы в Linux и Git до контейнеризации приложений и управления ими в Kubernetes. Что вы изучите:

• уверенную работу в Linux и терминале • Git и контроль версий в реальных проектах • Docker и контейнеризацию приложений • Kubernetes и оркестрацию контейнеров • основы сетей, безопасности и хранения данных • автоматизацию задач и диагностику инфраструктуры ... и многому другому

Все знания закрепляются на практике с помощью заданий с автопроверкой. Материал подаётся понятным языком, шаг за шагом, с большим количеством примеров, схем и демонстраций. После прохождения вы получите сертификат, который можно добавить в резюме. Отдельно курсы стоят 16 600 ₽, но в составе программы доступны всего за 7 990 ₽: открыть на Stepik

Система может выглядеть полностью исправной, даже когда под капотом уже что-то идёт не так. В этом руководстве автор показывает, как использовать Bash и Python для автоматизации DevOps-задач в реальных продакшн-сценариях. Вы научитесь:

выявлять резкие скачки расходов в AWS; трассировать и анализировать сервисные логи; находить дрейф инфраструктуры; проверять корректность ротации секретов; автоматизировать откат канареечных релизов.

https://freecodecamp.org/news/how-to-use-bash-python-for-real-devops-automation-handbook-with-production-use-cases/ 👉 DevOps Portal

На Stepik вышел обновленный курс по Docker 🧑‍💻 Этот курс даёт крепкую базу по Docker: от первых контейнеров и образов до понимания того, как Docker работает под капотом. Вы разберётесь с контейнерами, Dockerfile, сетями, безопасностью, наблюдаемостью, оптимизацией образов и внутренними механизмами Linux, на которых построен Docker. Вы научитесь:

- запускать и управлять контейнерами - создавать собственные Docker-образы и Dockerfile - работать с Docker Compose и многоконтейнерными приложениями - понимать устройство контейнеров через namespaces и cgroups - настраивать сети, service discovery и взаимодействие контейнеров - отлаживать контейнеры, логи и сетевые проблемы - оптимизировать Docker-образы и использовать multi-stage builds - применять практики безопасности и сканировать образы на уязвимости - понимать, как Docker работает "под капотом" ...и многого другому

Всё сразу закрепляется на практике с помощью заданий с автопроверкой. Материал подаётся понятным языком, шаг за шагом, на реальных примерах и с наглядными схемами После прохождения вы получите сертификат, который можно добавить в резюме. В ближайшие 48ч курс доступен со скидкой 25% по промокоду «DEVOPS25»: открыть курс на Stepik