DevOps Portal | Linux

Kubernetes HPA не ограничивается только CPU и памятью Ворклоады можно скейлить и по кастомным метрикам, например - количество запросов в секунду (RPS) - длина очереди - количество активных соединений - latency приложения Для этого можно использовать связку HPA + Prometheus + Prometheus Adapter. Prometheus Adapter прокидывает метрики через Kubernetes Custom Metrics API, после чего HPA использует их для автоскейлинга. Но выбрать метрику — это только часть настройки автоскейлинга. Нужно ещё контролировать, как HPA будет скейлить ворклоад при изменении значений метрики. В этой рассылке разобрали, как работает HPA tolerance. Читать здесь: https://newsletter.devopscube.com/p/kubernetes-hpa-tolerance-levels 👉 DevOps Portal

...каждый раз думаете вы, когда видите у себя в подписках очередной ИТ-канал с проходным контентом. «Кучевые АйТи» вас точно не разочарует. Здесь нет нейрослопа — только редакционные материалы на тему облачных технологий. Ребята пишут о новых сервисах, влиянии ИИ на инфраструктуру и сети, тенденциях ИТ-рынка и берут интервью у экспертов ведущих ИТ-компаний. Читайте в канале: — Виртуальную машину с белым IP начинают брутфорсить через пару минут после поднятия. Как защитить только что арендованную VM? — Исследование: каждая 4-ая российская компания использует или пилотирует ИИ в облаке, и еще 18% планируют начать в ближайший год. — Половина 2026 год прошла — самое время спросить ИТ-компании, что происходит с бизнесом, какие задачи ставят клиенты, что изменилось. Читайте интервью Виталия Андриевского, СЕО Дата8. Уверенно жмите и подписывайтесь на канал 👉 «Кучевые АйТи»

SSH-туннели, или как стать магом сетевой связности 10 практических челленджей, чтобы прокачать port forwarding через SSH-туннели — от простого локального/удалённого проброса портов до продвинутых сценариев с bastion- и jump-хостами:

- Получить доступ к внутреннему debug-порту через SSH-туннель https://labs.iximiuz.com/challenges/ssh-local-port-forwarding - Достучаться до приватного сервиса в VPC через SSH-бастион https://labs.iximiuz.com/challenges/ssh-local-port-forwarding-bastion - Получить доступ к удалённому loopback-порту через SSH jump host https://labs.iximiuz.com/challenges/ssh-local-port-forwarding-jump-host - Ограничить доступ к SSH-бастиону в зависимости от роли пользователя https://labs.iximiuz.com/challenges/ssh-local-port-forwarding-bastion-hardened - Получить доступ к внутренним серверам через SSH-бастион без shell-доступа https://labs.iximiuz.com/challenges/ssh-jump-host-internal-servers - Получить доступ ко всей VPC через SSH SOCKS-прокси https://labs.iximiuz.com/challenges/ssh-socks-proxy - Пробросить локальный сервис наружу через обратный SSH-туннель https://labs.iximiuz.com/challenges/ssh-remote-port-forwarding - Пробросить устройство из домашней сети через обратный SSH-туннель https://labs.iximiuz.com/challenges/ssh-remote-port-forwarding-home-network - Пробросить всю домашнюю сеть через обратный SSH SOCKS-прокси https://labs.iximiuz.com/challenges/ssh-reverse-socks-proxy - Заменить root-доступ по паролю на админский логин по SSH-ключу https://labs.iximiuz.com/challenges/ssh-harden-new-server

Приятного хакинга! 👉 DevOps Portal

С Kubernetes-сетями довольно быстро становится сложно, как только выходишь за рамки базовых Service. В этом туториале Ayobami разбирает, как работают сеть между Pod’ами, ClusterIP, Ingress-контроллеры, NetworkPolicy и CNI-плагины. Также сравниваются разные CNI и показывается, как Cilium использует eBPF для сетевого взаимодействия, observability и возможностей service mesh. https://freecodecamp.org/news/kubernetes-networking-explained-from-clusterip-to-cilium-service-mesh/ 👉 DevOps Portal

Добро пожаловать в мир разработки Проект «Terminal» стал крупнейшей библиотекой бесплатного образования. В одном канале собраны курсы, книги, полезные инструменты и практические тренажёры для всех разработчиков: • Практические курсы и задания • Книги и статьи известных авторов • Полезные инструменты и ресурсы • IT-новости и инсайды Обучение по всем направлениям: SQL, Python, ML, Frontend, PHP, C++, Go, Git, Linux, QA, Java, Vibe-coding, InfoSec и др. ⌨️ подписаться

Паттерн проектирования sidecar – удобный способ вынести прокси, агенты доставки логов, агенты для provisioning секретов и другие вспомогательные процессы за пределы основного контейнера приложения. Начиная с Kubernetes 1.28, поддержка sidecar-контейнеров стала нативной – и реализована довольно элегантно: никакого нового типа контейнеров, просто initContainer с restartPolicy: Always. Попрактиковаться в работе с нативными sidecar-контейнерами Kubernetes можно здесь: https://labs.iximiuz.com/tutorials/kubernetes-native-sidecars 👉 DevOps Portal

Hubble — полностью распределённая платформа для observability сетевого взаимодействия и безопасности cloud-native workloads. Она построена поверх Cilium и eBPF и позволяет глубоко анализировать взаимодействие сервисов, их поведение и работу сетевой инфраструктуры. ➜ https://github.com/cilium/hubble 👉 DevOps Portal

Многие ли знают, что Helm хранит информацию о релизах в Kubernetes Secrets? Когда вы запускаете helm install или helm upgrade, Helm сохраняет данные о релизе в K8s Secrets в том же namespace. В Secret хранится, например: - имя релиза; - статус деплоя; - применённые манифесты; - использованные values; - информация о chart и другие данные. Данные в Secret сжимаются с помощью gzip, а затем кодируются в base64. Имя Secret создаётся по следующему шаблону: sh.helm.release.v1.[release-name].v[revision] Когда вы запускаете helm rollback, Helm читает эти Secrets, чтобы восстановить приложение до предыдущей версии. Helm не нужна внешняя база данных. Вся информация хранится прямо в вашем кластере в виде нативных Kubernetes Secrets. Примечание: также можно настроить внешнюю SQL-базу данных для хранения релизов, но эта возможность пока находится в beta 👉 DevOps Portal

🐻 GitFlic — в учебный процесс МГТУ им. Баумана Кафедра «Защита информации» ИУ10 переводит лабораторные работы с Gitea на GitFlic. Студенты будут изучать практики безопасной разработки (РБПО) на реальном промышленном инструменте — не на учебных упрощенках. Бауманка готовит специалистов по ИБ, которые через несколько лет придут в компании, где уже стоит задача выстраивать безопасную разработку по российским стандартам. Логично, что инструмент в учёбе должен совпадать с тем, что их ждёт в реальной работе. Кафедра получила 250 лицензий — этого хватит на несколько учебных групп и потоков. На GitFlic студенты будут вести лабораторные по разработке и осваивать практики безопасного цикла создания ПО.

«Мы хотим дать студентам возможность изучать современные практики безопасной разработки на отечественной платформе, а не на иностранных аналогах»

— Максим Козлов, технический директор GitFlic

«Переход на GitFlic — это часть нашей задачи готовить студентов к работе с реальными промышленными инструментами. Уверены, что практика на GitFlic даст выпускникам конкурентное преимущество при выходе на рынок труда»

— Екатерина Вайц, заместитель заведующего кафедрой ИУ10 Университет уже работал с Astra Linux — и это сформировало доверие к экосистеме «Группы Астра». GitFlic стал следующим шагом. Попробуйте GitFlic для ваших задач

Как работают мультиплатформенные container images Когда вы делаете docker pull nginx:1.29 на AMD64-сервере и на ARM64-ноутбуке, Docker подтягивает совершенно разные сборки образа. Но как это возможно, если в обоих случаях используется одно и то же имя образа? Чтобы представить несколько сборок через одну ссылку на образ (например, nginx:1.29), container registry использует специальный файл — Image Index, в котором перечислены манифесты для отдельных платформенных сборок. Поэтому при pull появляется дополнительный шаг: - Сначала запрашивается index по адресу https://registry.example[.]com/v2/REPO/manifests/TAG - Затем в index находится манифест образа для нужной платформы, после чего он запрашивается по digest: https://registry.example[.]com/v2/REPO/blobs/DIGEST - И уже после этого по digest’ам из манифеста подтягиваются config образа и blobs слоёв файловой системы Для single-platform image ссылка https://registry.example[.]com/v2/REPO/manifests/TAG указывает сразу на его manifest. То есть здесь на один уровень косвенности меньше. Подробнее о внутреннем устройстве container images: https://labs.iximiuz.com/tutorials/container-image-from-scratch 👉 DevOps Portal

Model Server — одно из ключевых понятий в MLOps. Если говорить проще: * Nginx-сервер обслуживает веб-приложения * Model Server обрабатывает inference-запросы к ML-модели Работает это следующим образом. Model Server загружает артефакты обученной модели в оперативную память или память GPU, чтобы не загружать модель заново при каждом запросе. Он предоставляет inference-эндпоинты по HTTP и gRPC. Также он экспортирует метрики и трейсы – например, через Prometheus и OpenTelemetry (OTEL). Среди часто используемых Model Server – MLServer, TensorFlow Serving, NVIDIA Triton Inference Server и другие. Теперь важный момент. Model Server сам по себе не умеет горизонтально масштабироваться. Для масштабирования и обеспечения высокой доступности поверх него используется оркестрация Kubernetes. Когда речь идёт о model serving, KServe – один из ключевых serving-фреймворков для Kubernetes. Model Server отвечает за обработку inference-запросов, а KServe выступает в роли слоя оркестрации. 👉 DevOps Portal

🔴В 2025 году Россияне заработали 5,3 млрд рублей на арбитраже криптовалют По данным Минфин 32% граждан покинули своё место работы, поскольку в среднем уже в первый месяц тут можно зарабатывать от 140 000 рублей, а через 2-3 месяца с легкостью выйти на семизначные числа. Самое смешное, что лишь 8% россиян что-то слышали об этой профессии, хотя все инструкции бесплатно лежат на канале Арбитраж Криптовалют Там объясняют, как имея телефон и доступ в интернет, заработать свои первые $2000. Причём разжёвывают так доступно, что поймёт даже ребенок. Кстати, на канале сегодня вышла новая рабочая связка! Быстрее вступайте, пока это бесплатно — https://t.me/+yFtPq4VlI-k0OWEy

Linux 101: Практика по управлению хранилищами Отработайте основы управления хранилищами в Linux на серии практических заданий – от монтирования существующих файловых систем до разметки дисков и автоматизации их подготовки:

- Смонтировать диск с уже существующими данными и прочитать его содержимое https://labs.iximiuz.com/challenges/storage-simple-mount - Создать файловую систему ext4 на неформатированном диске https://labs.iximiuz.com/challenges/storage-simple-format - Создать таблицу разделов GUID Partition Table (GPT) на пустом диске https://labs.iximiuz.com/challenges/storage-simple-partition-table - Разбить диск на несколько разделов и отформатировать их в ext4 и Btrfs https://labs.iximiuz.com/challenges/storage-partition-drive - Смонтировать существующую директорию по новому пути с помощью bind mount https://labs.iximiuz.com/challenges/storage-bind-mount - Настроить постоянное монтирование файловой системы, чтобы оно сохранялось после перезагрузки https://labs.iximiuz.com/challenges/storage-persistent-mount - Автоматизировать подготовку диска с помощью shell-скрипта https://labs.iximiuz.com/challenges/storage-provision-drive-script

👉 DevOps Portal

Как обученная AI-модель превращается в production API в Kubernetes? KServe — это проект CNCF на стадии Incubating для развёртывания и обслуживания AI-моделей в Kubernetes. Проще говоря, KServe берёт обученную модель и превращает её в масштабируемый inference-сервис в Kubernetes. Он берёт на себя деплой, сеть, автоскейлинг и health checks модели. Важно понимать, что KServe уже давно работает не только с классическими ML-моделями. Как inference-платформа, он поддерживает две категории AI/ML-нагрузок: - Predictive AI (классический ML): например, модели на scikit-learn, XGBoost, модели, упакованные через MLflow, и другие. - Generative AI (LLM): например, запуск и обслуживание LLM через backend vLLM с поддержкой GPU. Если хотите разобраться, как устроена inference-платформа KServe, можно прочитать свежий выпуск MLOps-рассылки. В нём разбираются: - Model Servers и runtimes в KServe - Как KServe разворачивает AI-модели в Kubernetes - Деплой MLflow-модели в KServe на практике - Как выкатывать новые версии моделей - Rolling Updates, Canary, A/B Testing и Shadow Deployments И многое другое. Читать здесь: https://newsletter.devopscube.com/p/kserve 👉 DevOps Portal

KubePlumber проверяет работу сети Kubernetes изнутри кластера, тестируя: * внутренний DNS, * трафик между подами, * внешний DNS, * пропускную способность между нодами. ➤ https://github.com/David-VTUK/KubePlumber 👉 DevOps Portal

20 Kubernetes-челленджей Итак, вот 20 вопросов (и ответов):

1. Подсчёт endpoints 2. Ждём чуда 3. Я сказал стоп 4. Проектирование shared-кластеров 5. Kernel panic 6. Прыгай, кролик 7. Сколько — это слишком много 8. Держим свет включённым 9. Прожорливый etcd 10. Умножение pod’ов 11. В одиночку 12. Rollin’ 13. All you can eat 14. Bounce 15. В кроличью нору 16. Throttled 17. Липкий бардак 18. Жив или мёртв 19. Связанный по рукам 20. Один, чтобы связать их всех

Вы можете использовать эти задания, чтобы прокачать свои знания, как (очень сложные) вопросы на собеседованиях или чтобы подготовиться к интервью 👉 DevOps Portal

🔍Тестовое собеседование с Head of DevOps уже завтра 11 августа(уже завтра!) в 19:00 по мск приходи онлайн на открытое собеседование, чтобы посмотреть на настоящее интервью на Middle DevOps-разработчика. Как это будет: 📂 Александр Хренников, Head of DevOps в KTS с опытом 14+ лет, будет задавать реальные вопросы и задачи разработчику-добровольцу 📂 Александр будет комментировать каждый ответ респондента, чтобы дать понять, чего от вас ожидает собеседующий на интервью 📂 В конце можно будет задать любой вопрос Александру Это бесплатно. Эфир проходит в рамках менторской программы от ШОРТКАТ для DevOps-разработчиков, которые хотят повысить свой грейд, ЗП и прокачать скиллы. Переходи в нашего бота, чтобы получить ссылку на эфир → @shortcut_devops_bot Реклама. О рекламодателе.

Canary vs Shadow Deployment vs A/B Testing Когда мы деплоим модель в production, для неё применяются те же стратегии деплоя, которые обычно используются и для обычных приложений. Разберём три распространённые стратегии деплоя моделей. 1. Canary Traffic Splitting Небольшой процент реального трафика, например 10%, направляется на новую модель, после чего отслеживается её работа. Если с предсказаниями всё в порядке, долю трафика постепенно увеличивают, пока она не достигнет 100%. 2. A/B Testing Одну группу пользователей направляют на модель A, другую — на модель B с помощью sticky routing, после чего сравнивают бизнес-метрики: CTR, conversion rate, revenue и т. д. 3. Shadow Deployment Каждый реальный запрос, как обычно, обрабатывается старой моделью, и пользователь получает именно её ответ. При этом копия того же запроса в фоне также отправляется на новую модель. После этого можно сравнить залогированные предсказания обеих моделей на одном и том же реальном трафике. 👉 DevOps Portal

📘 Apache Kafka — новый курс на Mentorix Хотите уверенно говорить о Kafka на собеседовании и спокойно работать с ней в проде? Курс с нуля: от событий и append-only журнала до гарантий доставки, log compaction и потоковой обработки — всё закрепляете задачами в коде. ⚙️ Внутри: события и append-only журнал, партиции, ребалансировка, ISR, гарантии доставки, log compaction, оконные агрегации, потоковая обработка 🧩 Задачи с автопроверкой — моделируете механизмы Kafka в коде (решения на любом из 7 языков) 🎓 Сертификат · доступ навсегда ▶️ Первые уроки открыты — начать можно бесплатно 🏷 −50% — скидка применится по ссылке 12 990 ₽ → 6 495 ₽ ➜ Забрать курс со скидкой ━━━━━━━━━━━━━━ Курс с нуля, но заходит легче с базой по инфраструктуре и сетям. Если хотите подтянуть — на платформе есть бесплатные курсы: 🐳 Docker: первые шаги Сети для разработчиков: TCP/IP, HTTP, DNS SQL с нуля 📚 Все бесплатные курсы Mentorix

DevOps-инструмент недели: Ray ML-нагрузка может отлично работать на одной GPU. Сложности начинаются, когда её нужно масштабировать на несколько GPU, работающих на разных нодах. Именно здесь помогает Ray. Ray – это опенсорс фреймворк с 43K+ звёзд на GitHub. Он помогает организовать распределённое выполнение задач: планирование задач, распределение ресурсов, параллельное выполнение, обмен данными между воркерами и обработку сбоев. Ray можно запускать на ноутбуке, виртуальных машинах, bare-metal серверах, облачных инстансах или в Kubernetes. Для Kubernetes обычно используется KubeRay – Kubernetes Operator для создания и управления Ray-кластерами. Ray используют такие компании, как OpenAI, Uber, Spotify и Instacart, для масштабных AI- и ML-нагрузок. https://github.com/ray-project/ray 👉 DevOps Portal