DevOps Portal | Linux

Трекинг экспериментов в MLOps В машинном обучении при каждом обучении модели создаётся новый запуск обучения. Эксперимент - это набор таких запусков. Трекинг экспериментов - это автоматическое логирование важной информации о каждом запуске обучения. Например, во время каждого запуска обучения ML-модели сохраняются следующие данные: - Параметры: алгоритм, гиперпараметры, версия датасета. - Метрики: точность, F1-мера, время обучения. - Артефакты: файл модели, файлы окружения и другие материалы. - Метаданные: информация о расположении артефактов, сигнатура модели, пример входных данных, пользовательские метаданные и другое. Это похоже на то, как в CI-системах отслеживаются SHA коммита, номер сборки, логи и другие данные. Трекинг экспериментов выполняет ту же задачу для запусков обучения моделей машинного обучения. Поэтому запуск обучения без трекинга - это как CI-сборка без истории сборок. Самый распространённый инструмент для трекинга экспериментов - MLflow. 👉 DevOps Portal

KubeGUI — десктопное приложение с графическим интерфейсом для управления Kubernetes-кластерами, визуализации ресурсов и работы с ними. ➜ https://github.com/gerbil/kubegui 👉 DevOps Portal

С Днём сисадмина — праздником тех, кто держит прод в проде На ежегодном слёте сисадминов записали интервью: спросили, что в работе любят больше всего и как справляются со стрессом. Помогает и банальное: в Яндекс 360 управление сотрудниками, доступами и сервисами собрано в одной админке. 👉 DevOps Portal

🍻 Сегодня отмечается день системного администратора 🍻 Ежегодно в последнюю пятницу июля мир отмечает праздник людей, благодаря которым компьютеры работают, сети не падают, а проблемы решаются до того, как мы о них узнаем. В 2026 году этот день выпал на 31 июля. Поздравляем всех сисадминов с праздником! @linuxos_tg

В этой статье рассказывается, как спроектировать ИИ-агента для SRE-задач, который анализирует алерты, логи, данные Kubernetes, ранбуки, деплои и сигналы систем наблюдаемости, чтобы диагностировать инциденты и предлагать безопасные действия. Читайте тут 👉 DevOps Portal

Большинство считает, что Kubernetes Gateway API предназначен только для Ingress. Но это не так. Gateway API также умеет управлять east-west-трафиком – то есть взаимодействием между сервисами. Разберёмся, как это работает Для начала нужно понять, что такое инициатива GAMMA. GAMMA — Gateway API for Mesh Management and Administration Изначально Gateway API был разработан для управления ingress-трафиком. То есть трафиком, который поступает извне кластера к сервисам внутри него – это сценарий north-south. GAMMA расширяет возможности Gateway API на внутренний трафик service mesh – то есть на east-west-трафик. Это означает, что одни и те же ресурсы Gateway API можно использовать как для Ingress, так и для service mesh. Но есть важное отличие 👇 Обычно при использовании таких ресурсов Gateway API, как HTTPRoute, GRPCRoute и других, в качестве parentRef указывается Gateway. Именно Gateway является точкой входа, которой принадлежат IP-адрес и порты, принимающие трафик извне кластера. Однако в подходе GAMMA при настройке mesh-трафика ресурсы Gateway API, например HTTPRoute, могут использовать в качестве parentRef не Gateway, а Service. После этого HTTPRoute определяет, как должен маршрутизироваться трафик, поступающий на этот Service: распределение по весам, разделение трафика и другие правила. Схема прохождения трафика выглядит так: client → общий Service (backend) → Services отдельных версий (backend-v1, backend-v2) → pods При этом нельзя использовать паттерн «общий Service + subsets», как в связке Istio VirtualService и DestinationRule. Причина в том, что Gateway API проектируется как единый стандарт, который должен работать с разными реализациями service mesh, включая Istio, Linkerd и другие. 👉 DevOps Portal

• Друзья, пришло время провести очередной конкурс. На этот раз мы разыгрываем бумажную версию книги "The Ultimate Kali Linux Book" - это новое издание книги по изучению Kali Linux, которое перевели на русский язык. • К слову, книга содержит более 800 страниц информации и будет полезна как новичкам, так и опытным специалистам. • Итоги подведём 8 августа в 10:00, при помощи бота, который рандомно выберет 8 победителей. Доставка для победителей бесплатная в зоне действия СДЭК. Удачи ❤ Для участия нужно: 1. Быть подписанным на наш канал: Infosec. 2. Подписаться на канал наших друзей: Мир Linux. 3. Нажать на кнопку «Участвовать»; 4. Ждать результат. Бот может немного подвиснуть — не переживайте! В таком случае просто нажмите еще раз на кнопку «Участвовать». #Конкурс

Вышел годный инструмент, который помогает изучать Linux на практике Shell Gym – интерактивный тренажёр командной строки Linux, созданный на основе многолетнего опыта преподавания. По сути, автор выделил ядро iximiuz Labs и превратил его в отдельный демон. https://github.com/iximiuz/shellgym 👉 DevOps Portal

Ozon Tech опубликовал часть программы E-CODE. И по части инфраструктуры там такие бриллианты: • опыт обмена множества кастомных схем доставки данных на единую платформу • история крупной гибридной инфры, мигрировавшей в K8-s • анатомия хранилища артефактов (и не одного — обещают вскрытие сразу семи решений) • путь сетевого оборудования к декларативному описанию через DSL • противостояние конечности облаков за счёт capacity management • перевод кластеров под управлением Patroni с kube-api на etcdv3 без сплитбрейна Озонтеховцы уже традиционно радуют серьёзным подходом к официальной части конфы. Ну а гастрофест и вечеринки — это уже на вкус и цвет. В этом году, кстати, заявлены ещё и DJ-сеты. Короче, годная конфа. И если вы ещё не забили в календаре 12 и 13 сентября под E-CODE, пора этим заняться: https://ecode.ozon.tech/

Запуск распределённого обучения ИИ в Kubernetes – это не просто добавление GPU В выпуске Kubeflow Pipelines рассказывали, что этап обучения в пайплайне обычно передаётся Kubeflow Trainer. И вот почему. Некоторые задачи обучения ML-моделей и дообучения LLM требуют нескольких GPU, распределённых между несколькими нодами Kubernetes. Для этого необходимо: — создавать и управлять несколькими worker-подами; — выделять GPU-ресурсы; — настраивать взаимодействие между воркерами; — отслеживать статус обучающих джобов и многое другое. Kubeflow Trainer решает эти задачи в Kubernetes-native формате с помощью CRD и скрывает большую часть связанной с этим сложности. В этом выпуске MLOps-рассылки разобрали: — основы распределённого обучения; — архитектуру Kubeflow Trainer: TrainJob, Runtimes и JobSet; — установку Trainer и запуск первого распределённого TrainJob на CPU-нодах; — запуск ML-задач на GPU-нодах; — каким моделям действительно нужны GPU. Читать: https://newsletter.devopscube.com/p/kubeflow-trainer 👉 DevOps Portal

Небольшой совет по работе с командной строкой Linux Чтобы скрыть каталоги . и .., но при этом показать остальные скрытые файлы и директории, используйте:

ls -A

вместо:

ls -a

👉 DevOps Portal

Паттерны проброса портов в Kubernetes Ты находишься внутри dev-кластера, доступ к сети ограничен, и сервис, который ты только что задеплоил, ведёт себя странно. Нет ни LoadBalancer, ни настроенного ingress-контроллера, и «просто открыть порт» – не вариант, потому что сетевики либо тормозят, либо отвечают отказом. Вот здесь тебя и выручает kubectl port-forward. Вот простая инфографика, чтобы было легче понять. 👉 DevOps Portal

😒 Подборка каналов по информационной безопасности Проверенные каналы по безопасности, которые реально помогают расти. 👍 ZeroDay — Уроки, эксплуатация уязвимостей с нуля 👍 Белый Хакер — Свежие новости из мира ИБ 😎 Бункер Хакера — Статьи, книги, шпаргалки и хакинг 👨‍💻 Серверная Админа — Настройка и уроки по компьютерным сетям 📂 Подписывайся

В этой статье показано, как использовать Kubernetes ConfigMap в качестве лёгковесного хранилища состояния в реальном времени: отслеживать изменения ConfigMap и распределять события с помощью Python asyncio. ➜ https://medium.com/sahibinden-technology/using-kubernetes-configmaps-as-a-real-time-state-store-483c47ee23cd 👉 DevOps Portal

Kubeflow — это уже не просто MLOps-платформа. Она развивается в полноценную cloud-native AI-платформу для: • распределённого обучения AI-моделей • дообучения LLM • GenAI-пайплайнов • AI-воркфлоу в Kubernetes Если вы DevOps-инженер и хотите перейти в AI-инфраструктуру, Kubeflow — одна из лучших платформ, которые стоит изучать сегодня. В последних релизах Kubeflow расширилась поддержка GenAI-сценариев, распределённого обучения и современных воркфлоу для AI-платформ. Как лучше всего разобраться? Собрать всё самостоятельно. Вот пошаговый практический гайд, в котором показано, как: ✅ развернуть Kubeflow Pipelines в Kubernetes ✅ создавать пайплайны с помощью Kubeflow SDK ✅ запускать пайплайны и отслеживать их выполнение - https://devopscube.com/setup-kubeflow-pipelines-kubernetes/ Если вы только начинаете знакомство с Kubeflow, сначала изучите этот материал: - https://devopscube.com/kubeflow-pipelines/ 👉 DevOps Portal

Гринатом — ИТ-интегратор Росатома — ищет специалиста технической поддержки пользователей в Москве! ✅Ждём кандидатов с образованием не ниже среднего специального, знанием ОС MS Windows 10 и Linux, Microsoft Office, Active Directory и протокола TCP/IP, навыками работы с мультимедийным ПО и оборудованием, а также опытом настройки первичного конфигурирования и последующей поддержки. 💼Мы предложим официальное трудоустройство, профессиональный рост, ДМС со стоматологией с первого дня и возможность внести вклад в разработку современных ИТ-решений, которыми ежедневно пользуются более 300 тысяч человек.

Webernetes — браузерный симулятор Kubernetes, который позволяет запускать ограниченный набор возможностей Kubernetes, включая Pod, Service и Deployment, полностью в браузере и без какой-либо бэкенд-инфраструктуры. ➜ https://github.com/ngrok/webernetes 👉 DevOps Portal

Я предлагаю только знания. Больше ничего.

Самое время разобраться и начать работать с инструментом для управления контейнерами Podman. Selectel совместно с автором канала Bash Days подготовили бесплатный курс для быстрого старта работы. Что в программе: — База: узнаете об основных командах для работы с контейнерами и сетями, преимуществах и особенностях работы инструмента. — Понятные инструкции: увидите, как работать с зависимостями и переменными окружения, какие бывают типичные ошибки при запуске контейнера. — Практика: развернете инфраструктуру самостоятельно с промокодом на сервисы Selectel. Все уроки и практика уже доступны, проходите в комфортном темпе. 👉Начните обучение: https://slc.tl/r7uso Ищите закреп с подборкой других бесплатных курсов в канале @Selectel и подписывайтесь, чтобы не пропустить новые. Реклама. АО "Селектел". erid:2W5zFH1hkfT

В качестве движка выполнения пайплайнов Kubeflow Pipelines использует Argo Workflows. Это Kubernetes-native движок оркестрации DAG. Что именно это означает? DAG (Directed Acyclic Graph, направленный ациклический граф) описывает задачи и зависимости между ними. Например: - Сначала выполняется задача A - После A запускаются задачи B и C - Задача D запускается только после завершения B и C Самое интересное — как Argo выполняет эти задачи. В большинстве инструментов DAG описываются на Python. В Argo DAG задаётся декларативно в YAML в виде CRD, а каждую задачу Argo выполняет как отдельный Kubernetes Pod. Kubeflow использует Argo Workflows в качестве бэкенда и добавляет поверх него слой для задач AI/ML. При работе с Kubeflow Pipelines вместо того, чтобы напрямую писать YAML-манифесты Argo Workflow, пайплайны нужно описывать в виде DAG на Python. Для ML-команд это значительно удобнее, чем поддерживать сотни строк YAML с Kubernetes CRD. Kubeflow SDK компилирует описание пайплайна на Python в YAML в формате Intermediate Representation (IR). Затем оно преобразуется в специфичное для Argo описание и передаётся на выполнение. 👉 DevOps Portal

DevOps-инструмент недели: HAMi Обычно Kubernetes-кластер выделяет целый GPU под одну рабочую нагрузку. В результате часть ресурсов GPU простаивает. HAMi решает эту проблему. Это опенсорс middleware для Kubernetes, которое позволяет распределять, изолировать и планировать GPU и другие AI-ускорители между Pod’ами без изменений в коде приложения. Что умеет HAMi: - Делит один GPU на несколько частей по объёму памяти, количеству ядер или числу устройств - Задаёт жёсткие лимиты памяти и вычислительных ресурсов для каждой рабочей нагрузки, чтобы один Pod не мог занять ресурсы другого - Оптимально распределяет задачи по GPU: уплотняет их для экономии ресурсов или разносит по разным устройствам, чтобы избежать снижения производительности - Управляет NVIDIA GPU, NPU, DCU, MLU и другими типами ускорителей через единый механизм планирования - Позволяет запускать мультитенантные задачи обучения, инференса и среды с ноутбуками в общем пуле GPU GitHub: https://github.com/Project-HAMi/HAMi @linuxos_tg