ru
Feedback

Не попадитесь на канал ботавода! Telemetrio находит и помечает такие каналы 👉 Хотите видеть метку — оформите подписку

Admin Portal | Сисадмин

Admin Portal | Сисадмин

Открыть в Telegram

Присоединяйтесь к нашему каналу и погрузитесь в мир для системного администратора Связь: @devmangx

Больше
7 090
Подписчики
-224 часа
+37 дней
+9530 дней
Архив постов
Open-source стек LLMOps Создание и запуск LLM-приложений в production — это не только языковая модель и GPU. Понадобятся инст
Open-source стек LLMOps Создание и запуск LLM-приложений в production — это не только языковая модель и GPU. Понадобятся инструменты для обеспечения безопасности, маршрутизации моделей, инференса, развёртывания, мониторинга и оценки качества. Вот 8 open-source инструментов, на которые стоит обратить внимание: 1. Guardrails AI — добавляет проверки и механизмы безопасности для входных данных и ответов LLM. 2. LiteLLM — предоставляет единый API для работы с облачными и самостоятельно развёрнутыми языковыми моделями. 3. Gateway API Inference Extension — направляет запросы к подходящим эндпоинтам самостоятельно развёрнутых моделей. 4. llm-d — обеспечивает маршрутизацию с учётом особенностей инференса и распределённое обслуживание LLM в Kubernetes. 5. KServe — развёртывает и управляет серверами моделей с помощью нативных ресурсов Kubernetes. 6. vLLM — обеспечивает высокопроизводительный инференс LLM с эффективным использованием памяти. 7. Langfuse — собирает трейсы, помогает управлять промптами и проводить оценки. Позволяет понять, что происходит внутри LLM-приложений. 8. Ragas — оценивает качество LLM-приложений, включая RAG-пайплайны, с помощью различных метрик и методов оценки. Важно: не обязательно использовать все эти инструменты в каждом проекте. Выбирайте решения исходя из потребностей приложения и особенностей инфраструктуры. @SysAdmin_Portal
20 нояб., 01:07

Быстрый совет по Linux №7 Хотите узнать, кто входил на ваш Linux-сервер, откуда и когда? Используйте команду: last -n 20 Она
Быстрый совет по Linux №7 Хотите узнать, кто входил на ваш Linux-сервер, откуда и когда? Используйте команду:
last -n 20
Она показывает 20 последних сеансов входа в систему: имя пользователя, IP-адрес источника, время входа и продолжительность сеанса. Для просмотра неудачных попыток входа используйте:
lastb
Это первое, что стоит проверить, если вы подозреваете атаку методом перебора паролей (Brute Force). Всего две команды — и вы можете узнать, кто заходил на ваш сервер и кто пытался получить к нему доступ. @SysAdmin_Portal
19 нояб., 11:07

Быстрый совет по Linux Нужно быстро освободить место на диске, но не знаете, какая директория занимает больше всего места? Ис
Быстрый совет по Linux Нужно быстро освободить место на диске, но не знаете, какая директория занимает больше всего места? Используйте команду:
du -sh /* 2>/dev/null | sort -rh | head -10
Она проверяет размер всех директорий верхнего уровня, сортирует их от самых больших к маленьким и выводит топ-10. Параметр 2>/dev/null скрывает сообщения об ошибках доступа, чтобы они не засоряли вывод. Когда найдёте директорию, которая занимает слишком много места, запустите ту же команду внутри неё, чтобы разобраться глубже. Полезный способ быстро найти, куда пропадает свободное место на Linux-сервере. @SysAdmin_Portal
19 нояб., 01:07

С 3,17 ГБ до 354 МБ: оптимизация Docker-образа Оптимизация образов — это не только задача DevOps. Это совместная работа специ
С 3,17 ГБ до 354 МБ: оптимизация Docker-образа Оптимизация образов — это не только задача DevOps. Это совместная работа специалистов по данным, разработчиков и DevOps-инженеров. У каждой команды свой вклад в размер образа. Например, DevOps-инженер не может просто удалить библиотеку, не уточнив у специалиста по данным, действительно ли она нужна модели. Настоящая оптимизация начинается, когда все команды вместе задают вопрос: «Что действительно необходимо этому образу во время выполнения?» В нашем случае Docker-образ проекта с конвейером Kubeflow занимал 3,17 ГБ. В статье разбирают, как удалось уменьшить его размер до 354 МБ — на 89% — и объясняют каждое принятое решение. Читать статью. @SysAdmin_Portal
18 нояб., 11:07

Быстрый совет по Linux Нужно проверить, открыт ли удалённый порт, но не хочется устанавливать telnet или nmap? Используйте: n
Быстрый совет по Linux Нужно проверить, открыт ли удалённый порт, но не хочется устанавливать telnet или nmap? Используйте:
nc -zv <host> <port>
Команда пытается подключиться к указанному хосту и порту, а затем сразу сообщает, удалось ли установить соединение или в нём было отказано. -z — проверяет доступность порта, не отправляя данные. -v — выводит подробный и понятный результат вместо молчаливого выполнения. Работает при проверке соединений через файрволы, VPN и облачные группы безопасности. Утилита nc доступна в большинстве Linux-систем. @SysAdmin_Portal
18 нояб., 01:07

Создаём ИИ-агента для Kubernetes: практическое руководство Теперь можно применить эти знания на практике. В руководстве рассм
Создаём ИИ-агента для Kubernetes: практическое руководство Теперь можно применить эти знания на практике. В руководстве рассматриваются: • Структура кода ИИ-агента. • Создание агента с нуля с помощью LangGraph и LangChain. • Выбор подходящих моделей AWS Bedrock для агента. • Развёртывание агента в AWS EKS. • Полный цикл обработки запросов агентом. Вы увидите, как в реальном проекте работают цикл агента, инструменты, состояние и подтверждение действий человеком. Подробное руководство: https://devopscube.com/build-kubernetes-ai-agent/ @SysAdmin_Portal
17 нояб., 11:07

Быстрый Linux-совет Нужно запустить команду, которая продолжит работать даже после закрытия SSH-сессии? Используйте: nohup &
Быстрый Linux-совет Нужно запустить команду, которая продолжит работать даже после закрытия SSH-сессии? Используйте:
nohup <command> &
nohup позволяет процессу продолжать работу после выхода из системы и по умолчанию записывает вывод в файл nohup.out. Символ & запускает процесс в фоновом режиме, поэтому терминал остаётся доступным для других команд. Этот приём не раз выручит, когда долгий скрипт может прерваться из-за внезапного обрыва VPN во время SSH-сессии. @SysAdmin_Portal
17 нояб., 01:07

Как изменить параметры Conntrack в Kubernetes? Если в вашем кластере периодически возникают тайм-ауты соединений, сбои DNS ил
Как изменить параметры Conntrack в Kubernetes? Если в вашем кластере периодически возникают тайм-ауты соединений, сбои DNS или необъяснимые ошибки API под нагрузкой, одна из важных вещей, которую стоит проверить, — таблица Conntrack. При настройке кластеров на базе Kubeadm можно изменить параметры Conntrack через KubeProxyConfiguration. Эта конфигурация задаётся непосредственно в YAML-файле конфигурации кластера Kubeadm. Полезно знать об этой настройке, если вы: • Готовитесь к сертификации CKA. • Управляете production-кластерами на базе Kubeadm. • Изучаете сетевую архитектуру Kubernetes. Подробное пошаговое руководство поможет разобраться в настройке и применить её на практике. Подробный гайд: https://devopscube.com/setup-kubernetes-cluster-kubeadm/ @SysAdmin_Portal
16 нояб., 11:07

Быстрый Linux-совет Нужно узнать, когда именно вы выполняли команду, не прокручивая бесконечно историю терминала? Сначала вкл
Быстрый Linux-совет Нужно узнать, когда именно вы выполняли команду, не прокручивая бесконечно историю терминала? Сначала включите отображение временных меток:
export HISTTIMEFORMAT="%F %T "
Затем найдите нужную команду в истории:
history | grep ssh
Теперь можно быстро найти команду и увидеть точную дату и время её выполнения. Ещё быстрее — нажмите Ctrl+R и начните вводить команду. Bash будет искать совпадения в истории прямо во время набора. Освоив эти приёмы, вы больше не будете бесконечно нажимать стрелку вверх. @SysAdmin_Portal
16 нояб., 01:07

Быстрый совет по Linux Хотите узнать, какие файлы в системе недавно изменялись? В Linux это можно сделать одной командой: fin
Быстрый совет по Linux Хотите узнать, какие файлы в системе недавно изменялись? В Linux это можно сделать одной командой:
find /etc -type f -mtime -30
Она покажет все файлы внутри /etc, которые были изменены за последние 30 дней. Вместо того чтобы открывать файлы по одному, вы сможете быстро увидеть, что изменилось. -type f — искать только файлы, исключая директории. -mtime -30 — искать файлы, изменённые менее 30 дней назад. @SysAdmin_Portal
15 нояб., 11:07

DevOps-инструмент недели: Kubescape Ваш Kubernetes-кластер работает исправно, приложения запущены. Но насколько он безопасен?
DevOps-инструмент недели: Kubescape Ваш Kubernetes-кластер работает исправно, приложения запущены. Но насколько он безопасен? Внутри могут работать контейнеры от имени root, привилегированные Pod'ы, RBAC с избыточными правами доступа и другие потенциальные уязвимости. Проверять всё это вручную сложно. А повторять проверку после каждого изменения ещё сложнее. Здесь поможет Kubescape — open-source инструмент для обеспечения безопасности Kubernetes и инкубационный проект CNCF. Он сканирует кластер и конфигурационные файлы, находит проблемы безопасности и показывает, что нужно исправить. Что умеет: • Сканировать Kubernetes-кластеры, YAML-файлы, Helm-чарты, Kustomize и Git-репозитории. • Проверять конфигурации на соответствие стандартам NSA-CISA, MITRE ATT&CK и CIS Benchmark. • Искать известные уязвимости в образах контейнеров. • Показывать оценку рисков и результаты проверок безопасности. • Исправлять ошибки конфигурации YAML и генерировать политики Admission Control, предотвращающие небезопасные развёртывания. • Интегрироваться с CI/CD-инструментами: GitHub Actions, GitLab CI и Jenkins. • Экспортировать отчёты о безопасности в JSON, SARIF, HTML и PDF. Начать работу: GitHub @SysAdmin_Portal
15 нояб., 01:07

Быстрый совет по Linux Нужно сравнить два конфигурационных файла и увидеть, что между ними изменилось? Используйте: diff -u c
Быстрый совет по Linux Нужно сравнить два конфигурационных файла и увидеть, что между ними изменилось? Используйте:
diff -u config_old.txt config_new.txt
Команда сравнит оба файла и покажет различия. Строки с - — удалённые или изменённые. Строки с + — добавленные или изменённые. Параметр -u также показывает несколько строк вокруг каждого изменения, чтобы было проще понять контекст. Вместо того чтобы проверять файлы построчно, вы сможете быстро найти изменения и разобраться в проблеме. @SysAdmin_Portal
14 нояб., 11:07

Быстрый совет по Linux Хотите узнать, как долго работает ваш Linux-сервер и насколько он загружен? Используйте команду: uptim
Быстрый совет по Linux Хотите узнать, как долго работает ваш Linux-сервер и насколько он загружен? Используйте команду:
uptime
Она покажет: • Текущее время. • Время непрерывной работы системы. • Количество пользователей, вошедших в систему. • Среднюю нагрузку за последние 1, 5 и 15 минут (Load Average). Если средняя нагрузка стабильно превышает количество ядер CPU, это может указывать на высокую нагрузку на систему. Узнать количество ядер процессора можно с помощью команды:
nproc
@SysAdmin_Portal
14 нояб., 01:07

Быстрый совет по Linux Хотите узнать, где именно установлена команда? Используйте: which python3 Команда покажет полный путь
Быстрый совет по Linux Хотите узнать, где именно установлена команда? Используйте:
which python3
Команда покажет полный путь к исполняемому файлу, найденному через переменную окружения $PATH. Если хотите получить больше информации, например узнать расположение исполняемого файла, исходников и документации, используйте:
whereis python3
Это особенно полезно, когда установлено несколько версий одной программы и нужно разобраться, какие файлы доступны в системе. Чтобы проверить текущую версию Python, выполните:
python3 --version
А чтобы узнать, что именно оболочка запускает при вводе команды, используйте:
type python3
@SysAdmin_Portal
13 нояб., 11:07

Быстрый совет по Linux Хотите посмотреть текущую производительность системы без установки дополнительных программ? Используйт
Быстрый совет по Linux Хотите посмотреть текущую производительность системы без установки дополнительных программ? Используйте команду:
top
Она отображает загрузку процессора, использование памяти и список запущенных процессов в реальном времени. Полезные клавиши во время работы top: P — сортировка процессов по использованию CPU. M — сортировка процессов по использованию памяти. q — выход из программы. Если хотите получить более удобный и интерактивный интерфейс, попробуйте:
htop
Эта утилита позволяет нагляднее отслеживать загрузку CPU, использование памяти, среднюю нагрузку системы и запущенные процессы в реальном времени. @SysAdmin_Portal
13 нояб., 01:07

Graceful Shutdown подов Kubernetes — концепция, которую должен знать каждый DevOps-инженер. Когда Kubernetes завершает работу
Graceful Shutdown подов Kubernetes — концепция, которую должен знать каждый DevOps-инженер. Когда Kubernetes завершает работу пода, контейнеру отправляется сигнал SIGTERM. Если приложение неправильно обрабатывает этот сигнал, оно может остановиться прямо во время обработки пользовательского запроса, сохранения данных или обработки файла. Чтобы этого избежать, можно реализовать собственную логику корректного завершения работы в коде приложения. Также можно немного задержать остановку приложения с помощью хука preStop. Этот хук выполняется перед отправкой SIGTERM и даёт приложению дополнительное время на очистку ресурсов и завершение текущих задач. В нашем блоге подробно разбираем: • Что такое SIGTERM и SIGKILL. • Как Kubernetes обрабатывает эти сигналы. • Как приложения могут обрабатывать SIGTERM для корректного завершения работы. • Для чего нужны хуки preStop и почему они важны. • Как связаны SIGTERM и PID 1 контейнера. Читать статью: https://devopscube.com/kubernetes-pod-graceful-shutdown/ @SysAdmin_Portal
12 нояб., 11:07

Быстрый совет по Linux Файл слишком большой, а вам нужно посмотреть только последние несколько строк? Используйте: tail -20 П
Быстрый совет по Linux Файл слишком большой, а вам нужно посмотреть только последние несколько строк? Используйте:
tail -20 <filename>
Пример:
tail -20 /var/log/syslog
Команда выведет последние 20 строк файла. Вместо того чтобы открывать огромный лог, Linux сразу покажет самые свежие записи. Очень полезно при проверке логов. @SysAdmin_Portal
12 нояб., 01:07

Подписание образов и аттестация в Kubernetes Это один из обязательных рабочих процессов, который должен знать каждый DevOps-и
Подписание образов и аттестация в Kubernetes Это один из обязательных рабочих процессов, который должен знать каждый DevOps-инженер. Один из ключевых аспектов управления контейнерными образами — безопасность цепочки поставки ПО (Software Supply Chain Security). Подписание образов и аттестация играют в этом важную роль. Мы подготовили подробное практическое руководство, в котором вы узнаете: Что такое подписание образов и как оно работает. Зачем нужны SBOM и Build Provenance. Как подписывать контейнерные образы с помощью Cosign. Как создавать аттестации для provenance, SBOM и отчётов об уязвимостях. Как настроить проверку подлинности образов на этапе admission в Kubernetes с помощью Kyverno. Подробное руководство @SysAdmin_Portal
11 нояб., 11:07

Как выразить согласие картинкой 💡 @SysAdmin_Portal
Как выразить согласие картинкой 💡 @SysAdmin_Portal
11 нояб., 01:07

Быстрый совет по Linux Команда выполняется слишком долго, и вы не понимаете, работает ли она ещё? Запустите её с помощью time
Быстрый совет по Linux Команда выполняется слишком долго, и вы не понимаете, работает ли она ещё? Запустите её с помощью time:
time команда
Например:
time cp largefile.iso /backup
После завершения Linux покажет, сколько времени заняло выполнение команды. Простой способ измерить производительность и понять, сколько времени занимают операции. @SysAdmin_Portal
10 нояб., 11:07