Последние посты
Bash Ready | Linux
6 сент., 06:55
keda-gpu-scaler — это внешний scaler для KEDA, который считывает GPU-метрики через NVML на каждом узле. Благодаря этому deployments с vLLM и Triton масштабируются по реальной нагрузке на GPU, а не по CPU, включая scale-to-zero➜ https://github.com/pmady/keda-gpu-scalerGitHubGitHub - pmady/keda-gpu-scaler: KEDA External gRPC Scaler for GPU workloads - native NVML metrics via DaemonSet, no Prometheus…KEDA External gRPC Scaler for GPU workloads - native NVML metrics via DaemonSet, no Prometheus required - pmady/keda-gpu-scalerBash Ready | Linux
3 сент., 15:09
Участвуй в КосмоХакатоне 4–6 сентября, решай реальные космические кейсы, поборись за 1,2 млн ₽ и шанс попасть в финал в Москве!С 4 по 6 сентября в Ростове-на-Дону пройдёт КосмоХакатон Южного и Северо-Кавказского федеральных округов — масштабное соревнование для тех, кто готов превратить данные о нашей планете в реальные технологические решения.Один хакатон — два формата: участвовать можно очно в Ростове-на-Дону или онлайн из любой точки России. Все команды работают над едиными кейсами, оцениваются по одинаковым критериям и участвуют в общем рейтинге.В рамках хакатона также пройдёт открытая лекция «Применение космических технологий для решения экологических задач» от Игоря Кожелина, CEO SR Data. Призовой фонд — 1 200 000₽Даты проведения: 4–6 сентября Формат: онлайн и офлайн Очная площадка: Центр развития предпринимательства «Новый Ростов», ул. Максима Горького, 151, 4 этаж. 🔗 Заре
Bash Ready | Linux
30 авг., 06:00
Как собирать компактные образы контейнеровПодробный разбор того, из-за чего production-образы обычно раздуваются и как этого избежать с помощью multi-stage builds и грамотного выбора базовых образов.С практическими примерами для Node.js, Go, Rust, Java и PHP: https://labs.iximiuz.com/tutorials/docker-multi-stage-builds
Bash Ready | Linux
27 авг., 06:15
SSH-туннели, или как стать магом сетевой связности10 практических челленджей, чтобы прокачать port forwarding через SSH-туннели — от простого локального/удалённого проброса портов до продвинутых сценариев с bastion- и jump-хостами:- Получить доступ к внутреннему debug-порту через SSH-туннель https://labs.iximiuz.com/challenges/ssh-local-port-forwarding - Достучаться до приватного сервиса в VPC через SSH-бастион https://labs.iximiuz.com/challenges/ssh-local-port-forwarding-bastion - Получить доступ к удалённому loopback-порту через SSH jump host https://labs.iximiuz.com/challenges/ssh-local-port-forwarding-jump-host - Ограничить доступ к SSH-бастиону в зависимости от роли пользователя https://labs.iximiuz.com/challenges/ssh-local-port-forwarding-bastion-hardened - Получить доступ к внутренним серверам через SSH-бастион без shell-доступа https://labs.iximiuz.com/challenges/ssh-jump-hos
Bash Ready | Linux
27 авг., 00:13
Kubernetes HPA не ограничивается только CPU и памятьюВорклоады можно скейлить и по кастомным метрикам, например- количество запросов в секунду (RPS) - длина очереди - количество активных соединений - latency приложенияДля этого можно использовать связку HPA + Prometheus + Prometheus Adapter.Prometheus Adapter прокидывает метрики через Kubernetes Custom Metrics API, после чего HPA использует их для автоскейлинга.Но выбрать метрику — это только часть настройки автоскейлинга. Нужно ещё контролировать, как HPA будет скейлить ворклоад при изменении значений метрики.В этой рассылке разобрали, как работает HPA tolerance.Читать здесь: https://newsletter.devopscube.com/p/kubernetes-hpa-tolerance-levels
Bash Ready | Linux
24 авг., 16:55
VPN, который просто работает.RuSolv — подключение за несколько минут, 50+ серверов и современные протоколы для стабильного доступа к интернету.✓ 10 ГБ каждый месяц бесплатно ✓ Без привязки карты ✓ Без логов ✓ Телефон, компьютер и другие устройстваПопробуйте бесплатно → https://rusolv.com
Bash Ready | Linux
20 авг., 21:57
Многие ли знают, что Helm хранит информацию о релизах в Kubernetes Secrets?Когда вы запускаете helm install или helm upgrade, Helm сохраняет данные о релизе в K8s Secrets в том же namespace.В Secret хранится, например: - имя релиза; - статус деплоя; - применённые манифесты; - использованные values; - информация о chart и другие данные.Данные в Secret сжимаются с помощью gzip, а затем кодируются в base64.Имя Secret создаётся по следующему шаблону: sh.helm.release.v1.[release-name].v[revision]Когда вы запускаете helm rollback, Helm читает эти Secrets, чтобы восстановить приложение до предыдущей версии. Helm не нужна внешняя база данных.Вся информация хранится прямо в вашем кластере в виде нативных Kubernetes Secrets.
Bash Ready | Linux
16 авг., 08:45
Как обученная AI-модель превращается в production API в Kubernetes?KServe — это проект CNCF на стадии Incubating для развёртывания и обслуживания AI-моделей в Kubernetes.Проще говоря, KServe берёт обученную модель и превращает её в масштабируемый inference-сервис в Kubernetes.Он берёт на себя деплой, сеть, автоскейлинг и health checks модели.Важно понимать, что KServe уже давно работает не только с классическими ML-моделями.Как inference-платформа, он поддерживает две категории AI/ML-нагрузок:- Predictive AI (классический ML): например, модели на scikit-learn, XGBoost, модели, упакованные через MLflow, и другие. - Generative AI (LLM): например, запуск и обслуживание LLM через backend vLLM с поддержкой GPU.Если хотите разобраться, как устроена inference-платформа KServe, можно прочитать свежий выпуск MLOps-рассылки.В нём разбираются: - Model Servers и runtimes в KServe - КBash Ready | Linux
13 авг., 18:52
KubePlumber проверяет работу сети Kubernetes изнутри кластера, тестируя:внутренний DNS, трафик между подами, внешний DNS, пропускную способность между нодами.➤ https://github.com/David-VTUK/KubePlumber
Bash Ready | Linux
4 авг., 15:17
В июле был установлен новый рекорд по количеству сгенерированных ИИ патчей, отправленных в ядро Linux – 2 144 новых изменения.Более того, каждый месяц этого года обновлял предыдущий рекорд
Bash Ready | Linux
4 июл., 19:08
🧠 Быстрый просмотр SSL-сертификата доменаНужно быстро проверить срок действия SSL-сертификата у удалённого сайта без браузера?echo | openssl s_client -servername example.com -connect example.com:443 2>/dev/null | openssl x509 -noout -dates📌 Покажет строки вида:notBefore=Jun 1 00:00:00 2024 GMT notAfter=Aug 30 23:59:59 2024 GMT🔒 Хочешь только дату окончания? Добавь | grep notAfter 📦 Убедись, что установлен openssl💡 Подходит для мониторинга и ручной проверки валидности сертификатов.Bash Ready | Linux
1 июл., 10:30
Циклы while vs for - где что правильноВ bash оба цикла нужны, но для разных задач. Путаница между ними - источник проблем.▪️ for - перебор готового списка. Используй, когда список уже есть.for f in .log; do echo "$f" doneфайлы; аргументы "$@"; элементы массива.⚠️ Пример ошибок:for f in $(ls .log); do # ломается на пробелах▪️ while - поток данных. Идеален для чтения ввода.Bash Ready | Linux
24 июн., 14:31
Поиск забытых .ssh директорийПосле чистки пользователей в системе нередко остаются их .ssh-каталоги. Это мусор + потенциальная дыра: старые ключи могут лежать годами.▪️ Быстрый поиск по системеfind / -type d -name .ssh 2>/dev/nullНайдет все .ssh, включая:/home//.ssh /root/.ssh нестандартные каталоги▪️ Проверяем, существует ли владелецfind / -type d -name .ssh -exec stat -c '%U %n' {} \;Если владелец:Bash Ready | Linux
21 июн., 17:40
🎧 ИИ-музыку почти никто не слушаетВ новом исследовании изучили Spotify и выяснили, что 93% нейротреков не набирают даже 1000 прослушиваний.Авторы называют это music slop. Тысячи композиций заливают пачками в разные жанры, надеясь случайно попасть в рекомендации. Дистрибьюторы почти этому не мешают, а детекторы пока легко обходятся.А как часто вам попадается в реках нейрохрючево?• Источник
Bash Ready | Linux
17 июн., 14:47
🍿 ИИ становится более контекстным: пользователям все реже нужны идеальные промптыРуководитель группы продукта «Поиск и Рекомендации» Яндекс Маркета Любовь Горбунова считает, что необходимость в предельно точных формулировках снижается: нейросеть все лучше понимает запросы и в перспективе с ней можно будет общаться как с консультантом в магазине — в свободной форме и с уточнениями по ходу диалога.Еще один тренд — использование ИИ вместе с VR/AR-технологиями. Уже сейчас такие решения улучшают сценарии виртуальной примерки одежды. А в будущем подход может распространиться и на другие категории, например, на «примерку» мебели в интерьере.
1,490Открыть в TelegramBash Ready | Linux
16 июн., 18:24
🍿 Мультивселенная схлопнулась.Bash Ready | Linux
12 июн., 12:05
Проверка времени отклика сервисовКогда сервис работает, но пользователи жалуются на медлительность, нужно мерить не аптайм, а отклик. Это легко сделать обычным curl.▪️ Самый простой замерtime curl -s https://bashtex.com > /dev/nullПоказывает общее время выполнения запроса и быстро понять, тормозит или нет.▪️ Точнее: только сетевое времяcurl -s -o /dev/null -w "time_total: %{time_total}\n" https://bashtex.comПолезные метрики:time_namelookup time_connect time_starttransfer time_totalBash Ready | Linux
8 июн., 13:17изменён
⚙️ Графическое вычисление (GPU) против Центрального процессора (CPU) — когда бэкендеру нужны видеокарты?Когда речь заходит об ускорении работы скриптов или сервисов, первая мысль разработчика — оптимизировать алгоритм или разложить задачи по ядрам процессора (CPU). Но бывают задачи, где даже самый мощный серверный процессор начинает безбожно тормозить. В этот момент тяжелые вычисления переносят на видеокарты (GPU).---CPU (Центральный процессор) — это «мозг» компьютера, спроектированный для решения общих и сложных последовательных задач. У него относительно мало ядер (обычно от 4 до 64), но каждое ядро невероятно мощное, имеет высокую тактовую частоту и огромный кэш. CPU отлично справляется с ветвлением логики (if/else), управлением операционной системой, работой баз данных и выполнением стандартного кода вашего приложения.GPU (Графический процессор) — устроен совершенно иначе.Bash Ready | Linux
6 июн., 19:53
🔄 Пул соединений (Connection Pool) — как не положить базу данных при нагрузкеКогда ваш Python-скрипт или веб-сервер делает запрос к базе данных (PostgreSQL, MySQL), под капотом происходит сложный процесс: приложение стучится к серверу базы по сети, проходит авторизацию, открывает сетевой сокет, выполняет SQL-запрос и закрывает соединение. Если на каждый клик пользователя открывать новое соединение с нуля, сервер моментально захлебнется. Решение этой проблемы — Connection Pool.Открытие нового соединения — это одна из самых «дорогих» и медленных операций в работе с базами данных. Приложении тратит драгоценное время процессора и сети еще до того, как выполнит сам SQL-код.Пул соединений работает по принципу кэширования: при старте приложения создается фиксированное количество готовых, уже авторизованных сетевых подключений к базе (например, 10–20 штук), которые удерживаются в памятиBash Ready | Linux
5 июн., 09:36
🛠️ Идемпотентность API — как защитить систему от дубликатов запросов?Представьте ситуацию: пользователь в мобильном приложении нажимает кнопку «Оплатить заказ». Клик улетает на бэкенд, списываются деньги, но в этот самый момент на телефоне на секунду пропадает связь. Приложение не получает ответ от сервера, считает, что произошел сбой, и автоматически отправляет запрос повторно. Если ваш бэкенд не обладает свойством идемпотентности, у пользователя спишутся деньги дважды.Идемпотентность в программировании — это свойство метода или всей системы выдавать один и тот же результат при многократных идентичных запросах. Сколько бы раз вы ни отправили один и тот же запрос, состояние системы изменится только один раз, а все последующие ответы будут точной копией первого успешного ответа.В стандартном REST API некоторые HTTP-методы идемпотентны по определению: — GET: сколько раз ни
