MLOps-инженер

Вам предстоит:

• Развёртывание обученных ML-моделей в продакшн-среду: упаковка моделей в контейнеры, настройка и администрирование inference-серверов (Triton, TorchServe, BentoML или аналоги), обеспечение версионирования и воспроизводимости деплоя.

• Подготовка и администрирование GPU-серверов: установка и обновление драйверов NVIDIA, CUDA, cuDNN; конфигурирование GPU-нод в кластере Kubernetes; диагностика, мониторинг и устранение неисправностей GPU-оборудования.

• Построение и поддержка CI/CD пайплайнов для автоматизированного тестирования, сборки Docker-образов и деплоя ML-сервисов в dev, staging и production окружения.

• Настройка и поддержка инфраструктуры мониторинга ML-сервисов: метрики производительности, латентность, пропускная способность, настройка алертинга в Prometheus/Grafana.

• Управление ресурсами GPU-кластера: планирование нагрузки, распределение GPU между задачами инференса, оптимизация утилизации оборудования и управление очередями задач.

Для нас важно:

• Опыт в DevOps/MLOps/инфраструктуре от 3 лет.

• Уверенное владение Kubernetes: деплой, отладка, масштабирование, работа с namespaces и resource quotas.

• Практический опыт администрирования серверов с GPU (NVIDIA): установка драйверов, диагностика утилизации, оптимизация нагрузки.

• Опыт контейнеризации ML-моделей и понимание специфики работы inference-серверов.

• Опыт работы с Linux на уровне администрирования и диагностики.

• Умение писать скрипты: Bash, Python — на уровне автоматизации рутины и работы с API/CLI.

• Навык читать и разбирать чужой код и конфигурации.

• Самостоятельность: умение довести задачу до конца без микроменеджмента.

Будет плюсом:

• Опыт работы с Kubernetes-операторами для GPU (NVIDIA GPU Operator).

• Знание механизмов шаринга GPU: MIG (Multi-Instance GPU), Time-Slicing.

• Опыт работы с системами хранения артефактов моделей (S3, MinIO).

• Опыт работы в сфере Телекома или High Load проектах.

• Базовое понимание принципов работы моделей машинного обучения.

Условия:

• Гибридный формат работы (Казахстан).

• Полная занятость (Full time).

• Широкий технологический стек, сотни проектов. Можно разрабатывать IT-решения для разных отраслей, пробовать новые технологии.

• Помогаем прокачаться во всех интересующих направлениях.

• Имеем развитую систему наставничества, проходим сертификацию за счет компании, участвуем в конференциях.

• Активно обмениваемся опытом, проводим внутренние и внешние митапы, прокачиваем hard и soft skills.