Middle+ Machine Learning Engineer (ML Infrastructure & Highload)

О вакансии

Обязанности: • развертывание и поставка моделей: Упаковка, деплой и поддержка runtime-шаблонов для быстрого вывода моделей в прод на основе готовых архитектурных решений Оптимизация инференса (ML Serving): • обеспечение требуемого уровня latency и пропускной способности для классического ML (LightGBM, CatBoost и тд) и нейросетей • конфигурирование и поддержка инференс-серверов (Triton Inference Server, vLLM и тд) Интеграция и оптимизация LLM: • вывод в продакшен LLM-агентов и RAG-систем с использованием готовых фреймворков • настройка производительных движков (vLLM, TGI) с применением базовых техник оптимизации (квантование, continuous batchi…