Research LLM Engineer в команду ML Ops Platform
Summary
End-to-end research engineering role inside a bank's ML Ops Platform, fine-tuning LLMs for price/performance and taking them to production inference. Stack: PyTorch, Python, vLLM/SGLang/TensorRT-LLM, RL frameworks (verl, slime, prime-rl), and agent orchestration (Harbor, verifiers).
Внутри банка уже много задач на LLM и большой объем потребления. Нам нужны внутренние модели, которые дают лучший price/performance на конкретных задачах.
У инженера есть возможность позаниматься совершенно разными задачами и определить оптимальные пути развития. Роль устроена end-to-end: один человек может заниматься как выбором и дообучением модели, так и доведением ее до продакшн-инференса.
Мы вам доверим
- Дообучать модели не с целью создания универсальной большой модели, а для получения лучших метрик price/performance на ключевых задачах внутри организации.
- Определять оптимальный способ инференса наших моделей и выбирать метрики успешности.
- Выполнять задачи end-to-end: от выбора и дообучения модели до продакшн-инференса.
Наши ожидания
- Мы готовы рассматривать разных кандидатов с разными профилями (специализация как на инференсе, так и на дообучении), поэтому пункты ниже не являются обязательными на 100%.
- Понимание устройства современных LLM и основных этапов их обучения, включая post-training для агентов.
- Опыт работы с фреймворками для RL (verl, slime, prime-rl) и оркестрацией окружений для агентов (Harbor, verifiers).
- Понимание устройства инференса LLM и механизмов его ускорения (KV-кэширование, батчинг, параллелизм).
- Опыт работы с движками инференса (vLLM, SGLang, TensorRT-LLM или аналоги).
- Навыки программирования на Python и PyTorch.
- Готовность работать на стыке ML-систем, инфраструктуры и NLP в зависимости от стадии проекта.
Будет плюсом
- Опыт участия в проектах по обучению LLM использовать инструменты, рассуждать перед ответом или работать с длинным контекстом.
- Наличие open-source проектов или публикаций по инференсу или обучению LLM.
Мы предлагаем
- Возможность работать из офиса или удаленно.
- ДМС со стоматологией, массажем, телемедициной, чек-апами с первого месяца работы.
- Три оплачиваемых отгула в год.
- Страхование от несчастных случаев и критических заболеваний, страхование выезжающих за границу.
- Бесплатные индивидуальные консультации психологов, юристов, экспертов по личным финансам и консультантов по здоровому образу жизни.
- Программы профессионального обучения: hard- и soft-навыки, лидерские компетенции.
- Льготные условия по банковским продуктам и услугам.
- Скидки от партнеров банка.