AI/ML Engineer в направление «Интеллектуальные решения»
Summary
Design and ship production AI systems at a major telecom: build RAG pipelines, optimize LLM inference on a proprietary GPU cluster, design agentic workflows, and measure quality with golden datasets and A/B testing.
- Разбирать запросы заказчиков и предлагать, каким классом решений их закрывать;
- Разрабатывать и улучшать RAG-пайплайны: поиск, реранжирование, сборка контекста, цитирование;
- Поднимать и оптимизировать инференс на своём GPU-кластере: выбор модели, квантизация, батчинг, KV-кэш;
- Проектировать агентную логику: маршрутизация запросов, вызов инструментов, память диалога;
- Измерять качество системно: golden-датасеты, офлайн-метрики, A/B на проде, разбор жалоб пользователей;
- Доводить прототипы до продакшена вместе с backend и DevOps-командой;
- Что мы ожидаем:
- 3+ года в ML/AI-инженерии с реальным опытом вывода моделей в прод, а не только исследований в ноутбуках
- Самостоятельность в постановке задач: превратить размытый запрос в проверяемую гипотезу и оценить, стоит ли она реализации;
- Python на уровне промышленной разработки;
- Практический опыт с LLM: промптинг, RAG или дообучение, доведённое до работающего результата;
- Понимание устройства трансформера: attention, токенизация, контекстное окно, природа галлюцинаций;
- Фреймворк инференса: vLLM, TGI, Triton, Ollama или аналог;
- Векторный поиск: Qdrant, pgvector, Milvus, FAISS - любой;
- Умение измерять качество цифрами: метрики, датасеты, воспроизводимые эксперименты;
- Docker, git, понимание, как код доезжает до прода.
-
LangGraph, LangChain или LlamaIndex;
-
fine-tuning (LoRA, QLoRA, DPO) ;
-
квантизация и профилирование GPU;
-
Whisper, STT/TTS, диаризация, мультимодальность;
-
Kubernetes, Langfuse, RAGAS и другие инструменты оценки LLM;
-
казахский язык в NLP open-source и публикации.
-
Что мы предлагаем:
-
Собственная инфраструктура. Работаем на своём железе, без ограничений и квот чужого облака;
-
Содержательные задачи. Направление молодое, готовых шаблонов нет подходы вырабатываем сами;
-
Масштаб. Продукты для десятков тысяч пользователей группы компаний
-
Влияние. Ключевые архитектурные решения принимаются сейчас, и ваш голос в них весит.
- Работа в стабильной и динамичной Компании;
- Карьерный рост;
- Социальный пакет по Коллективному договору
- Отпуск 28 дней;
- Яркая корпоративная жизнь.