MLOps/DevOps-инженер (LLM Platform)

12 Января

Партнерские Вакансии

Город:

Нижний Новгород

Занятость:

Полная занятость

Компания "СимбирСофт,ООО"

В SimbirSoft более 1500 специалистов ежедневно решают интересные задачи, которые делают комфортнее жизни миллионов пользователей.

Мы занимаемся сервисной заказной разработкой. Если тебе интересны сложные технические задачи, работа в команде профессионалов, возможность прокачать экспертизу на проектах из разных сфер бизнеса – присоединяйся к нам!

Мы ищем MLOps/DevOps-инженера, который готов работать в продуктовой LLM-платформе, а не в исследовательской среде.

Вам предстоит

  • Поддержка и развитие инфраструктуры LLM (разворачивать и обновлять inference-сервисы, управлять GPU-нодами, настраивать OpenWebUI, настраивать CI/CD пайплайны для моделей и ассистентов, управлять хранилищами для индексов и документов).
  • Работа с RAG (настройка пайплайнов загрузки документов, оптимизация параметров retrieval: chunk size, overlap, embedding-модели, настройка интеграции с Langfuse для оценки качества, разворачивание и обновление LlamaIndex, Chroma, Postgres Vector — по мере масштабирования).
  • Работа с интеграциями и инструментами (подключение новых MCP-инструментов - Jira, 1С, DWH, Контур-Фокус и др. к ассистентам. Разворачивание новых сервисных модулей, прокидывать порты, настраивать Ingress, Secrets, RBAC).
  • Настройка мониторинга (Prometheus/Grafana, Langfuse), nightly evals (через Langfuse Datasets + judge-скоры).
  • Настройка ролей и лимитов в RBAC (OpenWebUI + Keycloak), реализовывать маскировку PII (телефоны, ИНН, e-mail) в пайплайнах.
  • Ведение документации (в Confluence / internal Wiki): чек-листы деплоя, обновлений, rollback, писать утилиты и скрипты (Python/Bash) для автоматизации.
  • Обучение коллег (DevOps, аналитиков) работе с модулями.

Для нас важно:

  • Опыт работы с LLM-моделями (vLLM, TGI, Hugging Face, Ollama).
  • Практический опыт с Python (FastAPI, скрипты, CLI).
  • Понимание архитектуры RAG и работы с embedding-моделями.
  • Навыки настройки Prometheus/Grafana, анализа метрик производительности.
  • Опыт работы с системами аутентификации (Keycloak, JWT).
  • Уверенные знания Kubernetes, Docker, CI/CD (GitLab/Helm).
  • Понимание принципов RBAC, изоляции данных, PII-безопасности.

Будет плюсом

  • Опыт работы с Deckhouse или другими K8s-дистрибутивами.
  • Знание Langfuse, LlamaIndex, Postgres Vector, Chroma.
  • Знания MLOps (модели, fine-tuning, quantization, caching).
  • Опыт интеграции API внешних систем (Jira, 1С, DWH).
  • Умение писать внутренние утилиты и документацию.

Мы предлагаем:

  • Работу в команде экспертов.
  • Широкий технологический стек, сотни проектов.
  • Гибкий график работы, который позволяет высыпаться и выделять время на хобби.
  • Льготы и меры господдержки, предусмотренные для IT-компаний (аккредитованы Минцифры*).
  • Возможность разрабатывать IT-решения для разных отраслей, пробовать новые технологии.
  • У нас выстроены процессы удаленной работы, при этом есть просторные офисы с зонами коворкинга, где можно с комфортом пообщаться, поиграть в настолки или в тишине обдумать рабочие задачи.
  • Возможность прокачаться во всех интересующих направлениях: стать тимлидом, архитектором, разработчиком full-stack.
  • Развитую систему менторства, сертификацию за счёт компании, участие в конференциях, изучение английского языка.
  • Активный обмен опытом, внутренние и внешние митапы по разработке, хакатоны, доклады по развитию hard и soft skills.
  • 50+ клубов по интересам и профессиональных сообществ внутри компании.
  • Уютный мерч.
  • Полный соцпакет и «белую» зарплату.
  • Корпоративную базу знаний и социальную сеть для удобства общения с каждым из 1500+ сотрудников.
  • Гибкую систему бонусов, которая настраивается под индивидуальные потребности: различные уровни ДМС, оплата обучения и занятий любыми видами спорта.
  • Заботу о ментальном здоровье: онлайн-консультации с психологом.

* Решение Министерства цифрового развития, связи и массовых коммуникаций РФ о предоставлении государственной аккредитации организации, осуществляющей деятельность в области информационных технологий от 10.03.2022 №АО-20220309-3771014210-3

Похожие вакансии

31 Декабря

Ведущий инженер по информационной безопасности( Центральный банк Российской Федерации )

Нижний Новгород

Компания "Центральный банк Российской Федерации" Обязанности: Управление и контроль прав доступа. Управление учётными записями и правами,...

Отправить резюме подробнее

14 Декабря

Выездной инженер технической поддержки/системный администратор

Саров

Компания "MAYKOR" Приглашаем к сотрудничеству специалистов IT (самозанятых), рассматриваем так же студентов последних курсов (информатика) на...

Отправить резюме подробнее

15 Декабря

Старший системный инженер

Нижний Новгород

Компания "ХОСТ, Группа компаний" ГК ХОСТ - аккредитованная ИТ-компания. 30 лет создаем, внедряем и сопровождаем комплексные решения для...

Отправить резюме подробнее

26 Декабря

Сервисный инженер мобильной группы (обслуживания региона ПФО)

Нижний Новгород

от 60 000 руб.

Компания: «РеМо» Компания «РеМо» — федеральный аккредитованный IT-сервис с 14-летним опытом на рынке. Мы ищем в команду мобильного сервисного...

Отправить резюме подробнее

17 Декабря

Инженер по локализации (новое производство)( ГАЗ )

Нижний Новгород

Компания "ГАЗ" На новое производство АО «Нижегородские грузовые автомобили» требуется Специалист по локализации . Компания специализируется на...

Отправить резюме подробнее

Вакансия размещена в отрасли

Информационные технологии / IT / Интернет: