tldr: Senior LLM Engineer в крупный банк. Внутренняя AI Platform, open-source LLM, агенты/RAG. Гибрид, Москва.

[вилки нет, но вакансия прошла голосование на высоком доверии к автору, деньги есть]

Мы в команде CIB LLM Team отвечаем за AI Platform для корпоративного бизнеса банка: LLM API Gateway, AI Chat, агентные решения, инфраструктуру для моделей и агентов, инструменты для создания AI-продуктов.

Ищем LLM-инженера, который усилит нашу команду в направлении внутренних AI-продуктов, агентов, RAG и оптимизации инференса.

Что делать:

• отвечать за внутреннюю AI Platform и инструменты для AI-приложений;
• проектировать агентов для автоматизации бизнес-процессов;
• работать с RAG, tool calling и корпоративными знаниями;
• оптимизировать качество, стоимость и latency инференса;
• участвовать в выборе и эксплуатации open-source LLM;
• доводить гипотезы и прототипы до production.

Что важно:

• уверенный Python;
• опыт ML/DL от 2 лет;
• понимание современных LLM/NLP/GenAI;
• опыт production-систем на базе LLM;
• понимание retrieval, routing, tool calling, memory, evaluation;
• опыт с Docker/Kubernetes и микросервисной архитектурой.

Будет плюсом:

• глубокое понимание эвалов для LLM-систем;
• опыт в self-hosted инференсе;
• опыт промышленной разработки.

Мы предлагаем:

• возможность работать над AI Platform для крупного корпоративного бизнеса;