Мы разрабатываем Vision-Language-Action-модели для управления роботами. Учим их выполнять манипуляционные задачи по текстовым инструкциям, используя изображения с камер и данные о состоянии робота.

Наша команда занимается претрейном: разрабатывает архитектуры и методы обучения, работает с данными разных робототехнических платформ и масштабирует обучение. Среди задач — перенос навыков между роботами, обобщение на новые объекты и условия, подключение новых модальностей.

Ищем ML-разработчика, который будет развивать методы претрейна, проводить исследовательские эксперименты и доводить удачные решения до использования в основных обучающих запусках.

Какие задачи вас ждут

Разработка и претрейн VLA-моделей

Вам предстоит разрабатывать и обучать VLA-модели для манипуляционных задач. Вы будете экспериментировать с архитектурами, представлениями наблюдений и действий, функциями потерь и методами объединения модальностей, улучшать перенос навыков на новые объекты, условия и робототехнические платформы.

Работа с обучающими данными

Вы будете формировать смеси робототехнических и мультимодальных датасетов, настраивать семплирование и согласовывать данные роботов с разными сенсорами и пространствами действий. Предстоит оценивать влияние качества, объёма и состава данных на способности моделей и улучшать обучающие выборки.

Разработка пайплайнов контроля качества данных

Вам предстоит автоматизировать проверку и очистку данных перед обучением: выявлять рассинхронизацию видео, состояний и действий, пропуски и зависания кадров, аномалии в траекториях. Вы будете развивать инструменты визуального разбора эпизодов, формировать отчёты о качестве, настраивать исправление, фильтрацию и маскирование проблемных фрагментов. Предстоит проверять ложные срабатывания и оценивать влияние очистки данных на качество моделей.

Масштабирование и оптимизация распределённого обучения

Вам предстоит развивать распределённое обучение на нескольких GPU и узлах, повышать стабильность длительных запусков и эффективность использования ресурсов. Вместе с инфраструктурной командой вы будете профилировать обучение и устранять узкие места в вычислениях, коммуникациях и загрузке данных.

Исследования и оценка качества моделей

Нужно будет формулировать и проверять исследовательские гипотезы, воспроизводить подходы из статей и проводить абляционные эксперименты. Вместе с командой робототехники вы будете проверять модели на реальных роботах, анализировать ошибки и использовать результаты для улучшения претрейна.

Больше об ML в Яндексе — в канале Yandex for ML

Мы ждём, что вы

- Разрабатывали и обучали трансформерные или генеративные модели в одном или нескольких направлениях: мультимодальное обучение, Computer Vision, NLP, генерация видео или Robot Learning

- Хорошо понимаете основы глубинного обучения, устройство трансформеров и методы оптимизации, умеете разбираться в причинах нестабильного обучения и ухудшения качества моделей

- Уверенно программируете на Python, работаете с PyTorch или JAX, умеете писать поддерживаемый обучающий код и разбираться в существующем

- Имеете опыт распределённого обучения с FSDP, DeepSpeed или аналогичными инструментами, понимаете принципы параллелизма данных и шардинга, умеете диагностировать проблемы производительности, потребления памяти и стабильности запусков

- Работали с большими датасетами и пайплайнами их подготовки, понимаете влияние качества данных, семплирования и организации загрузки на обучение

- Умеете самостоятельно ставить эксперименты, выбирать метрики, обеспечивать воспроизводимость результатов и аргументировать технические решения

Будет плюсом, если вы

- Работали с VLA, Imitation Learning, Behavior Cloning или обучали политики на данных разных робототехнических платформ

- Обучали диффузионные или flow-matching-модели, генеративные модели изображений и видео

- Оптимизировали многоузловое обучение: профилировали GPU и коммуникации, подбирали стратегии параллелизма, работали с mixed precision, activation checkpointing, сохранением и восстановлением состояния обучения

- Разрабатывали пайплайны автоматического контроля качества данных, инструменты визуализации и поиска аномалий в видео и временных рядах

- Внедряли обученные политики на реальных роботах и оценивали качество выполнения задач

- Имеете исследовательские публикации, участвуете в опенсорс-проектах или можете рассказать о собственных проектах с воспроизводимыми результатами

Узнать больше

-

Автономный транспорт

-

Офисы в Москве