Это возможность возглавить исследовательское направление в команде, занимающейся проектами в новом, динамично развивающемся направлении безопасности искусственного интеллекта. Ваши задачи будут связаны с поиском и исследованием уязвимостей GenAI и AI-приложений с их использованием, в том числе AI-агентов. В коллективе опытных экспертов вы будете оценивать безопасность разрабатываемого ПО, предлагать инструменты для автоматизации исследования и тестирования безопасности GenAI-моделей, а также формировать и развивать исследовательскую команду, участвуя в международных и внутренних CTF.

Это не административная роль, мы ищем «играющего тренера», который сам может написать первый прототип, проверить гипотезу об угрозе и решить таск на CTF - и только потом делегирует масштабирование команде. Если ваш опыт ограничивается управлением процессами без hands-on разработки и исследований, эта позиция не подойдёт.

Обязанности

### Вам предстоит:

* исследование угроз GenAI: создание, поддержка и развитие инструментов для анализа и поиска угроз, в т.ч.:

\-разработка средств автоматизации сбора, хранения и анализа новых публикаций, инцидентов и методов атак на GenAI (краулинг, парсинг информации, разработка и управление системами хранения)

\-создание и тестирование прототипов (Proof of Concept) для поиска уязвимостей GenAI (скрипты, основные библиотеки GenAI, AI-агенты для генерации кода)

* DevOps: CI/CD, контроль версий (git), тестирование качества, инфраструктура для работы (linux)

* внедрение практик AI PDLC: исследование и применение методов и инструментов создания и развития программного обеспечения с применением передовых ИИ-моделей

* погружение в экосистему: изучение и практическое применение передовых фреймворков и библиотек для работы с LLM и AI-агентами

* управление командой: формирование и развитие исследовательской команды (3–5 человек), приоритизация исследований, защита решений перед руководством и смежными командами

* CTF и хакатоны: формирование и капитанство команды на международных CTF по AI/ML security, трансляция найденных техник в работу направления

* публикации и нормативные документы: оформление результатов исследований, вклад в нормативные документы безопасности AI.

Требования

### Что для нас важно:

* профиль и образование: законченное высшее образование в области информационных технологий, компьютерных наук, прикладной математики, программной инженерии или смежных направлений

* продвинутые навыки программирования: понимание принципов проектирования и разработки программного обеспечения, опыт в написании и чтении программного кода (понятный, поддерживаемый)

* навыки DevOps: работа с git, администрирование linux, автоматизация этапов жизненного цикла разработки ПО

* LLM и AI-агенты: экспертный уровень применения LLM для разработки ПО, глубокое понимание архитектуры агентов и их векторов атак

* английский язык на уровне не менее чтения технической документации, статей и участия в международных CTF

* опыт командной работы в проектах разработки: канбан (спринты, трекинг задач), jira/git/confluence, презентации и умение понятно объяснять свои идеи команде/руководству и согласовывать требования

* Adversarial ML и red teaming LLM: практический опыт поиска уязвимостей в GenAI-моделях (prompt injection, jailbreaking, tool poisoning, data extraction)

* знание инструментария для LLM security: Giskard, Garak, LLM Guard и др.

* CTF и хакатоны: участие в международных CTF по AI/ML security (желательно — победы или призовые места).

Условия

### Мы предлагаем:

* комфортный современный офис ул. Вавилова 19

* офисный формат работы

* ежегодный пересмотр зарплаты, годовая премия

* корпоративный спортзал и зоны отдыха

* более 400 образовательных программ СберУниверситета для профессионального и карьерного развития

* программа адаптации и помощь руководителя на старте

* расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа

* гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ

* подписка Прайм с возможностью совместного использования на трёх близких

* вознаграждение за рекомендацию друзей в команду Сбера.