Model Policy Manager, National Security

О позиции

Вы войдете в команду Model Policy внутри Safety Systems, где будете обеспечивать безопасное и надежное поведение фронтирных моделей ИИ в реальных условиях. Ваша задача — разрабатывать политики, определяющие допустимое поведение моделей, и переводить их в критерии обучения и оценки. Команда отвечает за полный цикл усилий по безопасности OpenAI, от системных защитных мер до red-teaming и оценки соответствия моделированным угрозам. Работа имеет критическое значение для обеспечения ответственности в разработке передовых ИИ-систем и поддержания высокого стандарта безопасности в контексте чувствительных государственных приложений.

Будет плюсом

• Действующий доступ TS/SCI или эквивалент
• Опыт работы с федеральными правительственными проектами
• Публикации по безопасности ИИ или политике регулирования ИИ
• Знание нормативных требований национальной безопасности США

Условия

• Работа над передовыми технологиями ИИ с глобальным воздействием
• Гибридный режим работы: 3 дня в офисе + опционально удаленно 2 дня
• Команду экспертов в области безопасности ИИ и технической команды
• Возможность формирования политик для критически важных государственных приложений
• Конкурентный пакет вознаграждения и возможности развития

Навыки

• AI Safety
• Model Evaluation
• Risk Assessment
• Policy Development
• Data Analysis
• Government Compliance
• Machine Learning

Могут спросить на собеседовании

1. Как вы оцениваете риски безопасности ИИ при разработке политических требований?
2. Приведите пример сложной дилеммы безопасности ИИ и как вы её решили
3. Как вы обеспечиваете, чтобы технические команды понимали и реализовывали политики безопасности?
4. Что вы делаете, если обнаруживаете несоответствие в поведении модели после публикации?