НовоеAI-конструктор резюме: правишь прямо на листе A4, а нейросеть подсказывает, что усилитьКонструктор резюме на листе A4Попробовать
JobPath
Начать бесплатно

openai

Model Policy Manager, Emerging AI Misuse

  • Удалённо
  • San Francisco
  • Полная занятость
  • сегодня

Model Policy Manager в OpenAI определит, как передовые модели ИИ должны взаимодействовать с пользователями в реальных условиях, трансформируя исследовательские данные о рисках в политики безопасности и механизмы защиты. Роль требует глубокого понимания двойных технологий и создания систем оценки угроз для предотвращения злоупотреблений ИИ.

О позиции

Команда Model Policy отвечает за формирование политик поведения моделей ИИ в практических сценариях, превращая исследования новых рисков в конкретные меры безопасности и критерии оценки. Специалист работает над балансированием между развитием возможностей ИИ и минимизацией потенциального вреда для общества.

Чем заниматься

  • Разработка и актуализация моделей угроз при эволюции технологических возможностей
  • Определение границ помощи моделей ИИ в ситуациях двойного назначения технологий
  • Трансляция экспертных решений по безопасности в инструктаж для обучения моделей
  • Анализ результатов тестирования и развертывания моделей для выявления уязвимостей
  • Сотрудничество с командами исследований, разработки и продуктовой группы

Что ждут

  • Опыт работы с двойными технологиями или построения моделей угроз
  • Умение оценивать влияние новых возможностей на реальные сценарии использования
  • Навыки перевода технических данных в измеримые критерии политики безопасности
  • Аналитический опыт обработки датасетов и результатов оценки качества
  • Знание принципов red-teaming и анализа отказов систем

Будет плюсом

  • Публикации в области ИИ-безопасности
  • Опыт работы с крупными языковыми моделями
  • Привлечение внешних экспертов для сложных задач

Условия

  • Работа в международной команде специалистов по безопасности ИИ
  • Возможность влиять на стандарты этичного использования технологий будущего
  • Гибридный график работы с поддержкой релокации
  • Доступ к передовым инструментам разработки и тестирования систем

Навыки

  • Threat Modeling
  • AI Safety Policy
  • Dual-Use Technology Assessment
  • Risk Evaluation
  • Machine Learning Ethics
  • Data Analysis for Safety

Сложность отбора

Требует экспертизы в области ИИ-безопасности и опыта работы с многоуровневыми системами регулирования технологий

Оценка JobPath

Зарплата по рынку

900 000 – 1 500 000 ₽ в месяц

Оценка основана на рыночных данных по аналогичным ролям в сфере ИИ-безопасности для Сан-Франциско (переведено из USD в ₽)

Оценка JobPath по рынку, не предложение работодателя

Могут спросить на собеседовании

  1. Как вы определите границу между легальным и вредоносным использованием модели ИИ в конкретной ситуации?
  2. Опишите пример конфликта между экспертами при оценке уровня риска новой функции модели.
  3. Какие метрики вы используете для измерения эффективности политики безопасности?

Прорепетировать это собеседование

Голосовой ИИ-интервьюер задаст вопросы под эту вакансию и разберёт каждый ответ.

Начать бесплатно

Сохрани похожие вакансии

Новые вакансии с такой должностью будут собираться в кабинете.

Сохранить фильтр

Перед откликом

Попробовать бесплатно

Связаться с поддержкой

Выбери, где удобнее написать