openai
Model Policy Manager, Emerging AI Misuse
- Удалённо
- San Francisco
- Полная занятость
- сегодня
Model Policy Manager в OpenAI определит, как передовые модели ИИ должны взаимодействовать с пользователями в реальных условиях, трансформируя исследовательские данные о рисках в политики безопасности и механизмы защиты. Роль требует глубокого понимания двойных технологий и создания систем оценки угроз для предотвращения злоупотреблений ИИ.
О позиции
Команда Model Policy отвечает за формирование политик поведения моделей ИИ в практических сценариях, превращая исследования новых рисков в конкретные меры безопасности и критерии оценки. Специалист работает над балансированием между развитием возможностей ИИ и минимизацией потенциального вреда для общества.
Чем заниматься
- Разработка и актуализация моделей угроз при эволюции технологических возможностей
- Определение границ помощи моделей ИИ в ситуациях двойного назначения технологий
- Трансляция экспертных решений по безопасности в инструктаж для обучения моделей
- Анализ результатов тестирования и развертывания моделей для выявления уязвимостей
- Сотрудничество с командами исследований, разработки и продуктовой группы
Что ждут
- Опыт работы с двойными технологиями или построения моделей угроз
- Умение оценивать влияние новых возможностей на реальные сценарии использования
- Навыки перевода технических данных в измеримые критерии политики безопасности
- Аналитический опыт обработки датасетов и результатов оценки качества
- Знание принципов red-teaming и анализа отказов систем
Будет плюсом
- Публикации в области ИИ-безопасности
- Опыт работы с крупными языковыми моделями
- Привлечение внешних экспертов для сложных задач
Условия
- Работа в международной команде специалистов по безопасности ИИ
- Возможность влиять на стандарты этичного использования технологий будущего
- Гибридный график работы с поддержкой релокации
- Доступ к передовым инструментам разработки и тестирования систем
Навыки
- Threat Modeling
- AI Safety Policy
- Dual-Use Technology Assessment
- Risk Evaluation
- Machine Learning Ethics
- Data Analysis for Safety
Сложность отбора
Требует экспертизы в области ИИ-безопасности и опыта работы с многоуровневыми системами регулирования технологий
Оценка JobPathЗарплата по рынку
900 000 – 1 500 000 ₽ в месяц
Оценка основана на рыночных данных по аналогичным ролям в сфере ИИ-безопасности для Сан-Франциско (переведено из USD в ₽)
Оценка JobPath по рынку, не предложение работодателяМогут спросить на собеседовании
- Как вы определите границу между легальным и вредоносным использованием модели ИИ в конкретной ситуации?
- Опишите пример конфликта между экспертами при оценке уровня риска новой функции модели.
- Какие метрики вы используете для измерения эффективности политики безопасности?
Прорепетировать это собеседование
Голосовой ИИ-интервьюер задаст вопросы под эту вакансию и разберёт каждый ответ.
Начать бесплатноСохрани похожие вакансии
Новые вакансии с такой должностью будут собираться в кабинете.
Сохранить фильтр