openai
Researcher, Cyber Safety Training
- San Francisco
- Полная занятость
- сегодня
Исследователь в команду по обучению кибербезопасности в OpenAI — разрабатывайте методы обеспечения безопасности передовых AI-моделей. Работа с крупномасштабными тренировочными процессами и оценка этических аспектов взаимодействия моделей.
О позиции
Команда Safety Training в OpenAI отвечает за обеспечение безопасного развертывания наиболее мощных моделей реального мира. Мы работаем на стыке машинного обучения, безопасности и этики, чтобы модели помогали людям выполнять легитимные задачи безопасности, но не позволяли использовать их для вредоносных целей. Ваша роль будет напрямую влиять на развитие поведения наших фронтирных моделей.
Чем заниматься
- Разрабатывать методы пост-обучения для улучшения кибербезопасности передовых моделей
- Проводить исследования сложных сценариев оценки безопасности в контексте киберугроз
- Сотрудничать с исследователями в области кибербезопасности для определения границ помощи моделей
- Дизайнить комплексные реалистичные тесты оценки кибербезопасности моделей
- Внедрять экспериментальные методы в крупные процессы обучения и верифицировать их эффективность
- Координировать работу с кросс-функциональными командами: T&S, юридический отдел, политика и другие исследовательские группы
Что ждут
- Практический опыт тренировки или дообучения ML-моделей с возможностью продемонстрировать эксперименты
- Навыки отладки кода для подготовительных этапов эксперимента и анализа результатов
- Опыт работы с reinforcement learning или желание развивать экспертизу в этой области
- Аналитическое мышление и способность работать с неоднозначными ситуациями совместно с экспертами
- Понимание принципов кибербезопасности и способностей применять security judgment в ML-контексте
Будет плюсом
- Бэкграунд в industry cybersecurity work или research project по безопасности
- Опыт участия в capture-the-flag competitions
- Публикации в области безопасности ИИ или ML-безопасности
- Участие в collaborative security initiatives внутри команды
- Знание legal/policy frameworks в области AI safety
Условия
- Работа над технологическими вызовами глобальной значимости
- Возможность напрямую влиять на безопасность самых совершенных AI-моделей мира
- Коллаборация с ведущими исследователями отрасли
- Вклад в формирование будущего ответственного ИИ
- Гибкая рабочая среда с ориентацией на разнообразие перспектив и голосов
Навыки
- Machine Learning
- Reinforcement Learning
- Cybersecurity
- Python
- Deep Learning
- Model Training
- Evaluation Metrics
- Data Processing
- Security Assessment
- Risk Analysis
Сложность отбора
Высокий уровень требований из-за необходимости сочетать экспертизу в ML, кибербезопасности и безопасности ИИ одновременно
Оценка JobPathЗарплата по рынку
1 200 000 – 1 900 000 ₽ в месяц
Оценка основана на уровне позиций Researcher в OpenAI для Сан-Франциско; годовой диапазон $150k-200k конвертирован в месячный эквивалент
Оценка JobPath по рынку, не предложение работодателяМогут спросить на собеседовании
- Расскажите о вашем опыте тренировки ML-моделей. Какой эксперимент привёл вас к изменению подхода к следующему циклу обучения?
- Как вы оцениваете баланс между полезностью модели и её безопасностью в конкретных сценариях использования?
- Какие подходы вы используете для разработки тестов на устойчивость моделей к adversarial атакам?
- Приведите пример работы с ambiguous cases в cybersecurity. Как вы приходили к выводам при недостатке чётких критериев?
- Что для вас важнее: производительность модели или гарантированная безопасность? Аргументируйте свой выбор.
Прорепетировать это собеседование
Голосовой ИИ-интервьюер задаст вопросы под эту вакансию и разберёт каждый ответ.
Начать бесплатноСохрани похожие вакансии
Новые вакансии с такой должностью будут собираться в кабинете.
Сохранить фильтр