НовоеAI-конструктор резюме: правишь прямо на листе A4, а нейросеть подсказывает, что усилитьКонструктор резюме на листе A4Попробовать
JobPath
Начать бесплатно

openai

Researcher, Cyber Safety Training

  • San Francisco
  • Полная занятость
  • сегодня

Исследователь в команду по обучению кибербезопасности в OpenAI — разрабатывайте методы обеспечения безопасности передовых AI-моделей. Работа с крупномасштабными тренировочными процессами и оценка этических аспектов взаимодействия моделей.

О позиции

Команда Safety Training в OpenAI отвечает за обеспечение безопасного развертывания наиболее мощных моделей реального мира. Мы работаем на стыке машинного обучения, безопасности и этики, чтобы модели помогали людям выполнять легитимные задачи безопасности, но не позволяли использовать их для вредоносных целей. Ваша роль будет напрямую влиять на развитие поведения наших фронтирных моделей.

Чем заниматься

  • Разрабатывать методы пост-обучения для улучшения кибербезопасности передовых моделей
  • Проводить исследования сложных сценариев оценки безопасности в контексте киберугроз
  • Сотрудничать с исследователями в области кибербезопасности для определения границ помощи моделей
  • Дизайнить комплексные реалистичные тесты оценки кибербезопасности моделей
  • Внедрять экспериментальные методы в крупные процессы обучения и верифицировать их эффективность
  • Координировать работу с кросс-функциональными командами: T&S, юридический отдел, политика и другие исследовательские группы

Что ждут

  • Практический опыт тренировки или дообучения ML-моделей с возможностью продемонстрировать эксперименты
  • Навыки отладки кода для подготовительных этапов эксперимента и анализа результатов
  • Опыт работы с reinforcement learning или желание развивать экспертизу в этой области
  • Аналитическое мышление и способность работать с неоднозначными ситуациями совместно с экспертами
  • Понимание принципов кибербезопасности и способностей применять security judgment в ML-контексте

Будет плюсом

  • Бэкграунд в industry cybersecurity work или research project по безопасности
  • Опыт участия в capture-the-flag competitions
  • Публикации в области безопасности ИИ или ML-безопасности
  • Участие в collaborative security initiatives внутри команды
  • Знание legal/policy frameworks в области AI safety

Условия

  • Работа над технологическими вызовами глобальной значимости
  • Возможность напрямую влиять на безопасность самых совершенных AI-моделей мира
  • Коллаборация с ведущими исследователями отрасли
  • Вклад в формирование будущего ответственного ИИ
  • Гибкая рабочая среда с ориентацией на разнообразие перспектив и голосов

Навыки

  • Machine Learning
  • Reinforcement Learning
  • Cybersecurity
  • Python
  • Deep Learning
  • Model Training
  • Evaluation Metrics
  • Data Processing
  • Security Assessment
  • Risk Analysis

Сложность отбора

Высокий уровень требований из-за необходимости сочетать экспертизу в ML, кибербезопасности и безопасности ИИ одновременно

Оценка JobPath

Зарплата по рынку

1 200 000 – 1 900 000 ₽ в месяц

Оценка основана на уровне позиций Researcher в OpenAI для Сан-Франциско; годовой диапазон $150k-200k конвертирован в месячный эквивалент

Оценка JobPath по рынку, не предложение работодателя

Могут спросить на собеседовании

  1. Расскажите о вашем опыте тренировки ML-моделей. Какой эксперимент привёл вас к изменению подхода к следующему циклу обучения?
  2. Как вы оцениваете баланс между полезностью модели и её безопасностью в конкретных сценариях использования?
  3. Какие подходы вы используете для разработки тестов на устойчивость моделей к adversarial атакам?
  4. Приведите пример работы с ambiguous cases в cybersecurity. Как вы приходили к выводам при недостатке чётких критериев?
  5. Что для вас важнее: производительность модели или гарантированная безопасность? Аргументируйте свой выбор.

Прорепетировать это собеседование

Голосовой ИИ-интервьюер задаст вопросы под эту вакансию и разберёт каждый ответ.

Начать бесплатно

Сохрани похожие вакансии

Новые вакансии с такой должностью будут собираться в кабинете.

Сохранить фильтр

Перед откликом

Попробовать бесплатно

Связаться с поддержкой

Выбери, где удобнее написать