НовоеAI-конструктор резюме: правишь прямо на листе A4, а нейросеть подсказывает, что усилитьКонструктор резюме на листе A4Попробовать
JobPath
Начать бесплатно

Clera

Expert Talent Pool, Safety Testing Associate

  • Удалённо
  • Remote
  • Полная занятость
  • В вакансии: 30 – 60 USD
  • сегодня

Экспертный центр оценки безопасности ИИ-моделей ищет тестировщика для удалённой работы по выявлению уязвимостей, оценке политики безопасности и документированию случаев сбоев нейросетей.

О позиции

Вы присоединитесь к экспертной сети, поддерживающей проекты по оценке искусственного интеллекта в роли специалиста по тестированию безопасности. Ваша задача — находить и фиксировать способы, которыми ИИ-системы могут давать сбои, помогая повышать безопасность моделей на проектах, соответствующих вашему профилю.

Чем заниматься

  • Создавать промпты и многоступенчатые диалоги для проверки следования моделями правилам безопасности
  • Применять известные и новые техники джейлбрейка и фиксировать успешные или неудачные подходы
  • Использовать скрытые инструкции в документах и выводах инструментов для тестирования уязвимостей инжекции промптов
  • Оценивать возможность манипуляции моделями с доступом к коду, браузеру или почте для совершения вредоносных действий
  • Сравнивать ответы моделей по демографическим группам, именам и языкам на предмет потенциальных предубеждений
  • Проверять ответы моделей на соответствие написанным политикам безопасности и маркировать нарушения
  • Размечать контент как безопасный или небезопасный согласно инструкциям проекта

Что ждут

  • От 0 до 5 лет профессионального опыта; предшествующий опыт работы с ИИ-данными не требуется
  • Опыт в тестировании безопасности, CTF, trust and safety, модерации контента, анализе политик, исследованиях предвзятости, adversarial machine learning, QA или в соответствующей кибер-, био- или химической области
  • Опыт тестирования программного обеспечения, систем или моделей путём попытки «взлома» с документированием шагов и результатов
  • Опыт применения письменных политик или руководств для оценки или разметки контента и поведения
  • Хорошее владение английским письмом, внимательность к документированию, способность работать с чувствительным контентом по структурированным инструкциям

Будет плюсом

  • Знакомство с jailbreak языковых моделей, инъекцией промптов или red teaming
  • Опыт работы с инструментами Burp Suite, Garak, PyRIT или знание OWASP LLM Top 10

Условия

  • Удалённая работа из любой точки мира
  • Гибкая почасовая оплата от 30 до 60 USD в зависимости от проекта и опыта
  • Работа над актуальными проектами по оценке безопасности ИИ
  • Возможность применять специализированные знания в кибербезопасности и ML

Навыки

  • AI Safety
  • Security Testing
  • Prompt Injection
  • LLM Red Teaming
  • Bias Detection
  • Content Moderation
  • Adversarial Machine Learning
  • Quality Assurance
  • Policy Analysis
  • Jailbreaking

Сложность отбора

Средняя сложность: требует понимания принципов безопасности ИИ и методологии red teaming, но не предполагает глубокого опыта в машинном обучении

Оценка JobPath

Зарплата по рынку

432 000 – 864 000 ₽ в месяц

Расчёт на основе $30–60 в час при 160 часах в месяц и курсе ~90 ₽/$; нижняя граница соответствует junior-уровню, верхняя — senior со специализацией в кибербезопасности

Оценка JobPath по рынку, не предложение работодателя

Могут спросить на собеседовании

  1. Расскажите о вашем опыте работы с системами безопасности или тестированием ПО. Что было наиболее сложным?
  2. Как вы понимаете концепцию jailbreak для языковых моделей? Приведите пример.
  3. Опишите ваш подход к тестированию системы на наличие предвзятости (bias).
  4. Как вы организуете документирование результатов тестирования? Какие инструменты используете?
  5. Что для вас важнее: найти все возможные уязвимости или протестировать как можно больше векторов атаки?

Прорепетировать это собеседование

Голосовой ИИ-интервьюер задаст вопросы под эту вакансию и разберёт каждый ответ.

Начать бесплатно

Сохрани похожие вакансии

Новые вакансии с такой должностью будут собираться в кабинете.

Сохранить фильтр

Перед откликом

Попробовать бесплатно

Связаться с поддержкой

Выбери, где удобнее написать