Clera
Expert Talent Pool, Safety Testing Associate
- Удалённо
- Remote
- Полная занятость
- В вакансии: 30 – 60 USD
- сегодня
Экспертный центр оценки безопасности ИИ-моделей ищет тестировщика для удалённой работы по выявлению уязвимостей, оценке политики безопасности и документированию случаев сбоев нейросетей.
О позиции
Вы присоединитесь к экспертной сети, поддерживающей проекты по оценке искусственного интеллекта в роли специалиста по тестированию безопасности. Ваша задача — находить и фиксировать способы, которыми ИИ-системы могут давать сбои, помогая повышать безопасность моделей на проектах, соответствующих вашему профилю.
Чем заниматься
- Создавать промпты и многоступенчатые диалоги для проверки следования моделями правилам безопасности
- Применять известные и новые техники джейлбрейка и фиксировать успешные или неудачные подходы
- Использовать скрытые инструкции в документах и выводах инструментов для тестирования уязвимостей инжекции промптов
- Оценивать возможность манипуляции моделями с доступом к коду, браузеру или почте для совершения вредоносных действий
- Сравнивать ответы моделей по демографическим группам, именам и языкам на предмет потенциальных предубеждений
- Проверять ответы моделей на соответствие написанным политикам безопасности и маркировать нарушения
- Размечать контент как безопасный или небезопасный согласно инструкциям проекта
Что ждут
- От 0 до 5 лет профессионального опыта; предшествующий опыт работы с ИИ-данными не требуется
- Опыт в тестировании безопасности, CTF, trust and safety, модерации контента, анализе политик, исследованиях предвзятости, adversarial machine learning, QA или в соответствующей кибер-, био- или химической области
- Опыт тестирования программного обеспечения, систем или моделей путём попытки «взлома» с документированием шагов и результатов
- Опыт применения письменных политик или руководств для оценки или разметки контента и поведения
- Хорошее владение английским письмом, внимательность к документированию, способность работать с чувствительным контентом по структурированным инструкциям
Будет плюсом
- Знакомство с jailbreak языковых моделей, инъекцией промптов или red teaming
- Опыт работы с инструментами Burp Suite, Garak, PyRIT или знание OWASP LLM Top 10
Условия
- Удалённая работа из любой точки мира
- Гибкая почасовая оплата от 30 до 60 USD в зависимости от проекта и опыта
- Работа над актуальными проектами по оценке безопасности ИИ
- Возможность применять специализированные знания в кибербезопасности и ML
Навыки
- AI Safety
- Security Testing
- Prompt Injection
- LLM Red Teaming
- Bias Detection
- Content Moderation
- Adversarial Machine Learning
- Quality Assurance
- Policy Analysis
- Jailbreaking
Сложность отбора
Средняя сложность: требует понимания принципов безопасности ИИ и методологии red teaming, но не предполагает глубокого опыта в машинном обучении
Оценка JobPathЗарплата по рынку
432 000 – 864 000 ₽ в месяц
Расчёт на основе $30–60 в час при 160 часах в месяц и курсе ~90 ₽/$; нижняя граница соответствует junior-уровню, верхняя — senior со специализацией в кибербезопасности
Оценка JobPath по рынку, не предложение работодателяМогут спросить на собеседовании
- Расскажите о вашем опыте работы с системами безопасности или тестированием ПО. Что было наиболее сложным?
- Как вы понимаете концепцию jailbreak для языковых моделей? Приведите пример.
- Опишите ваш подход к тестированию системы на наличие предвзятости (bias).
- Как вы организуете документирование результатов тестирования? Какие инструменты используете?
- Что для вас важнее: найти все возможные уязвимости или протестировать как можно больше векторов атаки?
Прорепетировать это собеседование
Голосовой ИИ-интервьюер задаст вопросы под эту вакансию и разберёт каждый ответ.
Начать бесплатноСохрани похожие вакансии
Новые вакансии с такой должностью будут собираться в кабинете.
Сохранить фильтр