AI Adversarial Specialist - Fully Remote | Upto $22/hr

О позиции

Mercor связывает элитных технических специалистов с ведущими лабораториями исследований искусственного интеллекта. Позиция ориентирована на безопасную разработку и тестирование AI-моделей через методологию красных команд. Работа полностью удалённая с гибким графиком и асинхронным взаимодействием.

Чем заниматься

• Проведение red-teaming конVERSационных AI-моделей и агентов для выявления уязвимостей
• Поиск jailbreaks, prompt injection и случаев неправомерного использования моделей
• Аннотирование провалов, классификация уязвимостей и выявление системных рисков
• Документирование результатов: отчётность, датасеты и кейки атак для заказчиков
• Тестирование по заданным таксономиям, бенчмаркам и playbook для обеспечения консистентности

Что ждут

• Свободное владение английским и бенгальским языками
• Опыт red-teaming в области AI adversarial work, кибербезопасности или socio-technical probing
• Навыки объяснения рисков техническим и нетехническим стейкхолдерам
• Готовность работать самостоятельно в асинхронном режиме с соблюдением дедлайнов

Будет плюсом

• Опыт работы с Adversarial ML и анализом socio-technical risk
• Навыки creative probing (психология, актёрское мастерство, письмо)
• Понимание психологических аспектов взаимодействия человека и ИИ

Условия

• Работа на полный день в удалённом формате
• Контактный проект с гибким графиком
• Возможность работать над передовыми AI-исследованиями
• Доступ к профессиональному сообществу исследователей AI
• Ежедневный обзор заявок командой

Навыки

• Adversarial Machine Learning
• Cybersecurity
• Red Teaming
• AI Safety
• Prompt Engineering
• Penetration Testing
• Risk Assessment
• Data Annotation
• Model Evaluation

Могут спросить на собеседовании

1. Расскажите о вашем опыте проведения red-teaming для AI-моделей. Какие техники и инструменты вы использовали?
2. Как вы подходите к обнаружению jailbreak и prompt injection в современных чат-моделях?
3. Приведите пример сложной socio-technical уязвимости, которую вы обнаружили ранее.
4. Как вы объясняете сложные риски ИИ техническим и нетехническим аудиториям?