AI Safety Specialist - Fully Remote | Upto $45/hr

О позиции

Mercor соединяет элитных технических специалистов с передовыми AI-лабораториями мира. Эта позиция доступна для всех географических локаций, включая Канаду. Роль идеально подойдёт экспертам с опытом в кибербезопасности и red teaming для AI-систем, которые хотят напрямую влиять на развитие безопасного искусственного интеллекта.

Будет плюсом

• Опыт работы с Adversarial ML: джейлбрейк датасеты, prompt injection, RLHF/DPO атаки, извлечение модели
• Навыки кибербезопасности: penetration testing, разработка эксплойтов, reverse engineering
• Экспертиза в socio-technical рисках: тесты на harassment/disinfo, анализ злоупотреблений, тестирование conversational AI
• Креативные навыки зондирования: психология, актёрское мастерство, письмо для нестандартного adversarial мышления

Условия

• Полная удалённая работа с гибким графиком
• Конкурентная почасовая оплата $29–45
• Возможность работы с ведущими AI-лабораториями
• Команда с инвесторами Benchmark, General Catalyst, Питер Тиель и др.
• Доступ к современным инструментам и ресурсам для разработки AI
• Асинхронный формат работы без жестких часов

Навыки

• Red Team
• Adversarial Machine Learning
• Prompt Injection
• Jailbreaking
• Cybersecurity
• Penetration Testing
• Vulnerability Assessment
• AI Safety
• Natural Language Processing
• Risk Analysis
• LLM Security
• RLHF
• Model Extraction
• Data Annotation
• Security Research

Могут спросить на собеседовании

1. Опишите ваш предыдущий опыт проведения red teaming для AI-моделей. Какие техники вы использовали?
2. Как вы оцениваете и классифицируете риски безопасности для LLM-систем?
3. Приведите пример успешной атаки (jailbreak/prompt injection) и расскажите о вашей стратегии её обнаружения.
4. Как вы объясняете технические риски безопасности ИИ нетехнической аудитории?
5. Какие frameworks или методики вы используете для документирования результатов тестирования безопасности?