AI Safety Expert - Red Team

О позиции

Mercor соединяет элитных технических специалистов с ведущими лабораториями по исследованию ИИ. В инвестиционном портфеле компании такие имена, как Benchmark, General Catalyst, Питер Тиль, Адам Д'Анджело, Ларри Саммерс и Джек Дорси. Мы ищем экспертов по безопасности ИИ, способных находить уязвимости в разговорных моделях и агентах.

Будет плюсом

• Опыт в адверсарном машинном обучении. Навыки в penetration testing, разработке эксплойтов, reverse engineering. Знание socio-technical risk: расследование харассмента, анализ дезинформации, обработка жалоб. Креативные навыки в психологии, актёрском мастерстве или писательстве.

Условия

• Гибкая контрактная форма занятости на 48–62 USD в час. Полностью удалённая работа из Европы или США. Работа с передовыми лабораториями ИИ исследований. Доступ к современным инструментам и методологиям тестирования. Ежедневный review заявок командой.

Навыки

• AI Safety
• Red Teaming
• Jailbreak Testing
• Prompt Injection
• Adversarial Machine Learning
• Cybersecurity
• Penetration Testing
• Exploit Development
• Reverse Engineering
• RLHF
• DPO
• Risk Assessment
• Bias Analysis
• AI Model Evaluation

Могут спросить на собеседовании

1. Опишите конкретный случай, когда вы обнаружили уязвимость в ИИ-модели во время red teaming. Как она работала и какой была ваша методология?
2. Как вы объясните риски безопасности ИИ нетехническим заинтересованным сторонам? Приведите пример.
3. Какие подходы вы используете для обнаружения системных смещений (bias) в больших языковых моделях?
4. Расскажите о вашем опыте в кибербезопасности. Какой проект или исследование вам запомнилось больше всего и почему?
5. Как вы организуете свою работу в асинхронной команде? Какие инструменты используете для документации и отчётности?