AI Safety Specialist - Fully Remote | Upto $62/hr

О позиции

Mercor — стартап из Сан-Франциско с инвесторами уровня Benchmark и General Catalyst, соединяющий лучших технических специалистов с ведущими исследовательскими лабораториями ИИ. Мы ищем англо-норвежских экспертов по безопасности ИИ для работы с концентрированными проектами по red teaming моделей и агентов. Это контрактная работа на полной ставке с возможностью полного удалённого формата.

Чем заниматься

• Проводить красное командование разговорными моделями ИИ и агентами
• Выявлять случаи взлома (jailbreaks), инъекции промптов, злоупотребления и эксплуатацию предвзятостей
• Генерировать качественные человеческие данные для тестирования
• Аннотировать сбои, классифицировать уязвимости и маркировать системные риски
• Следовать таксономиям, бенчмаркам и инструкциям для поддержания согласованности тестирования
• Документировать воспроизводимые атаки и создавать отчёты, датасеты и кейсы для клиентов

Что ждут

• Беглое знание английского и норвежского языков
• Опыт ред-тиминга в области противоборственного ИИ, кибербезопасности или социально-технического анализа
• Структурный подход с использованием фреймворков или бенчмарков
• Хорошие коммуникативные навыки для технической и нетехнической аудитории
• Способность адаптироваться к разным проектам и клиентам

Будет плюсом

• Опыт в Adversarial ML, кибербезопасности или оценке социально-технических рисков
• Навыки креативного зондирования через психологию, актёрское мастерство или письменную работу

Условия

• Конкурентная оплата труда ($48–$62/час)
• Полностью удалённый формат работы
• Работа с ведущими исследовательскими лабораториями ИИ
• Ежедневный review заявок командой
• Поддержка и ресурсы во время собеседования

Навыки

• Red Teaming
• Adversarial Machine Learning
• Prompt Injection
• AI Safety
• Cybersecurity
• Security Testing
• Natural Language Processing
• Vulnerability Assessment

Могут спросить на собеседовании

1. Расскажите о вашем опыте проведения red teaming в области ИИ или кибербезопасности
2. Как вы оцениваете риски предвзятости и bias exploitation в больших языковых моделях?
3. Какие подходы вы применяете для выявления prompt injection и других видов эксплуатации?
4. Опишите случай, когда вам пришлось документировать системный риск и готовить отчёт для технического и нетехнического руководства