AI Safety Specialist - Fully Remote | Upto $22/hr

О позиции

Mercor связывает элитных технических специалистов с ведущими лабораториями по исследованиям искусственного интеллекта. Компания базируется в Сан-Франциско и поддерживает таких инвесторов, как Benchmark, General Catalyst, Питер Тиль, Адам Д'Анжело, Ларри Саммерс и Джек Дорси. Мы ищем экспертов по безопасности ИИ, которые помогут оценивать и улучшать надёжность чат-моделей и агентов через красное тестирование и поиск уязвимостей.

Будет плюсом

• Опыт в adversarial ML и анализе социо-технических рисков
• Навыки креативного зондирования (психология, актёрское мастерство, нестандартное adversarial мышление)
• Знание методов security research и penetration testing
• Понимание LLM архитектуры и механизмов генерации текста

Условия

• Контактную работу с гибким графиком и полным удалённым форматом
• Возможность работать с передовыми лабораториями по ИИ
• Команду с сильными инвесторами и опыт взаимодействия с топ-экспертами индустрии
• Формальный процесс найма с AI-интервью и подачей заявки
• Ежедневный обзор заявок командой для быстрой обратной связи

Навыки

• Red Teaming
• Prompt Injection
• Adversarial Machine Learning
• Cybersecurity
• LLM Security
• Risk Assessment
• Data Annotation
• Security Testing
• Natural Language Processing

Могут спросить на собеседовании

1. Как вы подходите к поиску уязвимостей в чат-моделях ИИ? Приведите примеры методов red teaming.
2. Опишите случай, когда вы обнаружили серьёзную уязвимость в какой-либо системе безопасности. Как вы её документировали?
3. Как вы объясняете сложные риски безопасности техническим и нетехническим командам?
4. Какие таксономии или frameworks вы используете для структурирования тестирования безопасности ИИ?
5. Как вы поддерживаетесь актуальными в области быстро меняющихся adversarial attack techniques?