AI Safety & Evaluation Specialist

О позиции

Компания micro1 приглашает специалистов по приватности и защите данных для оценки того, как персональные ИИ-агенты обрабатывают конфиденциальную информацию. В рамках проекта продолжительностью 6 недель вам предстоит тестировать ИИ-системы, анализировать их ответы и выявлять потенциальные нарушения конфиденциальности или нежелательные раскрытия данных. Роль подходит профессионалам, желающим применить свой экспертиз в области приватности к задачам оценки ИИ.

Чем заниматься

• Тестирование ИИ-агентов с использованием сценариев, ориентированных на приватность
• Анализ ответов, сгенерированных ИИ, на предмет неуместного раскрытия личной или чувствительной информации
• Выявление рисков конфиденциальности и потенциальных нарушений защиты данных
• Документирование результатов и предоставление чёткой обратной связи на основе доказательств
• Применение принципов приватности для оценки сложных и неоднозначных случаев

Что ждут

• Профессиональный опыт в области приватности, защиты данных или смежных областях
• Глубокое понимание рисков приватности и правил обработки чувствительных данных
• Аналитические навыки, внимательность к деталям и чёткие письменные коммуникативные способности
• Резидентство в США

Будет плюсом

• Опыт оценки больших языковых моделей (LLM) или контента, сгенерированного ИИ
• Знакомство с ИИ-агентами и оценками приватности или безопасности ИИ

Условия

• Проектная работа длительностью 6 недель
• Гибкий график — частичная занятость
• Удалённый формат работы из США
• Ставка оплаты от $30 до $60 в час (по предварительному согласованию)
• Возможность применить экспертные знания в быстроразвивающейся области ИИ-безопасности

Навыки

• Privacy Policy
• Data Protection
• Information Security
• Risk Assessment
• Compliance
• AI Ethics
• Prompt Engineering
• Content Moderation

Могут спросить на собеседовании

1. Как вы оцениваете риски приватности при взаимодействии ИИ-агента с пользовательскими данными?
2. Опишите пример случая, когда вы выявили нарушение в обработке конфиденциальной информации.
3. Как вы подходите к оценке неочевидных или многозначных ситуаций с точки зрения соответствия политикам конфиденциальности?