AI Safety Specialist - Fully Remote | Upto $70/hr

О позиции

Меркор связывает элитных творческих и технических специалистов с ведущими лабораториями исследований искусственного интеллекта. Штаб-квартира компании находится в Сан-Франциско, а среди инвесторов — Benchmark, General Catalyst, Питер Тиль, Адам Д'Анджело, Ларри Саммерс и Джек Дорси. Позиция представляет собой контрактную роль полностью удалённой работы из Греции. В центре внимания — обеспечение безопасности и качества выходов ИИ-моделей, работа со сложными сценариями политик и контента.

Чем заниматься

• Оценивать ответы, сгенерированные ИИ, на предмет безопасности, фактической точности, соответствия политикам и общего качества
• Анализировать контент, затрагивающий дезинформацию, политическую пропаганду, самоповреждение, насилие, кибербезопасность, биобезопасность и другие чувствительные области
• Применять и совершенствовать рубрики оценки для RLHF, SFT и бенчмаркинга безопасности ИИ
• Выявлять небезопасные выводы, галлюцинации модели, ошибки рассуждений и нарушения политик
• Предоставлять структурированную обратную связь для улучшения выравнивания моделей и показателей безопасности
• Сотрудничать с исследователями ИИ и командами безопасности над текущими инициативами оценки

Что ждут

• Бакалавр или выше по журналистике, коммуникациям, психологии, социологии, государственному управлению, праву, биологии, химии, компьютерным наукам или смежной дисциплине
• 5+ лет профессионального опыта в безопасности ИИ, доверии и безопасности, журналистике, государственной политике, научных исследованиях, безопасности или смежных областях
• Отличные навыки письменного английского языка, критического мышления и аналитического рассуждения
• Способность последовательно оценивать нюансированные и чувствительные к политикам сценарии

Будет плюсом

• Опыт работы с безопасностью ИИ, RLHF, SFT, доверием и безопасностью, или оценкой ИИ
• Знакомство с политиками безопасности, модерацией контента или разработкой рубрик оценки
• Опыт анализа сложного, высокоуровневой риска или неоднозначного контента

Условия

• Удалённая работа полный день
• Конкурентоспособная почасовая оплата от $60 до $70
• Работа с ведущими лабораториями ИИ-исследований
• Возможность влиять на развитие безопасного ИИ
• Ежедневный обзор заявок командой Меркор

Навыки

• AI Safety
• RLHF
• SFT
• Content Moderation
• Trust & Safety
• AI Evaluation
• Policy Analysis
• Critical Thinking
• English Writing

Могут спросить на собеседовании

1. Опишите ваш опыт работы с задачами оценки безопасности контента, сгенерированного ИИ.
2. Как вы подходите к оценке сценариев, где существуют неясные или конфликтующие политики безопасности?
3. Приведите пример того, как ваша оценка привела к улучшению результатов модели или политики безопасности.
4. Что вы считаете наиболее сложным аспектом обеспечения безопасности ИИ сегодня?