AI Safety Specialist - Fully Remote | Upto $70/hr

О позиции

Mercor — платформа, соединяющая ведущих специалистов в области творческих и технических дисциплин с передовыми лабораториями по исследованию искусственного интеллекта. Штаб-квартира находится в Сан-Франциско, инвесторы включают Benchmark, General Catalyst, Питера Тила, Адама Д'Анджело, Ларри Саммерса и Джека Дорси. Позиция представляет собой контрактную работу с полной удалённостью из Ирландии.

Чем заниматься

• Оценивать ответы, сгенерированные ИИ, на предмет безопасности, фактической точности, соответствия политикам и общего качества
• Рассматривать материалы, связанные с дезинформацией, политической пропагандой, самоповреждением, насилием, кибербезопасностью, биобезопасностью и другими чувствительными доменами
• Применять и совершенствовать критерии оценки для RLHF, SFT и бенчмаркинга безопасности ИИ
• Выявлять небезопасные выводы, галлюцинации, ошибки рассуждения и нарушения политик
• Предоставлять структурированную обратную связь для улучшения выравнивания модели и показателей безопасности
• Сотрудничать с исследователями ИИ и командами безопасности в рамках текущих инициатив по оценке

Что ждут

• Бакалавр или выше в области журналистики, коммуникаций, психологии, социологии, государственной политики, права, биологии, химии, компьютерных наук или смежной дисциплины
• 5+ лет профессионального опыта в области безопасности ИИ, доверия и безопасности, журналистики, государственной политики, научных исследований, безопасности или смежных областях
• Отличные письменные навыки английского языка, критическое мышление и аналитические способности рассуждения
• Способность последовательно оценивать нюансированные и чувствительные к политикам сценарии

Будет плюсом

• Опыт в безопасности ИИ, RLHF, SFT, доверии и безопасности или оценке ИИ
• Знакомство с политиками безопасности, модерацией контента или разработкой критериев оценки
• Опыт审查 сложного, высокорискового или неоднозначного контента

Условия

• Полная удалённая работа из любой локации (включая Ирландию)
• Контрактное сотрудничество
• Работа с ведущими исследовательскими лабораториями в области ИИ
• Конкурентная почасовая оплата от 60 до 70 долларов США
• Возможность внести вклад в развитие безопасного искусственного интеллекта

Навыки

• AI Safety
• RLHF
• SFT
• Content Moderation
• Trust & Safety
• Policy Evaluation
• Factual Accuracy Assessment
• Model Alignment