OpenAI ищет руководителя по управлению рисками ИИ с зарплатой $555 000

OpenAI объявила о поиске руководителя, который будет отвечать за анализ и управление новыми рисками, связанными с развитием искусственного интеллекта — от кибербезопасности до влияния ИИ на психическое здоровье. Об этом сообщил генеральный директор компании Сэм Альтман.

По его словам, современные ИИ-модели начинают создавать практические вызовы, включая выявление критических уязвимостей в компьютерных системах и потенциальное воздействие на ментальное состояние пользователей. Новая роль предполагает разработку механизмов, позволяющих усиливать возможности защитников в сфере кибербезопасности без создания инструментов, которые могут быть использованы злоумышленниками, а также контроль за выпуском чувствительных ИИ-возможностей.

Согласно вакансии, позиция Head of Preparedness предусматривает реализацию стратегии OpenAI по мониторингу и подготовке к так называемым «фронтирным» возможностям ИИ, способным нести риск серьёзного ущерба. Уровень компенсации заявлен на уровне $555 000 в год плюс доля в капитале компании.

OpenAI создала команду по подготовке и оценке рисков в 2023 году для изучения потенциально катастрофических угроз — от фишинговых атак до более гипотетических сценариев. Однако уже менее чем через год прежний руководитель направления Александр Мадри был переведён на работу, связанную с ИИ-рассуждениями, а ряд других топ-менеджеров, отвечавших за безопасность, покинули компанию или сменили сферу.