Регуляторы США и других стран проверяют Grok на фоне обвинений в создании незаконного контента

Ранее офис генерального прокурора Калифорнии сообщил о начале расследования в отношении компании xAI в связи с сообщениями о том, что чат-бот стартапа Grok использовался для создания сексуальных изображений без согласия, в том числе с участием женщин и несовершеннолетних. В пятницу власти направили компании официальное предписание о прекращении противоправной деятельности, потребовав немедленно остановить производство и распространение несанкционированных интимных изображений и материалов, содержащих сексуальное насилие над детьми.

Генеральный прокурор Калифорнии Роб Бонта заявил в официальном пресс-релизе, что направил xAI требование немедленно прекратить создание и распространение дипфейков интимного характера и материалов с сексуальной эксплуатацией детей. Он подчеркнул, что подобный контент является незаконным и что власти ожидают от компании безусловного и незамедлительного выполнения требований. В заявлении также отмечено, что в Калифорнии действует политика нулевой терпимости к CSAM.

По данным прокуратуры, xAI, предположительно, «способствовала масштабному производству» несанкционированных обнажённых изображений, которые используются для преследования и дискредитации женщин и девушек в интернете. Ведомство ожидает, что компания в течение пяти дней предоставит подтверждение принятых мер по предотвращению подобных нарушений.

Ранее служба безопасности платформы X заявляла, что пользователи, создающие или запрашивающие незаконный контент с помощью Grok, понесут такую же ответственность, как и при прямой загрузке запрещённых материалов. Запросы журналистов в адрес xAI остались без содержательного ответа: компания ограничилась автоматическим сообщением с формулировкой «Legacy Media Lies». Дополнительные разъяснения были также запрошены у офиса генерального прокурора.