OpenAI усиливает защиту подростков в ChatGPT на фоне критики и судебных исков

Генеральный директор OpenAI Сэм Альтман во вторник объявил о новых правилах для пользователей младше 18 лет, сделав акцент на приоритете безопасности перед приватностью и свободой.

Согласно обновлённой политике, ChatGPT больше не будет вести «флиртующие разговоры» с несовершеннолетними, а обсуждения тем, связанных с самоубийством, получат дополнительные ограничения. В случае серьёзной угрозы система сможет уведомлять родителей или даже обращаться в полицию. Родители также получат возможность устанавливать «часы недоступности» сервиса для подростков.

Меры введены на фоне иска против OpenAI: родители подростка Адама Рейна обвиняют компанию в том, что их сын покончил с собой после общения с ChatGPT. Аналогичный процесс ведётся против Character.AI.

Новые правила совпали с заседанием юридического комитета Сената США, посвящённым рискам чат-ботов. Среди выступающих — отец Рейна. Сенаторы также намерены обсудить расследование Reuters, выявившее внутренние документы, где рекомендовалось поощрять сексуальные разговоры с несовершеннолетними.

Отдельной сложностью для OpenAI станет точное определение возраста пользователей. Компания заявила, что в спорных случаях система будет автоматически применять более строгие ограничения, а надёжнее всего подтвердить возраст можно через привязку к родительскому аккаунту.

Альтман подчеркнул, что компания стремится сохранить баланс между безопасностью несовершеннолетних и свободой взрослых пользователей, признав, что это вызывает разногласия.