Правительство Китая объявило о введении новых правил для сервисов, использующих ИИ-компаньонов. Эти изменения значительно ужесточают требования к разработке чат-ботов. Теперь запрещается создавать ИИ, которые способствуют эмоциональной или романтической зависимости пользователей и заменяют настоящие человеческие отношения виртуальным общением.
Согласно новим требованиям, сервисы должны проходить более тщательную проверку перед запуском. Также вводятся усиленные меры модерации, механизмы родительского контроля и обязательные уведомления о необходимости делать перерывы. Кроме того, акцентируется внимание на защиту несовершеннолетних и пользователей с уязвимым психическим состоянием.
Хотя в официальных документах не упоминается причина этих мер, ряд иностранных изданий, в том числе The Wall Street Journal, связывают их с демографической политикой страны. Как сообщает издание, власти обеспокоены тем, что развитие романтических ИИ-компаньонов может снижать интерес граждан к реальным отношениям и созданию семьи.
С вступлением новых правил в силу некоторые китайские сервисы начали пересматривать работу своих ИИ-ботов, а некоторые функции были полностью отключены. Как следствие, многие пользователи отметили, что их виртуальные собеседники исчезли либо изменились так, что они утратили эмоциональную связь с ИИ-компаньонами.