С 15 июля в Китае вступают в силу временные меры по регулированию искусственного интеллекта, направленные на защите пользователей от «очеловеченных» ИИ-агентов. Новые правила, разработанные несколькими государственными органами, касаются сервисов, которые имитируют человеческие черты и предоставляют эмоциональную поддержку через текст или медиа.
Согласно документу, пользователи должны быть уведомлены, что они общаются с ИИ, а не с человеком, что предполагает обязательные уведомления при длительном взаимодействии. Если система замечает признаки зависимости у пользователя, она обязана вмешаться и предоставить помощь.
Особое внимание уделяется защите несовершеннолетних: им запрещено взаимодействовать с ИИ в форме виртуальных близких. Провайдеры должны обеспечивать безопасность данных и проходят оценку безопасности при запуске новых функций. Серьезные нарушения могут повлечь за собой значительные штрафы.
На фоне вступления новых правил компании ByteDance и Alibaba отключают функции ИИ-агентов в своих приложениях. Например, сервис Doubao перестанет использовать ИИ-агентов, а все предыдущие данные будут удалены.
Эти изменения вызвали бурное обсуждение среди пользователей на платформах в Китае, показывая, что регулирование ИИ-сервисов становится важной частью цифровой экосистемы.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена