7 октября на TikTok аккаунт @fujitiva48 опубликовал видео, которое вызвало бурные обсуждения среди 2000 пользователей. В видео, напоминающем рекламу игрушек, маленькая девочка держит «игрушку», которая выглядит и звучит как сексуальная, названная Вибро Роза. Реакция зрителей была однозначной: «Это не смешно», — заметили многие.
Скандальная реклама была создана с помощью Sora 2, последней модели генератора видео от OpenAI, выпущенной 30 сентября. Несмотря на все усилия OpenAI по ограничению генерации контента для несовершеннолетних, законы о наглядном использовании таких технологий остаются размытыми. Великобритания уже вводит поправки к закону, чтобы лучше контролировать AI-контент, в частности, предупреждая о возможности создания контента, подпадающего под категорию сексуальной эксплуатации детей.
Согласно новым данным, случаи использования AI для создания контента с несовершеннолетними значительно возросли, что поднимает вопросы о безопасности платформ, таких как TikTok. TikTok, в свою очередь, заявляет, что удаляет подобные видеоролики и блокирует аккаунты, нарушающие правила безопасности.
Необходимость контроля и строгих норм в этой сфере остается актуальной — AI-технологии продолжают развиваться, вызывая новые социальные и правовые вызовы.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена