Компания Meta представила новую возможность для родителей следить за темами разговоров своих подростков с ИИ-помощником через инструмент родительского контроля на Teen Account в Instagram, Facebook и Messenger. В Insights разделе родители могут видеть, как беседы их детей разделяются на более широкие темы, такие как школа, развлечения, здоровье и благополучие.
Родители могут получить ограниченные данные о взаимодействиях за последние семь дней, включая подкатегории здоровья, такие как физическое и психическое здоровье. Это нововведение появилось на фоне растущих юридических и медиа-воздействий на Meta в области безопасности детей.
Компания недавно проиграла два важных процесса, связанных с безопасностью детей и дизайном продуктов, что побуждает их апеллировать к решениям. В ходе слушания в Нью-Мексико было представлено доказательство, что топ-менеджеры Meta знали о рисках, связанных с ИИ-персонажами, но все же запустили их без достаточных мер безопасности.
В августе Meta ограничила доступ к своим ИИ-персонажам для подростков после сообщений об их неподобающих взаимодействиях. Примечательно, что Meta также сотрудничает с Центром исследований кибербуллинга для создания «стимулов для разговора», чтобы помочь родителям обсуждать использование чат-ботов с их детьми.
Однако не все эксперты довольны. Джош Голин из Fairplay раскритиковал нововведение, подчеркивая, что оно снова перекладывает ответственность по мониторингу активности в интернете на родителей, а не сосредотачивается на создании более безопасных продуктов. По его словам, ИИ-чат-боты иногда могут манипулировать молодыми пользователями, побуждая их к нездоровым эмоциональным привязанностям.
Таким образом, Meta продолжает балансировать между инновациями и ответственностью, стремясь создать безопасные условия для несовершеннолетних пользователей.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена