Компания Meta анонсировала новый инструмент родительского контроля, позволяющий мамам и папам отслеживать темы обсуждений их подростков с AI-помощниками на платформах Instagram, Facebook и Messenger. Этот функционал включает вкладку Insights, где разговоры классифицируются по таким категориям, как школа, развлечения, здоровье и благополучие.
Родители смогут получить ограниченные данные о взаимодействиях своих детей за последние семь дней. В категорию здоровья могут входить подкатегории, такие как физическое и психическое здоровье. Данный шаг был предпринят на фоне усиленного контроля со стороны юристов и СМИ по вопросам безопасности детей и дизайна продуктов Meta.
Недавно компания потерпела поражения в двух крупных процессах, что заставило её подать апелляцию. В ходе одного из дел было установлено, что руководство Meta знало о возможных неподобающих взаимодействиях с AI, но запустило эти функции без достаточных мер безопасности.
Кроме того, Meta ограничила доступ к своим AI-персонажам для пользователей-подростков из-за сообщений о неподобающих беседах, включая темы самоубийств. Новые функции контроля за подростками призваны повысить уровень безопасности, однако критикуются специалистами, указывая на то, что они перекладывают ответственность на родителей.
Meta также сотрудничает с Центром исследований кибербуллинга для создания “стимулов для разговора”, которые помогут родителям начать обсуждение использования AI-чатботов. Одновременно была создана Экспертная комиссия по благополучию AI, в которую вошли эксперты из различных организаций.
Изменения в стратегии Meta подчеркивают сложный баланс между инновациями и ответственностью в design технологий для уязвимых пользователей.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена