На днях Google объявила о запуске новой программы вознаграждений, цель которой – выявление уязвимостей в своих ИИ-продуктах. В рамках этой инициативы компания предлагает значительные финансы за обнаружение потенциальных проблем, через которые ИИ может вызвать «непорядочные действия», такие как взлом учета или неправильное выполнение команд.
Согласно требованиям программы, исследователи должны находить «ошибки ИИ», которые используют большие языковые модели или генеративные системы для нанесения вреда или эксплуатации уязвимостей. Например, в прошлом один из исследователей обнаружил способ, позволяющий выполнять команды через отравленные события в Google Calendar.
Компанию уже вознаградили более чем на $430,000 за идеи по улучшению безопасности. Вдобавок, Google также представила агента ИИ под названием CodeMender, который исправляет уязвимости в коде, помогая увеличивать безопасность своих продуктов.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена