Google DeepMind объявила о разработке нового Кадра безопасности, который поможет выявлять потенциальные угрозы от будущих моделей искусственного интеллекта. Эта инициатива имеет целью выявление и снижение рисков, связанных с новыми возможностями ИИ, которые могут повлечь за собой серьезные последствия для общества.
Кадр включает в себя три ключевых компонента, которые ориентированы на автономию, кибербезопасность и биобезопасность, где существует наибольшая вероятность появления угрожающих технологий. Глубокое понимание рисков от повышения уровня автономных систем позволит разрабатывать более безопасные ИИ-модели и предотвращать возможные зловредные использования.
Кроме того, основное внимание уделяется гармонии между инновациями и защитой, так как слишком жесткие меры безопасности могут затормозить развитие технологий. Google стремится сбалансировать прогресс и безопасность, обдумывая подходы в условиях постоянного изменения технологий.
Первоначальный вариант Кадра будет полностью реализован к началу 2025 года, что подчеркивает стремление компании прогрессивно разрабатывать безопасные и этичные ИИ-системы.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена