Искусственный интеллект (ИИ) продолжает стремительно развиваться, открывая новые горизонты в таких сферах, как борьба с изменениями климата и открытие лекарств. Однако, с развитием технологий растут и риски. В ответ на это, компания разработала обновлённую Рамочную Программу Безопасности Frontier. Это улучшенная версия протоколов, направленных на предсказание и управление потенциальными угрозами от мощных моделей ИИ.
Ключевые изменения программы включают усиление мер безопасности для предотвращения несанкционированного доступа к модельным данным. Это особенно актуально в свете того, что доступ к таким данным может ослабить многие защитные механизмы. Программа теперь включает рекомендации по обеспечению безопасности на различных уровнях, учитывающих специфику каждой модели.
Кроме того, обновленная рамка акцентирует внимание на предотвращении злоупотреблений возможностями ИИ. Это включает в себя разработку жёсткого процесса оценки безопасности перед развёртыванием моделей ИИ, а также использование автоматического мониторинга для выявления опасных практик. Главная задача разработчиков заключается в создании безопасных ИИ-систем для общества, что требует коллективных усилий и стандартов в целом.
компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена