Google DeepMind анонсировал новую инициативу под названием Frontier Safety Framework, направленную на анализ и смягчение рисков, связанных с развитием продвинутых моделей ИИ. Эта рамка будет использоваться для выявления потенциальных угроз от будущих технологий, которые могут возникнуть по мере увеличения мощностей ИИ. Например, это могут быть технологии с высокой степенью автономии или киберспособности.
Рамка включает в себя три ключевых компонента и нацелена на разработку рекомендаций по оценке критических способностей, связанных с автономией, биобезопасностью и кибербезопасностью. Google планирует полностью реализовать эту рамку к началу 2025 года, при этом ожидается, что она будет развиваться по мере получения новых знаний о рисках.
Подход к фиксации и мониторингу рисков иллюстрируется как «раннее предупреждение» о возможных угрозах. Глубокое понимание этих аспектов будет достигнуто в сотрудничестве с академическими учреждениями и государственными органами. Эта инициатива подчеркивает обязательство Google следовать принципам безопасности и ответственности при разработке ИИ.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена