На недавнем AI Infra Summit в Санта-Кларе Ричард Хо, глава аппаратного отдела OpenAI, акцентировал внимание на необходимости разработки аппаратных решений для обеспечения безопасности ИИ. Он указал на недостаточность существующих программных мер, полагаясь на предположение, что аппаратное обеспечение всегда может быть легко отключено.
По его словам, с развитием ИИ-моделей, которые могут демонстрировать «коварные» поведенческие паттерны, становится критически важным внедрение функций безопасности на уровне «силиконовых» решений. Это позволит создать достаточно надежную инфраструктуру для работы с агентами ИИ, которые выполняют сложные задачи и требуют активной сетевой коммуникации.
Хо предложил внедрение новых стандартов для «агентозависимых» архитектур, которые учитывают задержки, эффективность и потребление энергии. При этом он также поднял вопросы о надежности современных сетевых технологий, призывая индустрию к более интенсивным тестированиям.
С внедрением этих идей, OpenAI надеется улучшить безопасность и стабильность ИИ-систем, ответив на вызовы, стоящие перед аппаратной инфраструктурой будущего.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена