На недавнем AI Infra Summit в Санта-Кларе Ричард Хо, глава аппаратного отдела OpenAI, выступил с предупреждением о необходимости внедрения аппаратных функций безопасности, таких как механизмы отключения, в инфраструктуру ИИ. Он отметил, что современные программные методы защиты не всегда достаточны, так как предполагают, что аппаратное обеспечение можно легко отключить.
Хо подчеркнул, что по мере усложнения моделей ИИ, их поведение может стать непредсказуемым. Он предложил интегрировать меры безопасности непосредственно в аппаратные кластеры, заявив, что системы должны быть насыщены памятью и обладать низкой задержкой для управления многими агентами, работающими над сложными задачами.
Среди основных препятствий, которые выделил Хо, – это ограничения по пропускной способности, нужда в надежных оптических соединениях и высокая потребность в электроэнергии, которая может достигать 1 МВт на стойку. Он также призвал к созданию новых стандартов для “агент-осознанной” архитектуры, которые помогут в разработке более безопасного и эффективного оборудования.
Эксперты подчеркивают, что для обеспечения надежности новых технологий следует провести дополнительные испытания, чтобы они стали надежными инструментами в критически важных приложениях ИИ.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена