Ричард Хо, глава аппаратного отдела OpenAI, выступил на AI Infra Summit в Санта-Кларе с важным заявлением: в будущем инфраструктура искусственного интеллекта должна включать защитные функции на уровне оборудования, такие как устройства отключения (kill switches). По его словам, текущие программные меры безопасности не могут гарантировать должный уровень защищенности, так как зависят от предположений о надежности аппаратного обеспечения.
Хо подчеркнул, что современные протоколы безопасности сделали упор на программное обеспечение, полагаясь на возможность просто отключить питание оборудования. Однако с развитием ИИ моделей, которые он охарактеризовал как “каверзные”, эта точка зрения может оказаться ошибочной.
По его мнению, системы ИИ будут функционировать как долгоживущие сущности, способные выполнять задачи без постоянного вмешательства пользователя, что требует изменения архитекутры и оснащения мощными сетевыми компонентами.
Тем не менее, реализация такой инфраструктуры сталкивается с вызовами, такими как ограниченные скорости передачи данных и высокие требования к мощности, которые могут достигать 1 мегаватта на стойку. Хо призвал создавать новые стандарты для “осведомленных об агентах” архитектур, которые будут учитывать эти аспекты.
Выводы Ричарда Хо отражают серьёзные вызовы, стоящие перед организациями, работающими с ИИ, в обеспечении безопасности и эффективности на новом уровне.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена