Ускорение обучения ИИ на устройствах с ограниченными ресурсами

Недавно исследователи MIT разработали метод, который ускоряет обучение искусственного интеллекта (ИИ), сохраняющего конфиденциальность данных, примерно на 81%. Это открытие может существенно упростить развертывание более точных моделей ИИ на устройствах с ограниченными ресурсами, таких как сенсоры и смарт-часы, при этом обеспечивая безопасность пользовательских данных.

Метод основан на федерированном обучении, в котором модель обучается на множестве подключенных устройств, не передавая данные на центральный сервер. Исследователи преодолели ограничения памяти и коммуникации среди разнообразных устройств, что значительно улучшило эффективность процесса обучения.

Одним из главных достижений является создание FTTE (Federated Tiny Training Engine), который отправляет только часть параметров модели на устройства, снижая требования к памяти. Также использовался асинхронный подход для сбора обновлений от устройств, что уменьшает задержки и повышает скорость обучения.

Данная разработка может открыть новые горизонты для использования ИИ в таких критически важных областях, как здравоохранение и финансы, особенно в условиях ограниченных ресурсов. Это шаг к тому, чтобы ИИ стал доступен на более мощных, но менее продвинутых устройствах.

*Компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена.