Инновационная нейросеть Inkling, разработанная компанией Thinking Machines, представляет собой значимый шаг вперед в мире искусственного интеллекта. Модель построена на принципе «смеси экспертов» (MoE), активируя для обработки каждого токена только шесть из 256 специализированных блоков. Это позволяет значительно сократить вычислительные затраты, несмотря на необходимость хранения полного набора весов.
Обученная на ошеломляющих 45 триллионах токенов, Inkling принимает и обрабатывает текст, изображения и аудио, выдавая результаты в текстовом формате. Среди ее возможных применений — программирование, чат-боты и поиск по корпоративным данным. Особенно интересна возможность настройки глубины рассуждений, что позволяет оптимизировать время отклика для различных задач.
Хотя модель имеет ограницу по доступности, она представляется как открытая с весами, лицензированными под Apache 2.0, что, однако, предполагает особые ограничения в использовании. Полные веса Inkling можно найти на Hugging Face, но для полноценного развертывания потребуется мощное оборудование, как минимум 2 ТБ видеопамяти.
Среди последних разработок на рынке, Inkling выделяется как одна из немногих серьезных альтернатив китайским моделям, предоставляя американским разработчикам ещё один инструмент в борьбе за лидерство в области AI. Это лишь начало, и дальнейшие независимые тесты помогут оценить ее истинный потенциал.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена