В мире искусственного интеллекта продолжаются увлекательные разработки, и одна из них пришла из MIT — статья под названием «Self-Adapting Language Models» о новейшей технологии SEAL, или самосовершенствующиеся языковые модели. Эта система позволяет языковым моделям (LLMs) обновлять свои параметры, используя собственные данные, генерируемые в процессе саморедактирования.
Основная идея SEAL заключается в том, чтобы языковые модели могли адаптироваться к новым данным, создавая синтетические данные и оптимизируя свои параметры. Процесс обучения строится на принципах обучения с подкреплением, где модели вознаграждаются за улучшение производительности. Таким образом, SEAL представляет собой двойной цикл: один отвечает за генерацию саморедактирований, а второй — за обновление модели с помощью градиентного спуска.
Результаты экспериментов показали, что SEAL значительно повысила успешность адаптации в задачах обучения с малым количеством примеров. Исследователи отмечают, что, несмотря на свои ограничения, SEAL является важным шагом к созданию самосовершенствующихся систем ИИ. Интересно, что этот проект появился на фоне обсуждений о будущем самосовершенствующегося ИИ, включая заявления CEO OpenAI Сэма Альтмана относительно возможностей роботов и ИИ.
Исследования MIT открывают новые горизонты для самосовершенствующегося ИИ, способного значительно улучшать производительность и адаптироваться к изменениям в данных. компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена