Databricks представила инновационный метод, называемый Test-time Adaptive Optimization (TAO), который обещает упростить адаптацию крупных языковых моделей (LLM) для конкретных задач без необходимости использования размеченных данных. Этот подход решает известную проблему затруднений с разметкой данных, которая часто ставит предприятия перед выбором: ждать, пока соберутся необходимые данные, или принимать менее эффективные решения.
TAO обещает улучшить производительность AI-моделей на основе существующих данных без дополнительных усилий по их разметке. Специалисты сообщают, что TAO превосходит традиционные методы тонкой настройки: по данным Databricks, этот метод показал улучшение показателей на рядах сложных задач, в том числе в финансовом и медицинском секторах.
Технология включает автоматизированное генерирование ответов, оценку их качества и оптимизацию модели с помощью обучения с подкреплением. Это создает непрерывный цикл улучшения модели: чем больше пользователей взаимодействует с системой, тем больше она учится.
TAO уже доступен в частном режиме на платформе Databricks и может стать важным шагом в развитии AI в бизнесе, сокращая время выхода на рынок и минимизируя затраты на разметку данных.