Недавнее исследование, опубликованное на сервисе arXiv, рассматривает, как сообщать пользователям о ‘галлюцинациях’ разговорных ИИ-агентов в виртуальной реальности (VR). Под ‘галлюцинациями’ подразумеваются ложные утверждения, которые такие агенты могут произносить. В ходе эксперимента были протестированы три метода автоматического уведомления пользователей о недостоверной информации в VR-средах.
Цель таких технологий — повысить безопасность и доверие к системам с ИИ, особенно когда они используются в обучающих или развлекательных целях. Если пользователи будут четко предупреждены о неточностях, это может предотвратить недопонимание и неправильные действия, основанные на ошибочной информации.