Компания Anthropic столкнулась с обвинениями в использовании фальшивых источников в юридическом процессе с музыкальными издателями, когда их чат-бот Claude допустил ошибку при оформлении цитат. В подаче, подготовленной дата-сайентистом Оливией Чен, был указан источник, который, как утверждает адвокат Universal Music Group, абсолютно не существовал и был «галлюцинацией» ИИ.
Anthropic в своем ответе признала, что, несмотря на корректные данные о публикации, в цитате были неточные названия и имена авторов, которые не были замечены при ручной проверке. Адвокат компании, Ивана Дуканович, извинилась за путаницу, назвав это «непосредственной и непреднамеренной ошибкой».
Эта ситуация подчеркивает растущие проблемы с использованием ИИ в юридической практике. В прошлом месяце судья в Калифорнии осудил юридические фирмы за то, что они не раскрыли использование ИИ в своих документах, полных «фальшивых» материалов. Нарастающие примеры таких ошибок вызывают серьезные вопросы о надежности ИИ в судебной системе и подчеркивают необходимость максимальной осторожности при его использовании.
* компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена