Исследователи Атооса Касирзадех и Иасон Габриэль в своей новой статье исследуют, как должны взаимодействовать люди и искусственные разговорные агенты, опираясь на принципы прагматики. Современные языковые модели, такие как InstructGPT и LaMDA, демонстрируют выдающиеся результаты в переводе, ответах на вопросы и понимании текста. Однако, они также могут испытывать проблемы, такие как производство токсичной или дезинформирующей речи.
Авторы предлагают переосмыслить подходы к выравниванию языковых моделей с человеческими ценностями, акцентируя внимание на том, что успешное взаимодействие будет зависеть от контекста. Например, агент, помогающий в научных исследованиях, должен базировать свои утверждения на проверенных данных, тогда как в политической дискуссии важно учитывать ценности терпимости и уважения.
Изучение этих аспектов поможет создать более продвинутые и этичные диалоговые системы, которые смогут поддерживать продуктивные разговоры и учитывать специфику разных контекстов.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена