Недавнее исследование, опубликованное в Nature Communications, показало, как искусственные агенты могут улучшать сотрудничество в настольной игре Diplomacy. Это игра, основанная на переговорах и формировании альянсов, представляет собой идеальную модель для изучения взаимодействия и коммуникации.
Командные взаимодействия становятся сложными, когда доверие подрывают нарушения ранее оговоренных обязательств. Учёные разработали алгоритмы для переговоров, которые позволяют агентам договариваться о совместных действиях, что дает им возможность преодолевать ограничения тех агентов, которые не могут или не хотят общаться.
Исследование показало, что введение санкций против агентов, нарушающих контракты, значительно снижает их способность получать выгоду от нарушений. Показано, что такие меры формируют более честную коммуникацию.
Таким образом, изучение взаимодействий в играх, подобных Diplomacy, может помочь в создании более прозрачных и надежных систем ИИ, соответствующих ценностям общества.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена