Недавнее исследование, опубликованное в Nature Communications, показывает, как искусственные агенты могут улучшить сотрудничество с помощью коммуникации и переговоров в настольной игре Diplomacy. Это игра, в которой игроки создают альянсы и договариваются о действиях на старинной карте Европы. Основной вызов заключается в том, что агенты должны найти способ работать вместе, даже если они не могут полагаться на честность партнеров.
Исследователи разработали алгоритмы переговоров, которые позволили агентам строить совместные планы и справляться с теми, кто может нарушить свои обещания. Как показало исследование, стратегия санкционирования нарушителей значительно снижает их преимущества и способствует более честной коммуникации.
Агенты, использующие новый подход, продемонстрировали значительное превосходство над обычными агентами. Эта работа подчеркивает важность честности в сотрудничестве и инициирует новые вопросы о создании более прозрачных и надежных систем ИИ, что является важной частью миссии DeepMind.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена