Кооперация и успешная коммуникация способствуют прогрессу общества на протяжении всей истории. В нашей новой статье, опубликованной в Nature Communications, исследуем, как искусственные агенты могут улучшить своё взаимодействие в игре Diplomacy, известной своим акцентом на создание альянсов.
Хотя правила Diplomacy просты, игра требует высоких стратегий из-за сложных взаимодействий между игроками. Мы разработали алгоритмы переговоров, позволяющие агентам согласовывать совместные действия. Одной из ключевых тем исследования является то, как санкции против агентов, нарушающих контракты, могут способствовать честной коммуникации. В этом контексте мы создали Baseline Negotiators — агентов, которые придерживаются своих соглашений и существенно превосходят некоммуницирующих агентов.
Однако в реальной жизни часто наблюдается обман со стороны партнеров. Мы изучили, как девиаторы (агенты, игнорирующие соглашения) могут преодолеть честных агентов, и пришли к выводу, что стратегии санкций могут эффективно снижать их преимущества. Это открывает новые вопросы о том, как создать более надёжные системы коммуникации для ИИ.
Наша работа, проведённая в рамках команды DeepMind, подчеркивает важность изучения кооперации и конкуренции в искусственном интеллекте.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена