В новом исследовании, опубликованном в Nature Communications, ученые Яром Бахрах и Янош Крамар показывают, как искусственные агенты могут улучшить свое сотрудничество за счет общения и ведения переговоров в игре Diplomacy. Эта игра с простыми правилами, но высокой степенью сложности, предоставляет идеальную среду для изучения взаимодействия между агентами.
Исследование акцентирует внимание на важности доверия и честности. Когда агенты нарушают свои обещания, это может привести к нарушениям сотрудничества. Чтобы преодолеть эти проблемы, ученые разработали алгоритмы, которые позволяют агентам устанавливать контракты и применять санкции к тем, кто их не выполняет. Это значительно снижает выгоды от невыполнения обязательств, способствуя более честной коммуникации.
Данная работа открывает новые горизонты в понимании динамики сотрудничества в искусственном интеллекте и показывает, что моделирование реальных переговоров с помощью игр, таких как Diplomacy, может привести к разработке более надежных и этичных AI-систем.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена