С развитием искусственного интеллекта (AI) в нашу жизнь встаёт вопрос: какие ценности должны его направлять? Исследователи Ясон Габриэль и Кевин Маки в своей статье, опубликованной в Proceedings of the National Academy of Sciences, предлагают использовать философский подход к определению принципов, регулирующих поведение AI. Они опираются на концепцию «завесы невежества» — метод, позволяющий создавать принципы справедливости для групповых решений.
В ходе экспериментов было установлено, что участники, которые выбирали принципы за завесой невежества, больше решали поддерживать тех, кто оказался в менее выгодной позиции. Это открытие подчеркивает необходимость исследований, способствующих формированию AI-систем, которые были бы справедливыми и учитывали интересы всех сторон.
Исследование ставит перед учеными задачу, как эффективно согласовать AI с разнообразными человеческими ценностями. Использование завесы невежества может стать шагом к созданию более этичного и справедливого AI. Важно учитывать, что принципы, управляющие AI, формируют его влияние на общество.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена