С развитием искусственного интеллекта (ИИ) все актуальнее становятся вопросы о том, как и для чего он используется. Постановка принципов, которые должны быть основой для поведения ИИ, требует глубоких размышлений. В недавней статье, опубликованной в Proceedings of the National Academy of Sciences, исследователи Iason Gabriel и Kevin McKee черпают вдохновение из философии, чтобы найти более справедливые принципы для ИИ.
Ключевым элементом их исследования является концепция «завесы невежества» – мысленный эксперимент, предложенный философом Джоном Роулзом. Суть заключается в том, что при выборе принципов справедливости люди должны представлять себя в позиции, когда они не знают своих соцэкономических привилегий. В результате экспериментов участники, действуя за «завесой невежества», чаще выбирали принципы, поддерживающие менее удачливых, что указывает на их стремление к справедливости.
Это открытие может стать основой для более этичного обучения и настройки ИИ-систем, обеспечивая учет интересов всех групп общества.
*Компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена.