С развитием ИИ важность этических вопросов становится всё более актуальной. Какие ценности руководят ИИ и как выбираются эти принципы? Эти вопросы освещают ключевую тему: принципы, формирующие поведение ИИ в ситуациях компромисса между продуктивностью и помощью нуждающимся.
Недавнее исследование, опубликованное в Proceedings of the National Academy of Sciences, описывает применение философского концепта «вуали незнания» для определения справедливых принципов в ИИ. Этот метод, предложенный философом Джоном Роулсом, подразумевает, что при принятии решений люди должны действовать без знания о своём собственном положении. В экспериментах участники, не зная своего положения, чаще выбирали принципы, направленные на помощь менее удачливым участникам, в отличие от тех, кто осознавал свои преимущества.
Хотя работа с этими принципами важна, не существует единого подхода к выбору общечеловеческих ценностей. Важно исследовать различные мнения и подходы, чтобы ИИ мог развиваться и соответствовать интересам всех. Так, «вуаль незнания» может стать отправной точкой для создания более справедливых систем ИИ.
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена