Недавнее исследование структуры «ООН-женщины» выявило тревожные результаты касательно гендерной предвзятости в автоматизированных системах. В ходе анализа 133 ИИ-продуктов была обнаружена предвзятость в 44% случаев, причем каждый четвертый случай сочетал в себе и расовые искажения. Эти системы, по сути, продолжают укреплять устаревшие гендерные шаблоны, причем языковые модели нередко связывают женщин с бытовыми ролями, а мужчин — с успехом и управлением.
Более того, последние данные показали, что почти каждая четвёртая женщина-правозащитница или активистка сталкивается с онлайн-травлей, поддерживаемой ИИ. При этом 12% из них стали жертвами утечек личных данных, а 6% пострадали от дипфейков. На сегодняшний день лишь 24 из 138 стран включили гендерные аспекты в свою национальную стратегию по ИИ.
Так какой выход? Эксперты призывают пересмотреть подходы к сбору данных и разработке технологий, чтобы избежать закрепления стереотипов. Будем ждать лифхаки по работе с нейросетями, чтобы избежать сексизма в ответах?
*компания Meta Platforms Inc. признана экстремистской организацией, ее деятельность на территории России запрещена