Исследование показало, что ChatGPT, несмотря на свою популярность, демонстрирует заметные предвзятости по отношению к различным диалектам английского языка. Несмотря на то, что 15% пользователей модели находятся из США, где используется стандартный американский английский, более 1 миллиарда людей общаются на других вариациях, таких как индийский или нигерийский английский.
Исследование выявило, что ответы ChatGPT на запросы, написанные на ненормативных диалектах, были на 19% хуже с точки зрения стереотипизации и на 25% хуже по сравнению с ответами на стандартные вариации. Это вызывает обеспокоенность, так как такая предвзятость может усилить существующие социальные и культурные стереотипы, а также привести к неравенству в доступе к технологиям.
Модели GPT-3.5 и GPT-4 показывали, что ответы на ненормативные диалекты содержат уничижительные тональности и менее ясные формулировки. Специалисты предостерегают, что использование таких моделей может усугубить дискриминацию в реальном мире, где важна уважительная коммуникация. Следовательно, важно развивать и обучать AI так, чтобы он лучше воспринимал многообразие языкового выражения и минимизировал предвзятости.