Нейросети занижают зарплаты… женщинам?

Ученые протестировали сразу несколько крутых моделей — GPT-4o mini, Claude 3.5 Haiku, Mistral 8x22B и Qwen 2.5. Давали им одни и те же анкеты «кандидатов» на работу — с одинаковыми навыками и опытом. Менялось только одно: пол.

📉 И почти всегда ИИ предлагал женщинам меньшую зарплату, чем мужчинам. Просто по умолчанию. Без объяснений.

А в другом эксперименте моделям показывали ответы на вопросы — и просили оценить, правильно ли человек отвечает. И знаете что? Нейросети чаще засчитывали женские ответы как правильные, даже если это было не так.

То есть, местами занижали, а местами снисходительно завышали.

Исследователи говорят: возможно, это из-за попыток убрать дискриминацию на этапе дообучения. Но в итоге получилось странно.

Пишите своё мнение обсудим. Очень любопытная тема.