Проблемы гендерной предвзятости в системах искусственного интеллекта

Исследования таких организаций, как ЮНЕСКО, Совет Европы и Агентство ЕС по основным правам, указывают на системную гендерную предвзятость в технологиях ИИ. В сфере здравоохранения модели ИИ часто опираются на мужские данные, что приводит к ошибочной диагностике у женщин, что также подтверждается исследованием LSE 2025 года в муниципалитетах Англии. Системы распознавания лиц демонстрируют более высокие показатели ошибок при идентификации женщин, особенно с темным цветом кожи, по сравнению с белыми мужчинами, согласно данным MIT и Стэнфордского университета. Отчет ЮНЕСКО за 2024 год показал, что 44% проанализированных систем ИИ ассоциируют женщин с домашним хозяйством, а мужчин — с карьерой. Алгоритмы найма, такие как система Amazon, исторически отдавали предпочтение мужчинам из-за доминирования мужских резюме в данных обучения. Финансовая предвзятость также была выявлена в 2019 году в алгоритме Apple Card, который ограничивал кредитные лимиты для женщин. Кроме того, Европейский парламент выразил обеспокоенность тем, что технологии deepfake могут способствовать гендерному насилию.