Чиновник Кипра предупреждает о гендерных предубеждениях в искусственном интеллекте

На форуме Cyprus Forum в Никосии комиссар по вопросам гендерного равенства Джози Христодулу подняла проблему гендерных предубеждений, встроенных в системы искусственного интеллекта. Выступая на дискуссионной панели «ИИ и равное участие: кто формирует цифровое государство?», Христодулу подчеркнула, что модели ИИ не являются нейтральными, поскольку они отражают данные, социальные установки и демографический состав команд разработчиков. Она отметила, что в технологическом секторе по-прежнему преобладают мужчины, что позволяет человеческим стереотипам закрепляться в алгоритмах машинного обучения.

Христодулу привела в пример способность моделей ИИ навязывать гендерные роли, например, предполагая, что врач — это мужчина, а медсестра — женщина, основываясь на обучающих данных, содержащих исторические предрассудки. Для борьбы с этой проблемой комиссар выделила правительственные инициативы, реализуемые совместно с Министерством образования. Программы направлены на обучение консультантов по профориентации выявлению и устранению как осознанных, так и подсознательных предубеждений в школах. Цель состоит в том, чтобы побудить девочек выбирать образование в сфере STEM, обеспечивая более разнообразный кадровый состав, способный в будущем создавать более справедливые и инклюзивные технологии.