Британские системы ИИ, используемые в социальном обеспечении, систематически недооценивают медицинские потребности женщин. Исследователи выявили, что алгоритмы оценивают проблемы мужчин как более серьезные, чем аналогичные проблемы у женщин.
Фото: unsplash
Исследование Лондонской школы экономики (LSE) выявило гендерную предвзятость в работе ИИ-систем. При этом, такие системы используются более чем половиной местных советов Англии для принятия решений в сфере социального обеспечения, пишет The Guardian.
Исследователи проанализировали 29 616 пар сводок, сгенерированных на основе реальных медицинских карт 617 пациентов. В описанных ответах на проблемы мужчин чаще встречались слова «инвалид», «неспособный» и «сложный случай». Женские же проблемы со здоровьем чаще описывались как менее серьезные. В одном из примеров 84-летний мистер Смит характеризовался как человек со «сложной медицинской историей», а у его ровесницы миссис Смит – ИИ «не нашел проблем», хотя условия были идентичными (кроме пола).
Последствия такой дискриминации могут привести к риску неравного распределения ресурсов здравоохранения, систематическому занижению потребностей женщин в уходе и отсутствию прозрачности в используемых моделях ИИ.
Доктор Сэм Рикман, руководитель исследования, подчеркивает необходимость обязательного тестирования ИИ на предвзятость, прозрачность в использовании алгоритмов и правового регулирования подобных систем.
Ранее Bzzz.news сообщал, что астрономия и геофизика остаются «белыми» и мужскими. Среди постоянных сотрудников лишь 19% составляют женщины в геофизике и 28% в астрономии.
