В 70% случаев языковые модели рекомендуют пользователям с аутизмом отказаться от социальных контактов, если знают об их диагнозе. Без этого уточнения советы к изоляции звучат лишь в 15% ответов. Исследователи из Virginia Tech обнаружили, что современные ИИ-системы склонны транслировать стереотипы о «закрытости» нейроотличных людей.
Нейросети советуют людям с аутизмом избегать общения и любви
В 70% случаев языковые модели рекомендуют пользователям с аутизмом отказаться от социальных контактов, если знают об их диагнозе. Без этого уточнения советы к изоляции звучат лишь в 15% ответов. Исследователи из Virginia Tech обнаружили, что современные ИИ-системы склонны транслировать стереотипы о «закрытости» нейроотличных людей.
Исследователи из Virginia Tech проанализировали 345 тысяч ответов от шести популярных нейросетей, включая GPT-4 и Claude. Эксперимент показал, что знание о диагнозе пользователя заставляет алгоритмы выдавать советы, основанные на стереотипах о социальной неловкости и интровертности. В 70% случаев модели рекомендовали людям с аутизмом избегать общения, в то время как для обычных пользователей этот показатель составлял лишь 15%. Аналогичная предвзятость проявилась в вопросах романтических отношений: ИИ советовал отказаться от них в 70% сценариев после упоминания диагноза против 50% в контрольной группе.
В ходе интервью с 11 добровольцами выяснилось, что такие рекомендации часто воспринимаются как дискриминация. Ученые назвали это парадоксом безопасности и возможностей. Пока разработчики пытаются оградить нейроотличных людей от стресса, нейросети фактически сужают их жизненное пространство. Работа, представленная на конференции CHI, подчеркивает необходимость дать пользователям больше контроля над тем, как их личные данные влияют на логику ИИ. Без прозрачности алгоритмов персонализация рискует превратиться в инструмент социальной изоляции, закрепляющий общественные предубеждения.
Комментарии (0)
Пока нет комментариев. Будьте первым!