Дипфейки и стереотипы: ООН предупреждает о новых угрозах для женщин в эпоху ИИ
Поддельные интимные видео и фото, цифровой шантаж и кибертравля — искусственный интеллект порождает новые формы гендерного насилия. Об этом предупреждает Комитет ООН по ликвидации дискриминации в отношении женщин.
Документ разъясняет обязательства государств по Конвенции о ликвидации всех форм дискриминации в отношении женщин, касающиеся искоренения гендерных стереотипов во всех сферах жизни.
«Системы искусственного интеллекта могут воспроизводить и усиливать гендерные стереотипы и пересекающиеся формы дискриминации в отношении женщин», — предупредили в комитете.
Особую тревогу вызывает использование генеративного ИИ и ИИ-агентов в целях насилия в отношении женщин.
Речь идет о сексуализированных изображениях и видео, дипфейках, сексуальном вымогательстве, целенаправленных атаках на женщин, занимающих лидерские позиции в обществе, а также случаях, когда злоумышленники выдают себя за другого человека.
Комитет призвал государства регулировать системы ИИ и цифровые платформы. Платформы должны создать эффективные механизмы для жалоб и оперативного удаления оскорбительного и дискриминационного контента, а пострадавшие — получить средства правовой защиты. Кроме того, решения, принимаемые с помощью ИИ в образовании, трудоустройстве, здравоохранении, финансовом секторе и правосудии, должны быть прозрачными, проходить независимый контроль и проверку человеком.
Эксперты рекомендовали пересмотреть законы и практики, в которых насилие в отношении женщин рассматривается как частное или семейное дело, ответственность за его предотвращение возлагается на самих женщин, а агрессия и контроль со стороны мужчин оправдываются.
Стереотипы проникают и в систему правосудия. По словам экспертов, они влияют на то, как оцениваются показания женщин и какие выносятся решения, и могут приводить к судебным ошибкам. Комитет призвал привлекать к ответственности судей, прокуроров и сотрудников правоохранительных органов, которые воспроизводят дискриминационные стереотипы, и пересматривать решения, принятые под их влиянием.
Комитет также напомнил, что гендерные стереотипы часто сочетаются с дискриминацией по признаку расы, возраста, инвалидности, экономического положения и миграционного статуса.
В то же время вооруженные конфликты, климатические бедствия и гуманитарные кризисы увеличивают нагрузку на женщин, делают насилие нормой и укрепляют стереотип о женщинах как о жертвах, а не о тех, кто принимает решения, предупредили эксперты. Они призвали обеспечить участие женщин в реагировании на кризисы.
