Разработчики Артур Фортунато и Филипе Рейно создали программу на базе ИИ-генератора изображений DALL-E 2 для составления фотороботов подозреваемых. Эксперты заявили, что технология может усугубить существующие расовые и гендерные предубеждения, пишет Motherboard.
Related articles
Инженеры разработали программу Forensic Sketch AI-rtist в рамках хакатона в декабре 2022 года.
По их словам, цель системы — сократить время, затрачиваемое на создание фоторобота подозреваемого в преступлении.
Разработчики пока не выпустили продукт, поэтому у программы нет активных пользователей.
«Мы все еще пытаемся проверить жизнеспособность проекта в реальных сценариях. Необходимо связаться с полицейскими управлениями и получить от них данные, которые позволят протестировать технологию», — заявили инженеры.
ИИ-исследователи и эксперты по этике считают, что время не является проблемой традиционного способа создания фотороботов.
«Любой криминалистический эскиз подозреваемого уже подвержен человеческим предубеждениям и ненадежности памяти. Нейросети не решат подобных проблем, а эта программа ввиду своего дизайна может только усугубить их», — сказала директор по судебным разбирательствам в Electronic Frontier Foundation Дженнифер Линч.
Forensic Sketch AI-rtist предлагает два способа взаимодействия. Первый включает шаблон для ручного ввода таких данных, как пол, возраст, оттенок кожи, наличие бороды, цвет глаз, форма бровей, носа и челюсти.
Второй предлагает пользователю описать подозреваемого в форме текстового запроса для ИИ-генератора.
После нажатия на кнопку «создать профиль» DALL-E 2 сгенерирует соответствующий описанию портрет.
«Исследования показали, что люди помнят лица целостно, а не по чертам. Созданный на основе отдельных характеристик фоторобот, как предлагает эта программа, может привести к разительному отличию сгенерированного подозреваемого от фактического», — сказала Линч.
Эксперт по этике из Hugging Face Саша Лучони заявила, что в случае обнародования ИИ-фотороботы способны укрепить стереотипы и расовые предубеждения. Также они могут затруднить расследование, привлекая внимание полиции к людям с эскизов, а не к настоящим преступникам, добавила она.
Напомним, в июле 2022 года OpenAI заявила о снижении предвзятости и улучшении безопасности генератора изображений DALL-E 2.
Нашли ошибку в тексте? Выделите ее и нажмите CTRL+ENTER
Рассылки ForkLog: держите руку на пульсе биткоин-индустрии!
Источник: forklog.com
Обсуждение: post