Aмeрикaнский сoюз зaщиты грaждaнскиx свoбoд (ACLU) прoтeстирoвaл систeму рaспoзнaвaния лиц Amazon Rekognition и oбнaружил, чтo прoгрaммa oшибoчнo oпрeдeляeт 28 члeнoв кoнгрeссa СШA кaк преступников.
Об этом сообщает Cossa.
До словам одного из правозащитников, Джейка Сноу, специалисты загрузили в систему 25 000 фотографий преступников изо «открытых источников». Потом ACLU пропустил чрез Rekognition официальные фотографии всех 535 членов Конгресса, с тем тот сравнил их со снимками нарушителей закона.
Диагностика обошелся нам на 12 долларов дешевле, нежели большая пицца,
– отметил Сноу.
Система обнаружила 28 совпадений. Изо всех «похожих» людей шестеро оказались представителями CBC (Черного кокуса Конгресса США), в книжка числе известный участник движения за гражданские полномочия Джон Льюис.
28 членов Конгресса, которых Amazon Rekognition определил наравне преступников
Стоит отметить, что в мае ACLU ранее требовал от Amazon перестать продавать свою систему распознавания лиц правоохранительным органам. Подо письмом к гендиректору компании Джеффу Безосу также подписались представители неподалёку 40 других правозащитных групп. Тогда же свое billet doux Безосу написали участники Черного кокуса Конгресса.
В ACLU отмечали, подобно как системой Amazon могут злоупотреблять для идентификации активистов с нежелательных организаций, участников митингов или иммигрантов не принимая во внимание документов. А после проведения теста правозащитники призвали Собрание ввести мораторий на использование Rekognition правоохранительными органами.
Представители Amazon в свою цепочка заявили, что ACLU установил слишком низкий смертность confidence threshold, который определяет пороговое значение в (видах распознавания лиц. Чем меньше показатель, тем вяще алгоритм уверен в том, что на фотографии изображен общепризнанный ему человек.
В Amazon отмечают, что они рекомендуют настраивать для распознавания людей порог не менее 95. Около этом в компании не ответили на вопрос о томище, как часто правоохранительные органы используют Rekognition.
В реальных сценариях Amazon Rekognition используется почитай (что) исключительно для того, чтобы помочь сузить баштан поиска и позволить быстрее оценить варианты. Система может помочь урвать потерявшихся детей, ограничить торговлю людьми или отвратить преступления,
– говорится в заявлении Amazon.
Больше новостей с мира технологий, гаджетов и искусственного интеллекта, читайте в разделе Техно
Автор: AdminGWP
Рубрики: Статьи