Система распознавания лиц Amazon объявила правонарушителями 28 американских конгрессменов

Американский союз гражданских свобод ACLU проверял систему распознавания лиц от Amazon и столкнулся с не очень неплохими результатами.

При всем этом Американский союз защиты гражданских свобод, решил проверить работу Rekognition и загрузил в базу 535 членов Конгресса США.

Создатели Amazon уже сделали объявление по поводу Rekognition.

Специалисты подчеркнули, что система приписала правонарушения как правило темнокожим конгрессменам. Они загрузили фотографии 25 тыс. арестованных жителей вперемежку с изображениями сенаторов. Как пишет The Verge, в ACLU протестировали систему распознавания лиц от компании Amazon, которой уже пользуются полицейские в некоторых штатах. После этого члены ACLU загрузили официальные фотографии всех 535 членов Конгресса, предложив Rekognition сравнить их с любой из фотографий мошенников.

«Идентификация — будь то реальная либо нет — может стоить людям их свободы либо даже их жизни».

В связи с высокой возможностью ошибки ACLU призвала съезд «принять мораторий на использование правоохранительными органами систем для распознавания лиц». В результате система нашла 28 совпадений.

Уполномоченный Amazon объявил сайту The Verge, что в столь удручающих результатах все-таки вероятнее всего виновата недостаточная калибровка: «Восьмидесятипроцентная уверенность приемлема, когда дело касается фотографий хот-догов, стульев, животных либо в социальных сетях, однако она абсолютно не подходит для идентификации людей». По их данным, такая настройка достаточна, только когда требуется опознать разные предметы, вроде стула либо хот-дога, однако для идентификации человеческих лиц необходимо выставлять не менее 95%.

Bookmark the permalink.

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *