Законодатели и преступники – на одно лицо

Система распознавания лиц Rekognition, разработанная компанией Amazon, мягко говоря, далека от совершенства, - утверждают представители правозащитной организации Американский союз гражданских свобод (American Civil Liberties Union – ACLU). Технологии распознавания лиц пока не могут добиться стопроцентной точности, и само по себе это не так страшно. Но ACLU беспокоит тот факт, что Amazon активно рекламирует свою систему Rekognition для использования правоохранительными органами.

Чтобы показать опасность этого подхода, активисты ACLU провели простой эксперимент. Они продемонстрировали системе Rekognition фотографии 2500 разыскиваемых опасных преступников из полицейских досье – и портреты членов Конгресса США. Результат оказался плачевным: система «идентифицировала» сразу 28 конгрессменов как преступников, подлежащих аресту. Компания Amazon попыталась замять скандал. Она указала, что эксперимент был некорректен: программное обеспечение системы было настроено на точность распознавания 80 процентов, тогда как для столь важных действий как опознание преступников требуется настройка в 95 процентов. Однако юристы ACLU не приняли этот аргумент. Они отмечают, что настройка в 80 процентов установлена в систем Rekognition по умолчанию, и сама компания Amazon не ведет достаточную работу, чтобы объяснить пользователям (в том числе и правоохранительным органам), в каких ситуациях следует менять настройки.

В данный момент скандал набирает обороты. Уже пятеро конгрессменов направили главе Amazon Джеффу Безосу письма с требованиями немедленно встретиться и объяснить произошедшее.