Тестирование системы распознавания Amazon провалено

система распознавания лиц

 

Недавно разработанная система Amazon Rekognition прошла развернутое тестирование по инициативе заказчика. Итоги тестирования должны были определить будущее этой разработки. Предполагалось, что она будет внедрена в полиции, а ее специализацией станет поиск пропавших без вести людей и поиск преступников.

Изначально разработчик, компания Amazon высоко оценила возможности нейросети, которые, впрочем, сильно разошлись с реальными результатами. Для тестирования была приобретена в пользование база данных с фотографиями одного из исправительных учреждений США. Для чистоты эксперимента в нее «подмешали» портреты законопослушных граждан, коими выступили американские конгрессмены.

В результате погрешность Amazon Rekognition составила 20%, что совершенно не приемлемо для практического применения. При этом 28 парламентариев оказались отнесены системой к числу преступных элементов. Эксперты проследили интересную закономерность – темнокожих членов конгресса нейросеть считала «криминалом» чаще.

Специалисты Amazon считают, что такой результат стал закономерным – всему виной некорректная настройка нейросети.

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *