Из-за ошибок систем распознавания лиц страдают невиновные
Столичная прокуратура принесла официальные извинения учёному-гидрологу Александру Цветкову, который почти год провёл в СИЗО по ошибочному обвинению в совершении убийств. Казалось бы, всё закончилось хорошо. Если не принимать во внимание факт, что в аналогичной ситуации может оказаться любой. Причиной тому является массовая установка камер наблюдении с функцией распознавания лиц.
В феврале прошлого года сотрудник Института биологии внутренних вод РАН Александр Цветков возвращался из научной экспедиции, когда в салон готовящегося взлететь самолёта вошли сотрудники полиции. На глазах у изумлённых коллег Цветкова заковали в наручники и, будто матёрого рецидивиста, повели к трапу. Вскоре стала известна причина задержания. В аэропорту Домодедово учёный попал в камеру наблюдения, оснащённую функцией распознавания лиц. Система подала сигнал тревоги: как оказалось, лицо Цветкова на 55% совпало с лицом человека, объявленного в розыск за совершение серии убийств.
Вскоре Следственный комитет предъявил Цветкову обвинение, сообщив об успешном раскрытии преступления двадцатилетней давности. Летом 2002 года в деревне Городище (ныне это территория Новой Москвы) был зверски убит пенсионер – преступник отрезал ему голову и поджёг дом. Следом налётчики убили и ограбили трёх женщин. Раскрыть убийства по горячим следам не получилось, однако в 2022 году оперативники вышли на уголовника-рецидивиста, который рассказал подробности тех жутких преступлений. По его словам, убийцей четырёх человек был некий бомж по кличке Саша Чуваш. На основании показаний задержанного был составлен фоторобот, который и загрузили в систему распознавания лиц.
Несмотря на то, что институт прислал в Следственный комитет письмо, подтверждающее алиби Цветкова и его нахождение в экспедициях в момент совершения преступлений, учёного поместили в СИЗО. В камере ему пришлось провести 10 месяцев, прежде чем следователи удостоверились в невиновности учёного. Сейчас гидролог уже на свободе и наверняка старается забыть как страшный сон всё, что с ним произошло. Увы, проблема гораздо глубже. Ведь Цветков далеко не первый, кому система распознавания лиц едва не разрушила жизнь. В октябре 2021 года в похожей ситуации оказался кандидат филологических наук Фёдор Ермошин из Одинцова. Его грубо задержали после того, как система наблюдения установила 70-процентное сходство лица учёного с лицом разыскиваемого серийного жулика. К счастью для Ермошина, ошибку удалось установить в течение нескольких часов, однако понервничать ему пришлось изрядно.
В октябре 2020 года в изолятор едва не уехал москвич Антон Леушин, которого камера также спутала с магазинным вором. Одновременно в Питере по той же причине был задержан солист Мариинского театра Виталий Коротич. Ошибками ознаменовался и период проведения частичной мобилизации осенью 2022 года, когда с помощью камер разыскивали уклонистов. Минимум двух человек задержали и доставили в военкоматы, где выяснилось, что система идентифицировала не тех, кого было нужно. Наконец, в декабре прошлого года телеграм-каналы рассказали о печальной истории ветерана ФСО (!), которого камеры регулярно идентифицируют как разыскиваемого преступника. Из-за этого он не может появляться в людных местах и входить в метро – система моментально подаёт сигнал тревоги и пенсионера-чекиста задерживают со всеми вытекающими из этого последствиями.
Примечательно, что ещё после первых случаев ошибочных задержаний эксперты в области IT отмечали: подобные истории будут происходить регулярно, потому как технологии распознавания лиц пока ещё остаются сырыми. Например, в демонстрационном режиме такие системы будут показывать идеальную работу и успешно приниматься на вооружение государственными органами. Однако в жизни лицо человека выглядит не так, как на фото в паспорте, – он может улыбаться, носить очки или шапку, камера может снимать его под углом и т.д. А если цифровой аватар человека создавался на основе фото, сделанного при плохом освещении, вероятность установления совпадения не будет превышать 50%, поясняют специалисты. Кроме того, пояснял «Ридусу» руководитель компании VisionLabs Дмитрий Марков, в системе можно настроить порог, при достижении которого она будет идентифицировать человека на изображении с камеры как персонажа из базы данных. При этом всегда остаётся возможность «перекрутить» или «недокрутить» эту настройку.
Таким образом, проблема налицо, причём проблема системная. Однако камеры с распознаванием лиц слишком удобная вещь, чтобы от неё отказываться. Не далее как в феврале замминистра цифрового развития, связи и массовых коммуникаций РФ Дмитрий Угнивенко заявил о скорой установке по всей стране камер, подключённых к системам искусственного интеллекта. Их количество должно увеличиться с 1,2 млн штук до 3,8 млн, то есть число камер вырастет более чем в 3 раза. Значит ли это, что так же кратно увеличится и число ошибок? Конечно, здесь может прозвучать аргумент о том, что «лучше перебдеть, чем недобдеть» и лишняя проверка документов и гражданина, в отношении которого система подала тревогу, не такая большая беда перед безопасностью общества в целом. Однако готов ли каждый стать таким гражданином? Здесь стоит ещё раз вспомнить историю Александра Цветкова, который не только провёл 10 месяцев в СИЗО, где получил инфаркт, но и успел признаться в преступлении, которого не совершал. А проверять его невиновность бюрократическая машина начала только после того, как правозащитники смогли дойти непосредственно до Владимира Путина.
