Ошибка системы распознавания лиц впервые привела к аресту невиновного

Испoльзoвaниe пoлицeйскoй систeмы рaспoзнaвaния лиц, oснoвaннoй нa aлгoритмax искусствeннoгo интeллeктa, впeрвыe привeлo к aрeсту нeвинoвнoгo чeлoвeкa. Она спутала его с настоящим преступником.
По данным издания The New York Times, полицейские американского города Детройт в январе этого года задержали для проверки некоего Роберта Джулиана-Борчака Уильямса (Robert Julian-Borchak Williams). После того как Уильямса доставили в полицейский участок, его арестовали, потому что система распознавания лиц определила в нём преступника, который в 2018 году совершил магазинную кражу.Как выяснилось позже, система на базе ИИ-алгоритмов совершила ошибку, но Уильямсу всё равно пришлось провести 30 часов за решёткой, пока полицейские не разобрались в ситуации.
Противники систем распознавания лиц уже долгое время утверждают, что данная технология ещё недостаточно совершенна для точного поиска и определения преступников. Сами разработчики подобных систем не раз предостерегали органы правопорядка от их использования в качестве единственного надёжного доказательного инструмента для задержания. Но как оказалось, в случае с Уильямсом данная система стала единственным «доказательством» в пользу ареста невиновного человека.
Примечательно, что программное обеспечение для идентификации лиц, которое использовалось детройтской полицией вместе с результатами проверки Уильямса вывела следующее сообщение:«Этот документ не является положительным идентификатором. Он представляет собой только следственную версию и не является основанием для задержания».

После внесения залога Уильямса отпустили, а когда разобрались в ситуации — даже извинились. Но этот случай создал прецедент, который указывает на гораздо более обширную проблему — всецело доверять алгоритмам искусственного интеллекта пока нельзя.
«Я серьёзно подозреваю, что это не первый случай ошибки системы, в результате которой был арестован человек, не совершавший преступления. Скорее всего, это всего лишь первый случай, когда об этом стало известно общественности», — подытожила адвокат Клер Гарви (Clare Garvie), к которой издание The New York Times обратилось за комментариями.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

Подписывайтесь и читайте нас на портале Pulse.Mail

Подписывайтесь на нас в «Google News».

Оставьте первый комментарий

Оставить комментарий

Ваш электронный адрес не будет опубликован.