Спроба поліції Британії прогнозувати злочини за допомогою ШІ завершилася провалом — WIRED

Поліція британського регіону Ейвон і Сомерсет разом із мерією Бристоля понад десять років таємно тестувала штучний інтелект для передбачення злочинів. Журналістське розслідування викрило, що алгоритми постійно помилялися, а через низьку точність прогнозування частину програм довелося тихо згорнути, повідомляє Wired. 

Проєкт запустили ще у 2014 році. Силовики та місцева влада створили базу даних Think Family Database (TFD). Туди зливали приватну інформацію про жителів: від таємних поліцейських зведень та медичних карток до даних про підліткові вагітності, безкоштовні обіди у школах чи проблеми з житлом. Комп'ютерна система аналізувала ці досьє й оцінювала тисячі дорослих та дітей. Нейромережі намагалися вгадати, чи перетвориться людина на злочинця, чи втече з дому і чи загрожує їй домашнє насильство. Піддослідні навіть не підозрювали про таке стеження. 

Журналісти через офіційні запити отримали доступ до документів та понад 36 тис. внутрішніх звітів. Експерти підтвердили, що результатам ШІ не можна довіряти через незадовільну якість роботи алгоритмів. У результаті владі Бристоля довелося таємно ліквідувати щонайменше дві моделі, які мали виявляти ризики сексуального насильства над дітьми, оскільки їх визнали непридатними для роботи.

ВАС ЗАЦІКАВИТЬ

Без права вето: Google надасть Пентагону ШІ-технології для секретних операцій

Правозахисники попереджають, що помилкові висновки програм можуть зруйнувати репутацію та долі невинних людей. Попри провал та критику, британський уряд збирається масштабувати цей досвід.

Водночас уряд Великої Британії продовжує масштабну реформу правоохоронної системи. Зокрема, країна планує створити єдину Національну поліцейську службу, яку вже називають британським аналогом ФБР. Міністерство внутрішніх справ країни вже готує запуск аналогічних інструментів штучного інтелекту у 43 поліцейських підрозділах Англії та Уельсу.