Wired узнал о закрытии ИИ-системы прогнозирования преступлений в Британии
Полиция Великобритании отказалась от ключевых ИИ-моделей системы «Think Family», которая должна была прогнозировать преступления и выявлять уязвимых граждан, пишет Wired со ссылкой на обзор Social Finance. В материале отмечается, что запущенная в 2016 году система хранила самую разную конфиденциальную информацию. Расследование журналистов показало, что несколько ИИ-моделей системы были «тихо» отключены после того, как чиновники города Бристоль сочли, что не могут им доверять. Wired заявляет, что государственные инспекторы и независимые эксперты указывали на «поразительное» отсутствие прозрачности в отношении некоторых моделей программы и предупреждали, что это может подорвать доверие общества. Одной из этих ИИ-моделей была «ССЭ» — благотворительная организация по защите детей Barnardo's предоставила создателям программы обезличенные данные о 100 детях, подвергшихся сексуальному насилию. На их основе система была способна выявить детей со схожими характеристиками. Журнал отмечает, что «Think Family» была полезна для правоохранителей и могла «привести к более своевременному реагированию». Однако в обзоре Social Finance говорится, что ИИ-модели «Think Family» являются «самым слабым элементом» проекта, и отмечен «недостаток точности». Когда специалисты Social Finance решили провести собственные тесты ИИ-моделей оценки рисков, они выявили отсутствие доступной информации. Как пишет Wired, ни одно из британских ведомств не вело записей о прекращении работы моделей. Независимая аудиторская компания Eticas выяснила, что большинство моделей «Think Family» давали низкие показатели точности, что может означать, что высокая доля людей «подверженных риску», идентифицируются неверно. Кроме того, в течение нескольких лет модель, которая использовалась для прогнозирования грабителей, работала с показателем точности ниже 10%. Несмотря на это, как пишет Wired, британское правительство создало PoliceAI, стоимостью £75 млн для внедрения ИИ во всех подразделениях Англии и Уэльса. Проект курирует бывший начальник полиции Эйвона и Сомерсета Энди Марш, который продвигал и провалившуюся региональную систему. Ранее глава британской киберразведки Энн Кист-Батлер заявила, что, учитывая скорость технологических изменений, в том числе в области искусственного интеллекта, «почва под нашими ногами меняется», а Великобритания и ее союзники сталкиваются с проблемой сохранения лидерства в конкурентной борьбе. Оставайтесь на связи с РБК в «Максе».