История, о которой заговорили миллионы, началась с обычного похода по магазинам. Журналист Джоэл Федер сел за руль тестового Range Rover стоимостью 155 тысяч долларов, чтобы съездить с женой в торговый центр в Плимуте, штат Миннесота. Через несколько минут его машину блокировали четыре полицейских экипажа — с оружием наготове, без права на ошибку. Оказалось, всё это время автоматические камеры компании Flock Safety отслеживали передвижения Федера по подозрению в угоне автомобиля. Только вот номер на его машине — New Jersey 34 10 DTM — не был краденым. Система просто ошиблась.
Как это произошло
Федера и его жену вытащили из машины, обыскали и сообщили, что госномер числится в угоне. Журналист знал, что это невозможно — Jaguar Land Rover не стал бы выдавать прессе автомобиль с крадеными номерами. Но полицейские были уверены в своей правоте. Как выяснилось позже, похожий номер — 34 03 DTM — был заявлен как украденный в Калифорнии. На самом деле его потеряли во время фотосессии Land Rover. Проблема в том, что при внесении в базу NCIC (Национальный информационный центр по преступности) средние цифры номера — 03 — просто пропустили. В базе оказалось только 34 DTM.
Всё упирается в то, что люди иногда ошибаются. И человеческий фактор мы никогда не сможем устранить полностью. Вдобавок у нас очень редкий и нестандартный формат номерного знака
— Эрик Фадден, начальник полиции Плимута Искусственный интеллект Flock, работающий по данным NCIC, увидел номер 34 10 DTM и проигнорировал «10» посередине — потому что обучен искать совпадения по частичному совпадению символов. Полицейские на месте не стали проверять полный номер вручную. Никто не перепроверил. Сработала «фиксация на цели», как говорят в авиации.
Это повторилось на следующий день
Федер сначала назвал случившееся «редчайшим стечением обстоятельств», которое система не смогла обработать. Но через неделю история повторилась. Тим Эстердал, коллега Федера и издатель Pickup Truck + SUV Talk, вёз своего 14-летнего ребёнка в тестовом Range Rover Sport стоимостью 105 тысяч долларов. Номер на машине? New Jersey 34 08 DTM. Его остановили в Небраске. Офицер сообщил, что номера числятся в угоне. Эстердал показал полицейским статью Федера. На этот раз обошлось без оружия — после часа разбирательств его отпустили. Но сам факт говорит о многом: Jaguar Land Rover выдал журналистам несколько машин с номерами серии 34 ## DTM. Все они потенциально попадают под удар системы.
Что говорят в Flock
Джошуа Томас, директор по коммуникациям Flock, признал проблему.
Система машинного обучения прочитала то, что должна была прочитать. Ей дали команду: найди 34 DTM. Она нашла. Она просто не сказала: если есть дополнительные символы, не реагируй
— Джошуа Томас, директор по коммуникациям Flock Томас объяснил, что полиция часто просит настраивать систему на частичное совпадение — когда известны только несколько символов номера. Это удобно для поиска, но создаёт риски.
Мы пытаемся учить офицеров перепроверять. Увидели 34 10 DTM — должны понять, что ищете 34 DTM. Но это не сработало в вашем случае
, — добавил он. Томас согласился, что системе нужны дополнительные фильтры для различения полных и частичных совпадений. Но пока таких «предохранителей» нет.
Проблема масштаба
Томас заявил, что система точна на 99%. Звучит внушительно, пока не посчитаешь: Flock обрабатывает 20 миллиардов считываний номеров в месяц. Один процент ошибок — это 200 миллионов ложных срабатываний. Сколько из них приводят к агрессивным остановкам с оружием наготове? Никто не знает. Начальник полиции Плимута Эрик Фадден признаёт: в США существует более 8 тысяч различных форматов номерных знаков. Ни один офицер не способен знать их все.
К сожалению, такие ошибки случаются часто. Именно поэтому мы должны перепроверять данные, связываться с агентством, внёсшим номер в базу. В этот раз номера не были украдены. Машина не была украдена. Моя жена и я не были в розыске. Но технология движется слишком быстро, а предохранителей нет
, — подвёл итог Федер. Томас из Flock признал:
Это было очень плохое событие. Хорошо, что ваших детей не было в машине. Я благодарен за это
.