Следует ли использовать ИИ для поимки магазинных воров?

Следует ли использовать искусственный интеллект

для поимки магазинных воров?

Программное обеспечение VaakEye контролирует запись с камеры безопасности, чтобы обнаружить подозрительное поведение.

Новое программное обеспечение искусственного интеллекта используется в Японии для мониторинга языка тела покупателей и поиска признаков, что они планируют кражу.

Программное обеспечение, которое производится Токийский стартап под названием Vaak, отличается от аналогичных продуктов, которые работают путем сопоставления лиц с криминальными записями. Вместо этого VaakEye использует поведение для прогнозирования преступных действий.

Основатель компании Ре Танака сказал, что его команда ввела алгоритм 100 000 часов данных наблюдения, чтобы обучить его контролировать все, от мимики покупателей до их движений и одежды.

С момента запуска VaakEye в прошлом месяце, он был развернут в 50 магазинах по всей Японии.

Vaak утверждает, что потери от краж в магазинах снизились на 77% в течение тестового периода в местных магазинах. Это может помочь снизить глобальные розничные расходы от краж в магазинах, которые достигли $34 млрд в 2017 году по данным Global Shrink Index .

Использование ИИ для поимки воров поднимает все этические вопросы.

"В то время как стимул заключается в предотвращении кражи, является ли законным или даже моральным запретить кому-то входить в магазин на основе этого программного обеспечения? Говорит аналитик Euromonitor retail Мишель Грант.

Это не должно зависеть от разработчика программного обеспечения, говорит Танака. "Мы предоставляем информацию о подозрительном, обнаруженном изображении. Мы не решаем, кто преступник, магазин решает, кто преступник", - сказал он.

Тем не менее, это именно то, что касается правозащитной благотворительной организации Liberty, которая ведет кампанию за запрет технологии распознавания лиц в Соединенном Королевстве.

"Торговая среда, частный орган, начинает выполнять что-то похожее на полицейскую функцию", - сказала Ханна Кушман, сотрудник по пропаганде и политике Liberty.

Liberty также обеспокоена потенциалом ИИ для разжигания дискриминации. Исследование, проведенное в 2018 году MIT и Стэнфордским университетом, показало, что различные коммерческие программы анализа лица демонстрируют предубеждения в отношении типа кожи и пола.

Танака объясняет, что, поскольку программное обеспечение Vaak основано на поведении, а не на расе или поле, это не должно быть проблемой. Но Кушман остается скептиком.

"С технологиями, которые полагаются на алгоритмы, особенно в отношении человеческого поведения, потенциал для дискриминации всегда есть", - сказала она. "Люди должны научить алгоритм, что считать подозрительным."

Согласие клиента

Тогда возникает вопрос прозрачности.

"Знают ли люди о том, что происходит?-спросил Кушман. - Они согласны? Имеет ли оно смысл? Что происходит с данными? Как это защищено? Можно ли поделиться?"

Грант сказал, что потребители готовы пожертвовать некоторой конфиденциальностью для удобства — например, использовать распознавание лиц для аутентификации платежей — но только тогда, когда они знают, что технология используется.

Танака не оспаривает этого. "Должно быть уведомление, прежде чем клиенты войдут в магазин, чтобы они могли отказаться", - сказал он.

"В странах должны действовать правила, которые заставляют магазины раскрывать информацию, где и что они анализируют, как они ее используют, как долго они ее используют", - сказал он.

Кристофер Истхэм, специалист по ИИ в юридической фирме Fieldfisher, сказал, что рамки для регулирования технологии еще не созданы.

"Необходима ясность со стороны законодателей и руководство со стороны регуляторов, которые в конечном итоге должны будут решить, в каких обстоятельствах использование этой технологии будет уместным или желательным ", - сказал он.

По словам японцев, они создали передовую программу на основе искусственного интеллекта, которая, анализируя записи с камер наблюдения в торговых залах, может выявлять подозрительное поведение посетителей и предотвращать кражи. Если алгоритм посчитает, что тот или иной человек готовится совершить воровство, система оповестит сотрудников магазина, и те смогут благополучно выдворить неудавшегося вора наружу.