Полицейские нагрудные камеры, оснащённые искусственным интеллектом, обучены распознавать лица примерно 7 000 человек, внесённых в «список повышенного риска» в канадском городе Эдмонтон. Это своего рода эксперимент, направленный на проверку, может ли технология распознавания лиц, которую ранее отвергали как слишком навязчивую, занять своё место в работе полиции по всей Северной Америке.
Однако спустя шесть лет после того, как ведущий производитель нагрудных камер — компания Axon Enterprise, Inc. — заявила, что использование технологии распознавания лиц полицией вызывает серьёзные этические опасения, пилотный проект, который был запущен на прошлой неделе, вызывает тревогу далеко за пределами Эдмонтона — самого северного города на континенте с населением более 1 миллиона человек.
Бывший председатель совета по этике ИИ компании Axon, благодаря которому в 2019 году компания временно отказалась от распознавания лиц, сообщил, что его беспокоит тот факт, что компания из Аризоны продвигает проект без достаточных общественных обсуждений, тестирования и экспертной оценки общественных рисков и вопросов конфиденциальности.
«Крайне важно не использовать эти технологии, которые имеют очень реальные издержки и риски, если нет чёткого понимания их преимуществ», — говорит бывший председатель совета Барри Фридман, ныне профессор права Нью-Йоркского университета.
Основатель и исполнительный директор Axon Рик Смит настаивает, что пилот в Эдмонтоне — не запуск продукта, а ранняя полевая исследовательская стадия, позволяющая оценить работу технологии и определить необходимые меры безопасности для её ответственного применения.
«Тестируя технологию в реальных условиях за пределами США, мы можем получить независимые данные, укрепить контрольные механизмы и учесть эти уроки при будущих оценках, в том числе внутри США», — написал Смит в корпоративном блоге.
В Эдмонтоне пилотный проект призван повысить безопасность патрульных, позволяя их нагрудным камерам распознавать людей, которых власти отнесли к категориям «повышенное внимание» или «предупреждение» — например, «насильственные или агрессивные лица, вооружённые и опасные, связанные с оружием, склонные к побегу или являющиеся особо опасными рецидивистами», пояснил Курт Мартин, и.о. начальника полиции Эдмонтона. Сейчас в этом списке 6 341 человек, сообщил Мартин на пресс-конференции 2 декабря. Отдельный реестр содержит ещё 724 человека, по которым есть как минимум один серьёзный ордер на арест.
«Мы хотим убедиться, что система нацелена именно на людей, совершивших серьёзные правонарушения», — добавила Энн-Ли Кук, директор по ответственному ИИ в компании Axon.
В случае расширения пилота он может оказать значительное влияние на полицию по всему миру. Axon — публичная компания, известная большинству по электрошокеру Taser, является ведущим поставщиком нагрудных камер в США и всё активнее предлагает их полицейским службам Канады и других стран. В прошлом году Axon обошла своего основного конкурента, чикагскую Motorola Solutions, в тендере на поставку нагрудных камер федеральной полиции Канады.
Motorola в комментарии заявила, что также может интегрировать распознавание лиц в полицейские нагрудные камеры, но исходя из собственных этических принципов, «целенаправленно воздерживается от внедрения этой функции для проактивной идентификации». Тем не менее, компания не исключила такую возможность в будущем.
В 2023 году правительство Альберты обязало все полицейские ведомства провинции, включая Эдмонтон, использовать нагрудные камеры, подобно инструменты прозрачности для фиксации полицейских контактов, сбора доказательств и ускорения рассмотрения расследований и жалоб.
Хотя многие общины в США также восприняли нагрудные камеры как инструмент подотчётности, перспектива использования распознавания лиц в реальном времени для идентификации людей в общественных местах вызывает недовольство по всему политическому спектру. Недовольство со стороны защитников гражданских свобод и более широкий разговор о расовой несправедливости вынудили Axon и техногигантов приостановить продажи систем распознавания лиц для полиции.
Серьёзное беспокойство вызывали исследования, показавшие, что технология далека от совершенства и демонстрирует предвзятые результаты в зависимости от расы, пола и возраста, а также работает хуже с видеопотоком в реальном времени, чем с фотографиями или полицейскими снимками задержанных.
Ряд американских штатов и десятки городов ограничили использование распознавания лиц полицейскими, хотя администрация президента Дональда Трампа сейчас пытается помешать или затормозить регулирование ИИ на уровне штатов.
Европейский Союз запретил использование полицией технологии распознавания лиц в общественных местах в режиме реального времени по всему блоку из 27 стран, за исключением случаев серьёзных преступлений, таких как похищения людей или терроризм.
Однако в Великобритании, уже не являющейся членом ЕС, власти начали тестировать подобные технологии на улицах Лондона десять лет назад и за последние два года провели с их помощью 1 300 арестов. Правительство рассматривает возможность расширения технологии на всю страну.
Многие детали пилотного проекта в Эдмонтоне не разглашаются. Axon не разрабатывает собственную модель ИИ для распознавания лиц, но отказалась назвать, какого стороннего поставщика использует.
Полиция Эдмонтона сообщает, что пилот продлится до конца декабря и работает только в светлое время суток.
«Очевидно, что здесь довольно рано темнеет», — отметил Мартин. «Условия освещения, наши низкие зимние температуры — всё это влияет на критерии успешного доказательства концепции».
По словам Мартина, около 50 офицеров-участников эксперимента не будут знать, совпало ли лицо с базой распознавания. Результаты будут анализироваться позже в отделении. В будущем такая технология может помочь определить потенциально опасного человека поблизости, чтобы офицеры могли запросить помощь, сказал он.
Это должно происходить только в случае начала расследования или реагирования на вызов — а не просто во время патрулирования в толпе. В таких случаях офицеры могут перевести камеру из пассивного в активный режим, с повышенным разрешением.
«Мы действительно хотим уважать права и интересы граждан в области конфиденциальности», — подчеркнул Мартин.
Офис комиссара по вопросам информации и конфиденциальности провинции Альберта, Дианы Маклеод, получил от полиции Эдмонтона оценку воздействия на частную жизнь 2 декабря, в тот же день, когда Axon и полиция официально объявили о старте программы. В пятницу офис сообщил, что начал рассмотрение оценки, что обязательно для проектов, собирающих высокочувствительные персональные данные.
Профессор криминологии Университета Альберты Темитопе Ориола не удивлён, что город экспериментирует с распознаванием лиц в реальном времени, учитывая, что технологии уже повсеместно используются в аэропортах и других сферах.
«Эдмонтон — это лаборатория для этого инструмента», — сказал Ориола. — «Возможно, это действительно будет шаг вперёд, но мы не можем утверждать этого наверняка».
Также он отметил, что у полиции города были непростые отношения с местными африканскими и коренными сообществами, особенно после гибели представителя южносуданской общины в результате полицейской стрельбы в прошлом году. Остаётся вопросом, смогут ли новые технологии сделать работу полиции безопаснее и улучшить диалог с обществом.
Ранее Axon уже сталкивался с критикой своих технологических решений, как, например, в 2022 году, когда Фридман и ещё семь членов этического совета ушли в отставку в знак протеста против идеи дрона с электрошокером.
После отказа от распознавания лиц Axon, по словам исполнительного директора Смита, продолжал лабораторные исследования технологий, которые, по его словам, «стали существенно точнее и теперь готовы к апробации в реальных условиях».
Однако в заявлении компания признала, что на точность распознавания лиц влияют такие факторы, как расстояние, освещение и угол обзора, что может особенно сказываться на точности идентификации лиц с более тёмной кожей.
Каждое совпадение подлежит проверке человеком, сообщает Axon, а часть тестирования посвящена тому, каким должно быть обучение и наблюдение за независимыми оценщиками для снижения рисков.
Фридман считает, что Axon должна обнародовать подобные оценки. Он хотел бы увидеть больше доказательств прогресса в технологии, прежде чем дать зелёный свет её применению в полицейских камерах.
Он также обеспокоен тем, что решение о внедрении такой технологии принимают исключительно полицейские ведомства без участия местных законодателей и должного научного анализа.
«Это не решение, которое должны принимать только полиция или производители. Пилотный проект — отличная идея, но он предполагает прозрачность и подотчётность… Всего этого сейчас нет. Они просто идут вперёд. Они нашли компетентное ведомство и пошли этим путём», — говорит Фридман.
Источник: AP
Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter. Можете написать лучше? Мы всегда рады новым авторам.
Статьи и новости о нейросетях и искусственном интеллекте, просто и понятно о сложных технологиях. Освещает современные тенденции, объясняет, как работают ИИ-системы, и показывает, каким образом нейросети меняют различные сферы жизни. Регулярно собирает подборки и топы полезных нейросетей, тщательно отбирая актуальные инструменты и сервисы, которые могут существенно упростить рабочие и повседневные задачи. В своих подборках делится описаниями возможностей каждой нейросети, а также рекомендациями по их применению, чтобы помочь читателям быстро разобраться в новых технологиях и использовать их с максимальной пользой.
Социальные сети автора:
Тестирование полицейских камер с ИИ в Канаде — важный шаг в развитии технологий правопорядка, но оно также поднимает сложные этические вопросы. Необходимо тщательно взвесить все «за» и «против», разработать чёткие правовые рамки и механизмы защиты данных, прежде чем широко внедрять такие системы. Только тогда можно будет говорить о том, что это действительно контроль, а не слежка.
В конечном счёте успех проекта будет зависеть от того, насколько ответственно общество и власти подойдут к использованию новых технологий и как хорошо будут учтены права и опасения граждан.
С одной стороны, такая технология действительно может помочь полиции быстрее реагировать на угрозы и обеспечивать общественную безопасность. С другой — без прозрачности, общественного обсуждения и жестких гарантий по защите приватности, есть большая опасность, что системы ИИ превратятся в инструмент массового контроля.
Канада, с её акцентом на права человека, должна тщательно регулировать это. Тестирование хороший старт, но нужен открытый диалог с обществом, чтобы не превратить контроль в слежку.
Если камера распознает преступника и это спасёт чью-то жизнь, то что в этом плохого? Плохо — это когда на полицейских вообще нет никаких камер, что позволяет им злоупотреблять своей властью.
С одной стороны, они могут повысить эффективность правоохранительных органов, быстрее реагировать на преступные ситуации и улучшить безопасность граждан. С другой стороны, такая технология поднимает вопросы о личной приватности, возможных ошибках алгоритмов и злоупотреблениях властью. Важно найти баланс между обеспечением общественной безопасности и уважением к правам человека.
Тестирование полицейских камер с ИИ в Канаде вызывает серьезные вопросы о границе между общественной безопасностью и правом на частную жизнь. Важно установить строгие правила использования, чтобы контроль не превратился в необоснованную слежку.
Контроль или слежка? В Канаде тестируют полицейские камеры с искусственным интеллектом
Нельзя доверять ИИ когда решается судьбы людей.
Распознавание лиц, внесенных в список агрессивных, вооруженных людей, рецидивистов — это правильно. Но главное здесь не контроль, не слежка, не этические нормы такого процесса. Главное здесь это протокол реагирования на результат распознавания, т.е. правильная и своевременная реакция человека-полицейского. И еще один пункт. Снова компания из США проводит эксперимент на территории другой страны… Эксперимент, который может быть связан с жизнью и здоровьем граждан другой страны…