Нагрудная камера зафиксировала каждое слово и лай, в то время как сержант полиции Мэтт Гилмор и его служебная собака Ганнер в Оклахома-Сити искали группу подозреваемых почти час.
Обычно сержант полиции из Оклахома-Сити открывал свой ноутбук и тратил еще 30-45 минут на написание отчета о поиске. Но на этот раз первое черновое заключение за него написал искусственный интеллект.
Используя все звуки и радиопереговоры, записанные микрофоном на нагрудной камере Гилберта, инструмент ИИ сформировал отчет за восемь секунд.
«Это был отчет лучше, чем любой, который я мог бы написать, и он был на 100% точным. Текст был лучше структурирован», — сказал Гилберт. Он даже задокументировал факт, который он не помнил — упоминание другим офицером цвета машины, из которой сбежали подозреваемые.
Полицейское управление Оклахома-Сити — одно из немногих, где проводят эксперименты с чат-ботами на базе ИИ для создания первых черновиков инцидентных отчетов. Полицейские, которые протестировали его, восторженно отзываются о технологии, экономящей время, в то время как некоторые прокуроры, наблюдатели за полицией и правоведы выражают опасения, что это может изменить фундаментальные документы в системе уголовного правосудия, которые играют роль в определении, кого преследовать в судебном порядке или заключать в тюрьму.
Созданный на базе той же технологии, что и ChatGPT, и продаваемый компанией Axon, наиболее известной разработкой электрошокера Taser и как доминирующего поставщика нагрудных камер в США, этот инструмент может стать тем, что Гилберт описывает как еще одну «переломную точку» для полицейской работы.
«Они становятся полицейскими, потому что хотят заниматься полицейской работой, а тратить половину дня на ввод данных — это просто скучная часть работы, которую они ненавидят», — сказал основатель и генеральный директор Axon Рик Смит, описывая новый продукт ИИ — под названием Draft One — как продукт, который вызвал «самую позитивную реакцию» среди всех, введенных компанией.
«Конечно, есть и причины для беспокойства», — добавил Смит. В частности, он сказал, что районные прокуроры, ведущие уголовное дело, хотят быть уверенными, что за создание отчетов несут ответственность полицейские, а не исключительно чат-бот ИИ, поскольку им может понадобиться давать показания в суде о том, что они видели.
«Они никогда не хотят, чтобы на трибуну выходил офицер, который говорит: «Ну, это написал ИИ, а не я»», — сказал Смит.
Технология ИИ не нова для полицейских агентств, которые используют алгоритмические инструменты для считывания автомобильных номеров, распознавания лиц подозреваемых, выявления звуков выстрелов и предсказания, где могут произойти преступления. Многие из этих приложений вызывали обеспокоенность по вопросам конфиденциальности и гражданских прав и потребовали применения защитных мер со стороны законодателей. Однако введение сгенерированных ИИ полицейских отчетов настолько ново, что практически отсутствуют или весьма ограничены руководящие принципы их использования.
Опасения по поводу встроенных в технологии ИИ расовых предрассудков и предубеждений — лишь часть того, что вызывает «глубокое беспокойство» у общественного активиста из Оклахома-Сити, Аврелиуса Франциско, который узнал о новом инструменте от Associated Press.
«Тот факт, что технология используется той же компанией, которая предоставляет департаменту электрошокеры, уже сам по себе вызывает тревогу», — сказал Франциско, соучредитель Фонда освобождения умов в Оклахома-Сити.
Он сказал, что автоматизация этих отчетов «облегчит полиции возможность преследовать, осуществлять наблюдение и применять насилие к членам сообщества. Упрощая работу полицейским, она усложняет жизнь чернокожим и цветным людям».
До начала экспериментов с этим инструментом в Оклахома-Сити, полицейские представители показали его местным прокурорам, которые настояли на осторожности при его использовании в случаях с серьезными уголовными делами. Пока что он используется только для мелких инцидентных отчетов, которые не приводят к аресту.
«Так что никаких арестов, тяжких преступлений, насильственных преступлений», — сказал капитан полиции Оклахома-Сити Джейсон Бассерт, который отвечает за информационные технологии в управлении с 1170 сотрудниками.
Это не так в другом городе, Лафейетте, штат Индиана, где начальник полиции Скотт Галлоуэй рассказал AP, что все его офицеры могут использовать Draft One для любого дела, и что с момента начала пилотного проекта ранее в этом году он стал «невероятно популярен».
И в Форт Коллинзе, штат Колорадо, где сержант полиции Роберт Янгер сказал, что офицеры могут использовать его для любого типа отчета, хотя они обнаружили, что он плохо работает на патрулях в районе баров в центре города из-за «огромного количества шума».
Помимо использования ИИ для анализа и суммирования аудиозаписи, Axon экспериментировала с компьютерным зрением для суммирования того, что «видно» в видеофутажах, но быстро поняли, что эта технология еще не готова.
«Учитывая все деликатные моменты, связанные с полицейскими мероприятиями, расой и другими идентичностями вовлеченных людей, это область, над которой, как мне кажется, нам нужно будет провести реальную работу перед введением», — сказал Смит, генеральный директор Axon, описывая некоторые из протестированных ответов как не «откровенно расистские», но неспособные к восприятию в других аспектах.
Эти эксперименты привели Axon к концентрации внимания исключительно на аудио в продукте, представленном в апреле на ежегодной конференции компании для представителей полиции.
Технология основана на той же генеративной модели ИИ, которая управляет ChatGPT, созданной базирующейся в Сан-Франциско компанией OpenAI. OpenAI является близким бизнес-партнером Microsoft, которая является поставщиком облачных услуг для Axon.
«Мы используем ту же основную технологию, что и ChatGPT, но у нас есть доступ к большему количеству настроек, чем у обычного пользователя ChatGPT», — сказал Ноа Спитцер-Уильямс, который управляет продуктами Axon на базе ИИ. Уменьшение установок креативности помогает модели придерживаться фактов, чтобы она «не украшала или не выдавала ложные данные, как это может происходить, если использовать только ChatGPT», пояснил он.
Axon не разглашает, сколько полицейских управлений используют эту технологию. Она не является единственным поставщиком, так как стартапы, такие как Policereports.ai и Truleo, предлагают аналогичные продукты. Однако с учетом глубоких отношений Axon с полицейскими управлениями, которые покупают его электрошокеры и нагрудные камеры, эксперты и полицейские прогнозируют, что отчеты, сгенерированные ИИ, станут более распространенными в ближайшие месяцы и годы.
До того как это произойдет, правовед Эндрю Фергюсон хотел бы увидеть больше общественной дискуссии о выгодах и потенциальном вреде. Во-первых, крупные языковые модели, стоящие за чат-ботами с ИИ, склонны выдумывать ложную информацию, проблему, известную как галлюцинация, которая может добавить убедительные и трудно различимые ложные данные в полицейский отчет.
«Я беспокоюсь, что автоматизация и простота технологии могут снизить внимательность полицейских в их писанине», — сказал Фергюсон, профессор права в Американском Университете, работающий над ожидаемым первым обзором законов об этой новой технологии.
Фергюсон сказал, что полицейский отчет важен для определения, оправдывает ли подозрение офицера «лишение кого-то свободы». Это иногда является единственным свидетельством, которое судья видит, особенно для дел об административных правонарушениях.
Человеческие полицейские отчеты также обладают недостатками, сказал Фергюсон, но открытым остается вопрос о том, какой из этих вариантов более надежен.
Для некоторых офицеров, которые его попробовали, он уже меняет то, как они реагируют на сообщения о преступлении. Они рассказывают, что происходит, чтобы камера лучше фиксировала то, что они хотят потом записать.
По мере того как технология распространяется, Бассерт ожидает, что офицеры станут «все более и более разговорчивыми», описывая то, что находится перед ними.
После того как Бассерт загрузил видео остановки транспортного средства в систему и нажал кнопку, программа создала нарративный отчет в разговорном стиле, включавший даты и время, как если бы офицер сам набирал текст на основе своих заметок, справедливо основываясь на аудио с нагрудной камеры.
«Это заняло всего несколько секунд», — сказал Гилмор, «и все было настолько хорошо сделано, что я был в шоке: «Мне нечего менять»».
В конце отчета офицер должен нажать на кнопку, указывая, что он создан с использованием ИИ.
Источник: NBC News