В средней школе округа Балтимор, штат Мэриленд, на ученика надели наручники и обыскали после того, как система безопасности с искусственным интеллектом распознала его пакет чипсов как возможное огнестрельное оружие.
Таки Аллен, ученик школы Kenwood High School, рассказал корреспонденту CNN аффилированного телеканала WBAL: «Я просто держал в руках пачку Doritos — двумя руками и с одним вытянутым пальцем, и мне сказали, что это выглядело как оружие». В итоге, по словам Аллена, «меня заставили встать на колени, заложить руки за спину и надели наручники».
В заявлении для родителей директор школы Кэти Смит сообщила, что служба безопасности школы пересмотрела и отменила тревогу по поводу обнаружения оружия, но сама Смит (которая не сразу поняла, что тревога была отменена) информировала о ситуации школьного офицера, который вызвал местную полицию.
Компания Omnilert, оператор системы обнаружения оружия на базе искусственного интеллекта, заявила CNN: «Мы сожалеем о случившемся и хотим выразить обеспокоенность в адрес затронутого учащегося и всей школьной общественности». Тем не менее, по словам представителей Omnilert, «процесс сработал в соответствии с заложенной процедурой».
Источник: TechCrunch
Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter. Можете написать лучше? Мы всегда рады новым авторам.
Система ИИ — разработка Omnilert — анализирует видео с камер и пытается распознать оружие что очень хорошо в наше время.
Такие системы работают на основе анализа изображений и могут ошибочно срабатывать из-за похожих по форме и цвету объектов, что подчеркивает необходимость дальнейших доработок и тестирования таких технологий. В данном случае, важным является баланс между обеспечением безопасности и минимизацией ложных тревог, чтобы избежать лишнего стресса и недоразумений среди учеников и сотрудников.
Инцидент с упаковкой чипсов Doritos наглядно демонстрирует, что, несмотря на значительный потенциал ИИ в области безопасности, технологии всё ещё далеки от совершенства. В конечном счёте, безопасность в образовательных учреждениях — это баланс между применением современных технологий и разумным подходом к их использованию, учитывающим человеческий фактор и реальные условия.
Маразм продолжается. Люди категорически отказываются учиться на своих ошибках и продолжают наступать на одни и те же грабли. Это просто поразительно! Ну всем, ну АБСОЛЮТНО всем, сейчас должно быть известно, что ИИ не редко совершает ошибки. Но его продолжают внедрять в такие области как охрана безопасности. Я просто в диком шоке :(( люди да что с вами со всеми?!
Показательный случай — технологии ИИ развиваются быстро, но пока ещё далеки от безошибочности. Такие ситуации напоминают, что автоматизация не должна полностью заменять человеческий контроль.
Так себе система безопасности, доводящая до паники из ничего. Мальчик держит чипсы, как любой из нас держал бы чипсы. Все это используется ради того, чтобы остановить… перекус. Технология не должна ошибаться, она же не человек. Жаль, что никто после этого не отключил режим тревоги по умолчанию. Технологии должны снижать напряжение, а не нагнетать его до точки предела
Этот случай наглядно показывает, что к ИИ нужно относиться осторожно, нужно уметь его применять. Сейчас, к сожалению, его используют где надо и не надо.
Такие ложные срабатывания могут вызвать панику и подорвать доверие к системам безопасности. Разработчики, пора тренировать ИИ лучше: на реальных данных, с человеческим контролем и здравым смыслом.
Технология далека от совершенства. Не так страшно ложное срабатывание как в этом случае, как ошибка когда ии не распознает оружие. Тогда последствия могут быть печальными. Всегда нужен человек для решения спорных ситуаций. Но сложность в том что ии наверняка не счел этот случай вызывающим сомнения.
Система эта еще не так хорошо изучена по этому могут быть ошибки в работе.Но чипсы и правда не очень безопасны для детей)
Да, прогресс технологий впечатляет! Мы можем автоматизировать множество процессов, но разве это не здорово? Однако иногда системы ошибаются, и это вызывает смех. Неужели мы не должны помнить, что даже самые совершенные технологии не идеальны? И что же будет дальше, когда технологии станут еще умнее?
Да уж… «Меня заставили встать на колени, заложить руки за спину и надели наручники». И это пришлось пережить ребёнку, школьнику. После подобного инцидента я бы своего ребёнка в школу больше не пустила. Всеми возможными способами добилась бы домашнего обучения, если без него никак.