Компания Google объявила о запуске новых средств защиты на базе искусственного интеллекта для борьбы с мошенничеством в Chrome. Технологический гигант начнет использовать Gemini Nano — собственную локальную большую языковую модель (LLM) — на настольных устройствах для повышения защиты пользователей от интернет-мошенничества. Кроме того, Google запускает новые предупреждения на базе ИИ для Chrome на Android, чтобы информировать пользователей о потенциально спамовых уведомлениях.
По данным компании, режим «Улучшенная защита» (Enhanced Protection) в функции Safe Browsing для Chrome обеспечивает максимальный уровень безопасности и защищает от фишинга и других интернет-угроз в два раза эффективнее, чем стандартный режим защиты. Теперь Google будет использовать Gemini Nano, чтобы предоставить пользователям режима «Улучшенная защита» дополнительный уровень защиты от онлайн-мошенничества.
Как отмечает Google, такой локальный подход с обработкой данных на устройстве позволяет мгновенно анализировать подозрительные сайты и защищать пользователей от мошеннических схем, включая ранее неизвестные угрозы.
«LLM Gemini Nano идеально подходит для этой задачи благодаря способности анализировать сложные и разнообразные сайты, что позволяет нам быстрее реагировать на новые методы мошенничества», — пишет компания в корпоративном блоге.
Уже сейчас компания применяет эти технологии для защиты пользователей от удалённых попыток мошенничества, связанных с техподдержкой. В дальнейшем Google планирует расширить применение этой защиты и на устройства Android, а также на другие типы мошенничества.
В отношении новых предупреждений на базе ИИ Google отмечает, что риски, исходящие от мошеннических сайтов, могут распространяться и через уведомления при их активации. Злоумышленники могут использовать push-уведомления для обмана пользователей, и теперь Chrome будет предупреждать о вредоносных, спамовых или вводящих в заблуждение уведомлениях на Android.
Теперь, если локальная модель Chrome определит уведомление как потенциально мошенническое, пользователь получит предупреждение и сможет либо отписаться, либо просмотреть заблокированный контент. Если вы считаете, что предупреждение ошибочно, можно разрешить получение всех последующих уведомлений с этого сайта.
В рамках анонса Google сообщила, что уже применяет ИИ для борьбы с мошенничеством в поиске, ежедневно выявляя и блокируя сотни миллионов мошеннических результатов. По данным компании, системы на базе искусственного интеллекта позволили выявлять в 20 раз больше мошеннических страниц.
Например, Google отмечает увеличение числа случаев, когда злоумышленники выдавали себя за сотрудников поддержки авиакомпаний и обманывали обращающихся за помощью пользователей. По данным компании, количество подобных мошенничеств сократилось более чем на 80%, что значительно снизило риск наткнуться на мошеннические телефонные номера в поиске.
Источник: TechCrunch
Недобросовестные веб-сайты, демонстрирующие пользователям фальшивые предупреждения о безопасности, используют известные приемы обмана. Gemini Nano обучен распознавать эти методы. Как только веб-сайт начнет демонстрировать подозрительное поведение, ИИ определит истинные намерения за предупреждением и уведомит систему безопасного серфинга.
Продуктивная и полезная тема.
Век живи век учись:) Я когда в коде хромиума ai код увидел — сперва подумал что меня глючит. Первый кандидат на выкидывание, практически на 100% уверен что он и подсматривает и постукивает.
Честно, я в шоке, насколько изобретательны эти интернет-мошенники. Казалось бы, уже всё придумано, а они находят новые схемы каждый день. То фальшивые сайты, то липовые розыгрыши, то вообще прикидываются техподдержкой. Начинаешь думать, что доверять в сети вообще никому нельзя. Мир, конечно, цифровой стал, но и опасности с ним тоже на уровне! Как хорошо, что хоть кто-то с этим пытается бороться.
Очень интересная инициатива от Google! Особенно порадовало, что новые ИИ-инструменты в Chrome будут не просто блокировать фишинг, но и анализировать подозрительное поведение сайтов в реальном времени. Надеюсь, это действительно снизит количество мошеннических ресурсов и сделает интернет-серфинг безопаснее. Интересно, насколько эффективно ИИ будет адаптироваться под новые схемы обмана — кто-нибудь уже успел протестировать?
Ну вот это полезная штучка, хотя и этот прибамбас научатся обходить…
Gemini Nano для Google Chrome потихоньку занимает позиции антивирусного приложения. Фишинг, потенциальные угрозы, скорее всего ведение базы данных таких заблокированных и подозрительных сайтов. Отсюда пойдут чаще обновления для уже и так непомерно раздутого Chrome. Хорошо что можно пока отказаться от использования Gemini Nano, пусть пока тренируется… на ком-нибудь другом. А меня пока и AVG вполне устраивает.
Это хорошие новости: технологии развиваются, а люди становятся умнее.