Появление генеративных инструментов искусственного интеллекта, которые позволяют людям эффективно создавать новые и подробные онлайн-обзоры практически без усилий, поставило продавцов, поставщиков услуг и потребителей на неизведанную территорию, говорят группы надзора и исследователи.
Фальшивые отзывы давно преследуют многие популярные потребительские сайты, такие как Amazon и Yelp. Обычно ими обмениваются в закрытых группах социальных сетей между фальшивыми брокерами отзывов и компаниями, готовыми платить. Иногда такие отзывы инициируются компаниями, которые предлагают клиентам поощрения, такие как подарочные карты за положительные отзывы.
Но инструменты генерации текста на основе искусственного интеллекта, популяризированные ChatGPT от OpenAI, позволяют мошенникам создавать обзоры быстрее и в большем объеме, по словам экспертов в области технологий.
Эта мошенническая практика, которая является незаконной в США, применяется круглый год, но становится более серьезной проблемой для потребителей в сезон праздничных покупок, когда многие люди полагаются на отзывы, чтобы купить подарки.
Где появляются отзывы, сгенерированные ИИ?
Фальшивые отзывы встречаются в самых разных отраслях, от электронной коммерции, гостиничного бизнеса и ресторанов до таких услуг, как ремонт дома, медицинская помощь и уроки игры на пианино.
Технологическая компания и группа наблюдения The Transparency Company, использующая программное обеспечение для обнаружения фальшивых отзывов, заявила, что начала замечать появление отзывов, сгенерированных ИИ, в больших количествах в середине 2023 года, и их число постоянно растет.
В отчете, опубликованном в этом месяце, The Transparency Company проанализировала 73 миллиона отзывов в трех секторах: жилье, юридические и медицинские услуги. Почти 14% отзывов были вероятно фальшивыми, и компания выразила «высокую степень уверенности» в том, что 2,3 миллиона отзывов были частично или полностью сгенерированы ИИ.
«Это действительно очень хороший инструмент для этих мошенников с отзывами», — сказал Маури Блэкман, инвестор и советник в стартапах, который изучил работу The Transparency Company и собирается возглавить организацию с 1 января.
В августе компания DoubleVerify заявила, что наблюдает «значительное увеличение» мобильных приложений и приложений для умных телевизоров с отзывами, созданными генеративным ИИ. По данным компании, отзывы часто используются для обмана клиентов, чтобы они устанавливали приложения, которые могли бы захватывать устройства или постоянно показывать рекламу.
В следующем месяце Федеральная торговая комиссия подала в суд на компанию, стоящую за инструментом написания и генерации контента ИИ под названием Rytr, обвинив ее в предложении услуги, которая может загрязнить рынок мошенническими отзывами.
Федеральная торговая комиссия, которая в этом году запретила продажу и покупку фальшивых отзывов, заявила, что некоторые подписчики Rytr использовали инструмент для создания сотен и, возможно, тысяч отзывов для компаний по ремонту гаражных дверей, продавцов «реплик» дизайнерских сумок и других бизнесов.
Они, вероятно, появляются и на известных сайтах
Макс Сперо, генеральный директор компании Pangram Labs по обнаружению ИИ, сказал, что программное обеспечение, которое использует его компания, почти с полной уверенностью определило, что некоторые обзоры, сгенерированные ИИ и размещенные на Amazon, поднимались в топы результатов поиска по отзывам, потому что они были столь детализированы и казались продуманными.
Однако определение, что является фальшивым, а что нет, может быть сложной задачей. Внешние стороны могут не справиться с этим, поскольку у них нет «доступа к данным, указывающим на шаблоны злоупотребления», заявили в Amazon.
Pangram Labs проводила детекцию для некоторых известных онлайн-сайтов, но Сперо отказался назвать их из-за соглашений о неразглашении. Он сказал, что провел независимую оценку Amazon и Yelp.
Многие комментарии, сгенерированные ИИ на Yelp, казались опубликованными людьми, которые пытались опубликовать достаточно отзывов, чтобы получить бейдж «Элита», который предназначен для того, чтобы пользователи знали, что контент заслуживает доверия, сказал Сперо.
Бейдж дает доступ к эксклюзивным мероприятиям с местными владельцами бизнеса. Мошенники также хотят его, чтобы их профили на Yelp выглядели более реалистично, сказала Кэй Дин, бывший федеральный следователь, возглавляющий наблюдательную группу под названием Fake Review Watch.
Однако, если отзыв сгенерирован ИИ, это не обязательно означает, что он фальшивый. Некоторые потребители могут экспериментировать с инструментами ИИ, чтобы создать контент, отражающий их искренние чувства. Некоторые люди, для которых английский не является родным языком, говорят, что обращаются к ИИ, чтобы убедиться, что они используют правильный язык в своих отзывах.
«Он может помочь сделать отзывы более информативными, если используется с благими намерениями», — сказала Шерри Хэ, профессор маркетинга в Университете штата Мичиган, которая исследовала фальшивые отзывы. Она считает, что технологические платформы должны сосредоточиться на поведенческих шаблонах недобросовестных игроков, что уже делают заметные платформы, вместо того, чтобы отговаривать законных пользователей от использования инструментов ИИ.
Что делают компании
Известные компании разрабатывают политику определения, как подход ИИ вписывается в их системы удаления фальшивых или оскорбительных отзывов. Некоторые уже используют алгоритмы и следственные группы для обнаружения и удаления фальшивых отзывов, но предоставляют пользователям некоторую гибкость в использовании ИИ.
Например, представители Amazon и Trustpilot заявили, что разрешат клиентам размещать отзывы, созданные с помощью ИИ, если они отражают их истинный опыт. Yelp занял более осторожный подход, заявив, что его правила требуют от рецензентов писать свои собственные тексты.
«С недавним увеличением потребительского использования инструментов ИИ Yelp значительно инвестирует в методы лучшего обнаружения и смягчения подобного контента на нашей платформе», — сказали в компании в заявлении.
Коалиция за доверенные отзывы, которую Amazon, Trustpilot, сайт отзывов о компании Glassdoor и туристические сайты Tripadvisor, Expedia и Booking.com запустили в прошлом году, заявила, что хотя обманщики могут незаконно использовать ИИ, технологии также предоставляют «возможность противостоять тем, кто стремится вводить других в заблуждение с помощью отзывов».
«Поделившись передовой практикой и повышая стандарты, включая разработку передовых систем обнаружения ИИ, мы можем защитить потребителей и сохранить целостность онлайн-отзывов», — заявила группа.
Правило Федеральной торговой комиссии, запрещающее фальшивые отзывы, которое вступило в силу в октябре, позволяет агентству штрафовать предприятия и физлиц, занимающихся такой практикой. Технологические компании, размещающие такие отзывы, защищены от наказания, поскольку они не несут правовой ответственности в соответствии с законами США за контент, который посторонние размещают на их платформах.
Технологические компании, включая Amazon, Yelp и Google, подали в суд на посредников по фальшивым отзывам, которых они обвиняют в продаже поддельных отзывов на своих сайтах. Компании утверждают, что их технология блокирует или удаляет большое количество подозрительных отзывов и подозрительных аккаунтов. Однако некоторые эксперты считают, что они могли бы делать больше.
«Их усилия пока далеко не достаточны», — сказала Дин из Fake Review Watch. «Если эти технологические компании настолько привержены устранению мошенничества с отзывами на своих платформах, почему же мне, одному человеку, работающему без автоматизации, удается находить сотни или даже тысячи фальшивых отзывов в любой день?»
Как распознать фальшивые отзывы, сгенерированные ИИ
Потребители могут попытаться выявить фальшивые отзывы, обратив внимание на некоторые возможные предупреждающие признаки, согласно исследователям. Чересчур восторженные или отрицательные отзывы являются потенциальными красными флажками. Жаргон, повторяющий полное название или модель продукта, — еще один потенциальный признак.
Когда дело доходит до ИИ, исследование, проведенное Балашем Ковачем, профессором организационного поведения из Йельского университета, показало, что люди не могут отличить отзывы, сгенерированные ИИ, от написанных человеком. Некоторые детекторы ИИ также могут быть обмануты короткими текстами, которые встречаются в онлайн-отзывах.
Тем не менее, есть некоторые «признаки ИИ», которые интернет-покупатели и искатели услуг должны иметь в виду. Panagram Labs заявляет, что отзывы, написанные с помощью ИИ, обычно длиннее, имеют высокую структурированность и включают «пустые описатели», такие как общие фразы и атрибуты. В таких текстах также часто встречаются клише вроде «первое, что бросилось мне в глаза» и «переворот в игре».
Источник: AP
