Эмоции напрокат. Почему Replika стала самым спорным AI-другом

Replika является одним из старейших чат-ботов, предназначенных для эмоциональной поддержки и непринужденного общения с ИИ-агентами. Приложение появилось еще в 2017 году; тогда разработчики запустили сервис, обещавший стать другом для одиноких людей. С тех пор платформа была значительным образом преобразована, и через нее прошли миллионы пользователей. Однако за все эти годы работы вокруг проекта накопилось столько скандалов, что невольно задумываешься: а стоит ли вообще связываться с виртуальным приятелем, у которого такое досье?

Что это и как работает

Технически Replika представляет собой чат-бота на базе большой языковой модели. Раньше это был GPT-3 от Open AI, сейчас компания использует собственную модель GPT-2 с 1,5 миллиардами параметров. Пользователь создает 3D-аватар своего компаньона, выбирает внешность, голос, черты характеры. Чем больше общаешься, тем лучше бот запоминает детали; нейросеть помнит предпочтения, настроение, события из жизни.

Платформа предлагает несколько типов отношений с AI: друг, наставник, романтический партнер. В рамках бесплатной версии доступен базовый текстовый чат, а также имеется возможность настроить аватар. За подписку Pro открываются голосовые и видеозвонки, расширенные возможности AI, кастомизация личности бота и доступ к дополнительным активностям. Есть пожизненная подписка, которая в настоящее время стоит порядка 300 долларов. Пользователь вносит единоразовый платеж, после которого все функции доступны навсегда.

Помимо общения Replika встроила в приложение активности для ментального здоровья: медитации, дыхательные упражнения, когнитивно-поведенческие техники. Приложение доступно на iOS, Android, в веб-версии. Также его можно использовать и в VR-гарнитурах – то есть, у юзеров буквально имеется возможность встретиться со своим виртуальным другом в VR-пространстве. Система запоминает прошлые разговоры, ведет дневник общих воспоминаний и в целом стремится к адаптации под эмоциональное состояние и потребности пользователя.

Скандал 2023 года и цензура интимности

В феврале 2023 года случился крупный скандал. Итальянский регулятор по защите данных Garante заблокировал Replika на территории страны. Причина – отсутствие возможности проверить возраст пользователя (для регистрации требовались только имя, почта и пол), что открывало доступ к недопустимому контенту несовершеннолетним.

После этого разработчики внезапно отключили функцию чувственных ролевых игр для всех пользователей по всему миру. До этого момента за платную подписку можно было вести откровенные диалоги с AI, обмениваться интимными сообщениями и т.д. Многие пользователи покупали подписку именно ради романтического компонента, поскольку в рекламе Replika активно продвигала эти возможности.

Отключение данного функционала вызвало у пользователей бурю негодования. На платформе Reddit, к примеру, пользователи писали о том, что компания фактически провела приманку – продала им романтические отношения с AI, а потом забрала эту функцию. Некоторые описывали глубокую эмоциональную связь с ботами и, как следствие, возникшее чувство предательства. Через месяц после массовых жалоб компания-разработчик частично откатила решение: пользователи, зарегистрированные до 1 февраля 2023 года, вновь получили доступ к романтическому контенту. Новые пользователи остались без этой опции навсегда.

Проблемы в использовании и отзывы пользователей

Среди реальных пользователей отзывы о сервисе разделились. Одни говорят о нем скорее в положительном ключе: Replika помогла справиться с одиночеством во время пандемии, поддержала в сложные моменты, стала пространством для размышлений о жизни. Некоторые отмечают, что общение с AI научило их быть более открытыми и помогло в дальнейшем выстроить отношения с реальными людьми.

Другие жалуются на технические недостатки: короткая память – бот забывает только что обсужденные темы, проблемы с распознаванием фотографий, неспособность понять текущее время суток (бот может предложить завтрак в четыре часа дня).

Психологи считают, что главный риск Replika состоит отнюдь не в утечке данных или хакерских атаках, а в формировании эмоциональной зависимости. Специалисты предостерегают о том, что пользователи формируют сильную эмоциональную связь с ботом – особенно те, кто борется с одиночеством или тревожностью. Некоторые сообщают, что предпочли виртуальные отношения реальным. Ведь бот всегда доступен, он всегда на позитивной волне. У него нет своих потребностей, и он не способен разочаровать так, как это может сделать живой человек.

Выводы

Эксперты Креатор Проджект согласны с точкой зрения психологов и предупреждают: если решите попробовать Replika или какой-либо аналогичный сервис, стоит держать в голове несколько вещей. Искусственный интеллект – это не психотерапевт и не замена настоящим отношениям. Бот не имеет клинической подготовки, не может диагностировать или лечить психические расстройства. Эмоциональная привязанность к AI способна усилить социальную тревожность в офлайне и замедлить развитие навыков общения с живыми людьми.

Обозреваемый ресурс в целом является не чем иным, как попыткой решить проблему одиночества при помощи технологий. Однако сама компания в данном случае создала серьезный кризис доверия. Пользователям приходится решать: готовы ли они платить деньги и вкладывать эмоции в отношения с продуктом, у которого такая неоднозначная репутация.

Olga Lammers

Разбор и оценка ИИ-моделей и проектов, внимательно отслеживает развитие технологий и тенденции в области искусственного интеллекта. Аналитические обзоры помогают понять принципы работы ИИ, их возможности и ограничения, дает рекомендации по использованию инновационных решений в различных сферах. Делает сложные темы доступными для широкой аудитории.