Reddit вводит верификацию пользователей для борьбы с ИИ-ботами

Пользователи Reddit по всему миру были возмущены на прошлой неделе, узнав, что группа исследователей выпустила рой ботов на основе искусственного интеллекта, выдающих себя за людей, на сабреддите «Change My View». Масштабный эксперимент был проведен, чтобы изучить, насколько убедительным может быть искусственный интеллект.

Боты оставили более 1700 комментариев, примеряя на себя различные роли.

Для Reddit этот инцидент стал настоящим кошмаром. Reddit ассоциируется с аутентичностью — местом, где настоящие люди делятся реальными мнениями. Если эта ориентированная на людей экосистема будет нарушена ИИ-ботами или превратится в место, где нельзя быть уверенным, что получаешь информацию от настоящих людей, это может не только подорвать основную идею Reddit. Риску подвергается и финансовое положение компании, ведь теперь она продаёт свой контент OpenAI для обучения ИИ.

Компания осудила этот “неправомерный и крайне неэтичный эксперимент” и подала жалобу в университет, который его проводил. Но этот эксперимент наверняка будет лишь одним из множества случаев, когда генеративные ИИ-боты будут притворяться людьми на Reddit по разным причинам — от научных до политических манипуляций.

Чтобы защитить пользователей от манипуляций со стороны ботов и “сохранить Reddit человечным”, компания тихо дала понять, что готовит меры, которые могут не понравиться тем, кто ценит анонимность на платформе.

В понедельник CEO Reddit Стив Хаффман опубликовал пост, в котором сообщил, что Reddit начнет сотрудничество с “различными сторонними сервисами” для верификации человечности пользователей. Это серьезный шаг для платформы, которая исторически почти не требовала личных данных при создании аккаунта.

«Чтобы сохранить Reddit человечным и соответствовать новым регуляторным требованиям, нам потребуется немного больше информации», — написал Хаффман. — «В частности, нам нужно знать, являетесь ли вы человеком, а в некоторых локациях — совершеннолетний ли вы. Но нам не нужно и мы никогда не будем хотеть знать ваше имя или кто вы на самом деле».

(Социальные сети уже начали внедрять проверки удостоверений личности после того, как по меньшей мере девять штатов США и Великобритания приняли законы, обязывающие подтверждать возраст для защиты детей на платформах.)

Пресс-секретарь Reddit отказался объяснить, при каких обстоятельствах пользователям потребуется проходить верификацию, хотя и подтвердил, что компания уже применяет меры для блокировки “плохих” ботов. Представитель также не уточнил, какими именно сторонними сервисами собираются пользоваться, и какую личную информацию потребуется предоставить.

Многие компании сегодня пользуются платформами верификации вроде Persona, Alloy, Stripe Identity, Plaid и Footprint, которые обычно требуют для подтверждения возраста и человечности предоставить удостоверение личности от государства. Существуют и новые, более экспериментальные технологии, такие как Tools for Humanity Сэма Альтмана с устройством для “доказательства человечности” по радужке глаза.

Противники проверки удостоверения личности говорят об угрозе приватности и безопасности личных данных при передаче их социальным сетям, особенно на Reddit, где многие делятся тем, чем бы никогда не поделились под своим настоящим именем.

Легко представить, как власти могут потребовать от Reddit раскрыть личность, которая, например, спрашивает об аборте на r/women в штате, где такая процедура теперь незаконна. Достаточно вспомнить, как Meta* выдала властям личную переписку жительницы Небраски и её 17-летней дочери, где обсуждалось намерение последней сделать аборт. Помощь Meta* позволила полиции получить ордер на обыск, что привело к уголовному преследованию и матери, и дочери.

Именно такого риска Reddit надеется избежать, передавая “только необходимую информацию и ничего лишнего” сторонним сервисам, заявил Хаффман, подчеркнув: “Нам не нужно и мы никогда не захотим знать ваше имя или кто вы на самом деле”.

“Анонимность — важнейшая часть Reddit”, — отметил он.

Генеральный директор также добавил, что Reddit продолжит “очень строго защищать вашу личную информацию” и впредь “будет добиваться ограничения чрезмерных или необоснованных требований от государственных или частных структур”.

Источник: TechCrunch

AI News

Главный редактор
Социальные сети:
Telegram: https://t.me/creatorproject_ru
VK: https://vk.com/novosti_ai
Дзен: https://dzen.ru/ainewscp
RuTube: https://rutube.ru/channel/58102633/
YouTube: https://www.youtube.com/@creatorproject_ru
TikTok: https://www.tiktok.com/@creatorproject_ru
Likee: AI News (@creatorproject)