Grokipedia и ИИ‑арбитр с сомнительной этикой: нейтральность на плечах алгоритма

Илон Маск видит Grokipedia — созданную xAI альтернативу Википедии с акцентом на отказ от идеологических искажений — как окончательный памятник человеческому знанию, настолько полному и достоверному, что его можно было бы высечь в камне и отправить храниться в космосе. На практике же проект представляет собой настоящий хаос, и ситуация лишь ухудшается теперь, когда вносить правки может кто угодно.

Изначально Grokipedia нельзя было редактировать. Когда она была запущена в октябре, примерно 800 000 статей, написанных Grok, были закрыты для редактирования. Уже тогда это казалось хаосом — с неэтичными элементами, неуклюжими реверансами в сторону Маска и местами прямым копированием из Википедии, — но хотя бы было предсказуемо. Все изменилось несколько недель назад, когда Маск выпустил версию 0.2 и открыл возможность предлагать правки всем.

Предлагать правки в Grokipedia просто — настолько просто, что сайт даже не считает нужным объяснять, как это делать. Выделяете текст, нажимаете кнопку “Suggest Edit” и заполняете форму с кратким описанием предлагаемого изменения, при желании добавляя текст и источники. Предложения о правках рассматривает Grok, проблемный чат-бот xAI, боготворящий Маска. Grok же, да, именно чат-бот, и будет вносить изменения на сайте. В Википедии большинство правок не требует предварительного одобрения, но там есть активное сообщество редакторов-людей, которые внимательно следят за страницей «последние изменения».

Не очень понятно, какие именно изменения вносит Grok. Система запутанная и непрозрачная. Grokipedia сообщает, что одобрено «22 319» правок, но у меня нет никакой возможности увидеть, что это были за правки, на каких страницах и кто их предложил. Это разительно контрастирует с хорошо документированными журналами правок в Википедии, где можно сортировать по страницам, пользователям или IP-адресам (для анонимов). Мое предположение — многие правки Grokipedia сводятся к добавлению внутренних ссылок на другие страницы Grokipedia внутри статей, хотя твердых доказательств у меня нет, кроме пролистывания нескольких страниц.

Ближе всего к пониманию того, где именно происходят правки, я подошел на главной странице. Ниже строки поиска есть маленькая панель, где по очереди показываются пять свежих обновлений, но там указываются только название статьи и факт, что одобрена какая-то правка. Мягко говоря, не исчерпывающе. Все полностью на усмотрение пользователей и их прихотей, из-за чего получается пестрая мешанина. Когда я смотрел, чаще всего всплывали страницы про Илона Маска и религию, вперемежку с сериалами «Друзья», The Traitors UK и запросами отметить потенциальные медицинские преимущества верблюжьей мочи.

В Википедии есть прозрачная хронология правок: что произошло, кто что сделал и почему, есть доступные журналы обсуждений для спорных вопросов. Там же — обширные руководства по стилю, требованиям к источникам и процедурам; можно напрямую сравнивать версии страниц, чтобы видеть, что и где изменилось. В Grokipedia ничего подобного нет — что и чувствуется: многие заявки представляют собой хаотичную мешанину, — но есть журнал правок. Это кошмар, лишь намекающий на прозрачность. Журнал — где показываются только метка времени, предложение, решение Grok и его часто витиеватая, сгенерированная ИИ мотивация — приходится проматывать вручную в крошечном всплывающем окне сбоку, без возможности перейти вперед или отсортировать по времени или типу правки. Это раздражает даже при небольшом числе правок, а где именно изменения были применены, не показано. При большем объеме пользоваться этим было бы совершенно невозможно.

Как чат-бот, Grok поддается убеждению. В одной из предложенных правок к биографии Маска пользователь написал: «достоверность этого утверждения следует проверить», имея в виду цитату о связи падения Рима с низкой рождаемостью. В ответе, куда более многословном, чем нужно, Grok отклонил предложение как излишнее. На аналогичный запрос, но с другой формулировкой, Grok пришел к противоположному выводу, принял предложение и добавил информацию того же порядка, которую ранее считал ненужной. Нетрудно представить, как можно подбирать формулировки, чтобы повысить шанс на принятие правки.

Хотя технически все это возможно и на Википедии, сайт располагает целой армией волонтеров-администраторов, которые проходят отбор в рамках специальной процедуры или выборов, чтобы следить за порядком. Они обеспечивают соблюдение стандартов, блокируя учетные записи или IP-адреса для предотвращения правок, а также закрывают страницы от редактирования в случаях вандализма или «войн правок». Неясно, есть ли у Grokipedia подобные механизмы контроля, в результате чего платформа полностью зависит от действий случайных пользователей и чат-бота, который некогда называл себя МехаГитлером. Проблема проявилась на нескольких страницах, связанных со Второй Мировой и Гитлером. Я неоднократно встречал (отклоненные) запросы отметить, что диктатор был еще и художником, и что якобы в Холокосте погибло гораздо меньше людей, чем на самом деле. Соответствующие страницы в Википедии «защищены», то есть их могут редактировать только определенные аккаунты. Там же есть подробные журналы с объяснением решения о защите. Будь система правок — да и сайт в целом — удобнее, уверен, я нашел бы больше примеров.

Такие страницы — очевидные цели для злоупотреблений, и неудивительно, что по ним бьют в первую очередь злонамеренные редакторы. На них дело не закончится, и при хаотичной системе правок Grokipedia и ограниченных «ограждениях» Grok скоро будет трудно отличить вандализм от обычных изменений. При нынешних темпах Grokipedia выглядит не устремленной к звездам, а готовой скатиться в болото едва читаемой дезинформации.