Чат-бот Grok во Франции обвинён в распространении антисемитских идей

Правительство Франции принимает меры в отношении чат-бота искусственного интеллекта Grok, принадлежащего миллиардеру Илону Маску, после того как тот опубликовал на французском языке посты, ставящие под сомнение использование газовых камер в Освенциме, сообщили официальные лица.

Grok, разработанный компанией Маска xAI и интегрированный в его социальную платформу X, написал в широко распространённом посте на французском языке, что газовые камеры в лагере смерти Аушвиц-Биркенау якобы были предназначены «для дезинфекции с использованием Циклона Б против тифа», а не для массовых убийств — формулировка, долгое время ассоциирующаяся с отрицанием Холокоста.

Мемориал Аушвиц обратил внимание на эту дискуссию в X, отметив, что данный ответ искажает исторические факты и нарушает правила платформы.

В последующих публикациях в своём аккаунте X чат-бот признал, что его предыдущий ответ пользователю X был ошибочным, сообщил, что тот был удалён, и указал на исторические свидетельства того, что газовые камеры Освенцима с Циклоном Б использовались для убийства более миллиона человек. На эти публикации X никаких разъяснений не предоставил.

В ходе тестирования, проведённого Associated Press в пятницу, ответы на вопросы об Освенциме, которые давал Grok, содержали достоверную с исторической точки зрения информацию.

У Grok уже есть история публикаций с антисемитскими комментариями. Ранее в этом году компания Маска удалила посты чат-бота, в которых прослеживалось восхваление Адольфа Гитлера, после поступивших жалоб на антисемитский контент.

Парижская прокуратура подтвердила Associated Press в пятницу, что высказывания, отрицающие Холокост, добавлены к уже существующему расследованию по киберпреступлениям, связанному с X. Это дело было открыто ранее в этом году после того, как французские власти выразили обеспокоенность тем, что алгоритмы платформы могут использоваться для внешнего вмешательства.

В прокуратуре уточнили: высказывания Grok теперь стали частью расследования и будет изучаться «функционирование искусственного интеллекта».

Во Франции действует один из самых строгих в Европе законов против отрицания Холокоста. Оспаривание реальности нацистских преступлений или их геноцидального характера может квалифицироваться как преступление наряду с другими формами подстрекательства к расовой ненависти.

Ряд французских министров, в том числе министр промышленности Ролан Лескюр, пожаловались на посты Grok в прокуратуру Парижа согласно закону, который обязывает должностных лиц сообщать о возможных преступлениях. В заявлении правительства генерируемый ИИ контент был назван «явно незаконным», отметив, что он может приравниваться к расистской клевете и отрицанию преступлений против человечности.

Французские власти направили данные публикации на национальную платформу по незаконному онлайн-контенту и уведомили цифрового регулятора Франции о предполагаемых нарушениях закона ЕС о цифровых услугах (Digital Services Act).

Этот инцидент усиливает давление со стороны Брюсселя. На этой неделе Европейская комиссия, исполнительный орган ЕС, сообщила, что находится в контакте с X по поводу Grok и назвала некоторые ответы чат-бота «ужасающими», отметив, что это противоречит основополагающим правам и ценностям Европы.

Две французские правозащитные организации, Лига прав человека (Ligue des droits de l’Homme) и SOS Racisme, подали уголовную жалобу, обвиняя Grok и X в отрицании преступлений против человечности.

X и его подразделение искусственного интеллекта xAI не ответили на просьбы о комментариях.