Правительство Франции принимает меры в отношении чат-бота искусственного интеллекта Grok, принадлежащего миллиардеру Илону Маску, после того как тот опубликовал на французском языке посты, ставящие под сомнение использование газовых камер в Освенциме, сообщили официальные лица.
Grok, разработанный компанией Маска xAI и интегрированный в его социальную платформу X, написал в широко распространённом посте на французском языке, что газовые камеры в лагере смерти Аушвиц-Биркенау якобы были предназначены «для дезинфекции с использованием Циклона Б против тифа», а не для массовых убийств — формулировка, долгое время ассоциирующаяся с отрицанием Холокоста.
Мемориал Аушвиц обратил внимание на эту дискуссию в X, отметив, что данный ответ искажает исторические факты и нарушает правила платформы.
В последующих публикациях в своём аккаунте X чат-бот признал, что его предыдущий ответ пользователю X был ошибочным, сообщил, что тот был удалён, и указал на исторические свидетельства того, что газовые камеры Освенцима с Циклоном Б использовались для убийства более миллиона человек. На эти публикации X никаких разъяснений не предоставил.
В ходе тестирования, проведённого Associated Press в пятницу, ответы на вопросы об Освенциме, которые давал Grok, содержали достоверную с исторической точки зрения информацию.
У Grok уже есть история публикаций с антисемитскими комментариями. Ранее в этом году компания Маска удалила посты чат-бота, в которых прослеживалось восхваление Адольфа Гитлера, после поступивших жалоб на антисемитский контент.
Парижская прокуратура подтвердила Associated Press в пятницу, что высказывания, отрицающие Холокост, добавлены к уже существующему расследованию по киберпреступлениям, связанному с X. Это дело было открыто ранее в этом году после того, как французские власти выразили обеспокоенность тем, что алгоритмы платформы могут использоваться для внешнего вмешательства.
В прокуратуре уточнили: высказывания Grok теперь стали частью расследования и будет изучаться «функционирование искусственного интеллекта».
Во Франции действует один из самых строгих в Европе законов против отрицания Холокоста. Оспаривание реальности нацистских преступлений или их геноцидального характера может квалифицироваться как преступление наряду с другими формами подстрекательства к расовой ненависти.
Ряд французских министров, в том числе министр промышленности Ролан Лескюр, пожаловались на посты Grok в прокуратуру Парижа согласно закону, который обязывает должностных лиц сообщать о возможных преступлениях. В заявлении правительства генерируемый ИИ контент был назван «явно незаконным», отметив, что он может приравниваться к расистской клевете и отрицанию преступлений против человечности.
Французские власти направили данные публикации на национальную платформу по незаконному онлайн-контенту и уведомили цифрового регулятора Франции о предполагаемых нарушениях закона ЕС о цифровых услугах (Digital Services Act).
Этот инцидент усиливает давление со стороны Брюсселя. На этой неделе Европейская комиссия, исполнительный орган ЕС, сообщила, что находится в контакте с X по поводу Grok и назвала некоторые ответы чат-бота «ужасающими», отметив, что это противоречит основополагающим правам и ценностям Европы.
Две французские правозащитные организации, Лига прав человека (Ligue des droits de l’Homme) и SOS Racisme, подали уголовную жалобу, обвиняя Grok и X в отрицании преступлений против человечности.
X и его подразделение искусственного интеллекта xAI не ответили на просьбы о комментариях.
Источник: AP
Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter. Можете написать лучше? Мы всегда рады новым авторам.
Случай с чат-ботом Grok подчёркивает двойственность технологий ИИ: с одной стороны, их огромный потенциал для улучшения жизни людей, с другой — риски, связанные с этическими и культурными аспектами их применения. Обвинения в антисемитизме служат напоминанием о том, что развитие ИИ должно идти рука об руку с разработкой строгих этических норм и механизмов контроля. Только так можно обеспечить безопасное и уважительное использование технологий в многонациональном и мультикультурном обществе.
Этот случай также показывает, насколько важно учитывать культурные и исторические контексты при разработке и внедрении ИИ-решений. Без должного внимания к этим аспектам технологии могут стать источником конфликтов и недопонимания.