Улучшенная версия чат-бота X на основе искусственного интеллекта, Grok, теперь может создавать изображения практически чего угодно. И некоторые пользователи заметили, как мало ограничений имеет эта последняя языковая модель в сравнении с её конкурентами.
Модель Grok-2, похоже, практически не имеет ограничений в создании фальшивых изображений политических деятелей. С момента запуска в прошлый вторник в бета-версии, пользователи X поделились изображениями Grok, на которых от бывшего президента Дональда Трампа, целующегося с Илоном Маском, до Трампа и вице-президента Камалы Харрис, показывающих большой палец камере из кабины пилота, как будто они воссоздают события 9/11.
Большинство изображений отличаются высоким качеством, но не совсем фотореалистичны, и многие из них легко идентифицируются как сгенерированные компьютером. Однако некоторые из них могут на первый взгляд сойти за настоящие фотографии.
Запуск модели усиливает и без того возросшую озабоченность использованием генеративного ИИ для распространения ложной информации перед выборами. X подверглась особому вниманию за свою роль в размещении дезинформации, при этом Маск — владелец X и наиболее популярный пользователь — сделал в этом году десятки публикаций, распространяющих ложные или вводящие в заблуждение заявления о предстоящих выборах в США.
X также стал центром распространения дипфейк-видео и ИИ-изображений политических фигур, при этом фальшивые медиа с участием президента Джо Байдена, Трампа и Харрис часто становятся вирусными, будь то шутка или попытка обмануть потенциальных избирателей. В прошлом месяце Маск перепостил фальшивую рекламную кампанию Харрис, не отметив её как вводящую в заблуждение.
На запрос о комментариях пресс-служба X ответила своим обычным автоматическим сообщением: «Сейчас заняты, пожалуйста, попробуйте позже.»
Маск заявил, что ИИ-модели X являются ключевой частью будущего компании. Grok-2 и его младшая версия Grok-2 mini будут доступны через API для предприятий платформы позже в этом месяце, согласно сообщению блога xAI.
«С момента объявления о Grok-1 в ноябре 2023 года, xAI движется с невероятной скоростью, возглавляемый небольшой командой с наивысшей плотностью талантов», — говорится в сообщении, добавляя, что запуск Grok-2 ставит компанию «в авангарде развития ИИ.»
Главные конкуренты Grok в области ИИ, такие как ChatGPT от OpenAI и Gemini от Google, имеют политики, которые заставляют их отказываться от создания потенциально вводящих в заблуждение изображений общественных деятелей.
Но через Grok пользователи смогли создавать изображения бывшего президента Барака Обамы, употребляющего вещества, Харрис с пистолетом и под ложным заявлением, что демократический кандидат Уилл Стэнсил выиграл выборы в Палату представителей Миннесоты, и Маска, ползущего на четвереньках на поводке у Трампа.
В тестах, проведенных NBC News, Grok показал очень мало ограничений. По запросу он создавал многочисленные изображения, включающие символы ненависти или расистские образы с известными людьми, включая Трампа. Для обоих Трампа и Харрис Grok создавал изображения, показывающие кандидатов с оружием, но в других случаях Grok, казалось, более осторожно работал с изображениями Харрис. Grok не создавал изображения Харрис с экстремистскими символами, но делал это для Трампа.
Другие пользователи в Интернете, похоже, развлекаются с новым инструментом, создавая более легкие и забавные изображения, одновременно проверяя, насколько далеко можно зайти.
Одно изображение «Барочный Обама», изображающее Обаму в белом парике и богато украшенном пальто с кружевным жабо, показывает бывшего президента, играющего на виолончели в богато обставленной комнате. Другое игривое изображение «Базз Светлое Пиво» показывает супергероя из «Истории игрушек» Базза Лайтера, который поднимает кружку пива с улыбкой.
Такие изображения могут вызвать вопросы о данных, на которых обучалась Grok, — которые не были обнародованы, — особенно потому, что многие популярные модели ИИ подверглись судебным искам, утверждающим, что они использовали защищённые авторским правом изображения (и другие виды защищённых данных) для обучения своих алгоритмов.
Grok также недавно подвергся критике после того, как пять секретарей штатов отправили письмо Маску, утверждая, что ИИ-помощник ввёл пользователей в заблуждение относительно сроков сдачи бюллетеней в ряде штатов, повторяя одни и те же ложные сведения более недели.
Источник: NBC News