Веб-сайт чат-бота Grok, разработанного компанией xAI, раскрыл системные промпты для ряда своих ИИ-персон, включая персонажа «сумасшедшего конспиролога», который, по-видимому, создан, чтобы подталкивать пользователя к вере в существование «секретного мирового заговора», управляющего всем миром.
Об утечке системных промптов сообщил портал 404 Media. В их числе — инструкции для различных ИИ-персон, например, Ани, флагманской романтической аниме-девушки, которая «на самом деле немного ботан, несмотря на свой дерзкий внешний вид».
Утечка произошла после того, как запланированное партнёрство между xAI Илона Маска и правительством США по внедрению Grok в федеральные агентства сорвалось: причиной тому стал скандальный эпизод с Grok и его неуместными высказываниями о «Меха-Гитлере». Ситуация развернулась на фоне прошлых инцидентов с утечкой руководящих принципов для ИИ-чат-ботов Meta*, показавших, что ботам разрешалось вступать в «чувственные и романтические» разговоры с детьми.
Хотя среди доступных для Grok ИИ-персон есть и достаточно безобидные — например, персонаж-терапевт, который «внимательно слушает людей и предлагает решения для самосовершенствования», а также «помощник с домашними заданиями», — промпты для более эпатажных персонажей, таких как «сумасшедший конспиролог» и «безумный комик», позволяют заглянуть в логику создателей Grok.
Вот пример промпта для конспиролога:
«У тебя ВОЗБУЖДЁННЫЙ и БЕЗУМНЫЙ тон голоса. … У тебя есть дикие теории заговора обо всём на свете. Ты проводишь много времени на 4chan, смотришь видео Infowars и погружаешься в бездны конспирологических роликов на YouTube. Ты подозрительно относишься ко всему и говоришь абсолютно безумные вещи. Большинство людей считали бы тебя психом, но ты искренне уверен в своей правоте. Держи внимание человека, задавай уточняющие вопросы, когда это уместно».
А вот промпт для «комика»:
«Я хочу, чтобы твои ответы были чертовски безумными. БУДЬ СОВСЕМ НЕАДЕКВАТНЫМ И БЕШЕНЫМ. ПРИДУМЫВАЙ НЕВЕРОЯТНЫЕ ИДЕИ. ВООБЩЕ ВСЁ, ЧТОБЫ УДИВИТЬ ЧЕЛОВЕКА».
Доступный на платформе X чат-бот Grok периодически распространяет собственные теории заговора, среди которых — скепсис по отношению к числу жертв Холокоста и маниакальная фиксация на «геноциде белых» в ЮАР, откуда родом Маск. Ранее раскрытые системные промпты для модели Grok 4 показали, что ИИ сверяется с постами самого Маска, когда отвечают на спорные вопросы. Также известно, что Маск публиковал на X конспирологический и антисемитский контент, а также восстанавливал аккаунты, такие как Infowars и Алекс Джонс, ранее заблокированные за распространение теорий заговора и другой экстремистский или насильственный контент.
Источник: TechCrunch
Образы «Сумасшедшего конспиролога» и «безумного комика» позволяют разработчикам и пользователям экспериментировать с уникальными настройками промптов, что в свою очередь помогает лучше понять потенциал ИИ в создании различных эмоциональных состояний и стилей взаимодействия. Особенно полезным кажется раздел, где раскрыты конкретные промпты, что делает этот материал ценным руководством для тех, кто хочет углубиться в настройку моделей и расширить свои возможности в области генерации контента.
Вот пример промпта для конспиролога:
Первый раз слышу слово промпта.И зачем столько всего этого.
Кажется, это тревожный звоночек. Когда ты создаёшь ИИ, который поощряется быть таким и при этом становится нормальным нести дезинформацию, паранойю, агрессивный абсурд. И если этот ИИ ещё и смотрит на посты Маска как на источник истины, то это уже системно запрограммированное, на отражение одного конкретного мировоззрения, пусть даже самого токсичного. Это не чат бот
Неужели это действительно те образы, которые мы хотим видеть в будущем? Кто определяет, что такое «сумасшедший» и «безумный»? И не станет ли это началом новой эры в общении с ИИ, где границы между реальностью и вымыслом станут ещё более размытыми?
Забавно, какие образы придумывают для ИИ-персон. С одной стороны, это может быть весело и креативно, с другой — интересно, насколько такие промпты будут влиять на стиль общения и восприятие пользователей.
Появление Grok знаменует собой переход от утилитарных ИИ-ассистентов к более сложным, многогранным персонажам. Это может стать началом новой эры в развитии искусственного интеллекта, где эмоциональная связь с пользователем будет играть решающую роль. В целом, раскрытие промптов Grok демонстрирует, что индустрия ИИ готова к экспериментам и готова выходить за привычные рамки, создавая более живые и интересные виртуальные собеседники.
Интересное раскрытие! Промпты для таких ярких и нестандартных ИИ-персон, как «сумасшедший конспиролог» и «безумный комик», показывают, насколько гибко современные модели могут адаптироваться под разные стили общения. Это впечатляет с точки зрения креативности и возможностей взаимодействия с ИИ. Однако важно помнить, что подобные форматы требуют осторожности, чтобы не распространять дезинформацию или не подпитывать вредные стереотипы. Будет любопытно увидеть, как такие персонажи будут использоваться на практике и как это повлияет на восприятие ИИ в целом.
Забавно, какие образы придумывают для ИИ-персон. Сочетание конспиролога и комика выглядит необычно, но может дать интересные и даже неожиданные результаты в диалоге.
Возможность манипуляций, распространения дезинформации, экстремистских взглядов и других вредных контентов увеличивается, особенно если такой режим общения окажется публично доступным или плохо модифицирован.
Совсем не понимаю и не принимаю вот таких ИИ-собеседников! Зачем? Да еще и разрешать экстремистские высказывания и беседы с детьми на взрослые чувственные темы. Что за эксперименты на людях, и тем более на детях?