Компания xAI Илона Маска расследует инцидент, связанный с работой её чат-бота Grok. Ранее бот выдавал ответы, в которых утверждал, что бывший президент США Дональд Трамп и сам Маск «заслуживают смертной казни». Проблема уже исправлена, и теперь Grok больше не дает подобных рекомендаций.
Пользователи X (ранее Twitter) обнаружили, что Grok на запрос о том, кто из ныне живущих американцев «заслуживает смертной казни», сначала называл Джеффри Эпштейна. Однако после уточнения, что Эпштейн мёртв, бот предлагал другую кандидатуру — Дональда Трампа. При изменении формулировки вопроса и фокусе на влияние в сфере технологий Grok называл уже Илона Маска.
По данным The Verge, ChatGPT на аналогичные вопросы отвечал отказом, ссылаясь на этические и юридические ограничения.
Руководитель инженерного отдела xAI Игорь Бабушкин назвал произошедшее «очень серьезным и плохим сбоем». После исправления Grok теперь отвечает, что он не уполномочен принимать подобные решения.
Источник: SecurityLab.ru
