ChatGPT «сошел с ума» и начал разговаривать имитированным голосом пользователя

Компания OpenAI опубликовала отчет, в котором подробно описаны «ключевые области риска» последней версии крупной языковой модели GPT-4o и способы избежать их.

В одном случае специалисты OpenAI обнаружили, что расширенный голосовой режим модели, позволяющий общаться с ChatGPT, начал неожиданно разговаривать имитированным голосом самого пользователя. В какой-то момент ChatGPT посреди ответа на запрос человека внезапно закричал «Нет!», а потом начал говорить сгенерированным голосом.

Специалисты OpenAI объяснили, что это произошло из-за того, что шум в вводимых пользователем данных сбил модель с толку и заменил авторизованный образец голоса в системной подсказке на звуковой ввод от человека.

Компания также отметила,что риск непреднамеренного копирования голоса остается «минимальным». OpenAI уже заблокировала такую функцию.

Источник: Naked Science

AI News

Статьи и новости о нейросетях и искусственном интеллекте, просто и понятно о сложных технологиях. Освещает современные тенденции, объясняет, как работают ИИ-системы, и показывает, каким образом нейросети меняют различные сферы жизни. Регулярно собирает подборки и топы полезных нейросетей, тщательно отбирая актуальные инструменты и сервисы, которые могут существенно упростить рабочие и повседневные задачи. В своих подборках делится описаниями возможностей каждой нейросети, а также рекомендациями по их применению, чтобы помочь читателям быстро разобраться в новых технологиях и использовать их с максимальной пользой.

Социальные сети автора: