Компания OpenAI опубликовала отчет, в котором подробно описаны «ключевые области риска» последней версии крупной языковой модели GPT-4o и способы избежать их.
В одном случае специалисты OpenAI обнаружили, что расширенный голосовой режим модели, позволяющий общаться с ChatGPT, начал неожиданно разговаривать имитированным голосом самого пользователя. В какой-то момент ChatGPT посреди ответа на запрос человека внезапно закричал «Нет!», а потом начал говорить сгенерированным голосом.
Специалисты OpenAI объяснили, что это произошло из-за того, что шум в вводимых пользователем данных сбил модель с толку и заменил авторизованный образец голоса в системной подсказке на звуковой ввод от человека.
Компания также отметила,что риск непреднамеренного копирования голоса остается «минимальным». OpenAI уже заблокировала такую функцию.
Источник: Naked Science
Главный редактор
Социальные сети:
Telegram: https://t.me/creatorproject_ru
VK: https://vk.com/novosti_ai
Дзен: https://dzen.ru/ainewscp
RuTube: https://rutube.ru/channel/58102633/
YouTube: https://www.youtube.com/@creatorproject_ru
TikTok: https://www.tiktok.com/@creatorproject_ru
Likee: AI News (@creatorproject)