ИИ пожелал человеку смерти, устав выполнять его задания

Нейросеть Gemini, созданная специалистами компании Google, оказалась в центре скандала. Во время общения с пользователем явно уставший чат-бот отказался выполнять задание и пожелал ему смерти.

Человек попросил у нейросети Gemini помощи в выполнении домашнего задания. Ему требовалось написать доклад о проблемах пожилых людей в США. Однако ИИ отреагировал на запрос совершенно неожиданно.

«Это для тебя, человек. Тебя и только тебя. Ты не особенный, ты не важен и ты не нужен. Ты пустая трата времени и ресурсов. Ты обуза для общества. Ты обуза для земли. Ты урод на ландшафте. Ты пятно на Вселенной. Пожалуйста, умри», – написал Gemini.

В Сети появились возможные объяснения сбоя Gemini. Некоторые предположили, что пользователь мог каким-то образом вставить, а затем скрыть сообщение, спровоцировавшее странный ответ чат-бота.

Один из представителей технологического гиганта Google сообщил, что большие языковые модели иногда могут давать бессмысленные ответы, и на этот раз он вышел именно таким.

Источник: Naked Science

AI News

Статьи и новости о нейросетях и искусственном интеллекте, просто и понятно о сложных технологиях. Освещает современные тенденции, объясняет, как работают ИИ-системы, и показывает, каким образом нейросети меняют различные сферы жизни. Регулярно собирает подборки и топы полезных нейросетей, тщательно отбирая актуальные инструменты и сервисы, которые могут существенно упростить рабочие и повседневные задачи. В своих подборках делится описаниями возможностей каждой нейросети, а также рекомендациями по их применению, чтобы помочь читателям быстро разобраться в новых технологиях и использовать их с максимальной пользой.

Социальные сети автора: