OpenAI оценивает, что ChatGPT отклонил более 250,000 запросов на создание изображений кандидатов в президенты США 2024 года в преддверии дня выборов, как сообщила компания в своем блоге в пятницу.
Среди отклоненных запросов на генерацию изображений были избранный президент Дональд Трамп, вице-президент Камала Харрис, президент Джо Байден, губернатор Миннесоты Тим Уолц и избранный вице-президент Джей Ди Вэнс, сообщает OpenAI.
Рост генеративного искусственного интеллекта вызвал обеспокоенность по поводу того, как дезинформация, созданная с использованием этой технологии, может повлиять на многочисленные выборы, которые пройдут по всему миру в 2024 году.
Согласно данным компании Clarity, занимающейся машинным обучением, количество дипфейков увеличилось на 900% за год. Некоторые из них включали видео, стремящимися дестабилизировать выборы в США, говорят представители американской разведки.
В своем 54-страничном отчете за октябрь OpenAI сообщила о том, что сорвала “более 20 операций и многочисленных обманных сетей со всего мира, пытавшихся использовать наши модели”. Угрозы варьировались от статей на сайтах, созданных с использованием ИИ, до публикаций в социальных сетях фальшивыми аккаунтами, пишет компания. Ни одной из операций, связанных с выборами, не удалось добиться “вирусного распространения”, отмечается в отчете.
В своем блоге в пятницу OpenAI заявила, что не обнаружила никаких доказательств того, что скрытые операции, нацеленные на влияние на результаты выборов в США с использованием продуктов компании, смогли успешно стать вирусными или создать “устойчивую аудиторию”.
Законодатели особенно обеспокоены дезинформацией в эпоху генеративного ИИ, который получил широкое распространение в конце 2022 года с запуском ChatGPT. Большие языковые модели все еще являются новыми и часто выдают неточную и ненадежную информацию.
“Избиратели категорически не должны обращаться к ИИ-чатботам за информацией о голосовании или выборах — слишком много вопросов вызывает их точность и полнота”, сказала Александра Рив Гивенс, генеральный директор Центра демократии и технологий, в интервью CNBC на прошлой неделе.
Источник: NBC News
