Как ИИ меняет выборы по всему миру

ЧЕННАЙ, Индия — Всего 20 минут записи голоса и несколько фотографий лица человека — это все, что нужно Сентилу Найягааму, чтобы создать устрашающе правдоподобные фейковые агитационные ролики на любом языке.

Политические партии в Индии потратили по оценкам $16 миллиардов на самые крупные выборы в мире, которые завершились во вторник, когда премьер-министр Нарендра Моди объявил о победе, несмотря на ослабленный мандат.

В так называемых первых «выборах с искусственным интеллектом» в Индии значительные средства кампании были потрачены на наем таких специалистов, как Найягаам, генеральный директор стартапа Muonium AI из Ченнаи, для создания дипфейков, продвигающих или дискредитирующих кандидатов, которые распространялись по социальным сетям как лесной пожар.

Эти видео используют искусственный интеллект для создания правдоподобного, но ложного изображения реальных людей, говорящих или делающих практически все, что захотят создатели, от видео с Моди, танцующим под песню из Болливуда, до политика, умершего в 2018 году, который воскрес, чтобы поддержать своего друга на выборах.

Эксперты говорят, что то, что происходило в Индии в последние несколько недель, — это всего лишь превью хаоса, который может разрушить избирательные процессы в этом году, богатом важными выборами по всему миру, включая выборы в США в ноябре. Хотя дипфейки не являются новыми, достижения в технологиях ИИ означают, что теперь они могут быть произведены в беспрецедентном масштабе, с более высоким качеством и доступностью. «То, что вы видите сейчас, — это использование инструментов ИИ для того, чтобы заняться сотнями различных вопросов и создать множество различных сообщений вокруг этих конфликтов в большом масштабе», — сказал Джош Лоусон, директор по ИИ и демократии в Aspen Digital.

«Это просто размывает информационную среду», — сказал он.

Найягаам известен в основном своей работой по ИИ для Болливуда и телевизионной рекламы. Когда политические партии, которые он отказался назвать, обратились к нему за помощью в их агитации, он был открыт для сотрудничества — до определенного момента.

«Мы хотим избежать всего, что является неэтичным», — сказал он. «Я не хочу заниматься тем, что очень противоречиво».

Это включает, по его словам, требования изменить что-либо сказанное в парламенте и создать фальшивые телефонные разговоры. «Мы это категорически отказали», — сказал Найягаам.

Он также старается работать с менеджерами кампаний, а не с политиками напрямую, и даже тогда выбирает работать только с некоторыми. «Я предпочитаю сказать «нет», чем потом пожалеть об этом», — сказал он.

Беспокойство Найягаама связано с волной арестов из-за дипфейков политиков, как, например, министра внутренних дел Амита Шаха, главного помощника Моди. Во время выборов видеозапись речи Шаха была изменена, чтобы ложно изобразить его продвижение политических предложений, которые непопулярны среди меньшинств Индии.

Хотя Моди сам перепостил дипфейк с собой, танцующим, называя его «настоящим удовольствием», он заявил, что видео с Шахом было частью «заговора с целью создать напряженность в обществе».

В звуконепроницаемой комнате, где он записывает голоса своих клиентов, Найягаам показал репортерам NBC News дипфейк влиятельного политика Мутувела Карунаниди в его фирменном желтом шарфе и больших солнечных очках, который поздравляет своего друга Т.Р. Баалу с выходом его мемуаров в январе. Карунаниди умер в 2018 году. Баалу, 82-летний кандидат в парламент от индийского штата Тамилнад, где Карунаниди был главным министром, выиграл свои выборы во вторник.

Найягаам также записал голос репортера NBC News на 20 минут, попросив ее даже спеть для захвата различных фонем и тонов. Фотограф из его команды затем сделал снимки ее на фоне зеленого экрана. Аудио и фотографии использовались для создания «модели», которая затем использовалась для создания финального дипфейка.

Через несколько часов команда Найягаама создала видео, на котором репортер говорит свободно на итальянском и хинди, ее лицо преобразовали в лицо его дочери, и она выглядит, как будто говорит из Белого дома.

«Буквально вас клонировали», — сказал он. «Это как иметь семечко, которое можно посадить где угодно, и оно может вырасти в любое дерево или джунгли».

Задачи ИИ, которые раньше занимали дни, будут только ускоряться, сказал Найягаам: «В будущем мы перейдем к минутам и секундам».

Лоусон сказал, что существует риск того, что люди могут потерять представление о реальности. «Вместо того, чтобы голосовать, основываясь на фактах и проверяя свои знания, я буду голосовать, основываясь на своих чувствах и интуиции», — сказал он. Обеспокоенные законодатели США предприняли шаги для защиты демократического процесса от ИИ, при этом не менее 11 штатов запретили использование дипфейков для вмешательства в выборы.

Законодатели в Калифорнии, где находятся многие из крупнейших компаний по ИИ, рассматривают ряд законопроектов, связанных с ИИ, включая один, который запретит «материально вводящие в заблуждение» дипфейки, связанные с выборами, за 120 дней до голосования.

Законодатели выразили обеспокоенность по поводу ИИ-сгенерированных автоматических звонков, которые получили демократы из Нью-Гемпшира в январе, где имитированный голос президента Джо Байдена убеждал их не голосовать на первичных выборах штата. Официальные законопроекты, запрещающие использование ИИ для ложного изображения федеральных кандидатов, застопорились в Палате представителей и Сенате и вряд ли будут приняты до ноябрьских выборов.

Строгие правила необходимы для борьбы с дезинформацией, подкрепленной ИИ, во время выборов, сказал Раман Джит Сингх Чима, директор по политике в Азиатско-Тихоокеанском регионе в организации Access Now, американской некоммерческой организации, занимающейся цифровыми гражданскими правами.

Крупные техноплатформы, на которых в конечном итоге распространяется контент, также несут ответственность за его модерацию, отметил он.

«Нужны проактивные раскрытия и регулирующие меры в отношении политических кандидатов и партий», — сказал он.

В то время как неясно, в какой мере ИИ повлиял на восприятие избирателей или повлиял на результаты в Индии, США и другие страны могут извлечь уроки, которые могут оказаться решающими для защиты целостности собственных выборов, сказал Лоусон.

Сбор данных в ближайшие несколько месяцев о том, как технологии в конечном итоге повлияли на индийские выборы, может дать критически важные инсайты.

«Нам нужно сделать это прямо сейчас», — сказал он.