Молли Келли была потрясена, когда в июне узнала, что кто-то из её знакомых использовал широко доступную технологию «обнажения» для создания очень реалистичных и откровенных видео и изображений с ней, используя семейные фотографии, которые были опубликованы в социальных сетях.
«Мой первоначальный шок сменился ужасом, когда я узнала, что этот же человек сделал то же самое примерно с 80-85 женщинами, большинство из которых живут в Миннесоте, некоторых из них я знаю лично, и все они так или иначе были связаны с преступником», — сказала Келли.
Опираясь на её показания, Миннесота рассматривает новую стратегию борьбы с порнографией с использованием дипфейков. Законопроект, получивший поддержку обеих партий, будет направлен против компаний, которые управляют веб-сайтами и приложениями, позволяющими людям загружать фотографии, которые затем превращаются в откровенные изображения или видео.
Штаты по всей стране и Конгресс рассматривают стратегии регулирования искусственного интеллекта. Большинство из них запретили распространение фейков откровенного характера или порнографии мести, независимо от того, были ли они созданы с помощью искусственного интеллекта или нет. Идея, лежащая в основе законодательства штата Миннесота, заключается в том, чтобы предотвратить создание материала до того, как он распространится в Интернете.
Эксперты в области законодательства об искусственном интеллекте предупреждают, что это предложение может быть неконституционным по причине нарушения свободы слова.
Почему адвокаты говорят, что законопроект необходим
Ведущий автор законопроекта, сенатор-демократ Эрин Мэй Куэйд, заявила, что дополнительные ограничения необходимы, поскольку технологии искусственного интеллекта развиваются очень быстро. Согласно её законопроекту, операторы сайтов и приложений с «нудификацией» должны будут отключать их для жителей Миннесоты, иначе им грозит штраф в размере до 500 000 долларов «за каждый незаконный доступ, загрузку или использование». Разработчикам нужно будет придумать, как отключать эту функцию для пользователей из Миннесоты.
По её словам, жертвам вредит не только распространение этих изображений. Вредно само их существование.
В прошлом месяце Келли заявила журналистам, что любой может быстро создать «гиперреалистичные изображения обнажённой натуры или порнографическое видео» за считаные минуты.
До сих пор основное внимание правоохранительных органов было сосредоточено на распространении и хранении наркотиков.
Конгресс, штаты и города также пробуют другую тактику
В августе Сан-Франциско подал первый в своём роде иск против нескольких популярных сайтов с «обнажёнкой», утверждая, что они нарушают законы штата о мошеннических методах ведения бизнеса, порнографии без согласия и сексуальном насилии над детьми. Это дело всё ещё находится на рассмотрении.
В прошлом месяце Сенат США единогласно одобрил законопроект, предложенный демократом Эми Клобушар из Миннесоты и республиканцем Тедом Крузом из Техаса, согласно которому публикация сексуальных изображений без согласия жертвы станет федеральным преступлением, в том числе дипфейков, созданных искусственным интеллектом. Платформы социальных сетей должны будут удалять их в течение 48 часов после уведомления жертвы. Мелания Трамп в понедельник во время своего первого сольного выступления после возвращения на пост первой леди призвала Палату представителей, контролируемую республиканцами, принять законопроект, рассмотрение которого ещё не началось.
В прошлом месяце Палата представителей Канзаса одобрила законопроект, расширяющий определение незаконной сексуальной эксплуатации детей и включающий в него хранение изображений, созданных с помощью ИИ, если они «неотличимы от изображений реальных детей, созданы на основе изображений реальных детей или сгенерированы без участия реальных детей».
Законопроект, внесённый в законодательное собрание Флориды, предусматривает новое уголовное преступление для людей, использующих такие технологии, как искусственный интеллект, для создания изображений обнажённых людей, и криминализирует хранение изображений сексуального насилия над детьми, созданных с помощью этих технологий. Аналогичные законопроекты также были внесены в штатах Иллинойс, Монтана, Нью-Джерси, Нью-Йорк, Северная Дакота, Орегон, Род-Айленд, Южная Каролина и Техас, согласно анализу Associated Press, проведённому с помощью программного обеспечения для отслеживания законопроектов Plural.
Мэй Куэйд сказала, что поделится своим предложением с законодателями в других штатах, потому что мало кто знает, что эта технология так легкодоступна.
«Если мы не сможем заставить Конгресс действовать, то, возможно, мы сможем убедить как можно больше штатов принять меры», — сказала Мэй Куэйд.
Жертвы рассказывают свои истории
Сэнди Джонсон, старший советник по законодательной политике организации RAINN, выступающей за права жертв изнасилований, жестокого обращения и инцеста, сказала, что законопроект Миннесоты позволит привлекать к ответственности владельцев сайтов.
«Как только изображения будут созданы, их можно будет опубликовать анонимно или быстро распространить, и их будет практически невозможно удалить», — заявила она недавно.
Меган Хёрли также пришла в ужас, узнав, что кто-то создал откровенные изображения и видео с ней, используя сайт для «обнажения». Она сказала, что чувствует себя особенно униженной, потому что она массажистка, а эта профессия в некоторых умах уже ассоциируется с сексом.
«Одному человеку очень легко с помощью телефона или компьютера создать убедительные, синтетические, интимные изображения вас, вашей семьи, ваших друзей, ваших детей, ваших внуков, — сказал Хёрли. — Я не понимаю, почему существует эта технология, и мне отвратительно, что есть компании, которые зарабатывают таким образом».
Эксперты по искусственному интеллекту призывают к осторожности
Однако два эксперта в области законодательства об искусственном интеллекте — Уэйн Унгер из юридического факультета Университета Куиннипиак и Риана Пфефферкорн из Института искусственного интеллекта, ориентированного на человека, Стэнфордского университета — заявили, что законопроект Миннесоты сформулирован слишком широко, чтобы выдержать судебную проверку.
По словам Пфефферкорн, если ограничить сферу применения только изображениями реальных детей, это поможет избежать проблем с Первой поправкой, поскольку такие изображения, как правило, не защищены. Но она сказала, что это всё равно потенциально противоречит федеральному закону, согласно которому нельзя подавать в суд на веб-сайты за контент, созданный пользователями.
«Если Миннесота захочет пойти по этому пути, им нужно будет внести в законопроект гораздо больше ясности, — сказал Унгер. — И им нужно будет уточнить, что они подразумевают под нудизмом и нудификацией».
Но Мэй Куэйд сказала, что, по её мнению, её закон имеет прочную конституционную основу, потому что он регулирует поведение, а не речь.
«Так больше продолжаться не может, — сказала она. — Эти технологические компании не могут продолжать внедрять эти технологии в мире без последствий. Они вредны по своей сути».
Источник: AP
Этот шаг может значительно повлиять на развитие технологий ИИ в сфере генерации изображений. Интересно, как это скажется на индустрии и будет ли введён аналогичный запрет в других штатах?