Индия потребовала от социальной платформы Илона Маска X немедленно внести технические и процедурные изменения в её ИИ-чат-бот Grok после того, как пользователи и законодатели сообщили о генерации «непристойного» контента, включая созданные с помощью инструмента ИИ-изменённые изображения женщин.
В пятницу министерство информационных технологий Индии издало приказ, обязывающий X принять меры по устранению нарушений в работе Grok, в том числе ограничить генерацию контента, связанного с «наготой, откровенными или иным образом незаконными» материалами. Министерство также предоставило социальной платформе 72 часа на предоставление отчёта о предпринятых мерах, подробно описывающего шаги по предотвращению размещения или распространения контента, признанного «непристойным, вульгарным, неприличным, откровенным, или иным образом запрещённым законом».
В приказе отмечается, что невыполнение требований может поставить под угрозу статус X как «безопасной гавани» — юридического иммунитета от ответственности за пользовательский контент в соответствии с индийским законодательством.
Действия Индии последовали за обеспокоенностью пользователей, которые приводили примеры того, как Grok, под воздействием соответствующих запросов, изменял изображения людей — преимущественно женщин — так, чтобы они выглядели так, будто одеты в бикини. Это привело к официальной жалобе со стороны депутата парламента Индии Приянки Чатурведи. Кроме того, в последних отчётах отмечались случаи, когда чат-бот генерировал неприличные изображения с участием несовершеннолетних, и X в пятницу признала, что это стало возможным из-за недостаточных мер безопасности. Позднее эти изображения были удалены.
Последний приказ был издан спустя несколько дней после того, как министерство информационных технологий Индии выпустило в прошлый понедельник более широкое предписание для социальных платформ, в котором напомнило им, что соблюдение местного законодательства в части контроля за непристойным и откровенным контентом является необходимым условием для сохранения юридического иммунитета от ответственности за пользовательские материалы. В рекомендациях компаниям предлагается усилить внутренние меры безопасности и предупреждается, что в случае несоблюдения им может грозить ответственность по закону об информационных технологиях и уголовному кодексу Индии.
«Повторно напоминаем, что несоблюдение вышеуказанных требований будет рассматриваться очень серьёзно и может повлечь за собой жёсткие юридические последствия как для вашей платформы и её ответственных сотрудников, так и для пользователей, нарушающих закон, без дополнительного уведомления», — говорится в приказе.
Индийское правительство заявило, что несоблюдение требований может привести к принятию мер против X в рамках закона об информационных технологиях и уголовного законодательства страны.
Индия, являющаяся одним из крупнейших цифровых рынков мира, становится ключевым испытанием того, насколько далеко готовы зайти правительства, чтобы возложить ответственность на платформы за контент, созданный с помощью ИИ. Любое ужесточение регулирования в стране может иметь серьёзные последствия для глобальных технологических компаний, работающих одновременно в разных юрисдикциях.
Приказ был издан на фоне продолжающегося судебного оспаривания X отдельных аспектов индийских правил регулирования контента. Платформа утверждает, что полномочия федерального правительства по блокировке контента могут привести к злоупотреблениям, несмотря на то что X в большинстве случаев выполняет указания о блокировке. В то же время Grok всё чаще используется пользователями X для проверки фактов в режиме реального времени и комментирования новостных событий, что делает его выходы более заметными — и политически чувствительными — по сравнению с независимыми ИИ-инструментами.
Источник: TechCrunch
Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter. Можете написать лучше? Мы всегда рады новым авторам.
Статьи и новости о нейросетях и искусственном интеллекте, просто и понятно о сложных технологиях. Освещает современные тенденции, объясняет, как работают ИИ-системы, и показывает, каким образом нейросети меняют различные сферы жизни. Регулярно собирает подборки и топы полезных нейросетей, тщательно отбирая актуальные инструменты и сервисы, которые могут существенно упростить рабочие и повседневные задачи. В своих подборках делится описаниями возможностей каждой нейросети, а также рекомендациями по их применению, чтобы помочь читателям быстро разобраться в новых технологиях и использовать их с максимальной пользой.
Социальные сети автора:
Требование Индии к компании X внести изменения в чат-бот Grok отражает глобальный тренд на ужесточение регулирования цифрового пространства. Для технологических компаний это служит напоминанием о том, что успех на международных рынках требует глубокого понимания местных законов и культурных ценностей. В то же время ситуация поднимает вопрос о балансе между свободой информации и необходимостью защиты общественных моральных устоев. Поиск этого баланса — сложная задача, которая требует диалога между государством, технологическими компаниями и обществом. В конечном счёте, реакция компании X на требования Индии будет иметь значение не только для судьбы чат-бота Grok, но и для всей индустрии искусственного интеллекта в контексте международного регулирования контента.
Не совсем понятно, что именно возмутило Индию. Просто нагота или то, что реальные люди изображаются полуголыми против их согласия? Если последнее, то это понятно — нельзя публиковать компрометирующие снимки людей без их согласия. Но если дело просто в «бикини», то это странно — не ожидал от страны, где стоит храм любви, такого ханжества.
Это вызывает серьезные вопросы о контроле и модерации искусственного интеллекта. Разве можно доверять алгоритмам, которые могут принимать решения, влияющие на нашу жизнь? Как обеспечить прозрачность и ответственность в использовании ИИ? И кто будет нести ответственность за ошибки и злоупотребления?