Законодатели штата Нью-Йорк приняли законопроект, направленный на недопущение передовыми моделями искусственного интеллекта от OpenAI, Google и Anthropic способствованию возникновения катастрофических ситуаций, включая гибель или травмирование более 100 человек или ущерб на сумму более 1 миллиарда долларов.
Принятие закона RAISE — это победа движения за безопасность ИИ, которое утратило свои позиции в последние годы, поскольку Кремниевая долина и администрация Трампа сделали приоритетом скорость и инновации. Сторонники безопасности, в том числе лауреат Нобелевской премии Джеффри Хинтон и пионер в области исследований ИИ Йошуа Бенжио, выступили в поддержку закона RAISE. Если он станет законом, то установит первый в Америке набор обязательных стандартов прозрачности для передовых лабораторий ИИ.
Закон RAISE содержит некоторые из тех же положений и целей, что и спорный законопроект SB 1047 о безопасности ИИ в Калифорнии, который в конечном итоге был ветирован. Однако соавтор законопроекта, сенатор от штата Нью-Йорк Эндрю Гунардес, в интервью TechCrunch сказал, что он намеренно разработал закон RAISE таким образом, чтобы он не препятствовал инновациям среди стартапов или академических исследователей — распространённая критика SB 1047.
«Время для принятия мер предосторожности стремительно сокращается, учитывая, как быстро развивается эта технология, — сказал сенатор Гунардес. — Люди, которые лучше всех разбираются в [ИИ], говорят, что эти риски невероятно вероятны […] Это тревожно».
Закон RAISE теперь направляется на рассмотрение губернатору Нью-Йорка Кэти Хокул, которая может либо подписать законопроект, либо отправить его на доработку, либо наложить на него вето.
Если законопроект о безопасности ИИ в Нью-Йорке будет принят, крупнейшие в мире лаборатории по разработке ИИ должны будут публиковать подробные отчёты о безопасности своих передовых моделей ИИ. Законопроект также требует, чтобы лаборатории по разработке ИИ сообщали о случаях, связанных с безопасностью, например, о поведении модели ИИ или о злоумышленниках, укравших модель ИИ, если таковые произойдут. Если технологические компании не будут соответствовать этим стандартам, закон RAISE уполномочивает генерального прокурора Нью-Йорка налагать гражданские штрафы в размере до 30 миллионов долларов.
Закон RAISE направлен на строгое регулирование деятельности крупнейших мировых компаний, независимо от того, базируются ли они в Калифорнии (например, OpenAI и Google) или в Китае (например, DeepSeek и Alibaba). Требования к прозрачности, предусмотренные законопроектом, распространяются на компании, чьи модели ИИ были обучены с использованием вычислительных ресурсов стоимостью более 100 миллионов долларов (по-видимому, больше, чем у любой доступной сегодня модели ИИ) и предоставляются жителям Нью-Йорка.
По словам Натана Кэлвина, вице-президента по государственным вопросам и главного юрисконсульта Encode, который работал над этим законопроектом и SB 1047, RAISE Act в некоторой степени похож на SB 1047, но был разработан с учётом критики предыдущих законопроектов о безопасности ИИ. Примечательно, что RAISE Act не требует от разработчиков моделей ИИ включать в свои модели «аварийный выключатель» и не возлагает на компании, которые обучают пограничные модели ИИ, ответственность за критический вред.
Тем не менее, Кремниевая долина значительно смягчила позицию по законопроекту о безопасности ИИ в Нью-Йорке, сообщил TechCrunch член Ассамблеи штата Нью-Йорк и соавтор законопроекта RAISE Алекс Борес. Борес назвал сопротивление отрасли неудивительным, но заявил, что законопроект RAISE никоим образом не ограничит инновации технологических компаний.
«Закон NY RAISE — это ещё один глупый, очень глупый законопроект об искусственном интеллекте на уровне штата, который навредит США в то время, когда наши противники вырываются вперёд», — заявил генеральный партнёр Andreessen Horowitz Энджи Мидха в пятничном посте на X. Andreessen Horowitz и стартап-инкубатор Y Combinator были одними из самых яростных противников SB 1047.
Anthropic, лаборатория искусственного интеллекта, ориентированная на безопасность, которая ранее в этом месяце для компаний, занимающихся искусственным интеллектом, не достигла официальной позиции по законопроекту, сообщил соучредитель Джек Кларк в пятничном посте на X. Однако Кларк выразил некоторое недовольство по поводу того, насколько широк Закон о ПОВЫШЕНИИ ЗАРАБОТНОЙ платы, отметив, что это может представлять риск для “небольших компаний”.
Когда TechCrunch спросил сенатора штата Гунардеса о критике в адрес Anthropic, он ответил, что, по его мнению, критика «не по адресу», отметив, что он разработал законопроект, не распространяющийся на малые компании.
Ещё одна распространённая критика в адрес Закона о повышении эффективности заключается в том, что разработчики моделей ИИ просто не будут предлагать свои самые продвинутые модели в штате Нью-Йорк. Аналогичная критика звучала в адрес SB 1047, и в значительной степени это произошло в Европе из-за жёстких правил в отношении технологий на континенте.
Член Ассамблеи Борес сказал TechCrunch, что нормативное бремя, связанное с законом RAISE, относительно невелико и, следовательно, не должно заставлять технологические компании прекращать работу своих продуктов в Нью-Йорке. Учитывая тот факт, что Нью-Йорк занимает третье место по ВВП в США, уход из штата — это не то, к чему большинство компаний отнесутся легкомысленно.
«Я не хочу недооценивать политическую мелочность, которая может проявиться, но я абсолютно уверен, что у [компаний, занимающихся искусственным интеллектом] нет экономических причин не предоставлять свои модели в Нью-Йорке», — сказал член Ассамблеи Борес.
Источник: TechCrunch
Да, в последние годы в Нью-Йорке и других городах США активно обсуждаются и принимаются меры по регулированию технологий искусственного интеллекта (ИИ). Законы, касающиеся ИИ, обычно направлены на предотвращение потенциальных рисков, связанных с его использованием, включая вопросы безопасности, приватности и этики.
Этот закон может положительно сказаться на регулировании использования ИИ, снижая риск его неправильного применения, и создавая более строгие стандарты для разработчиков и компаний. Однако важным аспектом является также баланс между инновациями и безопасностью
Круто, что наконец-то начали думать на опережение! Такой закон — это как ремень безопасности для ИИ: может не пригодиться каждый день, но когда понадобится — спасёт жизни. Хорошо, что берутся за ответственность крупных разработчиков, ведь ставки уже слишком высоки. Надеюсь, это только начало умного регулирования, а не тормоз для прогресса.
Очень важная новость — законопроект в Нью‑Йорке явно отражает рост ответственности в сфере ИИ. Интересно, как они собираются технически контролировать «катастрофы»? И ещё — планируется ли включение подобных мер и в других штатах или это эксперимент только на уровне Нью‑Йорка?
Очередной распил бюджета на эфемерные цели. Просто хотят обложить доп. сборами с компаний разрабатывающих и обучающих ИИ, но это явно будет только приносить вред, т.к. компании уйдут туда где больше прибыли — закон бизнеса.
Закон предусматривает строгие меры по контролю и регулированию технологий ИИ, а также создание системы мониторинга и реагирования на потенциальные риски. Разве можно допустить, чтобы искусственный интеллект развивался без должного надзора? Что будет, если мы не обеспечим безопасность наших данных и систем? Как мы можем гарантировать, что технологии ИИ будут служить на благо человечества, а не против него?