Калифорнийская Ассамблея одобрила «Закон о безопасных и надежных инновациях для передовых моделей искусственного интеллекта» (SB 1047).
Этот законопроект, вызвавший оживленные дебаты в Кремниевой долине и за её пределами, нацелен на внедрение ряда мер предосторожности для компаний, занимающихся ИИ в Калифорнии. Эти меры должны быть осуществлены до начала обучения передовых фундаментальных моделей.
Ключевые требования законопроекта включают:
- Внедрение механизмов для быстрого и полного отключения моделей
- Защита моделей от «небезопасных изменений после обучения»
- Установление процедур тестирования для оценки потенциальных рисков, которые модели или их производные могут привести к «критическому ущербу»
Сенатор Скотт Винер, основной автор SB 1047, заявил: «Мы усердно работали весь год вместе с сторонниками открытого кода, Anthropic и другими, чтобы доработать и улучшить законопроект. SB 1047 хорошо настроен для того, что мы знаем о предсказуемых рисках ИИ, и он заслуживает введения в действие».
SB 1047 — наш законопроект о безопасности ИИ — только что принят на заседании Ассамблеи. Я горжусь разнообразной коалицией, стоящей за этим законопроектом, коалицией, которая глубоко верит в инновации и безопасность.
ИИ имеет так много надежд сделать мир лучше. Это впечатляюще.
Спасибо, коллеги.
— Сенатор Скотт Винер (@Scott_Wiener) 28 августа 2024 года
Сенатор подчеркнул, что законопроект просто просит крупные лаборатории ИИ следовать своим существующим обязательствам по тестированию своих обширных моделей на катастрофические риски безопасности.
Тем не менее, предложенное законодательство столкнулось с оппозицией из различных кругов, включая компании OpenAI и Anthropic, политиков Зои Лофгрен и Нэнси Пелоси, а также Торговую палату Калифорнии. Критики утверждают, что законопроект чрезмерно фокусируется на катастрофических убытках и может непропорционально повлиять на небольших разработчиков открытого кода ИИ.
В ответ на эти опасения в первоначальный законопроект были внесены несколько поправок. Эти изменения включают:
- Замена потенциальных уголовных наказаний на гражданские
- Ограничение полномочий для генерального прокурора Калифорнии
- Изменение требований для участия в «Совете Передовых Моделей», созданного законопроектом
Следующий шаг для SB 1047 — голосование в Сенате штата, где ожидается его принятие. Если это произойдет, законопроект будет передан губернатору Гэвину Ньюсому, у которого будет время до конца сентября, чтобы принять решение о его введении в действие.
SB 1047 прошел голосование в Ассамблее при поддержке обеих партий. Нам нужно это регулирование, чтобы дать информаторам защиту, необходимую для обнародования критических угроз общественной безопасности. Губернатор @GavinNewsom, вы должны подписать SB 1047 в закон.
— Лессиг (@lessig) 28 августа 2024 года
Как одно из первых значительных регулирований ИИ в США, принятие SB 1047 может служить прецедентом для будущего законодательства. Исход этого законопроекта может иметь далеко идущие последствия для индустрии ИИ, потенциально влияя на разработку и развертывание передовых моделей ИИ не только в Калифорнии, но и по всей стране и за её пределами.
Источник: Artificial Intelligence News